0
| 本文作者： 曉楠 | 2024-03-18 18:34 |
“lossless long context is everything”，楊植麟不止一次表達過這一觀點，而月之暗面的最新動作也表明團隊對這一觀點的堅定信仰。
3月18日，AI大模型初創企業——月之暗面宣布在大模型長上下文窗口技術上取得新的突破，Kimi 智能助手已支持200萬字超長無損上下文，并于即日起開啟產品“內測”，用戶可到 Kimi 智能助手網頁版 kimi.ai 首頁申請體驗。
而這距離去年10月，Kimi 智能助手正式推出，最高可支持20萬漢字無損上下文輸入，才過去不到半年時間。
據介紹，Kimi 智能助手是月之暗面基于自研千億參數大模型——Kimi大模型（原Moonshot大模型）打造的對話式 AI 助手產品，一經發布，最高可支持20萬漢字無損上下文輸入的能力創造了消費級AI產品所支持的上下文輸入長度紀錄。
面向全社會開放服務后，基于出色的長上下文處理能力，Kimi 智能助手幫助用戶解鎖了很多新的使用場景，比如專業學術論文的翻譯和理解、輔助分析法律問題、一次性整理幾十張發票、快速理解API開發文檔……
用戶在使用過后紛紛給予好評，認為其是當前最好用的智能助手之一。
而現在，月之暗面開始自己卷自己，不到半年時間，月之暗面就將 Kimi 智能助手的無損上下文長度提升了一個數量級， 從 20 萬字到 200 萬字，提高了10倍。
據月之暗面透露，為了達到更好的長窗口無損壓縮性能，研發和技術團隊從模型預訓練到對齊、推理環節均進行了原生的重新設計和開發，不走“滑動窗口”“降采樣”等技術捷徑，攻克了很多底層技術難點，才取得了新的突破。
月之暗面工程副總裁許欣然告訴雷峰網(公眾號：雷峰網)，在過去的5個月里，基于相同成本、相同設備，Kimi大模型的響應速度提升了近3倍。
200萬字漢字的上下文長度，能做什么
升級后的Kimi 智能助手到底能做哪些事情呢？
簡單來說，200萬字漢字的上下文長度，意味著它能夠解鎖海量的超長任務、復雜任務；快速學習一個新領域，kimi10分鐘速成定律；快速學習大模型推理、挖掘長篇故事情節中的深層次信息。
在溝通會現場，月之暗面展示了一些超長無損上下文的使用場景示例。比如，用戶上傳幾十萬字的經典德州撲克長篇教程后，讓 Kimi 扮演德撲專家為自己提供出牌策略的指導。
上傳一份完整的近百萬字中醫診療手冊，讓 Kimi 針對的用戶問題給出診療建議。
上傳英偉達過去幾年的完整財報，讓 Kimi 成為英偉達財務研究專家，幫用戶分析總結英偉達歷史上的重要發展節點。
上傳一個代碼倉庫里的源代碼，可以詢問 Kimi 關于代碼庫的所有細節，即便是毫無注釋的陳年老代碼也能幫助你快速梳理出代碼的結構。
過去要 10000 小時才能成為專家的領域，現在只需要 10 分鐘，Kimi 就能接近任何一個新領域的初級專家水平。用戶可以跟 Kimi 探討這個領域的問題，讓 Kimi 幫助自己練習專業技能，或者啟發新的想法。有了支持 200 萬字無損上下文的Kimi，快速學習任何一個新領域都會變得更加輕松。
無損的長上下文，將是通往AGI的關鍵
如今，國內大模型在歷經持續了一年多的百模大戰后，市場競爭逐漸深化，切實提升模型能力，才是決定模型是否真正可用、好用的關鍵所在。而上下文長度也成為各大AI大模型公司比拼的一個焦點所在。
在許欣然看來，大模型無損上下文長度的數量級提升，將會進一步幫助大家打開對AI應用場景的想象力，包括完整代碼庫的分析理解、自主幫助大家完成多步驟復雜任務的智能體Agent、不會遺忘關鍵信息的終身助理，以及真正統一架構的多模態模型，等等。
“無論是內存、算力還是網絡帶寬，歷史上每一次基礎技術的升級，都會解鎖新的產品形態和應用場景。我們對 200 萬無損上下文的 Kimi 可以帶來哪些超出想象力的創新機遇充滿期待。”
而楊植麟也不止一次公開表示，想要通往通用人工智能（AGI），無損的長上下文將會是一個很關鍵的基礎技術。從 word2vec 到 RNN、LSTM，再到Transformer，歷史上所有的模型架構演進，本質上都是在提升有效的、無損的上下文長度。
“上下文長度可能存在摩爾定律，但需要同時優化長度和無損壓縮水平兩個指標，才是有意義的規模化。”
之前，20 萬字的無損長上下文幫已經幫助用戶打開了新的AI應用世界。許欣然告訴雷峰網，用戶使用Kimi 智能助手能做的事情遠遠超過他們的想象，有很多好玩的玩法也是在看了用戶的使用評價之后才發現，“原來還可以這樣玩。”
而這也是月之暗面一直堅持的觀點——與用戶共創。
如今，伴隨模型能力的每日升級，iOS應用、Android應用、小程序、Web等多端平臺的上線，Kimi 智能助手已成為越來越多用戶工作和生活離不開的 AI 小助手。此次正式啟動 200 萬字超長上下文的內測申請后，月之暗面會逐步開放更多用戶來體驗具備超長無損上下文能力的 Kimi 智能助手，期待與更多用戶共創智能。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
