“創(chuàng)新落地，生態(tài)共贏”，瀾舟科技提出大模型落地應(yīng)用“九字訣”

歷經(jīng)持續(xù)一年多的百模大戰(zhàn)后，市場(chǎng)競(jìng)爭(zhēng)逐漸深化，如何更快、更好地推進(jìn)大模型的落地應(yīng)用，開始成為各大大模型公司思考的焦點(diǎn)所在。

3月18日，瀾舟科技在中關(guān)村國(guó)家自主創(chuàng)新示范區(qū)展示中心隆重舉行了“創(chuàng)新落地，生態(tài)共贏”大模型技術(shù)和產(chǎn)品發(fā)布會(huì)。

會(huì)上，瀾舟科技展示了瀾舟科技的大模型的最新進(jìn)展和大模型技術(shù)的實(shí)際應(yīng)用落地、生態(tài)構(gòu)建的成果，更體現(xiàn)了其對(duì)未來(lái)發(fā)展的深度思考和戰(zhàn)略布局。

現(xiàn)場(chǎng)，創(chuàng)新工場(chǎng)董事長(zhǎng)、零一萬(wàn)物CEO李開復(fù)博士分享了對(duì)于AI 2.0 平臺(tái)變革進(jìn)行式的見解。

創(chuàng)新工場(chǎng)董事長(zhǎng)、零一萬(wàn)物CEO李開復(fù)博士正在演講

他認(rèn)為， AI 2.0 模型能力突飛猛進(jìn)，通識(shí)理解已經(jīng)超越人類專家。AI 2.0 通過(guò)圖靈測(cè)試并趨于成熟，揭示下一個(gè)平臺(tái)級(jí)變革 。新一代創(chuàng)新應(yīng)用需要新的技術(shù)平臺(tái)，基于強(qiáng)大的底層技術(shù)搭建出高效的開發(fā)工具, 從而節(jié)約開發(fā)生態(tài)做創(chuàng)新產(chǎn)品的成本，促進(jìn)包括新產(chǎn)品、新業(yè)態(tài)、新的商業(yè)模式的全新應(yīng)用生態(tài)。

周明博士提出大模型落地九字法則

發(fā)布會(huì)上，瀾舟科技創(chuàng)始人&CEO周明博士回顧了瀾舟科技的發(fā)展歷程，他強(qiáng)調(diào)在數(shù)字化浪潮中，以大模型為代表的人工智能正在重塑人類的未來(lái)。2024年將是大模型落地元年，如何利用大模型技術(shù)助力企業(yè)成長(zhǎng)已成為業(yè)界關(guān)注的焦點(diǎn)。

瀾舟科技科技創(chuàng)始人&CEO周明博士在演講

去年年初，ChatGPT橫空出世，引爆了AI大模型創(chuàng)業(yè)熱潮。但與大多數(shù)初創(chuàng)企業(yè)不同的是，瀾舟科技成立于2021年6月， 彼時(shí)大模型的浪潮還沒有來(lái)臨。

據(jù)雷峰網(wǎng)了解，其實(shí)早在2020年年底，周明博士就隱約感知到大模型的未來(lái)發(fā)展趨勢(shì)，彼時(shí)他正在微軟就職，意識(shí)到這一點(diǎn)后，便離職創(chuàng)業(yè)，成立了瀾舟科技，致力于自主研發(fā)大模型技術(shù)和行業(yè)應(yīng)用。

2023年3月，瀾舟科技發(fā)布了孟子GPT V1（MChat），今年1月孟子大模型GPT V2（含孟子大模型-標(biāo)準(zhǔn)、孟子大模型-輕量、孟子大模型-金融、孟子大模型-編碼）正式對(duì)公眾開放。

當(dāng)前，關(guān)于大模型的發(fā)展，技術(shù)信仰和市場(chǎng)信仰派爭(zhēng)論不休，而周明博士強(qiáng)調(diào)，瀾舟科技注重技術(shù)和應(yīng)用雙輪驅(qū)動(dòng)，即在積極研究和掌握前沿技術(shù)的同時(shí)，公司也致力于確保這些技術(shù)的有效應(yīng)用。在每一個(gè)關(guān)鍵技術(shù)發(fā)展的時(shí)期，瀾舟科技都會(huì)攜手客戶及合作伙伴，如傳神、數(shù)說(shuō)故事、華為云、華夏基金、同花順、中金公司等，共同開展深入合作。

通過(guò)深入應(yīng)用場(chǎng)景、精準(zhǔn)把握用戶需求，瀾舟科技不斷推動(dòng)技術(shù)和產(chǎn)品的迭代升級(jí)，力求在激烈的市場(chǎng)競(jìng)爭(zhēng)中保持領(lǐng)先地位。

周明博士表示，過(guò)去一年大模型得到了迅速發(fā)展，而2024年將是大模型落地元年， 各界熱切期盼大模型能結(jié)合不同行業(yè)的場(chǎng)景應(yīng)用，實(shí)現(xiàn)規(guī)模化效用。政府工作報(bào)告新鮮出爐，特別強(qiáng)調(diào)以人工智能+，驅(qū)動(dòng)各行各業(yè)的轉(zhuǎn)型升級(jí)。他認(rèn)為要把握好這個(gè)歷史契機(jī)，通過(guò)落地，創(chuàng)造價(jià)值，拉動(dòng)創(chuàng)新。

而要做好大模型落地，周明博士認(rèn)為互聯(lián)網(wǎng)的七字法則仍然適用：專注、極致、口碑和快，還要再加上成本，形成大模型落地九字法則。

周明博士強(qiáng)調(diào)，大模型ToB應(yīng)用要解決四個(gè)大問題：訓(xùn)練和部署成本、行業(yè)適配性、幻象、數(shù)據(jù)安全，并解釋了瀾舟科技在這四個(gè)方面所作的努力。

“一橫N縱”孟子大模型系列及產(chǎn)品發(fā)布

此次發(fā)布會(huì)的核心為”一橫N縱"體系，其中的“一橫”即為孟子大模型技術(shù)，而“N縱”是基于孟子大模型的面向ToB應(yīng)用最重要的技術(shù)和產(chǎn)品。

瀾舟科技希望通過(guò)“一橫N縱”，徹底貫徹大模型落地九字法則：專注、極致、口碑、快、成本。

周明博士首先介紹了從預(yù)訓(xùn)練，到SFT，到強(qiáng)化學(xué)習(xí)，安全，降低幻覺的完備的孟子大模型訓(xùn)練體系。孟子大模型離不開背后的高質(zhì)量的數(shù)據(jù)集—Mengzi-3數(shù)據(jù)集，總規(guī)模為3T tokens，包含了網(wǎng)頁(yè)、代碼、書籍、論文等高質(zhì)量數(shù)據(jù)來(lái)源。

最后，在Mengzi-3語(yǔ)料數(shù)據(jù)的加持下，瀾舟團(tuán)隊(duì)在近期完成了Mengzi3-13B的大模型訓(xùn)練，在常見公開數(shù)據(jù)集，如MMLU，Chinese-MMLU，GSM8K，HUMAN-EVAL等評(píng)估模型效果來(lái)看，該模型在各項(xiàng)基準(zhǔn)測(cè)試中與相仿參數(shù)量大模型相比，中英文語(yǔ)言能力成績(jī)領(lǐng)先。

針對(duì)大模型訓(xùn)練和部署的成本高的問題，瀾舟科技專注把ToB場(chǎng)景使用最多的LLM模型（參數(shù)量7B、13B、40B最高到100B）做到最佳并大幅度提升大模型的推理效率。

3月30日Mengzi3-13B的模型將在GitHub、HuggingFace、魔搭和始智AI社區(qū)開源。

針對(duì)大模型的行業(yè)落地適配問題，周明博士再次重申了L1-L2-L3-L4的層次化分級(jí)服務(wù)體系， 基于L1-通用大模型，在此基礎(chǔ)上加入行業(yè)數(shù)據(jù)訓(xùn)練出L2-行業(yè)/垂直大模型，如金融、編程大模型。針對(duì)重要場(chǎng)景，在L1或者L2模型基礎(chǔ)上finetune，實(shí)現(xiàn)L3大模型。最后Agents可以調(diào)用L1-L2-L3任何一層的模型形成完整的一個(gè)特定任務(wù)。

針對(duì)大模型的幻象問題和用戶數(shù)據(jù)安全問題，孟子大模型提出了改進(jìn)的RAG能力。通過(guò)孟子大模型理解用戶意圖，可分別經(jīng)過(guò)大模型自身，或者通過(guò)RAG查找用戶知識(shí)庫(kù)，甚至通過(guò)Web搜索，最后多路召回搜索結(jié)果，經(jīng)過(guò)排序輸出最可信結(jié)果。

在總結(jié)階段，周明博士強(qiáng)調(diào)大模型創(chuàng)業(yè)所需要的生態(tài)環(huán)境非常重要， 瀾舟一方面聚焦自己擅長(zhǎng)的能力和場(chǎng)景，另外一方面會(huì)注重與開源社區(qū)、與客戶和合作伙伴攜手共進(jìn)，共同拓展更廣闊的市場(chǎng)空間，實(shí)現(xiàn)互惠共贏的局面。

在孟子通用大模型這“一橫”之上，瀾舟科技合伙人、首席產(chǎn)品官李京梅向與會(huì)觀眾詳細(xì)介紹和發(fā)布了“一橫N縱”的應(yīng)用能力型產(chǎn)品，包括AI文檔理解、文檔問答、文檔輔助寫作、機(jī)器翻譯、瀾舟智會(huì)、AI搜索。

雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))獲悉，“瀾舟AI搜索”已經(jīng)在瀾舟官網(wǎng)上線，用戶可以上官網(wǎng)試用。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。