騰訊湯道生：擁抱行業大模型，助力產業高質量發展

“大語言模型的興起，讓AI的大規模普惠有了更大可能。過去一段時間以來，我們的行業大模型產品得到了不少客戶的肯定，切切實實幫助用戶提升了各項能力。同時，客戶的需求也推動了騰訊云MaaS的不斷升級，我們的大模型商店也在不斷‘擴容’，以滿足不同企業的不同需求?！?/p>

9月7日，2023騰訊全球數字生態大會于深圳成功舉辦。在“行業大模型與智能應用”專場，騰訊集團高級執行副總裁、云與智慧產業事業群CEO湯道生發表主題演講，重點分享了AI大模型等技術產品對于產業發展的深遠影響，以及騰訊云行業大模型的最新戰略思考、能力升級。

騰訊集團高級執行副總裁、云與智慧產業事業群CEO湯道生

湯道生提到，行業大模型已經過了“嘗鮮期”，目前正深入各類業務場景，推動企業全鏈條智能化。與此同時，在大模型產業化的落地過程中，客戶關注的不僅是模型的大小、功能，而是更為關注如何選用并定制適合自身業務發展的模型產品。

基于客戶的實際需求，騰訊云不斷升級大模型精選商店，包括自研的通用大模型“混元”、20多種主流開源模型和更多行業大模型。企業可以根據自身需求選擇合適的模型產品，并進行訓練和精調，以滿足個性化需求。

此外，湯道生還認為，模型的熱潮導致各項成本攀升，擁抱大模型不能只是一時沖動，還要理性考慮落地成本。針對此，騰訊云也提供了從數據處理、多機多卡訓練到硬件優化的一站式解決方案，以幫助企業高效、低成本地創建和使用大模型。同時，騰訊云TI平臺還進行了全新升級，有效提升了大模型的訓練速度和推理效率。

“AI大模型等產品的發展及落地將對千行百業產生‘質’的影響，我們也將持續開放產品能力、不斷探索技術應用，助力產業實現更高質量的發展。”湯道生表示。

以下為演講全文：

大家好！

歡迎來到騰訊全球數字生態大會“行業大模型與智能應用”專場，共同探討AI驅動下的產業發展。

人工智能發展至今已經有70多年，在前幾波浪潮中，AI雖然在一些產業應用中，實現了落地，但受到基礎算法、算力、數據等限制，距離普遍的產業應用，還有一定距離。

大語言模型的發展，第一次讓我們看到了，AI在產業中，大規模落地的可能。六個月前，很多企業驚嘆于通用大模型的生成能力，迫不及待地嘗試與業務結合。但很快發現，通用大模型在實際應用中，面臨專業度、準確度、數據安全、成本等很多挑戰?；诖耍v訊云在6月19日推出了騰訊云MaaS服務，通過“行業大模型+企業數據精調”方案，幫助產業伙伴打造適合自己的大模型產品。

三個月來，我們建設行業大模型的思路，獲得了業界的普遍認可，很多企業通過我們的行業大模型，大幅提升內容生產、營銷、客服能力，客戶也和我們一起，挖掘出更多落地的創新應用。

技術變革和客戶需求的快速發展，給行業大模型發展帶來更多機遇，也推動騰訊云MaaS服務能力快速迭代，在這里，我也和大家分享一些我觀察到的大模型發展趨勢。

首先，行業大模型正深入各類業務場景，推動企業全鏈條智能化。

六個月前，客戶來談大模型，能想到的應用場景基本只是文字客服。但今天，應用場景已經快速擴展到各個領域，比如，在金融行業，大模型已經應用在開戶、業務處理、風控等多個場景。

基于這些客戶需求，我們嘗試用大模型打造全棧產品能力，用于業務不同環節，助力企業全鏈條提質增效。

就拿金融行業來說，海量單據的處理是金融業務員的突出痛點，這項工作技術含量低、但又很重要，容錯率低，每天都要耗費大量時間。一家國內頭部商業銀行找到我們，用搭載大模型能力的TI-OCR平臺，只需要50張標注數據，就能識別回單、發票、申請書等多種表單，準確率超過95%，需要的數據也大大減少。不僅節約業務人員的大量時間，而且還能自動提煉核心標簽，生成電子數據文件，進行后續商業分析。

而風險管理是金融業務的生命線，金融機構幾個月就得升級一次風控模型，傳統建模流程，耗時耗力，我們也將騰訊安全積累多年的多模態風控知識，沉淀到金融風控大模型中。金融機構通過小樣本的提示，就可以根據客群和市場的變化，自動生成專屬的風控模型，整個建模流程，從2周減少到2天，整體反欺詐效果提升了20%左右。

在客戶服務環節，大模型的應用也不僅僅是文字對話，專屬大模型與數智人的結合，讓虛擬客服用擬人化的方式，與客戶順暢地實時互動；再加上基于音視頻，和圖像識別的人臉核身技術，就可以高效在線辦理金融業務。根據行業統計，金融客服中心的運營成本中，人力成本占到60%-70%。中信建投就運用騰訊云智能的解決方案，完成了95%的新用戶開戶工作。

其次，隨著大模型的產業落地，大家更關注如何尋找與自身業務更匹配的模型底座，訓練出符合自身需求的專屬模型。

這驅使我們不斷升級大模型商店，提供全新的“1+N+N”服務，滿足不同企業的不同需求。

“1”代表我們的騰訊混元大模型。在大會的主論壇中，我們正式公布了自研通用大模型——混元，騰訊內部多個業務和產品，已經接入測試，并取得不錯的效果，更多業務和應用也正在逐步接入中?；煸粌H是騰訊行業大模型的重要支撐底座，也面向行業開放。通過我們的大模型商店，客戶可以利用混元，來訓練自己的專屬模型，并借助API開放能力，與已有業務系統無縫融合。

然后第一個“N”，是指混元之外，我們在大模型商店中，提供Llama 2、Falcon、Bloom等20多種行業最新、最流行的開源通用大模型，供客戶選擇。同時我們的TI平臺，也已經支持這些開源模型的訓練和推理?？蛻艋贘upyter Notebook，就可以快速啟動模型精調，模型部署通過低代碼操作就可以完成。

第二個“N”，指的是我們的行業大模型。在通用大模型基礎上，通過行業數據再次加工，為行業客戶提供更專業和精準的服務。目前我們的行業大模型，從早期的文旅、泛互、零售等領域，快速擴展到能源、消費電子、醫療等20多個行業，并覆蓋生產、銷售、客服等多個環節。

企業可以在大模型精選商店中，挑選合適的模型為基礎，通過騰訊云智能的TI平臺，導入企業獨有的專業文檔與企業數據，做進一步的訓練與精調，快速生成更有針對性的專屬大模型，更好滿足企業個性化需求。同時，不管是在公有云上搭建，還是私有化部署，我們都可以做好權限管控和數據加密，讓企業用戶在使用模型時更放心。

再次，模型的熱潮導致硬件和人力成本攀升，更多的企業意識到，擁抱大模型不能只是一時沖動，還要理性考慮落地成本，訓練、推理的效率。

企業專屬模型的生成，涉及到數字資產資源管理、數據標注、訓練、評估、測試和部署等很多環節。同時，根據業務發展，企業模型需要不斷地調優、迭代，數據處理的整個過程，也要不斷地重復。

如何幫助企業高效率、低成本地用好模型？我們通過基于騰訊云TI平臺的行業大模型精調解決方案，幫助模型開發者與算法工程師，一站式解決數據處理問題，保障數據高質高效、安全合規地處理；通過多機多卡訓練加速能力，高效率、低成本地創建和使用大模型。

這次，我們對TI平臺的工具鏈進行了全新升級，全新升級的太極Angel框架，通過異步調度優化、顯存優化、計算優化等方式，讓大模型的訓練速度提升30%，推理加速比達到了2倍。

行業大模型正在走進千行百業，大量新的場景、新的需求被激活，如何低成本獲取底層算力，也是企業當前面臨的突出難題。在大模型的底層基礎設施上，我們對服務器、網絡、數據這個“鐵三角”不斷優化，幫助客戶降本增效。

我們的新一代HCC高性能計算集群，實現了GPU算力無損釋放，服務協議等級（SLA）不低于99.9%。同時基于云原生架構，實現訓練和推理業務的混合部署，大量節約大模型的部署、訓練成本。

我們自研的服務器機間網絡——星脈，做到了業界最強的3.2T帶寬、支持10萬卡集群組網，讓GPU之間的通信更快，擁堵更少，計算效率更高。

我們也在國內云廠商中，率先推出向量數據庫，提升海量非結構化數據的存儲和檢索效率，讓大模型預訓練數據的分類、去重和清洗，實現10倍的效率提升。1個月左右的數據接入時間，3天即可完成，極大降低了企業的成本。

毫無疑問，我們正在邁入被人工智能劇烈改變的時代，AI將通過與產業深度融合，創造更大的價值。騰訊將不斷開放自身的技術和能力，助力產業擁抱智能升級，實現更高質量的發展。

雷峰網(公眾號：雷峰網)

雷峰網版權文章，未經授權禁止轉載。詳情見轉載須知。