0
11月19日，2024年世界互聯網大會領先科技獎在烏鎮發布，騰訊Angel機器學習平臺憑借其卓越的技術積累、創新的關鍵技術和廣泛的應用場景，榮獲本年度領先科技獎。
騰訊Angel 機器學習平臺，突破了萬億級模型分布式訓練和推理以及大規模應用部署等難題，率先實現大模型技術從底層硬件到關鍵軟件技術的自主研發，在業務場景廣泛應用，顯著推動實體產業和數字經濟發展，提升社會效率。
世界互聯網大會領先科技獎由世界互聯網大會主辦，旨在獎勵全球年度最具領先性的互聯網科技成果，倡導互聯網技術國際交流合作。本年度共有20個具有國際代表性的項目獲獎，整體入選率僅為7.4%，涵蓋類腦計算、具身智能、6G、大數據、高性能芯片、AI機器學習平臺等前沿領域。
騰訊公司副總裁蔣杰
騰訊公司副總裁蔣杰現場表示，獲得本次世界互聯網大會領先科技獎，是對騰訊在大模型相關自研技術的認可。在大模型時代，模型參數超過萬億，訓練數據超過十萬億，如此龐大的規模，給模型訓練和推理帶來巨大挑戰，騰訊全鏈路自研的Angel機器學習平臺有效應對這些挑戰，實現多個方面的性能效率提升。未來，騰訊也將繼續投入底層技術自主研發，并通過開源共享，推動技術創新升級，讓智能技術走入千行百業。
騰訊 Angel 機器學習平臺針對萬億規模大模型分布式訓練和推理、應用部署難的挑戰，在網絡互聯、框架效率、平臺規模三方面實現了突破。
在通信方面，從網卡到交換機，再到路由協議，騰訊自研的RDMA網絡實現了集群高速互聯，單節點帶寬達到3.2T，相比于同類領先產品，性能提升30%，成本降低70%。
在效率方面，自研了訓練/推理框架，提出顯存加主存的一體化機制，實現多維并行和算子優化，相比開源框架，訓練性能提升2.6倍，推理速度提升2.3倍。
在規模方面， 實現了單任務萬卡的線性擴展，GPU集群加速比從50%提升到99%。
作為智能時代的基礎設施，憑借扎實的技術積累，騰訊Angel機器學習平臺項目技術成果此前也多次登頂國際權威領域榜單，獲得 20 余項國際競賽冠軍。Angel 平臺還是中國首個從 Linux Foundation 畢業的頂級 AI 開源項目，被評為 2019 年度最受歡迎中國開源軟件，平臺吸引了眾多外部開發者和企業用戶，促進了技術的廣泛應用和產業的協同發展。2024年3月，騰訊Angel機器學習平臺還獲得了2023中國電子學會科技進步一等獎。
騰訊基于 Angel 機器學習平臺全鏈路自研的混元大模型，在中國眾多頭部 AI 研發企業中率先采用混合專家模型 (MoE)結構，模型規模突破萬億，處于中國大模型第一梯隊。11月初，騰訊推出業界最大參數規模的開源MoE模型混元Large，總參數量 389B，激活參數量 52B ，上下文長度高達256K，其訓練和推理均基于騰訊Angel機器學習平臺。
目前，基于騰訊 Angel 機器學習平臺，騰訊混元大模型已經構建了從0.5B到70B不同尺寸的通用模型和領域模型，涵蓋了語言模型、多模態理解模型和多模態生成模型等。這些模型已被應用在超過700個騰訊業務場景，展現了其強大的應用潛力和價值。對外，Angel 平臺通過騰訊云輸出，廣泛應用在大模型、廣告、推薦、社交、金融等領域，服務30萬行業客戶，助力實體行業進行數智化升級。
雷峰網(公眾號：雷峰網)
雷峰網版權文章，未經授權禁止轉載。詳情見轉載須知。
