為何探討AI芯片落地時軟硬融合被大咖們頻頻提及？| CCF-GAIR 2019

編者按：7月12日-7月14日，2019第四屆全球人工智能與機器人峰會（CCF-GAIR 2019）于深圳正式召開。峰會由中國計算機學會（CCF）主辦，雷鋒網(wǎng)、香港中文大學（深圳）承辦，深圳市人工智能與機器人研究院協(xié)辦，得到了深圳市政府的大力指導，是國內人工智能和機器人學術界、工業(yè)界及投資界三大領域的頂級交流博覽盛會，旨在打造國內人工智能領域極具實力的跨界交流合作平臺。

這一輪的AI熱潮讓芯片行業(yè)又一次出現(xiàn)了多年未見的創(chuàng)業(yè)熱潮，2015年前后，AI芯片初創(chuàng)公司相繼成立，不僅如此，國內外芯片巨頭們的紛紛布局更是讓AI芯片的賽道更加擁擠，形成了傳統(tǒng)芯片巨頭、科技巨頭、初創(chuàng)公司共同競爭的局面。2018年下半年開始，資本寒冬來襲，2019年，中美貿易摩擦讓半導體處于風口浪尖，同時，全球半導體市場也面臨衰退挑戰(zhàn)，AI芯片的落地顯得尤為重要。

2019年7月13日下午，來自學術界、工業(yè)界、投資界的重磅嘉賓齊聚CCF-GAIR 2019 AI芯片專場共同探討芯片的前沿技術以及AI芯片的落地。值得關注的是，演講嘉賓們在分享中頻頻提及軟硬融合，這是為什么？

英特爾夏磊：AI計算一定需要硬件+軟件的結合

英特爾是全球最重要的芯片公司之一，也引領著全球芯片行業(yè)的發(fā)展。英特爾首席工程師 數(shù)據(jù)中心技術銷售部人工智能首席技術架構師夏磊帶來了主題為《異構 | 統(tǒng)一》的開場演講。隨著AI、大數(shù)據(jù)技術的不斷發(fā)展，計算的應用層面需要很多專業(yè)的設計、專業(yè)的方案去應對不同類型的數(shù)據(jù)。英特爾通過提供多樣化的標量、矢量、矩陣和空間架構組合，以先進制程技術進行設計，由顛覆性內存層次結構提供支持，通過先進封裝集成到系統(tǒng)中，使用光速互連進行超大規(guī)模部署，提供統(tǒng)一的軟件開發(fā)接口以及安全功能，從而實現(xiàn)超異構計算的技術愿景。

英特爾首席工程師 數(shù)據(jù)中心技術銷售部人工智能首席技術架構師夏磊

對于AI計算，一定需要硬件+軟件的結合。在英特爾第二代至強可擴展處理器的新計算方案中，英特爾針對AI的場景進行加速，推出了英特爾DL Boost加速指令集，通過軟硬件的結合達到了非常高的水準，在某些場景的性能超越了GPU加速器的方案。

目前，英特爾軟硬結合的AI技術已經在實際應用當中落地，比如英特爾與美的合作，利用AI進行缺陷檢測，幫助美的在生產制造中管控產品質量。

對英特爾而言，異構和統(tǒng)一其實是針對面向硬件和軟件的不同的策略。未來，硬件方案會越來越細分，針對特定的數(shù)據(jù)處理的類型和需求有很多選項，但對軟件開發(fā)者而言，他們并不希望在開發(fā)一個AI軟件應用時候需要針對不同的硬件器件來學習不同的編程框架、編程工具、編程接口。為此，英特爾提出了OneAPI的軟件策略，不斷推進軟件通用化、標準化，通過一個軟件平臺和一套軟件工具，支撐四種不同類型的加速方案，更好滿足開發(fā)人員的需求。

地平線黃暢：AI計算的第一要務是追求極致的能效比和性價比

地平線聯(lián)合創(chuàng)始人兼副總裁、深度學習專家黃暢帶來了《打造極致效能的AI計算平臺，構建安全、美好的智能世界》的主題分享。他指出，AI普惠化和民主化的背后，數(shù)據(jù)計算帶來了巨大的能源消耗。數(shù)據(jù)統(tǒng)計顯示，2017年全國有40家中小型數(shù)據(jù)中心，遍布在各處，但這些中小數(shù)據(jù)中心單2017年消耗電量比三峽大壩的發(fā)電量還多，等量的碳排放量兩倍于民航的碳排放量，這是很恐怖的數(shù)據(jù)。

地平線聯(lián)合創(chuàng)始人兼副總裁、深度學習專家黃暢

地平線特別強調算法和芯片的優(yōu)化，需兼顧靈活性和通用性，第一要務是追求極致的能效比和性價比。這就要求地平線并不僅僅是做算法和架構這兩件事情，還包括編譯器等外延。比如說架構設計需要考慮未來重要場景中的關鍵算法，實驗、探索、判斷，與業(yè)界共同定義未來重要場景是什么、未來重要的關鍵算法是什么等問題。

數(shù)據(jù)、AI模型和設備形成一個閉環(huán)，這個閉環(huán)結合在一起高速地循環(huán)、快速地推進AI技術發(fā)展和商業(yè)化落地。

“地平線努力做到能夠更好地預測、把握、選擇未來真正重要的AI算法趨勢，并且把算法發(fā)展的趨勢進行拆解，融入到架構中，使我們預先將未來可能成為主流的，最有效的算法提前考慮到計算架構中，這點非常重要。” 黃暢說道。

前段時間，地平線正式對外公布了“AI on Horizon，Journey Together”的公司戰(zhàn)略，他們希望打造面向整個產業(yè)界的通用AI應用平臺，賦能客戶，讓AI的技術可以更好更早的普惠化、造福大家的生活。

中科院計算所包云崗：彌補軟硬件之間的性能差異有兩種思路

中科院計算所研究員、先進計算機系統(tǒng)研究中心主任，中國開放指令生態(tài)聯(lián)盟秘書長包云崗在其《面向未來領域專用架構的敏捷開發(fā)方法與開源芯片生態(tài)》的主題演講中指出，今天軟件、硬件之間有巨大的性能差異，同樣一個算法或者一個程序，一個普通的程序員來寫和一個懂體系架構的人來寫，性能可以差63000倍。如果按照摩爾定律折算，相當于可以把摩爾定律再延長二十多年，實際上就是摩爾定律賦予了很大的能力，但是并沒有挖掘出來。

中科院計算所研究員、先進計算機系統(tǒng)研究中心主任，中國開放指令生態(tài)聯(lián)盟秘書長包云崗

如何彌補軟硬件之間的性能差異？包云崗研究員認為有兩種思路：一種是可以雇更好的程序員寫出更好的軟件，但是這樣的人終究少；還有一種是在硬件上加速，有一些工作讓硬件來做，也就提出了硬件加速器，就是領域專用的體系結構。

但領域專用體系種結構出來以后又帶來一個新的問題，每個領域都需要一種專用芯片，成本和時間的問題如何解決？如果我們可以做到芯片開發(fā)像軟件開發(fā)一樣協(xié)作，那未來我們可以把芯片開發(fā)變成月迭代，軟硬件就可以協(xié)同起來，這是未來有可能做到的。

他在演講中也指出，目前開源芯片生態(tài)四要素為：開源指令集與IP、硬件開發(fā)語言與開源EDA工具鏈、仿真/模擬、軟件工具鏈。

“芯片是不是可以像開源軟件一樣，幫助我們把硬件設計的門檻降下來。實際上現(xiàn)在存在一個死結。首先，做一個芯片和軟件需要花那么多精力，做完以后很多企業(yè)不愿意開源，導致在市場上、業(yè)界沒有開源可以用。大家只能去買，而且IP都還很貴，買過來以后只能花很多力氣和時間去驗證它來降低風險，進而又增加了人力的投入，所以整個是一個死結?！?包云崗表示。

怎么打破它？最近幾年很多力量都在試圖把開發(fā)投入這一環(huán)給解開，從而打開開源芯片的死結。此外，開源的IP，RISC-V降低了IP的成本。

深聰智能朱澄宇：軟硬融合使邊緣計算成為可能

深聰智能 CTO 朱澄宇分享的主題是《端側專用芯片--AI 算法的理想載體》。他認為語音技術的演進和IoT時代的到來，某種程度上可以說是一種天作之合，這兩個技術必定是未來十年增長的亮點，特別是在芯片領域。

深聰智能 CTO 朱澄宇

我們知道，思必馳是一家算法很強的公司，不斷把算法移植到不同的芯片和平臺上，但在移植的過程中還是有很多不方便的地方。朱澄宇指出，如果使用第三方通用芯片，產品研發(fā)與AI市場需求、AI算法、AI數(shù)據(jù)不能形成閉環(huán)，如果沒有閉環(huán)就不能形成生態(tài)，不利于把這塊蛋糕做大，這些問題的存在讓思必馳最終決定成立一家公司專門做芯片。

朱澄宇強調：“我們做芯片不是趕時髦，而是有長遠的規(guī)劃，我們的第二代芯片要解決本地語音識別的問題，增加安全、聲紋特性，會采取更深度的融合，從算法到基礎IP都做專門的優(yōu)化，達到更好的目的。再下一代芯片，我們會考慮多模態(tài)以及進行存儲、工藝、封裝的優(yōu)化。”

最終，思必馳芯片+算法的軟硬結合方案將會給用戶帶來非常好的體驗，不僅能夠聽得清和聽得懂，還有很高的識別率和快速的反應。能夠實現(xiàn)非常低的功耗，基本上都可以做到使用電池供電。軟硬結合的方案也具備多種接口，可以做很多擴展。更重要的是，與通用芯片相比，因為不需要移植，能夠讓產品更快上市。

觸景無限肖洪波：解決智慧城市的挑戰(zhàn)需要易于使用、軟硬融合的感知芯片

觸景無限科技聯(lián)合創(chuàng)始人兼CEO肖洪波帶來了《重構邊緣芯片，讓感知融入城市》的演講。他指出，智慧城市的提出已有十幾年歷史，但是今天智慧城市領域卻依然沒有達到想要的效果——這是因為人們忽略了很多在邊緣和感知領域的投入，只是在后端打通了一些數(shù)據(jù)，并沒有對前端更豐富的數(shù)據(jù)進行收集和前端的智能分析。而現(xiàn)有AI芯片在邊緣數(shù)據(jù)的分析處理上存在局限性，因而需要重構邊緣芯片。

觸景無限科技聯(lián)合創(chuàng)始人兼CEO肖洪波

隨著技術發(fā)展，肖洪波認為從智慧城市到感知城市的轉變有三點非常關鍵。第一是物聯(lián)網(wǎng)技術，改變前端數(shù)據(jù)收集方式；第二是邊緣計算技術，越來越強的算力、越來越低的功耗以及感知融合處理；第三是通訊技術的發(fā)展。

肖洪波相信，未來智慧城市+感知能力會變成“感知城市”，通過傳感器技術應用和邊緣計算相結合，能夠迅速反饋到城市治理的方方面面。

過去幾年觸景無限一直專注做邊緣計算，一共研發(fā)了四代邊緣計算的產品，基本覆蓋了現(xiàn)在市面上各種前端的芯片解決方案，比如第一代基于嵌入式GPU，隨后的VPU、NPU，以及下一代基于FPGA的產品。

肖洪波表示，感知城市的建設中會遇到很多邊緣問題，必須在前端部署一款高性能、低功耗、感知融合的芯片。我們要解決產品和場景里碰到的挑戰(zhàn)和問題，提供更易于使用的感知芯片，使其成為一個軟件內核級和芯片架構級的綜合產品。

天數(shù)智芯李云鵬：海量數(shù)據(jù)時代軟硬件充分結合尤為重要

天數(shù)智芯創(chuàng)始人、董事長、CEO 李云鵬帶來了《海量數(shù)據(jù)時代的全算力》的主題分享。李云鵬在演講中指出，海量數(shù)據(jù)時代，數(shù)據(jù)的收集、組織、分析、運用都將推動社會的發(fā)展。隨著數(shù)據(jù)量的不斷增長、算法不斷演進和迭代，對極致算力的需求也越來越大，而軟硬件的充分結合則顯得尤為重要，這也是天數(shù)智芯決定打造AI芯片的原因之一。

天數(shù)智芯創(chuàng)始人、董事長、CEO 李云鵬

他說：“我們技術的開發(fā)邏輯是非常有意思的，第一天從事軟件算力，軟件算力是提升已有硬件的平均算力。如今，我們的中間件產品可以和已有市場上任何一款開源計算框架完美配合，在已有的硬件處理器上達到更高的處理效率。隨著中間件的推出和上層應用的不斷落地，我們推出相應的芯片產品，為已有的硬件產品和已有的系統(tǒng)解決方案提供平滑的、透明的遷移?！?/p>

據(jù)雷鋒網(wǎng)了解，天數(shù)智芯已經布局了云端和終端的AI芯片，將針對不同的市場，提供云、邊、端的算力支持。其GPGPU流片計劃正在如期推進，據(jù)現(xiàn)有PPA數(shù)據(jù)顯示，對比Nvidia V100，會有三倍的功耗比提升。還值得指出的是，在一月前斯坦福的DAWN Bench榜單中，天數(shù)智芯的ImageNet推理成績排名第一。

李云鵬還談到了動態(tài)平衡，他表示：天數(shù)智芯兩方面（軟件和硬件）的業(yè)務具備動態(tài)平衡兩個特征，兩者是相互可以轉換的，換句話說軟件能為硬件迭代，硬件能為軟件的進步和提升提供幫助。任何一個狀態(tài)本身此消彼漲，軟件多一點，硬件就會少一點。

云天勵飛李愛軍：從場景出發(fā)的計算架構才能真正滿足AI大規(guī)模應用需求

云天勵飛副總裁李愛軍分享的主題是《芯聯(lián)萬物，智創(chuàng)未來》。他首先指出，云天勵飛一直致力于通過提升算法、芯片、數(shù)據(jù)三方面的核心競爭力，實現(xiàn)人工智能大規(guī)模產業(yè)化落地。

云天勵飛副總裁李愛軍

李愛軍進一步指出，在一個有機的循環(huán)和推動下，全新的5G+AIoT時代到來了。但5G+AIoT的場景更加復雜，一個邊緣和端運算平臺，不能只跑某一種算法，需要在AIoT場景下應對用戶各種各樣的需求，同時要滿足實時數(shù)據(jù)的處理要求，還要能保證數(shù)據(jù)的安全性和隱私性。

傳統(tǒng)的芯片很難滿足上述需求，需要更高效的神經網(wǎng)絡處理器的架構設計。李愛軍指出：“AI芯片和計算架構一定是從場景出發(fā)、為場景服務，這樣的計算架構也才能真正滿足大規(guī)模應用需求。云天勵飛先是在我們AI系統(tǒng)大規(guī)模產業(yè)化落地和部署情況下，去了解行業(yè)的需求和痛點，基于對行業(yè)的需求和痛點的深刻理解來打造AI的芯片，通過芯片來解決這些場景下的關鍵問題，然后通過我們的服務來更多賦能這個行業(yè)。”

云天勵飛自主設計的DeepEye1000神經網(wǎng)絡處理器芯片是面向多個應用場景設計，支持多模態(tài)的計算，可以支持一鍵式AI部署，同時針對端和邊緣做了優(yōu)化，是異構的并行架構。

李愛軍表示，圍繞著5G+AIoT，云天勵飛希望跟合作伙伴一起打造自主可控的5AIoT生態(tài)，使得人工智能能夠更快速、更高效地大規(guī)模產業(yè)化落地。

華登國際蘇東：4大因素促進人工智能進入繁榮期

最后一位登臺演講的，是華登國際副總裁蘇東。針對處于風口浪尖上的半導體產業(yè)，作為一家風險投資機構的投資人，他分享的主題是《集成電路產業(yè)投資趨勢》。蘇東表示，過去的十幾二十年間，中國的芯片還是在做廉價替代的事情，通過廉價替代逐步提升附加值，其中，一些公司實現(xiàn)了突破。接下來，這類公司能在全球范圍內引領市場，另外，這些公司上市之后進行并購，也能極大促進他們的發(fā)展。

華登國際副總裁蘇東

他強調，做芯片不是那么容易，我們看到了中國芯片公司上市的高光時刻，但不要忘記這些公司都成立很長的時間，而且有很多艱難的時刻。

“未來，我們覺得新的應用可以催生出半導體新的機會，最主要的是四個：一是AI；二是5G在2019年的部署和應用；三是消費升級，很多新的品類消費硬件逐漸進入家庭。四是汽車電子，汽車電子的電子化程度會越來越高，包括無人駕駛、新能源，都能極大促進汽車的電子化?！碧K東進一步表示。

蘇東還指出，4大因素將促進人工智能進入繁榮期，分別是：GPU使得訓練深度神經網(wǎng)絡的速度提升255倍；全球數(shù)據(jù)中心數(shù)據(jù)量在最近以及未來幾年年均增速40%；算法突破減少了人工總結特征的不完備性，推動AI技術成熟和實用化；最后是包括政府和大學的學科投入，大公司的AI戰(zhàn)略以及各風險資本的瘋狂押注。雷鋒網(wǎng)

我們將會在本次峰會后，在「AI投研邦」上線CCF GAIR 2019峰會完整視頻與各大主題專場白皮書，包括機器人前沿專場、智能交通專場、智慧城市專場、AI芯片專場、AI金融專場、AI醫(yī)療專場、智慧教育專場等。「AI投研邦」會員們可免費觀看全年峰會視頻與研報內容，掃碼進入會員頁面了解更多。峰會期間專享立減399元福利，可進入頁面直接領取，或私信助教小慕（微信：moocmm）咨詢。（最后一天50個名額，速搶。）

雷峰網(wǎng)原創(chuàng)文章，未經授權禁止轉載。詳情見轉載須知。