1
| 本文作者： 包永剛 | 2020-04-02 18:40 |
雷鋒網(wǎng)消息，4月2日下午，百度智能芯片總經(jīng)理歐陽(yáng)劍在一場(chǎng)公開課中首次對(duì)昆侖芯片進(jìn)行了詳細(xì)分享，并公開了昆侖K200與英特爾T4 GPU的多項(xiàng)對(duì)比數(shù)據(jù)，其中最有優(yōu)勢(shì)的一項(xiàng)數(shù)據(jù)是Gemm-Int8 的Benchmark是T4性能的3倍。歐陽(yáng)劍還通過視頻展示了昆侖芯片的殺手锏，與國(guó)產(chǎn)處理器飛騰的良好適配。
2018年的百度AI開發(fā)者大會(huì)上，百度創(chuàng)始人、董事長(zhǎng)兼CEO李彥宏宣布推出自研AI芯片昆侖。百度研發(fā)AI芯片的積累得益于其用FPGA做AI加速的積累，也得益于其在軟件定義加速器和XPU架構(gòu)的多年積累。
百度最早在2010年開始用FPGA做AI架構(gòu)的研發(fā)，2011年開展小規(guī)模部署上線，2017年部署超過了10000片F(xiàn)PGA，2018年發(fā)布自主研發(fā)AI芯片，2019年下半年流片成功，2020年開始量產(chǎn)。
昆侖芯片的定位是通用AI芯片，目標(biāo)是提供高性能、低成本、高靈活性的AI芯片。歐陽(yáng)劍在分享中說：“相比GPU，昆侖芯片的通用性和可編程性都做的不錯(cuò)，并且我們還在努力把編程性做的更好。”
昆侖發(fā)布之后，其相關(guān)消息陸續(xù)公布。架構(gòu)方面，昆侖有2個(gè)計(jì)算單元，512GB/S的內(nèi)存帶寬，16MB SRAM/unit。歐陽(yáng)劍介紹，16MB的SRAM對(duì)AI推理很有幫助，XPU架構(gòu)上的XPU-SDNN是為Tensor等而設(shè)計(jì)，XPU-Cluster則能夠滿足通用處理的需求。
昆侖第一代芯片并沒有采用NVLink，而是通過PCIE 4.0接口進(jìn)行互聯(lián)。在三星14nm的制造工藝和2.5D封裝的支持下，昆侖芯片峰值性能可以達(dá)到260TOPS，功耗為150W。
在靈活性和易用性方面，昆侖面向開發(fā)者提供類似英偉達(dá)CUDA的軟件棧，可以通過C/C++語(yǔ)言進(jìn)行編程，降低開發(fā)者的開發(fā)難度。
目前，基于第一代昆侖芯片，百度推出了兩款A(yù)I加速卡，K100和K200，前者算力和功耗都是后者的兩倍。
在今天的分享中，歐陽(yáng)劍給出了一系列K200對(duì)比英偉達(dá)T4的數(shù)據(jù)，其中在Gemm-Int8數(shù)據(jù)類型，4K X 4K的矩陣下，昆侖K200的Benchmark分出超過2000，是英偉達(dá)T4的3倍多。
在語(yǔ)音常用的Bert/Ernie測(cè)試模型下，昆侖也有明顯性能優(yōu)勢(shì)。
在線上性能數(shù)據(jù)的表現(xiàn)上，昆侖的表現(xiàn)相比英偉達(dá)T4更加穩(wěn)定，且延遲也有優(yōu)勢(shì)。
在圖像分割YOLOV3算法中，昆侖雖然有優(yōu)勢(shì)，但優(yōu)勢(shì)已經(jīng)不那么明顯。不過歐陽(yáng)劍表示百度仍然在通過持續(xù)的優(yōu)化提高昆侖的性能。
他同時(shí)表示，昆侖已經(jīng)在百度內(nèi)部規(guī)模應(yīng)用。至于對(duì)外提供AI算力，去年12月13日百度通過定向邀請(qǐng)的方式通過百度云提供昆侖的算力。在與歐陽(yáng)劍的直播互動(dòng)中，雷鋒網(wǎng)了解到通過百度云提供昆侖AI算力目前仍然是定向邀請(qǐng)的方式，且主要是私有部署的方式。百度會(huì)通過定向邀請(qǐng)的客戶的反饋消息，再通過百度云大規(guī)模向外提供昆侖的算力，但他沒有給出具體的時(shí)間線。
除了通過百度云提供昆侖的算力，歐陽(yáng)劍也展示了昆侖加速卡在工業(yè)智能設(shè)備中的應(yīng)用。歐陽(yáng)劍演示的是用CPU和昆侖加速卡去進(jìn)行產(chǎn)品缺陷檢測(cè)，昆侖可以大幅提升速度，但并沒有給出具體的對(duì)比數(shù)據(jù)。
另外一個(gè)展示則是昆侖的殺手锏，那就是和國(guó)產(chǎn)處理器平臺(tái)飛騰的適配。在2019飛騰生態(tài)伙伴大會(huì)上，歐陽(yáng)劍就透露昆侖AI芯片正在適配國(guó)產(chǎn)飛騰服務(wù)器，做性能調(diào)優(yōu)工作。在今天的線上分享中，歐陽(yáng)劍展示了采用昆侖加速卡帶來的圖像分割速度的顯著加速。
飛騰CPU處理器采用的是Armv8指令級(jí)，主要用在數(shù)據(jù)中心和云計(jì)算中心，作為國(guó)產(chǎn)芯的代表，昆侖選擇與飛騰進(jìn)行很好地適配顯然是看中了國(guó)產(chǎn)自研芯片的大市場(chǎng)。
通過飛騰CPU+昆侖AI加速器的方式，雙方可以更好的實(shí)現(xiàn)國(guó)產(chǎn)芯片在服務(wù)器市場(chǎng)的國(guó)產(chǎn)化，也可以視為昆侖AI芯片和加速卡未來增長(zhǎng)的一個(gè)重要?jiǎng)恿蜌⑹诛怠?span style="color: #FFFFFF;">雷鋒網(wǎng)
相關(guān)文章：
百度三星合力研發(fā)，昆侖芯片最早明年初量產(chǎn)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
