0
| 本文作者： 亞萌 | 2017-03-21 20:19 |
2015和2016年的12月份，圍繞FPGA這個(gè)詞，分別有兩個(gè)小高潮。2015年的12月，英特爾完成了其歷史上最大的并購(gòu)案：以167億美元收購(gòu)專注于FPGA的Altera。而到了2016年12月，亞馬遜AWS宣布推出了FPGA實(shí)例F1，他們將 Xilinx 的 FPGA 放在了云服務(wù)中，顯著降低使用該技術(shù)的準(zhǔn)入門檻，激起一股簡(jiǎn)化開發(fā)者體驗(yàn)的新浪潮。
對(duì)于深度學(xué)習(xí)技術(shù)實(shí)現(xiàn)來(lái)說(shuō)，F(xiàn)PGA無(wú)疑是具有重要潛質(zhì)的。在過(guò)去，玩得起FPGA的往往都是有著充足資金的大公司，因?yàn)镕PGA首先硬件成本高，另外對(duì)于復(fù)雜算法的實(shí)現(xiàn)有太多限制。但是，F(xiàn)PGA相對(duì)于GPU有著獨(dú)特的優(yōu)勢(shì)：功耗低，實(shí)時(shí)性強(qiáng)，業(yè)界普遍看好其發(fā)展前景。
在國(guó)內(nèi)，2017年1月份，騰訊云和阿里云也相繼推出了FPGA云服務(wù)器產(chǎn)品。1月21日，阿里云發(fā)布異構(gòu)計(jì)算解決方案：彈性GPU實(shí)例和FPGA解決方案。阿里云作為目前國(guó)內(nèi)云市場(chǎng)的領(lǐng)頭羊，這次發(fā)布針對(duì)深度學(xué)習(xí)技術(shù)的異構(gòu)計(jì)算解決方案，無(wú)疑將助力國(guó)內(nèi)人工智能技術(shù)的前進(jìn)。
雷鋒網(wǎng)此前報(bào)道過(guò)，英偉達(dá)首席科學(xué)家、斯坦福并發(fā) VLSI 架構(gòu)小組的負(fù)責(zé)人William J. Dally曾說(shuō)過(guò)，對(duì)于深度學(xué)習(xí)的硬件選擇，主要有三個(gè)不同領(lǐng)域要考慮，其中兩個(gè)就是：
數(shù)據(jù)中心的訓(xùn)練。指的是任何深度學(xué)習(xí)系統(tǒng)需要做的第一步：調(diào)整神經(jīng)元之間的數(shù)百萬(wàn)連接，讓神經(jīng)網(wǎng)絡(luò)來(lái)執(zhí)行分配的任務(wù)。對(duì)訓(xùn)練來(lái)說(shuō)，計(jì)算機(jī)往往需要以較高的精確度運(yùn)算。
數(shù)據(jù)中心的推理。指的是基于云端、被訓(xùn)練來(lái)處理特定任務(wù)的神經(jīng)網(wǎng)絡(luò)的連續(xù)運(yùn)行。對(duì)于推理，精確度可以適當(dāng)犧牲，換取更快的速度和更低的能耗。
而阿里云這次發(fā)布的彈性GPU實(shí)例和FPGA解決方案，就是分別針對(duì)這兩種任務(wù)要求所做的設(shè)計(jì)。
負(fù)責(zé)開發(fā)這套異構(gòu)計(jì)算解決方案的，是阿里云的虛擬化平臺(tái)團(tuán)隊(duì)。針對(duì)這套平臺(tái)方案，雷鋒網(wǎng)AI科技評(píng)論日前采訪了阿里云虛擬化平臺(tái)職位高級(jí)技術(shù)專家游亮，以下是采訪內(nèi)容。
其實(shí)阿里巴巴內(nèi)部的很多業(yè)務(wù)早已經(jīng)在異構(gòu)計(jì)算的平臺(tái)上成功應(yīng)用了，比如拍立淘、以圖搜圖、商品分類等，阿里已經(jīng)驗(yàn)證了這套解決方案在阿里各業(yè)務(wù)線的加速作用，現(xiàn)在阿里云把這套解決方案通過(guò)云服務(wù)的形式輸出出去，也是把阿里的技術(shù)和經(jīng)驗(yàn)輸出，讓業(yè)界能夠非常容易地享受到異構(gòu)計(jì)算的便利性和高速性，幫助業(yè)界降低使用成本，提高業(yè)務(wù)性能。
當(dāng)前人工智能、深度學(xué)習(xí)目前已經(jīng)成為業(yè)界一股強(qiáng)烈浪潮，對(duì)各行各業(yè)都將產(chǎn)生深遠(yuǎn)的影響。而人工智能、深度學(xué)習(xí)對(duì)計(jì)算能力的需求相當(dāng)?shù)母撸⒗镌仆瞥龅漠悩?gòu)計(jì)算同時(shí)包括GPU和FPGA的解決方案，擁有比傳統(tǒng)服務(wù)器強(qiáng)大得多的計(jì)算能力和每瓦計(jì)算能力，推異構(gòu)計(jì)算解決方案也能夠滿足人工智能、深度學(xué)習(xí)對(duì)強(qiáng)大計(jì)算性能、計(jì)算能效以及計(jì)算實(shí)時(shí)性的需求，推動(dòng)和加速整個(gè)人工智能、深度學(xué)習(xí)生態(tài)的迅速發(fā)展。
目前GPU和FPGA云服務(wù)器的邀測(cè)申請(qǐng)鏈接已經(jīng)放掛到官網(wǎng)了，在https://www.aliyun.com的產(chǎn)品->彈性計(jì)算下面，但是FPGA的還沒(méi)有，這一部分，我們的客戶可以通過(guò)聯(lián)系售后來(lái)獲得。
這套異構(gòu)計(jì)算解決方案能夠解決機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、虛擬桌面、渲染、圖形圖像處理、非線性編輯、視頻編解碼、基因分析、網(wǎng)絡(luò)分析、網(wǎng)絡(luò)安全、金融分析對(duì)計(jì)算能力、計(jì)算效能、計(jì)算實(shí)時(shí)性等方面的問(wèn)題。
對(duì)于AI來(lái)說(shuō)，這套解決方案能夠非常好地加速AI領(lǐng)域的訓(xùn)練和預(yù)測(cè)/分類等問(wèn)題，包括圖像識(shí)別、語(yǔ)音識(shí)別、視頻識(shí)別、視頻監(jiān)控、文字識(shí)別、人臉識(shí)別、車輛識(shí)別、自動(dòng)駕駛、機(jī)器翻譯等AI的應(yīng)用場(chǎng)景。GPU的解決方案比較擅長(zhǎng)做AI領(lǐng)域的模型訓(xùn)練，能夠達(dá)到非常高的批量計(jì)算能力，而FPGA的解決方案比較適合做AI領(lǐng)域的在線的預(yù)測(cè)/分類，能夠達(dá)到非常高的吞吐量和非常低的延遲。
“彈性”就是指會(huì)根據(jù)業(yè)務(wù)量去彈性伸縮，比如說(shuō)你在線做圖片的預(yù)測(cè)分類，假設(shè)你日常業(yè)務(wù)只需要N10臺(tái)云服務(wù)器機(jī)器，某一天一個(gè)突發(fā)事件，讓你的業(yè)務(wù)爆發(fā)一倍，請(qǐng)求量突然增大，那現(xiàn)在彈性的支持就可以就很快創(chuàng)建出來(lái)增加的N臺(tái)云服務(wù)器，讓你的業(yè)務(wù)能夠平滑支持暴增的業(yè)務(wù)請(qǐng)求。然后當(dāng)你的業(yè)務(wù)量下去之后，多余的云服務(wù)器支持就可以釋放掉。然后，計(jì)費(fèi)也是按量來(lái)的，就是用多長(zhǎng)時(shí)間就收多長(zhǎng)時(shí)間的費(fèi)用，實(shí)現(xiàn)客戶成本最大節(jié)約化。
這個(gè)彈性的范圍，可以參考阿里云上支撐的天貓業(yè)務(wù)。這個(gè)范圍內(nèi)的，我們都可以支撐。
阿里云的FPGA方案面向用戶。普通FPGA開發(fā)者如果自己采購(gòu)測(cè)試用的FPGA、開發(fā)板還有服務(wù)器，價(jià)格是非常之昂貴的。阿里云從芯片原廠、OEM統(tǒng)一采購(gòu)芯片和機(jī)器，不需要經(jīng)過(guò)層層代理，大大降低采購(gòu)成本，而且在云上提供按需使用的FPGA對(duì)于普通FPGA開發(fā)者來(lái)說(shuō)，使用成本是極大降低的。
阿里云推出的FPGA方案，在定價(jià)上也會(huì)非常親民。因?yàn)椋覀兂跗陔A段，主要目的不是為了賺取多少利潤(rùn)，而是為了方便FPGA開發(fā)者開發(fā)，繁榮FPGA的生態(tài)環(huán)境，促進(jìn)FPGA產(chǎn)業(yè)的發(fā)展。因?yàn)楝F(xiàn)在FPGA整個(gè)生態(tài)并不是很理想。第一個(gè)方面，就是開發(fā)人員不多，然后開發(fā)人員的質(zhì)量也參差不齊。FPGA之前面向的是非常小眾的市場(chǎng)，今后可能會(huì)面向更廣闊的市場(chǎng)，這個(gè)情況下，F(xiàn)PGA開發(fā)人員可能會(huì)跟不上需求；第二個(gè)方面，就是現(xiàn)有的FPGA開發(fā)工具不是非常的友好，而且像Verilog和VHDL這樣的開發(fā)語(yǔ)言，學(xué)習(xí)的門檻比較高。所以對(duì)開發(fā)者來(lái)說(shuō)，要想開發(fā)出性能比較高的軟件，需要對(duì)FPGA了解非常深入才行，所以這個(gè)開發(fā)難度比較大。
但是，F(xiàn)PGA又是非常重要的，我們覺(jué)得FPGA今后在運(yùn)營(yíng)上，將會(huì)推動(dòng)中國(guó)整個(gè)人工智能產(chǎn)業(yè)的前進(jìn)。所以我們覺(jué)得阿里云有義務(wù)來(lái)承擔(dān)這個(gè)責(zé)任，去繁榮FPGA的生態(tài)環(huán)境。當(dāng)然，這需要各界人士的通力合作，我們會(huì)著力去吸引包括FPGA芯片廠商、FPGA板卡廠商、FPGA的IP開發(fā)商、FPGA的工具開發(fā)商以及FPGA開發(fā)者到阿里云的這個(gè)云平臺(tái)上來(lái)等等，繁榮云上的FPGA生態(tài)，這樣建立起一個(gè)好的生態(tài)之后，大家也都能從這個(gè)生態(tài)中獲得合理的回報(bào)，然后大家才會(huì)有持續(xù)的動(dòng)力，一起努力、共同協(xié)作建立一個(gè)圍繞FPGA的健康的、可持續(xù)發(fā)展的生態(tài)。
阿里云計(jì)劃提供FPGA IP市場(chǎng)，所有第三方的商業(yè)應(yīng)用都可以把自己的IP放到IP市場(chǎng)上來(lái)銷售給最終用戶，這些IP都是根據(jù)阿里云的標(biāo)準(zhǔn)來(lái)定制的。IP的開發(fā)、仿真、驗(yàn)證和測(cè)試都可以非常方便、快速地在 FPGA 云計(jì)算實(shí)例上進(jìn)行部署和運(yùn)行。針對(duì)不同領(lǐng)域里的開發(fā)人員的具體需求，比如圖像識(shí)別CV領(lǐng)域，用CNN的IP比較多，語(yǔ)音識(shí)別NLP領(lǐng)域用DNN和LSTM的IP比較多，那么就可以通過(guò)提供豐富的IP市場(chǎng)這個(gè)IP市場(chǎng)調(diào)節(jié)大家的特定需求。
FPGA IP市場(chǎng)有利于第三方企業(yè)或者開發(fā)者來(lái)開發(fā)和銷售IP給最終用戶，有利于聚攏FPGA開發(fā)人氣，建立FPGA生態(tài)環(huán)境，第三方商業(yè)應(yīng)用和最終用戶都能從中獲益。
這套解決方案在開發(fā)過(guò)程中遇到了很多前所未有難題。比如，如何在公共環(huán)境下保證用戶間的強(qiáng)隔離、怎么保證用戶的數(shù)據(jù)安全、怎么去支持遠(yuǎn)程調(diào)試、怎么定義用戶的交互接口......等等這些問(wèn)題。還有這當(dāng)中最難的部分，就是如何“上云”，傳統(tǒng)的異構(gòu)計(jì)算服務(wù)商不懂云上的虛擬化環(huán)境，提供的一些解決方案并不適用。
我們大概從1年多以前就已經(jīng)開始進(jìn)行預(yù)研，那時(shí)亞馬遜的云計(jì)算實(shí)例都還沒(méi)有正式推出來(lái)。這方面可供學(xué)習(xí)的經(jīng)驗(yàn)比較少，因?yàn)楝F(xiàn)在世界范圍內(nèi)能夠做這部分的廠商都是不多的，我們還是屬于比較領(lǐng)先的廠商，所以會(huì)遇到各種各樣的問(wèn)題在這上面有很多坑。
我們經(jīng)過(guò)和合作伙伴深入合作、聯(lián)合開發(fā)和長(zhǎng)時(shí)間的測(cè)試、驗(yàn)證工作，最終解決了這些難題問(wèn)題，沉淀了一些阿里云獨(dú)有的架構(gòu)和設(shè)計(jì)，滿足高可用、彈性伸縮、用戶隔離、IP安全、故障恢復(fù)、監(jiān)控報(bào)警等服務(wù)化需求。
目前阿里開發(fā)了基于FPGA的DNN、LSTM等深度學(xué)習(xí)算法的實(shí)現(xiàn)，和其他實(shí)現(xiàn)相比，阿里做了非常深入的優(yōu)化，在邏輯資源的使用上、時(shí)序的優(yōu)化上、對(duì)內(nèi)存帶寬的優(yōu)化上都做了非常深入和細(xì)致的調(diào)優(yōu)，相同器件上能夠達(dá)到更高的吞吐量和更低的延遲。
沒(méi)有一種固定架構(gòu)能適應(yīng)所有應(yīng)用場(chǎng)景，異構(gòu)計(jì)算解決方案優(yōu)勢(shì)在于可以組合多種不同類型實(shí)例為用戶定制專用架構(gòu)，千人千面，阿里云愿意同更多特定行業(yè)進(jìn)行合作，深度定制，共同為節(jié)省社會(huì)計(jì)算成本而努力，讓計(jì)算服務(wù)成為水電煤這樣隨時(shí)可用，隨處可用，人人可用的社會(huì)公共資源。
更多雷鋒網(wǎng)相關(guān)文章：
亞馬遜 CEO 駕駛載人機(jī)器人亮相 MARS；蘋果 AR 功能首先登陸 iPhone | 雷鋒早報(bào)
微軟亞洲研究院劉鐵巖博士：迎接深度學(xué)習(xí)的“大”挑戰(zhàn)（一）
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
