0
AI、5G、云計算技術(shù)的發(fā)展已經(jīng)開始改變世界，數(shù)據(jù)中心作為承載這些技術(shù)，支撐數(shù)字化轉(zhuǎn)型的重要載體，面臨著眾多挑戰(zhàn)。這其中，已有的通用CPU和GPU不能完全滿足快速變化的應(yīng)用需求，性能更強大，更加專用，更加異構(gòu)的芯片更能滿足數(shù)據(jù)中心需求。
芯片巨頭們都看到了這樣的需求和趨勢，通過收購或者自研擁有了更全面的芯片類型。雷鋒網(wǎng)此前介紹過，在數(shù)據(jù)中心占有優(yōu)勢的英偉達先是在去年十月發(fā)布了首代DPU BlueField-2。今年4月，英偉達首席執(zhí)行官黃仁勛在GTC 21上又宣布英偉達數(shù)據(jù)中心芯片戰(zhàn)略升級為GPU+CPU+DPU，三類芯片，逐年飛躍，自研Arm架構(gòu)CPU Grace也同時亮相。
DPU（Data Processing Unit）作為一個不被大部分人所熟知的芯片類型，其價值是什么？為什么DPU能在數(shù)據(jù)中心“上位”？數(shù)據(jù)中心的未來為什么是3U一體？
DPU的雙重價值
了解DPU的價值之前，先解釋為什么需要DPU。黃仁勛此前發(fā)布DPU時表示，當下的數(shù)據(jù)中心是由軟件定義的，這使得數(shù)據(jù)中心更加靈活的同時，也產(chǎn)生了巨大的負擔，數(shù)據(jù)中心基礎(chǔ)架構(gòu)的運行能夠消耗20%-30%的CPU核，因此需要一種新的處理器，也就是DPU。
或者說，以CPU為中心的數(shù)據(jù)中心架構(gòu)已經(jīng)不能滿足需求，以數(shù)據(jù)為中心才能更好滿足市場和應(yīng)用需求。英偉達網(wǎng)絡(luò)事業(yè)部亞太區(qū)市場開發(fā)高級總監(jiān)宋慶春在本周的一場溝通會中表示：“以前計算規(guī)模和數(shù)據(jù)量沒那么大，馮諾依曼架構(gòu)很好地解決了提高計算性能的問題，隨著數(shù)據(jù)量越來越大，以及AI技術(shù)的發(fā)展，傳統(tǒng)的計算模型會造成網(wǎng)絡(luò)擁塞，繼續(xù)提升數(shù)據(jù)中心的性能面臨挑戰(zhàn)。”
以數(shù)據(jù)為中心的架構(gòu)，意味著數(shù)據(jù)在哪計算就在哪。宋慶春指出，以數(shù)據(jù)為中心的新架構(gòu)可以解決網(wǎng)絡(luò)傳輸中的瓶頸問題或丟包問題，典型通信延時可以從30-40微秒降低到3-4秒，有10倍的性能提升。
更具體地說，英偉達DPU屬于SoC，集三個關(guān)鍵要素于一身：
行業(yè)標準的、最高性能及軟件可編程的多核CPU，通常基于廣泛的Arm架構(gòu)，與其SoC組件密切配合；
高性能網(wǎng)絡(luò)接口，能以線速或網(wǎng)絡(luò)中的可用速度解析、處理數(shù)據(jù)，并高效地將數(shù)據(jù)傳輸?shù)紾PU和CPU。
各種靈活和可編程的加速引擎，可以卸載AI、機器學習、安全、電信和存儲等應(yīng)用，并提升性能。
也就是說，DPU能針對安全、網(wǎng)絡(luò)、存儲、AI、HPC等業(yè)務(wù)進行加速，這是DPU的第一層價值。而DPU的第二層價值在于為以數(shù)據(jù)為中心的計算架構(gòu)提供了創(chuàng)新的思路，能夠?qū)崿F(xiàn)以前難以或無法實現(xiàn)的功能。
以前的數(shù)據(jù)中心所有操作都由CPU完成，不僅需要很多CPU內(nèi)核，效率也很低。如果將一些操作，比如OVS（Open vSwitch，是分布式虛擬多層交換機的開源實現(xiàn)）卸載到DPU上運行，不僅可以提升效率，減少CPU的利用率，還能實現(xiàn)業(yè)務(wù)的隔離。
宋慶春舉了兩個例子，在云場景下，英偉達和VMWare共同開發(fā)了Monterey項目，VMWare把它在Hypervisor里的一些功能卸載到DPU上，比如防火墻、存儲、管理等，這樣把業(yè)務(wù)和基礎(chǔ)設(shè)施操作完全隔離，實現(xiàn)了高安全性，也實現(xiàn)了裸金屬的業(yè)務(wù)性能。
“這是VMWare第一次把他的源代碼開放給合作伙伴，共同開發(fā)基于VMWare企業(yè)級的云解決方案。”宋慶春強調(diào)。
另一個例子是英偉達與RedHat的合作。RedHat不管在數(shù)據(jù)中心運行容器還是虛擬化，即便使用所有的CPU核來運行虛擬化或容器，也沒有辦法達到100G線速。這時，采用DPU運行Hypervisor、OVS或容器操作，可以在不消耗任何CPU的情況下以實現(xiàn)100G甚至200G全線速，并將CPU資源全部提供給業(yè)務(wù)。
DPU能帶來多少提升？
“我們最開始選擇DPU，是因為遇到了傳統(tǒng)服務(wù)器帶寬瓶頸，我們想解決網(wǎng)絡(luò)性能瓶頸的問題，也想降低成本。”UCloud技術(shù)專家馬彥青進表示，“雙方最開始都有相同的認知，那就是DPU可以實現(xiàn)硬件的卸載，軟件和硬件的結(jié)合會成為未來的趨勢。”
借助DPU和與之匹配的軟件棧DOCA，UCloud實現(xiàn)了一系列的數(shù)據(jù)中心性能提升。
馬彥青介紹，UCloud原先的網(wǎng)絡(luò)架構(gòu)使用的是VPC網(wǎng)關(guān)，作為裸金屬服務(wù)器之間的VPC之間劃分的方法，需要很多網(wǎng)關(guān)服務(wù)器集群來進行管理，集群服務(wù)器本身就帶來了成本挑戰(zhàn)（大概4-8臺服務(wù)器是一個小集群），當跨網(wǎng)關(guān)的時候會有帶寬瓶頸。有了DPU就可以將VPC管理集成到DPU內(nèi)部，包括OVS包轉(zhuǎn)發(fā)以及GRE封裝都可以通過DPU硬件實現(xiàn)，大幅提高轉(zhuǎn)發(fā)效率。原來10G的網(wǎng)卡升級到25G后，性能也大大提升。
這樣的改進得到了客戶的認可。“有DPU的解決方案已經(jīng)在一些大數(shù)據(jù)、金融、數(shù)據(jù)庫、容器云等業(yè)務(wù)中使用，他們的反饋非常好。比如一家做大數(shù)據(jù)業(yè)務(wù)的公司，VPC集群砍掉后，進行N對N數(shù)據(jù)計算，帶寬和性能都有提升，維護成本也降低了。還有一家金融客戶，采用原先的VPC架構(gòu)，需要為他們部署四臺服務(wù)器，這會造成資源浪費，有了DPU，幾張卡就可以替代四臺服務(wù)器。”
數(shù)據(jù)中心的存儲也受益于DPU。過去，UCloud使用本地盤來存儲，缺點是容易出現(xiàn)壞盤或者掉卡，維護非常麻煩，數(shù)據(jù)丟失想要恢復(fù)也非常困難。在新架構(gòu)里，UCloud采用RSSD云盤作為后端存儲機群，核心是基于DPU的NVMe SNAP功能，實現(xiàn)了計算和存儲的解耦。解耦的優(yōu)勢包括用戶可以免裝機，實現(xiàn)分鐘級交付，運維也減少了機型，磁盤可以按需使用，能夠快速實現(xiàn)故障遷移，三副本也更加安全可靠。
DPU還讓數(shù)據(jù)中心的安全性有顯著提升。據(jù)介紹，過去數(shù)據(jù)中心經(jīng)常使用CPU運行Hyperscan做深度包檢測的政策表達式匹配。“借助BlueField-2，我們測試相比軟件的Hyperscan有3.5倍的加速。”馬彥青同時介紹，“加解密方面，DPU卡也可以對SSL、TLS進行加解密。IPSec的算法也可以實現(xiàn)硬件的卸載，把CPU的算力釋放出來。”
UCloud的最終極的目標，是實現(xiàn)一張卡實現(xiàn)虛擬化和裸金屬架構(gòu)的統(tǒng)一。他們還在基于InfiniBand網(wǎng)絡(luò)的DPU，探索如何加速AI和高性能計算。
DPU在數(shù)據(jù)中心上位的關(guān)鍵
數(shù)據(jù)中心和云服務(wù)提供商實現(xiàn)更多探索，發(fā)揮DPU價值的基礎(chǔ)是英偉達DPU硬件的持續(xù)提升，以及DOCA軟件棧的不斷完善。根據(jù)英偉達的路線圖，下一代DPU BlueField-4預(yù)計在2023年發(fā)布，將會是業(yè)界首個800G的DPU，也會集成GPU。
DOCA是專為DPU開發(fā)的軟件包，就像CUDA對英偉達GPU的價值。DOCA通過軟件定義，可以調(diào)用DPU里的硬件引擎，實現(xiàn)安全、網(wǎng)絡(luò)、存儲等性能的提升。
DOCA的軟件棧一層是Driver和Runtime，主要進行調(diào)度硬件加速引擎。一層是DOCA Library，主要是針對業(yè)務(wù)提供接口。還有DPU管理對接上層，比如做編排（Orchestration）和服務(wù)部署（Provisioning）的時候使用DPU管理進行調(diào)用。
目前，DOCA 1.0正式版已經(jīng)發(fā)布。
“我認為，云計算市場是DPU很好的突破點，能夠解決合作伙伴遇到的瓶頸問題，讓他們能夠更加高效、安全、低時延的提供服務(wù)。” 宋慶春對雷鋒網(wǎng)表示，“云原生超級計算機也應(yīng)該會很快應(yīng)用到DPU市場。因為隨著超級計算的發(fā)展、算力已經(jīng)變成了服務(wù)，如何提供一種安全的算力服務(wù)，DPU在這里面就會扮演非常的角色。最終，DPU也會在基礎(chǔ)設(shè)施、數(shù)據(jù)中心、通信等領(lǐng)域成為一個核心部件。
當然，DPU的出現(xiàn)并非要替代CPU和GPU，而是更好地滿足數(shù)據(jù)中心市場的需求。“3U（CPU、GPU、DPU）一體的架構(gòu)將會讓管理程序、調(diào)度程序都會變得非常容易。3U一體是要實現(xiàn)從邊緣到核心數(shù)據(jù)中心，統(tǒng)一架構(gòu)、統(tǒng)一管理、統(tǒng)一調(diào)度。”
想要通過3U一體滿足數(shù)據(jù)中心等需求的不止英偉達，英特爾本周也發(fā)布了與DPU定位類似的IPU（Infrastructure Processing Unit），趨勢已經(jīng)非常明顯，最終會帶來哪些變革？
注：文中配圖來自英偉達、UCloud 雷鋒網(wǎng)
相關(guān)文章：
英偉達DPU計算吞吐量三年將跨越近1000倍！Jetson AI機器人價格低至59美元
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
