再創(chuàng)紀(jì)錄！Ampere推出192自研核云原生服務(wù)器CPU

經(jīng)過(guò)多年生態(tài)建設(shè)，Arm服務(wù)器CPU市場(chǎng)已經(jīng)越來(lái)越繁榮，前有亞馬遜、Marvell基于Arm架構(gòu)應(yīng)用于云端，后有華為海思、平頭哥基于Arm推出數(shù)據(jù)中心服務(wù)器，近一兩年，更是有不少順應(yīng)芯片創(chuàng)業(yè)潮而生的Arm服務(wù)器CPU初創(chuàng)公司，遇賢微、鴻鈞微電子都包括在內(nèi)......

近日，專注Arm云原生服務(wù)器CPU的Ampere Computing在2023年度戰(zhàn)略和產(chǎn)品路線圖更新分享中表示，Ampere推出了全新的AmpereOne系列處理器，基于5nm工藝節(jié)點(diǎn)制造，擁有多達(dá)192個(gè)單線程Ampere核，再一次創(chuàng)造業(yè)內(nèi)最高核心記錄。

這一核心數(shù)量遠(yuǎn)遠(yuǎn)超過(guò)英特爾和AMD服務(wù)器CPU的核心數(shù)，如果放在一個(gè)具體的場(chǎng)景中，在云環(huán)境中運(yùn)行虛擬機(jī)（VM），將192核的AmpereOne、96核的AMD Genoa、60核的英特爾Sapphire Rapids進(jìn)行對(duì)比，AmpereOne每機(jī)架運(yùn)行的虛擬機(jī)數(shù)量是AMD Genoa的2.9倍，是英特爾Sapphire Rapids的4.3倍。

“AmpereOne現(xiàn)已投產(chǎn)并交付給客戶，AmpereOne能夠?yàn)樵乒ぷ髫?fù)載提供更高的性能、更高的可擴(kuò)展性以及更高的密度，這是第一款基于Ampere新自研核的產(chǎn)品。”Ampere Computing首席產(chǎn)品官Jeff Wittich說(shuō)到。

192自研核再創(chuàng)紀(jì)錄，針對(duì)更大規(guī)模數(shù)據(jù)中心

Ampere發(fā)展至今已經(jīng)有將近6年歷史，此前的兩年，已經(jīng)推出了幾款不同的產(chǎn)品，核數(shù)從32核到128核不等，今年又將核數(shù)進(jìn)一步提升，最高可達(dá)192核，對(duì)比隔壁X86陣營(yíng)的英特爾至強(qiáng)開(kāi)始強(qiáng)調(diào)“多放10 個(gè)核數(shù)，不如多放一個(gè)加速器”，Ampere的產(chǎn)品升級(jí)似乎執(zhí)著于核心數(shù)的提升。

這對(duì)數(shù)據(jù)中心市場(chǎng)而言意味著什么？

”全新推出的AmpereOne系列處理器并不是要取代Ampere Altra系列，而是在它原本的基礎(chǔ)之上進(jìn)行持續(xù)擴(kuò)張。我們的出發(fā)點(diǎn)是希望能夠滿足不同客戶的不同需求。”Jeff Wittich說(shuō)到。

AmpereOne系列處理器因?yàn)閾碛懈叩暮藬?shù)，不僅在計(jì)算性能上有所擴(kuò)展，還擴(kuò)展了內(nèi)存容量、帶寬和IO帶寬，采用了PCIe 5.0 和 DDR5。這些新增的功能主要是為對(duì)算力有更高需求的用戶提供服務(wù)，主要針對(duì)大規(guī)模的數(shù)據(jù)中心，而對(duì)于邊緣計(jì)算場(chǎng)景，只需要部署32核、功耗40瓦的Ampere Altra處理器就能滿足需求。

另外，考慮到生成式AI算力需求爆發(fā)，提升對(duì)AI工作負(fù)載需求是此次AmpereOne升級(jí)的重點(diǎn)。

三年前，Ampere收購(gòu)了專注于創(chuàng)建AI軟件的OnSpecta公司，通過(guò)創(chuàng)建AI軟件助力硬件在AI負(fù)載之下運(yùn)行更快，過(guò)去幾年，Ampere的AI團(tuán)隊(duì)也已經(jīng)建立了形成標(biāo)準(zhǔn)框架的Libraries，能夠更高性地運(yùn)行Ampere Altra。

而Ampere提供的產(chǎn)品，非常適合AI推理，特別是大規(guī)模的云推理，目前已經(jīng)有不少客戶在使用Ampere提供的處理器進(jìn)行AI推理工作負(fù)載，比如Matoha，其鑒別特定材料的應(yīng)用程序模型就在Ampere上運(yùn)行，用以鑒別玻璃、金屬或織物以實(shí)現(xiàn)便捷回收。

Ampere提供的測(cè)試數(shù)據(jù)顯示，相比AMD Genoa，AmpereOne可每秒多提供2.3倍的幀數(shù)（圖像），在運(yùn)行穩(wěn)定的擴(kuò)散模型中勝出。此外在運(yùn)行DLRM模型的推薦系統(tǒng)中，通過(guò)AmpereOne響應(yīng)的查詢數(shù)量是AMD Genoa的每秒查詢數(shù)量的兩倍多。

值得注意的是，通過(guò)Ampere云原生處理器進(jìn)行AI推理，不僅能打破效率瓶頸，也可以解決云服務(wù)提供商（CSPs）的行業(yè)痛點(diǎn)——使用GPU實(shí)現(xiàn)AI推理所產(chǎn)生的高能耗，以及容量擴(kuò)展和可部署的服務(wù)器數(shù)量都會(huì)受到制約。

采用Chiplet設(shè)計(jì)，解決內(nèi)存不均衡問(wèn)題

為避免內(nèi)存墻問(wèn)題更加嚴(yán)重，除了擁有高達(dá)192個(gè)內(nèi)核，AmpereOne還擁有128通道的PCIe  Gen5和8通道的DDR5，以此提升內(nèi)存帶寬，獲得更高的內(nèi)存速度。

值得注意的是，AmpereOne還大量采用了Chiplet設(shè)計(jì)，以解決內(nèi)存不均衡的問(wèn)題。

”我們?cè)贑hiplet設(shè)計(jì)中實(shí)現(xiàn)了特定的拓?fù)浣Y(jié)構(gòu)以及單一的計(jì)算裸片，同時(shí)還有單一大網(wǎng)格結(jié)構(gòu)，這樣可以助力我們?yōu)榭蛻籼峁┢胶獾母咝阅堋７粗渌O(shè)計(jì)則要求從一個(gè)計(jì)算的小芯片傳輸?shù)搅硪粋€(gè)小芯片，這種設(shè)計(jì)則會(huì)帶來(lái)延遲問(wèn)題。”Jeff Wittich解釋道。

也就是說(shuō)，AmpereOne采用的是一個(gè)大的計(jì)算Chiplet被數(shù)個(gè)控制Chiplet包圍的設(shè)計(jì)方式，且64MB的System Level Cache（系統(tǒng)級(jí)緩存）被放在計(jì)算芯片上，這樣能夠輕易實(shí)現(xiàn)內(nèi)存到內(nèi)存的訪問(wèn)，同時(shí)避免造成訪問(wèn)時(shí)間和系統(tǒng)級(jí)緩存之間的不平衡，不需要為處理器引入額外的HOPs。

那么，采用了Chiplet設(shè)計(jì)和自研核心的AmpereOne是否會(huì)出現(xiàn)與過(guò)去Neoverse核心的Ampere Altra處理器不兼容的問(wèn)題？

Jeff Wittich表示，因?yàn)锳mpereOne系列處理器和Ampere Altra系列處理器都是基于ARM ISA的，所以所有能夠在Ampere Altra系列處理器上運(yùn)行的代碼，在全新的AmpereOne系列處理器上也能運(yùn)行，不需要做任何改動(dòng)。

Ampere針對(duì)云原生研發(fā)的Arm服務(wù)器CPU，已經(jīng)再次證明了Arm ISA在數(shù)據(jù)中心的潛力。不過(guò)面對(duì)X86在數(shù)據(jù)中心建立起的生態(tài)，為云原生而生的Ampere還有很長(zhǎng)的路要走。

Ampere也表示，Ampere有許多目標(biāo)，用某個(gè)單獨(dú)的目標(biāo)并不足以概括，其中的一個(gè)目標(biāo)是希望繼續(xù)擴(kuò)展生態(tài)合作，讓Ampere的產(chǎn)品面向更多的用戶，觸手可及。（雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))）

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。