0
AI芯片公司直接提供云服務(wù)似乎成了新的風(fēng)潮。
市場領(lǐng)導(dǎo)者英偉達在GTC 2023上宣布會基于Oracle的云基礎(chǔ)設(shè)施提供AI云服務(wù)。
美國AI芯片獨角獸SambaNova也做同樣的事情，以云服務(wù)的方式提供AI算力。
英國AI芯片獨角獸公司Graphcore近期也進行了策略的調(diào)整，其CEO Nigel Toon表示在英國和美國會和云廠商緊密合作，以云產(chǎn)品的形式提供算力，不再單獨銷售芯片產(chǎn)品。
不過Graphcore中國區(qū)并未跟進英國總部不單獨銷售芯片產(chǎn)品的策略。
“中國和總部的策略后續(xù)會不太一樣。我們在業(yè)務(wù)、策略上還是一以貫之，繼續(xù)以銷售硬件，自己安裝產(chǎn)品的形式提供AI算力?！盙raphcore總裁，大中華區(qū)總經(jīng)理盧濤表示，
“在中國，我們還是比較堅定地走被云廠商集成的策略，Graphcore中國還是這樣的商業(yè)模式?！?/p>
為什么在中國不直接提供云服務(wù)？
Graphcore總部和中國區(qū)戰(zhàn)略不同的核心在于到底是賣云服務(wù)還是直接賣芯片，讓人好奇的是，為什么中國區(qū)做出了不一樣的選擇？
盧濤解釋，中國的產(chǎn)業(yè)業(yè)態(tài)和美國、歐洲有很大區(qū)別，比如，美國基本所有互聯(lián)網(wǎng)公司都架構(gòu)在AWS、Azure和Google Cloud這三朵云之上。中國有很多優(yōu)秀的云廠商，但也有很多選擇自建數(shù)據(jù)中心的大型互聯(lián)網(wǎng)公司。一些公司原本是云廠商的大客戶，隨著自身體量增加也做了大量的自建。
“這些大體量用戶尤其是頭部用戶的自建行為讓我們發(fā)現(xiàn)他們更希望被提供硬件形式的服務(wù)。云也非常重要，但我們希望Graphcore能成為中國云廠商產(chǎn)品的一部分，而不是做一個Graphcore自有品牌的云?！北R濤說明了中國區(qū)堅持原有商業(yè)模式的原因。
客戶群體方面，Graphcore中國會聚焦于大型互聯(lián)網(wǎng)公司。
這主要有兩方面的意義，第一，大型的互聯(lián)網(wǎng)公司對GPU產(chǎn)品用得最深最透最廣，對非GPU產(chǎn)品的技術(shù)參數(shù)、可用性、技支持服務(wù)、商業(yè)支持服務(wù)、產(chǎn)品穩(wěn)定性都要求很高。
“只有和嚴(yán)苛的客戶一起，才能真正把自己的產(chǎn)品給打磨出來。過程非常痛苦，但能從中學(xué)到很多?！北R濤體會頗深，“我們之前為一個國內(nèi)的大客戶部署了一個比較大的IPU集群，他們向我們提出了三百多個軟件特性需求，若不是客戶提出這些需求，很多需求我們想象不出來。客戶的要求越高、越苛刻，反而進步更快。”
第二個方面的意義是從商業(yè)的角度。把中國作為單一的整體大市場，中國互聯(lián)網(wǎng)行業(yè)占整個AI應(yīng)用市場的60%，并且這個行業(yè)里Top10-20多公司又占了80%以上的市場。
“從商業(yè)角度，如果你的產(chǎn)品表現(xiàn)令人滿意，最后的商業(yè)回報也會相對合理。”盧濤表示。
據(jù)雷峰網(wǎng)了解，Graphcore正在和國內(nèi)的金山云和騰訊云合作，與另一家國內(nèi)大型云廠商的合作細(xì)節(jié)在規(guī)劃中。
如何把握生成式AI帶來的機會？
如今，各大互聯(lián)網(wǎng)公司的大模型也帶來了對大算力AI芯片的強需求。只有快速實現(xiàn)對大模型的支持，才有可能抓住市場機遇。
目前，Graphcore已經(jīng)支持的大模型包括GPT-2 XL版本，GPT-J開源版本，Dolly 2.0（剛開源的100多億參數(shù)的模型），ChatGLM-6B（國內(nèi)比較火的開源模型）。
“對于大模型的公司，我們的一個優(yōu)勢是可以做到每個token 3.5毫秒，幾百個字一秒鐘就能出來了?！北R濤用了更形象的方式體現(xiàn)這一速度，“ChatGPT是逐字出現(xiàn)的，我們可以一屏屏地顯示。這是給做大模型的人一個重要的價值點，能夠帶來不一樣的體驗。
實現(xiàn)了對多個大模型的支持之后，也意味著Graphcore可以快速支持其它大模型。
盧濤表示，“從Dolly 2.0發(fā)布到我們支持這個模型，大概兩周左右的時間。支持大模型的關(guān)鍵點在于模型的大小，以及如何在多個IPU之間做模型拆分。需要底層的各種能力，例如Transformer相關(guān)的算子，模型并行的API，算子并行的API，Tensor并行的API，這些底層的技術(shù)我們已經(jīng)比較成熟?！?/p>
當(dāng)然，想要吸引熟悉了GPU的客戶使用Graphcore的IPU，最好能夠做到零代碼遷移，和CUDA兼容。
Graphcore在去年推出主打推理兼做訓(xùn)練的C600產(chǎn)品時，同時發(fā)布的軟件工具包PopRT，這個工具包可以將GPU在TensorFlow訓(xùn)練出來的模型進行自動轉(zhuǎn)換，在不做CUDA兼容的情況下，比較無縫地把GPU的軟件在IPU上跑起來。
“上個月我們剛發(fā)了1.0版本，目前一些客戶反饋都還不錯，因為以前做一些模型遷移都需要花費較長的時間，現(xiàn)在有了工具之后，客戶自己的模型遷移還是比較快?！北R濤說，“當(dāng)然，我們的芯片IPU的優(yōu)勢是核非常多，存儲、帶寬非常大?！?/span>
對于當(dāng)下眾多的AI大算力初創(chuàng)芯片公司而言，英偉達并沒有留給競爭者太多機會，差異化競爭能夠增加成功的可能。
這種差異化就包括面對不同的市場采用更適合的市場策略，所以Graphcore在英國和中國市場采用不同的策略，是差異化和靈活性的體現(xiàn)，這種靈活性有助于Graphcore在中國取得成功。雷峰網(wǎng)(公眾號：雷峰網(wǎng))
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
