0
| 本文作者： 宗仁 | 2016-10-24 21:19 | 專題：2016中國計算機大會(CNCC 2016) |
雷鋒網按：本文根據包云崗教授近日在 CNCC 2016 上所做的大會特邀報告《云計算與標簽化馮諾依曼體系結構》編輯整理而來，在未改變原意的基礎上略作了刪減。
包云崗，于2003年獲南京大學理學學士，2008年獲中科院計算所博士學位，現為中科院計算所研究員，博士生導師，先進計算機系統研究中心副主任。研究方向主要是計算機系統結構。主要工作包括：（1）博士期間帶領小組設計與實現了在國際上具有獨特優勢的訪存監控系統HMTT (Sigmetrics’08)，為斯坦福大學、EPFL、清華大學、華為、韓國Hynix等十幾個機構提供超過2TB的訪存蹤跡數據；（2）提出了基于路劃分的DMA Cache技術 (HPCA’10)，在2014年發布的Intel Xeon處理器中采用相同技術路線：（3）在普林斯頓大學開展博士后研究，發布多核基準測試集PARSEC 3.0版本 (ACM Computer Architecture News 2016)，下載已逾7000次，被三大體系結構國際頂級會議上70%以上的論文使用；（4）提出軟件定義服務器新架構PARD (ASPLOS'15)，作為華為全球合作五個代表性成果之一入選華為2015年報，并受邀參加2015年國際計算機頂級論壇德國Dagstuhl Seminar。包云崗在國際一流計算機系統會議期刊發表了10余篇論文，曾兩次獲計算所優秀論文一等獎，獲2013年CCF-Intel青年學者獎。同時擔任CCF普及工作委員會主任，《中國計算機學會通訊》編委。
我今天的話，圍繞一個目標，想把三個關鍵詞串起來，目標是希望降低云計算數據中心的成本，三個關鍵詞是云計算、馮諾依曼結構以及標簽化。
首先看2014年，百度這個最高獎，當時我的學生實習所在的團隊拿到這個最高獎，成為非常少有的在百度兩次獲得這個獎的，非常少有的現象，但他們的工作和貢獻卻值得兩次獲獎，他們以提高數據中心的利用率為點，為百度節省了上10億的成本。
所以，提到數據中心的話，我們很多人會覺得好像離自己很遠，實際上現在的數據中心已經和發電廠，自然水廠一樣，成為了我們社會的基礎設施。比如打開微信，在這個等待的過程中，一半時間都是數據中心幫我們在處理請求，數據中心現在實際上是互聯網公司的核心競爭力。
微軟前CEO鮑爾默在2013年時曾驕傲地說——全世界沒有幾個公司懂云計算，懂公有云。真正能理解并管理這種大規模數據中心的企業，在全世界非常非常少。
事實上，微軟它是有資本去驕傲的，你們可以看到微軟過去在數據中心領域投資了150億美元，包括上次國慶節我和微軟的一位杰出工程師，他負責數據中心的未來規劃，他表示到今年年底微軟在數據中心的投資會達到300億美元，我們知道一艘航母大概是100-150億美元，所以這些互聯網公司幾乎每年都要造“一艘航母”。
實際上數據中心是我們一個國家在工業信息各方面綜合實力的一個體現，好在我們中國國內的企業也不甘示弱。我們看到阿里上個月在張北數據中心啟用，這個數據中心耗資180億，但是它們已經感到了成本的壓力。
所以它在最近在7月份的時候專門去成立了一個部門去降低數據中心的開銷。但是另外一邊，我們來看看數據中心利用率怎么樣？
這是蓋特納和麥肯錫的調研數據：全球的服務器利用率只有6%到12%，即使是亞馬遜利用虛擬云計算把這個利用率提升了這個利用率還是只有7%－17%，所以可以看到大部分資源和成本其實是被浪費的，那怎么提高？
可以去共享，在一個服務器上去跑多個應用，這樣的話可以一定時期內把服務器的利用率提高到幾倍。實際上谷歌也是這么做的，目前它們數據中心可以分成兩類：一類跑在線應用，另外一類跑批處理（作業）。
我們可以看到，可以通過這種共享可以把批處理作業的這種數據中心提升到75%以上的CPU利用率， 但是對于在線應用（服務），還是只有30%。所以問題是為什么不把所有數據中心的利用率到提升到70%以上呢？
這里有一個在線服務的例子。
如果我們把CPU利用率從30％提升到70%，響應時間就會提高10倍。
這個例子其實在我們的生活中也會常見，在北京四環如果要去南站，如果是早上6:00，只需要22分鐘就可以到，如果是下午3:00的話，我就需要一個小時，還不一定能到，如果要在車流量多的時候，要讓救護車順利通過這是難事，都出過好幾次這樣的新聞。
事實上數據中心也面臨著這樣的難題，就是我們怎么去保障用戶數據體驗，同時又能提高資源的利用率，這一點現在只能是二選一， 對于很多互聯網公司來說，保障用戶體驗往往是第一位的。
谷歌做過一個例子，它們搜索引擎的響應時間從0.4秒增加到0.9秒，廣告的收入就會下降20％，這對于谷歌來說，是上百億美元的損失。
所以我們可以這樣理解，這種情況下它寧可讓數據中心利用率低一些，即使損失幾十億，但可以保障用戶的體驗。但誰也不想這樣白白的浪費。像谷歌有世界上最頂尖的工程師，像Jeff Dean和 Luiz Barroso等, 他們在不斷地從軟件層次去優化數據中心，通過在虛擬化、在操作系統、在分布式架構上提出了很多新的技術。
所以經過10年的掙扎，到2015年，他們得出一個結論——需要硬件支持。
這是在去年Dick Sites，也是原來在Dec做CPU，現在在參與數據中心的。他提出，現在數據中心服務器跟以前傳統PC不一樣，有很多新的問題、新的挑戰。包括怎么來消除多個應用間的競爭？怎么來實現很好的隔離？這些都很難，需要硬件去做支持，軟件都已經做了很多工作，已經盡力了。但是硬件上怎么來支持？
那我們來回顧馮諾依曼結構，這是一個非常優美的結構，但是它還不是完美。1978年圖靈獎獲得者John Backus，在他的演說當中直接指出馮諾依曼結構中，連接CPU和存儲的通道會成為瓶頸，我們稱之為馮諾依曼瓶頸。
事實上正如Backus預言，從1980年開始，CPU很完美的增長速度就開始出現不一致，所以出現了CPU每年50%速度的增長，而Memory只有7%，這樣的話導致了內存墻的問題，體系結構界怎么來解決？
體系結構界就是不斷地增長層次，一層、二層、三層，這樣來彌補CPU和內存間速度的匹配。所以到今天，我們存儲的層次已經變成這樣，有很多層。但是2000年之后，多核又出現了。多核的出現，把整個存儲層次又分成了兩塊，一塊把它放在核內、一塊把它放在核外，核內的話，隨著核的數目增加，它可以不斷地復制。
但這個時候，我們如果要運行兩個應用程序，跑在不同的核上面，我們可以看到，當它們的請求都送到核外共享的這些存儲層次的話，對于這些存儲層次來說，它們并不知道這些應用，誰更優先，誰更緊急，所以以第三級為例的話，它屬于一種無需共享的狀態，沒有辦法去區分到底哪個是來自更緊急的應用，但這種無序共享實際上會導致性能無法保障。
這里Intel做過一項實驗，如果在一個CPU上面我只跑一個應用程序，可以把任務填滿到三級cache里面去，每一個應用都可以跑地很好，但只要兩個應用程序一起，性能就會下降超過三倍以上，對于云計算環境來說，這樣的用戶體驗就非常糟糕。
如果回顧技術發展史的話，就會知道，今天數據中心遇到的問題，很多個應用，很多用戶，他們開始共享一個基礎設施，但他們的需求又不一樣，有的要求延遲，有的要求吞吐，所以帶來一些Qos的保障問題。但是谷歌的處理辦法是非常粗放式的，直接把它分成兩類（在線分離，離線分離兩類）。
但如果我們回顧一下因特網的話，90年代它也遇到這樣的問題，但因特網用了另外一套解決方案，它們就是標簽化網絡的機制。
什么是標簽化網絡？我的理解是4個方面。
第一個是細粒度對象，每一個網絡包增加一個標簽。
第二個是關聯語義，標簽的值是和用戶的需求直接相關的。
第三個是攜帶傳播，也就是這個標簽會在這個網絡包的的生命周期中去傳播。
第四個是轉發控制（見下）。所以某種程度上，實際上標簽代表了一種接口，它是把用戶的要求，通過標簽，傳到了底層的網絡設備。
事實上，在體系結構界，也意識到了，我們現在傳統的接口，體系結構界的接口，指令，虛擬內存，實際上它自己也意識到了自己的局限性。所以在2012年的時候發出了白皮書，在白皮書中明確指出，我們需要新的更高層次的抽象接口，來把程序員，來把編譯器的信息傳遞到底層硬件，這信息包括Qos,包括Security等等。
那么的我們的一個疑問是，有沒有可能網絡界的標簽化也用到體系結構內呢，答案是可以的。因為我們觀察到今天的計算機，實際上它本質上就是一個網絡，內部不同的部件之間，它們的通信都是通過包的形式傳播的。比如我們要傳一個DMA，從網卡把數據送到內存，這是一個典型的PCIe包，PCIe包就會通過網絡傳到I/O的橋上面，再轉成內部的包，再送到內存上去，線上網絡也是一樣。
所以我在2012年的時候當時就有這個想法，但一直沒有更深入的理解，后來回到計算所后，和各位老師多次交流，我們把它總結為標簽化馮諾依曼結構，它不是對馮諾依曼結構的革新，它只是在馮諾依曼結構上的一個擴展。它的特點，我想也是可以包括四方面：
第一個是細粒度對象（見下）；
第二個是關聯語義（見下）；
第三個是攜帶傳播（見下）；
第四個是軟件定義的（或者可編程的）標簽控制邏輯，這一點的話我們可以通過這種方式，來實現對整個內部請求的一個區分化的服務。
這是一個基本的idea。
所以，這個結構是希望在云計算的環境下，保證用戶的體驗，然后再把現在CPU的速度提升到翻一倍。我們經過實踐發現，這在排隊模型里面，有很好的支持，這樣做，通過優先權隊列，我們可以做到，在保證高優先級應用的響應時間，把整個系統負載提高，所以標馮結構實際上是通過標簽化機制實現了優先權對列。
不過這帶來了很多開放性問題。
比如說理論上，這種結構，對于RAM，PRAM等計算模型有沒有影響，我們是不是要發展新的計算模型？我們在硬件體系上來實現它呢？我們怎么來編程，怎么把用戶的需求來表達？……這有很多問題。
比較幸運的是，我們剛剛收到了科技部的支持，所以我們在未來在這個領域會有更進一步的研究，在過去幾年，實際上我們在體系結構層次上探索，下面我們簡單介紹一下我們在這方面探索的結果。
這是一個傳統的體系結構工作，我們做的工作實際上就是，我們做了一種新的結構，名字叫PARD，實際上
它首先就是把內部的請求都進行標簽化。
第二個在共享的部件上，我們加上控制、邏輯，同時把控制邏輯通過一個網絡的連接，形成一個控制平面。
再一個我們會增加一個編程接口（管理模塊），然后把所有的控制平面，控制邏輯，把它抽象成成一個樹形來進行操作。
所以想法很簡單，但我們把它真的實現，花了我們三年的時間，我們實現了兩個模擬器，一個軟件的模擬器，一個基于FPGA的原型，這些都可以開源，在網上可以下載到。
這是一個基于FPGA的原型（如下圖），它已經實現了這種基本的標馮結構。同時我們設計出了這么一個可編程邏輯的模版，它可以放到不同的部件里面去，所以在這個基礎上我們可以看看它是怎么用的？
我們可以看第一個例子，可以在標簽控制邏輯里面加上一點地址映射，那么我們就可以實現一個硬件實現的虛擬化，Hypervisor。我們不需要軟件的Hypervisor, 就可以把整個硬件標簽將計算機直接隔離成多個獨立的子機器，然后每個獨立的子機器（亦稱為分區）可以運用獨立的操作系統。
這一點在我們FPGA平臺上已經可以實現，我們有4core, 就可以把它隔成個分區，每個分區可以運行獨立的OS，而不需要Hypervisor。
而且分區之間的資源可以去動態地調節，通過對控制邏輯進行一個重編程，同時我們也可以做到在控制邏輯里面加上優先權隊列，優先權的控制，那么我們就可以去做一些性能的隔離，去做一些性能QoS的保障。比如我們的一個實驗，如果在緩存帶寬50%的情況下，加上優先權隊列，那么內存控制器的排隊時間，對于高優先級（任務）可以下降5.6倍，對于低優先級的（任務）只會增加33%，這是非常好的一個結果。
基于這樣的一種分配，我們可以做到CPU在滿負荷的情況下，依然可以保證它較快的反應時間，這是產生的一個初步影響力，我們發表了一些論文，也是得到了華為的一些支持，工業界的一些支持，同時很幸運地被去年Dagstuhl Seminar論壇介紹這方面的工作，包括這個工作也是作為華為全球合作代表成果之一入選華為2015年報。
標簽化馮諾依曼結構它的目標其實是：
去提高數據中心的資源利用率，降低數據中心的整個成本。
但是也有人問我？如果它以后真的會成為主流？關于數據中心成本降低了，對于設備商來說，他們愿意干嗎？為什么他們有動力去做呢？因為他們的收入好像會下降。
這里我想提一點，其實在200年前，英國的經濟學家杰文斯就問過這個問題，煤炭利用率提升了一倍，但會不會煤的產量下降呢？事實上，他發現，煤的產量增加了，因為更多的人會去用，所以技術的進步會去增加技術的消費量，我相信我們通過努力，去降低云計算的成本，也會進一步去促進云計算的快速發展。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
專題
