^{<sub id="jgr5k"></sub>}

清華大學(xué)Thinker團(tuán)隊(duì)在VLSI 2018發(fā)表兩款極低功耗AI芯片

本文作者：奕欣

2018-06-27 10:29

導(dǎo)語：Deploy AI Everywhere!

雷鋒網(wǎng) AI 科技評(píng)論消息，6 月 18 日至 22 日，2018 國際超大規(guī)模集成電路研討會(huì)（2018 Symposia on VLSI Technology and Circuits，簡稱 VLSI）在美國檀香山召開。雷鋒網(wǎng)了解到，VLSI 國際研討會(huì)始于 1987 年，是全球先進(jìn)半導(dǎo)體與集成電路領(lǐng)域的頂級(jí)會(huì)議，與 ISSCC 和 IEDM 并稱微電子技術(shù)領(lǐng)域的「奧林匹克盛會(huì)」。

清華大學(xué) Thinker 團(tuán)隊(duì)在此次會(huì)議上發(fā)表了兩款極低功耗 AI 芯片（Thinker-II 和 Thinker-S）的相關(guān)論文，分別在「機(jī)器學(xué)習(xí)處理器」分會(huì)場（C4）和「機(jī)器人與機(jī)器學(xué)習(xí)應(yīng)用」分會(huì)場（C13）進(jìn)行了報(bào)告。此外，Thinker-S 芯片受邀在大會(huì)的 DEMO Session 進(jìn)行了現(xiàn)場演示。論文作者包括：尹首一，歐陽鵬，楊建勛、鄭時(shí)軒、陸天翼、宋丹丹、李秀冬、劉雷波、魏少軍等。

Shouyi Yin, Peng Ouyang, Jianxun Yang, Tianyi Lu, Xiudong Li, Leibo Liu, Shaojun Wei, An ultra-high energy-efficient reconfigurable processor for deep neural networks with binary/ternary weights in 28nm CMOS, Symposia on VLSI Technology and Circuits, Honolulu, USA, 2018.
Thinker-II 芯片報(bào)告現(xiàn)場
Shouyi Yin, Peng Ouyang, Shixuan Zheng, Dandan Song, Xiudong Li, Leibo Liu, Shaojun Wei, A 141 uW, 2.46 pJ/Neuron Binarized Convolutional Neural Network based Self-learning Speech Recognition Processor in 28nm CMOS, Symposia on VLSI Technology and Circuits, Honolulu, USA, 2018.

Thinker-S 芯片報(bào)告現(xiàn)場

一、研究背景

近年來，深度學(xué)習(xí)的突破性發(fā)展帶動(dòng)了機(jī)器視覺、語音識(shí)別以及自然語言處理等領(lǐng)域的進(jìn)步，引起了學(xué)術(shù)界和工業(yè)界極大的開發(fā)熱情和研究興趣。然而，由于深度神經(jīng)網(wǎng)絡(luò)巨大的存儲(chǔ)開銷和計(jì)算需求，功耗成為 Deploy AI Everywhere 的主要障礙，人工智能算法在移動(dòng)設(shè)備、可穿戴設(shè)備和 IoT 設(shè)備中的廣泛應(yīng)用受到了制約。

二、架構(gòu)創(chuàng)新

為克服上述瓶頸，清華大學(xué) Thinker 團(tuán)隊(duì)對神經(jīng)網(wǎng)絡(luò)低位寬量化方法、計(jì)算架構(gòu)和電路實(shí)現(xiàn)進(jìn)行了系統(tǒng)研究，提出了支持低位寬網(wǎng)絡(luò)高能效計(jì)算的可重構(gòu)架構(gòu)，設(shè)計(jì)了神經(jīng)網(wǎng)絡(luò)通用計(jì)算芯片 Thinker-II 和語音識(shí)別芯片 Thinker-S。Thinker-II 芯片運(yùn)行在 200MHz 時(shí)，其功耗僅為 10 毫瓦；Thinker-S 芯片的最低功耗達(dá)到 141 微瓦，其峰值能效達(dá)到 90TOPs/W。這兩款芯片有望在電池供電設(shè)備和自供能 IoT 設(shè)備中廣泛應(yīng)用。

Thinker-Ⅱ芯片中設(shè)計(jì)了兩種二值/三值卷積優(yōu)化計(jì)算方法及硬件架構(gòu)，大幅降低了算法復(fù)雜度、有效去除了冗余計(jì)算。此外，針對由稀疏化帶來的負(fù)載不均衡問題，設(shè)計(jì)了層次化均衡調(diào)度機(jī)制，通過軟硬件協(xié)同的兩級(jí)任務(wù)調(diào)度，有效提升了資源利用率。Thinker-II 芯片采用 28nm 工藝，通過架構(gòu)和電路級(jí)重構(gòu)，支持神經(jīng)網(wǎng)絡(luò)通用計(jì)算。清華大學(xué)Thinker團(tuán)隊(duì)在VLSI 2018發(fā)表兩款極低功耗AI芯片

Thinker-II 芯片總體架構(gòu)

Thinker-S 芯片中設(shè)計(jì)了一種基于二值卷積神經(jīng)網(wǎng)絡(luò)和用戶自適應(yīng)的語音識(shí)別框架，同時(shí)利用語音信號(hào)處理的特點(diǎn)，提出了時(shí)域數(shù)據(jù)復(fù)用、近似計(jì)算和權(quán)值規(guī)整化等優(yōu)化技術(shù)，大幅度優(yōu)化了神經(jīng)網(wǎng)絡(luò)推理計(jì)算。Thinker-S 芯片采用 28nm 工藝，單次推理計(jì)算中每個(gè)神經(jīng)元上消耗的能量最低僅為 2.46 皮焦。

清華大學(xué)Thinker團(tuán)隊(duì)在VLSI 2018發(fā)表兩款極低功耗AI芯片

Thinker-S 芯片總體架構(gòu)

三、成果展示

清華大學(xué)Thinker團(tuán)隊(duì)在VLSI 2018發(fā)表兩款極低功耗AI芯片

Thinker-II 演示系統(tǒng)

清華大學(xué)Thinker團(tuán)隊(duì)在VLSI 2018發(fā)表兩款極低功耗AI芯片

Thinker-S 在 VLSI 2018 大會(huì)現(xiàn)場演示

四、總結(jié)

清華大學(xué) Thinker 團(tuán)隊(duì)近年來設(shè)計(jì)了 Thinker 系列人工智能芯片，相關(guān)成果相繼發(fā)表在 VLSI Symposia、ISCA、IEEE JSSC 等頂尖學(xué)術(shù)會(huì)議和期刊上，受到了學(xué)術(shù)界和工業(yè)界的廣泛關(guān)注。此次的研究成果，專注于滿足移動(dòng)設(shè)備、嵌入式設(shè)備以及物聯(lián)網(wǎng)中人工智能計(jì)算需求，有望在電池供電以及自供能智能設(shè)備中獲得廣泛應(yīng)用，向著 Deploy AI everywhere 的目標(biāo)更進(jìn)一步。

清華大學(xué)博士生涂鋒斌：設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)硬件架構(gòu)時(shí)，我們在思考些什么？（上） | 硬創(chuàng)公開課總結(jié)

清華大學(xué)博士生涂鋒斌：設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)硬件架構(gòu)時(shí)，我們在思考些什么？（下） | 硬創(chuàng)公開課總結(jié)

在 6 月 29 日至 7 月 1 日舉行的 CCF-GAIR 2018 上，清華大學(xué)微電子所所長魏少軍教授將作為 AI 芯片專場的學(xué)術(shù)嘉賓蒞臨現(xiàn)場做大會(huì)報(bào)告。

清華大學(xué)Thinker團(tuán)隊(duì)在VLSI 2018發(fā)表兩款極低功耗AI芯片