0
| 本文作者： 任然 | 2019-03-25 23:20 |
近年來，在萬物智聯的趨勢下，物聯網產業從概念炒作進入加速落地的實質性階段，端側數據處理能力與云端數據處理能力已變的同等重要，而AI芯片從“云端”走向“邊緣”已呈現出不可逆的趨勢。
不久前，中國科學院自動化研究所南京人工智能芯片創新研究院（AiRiA研究院）舉辦戰略發布會，公布了其“普惠AI，芯向邊緣”戰略。同時，AiRiA研究院、賽格導航和高新興物聯完成了三方戰略合作簽約儀式，三方將共推出基于低成本芯片的自動駕駛算法解決方案。
會上，AiRiA研究院常務副院長程健透露，該團隊自主設計的量化神經處理器（QNPU）定名為“Watt A1”，將在今年流片，預計可能在9~10月實現。活動現場還展出了AiRiA研究院的Q-box、Q-Engine等多項成果。會后，雷鋒網與AiRiA研究院常務副院長程健和AiRiA研究院副院長冷聰進行了進一步交流。
普惠AI，進軍邊緣端訓練
AiRiA研究院成立于2017年9月，依托中國科學院自動化研究所和南京市麒麟科技創新園，由中國科學院自動化研究所負責運營管理。
據介紹，AiRiA研究院的愿景是普惠AI，基于20余年技術積累，從軟（核心智能算法）、硬（AI芯片）兩方面進行布局，以期達到低功耗和高效性能，為各行各業創新科技賦能。
物聯網時代，消費者對身邊事物（端側）智能化的期待越來越高，各行各業對AI的需求呈現爆發式增長。比如在自動駕駛、安防、工業機器人等場景中。然而，AI能力需求上升之際，其作為一項賦能各個行業的通用技術，卻遲遲未能普及。
AI芯片走過云端訓練、云端推理、邊緣端推理后，正在對邊緣端訓練產生新的訴求。目前邊緣端訓練幾乎空白，Watt的定位正是面向邊緣計算的AI芯片，QNPU能在功耗、成本等受限的情況下保持高性能。
“研究院將一系列產品命名為Q，這是因為研究院的產品主要采用量化技術。這項技術具有低功耗和較高計算性能表現的特點，可以滿足邊緣計算對AI芯片有低成本、低功耗、低延時的要求。”冷聰表示，QNPU架構具有低位寬、計算架構和算子融合三大優勢。其中的一大創新是將乘法全部用移位操作來替代，盡量減少對存儲的訪問，進一步降低功耗和時間。
Watt A1采用臺積電28nm工藝，峰值算力達24Tops，幀效比達到6Tops/W，支持1080P四路視頻實時檢測，MobileNet圖像分類達每秒8000幀。該芯片采用量化模型壓縮技術，計算被極大程度簡化，實現了完整片內計算，打破了內存墻瓶頸，將功耗和成本顯著降低。
此外，程健還向雷鋒網介紹道，QNPU可以做到在片上處理大規模神經網絡，數據計算在片內處理，不必反復訪問外部存儲器，這避免了芯片計算領域備受關注的“內存墻”難題，可以大幅減少芯片自身的功耗，提高推理速度。
片內數據處理可以省卻大量外部存儲，將進一步縮小芯片的面積，所以該芯片流片后面積會相當小。“如此設計，功耗和成本都保持很低，計算能力依然保持較高，因此QNPU非常適合邊緣計算對低功耗、低時延的計算場景。”程健說道。
據悉，QNPU的下一步計劃就是向邊緣端訓練進發，然后實現“自主進化”的目標。
除Watt A1芯片外，AiRiA研究院還推出了模型壓縮工具QTrainer和深度學習推理引擎QEngine。
QTrainer通過低比特量化和剪枝在實現壓縮功能的同時保持較高性能表現，支持客戶開發自定義應用。
冷聰對雷鋒網說明道，量化技術并非AiRiA研究院所獨有，但在量化精度上達到3bit甚至更低是其他團隊難以比擬的優勢。“8bit已經很不錯了，但是QTrainer的量化結果可以做到3bit、2bit甚至1bit。”
另一方面，QEngine提供算法專家定制合作和免費技術支持，不僅支持QNPU，也支持客戶自研硬件。與QTrainer及Watt A1一起，構成了普惠AI全棧式解決方案。
“AiRiA研究院是AI芯片的后來者，結合了自身優勢并選擇了發展前景最好的邊緣計算方向。”程健對雷鋒網說，“從這里切進去，一方面源于我們對市場的研判，一方面我們有十多年的技術積累來支撐我們的判斷。”
他指出，AI芯片技術和市場正在快速變革，其應用與政策環境都帶來了多重利好。芯片國有化關乎國家安全問題，無論是企業還是高校、研究院，都在探索AI芯片研究和落地的新思路。
隨著物聯網的繁榮及5G商用的迫近，邊緣計算越來越成為熱門，大有與云計算平分秋色之勢。各大計算廠商、云業務服務商也紛紛面向邊緣計算布局。過去的兩年間，芯片公司、云計算巨頭、AI算法公司等紛紛涌入云端訓練與推理以及邊緣推理領域，而邊緣訓練還是新興領域，明顯的格局尚未形成。
程健告訴雷鋒網，邊緣訓練的一大好處是可以在邊緣設備用實時實地數據進行訓練個性化模型，同時無需將數據傳輸到云端，保障了數據隱私安全。邊緣訓練要解決的重點包括邊緣端的小樣本數據，以及在邊緣端不標或少標數據的情況下實現無監督或半監督學習。
程健表示，AiRiA研究院會持續針對這些難題進行研究和探索。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
