0
| 本文作者： 利榮 | 2020-08-16 08:45 | 專題：CCF-GAIR 2020 全球人工智能與機器人峰會 |
雷鋒網(wǎng)按：2020 年 8 月 7 日，全球人工智能和機器人峰會（CCF-GAIR 2020）正式開幕。CCF-GAIR 2020 峰會由中國計算機學(xué)會（CCF）主辦，香港中文大學(xué)（深圳）、雷鋒網(wǎng)(公眾號：雷鋒網(wǎng))聯(lián)合承辦，鵬城實驗室、深圳市人工智能與機器人研究院協(xié)辦。
8月8日，本次峰會智能駕駛專場上，是騰訊產(chǎn)業(yè)安全運營部總經(jīng)理呂一平為與線上線下的會者們帶來了一場“安全左移，智能網(wǎng)聯(lián)安全從研發(fā)做起”的精彩報告。
呂一平強調(diào)，信息安全應(yīng)該成為智能網(wǎng)聯(lián)汽車安全管理非常重要的一個部分。
呂一平提到，汽車信息安全領(lǐng)域現(xiàn)在還沒有很好的測評體系，對車的安全來講，一個維度是設(shè)計安全，整個選型的時候需有必要的安全考量。如果設(shè)計階段就可以考慮更多安全因素的話，就可以規(guī)避很多安全問題，而且解決安全問題的成本會比較低。
以下是呂一平的演講全文，雷鋒網(wǎng)新智駕進行了不改變原意的編輯：
大家如果對我們了解不是很深入的話，電影《速度與激情8》可以給大家更直觀的感受，其中很多車輛可以被黑客控制，這就是未來的信息安全。當(dāng)我們把汽車的控制權(quán)交給系統(tǒng)以后，信息安全就給車輛帶來了挑戰(zhàn)。
過去我們分享了很多信息安全對車輛的重要性的觀點，今天就不重復(fù)了。首先我要明確一個觀點：汽車是對質(zhì)量、品質(zhì)等把控非常嚴(yán)謹(jǐn)?shù)男袠I(yè)，新技術(shù)在汽車上的應(yīng)用情況一定是技術(shù)先行，然后國家相關(guān)的規(guī)范、標(biāo)準(zhǔn)才緊隨其后，最后才是合規(guī)性的認(rèn)證等流程。
簡言之，技術(shù)應(yīng)用一定是比規(guī)范、標(biāo)準(zhǔn)和認(rèn)證更超前。
對信息安全、或者對網(wǎng)絡(luò)安全來講，在汽車領(lǐng)域又是一個新領(lǐng)域，因此其技術(shù)也會比規(guī)范更超前。
那么，我們?nèi)绾伟研畔踩鳛橘|(zhì)量控制的一部分納入質(zhì)量管理體系里面？
我認(rèn)為信息安全是整車、甚至是智能駕駛的一個體系。剛剛滴滴也提到，在滴滴整個自動駕駛框架里面，信息安全也是很重要的一部分。
我今天的演講主題為什么是 “安全左移”？
很多汽車專家都在問同樣的問題—如何用更小的代價、更可控的成本和投入來解決信息安全問題、從而確保車聯(lián)網(wǎng)引入自動駕駛之后是安全的。
所以，我今天帶來了我們自己的一些觀點和大家分享。
目前在汽車信息安全領(lǐng)域還沒有很好的測評體系，我們再做了大量研究和實踐以后總結(jié)出了自己的體會和心得：對于汽車的安全來講，一個維度是設(shè)計安全，整個選型的時候要有安全的考量。另一個維度是汽車研發(fā)。
值得一提的是，現(xiàn)在汽車研發(fā)分兩個部分，越來越多OEM團隊做自己軟件的代碼，以及目前很火的軟件定義汽車。
無論是國際車廠和國內(nèi)車廠，他們都成立了軟件公司或者軟件開發(fā)子公司，目前已經(jīng)形成了這樣的趨勢，就是Tir1的研發(fā)工作逐漸轉(zhuǎn)移到OEM身上。
那么，我們在和他們合作的過程中發(fā)現(xiàn)，很多問題和設(shè)計相關(guān)，也與工程實踐相關(guān)。
如何提升智能網(wǎng)聯(lián)的設(shè)計和工程實踐呢？
從上圖可以看出，如果在設(shè)計層面、實踐層面做的好的話，車輛的信息安全方面就會更安全一些。
更重要的是，安全領(lǐng)域有一個理念，如果設(shè)計階段就可以考慮更多安全因素的話，就可以規(guī)避很多安全問題，同時解決安全問題的成本會比較低。
對于一輛汽車而言，不管是車端、云端還是移動端，都存在大量入口。以前汽車沒有這些問題，因為汽車最開始跟互聯(lián)網(wǎng)沒有任何聯(lián)系，也沒有接口可以跟世界做交互。
為什么汽車現(xiàn)在成為了我們的關(guān)注點呢？
因為現(xiàn)在一輛車上有太多的接口，不管是遠距的接口，還是物理的接口，都會跟世界產(chǎn)生聯(lián)系。
比如說從WIFI到藍牙、很多遠距的接口和物理的接口，以及通過充電樁進行交互，甚至包括L2、L2+自動駕駛系統(tǒng)，以及現(xiàn)場專家提到的車路協(xié)同，目前都跟車有了很多交互。
其實，上述這些“點”也成為攻擊車輛、讓車輛產(chǎn)生信息安全問題的入口。騰訊安全科恩實驗室在過去幾年通過大量接口，比如在3G、4G網(wǎng)絡(luò)上和ADAS上，都證明了這些對外交互的接口可以對車輛信息安全造成影響。
例如，2016年我們第一次研究了特斯拉并公布了成果，這也是一系列安全問題造成的結(jié)果。
因為特斯拉是比較早引入了軟件定義汽車架構(gòu)的OEM，其絕大部分代碼都是自研，但特斯拉在2016年出現(xiàn)的設(shè)計問題偏多。
具體包括，在未經(jīng)通過授權(quán)的遠程控制當(dāng)中可以看到瀏覽器的版本很低，以及系統(tǒng)內(nèi)核也存在了很多系統(tǒng)漏洞等問題。
值得一提的是，OTA對固件完整性和安全性的校驗是非常重要的，但是2016年特斯拉沒有加入這個強校驗，導(dǎo)致最后我們可以替換特斯拉車聯(lián)網(wǎng)關(guān)的物件，最終我們可以向特斯拉總線發(fā)送各種控制命令，導(dǎo)致了特斯拉的問題。
這些問題如果在設(shè)計階段就考慮的話，其實是可以規(guī)避的。
當(dāng)然特斯拉有一個好處，他們比較早的考慮到了可以通過設(shè)計技術(shù)來升級軟件，同時他們都是自研大部分軟件。
2016年我們向特斯拉報告這些問題以后，他們快速的把這些缺陷都彌補了，比如把瀏覽器升級到了最新、內(nèi)核也進行了升級，以及在網(wǎng)關(guān)OTA也進行了代碼簽名，以此能夠保證在任何一個OTA的時候有一個強安全校驗來保證安全性。
在我們安全領(lǐng)域有句俗語，“道高一尺、魔高一丈”。意思是安全圈子里面各有各的能力和手段。
因此，我們接下來繼續(xù)對特斯拉進行深入分析以后，在其代碼實現(xiàn)層面上又發(fā)現(xiàn)了新的問題，并且發(fā)現(xiàn)了特斯拉自己都沒有發(fā)現(xiàn)的漏洞。
特斯拉在網(wǎng)關(guān)上雖然增加了簽名校驗，但是在工程實踐上的邏輯是有問題的。
更有意思的是，特斯拉在2016年和2017年最大的區(qū)別就是，2016年沒有考慮到設(shè)計層面的問題，到了2017年，其在設(shè)計層面已經(jīng)做的非常好了，但是在工程實踐上又有小問題出現(xiàn)。
2020年，特斯拉的整體能力與2017年相比又有了很大的進步。現(xiàn)在他們是不僅在安全設(shè)計角度已經(jīng)做的很好，在工程實踐角度也做得很好，這是值得中國汽車從業(yè)人員參考的。
總結(jié)可以發(fā)現(xiàn)，一方面是軟件定義汽車的比重越來越高，另一方面是隨著自動駕駛體系的引入，當(dāng)真正要把駕駛決策交給系統(tǒng)的時候，期待的是它要比人更安全。但如果信息安全沒有做好的話，不一定會比人的決策更安全。
2019年我們做了一個和自動駕駛相關(guān)的研究，如果自動駕駛系統(tǒng)出現(xiàn)問題的話，會有什么危害？
看了視頻之后大家就有比較直觀的感覺，里面涉及兩類問題，一類是自動駕駛與人工智能算法對抗，另一類是車道識別。
當(dāng)然特斯拉也有炫技部分，其中前置攝像頭可以感知車道線，此外特斯拉全視覺的高級輔助駕駛方案沒有涉及到毫米波雷達、激光雷達等傳感器。
不過，我們研究了他們的算法和神經(jīng)網(wǎng)絡(luò)以后，在地面上布置了幾個干擾點，就可以引領(lǐng)他們進入錯誤的車道。這也涉及到人工智能算法決策的對抗技術(shù)。
日前，一輛特斯拉Model 3在臺灣高速公路上直接撞向了一輛側(cè)翻在地的廂式貨車。事故發(fā)生當(dāng)時前方的白色卡車是橫向插入特斯拉所在車道。事故發(fā)生前，這輛特斯拉Model 3開啟了自動輔助駕駛，但駕駛員沒有專注前方道路，因此造成事故發(fā)生。也就是說，特斯拉自動駕駛的傳感器并沒有發(fā)現(xiàn)前方有一輛側(cè)翻的貨車。
通過對特斯拉的研究發(fā)現(xiàn)，在安全領(lǐng)域又有一個新的攻擊角度，就是特斯拉上面的APE模塊，這本身是跟互聯(lián)網(wǎng)發(fā)生交互的。因為車輛是聯(lián)網(wǎng)的，如果我們把自動駕駛的角色搞定之后，通過一個游戲機的手柄就可以控制車輛。
那么，我們在算法層面上如何更安全、又如何規(guī)避更多的樣本對抗問題？如何保證自動駕駛系統(tǒng)安全可以做的更好？
當(dāng)我們把這些問題報給特斯拉以后，比如系統(tǒng)安全的問題，特斯拉很快給了回應(yīng)，稱很好解決。在我們報告問題一個月之后，特斯拉官網(wǎng)就做了調(diào)整，他們就自動駕駛算法、樣本對抗修復(fù)的過程與我們進行了溝通。
與此同時，特斯拉也給了一種說法，啟動L2級自動駕駛時，駕駛員的手不能脫離方向盤，要高度保持關(guān)注度。當(dāng)然，這是他們看到我們報告的問題之后進行的策略調(diào)整。
當(dāng)自動駕駛引入以后，特別是算法層面的問題，其修復(fù)成本和代價會變高。因為，調(diào)整算法意味著要重新采集數(shù)據(jù)、重新做數(shù)據(jù)訓(xùn)練、重新做仿真、路測，最后再做驗證算法。
剛才滴滴也提到了安全問題，但是他們關(guān)注的是行駛安全，我們把駕駛交給系統(tǒng)以后，對算法進行任何的調(diào)整，都要進行大量的實踐。
所以，在自動駕駛系統(tǒng)設(shè)計階段，安全性的考量會變的更加重要，如果在設(shè)計階段我們不去考慮這些問題，應(yīng)用之后再做修復(fù)和調(diào)整的話，代價會比系統(tǒng)級帶來的安全問題更高。
對于智能網(wǎng)聯(lián)汽車而言，常見的問題有：
如上圖所示，越往左邊，整個設(shè)計架構(gòu)能夠解決的問題，大家在設(shè)計的時候就盡量要考慮這些問題、并且解決掉。右邊的是比較困難的，可以選擇在工程實踐階段解決這些問題。
簡言之，在設(shè)計方面解決的問題越多，成本就會越低。
如果在設(shè)計層面把安全做好，對于自動駕駛而言就是原生安全。
對于汽車而言，是一個碎片化非常嚴(yán)重的行業(yè)。面對價格體系千差萬別的汽車行業(yè)，要把重點要放在人身安全上。
那么，如何保證人身安全？
目前的自動駕駛汽車操作系統(tǒng)不統(tǒng)一，硬件也不統(tǒng)一，整個供應(yīng)鏈也處于非常碎片化、甚至非常復(fù)雜的階段。此外，它不可能像PC和移動一樣有通用的操作系統(tǒng)。
在我們看來，如果在設(shè)計階段，自動駕駛系統(tǒng)本身安全性做的很好的話，就可以解決該問題。
針對上述問題，如何應(yīng)對和實踐就變得非常重要。
首先，在研發(fā)階段引入更多的工具來解決這個問題，該措施在互聯(lián)網(wǎng)領(lǐng)域已經(jīng)使用很多了，比如可以通過監(jiān)控來解決這個問題。
未來，自動駕駛算法的研發(fā)和迭代的速度與原來都會不同，包括OTA功能引入以后，很多軟件迭代的速度也會越來越快。
所以從安全角度來講，需要考慮當(dāng)原來傳統(tǒng)的V Model逐步轉(zhuǎn)向快速迭代的軟件定義汽車的時候，如何在研發(fā)過程當(dāng)中考慮到安全實踐是非常重要的。
其實，我們也有一些實踐方法來保證軟件快速迭代當(dāng)中的安全。但是汽車行業(yè)有自己的特殊性，很多方法需要在汽車行業(yè)里面做深入的實踐，同時要契合汽車行業(yè)的實際情況。
騰訊作為汽車快速數(shù)字化轉(zhuǎn)型的助手，有以下建議：
人的層面：先做到“有專門團隊負(fù)責(zé)信息安全”，再考慮“信息安全是每個人的責(zé)任”；找專業(yè)的人做專業(yè)的事情；
技術(shù)層面：將PC、、移動端已經(jīng)成熟的完全技術(shù)、結(jié)合具體業(yè)務(wù)場景定制、按優(yōu)先級順序應(yīng)用到自能網(wǎng)聯(lián)中；選擇合適的自動化工具，應(yīng)用到安全開發(fā)流程中。
流程層面：安全左移，大多數(shù)安全隱患可以在需求設(shè)計階段層面解決，低成本高回報；通過測試驗證需求是否滿足，發(fā)現(xiàn)實現(xiàn)安全問題。
總之，強調(diào)一個觀點就是信息安全應(yīng)該成為智能網(wǎng)聯(lián)汽車安全管理非常重要的一個部分。
雷鋒網(wǎng) 雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
專題
本專題其他文章
