0
之前雷鋒網寫過，百度 All in AI 后，百度安全搞出了一個 OASES 智能終端安全生態聯盟。
現在，不只是這個聯盟，從這幾個月百度安全的動向以及雷鋒網與百度安全的人士聊的情況看，百度安全要聚焦整個大百度“AI”的戰略方向已經不算“趨勢”了，他們就是要搞“AI 安全”。
這次，雷鋒網宅客頻道與百度安全事業部總經理馬杰對談，以期梳理百度安全打算如何推進“AI 安全”，以及他們現在到底做到了什么程度。
1.雷鋒網：過去幾個月，你在多少重大場合把 IoT 和AI 安全掛在嘴邊？你們之前說的是智能終端安全，什么時候開始統一 AI 安全的說法的？
馬杰：我覺得在大場合都不下10次，就是這種大會上，小的肯定就更多了。未來 AI 安全的落地應該是在智能終端上， 所以，我們整體系統化來說“AI 安全”是從 OASES 聯盟發布開始。
2.雷鋒網：為什么有這種轉變？
馬杰：“AI” 是一個現在被炒熱的名詞，你回過頭看智能，實際上智能又是一個之前被過度消費的名詞，所以本來我覺得 “AI” 不就是一個對應的詞嘛，但因為“智能”被過度消費后，“智能”反而變成了一個很狹窄的詞，就是所有帶一點計算能力的、能根據具體環境做決策的都叫智能。恨不得里面有一個簡單的 PLA 邏輯過程什么的，都可以叫智能，過程稍微復雜一點，帶一個Arm，有一點程序，就叫智能了。
我們后來提這個東西的時候，其實在我們心中應該是等價的東西，但是可能看在什么場景下用這個詞更合適。
在 OASES 聯盟時，我們說的是智能終端，因為現在這個階段大部分所謂的 AI 設備其實還只在智能這個階段，并沒有真正把深度學習技術應用到其中。我覺得可以這么劃分一下，以前是帶計算能力的，可以狹義地稱之為智能，帶深度學習的，可能才能被叫做“AI”。如果這樣劃分，目前絕大部分設備還停留在智能階段，但是正在從智能走向未來。
我們當時做聯盟時，是說先解決行業的現實問題，先解決智能終端問題，肯定是放眼 AI，而且我們相信這些設備也會 AI 化，雖然它的本地計算能力有限，但是通過聯網后，很多深度學習的東西就可以引入了。
3.雷鋒網：百度安全所說的AI 安全，到底囊括了哪些范圍，怎么規劃的？
馬杰：百度的戰略是成為一家 AI 公司，既然百度要做 AI，大家就是一個生態系統的。
如果這里的安全問題不解決，百度在上面再做什么東西，根基就是不安全的，我們希望跟這些伙伴一起，從基礎開始解決安全問題。
這樣就可以看出來里面要解決哪些具體問題，不管是所謂小的 IoT 設備，還是大一點的智能、AI設備，它有稍微強一點的計算能力，可聯網，從底層操作系統開始，就會有問題，只不過小設備可能是一些RTOS的東西，大一點的可能是安卓系統。
但是，所有平臺都有平臺這一層的安全問題，平臺本身在內核這一級，可能就有很多歷史上的安全問題沒有解決。我們看到大量的智能設備用的可能是低版本的安卓、Linux，都不需要高手破解，照著漏洞列表去看一看，直接就可以黑進去了。這是底層的問題，而且因為這個底層還包括了芯片廠商、方案商、生產廠商，整個產業鏈條很長，本來這些東西也不太好解決。
我們在推一些方案去做這件事，就像 OASES 里非常重要的一塊是解決漏洞的熱修復問題。
不說上面有沒有跑百度智能的東西，先把底層一起弄安全了再說。我們得先造一個基石，而且為了讓大家信任——我們做這件事是真正開放的心態，我們把我們的代碼向這些伙伴直接開放。
這是操作系統的一層，可能再往上，到了操作系統上層的應用層，還會出現越來越多的問題，因為操作系統是幾個廠商生產的，還可以去枚舉它有多少問題，但是一旦到應用層，就是一個沒有邊界的東西了，它可能有無窮多的可能性的問題，而且應用層迭代更快，更容易出問題。
一方面，因為廠商應用更多，迭代更頻繁，它會變得更復雜，但是另一方面，如果你底下基石是穩的，你可能就可以有一些方案限制上層的漏洞影響范圍，我們后面會出一些解決方案。
前段時間，我們也發了一個原型的版本，做了一個安全的 Linux 發行版，開源給整個社區。當底層穩固后，如何用一些方案讓上層不容易產生內存泄漏、溢出，看看能不能解決，或者至少不會讓安全問題出現時，給整個系統帶來安全沖擊。
這是上層系統層面，然后這個設備開始聯網，聯網時就有安全傳輸問題、證書認證問題，其實像去年我們有安全研究員去過不同的比賽，會上發過我們對一些鎖的破解，但破解的目的不是為了“破解”，是為了研究有什么樣的安全問題。
實際上，很多次破解背后，本質是安全傳輸沒有做好，很多廠商已經意識到他們需要做安全傳輸，但是因為不是專業做安全的人，所以他們對安全傳輸的某一些細節沒控制好，就留下了這個漏洞。其實他們明明已經想到這件事情，但沒有做到嚴絲合縫，只要有一個縫，就會被別人鉆了空子。
我們也在看，是不是可以把這個門檻降得更低，讓大家不需要那么多的專業知識，就能把這個東西做得嚴絲合縫。
證書認證、加密傳輸是管道上的問題，再往前到了云端，又是一大塊問題。大家常見的問題，如云端服務器被 DDoS ，這是一個我們又要留心的問題。
從操作系統到應用，再到管道、云，這是一個漫長的戰線，傳統安全的人對每個環節都很熟悉，但是要把它拼在一起，才能形成一個完整的東西，而且得把它組裝得嚴絲合縫，不然整個體系白做了。
4.雷鋒網：要做 AI 安全的話，你們怎么把以前做的事情利用起來？
馬杰：AI 安全是一個很復雜的體系，在歷史上，我們為了保護端、管道、云，已經逐漸積累了非常多的單點安全能力，到了這個時代，忽然發現這些曾經做過的事情沒白做。當年做這個東西，端上很多是為了移動、云做的事，現在到了 AI ，因為整個生態鏈太長了，所以居然全都串上了，而且幾乎歷史上的東西沒有太多浪費的，都串到了整個體系里去。
但是，我發現還有很多不足，剛才我說的模型問題，這些是全新的挑戰，當然我們曾經有很多成熟東西里的人力，肯定可以撤出一部分來，去做新研究，解決一些 AI 上的特定問題，然后再把我們曾經做好的東西串一串，打一個包，形成適用的解決方案，這些能力就都存在了。
我們現在內部有很多個team在做單點能力，分散在各個不同的團隊里，然后我們有針對度秘、車的團隊，他們把我們內部各種能力重新打包、改造，形成解決方案，跟他們做適配，最后讓我們的各種單點能力能聚合成一個可以替他解決問題的方案。
5.雷鋒網：百度的 AI 安全能力現在只對內輸出嗎？
馬杰：對百度來說，安全不是它的核心商業模式， AI 是未來的商業研究。
其實我們不太區分內外，而是希望能讓整個社區，或者生態系統能更安全，讓大家在一個共同的基石上做上面的事情，這才是現實的，你至少要讓用戶有信心用這樣的東西，讓他不覺得在家里放一堆智能設備是有被竊取隱私、被人入侵的風險，我覺得這是大家共同的利益。
在這個上面，首先從大思路來講，不太會去分內外，而是更愿意共同把這個環境先做好。
當然，有一些新的東西在不成熟時，我們也不好意思拿到社區分享，所以我們會稍微做到像一個beta版才拿出來，我們可能希望做得更成熟一點，再拿出來給大家。包括我剛才說的 OASES 聯盟提供的系統熱修復技術，我們也是做了比較長的一段時間后，才拿出來給大家的，感覺它比較穩定，可以商業化使用時拿出來，拿一個水平太低的東西出來也不符合我們的定位。
但是，有一些東西我們會用開源的形式開放得稍微早一點，讓大家共同建設，比如，針對內存安全的Linux 發行版，這個東西還是一個比較初級的想法，我們做了一些基礎工作。如果真正做一個好的版本，可能需要大量的工作。我們拿到社區里，大家看看能不能一起做。
6.雷鋒網：你剛才說的這種不分內外的生態性合作，包括之前百度和小米要在IoT平臺進行的合作嗎？百度安全有給他們做一些這樣的東西嗎？
馬杰：最近百度有兩個大的合作宣布，一個是小米，一個是華為。
其實百度安全這邊一直都是蠻開放的心態，遠在這次合作之前我們就給小米輸出了很多能力，小米路由器里就有我們集成的安全能力，合作宣布之后，肯定會推動更多的東西。
華為也是，OASES聯盟宣布成立時，我們跟華為的合作已經做了一年多，我覺得只要是正確的生態應該做的事情，自然就可以共同推這些事情。
7.雷鋒網：還和哪些廠商有合作？
馬杰：我覺得這些都不需要說名字，因為基本上各種手機端的廠商，我們肯定也有合作，本身度秘在提供非常多的能力，它的能力到哪兒，我們的安全技術就得跟到哪兒。
8.雷鋒網：AI 安全還有哪些新挑戰？
馬杰：除此之外，還有很多新的挑戰，在一些安全會上我也提到了，這是在 AI 領域里新出現的挑戰，像模型安全，這是傳統安全里大家曾經不太關注的領域，我在每個會上都跟大家介紹這個問題，大家慢慢會比以前重視，因為不管是自動駕駛、人臉識別，這些東西都可以針對其深度學習算法，做定向攻擊，讓它明明把一個人理解成另外一個人，明明是這樣一個路標，理解成另外一個路標，這些都是傳統安全領域所不涉及的安全性。
像這樣新的在 AI 領域出現的挑戰，不止一個。剛才我說的都是針對機器視覺的，有可能還有針對語音、各種學習算法的，挑戰也非常多。
為什么專門提這個事情？它既有傳統領域類似于一個集大成體系的工作，又有全新的挑戰，所以它有整個 AI 領域的特點，不管是所謂的IoT設備、智能設備，還是 AI 設備，不管它叫做什么，都有這些層面的問題。
9.雷鋒網：你之前做的一些研究工作，有沒有還沒想好怎么放進來的技術，有這樣的例子嗎？
馬杰：有，比如我們原來有一個特別有趣的能力，就是云加速，云加速其實是一個在邊緣網絡上做計算和加速的能力。這些能力以往服務于中國幾十萬個網站，包括百度有很多重要的業務也都 base 在這上面，這個東西我們現在還沒有讓它進入所謂 AI 的生態，不管是自己的產品，還是伙伴的產品用上，但是這個東西肯定是有用的。
我們還在探索怎么用，因為 AI 設備分布如此之廣泛，我覺得在邊緣網絡上提供一些能力，可能比放在自己設備上更省電。這是比較容易直接想到的，隨著做得更深度，可能還有很多沒有想到的用處。
10.雷鋒網：你有這么多team，哪些是你最重要的team？
馬杰：大家特別容易去想這樣的問題。
可能在移動時代，我們說 PC重要，還是移動、云重要？到了AI，突然發現所有的東西全串在一起，戰線史無前例地長，以至于哪個環節都不能斷掉。這些東西我們曾經做過，所以可能已經不需要花那么重的兵力布局，我們只需要做一些適應性改造，重要的兵力會放到以前沒有做過的研究里，但是你說它重不重要？它絕對是同樣重要的，安全跟別的產品最大的區別是，安全是筑長城，做產品是單點突破，做安全的同學都有這個困擾。
所以，做一個安全解決方案時，你必須構建長城，而且還得做得嚴絲合縫，所以真的沒辦法說哪個地方更重要，因為這個環節斷了，整個就失效了，但是在人力的投入上會有傾向性。
11.雷鋒網：2018 年你希望能做到哪個程度？
馬杰：我希望的目標在 2018 年可能還達不到，因為我希望的是——整個生態能重視，至少在基本的層面上，安全能達到一個可接受的水平，但是這個事情實際上現在遠遠不是這樣的。即便我們做了這些努力，我們開源，跟大家分享技術，百度的 AI 構建在這個生態之上，所以我們怎么把底下先弄得安全、扎實一點，就是這個目標，但是這個目標中間的鏈條挺長的，先要引起大家的重視。
回過頭去看歷史，很早很早以前，大家天天在喊殺毒什么的，但每個人電腦上裝上殺毒軟件是什么時候？大家非得經歷幾次慘痛教訓后，才真正把殺毒軟件都裝上，裝了后還得不斷跟用戶教育升級的重要性。
就是有這么一個過程，從說到做，實際中間的周期蠻長的，希望大家某一天都不說 AI 安全了，懶得提它了，但是每一臺電腦上都裝上了，像殺毒軟件一樣，每一個 AI 產品里都有這個能力在了，我覺得我們上層所做的任何努力才有一個基礎。
我想“八卦”一下馬杰和與其相關的人和事。
馬杰在安全領域從業的時間很長。2000~2010年期間，馬杰在瑞星主持開發了從個人殺毒軟件到企業級安全硬件在內的大量產品，2011年起，馬杰創立了基于SaaS的云安全服務品牌“安全寶”，2015年4月，百度收購安全寶，馬杰出任百度云安全總經理，全面負責百度云安全部的研發和管理工作。2016年3月，馬杰出任百度安全事業部總經理，全面負責百度安全事業部的研發和管理工作。
業內周知的是，安全寶當時的一條產品線與“道哥”吳翰清團隊歸了阿里云，現在道哥已經是阿里云的首席安全專家。不久前，馬杰的老同事、安全寶曾經的COO 沈鵬飛出任百度安全事業部副總經理，馬和沈再聚首。而當年安全寶的 CTO Tony Lee 現在也是京東的首席信息安全專家。
為什么要八卦這一點？
你會發現，身居圈內“高位”的這幫“老朋友”的關注點很集中。
道哥在 2017 年提出了一項重要的“彈性安全網絡”的概念，這是一種能把 DDoS 防御前置到網絡邊緣處的技術，他也因此入選了麻省理工TR35。而過去的一年中，由 IoT 設備引發的大規模 DDoS 攻擊已不是新鮮事。
1月13日，Tony Lee 在 i 春秋主辦的 2018 互聯網安全責任峰會上說，“另一件事是京東未來的重要業務，其一是智能家居的協議，其二是 AI 。”“未來的 IoT 與 AI 無處不在，特別是 IoT 設備很難管理，這種情況下該如何做安全？對于京東來說，我們的責任就不僅僅是找漏洞或者是代碼安全，而是從整個安全機制，安全協議出發……”
當然，“IoT安全”也好，“AI 安全”也罷，本來就是現在的熱點，不足為奇。但知道了百度安全的相關背景，也許你更能理解兩點：第一，這是大勢；第二，對于百度安全為什么重點關注移動安全、IoT安全，現在又將這些重點“打包”進“AI 安全”，對他們所闡釋的 AI 安全，你將有更深的感觸。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
