1
| 本文作者： 劉鵬 | 2018-06-01 14:52 |
雷鋒網AI科技評論按：還記得那個拍過「電動汽車的復仇」的導演 Chris Paine 嗎？Chris Paine 是新聞、政論節目中的常客了，他非常善于駕馭讓科技圈內專家和外行們都高潮的話題，值得注意的是，導演此前的話題之作名字叫「電動汽車的復仇」，而這部片子的前作又名為「是誰扼殺了電動汽車」，算是相當具有話題性了，現在導演又盯上了「AI 威脅論」，并拉上了一直鼓吹「AI 威脅論」的馬斯克，預告片一出就在以專家為主的 AI 專家陣營和以馬斯克為主的非專家群體之間造成了極大的討論，現在來借外媒 Skynet Today 的這篇「Do You Trust This Computer Gets a Whole Lot Wrong About AI Risks」了解該事件的來龍去脈，雷鋒網 AI 科技評論將其文章內容編譯如下。
曾指導話題之作「電動汽車的復仇」的 Chris Paine，在近期放出了一部 AI 威脅人類的紀錄片，「你相信電腦嗎（Do You Trust This Computer）」。
在該片預告放出之前就已經吸引了眾多的關注，因為馬斯克早就在他擁有 2000 多萬粉絲的推特賬號上提前宣傳了一番：
超級 AI 將顛覆人類的未來。截止周日，該網址可免費觀看這部 Chris Paine 的 AI 新作。
馬斯克對這部片子相當熱心：除了在推上大力宣傳和贊助幾天份的免費在線觀看之外，他還參演了該片，同樣參演的還有 Stuart Russell（「Artificial Intelligence: A Modern Approach」一書的共同作者），Eric Horvitz（微軟搜索實驗室 Director），Andrew Ng (谷歌大腦聯合創始人)，Shivon Zilis（OpenAI 的 Director）以及各種 AI 企業家們。盡管記錄片在片中對 AI 可能帶來的積極影響和消極影響均有所涉及，但整體上傳遞給大家的信息還是相當悲觀的。片子的主論調就是 AI 技術將很快失控，因此大家應該對此極度擔憂才行。實際上，影片甚至引用了 Mary Shelley Frankenstein 的一句令人毛骨悚然的話作為開場：
你創造了我，但我卻成了你的主人...
為了應對「AI 威脅」帶來的焦慮，影片提出了下面的解決方案：
短期內，AI 必須被管制，以此來控制其對人類經濟的不良影響以及應用到自動化武器后的可怕后果。
長期內，人類必須與 AI 融為一體，即利用腦機接口技術與機器合二為一，以此應對 AI 發展到下一個階段的產物：超級 AI。
為此，馬斯克還創辦了腦機接口公司 Neuralink，并在影片中進一步介紹腦機接口技術：
AI 不能成為其他人，AI 必須與人類合二為一，我認為這點至關重要。當然，我的觀點也不一定都對，我歡迎大家提出更好的那個方法。但我認為留給人類的只剩下兩條路了：要么與 AI 融為一體，要么被 AI 落在身后。
當前的 AI 本就是個「一點就著火」的熱門話題，隨著馬斯克參與進來以及他在推上對該影片的大力宣傳，吸引了包括 AI 專家們和非 AI 專業人群的大量關注，其中，因對影片宣揚的"AI 威脅論"存在明顯觀點分歧，討論者們形成了以 AI 專家為主和馬斯克為首的兩個主要言論陣營。
AI 研究社區的專家們，早就看倦了針對 AI 近期發展的不切實際報道，他們一致地對該記錄片代表的觀點持反對態度。許多知名 AI 專家紛紛在推特上針對該紀錄片發聲。
Denny Britz，前谷歌大腦研究員
剛看了這部很棒的喜劇。如果你愛看像「瑞克和莫迪」動畫片這種未來主義的片子，并有一定的機器學習常識的話，那你應該看看這部片子！連馬斯克在片中都是那么的無厘頭！
Miles Brundage，牛津大學未來人類研究所的 AI Policy Research Fellow
「Do You Trust This Computer?」紀錄片：
+ 在黑板上寫下 dhadfieldmenell
- 太多白人男性專家，在說一些
- 虛假的東西
+ 作為片中配角的 rivatez 和 KatjaGrace 卻
- 沒有被采訪
+ markoff 在說「et al.」
- 該片主旨不連貫
總評分： C-
Timnit Gebru，微軟 Research AI 研究員，以研究 AI 倫理和算法偏見而聞名
這真是個難以完成的表演。他們甚至在片中設法遺漏 AI 先驅者們的言論。這真是太好笑了，連我都忍不住了。
Fran?ois Chollet，谷歌 AI 研究人員（Keras 框架作者）
顯然我們需要更多、更優秀的講解員來向大眾介紹 AI：AI 真實能力、目標、真實風險，以及在經濟和就業市場上對 AI 應作何期待...
而他們偏偏選擇了「無端的恐慌制造」扮成的紀錄片，這可能是最糟糕的介紹方法了。
作為對比，雖然非 AI 專家為主的陣營也同樣在熱鬧地發表評論，但他們各懷己見，遲遲不愿做出一個確鑿的判斷。
Daniel Oberhaus，Motherboard 記者
影片在篇幅上并沒有停留在 AI 的表面，而是抓住了一切機會來探討 AI 問題和在更深層面上挖掘 AI 的含義。該片以含有前沿 AI 學者的小段觀點陳述的蒙太奇鏡頭作為開篇，毫無疑問，專家們能提供 AI 深刻的洞察，Paine 導演要是在影片中留出更多空間讓他們發揮就更好了。
James Vincent，The Verge 記者
值得注意的是，關于 AI 倫理和安全方面的許多重要工作都是由女性完成的，像是 AI Now institute 的 Kate Crawford 和 Algorithmic Justice League 的 Joy Buolamwini，但是她們出現紀錄片中并發表言論了嗎？并沒有，里面幾乎清一色是男性專家。影片中出現了 26 名專家，其中 23 名為男性。
Noel Murray，洛杉機時報
繼「誰扼殺了電動汽車？」和「電動汽車的復仇」這兩部紀錄片后，Chris Paine 導演又拍了這部在「對技術進步持懷疑態度」上更上一層樓的「Do You Trust This Computer？」。該紀錄片中主要針對 AI 的益處與威脅進行了探討，并將這兩個方面結合成了一些有吸引力和警示的東西出來，不然的話，該片也就無真正的深度可言了。
一邊是 AI 專家們充滿自信的不贊同，另一邊的媒體陣營卻言論不統一，還時常做出中立的評價。兩邊陣營的言論對比反映出這樣的現狀：雙方群體對 AI 理解上的信息不對稱，同時也強調應采取措施使公眾應更好地來理解 AI。
Chris Paine 導演可能打算借影片讓大家意識到「AI 風險」這一極其重要的話題，但是他的紀錄片卻用了很多語出驚人的方式誤導觀眾，這明顯弊大于利。影片并沒有客觀地介紹當前 AI 技術的現狀，而是向民眾灌輸「超級 AI」即將來臨這種不切實際的思想，以勾起大家對未來 AI 的恐慌和焦慮。
該紀錄片通過以下三種不同的方式來誤導民眾和制造恐慌：
遺漏和暗示：紀錄片忽視 AI 研究者們正努力采取措施來解決 AI 風險的事實，并以此方式來制造恐慌。Skynet Today 也認同，當前的 AI 風險需要更多時間來克服這一不爭事實，但與此同時，許多研究人員已經在付諸行動。此外，片中展示的與馬斯克，Stuart Russell 的關鍵對話，以及其他專家的激烈暗示言論，都遠遠談不上真實（如馬斯克說當前 AI 技術已經很接近可模擬人腦網絡等大話言論都也極易被拆穿）。
將虛構與現實混為一談：更糟的是，紀錄片將虛構的「AI 威脅」與真實存在的「AI 威脅」混為了一談。在整個影片中，觀眾看到的是來自電影「黑客帝國」「終結者」「機械姬」式的反烏托邦場景，這與對當前真實存在的 AI 威脅差了十萬八千里。就當前 AI 現狀而言，針對虛構的「AI 威脅」提出的解決方法也與實際應用相差甚遠。與 AI 合二為一的「腦機接口」想法也完全是來源于科幻電影，對于當前 AI 技術而言簡直就是天方夜譚。
操控情緒化的呼吁：影片的最初五分鐘是這樣的：開場即引用了 Frankenstein 的驚人語句「你打造了我，而我卻成了你的主人」后，影片接著用具有不祥預兆的音樂，配合著專家們簡短的對話構成的迅速而有節奏的蒙太奇鏡頭，來刻意勾起觀眾對 AI 的不信任和恐懼感。
對于這些拍攝技術的手法，谷歌 AI 研究員 Fran?ois Chollet 也在推特上這樣說破：「這明明就是將無端的恐慌散布裝扮成了一個紀錄片」。拍攝手法+虛構「AI 威脅」的驚人結合鼓勵觀眾產生了一種全新的幾近真實的誤解與擔憂，這種完全錯誤的想法宣揚 AI 將快速發展到不受人類控制，而不是實事求是的指出 AI 其實與程序員開發的其他計算機算法沒啥不同。
via Skynet Today，雷鋒網 AI 科技評論編譯。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
