0
雷鋒網AI科技評論按：近日，一份 AI 專家聯合簽名的公開信火了。這封信發表在澳大利亞新南威爾士大學 (University of New South Wales) 的官網上，在信上，來自全球 20 多個國家、50 多名高校頂尖 AI 學者集體簽名抵制一所正在研究如何使用人工智能武器的韓國研究型大學。
事件的起因是，韓國科學技術研究院 (Korea Advanced Institute of Science and Technology)（以下簡稱 KAIST）在今年 2 月 20 日成立了一個研究中心，希望在今年年底前研發出基于「人工智能」的導彈、潛艇和四軸飛行器。
看到這兒，知道 AI 專家為什么要抵制了吧？KAIST 要研制人工智能戰爭武器！
雷鋒網發現這個研究中心的成立背景也讓人細思極恐。該研究中心由 KAIST 與韓國軍工企業「Hanwha Systems」合作成立，全稱為「國防和人工智能融合研究中心」。Hanwha Systems 的母公司是韓華集團（Hanwhua），是一家有著制造恐怖武器黑歷史且是韓國最大的軍工企業，曾因制造集束彈藥被聯合國列入黑名單。
據《韓國時報》稱，該中心的目標是開發應用于軍事武器的人工智能技術，以便在無人控制的情況下搜索并消除目標。Hanwha Systems 與 KAIST 正在合作研發的國防 AI 應用，目前已曝光的的有四大方向，分別是 AI 指揮與決策系統；無人水下潛艇的導航算法技術；AI 智能飛行模擬器；AI 智能目標追蹤與識別技術。
看清了該研究中心科研項目的不純目的后，AI 學界大牛們對此發出了一致的譴責聲。
最早發出呼吁的是 AI 領域著名的澳大利亞學者 Toby Walsh，其后有近 60 名從事機器人和 AI 研究的專家表示贊同。其中最著名的有多倫多大學 Geoffrey Hinton、蒙特利爾大學 Yoshua Bengio、瑞士人工智能實驗室 Jürgen Schmidhuber、加州大學伯克利分校 Stuart Russell、南京大學的周志華教授，香港中文大學的華云生教授、香港科技大學的楊瓞仁教授等人。南京大學人工智能學院院長、計算機系教授周志華是唯一一名內地學者。
專家們在信中寫道:
在聯合國正在討論如何遏制自主武器對國際安全構成的威脅時, 我們非常遺憾的看到, 像韓國科學技術院這樣的著名機構似乎在加速軍備競賽, 以發展這類武器。因此, 我們在這里公開宣布, 我們將抵制與韓國科學技術院相關的所有合作, 直到韓國科學技術院負責人向我們保證，該中心將不會研發完全自主，不需要人類控制的「機器人殺手」。例如, 我們將不再訪問韓國科學技術院, 接待韓國科學技術院的學者, 或參與任何涉及韓國科學技術院的研究項目。
道義始終站在正義這邊，大家的集體呼吁很快得到了 KAIST 院長 Sung-chul Shin 的回應。
他表示對科學家們聯名抵制感到很遺憾。他在一份聲明中稱：「我需要重申 KAIST 無意參與致命性自主武器系統「機器人殺手」的研發。作為一個學術機構，我們高度重視人權和倫理標準。我重申 KAIST 沒有進行任何有違人類尊嚴的研究，包括研發缺少有效控制的自主武器。」
周志華教授也第一時間在微博上通知了此事件的進展。以下是周志華教授微博的截圖內容：
事件發展到此基本告一段落，不過，該公開信簽名發起人新南威爾士大學 Toby Walsh 教授對這一回應似乎有點小小的不滿意。他在接受 CNN 采訪時表示，「仍然對他們研發這些打算做什么有一些疑問，但總體來說，也算做出了適當的回應。」
附公開信全文翻譯及聯名教授名單：
作為 AI 和機器人技術的研究員和工程師, 我們對韓國科學技術院（Korea Advanced Institute of Science and Technology）與韓國軍工企業韓華系統（Hanwha Systems）合作建立的「國防與人工智能融合研究中心」（Research Center for the Convergence of National Defense and Artificial Intelligence）表示極大的擔憂。據報道, 該中心的目標是「開發可用于軍事武器的人工智能技術, 加入全球研發自主武器（autonomous weapon）的軍備競賽」。
在聯合國正在討論如何遏制自主武器對國際安全構成的威脅時, 我們非常遺憾的看到, 像韓國科學技術院這樣的著名機構似乎在加速軍備競賽, 以發展這種武器。因此, 我們在這里公開宣布, 我們將抵制與韓國科學技術院相關的所有合作, 直到韓國科學技術院負責人向我們保證該中心將不發展完全自主不需要人類控制的「機器人殺手」。例如, 我們將不再訪問韓國科學技術院, 接待韓國科學技術院的學者, 或參與任何涉及韓國科學技術院的研究項目。
一旦發展出自主武器，我們將面臨戰爭的第三次革命。自主武器（「機器人殺手」）將讓戰爭的規模比以前更大，速度更快。它們很有可能成為恐怖武器。專制統治者和恐怖分子可以利用它們傷害無辜平民，不顧任何倫理束縛。這個「潘多拉的盒子」一旦被打開將很難關閉。正如過去我們曾經禁止的技術（如致盲激光）一樣，我們可以直接決定不再開發。我們敦促韓國科學技術院繼續沿著這條道路前進，用人工智能技術來改善人類生活，而不是傷害人類生命。
公開信聯名教授名單
雷鋒網
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
