自主殺手機器人近在眼前，我們卻沒有一絲防備

六年前，三位飽含創作熱情的大學生成立了Clearpath機器人公司。現在公司的80名員工能制作各種機器人，比如美國國防部使用的一種四輪機器人車輛，比如無人機，甚至還制造了機器船。若說這家公司有什么特別，那就是他們永遠不會制造殺手機器人。

目前Clearpath是第一家，也是唯一一家承諾不會制造殺手機器人的公司。公司CTO Ryan Gariepy說，這是去年的一個簡單決定，但它甚至幫助公司招募了一批機器人專家。這些人都是Clearpath獨特的道德倫理立場所吸引。

道德倫理問題已成為機器人公司的重中之重，殺手機器人時代即將來到，但我們毫無準備。韓國Dodam systems制造了超級神盾Ⅱ自主機器人炮塔，它使用熱成像儀和激光測距儀來識別并攻擊3公里內的目標；而美國也在試驗自治導彈系統。

沒有一絲防備

現在的軍用無人機仍被人類控制，但Gariepy表示，不用花費太多時間就可讓它們實現完全自動和自導。

“致命自動武器系統就要出現，但我們還沒準備好用道德的方式來部署或設計這種自動武器系統。”

這是國際法的問題，也是編程的問題。在戰爭中，某些情況下使用武力似乎是必要的，但也可能將無辜的人們置于險境。我們如何打造在任何情況下都能做出正確決定的殺手機器人？什么又才是正確的決定？

自動駕駛汽車也有類似的問題，比如一條狗突然出現在高速公路上，汽車是否應該避開狗，但將乘客的安全置于險境？但如果出現的不是狗，而是一個孩子，或一輛校車呢？現在再設想一下戰場。

“我們在車輛問題上都沒法達成一致，而現在要討論的問題已經是，建立一個自己可以決定什么時候保護生命、什么時候采取致命武力的系統。”

制造炫酷機器人，而不是致命武器

Peter Asaro是機器人武器控制國際委員會的創始人，過去幾年一直在游說國際聯盟對機器人殺手下禁令。這這樣才能讓諸如ClearPath這樣的公司開始生產一些炫酷的產品，而不用擔心自己的產品被拿去威脅平民。

軍隊對自治導彈很有興趣，這解決了一個戰術問題：當遠程控制的無人機的傳感器或網絡連接被破壞時，他們無法控制無人機。

但是Gariepy認為，與其研發自主決定攻擊目標的導彈或無人機，還不如花錢研究傳感器和抗干擾技術。

“我們為什么不把投資用于讓現有的無人機技術更有效率？如果我們面對并且克服這些困難，就可以讓部隊以外的普通人也受益。”

最近已經有很多關于人工智能的危險的討論。Elon Musk擔心失控的人工智能會摧毀我們的生活。上個月，Musk捐贈了1000萬美元用于研究人工智能背后的道德倫理問題。另一些人，例如百度研究院員吳恩達，擔心未來的人工智能革命會減少就業崗位。

也許是時候站在道德的角度，嚴肅思考機器人的事情，就像Gariepy說做的那樣。

via wired

雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。