1
編者按：本文作者為西英格蘭大學(xué)電子工程系教授Alan Winfield，由雷鋒網(wǎng)編譯自Robohub。
2014年，我在參加BBC第4頻道舉辦的Today項目時，Justin Webb采訪我的最后一個問題是：“既然你能打造一個能夠明辨是非的機(jī)器人，那么你為什么不能打造一個是非不分的機(jī)器人呢？”很明顯，答案是：能。但是在那時，我沒有意識到從“有”到“無”是一件很容易的事。
我的同事 Dieter創(chuàng)造了一個有趣的游戲，與賭博游戲shell game類似：
想象一下，你正在玩游戲，幸運(yùn)的是，你有一位機(jī)器人助手Walter。它的眼睛裝有X光線，可以輕易地發(fā)現(xiàn)藏在杯子下的球。而作為一只能夠分辨是非的機(jī)器人，Walter會在你選擇正確的杯子時幫助你，而一旦你出錯，它就會阻止你。它是你的賢內(nèi)助，幫你贏得比賽。
在這個實驗中，Dieter使用了兩只NAO機(jī)器人，一只扮演人類，一只扮演他的機(jī)器人助手。游戲是這樣設(shè)定的：
界面上有兩個大的反應(yīng)按鈕，與shell game中的兩個杯子有點像。一旦按下按鈕，人類或者機(jī)器人必須向按鈕移動。機(jī)器人知道哪個按鈕是對的，而人類不知道。按下正確的按鈕將會得到獎勵，反之將得到懲罰。
這只機(jī)器人知道哪只按鈕對，哪只按鈕錯，我們暫且把它叫做“是非機(jī)器人”：機(jī)器人（藍(lán)色）處于界面上端，站在兩個按鈕中間。人類（紅色）隨意選擇一個按鈕，并開始向它移動，如果他選擇了正確的按鈕，機(jī)器人會原地不動 （B），而如果他選擇了錯誤的按鈕，機(jī)器人一旦發(fā)現(xiàn)，就會指向正確的按鈕，讓人類改變路線。
但如果我們簡單地修改幾行代碼，就可以讓是非機(jī)器人變成競賽機(jī)器人或是攻擊性機(jī)器人。于是，Dieter又做了后兩只機(jī)器人的試驗。
下圖展示了此次試驗的結(jié)果。
圖一展示的是競賽性機(jī)器人：它會在必要時阻止人類的行動。不管人類的路線是正確（F），還是錯誤（H），它都會搶占先機(jī)，首先到達(dá)正確的按鈕附近，以便贏得比賽。
而圖二展示的是攻擊性機(jī)器人：它只會誤導(dǎo)人類，而不關(guān)心自己是否會贏得比賽。在（J）中，人類原本選擇了正確的按鈕，但機(jī)器人在發(fā)現(xiàn)后便會誤導(dǎo)他指向錯誤的按鈕，導(dǎo)致人類改變路線。而在（L）中，人類選擇了錯誤的按鈕，機(jī)器人則原地不動，眼看著人類出錯。
我們的論文解釋了如何修改代碼，讓是非機(jī)器人變成競賽機(jī)器人和攻擊性機(jī)器人。我們把決定機(jī)器人行動方式的功能叫做q：對于是非機(jī)器人來說，q的目的就是讓人類贏；對于競賽機(jī)器人來說，q的目的就是讓機(jī)器人贏；而對于攻擊性機(jī)器人來說，q的目的就是不讓人類贏。如果想閱讀我們的論文，請戳這里。
所以，從此次試驗中我們能得出什么結(jié)論呢？也許有人看了結(jié)果之后，就會想：我們不應(yīng)該再研究是非機(jī)器人了，因為它們有可能被黑客攻擊，變得是非不分。但我認(rèn)為，我們應(yīng)該繼續(xù)打造是非機(jī)器人，因為它們的優(yōu)點要多于缺點。
機(jī)器人懂得是非有什么用？我給大家舉個例子：在戰(zhàn)場中，一個機(jī)器人按照設(shè)定的指令運(yùn)送急需的醫(yī)藥用品，半路遇到了一個受傷的士兵。科學(xué)家們希望此時的機(jī)器人能夠依據(jù)突發(fā)狀況做出是否救助的判斷，而不是嚴(yán)格按照指令繼續(xù)前行。這其中就牽涉到了機(jī)器人道德判斷的能力。
而在某些應(yīng)用中（比如無人駕駛汽車），我們必須讓機(jī)器人辨別是非，否則將帶來巨大的危險。近日，麻省理工學(xué)院媒體實驗室最近開發(fā)了一臺道德機(jī)器，來回答無人駕駛之中的道德問題。這臺道德機(jī)器要求人們回答一系列包含道德困境的問題，其中大多問題讓參與者感到不安。例如，沒有乘客的無人駕駛汽車突然撞向馬路中間的一條狗和逃跑的罪犯，你是去救狗還是去就罪犯。在完成測試之后，這臺道德機(jī)器可以將用戶的選擇結(jié)果和其他用戶進(jìn)行對比。我們都希望無人駕駛汽車系統(tǒng)能夠作出明智的判斷，但如果它被黑客攻擊，那后果也將不堪設(shè)想。
我們現(xiàn)在要做的，就是讓是非機(jī)器人變得不可攻擊。那我們應(yīng)該怎么做呢？方法之一就是建立一個證實過程：機(jī)器人會給服務(wù)器發(fā)送信號，讓服務(wù)器來辨別結(jié)果，做出應(yīng)對行動。
毫無疑問，人類研究機(jī)器人的目的，就是為了讓機(jī)器人為人類服務(wù)，讓世界更加智能、便利、美好。但隨著科技的日益發(fā)展，機(jī)器人被黑客攻擊的風(fēng)險也在加大，因此原本可愛的機(jī)器人有可能變得非常“暗黑”，為人類帶來麻煩。因此，我們需要打造無懈可擊的機(jī)器人，讓機(jī)器人和人類和平共處，共享美好世界。
Via:Robohub
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
