0
| 本文作者： AI科技評(píng)論 | 2024-09-18 10:44 |
AI安全國際對(duì)話發(fā)起人，從左到右依次是Stuart Russell，姚期智，Yoshua Bengio，張亞勤
雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))消息，九月五日至八日，全球頂尖的人工智能（AI）科學(xué)家匯聚威尼斯，共同呼吁各國政府和研究人員聯(lián)手應(yīng)對(duì)AI可能帶來的災(zāi)難性風(fēng)險(xiǎn)。圖靈獎(jiǎng)得主Yoshua Bengio、姚期智教授，清華大學(xué)講席教授張亞勤、加州大學(xué)伯克利分校教授Stuart Russell等多位計(jì)算機(jī)科學(xué)領(lǐng)域的領(lǐng)軍人物，一道出席了由AI安全國際論壇（Safe AI Forum）和博古睿研究院共同舉辦的第三屆國際AI安全對(duì)話（International Dialogues on AI Safety）。
圖靈獎(jiǎng)得主Yoshua Bengio
圖靈獎(jiǎng)得主姚期智
在為期三天的會(huì)議中，與會(huì)科學(xué)家們共同達(dá)成了一份具有重要意義的共識(shí)聲明，其核心觀點(diǎn)強(qiáng)調(diào)了AI安全作為“全球公共產(chǎn)品”的重要性，建議各國應(yīng)將AI安全納入學(xué)術(shù)與技術(shù)合作的核心領(lǐng)域。
共識(shí)指出，人工智能系統(tǒng)的濫用或失控可能給全人類帶來災(zāi)難性后果。然而，我們尚未開發(fā)出必要的科學(xué)手段來管控和保障對(duì)高級(jí)智能的使用。由于人工智能帶來的風(fēng)險(xiǎn)具有全球性，我們必須將人工智能安全視為全球公共產(chǎn)品，并為實(shí)現(xiàn)這些風(fēng)險(xiǎn)的全球治理而努力。我們必須未雨綢繆，齊心防范任何隨時(shí)可能出現(xiàn)的災(zāi)難性風(fēng)險(xiǎn)。國際社會(huì)的初步積極舉措表明，即使在緊張的地緣政治局勢(shì)下，在人工智能安全和治理方面開展合作也是可以實(shí)現(xiàn)的。然而，各國需要在現(xiàn)有的努力上邁出更大步伐。
清華大學(xué)講席教授張亞勤
北京智源人工智能研究院創(chuàng)始主席張宏江，與即任約翰·霍普金斯大學(xué)教授Gillian Hadfield
共識(shí)認(rèn)為，作為第一步，各國應(yīng)設(shè)立有能力在其境內(nèi)監(jiān)測和應(yīng)對(duì)人工智能事故與災(zāi)難性風(fēng)險(xiǎn)的部門。各國監(jiān)管部門應(yīng)協(xié)同合作，制定應(yīng)對(duì)重大人工智能事故與災(zāi)難性風(fēng)險(xiǎn)的全球應(yīng)急計(jì)劃。長遠(yuǎn)來看，各國應(yīng)建立國際監(jiān)管機(jī)制，以防止出現(xiàn)可能帶來全球?yàn)?zāi)難性風(fēng)險(xiǎn)的模型。
為了應(yīng)對(duì)可能到來的由高級(jí)人工智能系統(tǒng)引發(fā)的災(zāi)難性風(fēng)險(xiǎn)，科學(xué)家呼吁，國際社會(huì)應(yīng)考慮啟動(dòng)以下三項(xiàng)工作程序：
應(yīng)急準(zhǔn)備協(xié)議與制度
通過這一機(jī)制，各國的安全監(jiān)管部門可召集會(huì)議，合作制定并承諾實(shí)施模型注冊(cè)和披露制度、事故報(bào)告機(jī)制、預(yù)警觸發(fā)點(diǎn)及應(yīng)急預(yù)案。
安全保障體系
當(dāng)模型的能力超過特定閾值時(shí)，要求開發(fā)者為模型的安全性提供高度可信的論證。對(duì)于高性能的人工智能系統(tǒng)，隨著它們的廣泛應(yīng)用，部署后的監(jiān)控也將成為保障體系的關(guān)鍵組成部分。這些安全保障措施應(yīng)接受獨(dú)立審計(jì)。
全球人工智能安全和驗(yàn)證的獨(dú)立研究
應(yīng)通過技術(shù)開發(fā)，使各國能夠確認(rèn)開發(fā)者以及其他國家提出的與人工智能安全相關(guān)的聲明是真實(shí)有效的。為了確保研究的獨(dú)立性，這項(xiàng)研究應(yīng)在全球范圍內(nèi)進(jìn)行，并由多個(gè)國家的政府和慈善機(jī)構(gòu)共同資助。
清華大學(xué)國際安全與戰(zhàn)略中心主任傅瑩，清華大學(xué)人工智能國際治理研究院院長薛瀾, 中國科學(xué)院自動(dòng)化研究所類腦智能研究中心副主任曾毅遠(yuǎn)程參與了討論。
在會(huì)議的第二天，科學(xué)家們與政策制定者、前國家元首及其他領(lǐng)域的專家進(jìn)行了深入討論，參會(huì)者包括前愛爾蘭總統(tǒng)Mary Robinson，卡內(nèi)基國際和平基金會(huì)主席Mariano-Florentino (Tino) Cuéllar，歐盟人工智能標(biāo)準(zhǔn)CEN-CENELEC JTC 21主席Sebastian Hallensleben。面對(duì)人工智能技術(shù)的快速發(fā)展，專家們一致認(rèn)為，盡快實(shí)施這些提案至關(guān)重要。此次聲明將呈交給多國政策制定者，并在會(huì)議中探討了國際社會(huì)應(yīng)如何協(xié)同合作，實(shí)現(xiàn)這一目標(biāo)的戰(zhàn)略路徑。
歐盟人工智能標(biāo)準(zhǔn)CEN-CENELEC JTC 21主席Sebastian Hallensleben
此次會(huì)議為全球AI安全領(lǐng)域注入了新的動(dòng)力，也為未來AI治理架構(gòu)的完善指明了方向。
點(diǎn)擊閱讀AI安全國際對(duì)話威尼斯共識(shí)全文。
-- 相關(guān)信息 --
AI安全國際對(duì)話
AI安全國際對(duì)話旨在匯集全球科學(xué)家共同合作，減輕人工智能帶來的風(fēng)險(xiǎn)。此次對(duì)話由博古睿研究院和AI安全國際論壇聯(lián)合舉辦。
AI安全國際論壇
AI安全國際論壇是一個(gè)專注于推動(dòng)全球行動(dòng)與合作以減少極端人工智能風(fēng)險(xiǎn)的501(c)3非營利組織，成立于2023年10月。除了促成國際人工智能安全對(duì)話外，我們還進(jìn)行獨(dú)立研究，并為其他專注于國際人工智能安全合作的項(xiàng)目提供咨詢服務(wù)。
博古睿研究院
博古睿研究院致力于通過促進(jìn)批判性分析和全球合作，為21世紀(jì)的政治、經(jīng)濟(jì)和社會(huì)制度提供指導(dǎo)。研究院匯集了來自不同文化的頂尖思想家，共同探討當(dāng)代的根本性問題，目標(biāo)是對(duì)全球社會(huì)產(chǎn)生持久影響。
雷峰網(wǎng)
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
