0
| 本文作者： 我在思考中 | 2021-09-08 09:58 |
近日，一篇名為“How OpenAI Sold its Soul for $1 Billion”（OpenAI是如何因?yàn)?10 億美元出賣自己的靈魂）的文章在 Reddit 上引起了熱議。
文章作者 Alberto Romero 抨擊知名的非營(yíng)利機(jī)構(gòu) OpenAI 為了金錢而出賣自己原有的“為人類造福”宗旨。
OpenAI 成立于 2015 年，創(chuàng)立之初便將自己定位為“非營(yíng)利組織”，目標(biāo)是以安全的方式實(shí)現(xiàn)通用人工智能（AGI），使全人類平等收益，而不是為公司的股東創(chuàng)造利潤(rùn)。
但在 2019 年，OpenAI 違背了它的初衷，成為了一家名為“OpenAI LP”的營(yíng)利性公司，由一家名為“OpenAI Inc”的母公司控制。這時(shí)，OpenAI 成了一家有利潤(rùn)上限的機(jī)構(gòu)，股東的投資回報(bào)被限制為不超過(guò)原始投資金額的 100 倍。也就是說(shuō)，如果你投資 1000 萬(wàn)美元，你最多能得到 10 億美元的回報(bào)。
OpenAI 的結(jié)構(gòu)改了之后，沒(méi)幾個(gè)月，微軟就注資了 10 億美元。而微軟與 OpenAI 的合作關(guān)系，是基于一個(gè)重要前提，即微軟有權(quán)將 OpenAI 的部分技術(shù)商業(yè)化，比如 GPT-3 與 Codex。今年 5 月末，微軟的官方網(wǎng)站便報(bào)道了他們用 GPT-3 的技術(shù)賦能內(nèi)部商業(yè)產(chǎn)品，為用戶服務(wù)：
微軟新聞：https://blogs.microsoft.com/ai/from-conversation-to-code-microsoft-introduces-its-first-product-features-powered-by-gpt-3/
當(dāng) OpenAI 因金錢關(guān)系與大型商業(yè)公司達(dá)成合作協(xié)議，我們還能相信他們會(huì)信守承諾，從全人類的福祉出發(fā)來(lái)發(fā)展人工智能嗎？亦或是，技術(shù)終將淪為資本的俘虜，情懷也難逃被出賣的命運(yùn)？
文章作者 Alberto 指出，OpenAI 的技術(shù)野心，決定了它難逃要與資本合作的宿命。
作為一個(gè)高定位的人工智能研究實(shí)驗(yàn)室，OpenAI 的雄心壯志要求它必須獲取足夠的資源支持，其中，金錢始終是排在第一位。比方說(shuō)，去年夏天火熱全網(wǎng)的 GPT-3，在訓(xùn)練階段就已花費(fèi)了大約 1200 萬(wàn)美元：
GPT-3 是一個(gè)大規(guī)模語(yǔ)言模型，光參數(shù)量就已達(dá)到 1750 億。如果不尋求交易，他們很難獲得這么雄厚的研究經(jīng)費(fèi)。所以，在他們意識(shí)到需要投資時(shí)，發(fā)現(xiàn)微軟當(dāng)時(shí)正等著給自己提供云計(jì)算服務(wù)，交換條件是微軟屆時(shí)能將它們尚未成熟的系統(tǒng)商業(yè)化。這時(shí)，一方可以獲得計(jì)算資源，一方可以達(dá)到盈利，何樂(lè)而不為呢？
早在2020年2月，麻省理工科技評(píng)論的記者 Karen Hao 就發(fā)表了一篇文章，探究了 OpenAI 與微軟的合作。Karen Hao 在“The messy, secretive reality behind OpenAI’s bid to save the world”一文中明確指出，經(jīng)過(guò)對(duì) OpenAI 內(nèi)部員工的數(shù)次采訪，她發(fā)現(xiàn) OpenAI 的公開宣稱內(nèi)容（實(shí)現(xiàn)通用人工智能、使人類平均受益）與內(nèi)部的運(yùn)營(yíng)方式存在不一致之處。
新聞鏈接：https://www.technologyreview.com/2020/02/17/844721/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/
為什么一家以造福全人類為基礎(chǔ)的公司突然需要大量的私人資金？要知道，從創(chuàng)立之初，Open AI 就獲得了馬斯克、Sam Altman與 Peter Thiel（Paypal 創(chuàng)始人）等人 10 億美元的私人投資。OpenAI 從非營(yíng)利到營(yíng)利的轉(zhuǎn)變，不僅引起了公眾輿論的不解，也在公司內(nèi)部遭到了批評(píng)。
艾倫人工智能研究所的所長(zhǎng) Oren Etzioni 在得知微軟注資 OpenAI 時(shí)，當(dāng)時(shí)即表示懷疑態(tài)度，稱：“我不同意非營(yíng)利組織不具備競(jìng)爭(zhēng)力的觀點(diǎn)……如果規(guī)模更大、資金更多就代表（這個(gè)機(jī)構(gòu)）會(huì)發(fā)展地更好，那 IBM 就不會(huì)被擠下第一名的位置。”
Vice News 的知名撰稿人 Caroline Haskins 也認(rèn)為，OpenAI 已經(jīng)違背了他們當(dāng)初的使命：“（我們）從來(lái)沒(méi)有試過(guò)靠風(fēng)險(xiǎn)投資者來(lái)改善人類的命運(yùn)。”
我們不得不承認(rèn)，OpenAI 將研究重點(diǎn)放在需要由更大算力與更大數(shù)據(jù)驅(qū)動(dòng)的神經(jīng)網(wǎng)絡(luò)上，這必然需要很多金錢。但是，Alberto 也指出，如 Oren Etzioni 所言，金錢并不是取得最先進(jìn)的 AI 成果的唯一途徑。更多時(shí)候，你需要的是極富創(chuàng)造性的想法，而不是靠堆更多的算力，或更多的數(shù)據(jù)。
GPT-2 與 GPT-3 的誕生
2019 年初，已經(jīng)成為營(yíng)利性公司的 OpenAI 發(fā)布了一個(gè)強(qiáng)大的語(yǔ)言模型——GPT-2，能夠生成達(dá)到人類水平的文本。盡管 GPT-2 在當(dāng)時(shí)是一個(gè)巨大的飛躍，但也有許多研究人員將其比喻為一只“危險(xiǎn)的怪獸”，無(wú)法與大眾共享。比如，他們擔(dān)心 GPT-2 會(huì)被用來(lái)“傳播假新聞、垃圾郵件與虛假信息”。
但這份擔(dān)心很快就被打消。GPT-2 沒(méi)有被廣泛證明有濫用的風(fēng)險(xiǎn)，所以研究人員還是紛紛使用了 GPT-2。
羅格斯大學(xué)的教授 Britt Paris 曾評(píng)論，GPT-2 的誕生似乎不是為了造福人類，反而像是 OpenAI 利用了人工智能可能會(huì)給人類社會(huì)帶來(lái)的恐慌，從而引起媒體的注意。他們認(rèn)為，GPT-2 并不像 OpenAI 聲稱的那樣強(qiáng)大，但是，從營(yíng)銷的角度來(lái)看，他們可以吸引媒體的關(guān)注。
如果 GPT-2 沒(méi)有他們宣稱的那么強(qiáng)大，那為什么要讓它看起來(lái)更危險(xiǎn)呢？Alberto 認(rèn)為，單從這一點(diǎn)來(lái)看，OpenAI 就已經(jīng)沒(méi)有遵守自己的道德標(biāo)準(zhǔn)。
2020 年 6 月，GPT-3 發(fā)布，比 GPT-2 大了 100 倍，更強(qiáng)大，本質(zhì)上也許更危險(xiǎn)。但 OpenAI 似乎認(rèn)為新系統(tǒng)足夠安全，可以與世界分享，所以通過(guò) API 發(fā)布。他們?cè)O(shè)置了一個(gè)候補(bǔ)名單來(lái)逐個(gè)審查訪問(wèn)請(qǐng)求，但這并不能控制系統(tǒng)最終被用于何處。
在“Language Models are Few-Shot Learners”一文中，他們甚至承認(rèn)，如果 GPT-3 落入壞人之手，可能會(huì)帶來(lái)不好的后果，比如“錯(cuò)誤信息、垃圾郵件、網(wǎng)絡(luò)釣魚、濫用法律和政府程序、欺詐性學(xué)術(shù)論文寫作和社會(huì)工程托辭”，或加劇性別、種族和宗教的偏見。
論文地址：https://arxiv.org/pdf/2005.14165.pdf
他們認(rèn)識(shí)到問(wèn)題的存在，但仍然允許用戶對(duì)系統(tǒng)進(jìn)行試驗(yàn)。關(guān)于通過(guò) API 發(fā)布，OpenAI 當(dāng)時(shí)的回應(yīng)是“支付他們接下來(lái)的 AI 研究、安全與政策制定等工作”。
一句話總結(jié)，就是說(shuō)：“負(fù)責(zé)”保護(hù)人類免受 AI 侵害的公司決定讓人們使用一個(gè)能夠造成虛假信息和危險(xiǎn)偏見的系統(tǒng)，以便他們可以支付昂貴的維護(hù)費(fèi)用。這還是“對(duì)所有人都有價(jià)值”嗎？
所以，當(dāng)時(shí)社交媒體上很快就出現(xiàn)了關(guān)于 GPT-3 可能造成的潛在問(wèn)題的激烈討論。Facebook 人工智能研究的負(fù)責(zé)人 Jerome Pesenti 當(dāng)時(shí)就寫了一條推文，在推文中舉了一個(gè)例子，談到 GPT-3 可能會(huì)生成加劇種族與性別歧視的文本：
UC Berkeley 的計(jì)算機(jī)系學(xué)生 Liam Porr 還用 GPT-3 寫了一篇能提高寫作效率的文章，與訂閱者分享，但沒(méi)有透露其中的技巧。這篇文章在 Hacker News 上排名第一。如果 UC Berkerley 的大學(xué)生都會(huì)設(shè)法用人工智能編寫的作品欺騙所有人，那么一群有惡意的人會(huì)做什么呢？
鏈接：https://adolos.substack.com/p/feeling-unproductive-maybe-you-should
除了傳播假新聞，GPT-3 的另一個(gè)危害是傳播人類無(wú)法區(qū)分的假新聞。這一點(diǎn)也被 OpenAI 在“Language Models are Few-Shot Learners”一文中認(rèn)可、甚至強(qiáng)調(diào)了：
“[M]ean human accuracy at detecting the longer articles that were produced by GPT-3 175B was barely above chance at 52%. This indicates that, for news articles that are around 500 words long, GPT-3 continues to produce articles that humans find difficult to distinguish from human written news articles.”
（人類在檢測(cè) GPT-3 175B 生成的較長(zhǎng)文章時(shí)的平均準(zhǔn)確率僅略高于 52%。這表明，GPT-3 能夠繼續(xù)生成人類難以區(qū)分的、長(zhǎng)度約為 500 字的新聞文章。）
Codex and Copilot，侵權(quán)了嗎？
今年他們也做了類似的事情。
幾周前，OpenAI、GitHub和微軟聯(lián)合發(fā)布了一款編程工具 Copilot，這款工具基于GitHub及其他網(wǎng)站的源代碼，可根據(jù)上文提示為程序員自動(dòng)編寫下文代碼！被稱為是結(jié)對(duì)編程的虛擬版本。
結(jié)對(duì)編程是一種常見的敏捷軟件開發(fā)技術(shù)——即兩個(gè)開發(fā)人員在同一個(gè)項(xiàng)目上并肩協(xié)作，輪流編寫代碼并檢查合作伙伴的輸出。
拋開可能對(duì)開發(fā)者造成的潛在威脅不談，這款工具僅發(fā)布幾天后便遭到了猛烈的抨擊，原因是它在未經(jīng)許可的情況下，使用了公共的Github存儲(chǔ)庫(kù)的開源代碼。
當(dāng)時(shí)，GitHub的首席執(zhí)行官 Nat Friedman 公布這則消息后，Hacker news上已經(jīng)有不少網(wǎng)友在討論，Copilot可能會(huì)存在潛在的法律風(fēng)險(xiǎn)。
鏈接：https://news.ycombinator.com/item?id=27676939
比如，一位網(wǎng)友就指出了多個(gè)疑問(wèn)：
AI生成的代碼屬于我？還是GitHub？
生成的代碼屬于哪個(gè)許可證？
如果生成的代碼侵權(quán)，誰(shuí)來(lái)承擔(dān)法律責(zé)任？
一位從事開源工作的開發(fā)者 Armin Ronacher 直接在 Twitter 上分享了一個(gè)示例，表明 Copilot確實(shí)存在剽竊版權(quán)代碼的可能。
下面也有一位網(wǎng)友評(píng)論說(shuō)：“我們也發(fā)現(xiàn)Copilot 直接復(fù)制了一段GPL代碼，這說(shuō)明它在商業(yè)使用上是有風(fēng)險(xiǎn)的。
其實(shí)，就算Copilot沒(méi)有逐字復(fù)制代碼，也會(huì)產(chǎn)生一個(gè)道德問(wèn)題：GitHub 或者 OpenAI 等公司是否有權(quán)使用數(shù)千名開發(fā)者的開源代碼對(duì)自己的系統(tǒng)進(jìn)行訓(xùn)練，并將這些系統(tǒng)的使用權(quán)賣給開發(fā)者自己？
一位開發(fā)者兼游戲設(shè)計(jì)師 Evelyn Woods 對(duì)此評(píng)論說(shuō)：“他們好像在把開源當(dāng)成一個(gè)笑話！”
OpenAI 現(xiàn)在真正的意圖是什么？
Alberto 發(fā)出疑問(wèn)：
難道他們已經(jīng)與微軟的利益捆綁在一起，以至于忘記了最初“造福人類”的宗旨？還是他們真的以為自己擁有最好的工具和人才可以獨(dú)自開拓這條道路，這是否意味著OpenAI出賣了自己的靈魂？他們是按照自己的意愿來(lái)建設(shè)未來(lái)，還是考慮到了更多人？更重要的是，他們是否想從中獲取巨額利潤(rùn)？
OpenAI 在邁向更復(fù)雜人工智能的道路上占據(jù)了主導(dǎo)地位，當(dāng)然，也有許多其他有潛力的機(jī)構(gòu)在做相關(guān)的工作，這些機(jī)構(gòu)并沒(méi)有與金錢產(chǎn)生直接的聯(lián)系，因而也受到了外界廣泛的關(guān)注。
就目前來(lái)看，大型科技公司的目標(biāo)似乎是并不是建立一個(gè)滿足科學(xué)好奇心的通用人工智能，也不是建立一個(gè)最安全、最負(fù)責(zé)、最道德的人工智能。他們的首要任務(wù)是賺錢！
當(dāng)然，這本身并不違法，但在道德上需要警惕，因?yàn)樗麄兛赡軙?huì)不惜一切手段去實(shí)現(xiàn)目標(biāo)，而這個(gè)過(guò)程可能會(huì)對(duì)大多數(shù)人產(chǎn)生不利影響。
之前 OpenAI 聯(lián)合創(chuàng)始人埃隆·馬斯克（Elon Musk）就曾批評(píng)其稱：OpenAI 應(yīng)該更加開放！
在 Reddit 上，Alberto Romero 的文章也引起了網(wǎng)友的討論。
鏈接：https://www.reddit.com/r/MachineLearning/comments/pizllt/d_how_openai_sold_its_soul_for_1_billion_the/
網(wǎng)友紛紛稱：OpenAI 早已應(yīng)該更名為“ClosedAI”。
也許 OpenAI 公司仍在堅(jiān)持他們最初的使命，但他們也應(yīng)該意識(shí)到：不能為了達(dá)到目的而不擇手段，因?yàn)椴缓侠淼氖侄慰赡軙?huì)損害更遠(yuǎn)大的目標(biāo)。
毫無(wú)疑問(wèn)，科學(xué)家們都希望實(shí)現(xiàn)通用人工智能。科學(xué)的好奇心是沒(méi)有限度的，但我們也應(yīng)該對(duì)潛在的風(fēng)險(xiǎn)保持警惕，就像核聚變是了不起的發(fā)明，但核聚變炸彈不是。
換一個(gè)角度來(lái)講，我們?cè)敢鉃榱藢?shí)現(xiàn)通用人工智能而付出任何代價(jià)嗎？至少?gòu)牡赖律希芏嗳耸遣辉敢獾摹？茖W(xué)家們或許更應(yīng)該注意到這一點(diǎn)。
我們正在快速地更新這些深刻改變?nèi)藗兩畹募夹g(shù)。但是，如果只關(guān)心自己的利益和目標(biāo)，無(wú)論是 OpenAI 還是其他人，最后都應(yīng)該對(duì)后果承擔(dān)很大的責(zé)任。
https://onezero.medium.com/openai-sold-its-soul-for-1-billion-cf35ff9e8cd4
https://www.reddit.com/r/MachineLearning/comments/pizllt/d_how_openai_sold_its_soul_for_1_billion_the/
https://blogs.microsoft.com/ai/from-conversation-to-code-microsoft-introduces-its-first-product-features-powered-by-gpt-3/
https://www.theverge.com/2019/11/7/20953040/openai-text-generation-ai-gpt-2-full-model-release-1-5b-parameters
https://openai.com/blog/openai-api/
雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)特約稿件，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
