2
周五下午通常是發布壞消息的黃金時間，這是政客們和資本家熱愛的公關傳統。因此，當去年12月，特斯拉創始人Elon Musk和Y Combinator創始人Sam Altman在一周的AI會議后，在周五的末尾突然宣布成立一個新的AI公司，大家都感到詭異。
但是他們那么晚宣布消息也是有原因的。并不是因為沒有人會注意到，而是因為關注太過火爆。硅谷一些最有權勢的公司一聽到風聲，就開始向OpenAI新鮮組成的骨干研究員們拋出大把支票，目的是將他們占為己有。這些臨時抱佛腳的支票——有一些就是在大會上開出的——太大了，以至于Musk和Altman得推遲宣布新公司的消息。“這錢多得快要瘋掉了。”Wojciech Zaremba說，他在谷歌和Facebook都做過實習生，然后加入了OpenAI，他也在最后一秒收到了天價的工作邀請。
多少錢算“多得快要瘋”？兩年前，隨著機器學習的市場真正開始火熱，微軟研究副總裁Peter Lee說，一個頂尖AI研究員的成本讓美國國家橄欖球聯盟的頂尖四分衛都黯然失色——他說的是通常情況下，如果硅谷的兩個最出名的創業家想獵你的人才，那當然又是另一碼事了。Zaremba說，隨著OpenAI的成立，其他公司給他開出的薪水是他市場價值的二到三倍。
OpenAI并沒有給出同等高的天價薪水。但是公司給出了另一種誘惑：一個純粹為了未來而研究的機會，不為任何產品或季度收益，并且最終會與任何希望獲得研究成果的人分享大部分——或者全部——的研究成果。對，你沒聽錯：Musk、Altman和公司希望免費贈送可能是21世紀最能夠改變世界的科技——免費贈送。
Zaremba說，那些高得發瘋的薪水邀請實際上讓他不舒服，盡管他對谷歌和Facebook抱有極大尊敬。他覺得，這錢是為了買他的人力，但是，同時也是為了阻止OpenAI的成立，這讓他更喜愛OpenAI的大氣。“我意識到，OpenAI是我能去的最好的地方。“Zaremba說。
這就是這個故事最大的諷刺：即使世界上最大的科技公司們想要保留住研究員，就像橄欖球隊想留住他們的明星球員，研究員們自己還是想要分享。在AI研究的純凈空氣里，最睿智的頭腦們想的并不是下一個產品周期和利潤空間——至少，想得不只是這些。他們想讓AI變得更好，而如果你把最新的發現都變成自己的小秘密，AI就沒法變得更好。
今天，OpenAI將發布它的第一批AI軟件，一個打造人工智能系統的工具包，利用一種叫做“增強學習”的技術——這也是打敗圍棋冠軍的谷歌AlphaGo背后的關鍵技術之一。有了這個工具包，你可以建造系統來模擬新的機器人后代、玩Atari游戲、以及——對，你也可以——成為圍棋大師。
但是玩游戲只是個開頭。OpenAI是一個幾十億美元的項目，為了推動AI走向未來。你可以從公司創建的方式和未來的計劃中，看到一種新的創新浪潮。我們還不知道OpenAI是否會成為這種變化的主力軍。但是那些推動這個特殊公司的各種推力中，我們可以看到新一代的AI主力軍不僅會帶來新的科技，還會帶來新的建造科技的方式。
圖片：OpenAI研究總監Ilya Sutskever。圖片來源：Christie Hemm Klok / Wired
夸夸其談在硅谷不算什么稀罕事。遇到任何口氣不小的人，最好還是保持懷疑。但是在AI的領域，變革是來真的。在谷歌和Facebook，叫做深度學習的技術已經幫助他們實現在照片中識別人臉等各種各樣的服務。這種技術不僅能讓機器完成任務，還能讓它們邊干邊學。一些人相信，這會讓機器最終獲得常識，一種能像人類一樣思考的能力。
隨之而來的是各種擔憂。Musk和Altman擔心，如果人們能造出做好事的AI，那么人們也能造出做壞事的AI。擔心機器人統治人類的并不只是他倆，但是也許這很違反直覺，他倆認為對抗“壞”AI的最好方式，不是限制人們接觸AI的渠道，而是擴大之。這為他們吸引了一批超級聰明的理想主義年輕人，來到他們的新項目。
OpenAI起源于去年夏天的某個夜晚，在硅谷Rosewood Hotel一間私人客房——一個農場風格的高檔城市酒店，在Menlo Park的Sand Hill路，就在風投世界的中心。Elon Musk在和Ilya Sutskever一起吃飯，后者當時正在谷歌Brain工作。Sutskever是項目最頂尖的學者之一。當時，更大的想法正在萌發。
Sam Altman的Y Combinator幫助了例如Airbnb、Dropbox和Coinbase等公司成長，他安排了這次見面，將幾位AI研究員和一位年輕但有實戰經驗的企業建設家Greg Brockman聚集到了一起。Brockman之前是硅谷數字支付創業公司Stripe（也是一家Y Combinator公司）的CTO。這是一個精選小組。但是他們都有一個共同目標：創造一種新的AI實驗室，不僅不受谷歌的控制，而且不受任何人控制。“我想象中自己能做的最好的事情，”Brockman說，“就是讓人類以安全方式建造真實AI。”
Musk來是因為他是Altman的老朋友——也因為AI對于他各項業務的未來非常關鍵，或者說，對整個未來非常關鍵。特斯拉需要AI來造它遲早要造的無人車。SpaceX，Musk的另一家公司，需要AI來將人送到太空，并讓人在太空生存。但是，Musk也是AI批判者中音量最大的一個，警告人們如果系統強大到可以自主學習，也許有一天我們會失去控制系統的能力。
這件事的問題就在于：那么多最能夠解決這些問題的人已經在為谷歌工作了（還有為微軟和Facebook和百度和Twitter）。當晚，沒有人確定這些學者能否被一個新公司吸引，即便這是Musk和Altman在背后支持的公司。但是一個關鍵人物至少對于跳槽還是保持開放的態度。“我感覺這里面有風險，”Sutskever說，“但是我還覺得，這是很有趣的事情，值得嘗試。”
在與Musk、Altman和其他Rosewood的人們對話以后，Brockman壯了膽，很快下決心建造他們想要的這個實驗室。他全力攻克這個項目，并前去找了Yoshua Bengio。Bengio是蒙特利爾大學的計算機科學家，也是深度學習運動的奠基人之一。領域內另外兩名先鋒——Geoff Hinton和Yann LeCun——目前分別在谷歌和Facebook工作，但是Bengio致力于學術界，大致上不參與行業活動。他列出了行業內最好的一些研究員，在接下來的幾周，Brockman聯系了名單上所有能聯系的人，還有一些名單外的人。
很多研究員喜歡這個想法，但是他們也擔心轉變。為了打破這種僵局，Brockman選了10個他最想要的研究員，邀請他們周六來Napa Valley的一個酒窖喝酒、吃飯。對Brockman來說，連開車進入Napa Valley的這段路也是項目的催化劑。”人們都沒意識到，這種情景非常能讓人走到一塊去，因為你沒法讓車子開得更快些。“他說，”你不得不去，所以，你不得不聊聊天。“當他們到達了酒窖，氛圍也繼續維持著。”你可以知道氛圍很棒，“Brockman說。或者按Sutskever的話說：”跟聊天相比，酒是第二位的。“
最后，Brockman邀請了所有十位研究員加入實驗室，并給了他們三周的考慮時間。到截止日期的時候，其中九位研究員加入了，并且一直留在項目中，盡管硅谷巨頭們給他們開出了天價薪酬。“他們為了讓我留下真的弄得很隆重，所以要辭職不是個簡單的決定。”Sutskever說到他的前雇主谷歌，“但是最后，我決定去OpenAI，部分因為那幫實力很強的人，還有很大程度上，因為OpenAI的愿景。”
深度學習運動源于學術界。直到最近，類似谷歌、Facebook和微軟的公司才將它應用起來，由于計算能力的進步讓深度神經網絡成為現實而不再是一個理論假設。Hinton和LuCun等人離開學術界進入企業，因為企業有大量的資源。但是他們也保留與其他學者合作的意愿。的確，正如LeCun所說，深度學習研究需要這種自由的思想流動。“當你偷偷地做研究，你就會落后。”LeCun如是說。
因此，大公司現在分享很多他們的研究。這是一個很大的改變，得多虧谷歌。谷歌一直以來都將技術視為核心機密。最近，谷歌將推動神經網絡的軟件做了開源。但是谷歌還是保留了未來競爭的內部核心。Brockman、Altman和Musk希望進一步推進開放度，說他們不想看見一兩家大公司控制人工智能的未來。
Greg Brockman，他是OpenAI的CTO和奠基人之一。圖片來源：Christie Hemm Klok / Wired。
以上所有聽起來都很棒。但是對于OpenAI的理想主義來說，很多研究者可能還是會面臨同樣的妥協。開放是有限度的。AI的長遠考慮并不只是唯一的考慮。OpenAI不是一個慈善組織。Musk的公司們可以從OpenAI的研究中大大獲益，同樣還有Altman的Y Combinator支持的公司們。“當然有一些競爭目標。”LeCun說，“這不是公益組織，而且還有與Y Combinator的緊密聯系。而且，人們就像在其他企業中一樣，干活也是有錢拿的。”
據Brockman說，實驗室給出的薪酬不像谷歌和Facebook那樣高。但是他說，實驗室的確希望給研究員”好的報酬“，同時也提供股權，先是在Y Combinator，然后也許在Space X（不像特斯拉，SpaceX還是一家未上市的公司）。
盡管如此，Brockman堅稱OpenAI不會對姐妹公司們提供特殊待遇。OpenAI是一個研究組織，他說，不是咨詢公司。但是在追問下，他承認OpenAI的理想主義也是有極限的。公司可能不會將所有的成果都開源，雖然最終希望會分享大部分研究，不論通過研究論文還是互聯網服務。“公開進行所有研究不一定是最好的方式。你需要好好培養一個想法，看看它會發展成為什么，然后再發表它。”Brockman說，“我們會帶來很多的開源代碼。但是我們還要會有很多東西，還沒有準備好發布出來。“
Sutskever和Brockman都補充道，OpenAI還可能給一部分成功加上專利。“我們不會在短期內做任何專利，”Brockman說，“但是我們隊長期的策略改變還是保持開放的，如果我們覺得這是最好的方式。”例如，他說OpanAI可能會做搶先專利申請，一種防止其他人申請專利的策略。
但是對于一些人來說，專利意味著盈利動機——至少，相較于創始人的開源愿景來說，這項動機更弱一些。“這就是專利系統真正的意義，”艾倫人工智能研究院的負責人Oren Etzioni說，“這讓我懷疑他們真正要做的是什么。”
當Musk與Altman為OpenAI揭幕，他們將項目描繪為中和“惡意”超級人工智能的威脅。當然，他們所說的超級智能也可能從OpenAI的技術中誕生，但是他們堅持說，任何威脅都會被降低，因為技術可以被任何人使用。“我們覺得，更可能的是許多AI一起來組織偶然出現的壞AI。”Altman說。
并不是每個人都吃這一套。牛津哲學家Nick Bostrom像Musk一樣警告了AI的危險，他指出，如果你毫無控制地分享研究，壞人就能在有人保證安全之前就獲得技術。“如果你有一個按鈕可以做壞事，”Bostrom說，“你不會想把它公開，給任何人使用。”另一方面，如果OpenAI決定保留研究，不讓壞人接觸到，Bostrom又懷疑OpenAI與谷歌或Facebook沒有什么區別。
他確實是說，OpenAI的非盈利性質會帶來改變——雖然不一定。他說，項目真正的力量在于他的確能對谷歌和Facebook之類的巨頭帶來制約。“這減少了超級智能被壟斷的可能性。他減少了這種可能：某一集團可以比其他人擁有好得更多的AI。“
不過，就像這位哲學家在一份新的論中說的，一個類似OpenAI這樣愿意免費分享其成功的組織，其首要的影響是加速AI的進展，至少在短期內。而且從長期來說它也能推進技術進步，如果它處于互助的原因“選擇的開放度比商業運行所允許的更高。”
“不過，一個帶著慈善目的研究資助者可以以公開進行科研的方式，更好地推進技術進展。”
1月初，Brockman的9位AI研究員在他舊金山的公寓碰頭。項目還很新，以至于他們連白板也沒有。他們買了幾塊白板，然后開始工作（你能想象嗎這畫面？）。
Brockman說OpenAI將開始探索增強學習，一種讓機器學習任務的方式，通過讓機器不停重復，追蹤哪些方法能夠帶來最好的結果。但是另一個主要目標是“無監督學習“——創造可以真正自學的機器，不需要人類來指導。今天，深度學習是由仔細標注的數據驅動的。如果你想教一個神經網絡識別貓咪的照片，你得給系統輸入一些例子，這些例子必須注明”貓咪“。而且學習過程是由人類監督的。但是像很多其他研究員一樣，OpenAI想創造的神經網絡不需要這樣標注的數據就能夠學習。
Brockman說：“如果你有很好的無人監督學習，機器就能從互聯網的這些知識中學習——就像人一樣，通過到處看看就會學到知識——或者通過閱讀書籍。”
他構想的OpenAI，是70年代科技研究實驗室Xerox PARC的現代化身。就像PARC大部分公開和不受干擾的研究推動了從圖形用戶界面、激光打印機到面向對象編程語言，Brockman和工作人員希望，進一步深入之前被認為是科幻小說的領域。是的，PARC是屬于Xerox的，但是它還支持了許多其他公司，包括最著名的蘋果，因為例如喬布斯等人都參與它的研究。在OpanAI，Brockman希望每個人都參與它的研究。
本月，為了將這種動力推向極致，Brockman和公司揪住了其他幾位出名的研究員，包括Ian Goodfellow，另一個谷歌Brain團隊的前高級研究員。“PARC的特殊之處是，他們將一群聰明人聚在一起，讓他們做自己想做的事情。”Brockman說，“你需要一個共同目標，沒有中央控制。“
放棄控制就是開源理想的核心。如果足夠多的人能致力于這個共同目標，最終結果會超過你偷偷研究的結果。但是如果AI成了我們預想中那么強大，情況就變了。我們必須確保新的AI也遵守同樣的互助原則，那些讓它們能夠誕生于世的原則。Musk、Altman和Brockman將他們的希望寄托在群體的智慧中。但是如果他們是正確的，這個群體在未來就不完全是人類了。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
