Yoshua Bengio大神為什么要留在學術界？

近日雷鋒網對深度學習三巨頭Hinton、LeCun、Bengio中的前兩位做了生平開扒，就差最后一個Bengio了。作為僅存的幾個仍然全身心投入在學術界的深度學習教授之一，他在網上能刮到的生平介紹自然比前兩位少得多，但雷鋒網還是盡自己開扒小能手的義務，為大家找到了所有我們能找到的資料，讓他不再活在傳說中。

1. 根據Bengio的博文自述，在20世紀80年代Bengio還是一個學生的時候，（深度學習只）是一個神經網絡里的概念，也可以說是深度學習的前身，他對這個概念非常著迷并決定要在計算機科學領域開啟他的學術生涯。

2. 根據網傳的一張關系圖，Bengio曾是吳恩達恩師Jordan的博士后（在他那里讀的博士后）。

3. 1992-1993年時，Bengio與另一位深度學習大神Yann LeCun在AT&T 貝爾實驗室是同事。

4. Bengio 的 A neural probabilistic language model" 這篇論文開創(chuàng)了神經網絡做 language model 的先河。里面的思路影響、啟發(fā)了之后的很多基于神經網絡做 NLP（自然語音處理） 的文章。  

5. Bengio博士后的導師Jordan也曾提到：“到目前為止，在更高級的自然語言處理任務中，深度學習并未像在語音識別、物體識別（圖像識別）等任務上做到的那樣，顯著降低錯誤率。”

所以在Hinton提出深度學習概念激活了整個領域、LeCun發(fā)表了卷積神經網絡（CNN）這樣的階段性突破成果的前提下，Bengio對自然語音處理難題的貢獻是非常有意義的，說不定幾年后自然語音處理難題攻克后，他會更加名聲大噪。

6. 他能跟Hinton、LeCun合稱為3巨頭，除了對RNN的一系列推動（neural language model，gradient vanishing 的細致討論，word2vec的雛形）還有一個很重要的原因，他在神經網絡不景氣的時候還堅持神經網絡研究，具備了一種超越普通學術熱愛的品質。

7. 2013年一些業(yè)界大牛響應業(yè)界召喚去科技公司，Yoshua Bengio當時估計，全世界僅有約 50 名深度學習領域專家，其中許多還仍是研究生。

8. 2015年4月，吳恩達Reddit答粉絲問時提到他的時候，表示“Yoshua Bengio的許多理論研究對我有很大啟發(fā)”。

9. 關于Bengio為什么不像其它兩位大牛加入Google或者Facebook來讓自己更加名聲大噪，或許我們可以從Hinton的說辭中一窺一二。

10. Bengio在最近的博文中稱，這個領域所需要做的事光靠幾個“媒體明星”是遠遠不夠的。為了達成更大的進步并實現更多的應用，人工智能領域無論在學術界還是工業(yè)界都需要成千上萬個科學家和工程師們。

對于大公司的人才搶奪策略，Hinton曾說，“有些危險的是，如果足夠多的大公司雇了足夠多的研究人員，那么，大學就沒有足夠多的人來培養(yǎng)學生、進行純粹的基礎研究了。”但是，他又認為，技術公司已經意識到這些問題了，比如，谷歌希望Bengio繼續(xù)自己的基礎研究。所以，Bengio全身心投入在學術界，并不是因為他有多么排斥業(yè)界，而是他要留在學生界做更重要的事——帶頭培養(yǎng)成千上萬個科學家和工程師們。

而另一方面，我們知道最近深度學習在各個領域應用之所以這么成功，主要得益于現在更為強大的計算機、可用的海量豐富數據集以及先進的算法，深度學習本身的理論進展卻很小。自2006年Hinton、Yoshua Bengio、Yann Lecun等人提出、發(fā)表相關工作以來，在理論上我們并未獲得大的進展，或許，這也是Bengio要繼續(xù)留在學術界的另一個原因。

相關：

人類群星閃耀時 | 深度學習鼻祖杰夫·辛頓：沒有他就沒有今天的人工智能

人類群星閃耀時 | Facebook人工智能負責人Yann LeCun：讓深度學習擺脫束縛

雷峰網原創(chuàng)文章，未經授權禁止轉載。詳情見轉載須知。