0
雷鋒網(wǎng)AI科技評(píng)論按：作為谷歌AlphaGo背后的強(qiáng)大推動(dòng)力，于2015年底開源的TensorFlow一經(jīng)推出便受到極大關(guān)注。目前在所有機(jī)器學(xué)習(xí)框架中，如果它宣稱使用普及率第二，沒人敢說(shuō)自己是第一。
雖說(shuō)有谷歌的背書，社區(qū)好，資源多，但同學(xué)們?cè)谑褂肨ensorFlow的過程中，常常會(huì)一不小心跳進(jìn)坑里，嚴(yán)重影響體驗(yàn)。
近日一位同學(xué)就在知乎上提了一個(gè)問題【TensorFlow有哪些令人難以接受的地方？】，表達(dá)了TensorFlow在使用過程中的不便，順便問了大家有沒有什么更優(yōu)雅的方法繞過那些坑。短短一個(gè)月的時(shí)間，該問題的瀏覽量已經(jīng)達(dá)到10萬(wàn)+，關(guān)注者也達(dá)上千人。
作為問題的提出者，這位同學(xué)也試著拋磚引玉作了回答，他表示提出這個(gè)問題的初衷是希望引發(fā)大家對(duì)TF少一些盲目的推崇，多些理性的思考和進(jìn)一步的討論。而在全部42個(gè)回答中，雷鋒網(wǎng)AI科技評(píng)論也總結(jié)了一些有意思的現(xiàn)象。
TensorFlow的“吐槽大會(huì)”
結(jié)合知乎上網(wǎng)友的回答，以及業(yè)內(nèi)相關(guān)人士對(duì)TensorFlow的評(píng)價(jià)，AI科技評(píng)論整理了TensorFlow目前被“吐槽”頻率比較高的一些問題。
文檔和接口混亂
因?yàn)樗腁PI發(fā)展太快，經(jīng)常更新，所以有一些常用的函數(shù)方法會(huì)不斷挪位置，例如rnn就從之前的nn接口移到contrib接口，寫代碼時(shí)需要常常翻閱文檔。底層接口寫起來(lái)繁瑣，高層接口不靈活，且封裝混亂。
默認(rèn)占用所有GPU的所有內(nèi)存
在實(shí)驗(yàn)過程中，并不是所有人都有多塊GPU可用。tf在GPU不可用時(shí)會(huì)自動(dòng)改在CPU上跑，這樣一方面會(huì)導(dǎo)致速度變慢，另一方面，在共用顯卡的情況下，你根本就不知道是在CPU上跑。雖說(shuō)tf會(huì)打印設(shè)備信息，但是tf啟動(dòng)的時(shí)候輸出的信息太雜了，沒法每次都仔細(xì)看一遍。
使用繁瑣
明明有其他更通用的模塊能用，可事無(wú)巨細(xì)都要去使用tf的模塊。例如雖然有默認(rèn)的python庫(kù)argparse可以用，但在很多tf示例代碼中使用tf.app.flags。
做流程控制非常難以理解
語(yǔ)句中存在條件分支，例如當(dāng)a>0時(shí)執(zhí)行一步，a<0時(shí)執(zhí)行另一步，如果有多層的這種條件嵌套會(huì)很難操作。
調(diào)試?yán)щy
TensorFlow作為靜態(tài)圖框架，api經(jīng)常變，打印中間結(jié)果必須要借助Session運(yùn)行才能生效，或者學(xué)習(xí)額外的tfdbg工具。而如果是用PyTorch這樣的動(dòng)態(tài)框架的話，就不需要多學(xué)一個(gè)額外的工具，只需要用正常的Python調(diào)試工具如ipdb就可以了。
綜合看來(lái)，在使用TF的過程中，確實(shí)存在很多不夠人性化的地方。不過，每個(gè)工具都不是完美的，雖說(shuō)TF缺陷很多，但是對(duì)框架使用情況的統(tǒng)計(jì)數(shù)據(jù)最能說(shuō)明問題，正所謂“TF虐我千萬(wàn)遍，我待TF如初戀”嘛。
TF普及率遙遙領(lǐng)先
下表為各個(gè)開源框架在GitHub上的數(shù)據(jù)統(tǒng)計(jì)（數(shù)據(jù)統(tǒng)計(jì)于 2017 年 9月 6 日），可以看到 TensorFlow 在 star 數(shù)量、fork 數(shù)量、contributor 數(shù)量這三個(gè)數(shù)據(jù)上都完勝其他對(duì)手。
此外，特斯拉AI負(fù)責(zé)人Andrej Karpathy2017年初通過分析過去五年arxiv上的論文數(shù)據(jù)，對(duì)比了各種深度學(xué)習(xí)框架的使用情況，看圖說(shuō)話：
下圖是從2012年1月到2017年3月各框架的使用隨時(shí)間的發(fā)展趨勢(shì)。
下圖對(duì)比了2017年3月在arxiv上提交的論文中提到深度學(xué)習(xí)框架的情況。
結(jié)合上面兩張圖，可以看到，自15年底谷歌開源TensorFlow以來(lái)，它的用戶數(shù)增長(zhǎng)穩(wěn)定，而且一直處于高速的增長(zhǎng)中，到17年3月，已經(jīng)處于不可撼動(dòng)的地位。（pytorch于2017年1月才開源，此處不做對(duì)比）
AI科技評(píng)論也總結(jié)了TensorFlow的幾點(diǎn)優(yōu)勢(shì)。
背靠谷歌這座大山，目前TensorFlow的文檔最全，資源最多，很多模型都有tf的源碼實(shí)現(xiàn)。而且用戶基數(shù)龐大，一旦出問題很容易找到解決方案。
TensorFlow有功能強(qiáng)大的可視化組件TensorBoard，能可視化網(wǎng)絡(luò)結(jié)構(gòu)和訓(xùn)練過程，對(duì)于觀察復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)和監(jiān)控長(zhǎng)時(shí)間、大規(guī)模的訓(xùn)練很有幫助。
雖然TensorFlow是靜態(tài)圖操作，會(huì)給調(diào)試帶來(lái)困難，但會(huì)大大方便部署。除了caffe，目前還沒有其他架構(gòu)能支持靜態(tài)圖操作，但是caffe編程要比TF復(fù)雜。
而有意思的是，caffe作者賈揚(yáng)清也在知乎上為TensorFlow正名。
他提到，TF是目前唯一一個(gè)在核心設(shè)計(jì)層面上支持dynamic control flow的框架，也是極少幾個(gè)經(jīng)歷大規(guī)模多應(yīng)用部署考驗(yàn)的框架之一。TensorFlow能直面實(shí)際應(yīng)用中的限制條件，部署到真正核心的產(chǎn)品里面，它支持大規(guī)模推薦系統(tǒng)和移動(dòng)端產(chǎn)品的部署，而這點(diǎn)對(duì)于很多框架來(lái)說(shuō)沒法實(shí)現(xiàn)。
“TF的確難，但是它給你提供了真正可以產(chǎn)品化的可能性。很多問題只看見一棵樹的時(shí)候簡(jiǎn)單，看見森林的時(shí)候，解決方法就不一樣了。”
細(xì)數(shù)完優(yōu)點(diǎn)和缺點(diǎn)，問題來(lái)了。對(duì)于哪些實(shí)在忍受不了TensorFlow缺點(diǎn)的人，在考慮是否應(yīng)該換個(gè)框架了。而對(duì)于那些還沒入坑的同學(xué)，到底該用哪種框架？
當(dāng)前主流框架大對(duì)比
主流框架的對(duì)比一直是個(gè)長(zhǎng)期被討論的話題，相關(guān)的帖子和文章也層出不窮。而在今年三月的斯坦福大學(xué)cs231n中，李飛飛、Justin Johnson和 Serena Yeung 也對(duì)當(dāng)前幾種主流框架進(jìn)行了對(duì)比，并給出了建議。
TensorFlow雖然不完美，但是利于部署，有穩(wěn)定的社群。此外它還擁有很多庫(kù)，比如Keras和Sonnet等。
PyTorch很適合用于研究，但是它很新，因此你可能有很多坑要填。
除了TensorFlow，caffe、caffe2也可以用于產(chǎn)品部署。
手機(jī)端可以考慮TensorFlow或caffe2。
此外，北大的吳秉哲同學(xué)在知乎上也給出了很好的解答，他之前用Pytorch，Tensorflow，Mxnet這三個(gè)模型都做過項(xiàng)目，認(rèn)為應(yīng)該根據(jù)自己的需求選擇模型。
在需要快速驗(yàn)證一下自己某些想法的時(shí)候，我一般會(huì)用Pytorch快速實(shí)現(xiàn)，而且Pytorch的底層計(jì)算的代碼是C寫的，并且和Torch共用一套底層計(jì)算代碼，想要閱讀原碼并做定制化修改比較容易上手。
在做一些數(shù)據(jù)量比較大的long term的訓(xùn)練的時(shí)候，我會(huì)用tensorflow，比如它提供的tensorboard的訓(xùn)練監(jiān)督，還有自帶的profiling和debug功能比較方便，還有個(gè)原因就是它可以很方便的把模型deploy到手機(jī)上，現(xiàn)在caffe2出來(lái)了，或許可以是一個(gè)比較好的替代。
另外選擇框架的時(shí)候還得參考一下你所做的項(xiàng)目，比如做person re id大多數(shù)的工作都是基于caffe修改的，這個(gè)時(shí)候需要考慮遷移這些工作到其他框架下時(shí)不時(shí)會(huì)遇到坑。
如果做物體定位，Mxnet已經(jīng)提供了一些操作的高效實(shí)現(xiàn)。
他還強(qiáng)調(diào)，“現(xiàn)在框架迭代得也越來(lái)越快，mxnet在近期推出gluon的接口，API仿照Pytorch設(shè)計(jì)。不久之后Tensorflow也會(huì)有相應(yīng)的接口推出。”
總結(jié)
很多同學(xué)在實(shí)驗(yàn)過程中，總是對(duì)框架過多考慮。這個(gè)框架的速度怎么樣？好用程度程度怎么樣？為什么文檔這么亂？為什么用起來(lái)這么不順手？隨之而來(lái)就是一系列的吐槽。而他們往往忽略了最關(guān)鍵的東西，框架只是個(gè)手段，重要的是你想解決的是什么問題，以及你解決問題的思路。
此處借用賈揚(yáng)清一句話，“框架就是個(gè)框架，最終要能出活。”
雷鋒網(wǎng) AI科技評(píng)論。雷鋒網(wǎng)。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
