今日 Paper | 聯合多任務模型；3D人體重建；可視化理解機器翻譯；深入研究整流器等

本文作者： AI研習社

2020-02-27 11:45

導語：為了更好地服務廣大 AI 青年，AI 研習社正式推出全新「論文」版塊。

今日 Paper | 聯合多任務模型；3D人體重建；可視化理解機器翻譯；深入研究整流器等

聯合多任務模型：多NLP任務的神經網絡的創建

論文名稱：A Joint Many-Task Model: Growing a Neural Network for Multiple NLP Tasks

作者：Kazuma Hashimoto /Caiming Xiong /Yoshimasa Tsuruoka /Richard Socher

發表時間：2016/11/5

論文鏈接：https://paper.yanxishe.com/review/12204?from=leiphonecolumn_paperreview0227

推薦原因

核心問題：在自然語言理解領域有眾多的任務，比如詞性分析，語塊分析，依存句法分析，文本語義相關，文本蘊涵等等，各個任務之間有著相互聯系。研究者們通過多任務學習來促進任務間互相聯系，提高各個任務的性能。

創新點：傳統的多任務是并行實現的，但是這眾多任務中是存在層次關系的，所以本文將不同任務棧式的疊加，越層次的任務具有更深的網絡結構，當前層次的任務會使用下一層次的任務輸出，類似于流水線的形式。

研究意義：相比平行的多任務結構有更好的效果。這樣的框架也可以擴展到更多高層任務應用，而且效果也比較好，這也符合真實的情況。

Peelnet：基于單視角彩色圖片的帶紋理的3D人體重建

論文名稱：PeelNet: Textured 3D reconstruction of human body using single view RGB image

作者：Sai Sagar Jinka /Rohan Chacko /Avinash Sharma /P. J. Narayanan

發表時間：2020/2/16

論文鏈接：https://paper.yanxishe.com/review/11695?from=leiphonecolumn_paperreview0227

由于嚴重的人體自遮擋、衣服變化和光照變化等眾多問題，從單張彩色圖像恢復人體形狀和姿勢是一個非常具有挑戰性的問題。本文提出了一種端到端的生成對抗網絡框架PeelNet，來從單張RGB圖片重建帶紋理的3D人體模型。

作者提出將3D人體模型表達為對自遮擋魯棒的分離的深度圖和彩色圖(peeled depth and RGB maps)，并提出一個完整的端到端的框架，從單張彩色人體圖片預測分離的深度圖和彩色圖，并進一步生成帶紋理的3D人體模型。

文章的方法不依賴于參數化人體模型，對于穿寬松衣服的人體能夠得到更加精確的結果，而且能夠很好地處理人體自遮擋情況。

可視化理解機器翻譯

論文名稱：Visualizing and Understanding Neural Machine Translation

作者：Yanzhuo Ding / Yang Liu / Huanbo Luan / Maosong Sun

發表時間：2017/7/30

論文鏈接：https://paper.yanxishe.com/review/11953?from=leiphonecolumn_paperreview0227

推薦原因

論文概要：目前深度學習發展迅速，但深度學習作為一個黑箱，越來越多的研究者開始關注深度學習的可解釋性研究。本篇論文是17年的ACL論文，應用了LRP(layer-wise relevance propagation)方法對神經機器翻譯進行了可視化理解。目前的注意力機制實際上表示了源語言和目標語言之間的聯系，但不能很好地告訴我們目標語言是如何被翻譯生成的。LRP(分層相關性傳播)方法，最開始被應用于計算機視覺領域，通過計算單個像素對圖像分類器預測結果的貢獻進行可解釋研究。本文將LPR方法應用在基于注意力機制的encoder-decoder模型中，去計算每個上下文單詞對任意隱藏單元的貢獻程度，從而可視化理解神經機器翻譯模型。漢英翻譯的實例研究表明，LRP方法可以很好地解釋機器翻譯的工作機制并且幫助分析翻譯錯誤。

創新點與反思：本文首次應用LRP方法對NMT進行了可視化理解，并取得了不錯的效果。LRP方法首先在計算機視覺領域被提出，作者將這種方法遷移應用到了自然語言處理領域，實際上現在計算機領域的深度學習可解釋研究比較多，對其他領域的進一步研究有很好的借鑒意義。