0
昨天是各位老司機、福利姬的末日，因為美國著名博客網站Tumblr在當天突然出臺了新的政策決定——Tumblr將全面禁止出現任何成人內容，新規定將于12月17日正式施行。
這不是天經地義的事情嗎，有何可大驚小怪的？
和多數人心中對“和諧社區”的定義不同，在新規定發布之前，Tumblr這個以年輕人為中心的社交網絡平臺以收容大量的色情內容（主要為文章、靜態圖和Gif圖）而聞名全球。
社交網站Tumblr截圖
Tumblr 創始人 David Carp 曾表示，色情相關的內容，占據了該網站流量的2-4個百分點。2012年，一份當月刊發的意大利研究報告顯示，這一數字正迅速增長，甚至有近半網友遇到過避無可避的成人內容，而對此評論Tumblr未做出任何的回應。
時至今日，在雅虎旗下的這家社交網站上，盡管只有超出0.1% 的賬戶在出產色情內容，但卻有22%，甚至更高的用戶關注、點贊、或轉發了上述賬號的內容。有研究指出，正是這種“分享”行為，導致另外28.5%的 Tumblr用戶無意間接觸到了色情暴露內容。
俗話說得好，常在河邊走，哪有不濕鞋？
雷鋒網獲悉，就在兩周前，蘋果公司將Tumblr軟件從其應用程序商店中刪除，原因是其檢測和刪除兒童色情的自動化系統出現故障。而從類型上來看，盡管在Tumblr上也能看到類似天文地理歷史科學的各種“小清新”內容，但相比前者來說只能是冰山一角罷了。
至此，Tumblr啟動了AI鑒黃計劃，并在聲明中鄭重表態要將成人內容“趕盡殺絕”。
Tumblr CEO Jeff D’Onofrio在聲明中表示，Tumblr的AI鑒黃計劃并不是指要禁止裸體政治抗議或大衛雕像。這個操作要求AI具備極強的成人內容識別能力，同時也依靠人類幫助訓練和控制系統。
簡單來說，Tumblr希望打造一個可以識別裸體女性但同時又不會將裸體女性塑像誤認為是成人內容的人工智能系統。盡管這對人來說是一件再簡單不過的事，但對于AI來說其難度則是達到了“雞蛋里挑骨頭”的級別。
換做你是AI，看到這種場景有木有想罵街的沖動？
說到這里，想必會有人問了：“Why？”
實際上，AI識別圖像的過程分為信息的獲取、預處理、特征抽??；選擇、分類器設計；分類決策三大塊。在第一部分中，AI將圖片中的特征點提取出來，并通過數據匹配來獲取到它的屬性，并最終生成判定。
也就是說，除了成人內容相關的敏感詞匯、特征點的抓取，要想讓AI將真人與雕塑區分開就需要在此基礎上再對特征點的材質等特征做出匹配。難點在于，初期AI只能按照指定的幾個“標簽”分析圖片類型，對于圖片中的物體是肉體還是大理石、是塑料還是泡沫......這種問題是無法做出精確分析的。
簡單的智能系統更無法像人一樣立刻在隨機的圖片中找到哪些標簽應該衡量，哪些不值得衡量。將這一問題對應在Tumblr的鑒黃計劃中，其解決問題的唯一辦法就是盡可能全面地抓取圖片、文字中的特征點，而這對于系統而言必將承受巨大負荷。
特征點識別
如何避免這樣的惡循環怪圈？對此，Tumblr CEO Jeff D’Onofrio表示，公司不斷加大投資推動此政策的實施，包括符合行業標準的機器監控、不斷壯大的人類仲裁團隊以及便于舉報濫用行為的用戶工具。通過讓更多的用戶以及相關人員參與其中，Tumblr希望通過人工智能的學習能力來逐步培養AI鑒黃系統獲得精準的篩選能力。
而除了人工合作之外，針對以上問題雷鋒網也曾在名為《世界最大黃網要用 AI “鑒黃”，還號稱要讓鑒黃師下崗》的文章中向圖普科技運營總監姜澤榮提出了疑問，他的回答是：“如果是一個1.5小時的視頻，一秒一張截圖，在上述數量視頻的基礎上足以訓練出效果尚可的模型。”
由此來看，盡管Tumblr的識別對象是圖片和文字，但對于如此量級的社交網站（也不止這一家在做類似的事）來說訓練出“可用”的AI鑒黃系統自然是不在話下。
既然不在話下，為啥還任重道遠？
從目前效果來看，盡管聲明中Tumblr明確提出會著重訓練AI在性取向言論和色情內容方面的篩選能力，以便避免前者被認為是不當內容屏蔽掉。但有反饋稱被錯誤禁止的內容甚至包括加菲貓的圖片，蝙蝠俠吃法蘭克福的圖片和電視廚師戈登·拉姆齊胸前拿著一塊米糕并稱之為“隆胸”的圖片。
AI：Emm~這只喵長得灰常少兒不宜，屏蔽！
紐約自由攝影師勞拉·湯普森表示，我不得不手動申訴團隊解鎖這些圖片，雖然我貼在網站上的標簽確實是“色情”（如“食品色情”）但顯然它們和色情無關。
從成本方面看，Tumblr的社交網站屬性讓內容量變得源源不斷，這就需要AI鑒黃系統具備強大的GPU運算能力，高速端對端圖像處理速度以及較高的帶寬標準。在雷鋒網名為《AI 會讓鑒黃師失業嗎？》的文章中曾提到：“算力方面，原本千萬級別的樣本在GPU為單機單卡的情況下訓練時間要接近一個月，而僅10000張圖片里面往往有一張屬于色情圖片，為了識別出這張圖片，AI掃描的成本即為10000次”。由此可見，AI鑒黃確是一項費錢費力的大工程。
從風險系數看，AI鑒黃計劃執行的同時也伴隨著各種其他風險。首先，針對用戶屬性的AI鑒黃師必須要盡量全面的獲取到用戶在平臺上的各類數據，而誰都無法擔保這些數據最終會流向何處（盡管大家都說“我們是絕對安全的”）。
3月16日，Facebook被曝在2014年有超過5000萬名用戶資料遭“劍橋分析”公司非法用來發送政治廣告，此次事件曝光后Facebook 僅在一天之內市值蒸發60億美元（約合人民幣380億元）。盡管直到目前Facebook仍因此事深陷動蕩局勢之中，但其CEO馬克·扎克伯格卻在多次聽證會議上否定了公司存在有意侵犯用戶隱私并參與到相關交易中的行為。
在真相浮出水面之前我們不知道真相究竟是什么，但這足以證明——當你試圖開始收集并利用用戶信息達成某些目的時，一旦出事，即使你渾身張嘴也別想洗刷清白。
短期效果、長期成本以及風險系數，對于Tumblr來說，AI鑒黃系統不同于某成人視頻網站，它除了要有效篩選成人向內容，還要從中將正常性談論篩選出來推薦給大家，如果給做這件事情的難度打個分，我給五顆星！
可見，Tumblr的AI鑒黃計劃可謂是任重而道遠，而現在我們看到的僅是一條規定，一切將在12月17日見分曉。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
