從deepfakes被禁止，看TensorFlow的泛濫應用

作者｜Dave Gershgorn

譯者｜Debra

編輯｜Emily

2015 年，谷歌宣布將發布其內部開發的人工智慧演算法 TensorFlow 工具。這是一個改變世界各地人工智慧研究和開發基本基礎的舉動。借用谷歌首席執行官的話來說，「這個可以和電力帶給人類社會同樣深遠影響的技術方法將是開放的、易於使用和免費的。」從此，進入人工智慧演算法的壁壘從一張博士證書，降低到一台筆記本電腦。

但是這也意味著 TensorFlow 的洪荒之力已經超出了 Google 的控制。僅兩年多之前，學術界和矽谷還是軟體領域最大的貢獻者，但現在這個局面正在發生變化。deepfakes 就像是催化劑一樣，攪動了局面的發展。這是一個匿名 Reddit 用戶用 AI 軟體構建的項目，可自動將任何臉部圖像（幾乎）無縫地拼接到視頻中。Motherboard 首先報道了這個項目，這個軟體可以用來把任何人的臉，比如 Facebook 上一位著名女影星或者朋友的面部圖像，完美地嫁接到色情女演員的臉上。

此後，有用戶創建了自己的 subreddit，用戶累計超過 91000 名。另一個名為 deepfakeapp 的 Reddit 用戶也發布了一個名為 FakeApp 的工具，在有硬體保障的前提下，所有下載這款 AI 軟體的人都能夠輕而易舉地上手自己做假色情視頻。直到 2 月 7 日，Reddit 上的這個社區已經被禁止，理由是它違反了網站的非自願色情政策。

根據 FakeApp 的用戶指南，該軟體建立在 TensorFlow 框架之上。谷歌員工使用 TensorFlow 開創性地進行了類似的工作，只是設置和主題略有不同，訓練演算法從頭開始生成圖像。deepfake 其實也是挺有意思的，比如有人用它把 Nicolas Cage 放在一堆不同的電影里，畫面詼諧有趣。但是，不得不承認事實上訂閱 deepfakes 中的 91000 名 subreddit，就是為了看色情片而來。

然而，雖然 TensorFlow 的開源帶來了很多好處，例如潛在的癌症檢測演算法，但是 FakeApp 的盛行卻代表了開源的黑暗面。谷歌（以及微軟、亞馬遜和 Facebook）無私地將強大的技術力量賜予了全世界，不求回報，所有人都可以下載 AI 軟體，並將其用於任何數據集的創建，包括從偽造政治性演講（在語音模仿 AI 工具的幫助下），到生成假的色情內容。所有的數字媒體都是由一系列的「0」和「1」組成，而人工智慧則可以巧妙的方式「創造」從未存在過的事情。

由於軟體可以在計算機上本地運行，因此大型科技公司在軟體在離開伺服器之後會失去對它們的控制。開放源代碼的信條，或者至少在現代軟體開發中的發展狀況，決定了這些公司無法對其他公司利用這些軟體做了些什麼負責。就這樣，它的存在就像一把槍或一支香煙。

而且似乎沒什麼動力可以改變它的現狀：正是因為它讓更多的人可以開發 AI，自由軟體成為這些公司盈利相當好的業務。每個大型科技公司都在爭奪儘可能多的 AI 人才，而湧入這個領域的人越多越好。另外，其他人使用能夠激發新產品生產的代碼進行項目開發，公司以外的人員可以找到並修復錯誤其中的錯誤，並用這個軟體對本科和博士生進行教學，為這些已經了解公司內部使用工具的新人創造了機遇。

「人們在過去的五年中談到機器學習方面的重大突破，但真正的重大突破不是演算法。演算法實際上與 70 年代，80 年代和 90 年代沒有大的區別，真正的突破是開源，」AT＆T 先進技術部副總裁，前機器學習研究員 Mazin Gilbert 說：「開放源碼降低了進入門檻，讓演算法不再是 IBM、谷歌和 Facebook 獨有的技術實力了。「

開源軟體也使得 AI 開發中的道德問題變得複雜化。Google 今天提供的工具並不是創建天網或其他超級智慧的關鍵，但它們仍然可能造成很大的負面影響。谷歌和微軟等提供開源人工智慧框架的公司一直聲稱人造智能不會違背倫理道德，他們的在職人員科學家已經簽署了承諾，並成立了專門研究這個主題的小組。但是這些公司不會為下載他們的免費軟體的用戶提供任何指導或授權。 TensorFlow 網站有軟體運行的說明，但卻沒有關於軟體使用軟體倫理道德的免責聲明，以及確保數據集無偏見的說明。

幾個月前，當我問微軟人工智慧副總裁 Harry Shum，公司計劃如何引導那些使用開源軟體和付費開發者工具來創建符合道德標準的機器學習系統時，他表示他也不太清楚。

Shum 說道：「這真的很難，我不認為我們現在能提出一個簡單的解決方案。我們正在逐漸學習的一件事是，當我們設計機器學習演算法時，要嘗試找到盲點。」

Google 亦沒有回應類似問題。

將 AI 從開放源代碼移出也不是一個理想的解決方案。如果閉塞軟體的信息，我們很難了解這些不透明的科技公司究竟如何開發他們的人工智慧演算法。我們可以在 ArXiv 等網站上免費發布研究成果，在 Github 上分享原始代碼，這意味著記者、學者和倫理學家可以從中發現潛在的問題並要求問責。而且，大多數人使用 AI 工具包進行生產性使用，例如應用程序中的標準圖像識別或分類黃瓜等物品。

並不難想像，不久可能會有其他類型的假視頻將通過 Facebook 和 Twitter 等主流平台得以散播，並在這些社交媒體中找到立足之地，這並不是什麼遙不可及的事情。雖然人工智慧研究人員一直在尋找解決方案，但不會很快找到方法。畢竟，這樣的軟體已經出現了。

由於這種核心技術的開發者，比如 deepfakes 的創作者將拒絕為承擔責任，所以負擔將落在視頻和圖像共享平台。例如，Gfycat 刪除了網站上所有 Deepfakes GIF。Reddit 已經關停了 deepfakes 社區。色情視頻網站 PornHub 也表示將刪除此類視頻，因為其認為相關人的肖像使用沒有得到本人的首肯。但是 deepfakes.club 仍然沒有禁止。

無論 deepfakes 軟體將來的境遇如何，相信這都只是一個開始。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！