谷歌AI專家在MIT大會提出不同觀點：機器學習存在偏見
人工智慧學家
圖片來源：NetWorkWorld。
谷歌研究（Google Research）主管、知名人工智慧專家Peter Norvig最近在出席MIT的EmTech Digital大會時，發表了一些與主流人工智慧和機器學習不同的觀點。他將機器學習和傳統軟體編程進行了比較，強調我們所設計的機器學習，在系統調試和驗證上存在全新挑戰。
傳統軟體編程使用的是基於布爾數學體系的邏輯，按照這種邏輯，可以測試確認軟體是否符合其設計初衷，在過去的幾十年里，人們正是利用這一邏輯構建了各種軟體調試工具和方法。
相比之下，機器學習更像是一個黑盒子編程方法，計算機程序自己有數據，自己可以生成概率邏輯，和基於傳統布爾數學邏輯的「true&false」測試調試方法來驗證系統完成不同。
圖片來源：NetworkWorld
對比傳統編程，Norvig歸納總結了機器學習驗證的情形：
「現在的問題是，能夠擴展應用到整個人工智慧行業的機器學習驗證方法，仍未成型。我們已經在這方面做了很多努力，投入了時間；對於如何使之奏效，我們也有了一點眉目，但是，相比於普通軟體開發和驗證數十年的經驗，機器學習調試明顯還沒有達到預期。」
如果調試機器學習如此困難，為什麼還要使用它呢？儘管機器學習驗證目前存在局限性，但是它在開發速度上依然具有一定優勢。針對某些特定問題，比如語音識別或圖像分類，複雜系統解決方案可以比傳統編程方法快一倍、兩倍、甚至三倍。舉個例子，晶元製造商Nvidia公司工程師對一款自動駕駛汽車原型編寫了100小時的訓練數據程序。應用機器學習生產力對程序員來說極具吸引力，他們需要使用它，要求全新的驗證方法。
事實上，調試機器學習的出發點就是要區分相關問題固有的風險和危害，以及來自於問題發解決方案的技術的風險和危害。只有後者，也就是技術解決方案內部固有的風險和危害能夠被控制。
非定常性條件影響了傳統編程和機器學習。所謂非定常性，就是指隨著時間的過去，條件發生了變化，一開始，在相同條件下設計的系統非常有效，但慢慢地開始逐漸表現不佳。在傳統編程中，當要發布一個開發新程序時，一般會先使用可驗證的調試流程進行測試和驗證，之後才會正式發布。
但在機器學習中，似乎遺失了這種驗證，因為機器學習並不適合傳統編程技術那套步進式的流程：開發、測試、最後發布。在機器學習里，會不斷生成數據，然後同時再被機器學習系統不斷獲取，機器學習系統會進行再編程，繼而導致那種步進式方法不能實行。
針對機器學習驗證問題，Norvig解釋了自己的想法。傳統測試套件認定是基於「true」、「false」、以及「equal」這些條件判斷，而機器學習的測試認定則應該是根據評估測驗，比如今天的試驗結果90%不錯，並且和昨天測試運行的結果一致。
除了驗證的問題很麻煩以外，驗證機器學習系統產品所依據的事實很有可能是未知的，或者是主觀性很強的。設想一下，例如我們設計一個機器學習系統來判斷下圖的這條裙子是金色搭配白色的，還是藍色和黑色的，這問題連人類之間都沒法達成一致。
圖片來源：CBS News
Norvig解釋說：「對於一些問題，我們根本不知道正確答案是什麼。因此，你又怎麼可能訓練一個機器學習演算法判斷某些根本沒有答案的問題呢？」在Norvig看來，讓機器學習尋求正確答案，只能依靠一種無偏見的方法，比如引入「陪審團」機制。人類生成數據去訓練機器學習，然而人類本身就是具有偏見的，因此即便是在這種模式下，機器學習依然會存在一定偏見。要想匹配機器學習系統是否符合它們的設計初衷，評估的方法必須要能夠識別並擯除偏見。
傳統軟體是模塊化的，每個模塊的輸入和輸出都是獨立的，因此很容易識別出哪個模塊是bug。然而在機器學習中，儘管系統是利用數據進行開發的，但在系統內部，任何bug都能會被複制，最終導致「牽一髮而動全身」。雖然我們可以使用一些技巧去理解機器學習內部有錯誤，也有再訓練機器學習系統的方法，但目前還沒有辦法能解決其中任何一個獨立問題。
在Norvig看來，解決機器學習debug問題需要一個更好的工具集，而整個工具集需要向前發展、更新。
人工智慧學家Aitists
人工智慧學家是權威的前沿科技媒體和研究機構，2016年2月成立人工智慧與互聯網進化實驗室（AIE Lab)，重點研究互聯網，人工智慧，腦科學，虛擬現實，機器人，移動互聯網等領域的未來發展趨勢和重大科學問題。
長按上方二維碼關注微信號 Aitists
投稿郵箱：post@aitists.com
※觀點：AR VR大比拼——AR在逐漸勝出
※大摩CEO不同意小摩CEO觀點：比特幣不會只是流行一時
※觀點：iPad可能很快就將取代MacBook
※專家觀點：不建議在SCADA系統中部署防火牆
※[觀點]被抨擊為創作者之敵的IAP機制，或許比你想像更合理
※觀點 l 時裝也需要建築設計嗎？OMA for Prada
※HYPEBEAST 專訪 PLEASURES 主理人 Alex James & Vlad Elkin 全方位剖析品牌觀點
※vivo和OPPO真的是高價低配嗎？這樣的觀點不免有失偏頗！
※BoF觀點 | 在Tim Blank眼中，古巴哈瓦那的時尚及社會是怎樣的？
※Google搜尋首頁即將改頭換面！讓網友有機會比較多方觀點！
※觀點丨從IP打造到讓IP升值，樂視靠全產業鏈布局叫板好萊塢
※觀點：微軟或許應該推出一款「田牌」Android手機
※觀點：不是我針對誰，現在的大部分 AR 應用都是垃圾
※癌症研究大師Nature發表新觀點
※「反向傳播」演算法不行還有什麼行？網友已對Hinton的觀點「炸鍋」
※IPTV的現狀、機遇及未來？看32位行業大咖觀點
※觀點：誰說APS-C就是雞肋？
※詹姆斯會離開騎士嗎？ESPN專家的觀點出奇的一致！
※Canyon Bridge收購Imagination，看看EETimes的觀點和更多補充信息