深度解讀：我們要不要對人工智慧的「黑匣子」感到害怕？

葯明康德/報道

在飛機發生事故之後，相關人員會打開黑匣子來查看事故發生的飛機記錄下來的數據，從而找出飛機失事的原因。在人工智慧出現後，也有很多人想要打開這一技術背後的「黑匣子」，即人工智慧「看不見的」原理：我們提供數據、模型和架構給計算機，然後計算機以一種看起來不可能的方式進行學習，並提供答案給我們——這對於人類來說有點難以理解。

正是因為這個「黑匣子」看上去是如此的神秘，才導致人工智慧在飛速發展的同時，也一直在面臨著質疑的聲音。MIT最近發表了一篇名為《The Dark Secret at the Heart of AI》的文章，文中對人工智慧的演算法提出了警告：「沒有人真正知道那些最先進的演算法究竟是怎樣運作的，而這可能成為人工智慧的一大隱患。」考慮到人工智慧的這種不確定性，AI Now Institute發布的一份報告稱，負責刑事司法、醫療保健、福利和教育的公共機構不應該使用人工智慧技術。

飛機發生事故後，調查人員會打開飛機上的「黑匣子」來調查事故原因（圖片來源：Wikipedia）

事實上，AI在醫療領域的應用範圍非常廣：包括分辨哪些皮膚病變會導致癌變，從血液中鑒別早期癌症，預測心臟病，確定人體和動物中的哪些化合物可延長壽命等。由於醫療領域直接關係到人的健康和生命，對人工智慧的質疑在這一領域體現的尤為明顯。但是，很多人對於黑匣子的定義是錯誤的。對於AI來講，其在醫療領域的透明度和醫生相比並不算低。畢竟，人類的智慧本身就是一個具有無限探索可能的複雜「黑匣子」。

以人類醫生診斷疾病為例。當病人詢問醫生如何做出某個診斷的時候，醫生可能會分享一些她用來得出結論的數據。但是，醫生為什麼以及如何做出這個決定的？她從哪些研究中得到了什麼樣的具體數據？從她的培訓中或導師那裡得到了什麼樣的觀點？她從她自己或其他同事的經歷中獲得了哪些知識？她如何結合上述幾方面從而得到一個精確的見解呢？對於醫生來講，這些問題有時並不容易回答。當然，她可能會給出一些做出該診斷的依據，但是過程中也會伴隨著一些依據直覺的猜測。即使這些猜測很少出現或根本沒有，我們仍然不清楚，是否有一些連醫生自己都沒意識到的因素在對其診斷過程產生影響。

人類的智慧本身也是一個具有無限探索可能的複雜「黑匣子」

相同的診斷如果交給AI來完成的話，我們就可以獲取該特定患者的所有可用信息，並從中篩選出我們想要的部分；同時，我們也可以隨時隨地對來自世界各地的所有其他患者的信息進行匯總，從而做出最有力的決策。人工智慧做出的診斷是通過分析海量數據得出，而非像人類醫生一樣，通過自己的直覺、數量有限的患者數據及過往經驗進行衍生總結獲得。

人類思想的複雜性還體現在決策方面。我們每天都需要做出很多決策。從政策預計產生的經濟影響，到天氣預報，再到我們最開始接觸科學知識的方法，我們其實並不是完全了解每一個需要做出決策的領域。因此，我們經常會把事物過分簡單化，或者把它們想的過於複雜，讓人難以理解。人類的智慧可以在一個已給出的結論基礎上推理和提出論據，但是它不能解釋我們如何得出某個特定結論的複雜理論基礎。舉個例子，當一對夫婦因為其中一方不忠於婚姻而離婚的時候，事實上會不會有很多其他看不見的因素和事件促成了離婚這個結果呢？否則的話，為什麼另外一對類似情況的夫婦卻沒有選擇分開呢？這個問題恐怕連當事人都不能完全解釋清楚。而這同樣是一個所謂的「黑匣子」。

諷刺的是，與人的智力相比，AI實際上的透明度更高。和人類的思想不一樣的是，AI的演算法是可以被破譯和解釋的。有很多新技術可以幫助我們解讀人工智慧，例如測試並改進模型、揭示深層神經網路中的認知差距、建立必要的調試工具，以及通過腦機介面增強人類智能等。這些方式都是我們在探秘人類大腦時從未使用過的。在這個過程中，我們甚至可以更多地了解，人類是如何運用他們自身智慧來解決各式各樣的問題的。

人工智慧在未來將會在醫學領域發揮更大的作用（圖片來源：Pixabay）

也許那些批評AI的人們關注的真正問題不在於我們無法「看到」AI的推理過程，而是擔心隨著AI變得越來越強大，人的思維會因此受到限制。在不久的將來，我們需要使用AI來了解AI在醫療健康以及其他領域的應用。這意味著我們很快就會看到一類新職業的誕生：這些人並不需要隨時立刻做出決策，而是管理一個由AI組成的團隊——就像飛機的駕駛員在惡劣天氣時會使用自動駕駛來讓飛機著陸一樣。醫生將不再「主導」診斷決策，而是確保該診斷對患者相關且有意義，同時決定何時以及如何更清晰的解讀該診斷。在未來的醫生辦公室內很可能會在醫生和患者身邊各配備電腦助手，來接收從辦公室外發來的各種數據。

當這些成為現實的時候，人們就會明白，所謂的「黑匣子」將會成為人工智慧的特徵，而不是一個錯誤，因為相對於人腦來講，捕獲和解釋人工智慧的原理將會更為簡單。然而，這並不意味著否認或忽略對AI的監督工作。我們應該把重心放在AI帶給我們的機會上，而不是對它過度擔心。這樣一來，未來的人工智慧就可以增強人的智慧和直覺，甚至可以揭示或重新定義人類最原始的意義。通過人工智慧，醫生也可以在患者群體和整個醫療系統中發揮更大的作用。

參考資料：

[1] Artificial Intelligence』s 『Black Box』 Is Nothing to Fear

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！