可怕的不是人工智慧「黑盒」，而是？
展覽中的假肢，說明科學技術如何改變對人的認知
我們日益依賴人工智慧，人們對此深感興奮，並大肆宣傳之。與此同時，人們對這種技術的運行方式深感恐懼。MIT科技評論最近一篇題為「人工智慧深處的黑暗（The Dark Secret atthe Heart of AI）」的文章警告說：「沒有人真正知道最先進的演算法做了什麼。這可能是一個問題。"由於這種不確定性和缺乏問責制，AI Now研究所的一份報告建議負責刑事司法，醫療保健，福利和教育的公共機構不應該使用這種技術。
考慮到這些擔憂，數據輸入和輸出之間的不可見的空間通常被稱為「黑盒」——好似是指飛機上必需的（實際上是橙色，而不是黑色）數據記錄器，經常在事故發生後被檢查。在人工智慧領域，這個術語更廣泛地暗示了關於技術是如何運作的「黑盒」形象：我們提供並輸入數據、模型及結構，然後計算機為我們提供答案，並以一種看似不可能的，複雜到讓我們難以理解的方式持續自我學習。
在醫療領域，人們特別關注的是，人工智慧被用來識別哪些皮膚病變是癌變的，從血液中鑒別早期的癌症，預測心臟病，確定人和動物中的哪些化合物可以延長健康和壽命。但是關於「黑盒」可能引發的後果的擔憂是錯位的。人工智慧的透明度不亞於醫生一直以來的工作方式——在很多情況下，這是一個進步，因為人工智慧強化了醫院的能力。畢竟，人工智慧「黑盒」並非一個新問題：人類智能本身一直是就是一個「黑盒」。
我們以醫生診斷為例。診斷之後，病人可能會問醫生是如何做出診斷的，醫生可能會分享一些他用來得出結論的數據。但是醫生真的可以解釋他是如何以及為什麼做出這個決定的嗎，他從哪些研究中得到了什麼樣的具體數據嗎，從他的培訓或導師那裡受到了什麼樣的影響嗎，從他自己和同事的共同經歷中獲得了什麼樣的隱性知識嗎，所有這些如何結合到了那個診斷結論里的嗎？當然，他可能會給出一些診斷方向的指標，但其中或許會有猜測的成分。即使沒有，我們仍然不知道是否有其他的因素，甚至是他自己沒有意識到的因素。
如果用AI進行相同的診斷，我們可以從所有可用的信息中獲取有關該特定患者的信息，以及隨時隨地彙集的數據和來自世界各地的無數其他相關患者的信息，從而做出最有力的以證據為基礎的決策。這將是一個與數據直接相關的診斷，而不是基於有限數據的人類直覺和對少數當地患者的軼事經驗的衍生總結。
但是，我們每天在不完全了解的領域做決定（通常是非常成功的），從預測政策的經濟影響到天氣預報再到我們從事科學的方式。我們要麼過分簡單化，要麼認為它們太複雜，不能線性分解，更不要說完全解釋。就像人工智慧「黑盒」一樣：人類的智慧可以為一個給定的結論推理並提出論據，但是不能解釋我們如何得出一個特定結論的複雜的基礎依據。想想看，當一對夫婦由於某個原因而離婚，比如不忠，實際上是一整個不可見的宇宙間交織著的原因，力量和事件促成了這個結果。為什麼他們選擇分手時，另一對相似情況的夫婦卻沒有？即使是當事人也不能完全解釋。這就是一個「黑盒」。
具有諷刺意味的是，與人類智慧相比，人工智慧的智能更加透明。不同於人的思維，人工智慧可以也應該被審問和解釋。如同審核和改進模型及揭示深層神經網路中的知識差距的能力，必然要建立的調試工具，以及通過腦機介面增強人類智慧的潛在能力一樣，有許多技術可以幫助解釋人工智慧，而我們卻無法按照這些方式解讀人腦。在這個過程中，我們甚至可以更多地了解人類智慧本身是如何運作的。
也許批評者的真正關切並非根源於我們不能「看見「人工智慧的推理過程這一事實。而是隨著人工智慧變得更強大，人類心智成為限制因素。將來，在醫療保健以及其他領域，我們需要人工智慧。這意味著我們很快就會看到一種人類專業人員的產生，他們不需要即時做決定，而是管理一支人工智慧工作人員隊伍，就像商業飛機駕駛員在惡劣的天氣條件下操控自動駕駛儀降落一樣。醫生將不再負責主要診斷；相反，他們負責確保對患者的診斷是相關和有意義的，並監督何時以及如何提供更多的說明和敘述性解釋。未來的醫生辦公室很可能包括電腦助理，配備在醫生和病人身邊，以及輸入來自辦公室牆壁外的數據。
當這種情況發生的時候，所謂的人工智慧「黑盒「將成為一項特色，而不是一個漏洞——因為它比人腦更可能捕捉和解釋事件的發生。然而，這一切都不能否認或忽略對人工智慧進行監督的必要性。只不過，與其擔憂人工智慧」黑盒「問題，倒不如重點關注人工智慧帶來的機遇，以更好地應對人工智慧的未來。那時，人工智慧不僅增強了人類智能和直覺，甚至還可能幫助重新定義」人是什麼「。
編譯：45 Society
45 Society：聚焦人工智慧等前沿技術對法律、倫理、經濟等社會制度和系統的影響，探索麵向2045年的法律文明和智能社會。
TAG:人工智慧與法律研究 |