對AI"出錯"零容忍?美國加強AI推理解釋能力研究

新聞 03-20

隨著矽谷私企引領人工智慧（AI）爆髮式發展，美國國防部曾發布報告稱，將「立即採取行動」加速AI和自動化技術研發。據《麻省理工技術評論》雜誌網站近日報道，美國國防高級研究計劃局（DARPA）已經著手資助13個科研團隊，賦予AI另一項本領——在機器學習技術基礎上擁有更強的推理和解釋能力。

深度學習和其他機器學習技術已經大大提高了AI的聲音識別和圖片分類等能力，並在越來越多領域展開應用。但深度學習技術通常只擅長從大數據中找到線索，理解並得出想要的結論，這是至今無法完成的任務。比如，深度學習系統能識別出照片中的一隻貓，但它不能「說出」貓的鬍鬚、眼睛等具體信息，只能給出模稜兩可的答案，甚至可能將印有小貓圖案的毛毯誤認為一隻貓。

對於需要識別潛在目標進行攻擊的軍用AI來說，這類錯誤和模稜兩可是絕對不能容忍的。DARPA項目主管大衛·岡寧說：「在自動駕駛軍用汽車和無人機等重要應用領域，AI需要學會推理和解釋。因此我們決定加大投入，設計開發出擁有這些能力的全新機器學習方法。」

在獲得DARPA研發投入的研究團隊中，其中一家公司正在研發的新型深度學習系統，能對分類圖片中的每個位置進行分析解釋；另一個安裝機器學習系統的計算機界面已進入實驗階段，它能對數據、視頻和人類語言等進行解釋。

德州農工大學胡夏（音譯）帶領的研究團隊也被DARPA選中，他認為，擁有推理解釋能力的AI不僅局限于軍用，醫藥、法律和教育領域都對這類錯誤「零容忍」，只有AI更加可靠，這些領域的專家才會欣然接受AI給出的結果。