IBM研究人員通過探索缺失的事物來解釋機器學習模型

AiTechYun

編輯：chux

在《白額閃電》（The Adventure of the Silver Blaze）中，福爾摩斯並不是通過能看到的線索解決了案件，而是通過注意到某一事物的缺失。在這種情況下，那隻沒有吠叫的狗幫助確定了罪魁禍首。

人類能夠從缺失的東西中進行推斷和學習的事實，並沒有廣泛應用於機器學習，但這是IBM研究人員團隊想要改變的一部分。在今年早些時候發表的一篇論文中，該團隊概述了使用缺失結果來更好地理解機器學習模型如何工作的方法。

「深度學習的一個缺陷是它或多或少類似於黑匣子，」該研究小組的成員之一Amit Dhurandhar解釋說。「所以很難確定為什麼要做出某個決定。答案可能是準確的，但在許多人類關鍵應用中，比如藥物，這是不夠的。」

為了更好地理解機器學習演算法如何做出決策，IBM團隊創建了一個「對比解釋」系統：尋找缺失的信息，以便更好地理解機器學習模型是如何得出其結論的。這在實踐中意味著，例如，如果機器學習模型正在識別狗的照片，則該方法不僅可以用於顯示機器模型用於識別狗（如毛皮和眼睛）的內容，而且還有識別出一隻狗必須沒有的內容（比如它沒有翅膀）。

與IBM團隊無關的卡內基梅隆大學機器學習系副教授Pradeep Ravikumar說：「這是一個簡單的想法，但這是一個非常重要的想法。」

在這篇論文中，IBM團隊能夠成功地將這種方法用於三種不同類型的數據集：大腦的fMRI圖像，手寫數字和採購欺詐數據集。在所有這些數據集中，研究人員能夠更好地理解機器學習模型如何做出決策。

研究人員寫道：「有趣的是，相關的消極因素在許多領域發揮著至關重要的作用，其中，解釋很重要。因此，當不同類別的輸入相互接近時，它們似乎是最有用的。例如，它們在區分流感或肺炎的診斷時更重要。」

Dhurandhar說，使用這種方法的關鍵是通過更好地理解人工智慧，人類能夠與這些模型一起工作，以獲得比人類或機器學習模型自行完成任務得到的結果更好。另外，了解計算機為什麼會做出決定會讓人們更傾向於使用該模型的建議。

「人們想知道他們為什麼被推薦東西，」他說。「一旦他們知道了，就會提高他們的購買意願。」

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！