可解釋的人工智慧路徑
隨著越來越多的企業使用人工智慧（AI）為其做出決策，這使得治理工作變得至關重要，並且人工智慧推理路徑的可追溯性成為建立客戶、員工、監管機構和其他關鍵利益相關方信任的關鍵。
人工智慧（AI）將計算範式從基於規則的編程轉變為基於結果的方法。它允許流程進行大規模運行，減少了人為處理錯誤的數量，並創造了解決問題的一些新方法。在圍棋高手已使用相同的開局策略3000年後，阿爾法狗（AlphaGo）啟發了圍棋選手去嘗試新的策略。隨著人工智慧採用率的增加，它將幫助組織解決傳統自動化技術無法解決的「最後一公里」問題。但隨著越來越多的企業讓人工智慧來為其作出決策，治理工作將變得非常關鍵。
最近，在簡柏特公司（Genpact）針對最高管理層和其他高管人員的一項調查中，有63％的人表示，能夠追蹤一台使用人工智慧設備的推理路徑，這是非常重要或關鍵的，而在人工智慧領域處於領先地位的公司中，持這一觀點的人數比例達到88％。簡柏特公司還與受管制市場中的財富500強企業合作，這些客戶認為，在考慮使用人工智慧之前，其推理的可追溯性將是一項關鍵要求。
為加強監管審查工作做好準備
最近，英國劍橋分析公司（Cambridge Analytica）對社交媒體數據的濫用，引起了公眾的關注，該事件喚醒了企業對監管治理工作的更高要求。此外，歐盟的一般數據保護條例（GDPR）在5月25日已生效，這將解決數據和人工智慧治理問題的諸多新要求。如該條例第22條所述，在其他領域中，「數據主體有權不受限於自動流程所做出的決定，包括對其產生法律效力或對其產生嚴重影響的分析。」在一個人被拒絕發放貸款或工作機會的情況下，這可能變得至關重要。同樣，紐約市最近的演算法決策透明度立法表明，美國的監管審查工作也在加強。在這種形式下，企業會很難接受「黑匣子人工智慧」。
期待可追蹤的人工智慧技術
目前，一些技術已經足夠成熟，可以提供可追溯性。在處理文本或數字時，企業可以考慮使用計算語言學，用戶可以輕鬆地追蹤推理路徑並精確定位導致機器決定的單詞或數據點。例如，如果第三方物流供應商同意每英里收取15美分，但其發票顯示為每英里收取18美分，則機器可以利用上下文語境來提取發票中的價格和合同所約定的價格，並指出其差異。用戶可以對比查看這些文件以確定機器是否判斷正確。關鍵在於可跟蹤某一決定的定義屬性來自哪裡，並以易於可視化的方式提供底層信息。
提供推理路徑
實現可追溯性的另一種方式是解釋在演算法中的一些驅動因素和推理路徑。Salesforce公司銷售雲愛因斯坦（Sales Cloud Einstein）產品中的主要評分功能可以讓你直接了解其如何給出銷售機會的分數，因此，一個公司的銷售團隊可以了解Einstein產品是如何預測某個銷售機會轉化為商機的。
計算語言學也有一個嵌入的推理路徑邏輯，可以為使用技術的最終用戶進行外化。例如，在貸款審批流程中，系統需要採取多個步驟來處理一個申請。如果某個申請在基於人工智慧的自動化貸款申請過程中被拒絕，信貸員應該能夠追溯到導致發生拒絕申請的特定步驟，更重要的是，可以解釋為何人工智慧在該步驟做出這樣的決定。
因此，企業可以通過向消費者解釋推理路徑為什麼會做出一個決定，而不只是簡單地拒絕發放貸款，從而可能導致不良客戶的體驗和引發合規問題。因為具備可追溯性，當審計人員要求查看文檔，或者客戶提出詢問，或者出現了其他潛在問題，那麼企業就可以準確知道系統在何處以及如何做出該決定，而不是因為該決定和推理被鎖在黑匣子里，導致一無所知。
為充分利用人工智慧而設計數據
關鍵是要充分了解數據的行為。這不僅僅是為了實現人工智慧演算法，首先要建立起有效的數據工程。最佳實踐包括記錄關於數據完整性的假設，解決數據偏差，以及在實施前審查機器所確定的新規則。如果企業正在使用機器學習技術來識別異常情況，那麼它可以通過檢查和權衡來手動測試並確定這些結果是否合理。在設計和測試人工智慧時，讓熟知這些流程和行業領域問題的人來參與，這也很重要。
可解釋的人工智慧會加速人們對人工智慧的使用
可追溯性還解決了人工智慧技術實施中的幾項難題。首先，它側重於這種先進技術的新興應用的質量問題。其次，在人與機器交互的發展過程中，可追溯性使結果更易於被人理解，並有助於推動人工智慧的使用和促進成功實施所需的相關變更管理。第三，它有助於推動生命科學、醫療保健和金融服務等受監管行業的合規性。
可追溯性存在於一些更成熟的人工智慧應用中，例如計算語言學。在其他不太成熟的新興技術中，所謂的黑盒問題仍然存在。這一問題主要存在於深度神經網路，用於圖像識別的機器學習演算法或涉及海量數據集的自然語言處理的情況下。因為深度神經網路是通過這些海量數據集的多重關聯建立起來的，所以目前很難知道為什麼會得出一個特定的結論。企業需要更全面的治理結構，尤其是藉助像神經網路這樣不具備可追溯性的先進技術。
總而言之，可追溯性使企業能夠更好地理解整個推理過程，並通過人工智慧的實施建立信任關係，這可以幫助企業、員工和客戶更好地接受人工智慧。隨著人工智慧領域的其他方面逐漸成熟，我們希望在其他人工智慧技術中也可看到類似的推理路徑。
