當金融業打開人工智慧的「黑盒子」

機器學習的功能很強大，但大多數是以「黑盒子」的模式工作。所謂「黑盒子模式」是指我們只能看見它決策的結果，而無法了解這個決策的過程。因此，如果你需要向客戶解釋人工智慧（AI）模型為什麼會作出一個決策，這將是一個難題。

機器學習近年來點燃了科技界，引起了人們的巨大關注。它大大提高了圖像識別、語音識別和機器翻譯等領域的準確率，也提升了人們對AI的認可度。

現如今這些技術已經準備進軍其他行業，推動它們的革新與發展，這其中包括金融業。我們對深度學習的期望是能夠超越人類自己的感知能力。例如，信用卡公司可能將信用記錄和其他財務數據提供給深度學習網路，然後對這些數據進行訓練，最後識別出信用記錄有問題的人員。但進軍金融業可能會受到一個重大的阻礙：AI通常不能解釋自己作出一個決策的原因，而金融分析師們往往很關注決策的過程。

在Capital One公司，機器學習和數據創新部門的副總裁Adam Wenchel表示，他們希望使用深度學習的各種功能，甚至包括決定信用卡申請者誰可以被簽發信用卡。然而事實上他們不能這麼做，因為現在的法律要求公司向申請者解釋此類決定的原因。去年年底，Capital One創建了一個由Wenchel領導的研究團隊，致力於尋找出能夠解釋AI作出決策的方法。

他說：「如今人們已經推出了更先進以及更不透明的模型。該研究是為了確保我們能夠保持對AI的高度可解釋性。」

過去5年，深度學習非常成功地模仿了人類感知能力。深度學習方法包括：訓練一個非常大的人工神經網路來識別數據中的模式。這種方法的靈感來自生物學中突觸與神經元的工作方式。雖然每個人工神經元只是一個簡單的數學函數，但是這些互連函數的複雜性使得深度網路的推理非常難以展開。也就是說，面對這麼龐大的計算量，我們很難完全理解AI的決策過程。

其實有一些其他機器學習技術比深度學習更加透明，它們在某些情況下甚至勝過深度學習。但是，需要對大量數據進行精準分析的金融業，深度學習是非常可靠、實用的，然而同時它也更加不透明，不具可解釋性。

一些創業公司的目標是承諾研發出更透明的演算法，來解決人們對深度學習不可解釋性的擔憂。

這個問題在未來幾年可能會變得更加嚴重，因為深度學習已經逐漸深入各行各業，因此監管機構可能會將注意力轉向演算法問責制。從明年開始，根據「一般數據保護條例」，歐盟可能要求所有公司能夠解釋它們設計的AI是怎樣作出決策的。

同時這個問題也引起了美國國防部高級研究計劃署(DARPA)的關注，DAPRA是一個為美國國防部服務的研究部門。去年，DARPA發起了一個名為「可解釋的人工智慧」的計劃。由這個計劃資助的13個項目展現了使AI更加透明的各種方法。

Wenchel說，Capital One正在努力研發出一種基於深度學習的演算法，以便更有效地自動監測出信用卡欺詐行為，儘管公司對這個演算法的不可解釋性仍保持警惕。他說：「金融業是一個被高度監管的行業。我們必須能夠告訴客戶作出這個決定的緣由。並保證我們是因為正確的原因而作出的這個決定。」

加州大學伯克利分校的教授Trevor Darrell說，深度學習現在非常熱門，非常流行，計算機視覺和自然語言處理也因此取得了很大的進步。「但是，深度學習系統卻因有時我們很難弄清楚它們內部情況而遭受批評。」

對於DARPA項目，Darrell的團隊正在研發幾種新的深度學習演算法，包括結構更複雜、能夠同時學習多件事情的深度網路，以及在訓練數據中加入一些解釋，例如在圖像翻譯中，當一張圖片被分類成「貓咪」時會有一段文字進行解釋為什麼它會被分類成「貓咪」。同樣的方法可以用於檢測信用卡欺詐。 Darrell說：「所有這些都讓我們能夠更深入地了解深度學習網路。」

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！