美情報機構多方面發展人工智慧技術

美國情報高級研究計劃署（Intelligence Advanced Research Projects Activity，IARPA）正努力通過多個研究計劃在人工智慧（AI）領域取得突破。所有這些人工智慧計劃都需要用到政府、業界和學術界的專業知識。

IARPA主管賈森·馬西尼（Jason Matheny）指出，該計劃署是人工智慧研究最強大的經濟後盾之一，而影像領域則是情報人工智慧最大的增長領域。影像（包括視頻）是情報界受到數據影響最大的機器學習領域。大量的影像使得人類無法對其進行分析，因此某種形式的自動化是必要的。影像同時也是機器學習工具最成熟，也是最能快速、準確地產生結果的領域，如此才能進行更深入的分析。「圖像識別可能是機器學習最成熟的應用領域，國家情報工作因而受益匪淺，」他表示。

國家情報工作從根本上來說是關於學習、適應以及實現目標的能力，馬西尼表示。「情報工作之所以需要人工智慧，是因為世界變得越來越複雜，而人類智力的擴展也受到了限制，」他說道。

這種複雜程度已經超出了一個臨界點——即使是大量的人力分析師也沒有足夠的腦力來完成他們的任務，馬西尼繼續說道。機器學習提供了一種方法來彌補現有資源和迫切需求之間的差距。人工智慧還讓情報界得以將人類的腦力和注意力集中在最需要的地方。

機器學習最具應用前景的領域是涉及感知型數據的領域，例如影像，馬西尼表示。「在過去的幾年裡，機器學習在感知型數據領域的進步有所加快，」他說道。這是大型數據集的應用、更低成本的大規模計算和更好的統計技術帶來的結果。

儘管已經有許多用於處理影像的現成功能，但在此領域人們還可以取得更大進展。「目前，我們可從很多方面利用現有工具，並將某些方面的情報自動化，以便分析人員可以花更少的時間尋找坦克，花更多的時間去思考為什麼坦克會在那裡，以及坦克明天會採取什麼行動，」馬西尼說道。現在的機器學習方法可以幫助找到坦克，讓分析人員能夠空出手來處理另外兩個問題，而這正是機器無法發揮作用的領域。

IARPA開展了各種計劃，但在開發情報人工智慧方面遇到了一些障礙。馬西尼表示，第一個障礙是關於尋找用於訓練、測試和確定基準的合適數據集。他承認，IARPA在可以向研究人員發布的數據上花費了大量資金。此類數據必須是現有的非機密數據，或類似機密數據（IARPA必須從非機密數據中拼湊得來）。這些數據集將被用來訓練或測試部署在機密數據上的系統。

全面披露：美國《信號》雜誌（SIGNAL Magazine）向美國國家情報主任辦公室（Office of the Director of National Intelligence，ODNI）的自動情報生成系統挑戰賽Xpress Challenge免費提供可追溯到十幾年前的文章資料庫。這使得參賽者能夠在一個受控數據集中練習自己的搜索條目，而這個數據集擁有許多對於情報搜索而言至關重要的話題。

IARPA面臨的第二個問題是可解釋性，或者說是透明度。IARPA要求生成警告或預測的系統向人類用戶解釋他們為什麼會產生所提供的結果。馬西尼指出，除非情報分析人員了解系統如何獲得相關結果，否則他們不可能信任這類系統，藉此他對這種透明度的重要性進行了說明。

「這個問題具有挑戰性的一個原因在於深度學習（機器學習的一種常見形式）相關方法對於人類檢驗而言十分不透明，」馬西尼指出。「使用自然語言對結果進行解釋通常需要完成大量工作。」他補充道，美國國防高等研究計劃署正在為人工智慧的可解釋性開發程序。「如果從一開始就不做解釋，那麼你如何對系統進行改造，讓它變得可解釋？」他問道。

第三個人工智慧挑戰是因果關係，其中涉及事件分析。馬西尼解釋道，目前的機器學習和統計方法擅長確定數據的相互關係，但卻不擅長確定因果關係，而因果關係對於決策者而言很重要。人工智慧必須能夠區分因果關係與巧合。

第四個挑戰是防禦電子欺騙或「對抗輸入」的穩健性，馬西尼表示。黑客通過十分簡單的數據輸入就能夠欺騙各種人工智慧系統，人們對這種現象的擔憂與日俱增。「展示圖像識別系統如何被錯位的像素愚弄或迷惑已經變成了一個小把戲，」他承認。儘管肉眼可以輕鬆地分辨出不同，但人工智慧系統卻可能會將坦克的圖片誤認為校車的圖片。

「有很多針對此類技術的惡作劇，」他坦言。否定和欺騙（Denial and Deception）已從作戰空間轉移到數字領域，IARPA對尋找防禦此類欺騙的方法高度重視。

IARPA還有意將自己的人工智慧研究戰略與其他組織協調，因而與美國國防部高級研究計劃局（DARPA）、美國國家科學基金會（National Science Foundation）和美國國家標準與技術研究院（National Institute of Standards and Technology）等組織展開密切合作。馬西尼表示，政府各部門普遍認為，如果沒有更加深入的公共和私有部門合作，開發和利用人工智慧為公眾造福的努力將不會成功。

他指出，IARPA的商業模型是為已經處於研究領域最前沿的學術界和行業組織提供資金。同時開放廣泛的機構公告，徵求與情報工作有關的建議。馬西尼描述了以非正式的方式提交想法的過程。

「我們最想要的是那些我們從未想過的想法，」他說道。「我們不只是想要業界或學術界對政府的詢問進行機械地回答。我們想要我們自己想不到的突破性的想法，以及我們甚至可能沒有提出問題來徵求的想法。」

其中一個優先事項是確保機器學習系統行業的開發和嵌入技術具備一定程度的安全防範能力，馬西尼說道。用於地理空間或信號情報的系統至少應針對已知的網路攻擊進行測試，特別是那些旨在迷惑分類器的攻擊，分類器是一種人工智慧應用程序，他補充道。業界必須開始在自己的內部測試流程中解決此類問題。

在政府內部，美國中央情報局（CIA）的風險投資公司In-Q-Tel設有專註於人工智慧的部門。馬西尼解釋道，IARPA與In-Q-Tel合作，了解哪些人工智慧技術在商業上已經成熟。有時候，一個IARPA人工智慧研究項目的最終結果是成立一家初創公司，IARPA還將與In-Q-Tel協作以確定該公司是否應該接受私人資金以及接受多少。IARPA和In-Q-Tel之間的對話還可幫助研究組織避免重複開展行業項目，馬西尼提道。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！