是時候給人工智慧研究安裝剎車了

前不久，來自14個不同機構的26位知名研究人員進行發布了一份報告《人工智慧的惡意使用：預測、預防和如何抵禦》（英文原文見：The Malicious Use of Artificial Intelligence: Forcasting, Prevention, and Mitigation)。這是一份突破性的報告，給當前的人工智慧研究敲響了一記警鐘。來自劍橋大學生存風險研究中心的Shahar Avin是該報告的主要作者之一，他說：「這次不同了，你再也不能閉上眼睛了。」

在我國人工智慧投入已經超越美國的情況下，看看這份報告，人工智慧的研究者和決策者們都應該開始考慮如何在運用好人工智慧的同時，應該開始同時著手其惡意使用的研究和規範的制定。

簡單介紹（具體看報告）

這份長達100頁的報告指出三個安全領域（數字，物理和政治安全）與惡意使用人工智慧特別相關。它指出，人工智慧會破壞規模和效率之間的權衡，並允許大規模的，針對精細目標的和高效的攻擊。

報告推測，諸如自動黑客攻擊，用於模擬對象的語音合成，使用從社交媒體獲取的信息對精確目標投送垃圾郵件，或利用AI系統本身的漏洞（例如通過對抗樣本和數據感染）等新型網路攻擊。

同樣，無人駕駛飛機廣泛使用和網路系統的擴大的將允許攻擊者有針對性地侵入或重置部分系統的功能，例如使自動駕駛車輛的崩潰，將商業無人機轉變為面向目標的武器，或使關鍵基礎設施停擺而敲詐贖金。自主武器系統在戰場上的廣泛使用可能會導致的失去原有控制，從而被反向利用。

在政治領域，詳細的分析，有針對性的宣傳和便宜的，高度可信的虛擬視頻為處理以前難以想像的尺度的公眾輿論提供了強大的工具。利用人工智慧大規模匯總，分析和處理公民信息的能力可以實現新的監控水平，侵犯隱私並威脅從根本上轉移個人，公司和州之間的權力。

人工智慧如何接管世界的10個例子

另一篇文章針對此報告總結了一下10個「駭人聽聞」的例子，來表明如果不加控制，人工智慧將如何給我們的生活帶來災難性的影響。

原文：https://www.pastemagazine.com/articles/2018/02/10-harrowing-examples-from-a-new-report-on-how-art.html

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！