馬斯克：有62％的程序員認為人工智慧會被武器化

GIF/100K

當地時間 9 月 13 日，馬斯克在自己的個人推特賬號上轉推了一篇名為《Hackers Have Already Started to Weaponize Artificial Intelligence》（編譯：黑客們已經開始武器化人工智慧）的文章。以下為博客節選內容：

來自安全公司 ZeroFOX 的兩位數據科學家進行了一次實驗，他們希望看看人類和人工智慧相比，究竟誰更容易讓推特用戶點擊惡意鏈接。於是，研究人員讓人工智慧研究社交網路用戶的行為，然後設計並實施自己的網路釣魚誘餌。從測試結果，人工智慧程序比人類要領先很多。

名為 SNAP_R 的 AI 以平均每分鐘 6.75 條微博的速度向 800 多名用戶發送了模擬的釣魚詐騙微博。最後有 275 位用戶上當，以相比之下，參加實驗的福布斯員工（Thomas Fox-Brewster）平均每分鐘發出 1.075 個推文，做了 129 次試驗，最終只吸引了 49 位用戶。

幸運的是，這只是一個實驗，但實驗已經表明，黑客已經能夠使用 AI 來進行惡意攻擊。事實上，他們可能已經在使用它，只是尚不為人所知。7 月份，在 2017 年美國黑帽安全技術大會（Black Hat Conference）上，數百名領先的網路安全專家聚集在拉斯維加斯，討論 AI 問題和新興技術可能會帶來哪些隱患。在調查中，有個問題關於在未來一年內黑客是否會使用AI進行攻擊，62％ 的受訪者的答案是肯定的。

Cylance 主管安全數據科學家 Brian Wallace 在接受 Gizmodo 採訪時說：「黑客一直在使用人工智慧作為武器。這是非常有意思的，因為黑客的規模問題，他們試圖儘可能地攻擊更多的目標，同時盡量減少對自己的風險。人工智慧和機器學習可以實現這一目的，所以成為他們最終使用的完美工具。「他說，這些工具可以決定要攻擊的人，攻擊者，何時攻擊等等。

移動安全初創公司 Zighra 的創始人兼首席執行官 Deepak Dutt 表示，在不久的將來，複雜的人工智慧將被用於網路攻擊的可能性很高，而且它可能已經被俄羅斯，中國等東歐國家使用。但是，關於 AI 以何種方式被利用，Dutt 暫時也不清楚。

「人工智慧可用於挖掘大量公共領域和社交網路數據，以提取出生日期，性別，位置，電話號碼，電子郵件地址等個人身份信息，可用於黑客入侵一個人的賬戶，「Dutt 告訴 Gizmodo。「它還可以用於自動監控電子郵件和簡訊，並為社會工程攻擊創建個性化的網路釣魚郵件。AI 可以更容易地突變惡意軟體和 ransomware，並且更智能地搜索並挖掘和利用系統中的漏洞。

Dutt 懷疑 AI 已經被用於網路攻擊，而且這些罪犯已經在使用某種機器學習功能，例如通過自動創建個性化的網路釣魚電子郵件。

「但是，新的人工智慧技術在新的機器學習技術方面，比如深度學習，可以被用來達到我剛剛提到的更高水平的準確性和效率。」他說。深度學習也稱為層次學習，是利用大型神經網路。它已經應用於計算機視覺，語音識別，社交網路過濾等諸多複雜任務，並且往往能夠產生優於人類專家的成果。

「此外，大量社交網路和公共數據集（Big Data）的可用性也有所幫助。先進的機器學習和深度學習的工具現在可以在開源平台上輕鬆獲得 - 這與相對便宜的計算基礎設施相結合，有效地使得網路攻擊更加複雜。

根據古德曼的說法，這些日子裡，絕大多數的網路攻擊都是自動化的。人類黑客走一個單一目標是非常少的，現在更常見的方法是使用 AI 和機器學習的工具自動化攻擊 - 從腳本分散式拒絕服務（DDoS）攻擊到 ransomware，犯罪聊天機器人等。這樣的機器智能化的前景是特別令人震驚的。AI 可以以超過任何個人黑客的速度和複雜程度生成複雜且高度針對性的腳本。

除了已經描述的犯罪活動之外，AI 還可用於攻擊弱勢群體、快速進行黑客攻擊、開發智能惡意軟體等等。

Recorded Future 首席技術官 StaffanTruvé 表示，隨著人工智慧成熟並成為更多的商品，「壞人」將會開始使用它來提高攻擊性能，同時降低成本。不同於許多同事，Truvé表示，AI目前並沒有真正被黑客使用，聲稱更簡單的演算法（例如自修改代碼）和自動化方案（例如啟用網路釣魚方案）正在運行正常。

Truvé 告訴 Gizmodo，「我不認為 AI 已經成為壞人必備工具的一部分。」 「我認為我們在攻擊中還沒有看到更多的」AI「的原因是，傳統的攻擊方法仍然有效 - 如果你從一個好的老式的強力方法中就可以達到你的目的，那麼為什麼要花時間和金錢來切換到某種新技術上呢？」

此外，9 月初，馬斯克在推特發表，「戰爭可能不是由國家的領導人發動，而是人工智慧——只要它認為先發制人的打擊是取得勝利最為有效的方式。」上個月，馬斯克聯合上百名人工智慧行業的高管向聯合國建議：禁止發展致命性自主武器，阻止高科技軍備競賽。

包括馬斯克、谷歌DeepMind創始人Mustafa Suleyman、丹麥Universal Robotics創始人等共計116人在公開信上簽名，敦促聯合國闡明致命性自主武器，即「殺手機器人」帶來的挑戰，並且在全球範圍內禁止使用這類武器。

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！