AI 離你很遠嗎？黑客已經開始用來做武器裝備自己了

摘要：AI 就好像家裡的菜刀一樣，既是你切菜的好工具，但也可能成為暴徒手中的趁手武器。雖然技術無罪，但也應當善用技術。這篇馬斯克在推特上轉發的文章，或許可以解釋他到底在擔憂 AI 什麼，AI 對你我的生活又會有哪些影響。

去年，來自安全公司 ZeroFOX 的兩位數據科學家進行了一次實驗，看看誰更好地讓 Twitter 用戶點擊惡意鏈接，人類或人工智慧。研究人員教導人工智慧研究社交網路用戶的行為，然後設計並實施自己的網路釣魚誘餌。在測試中，AI 比人類競爭對手強大得多，製造並分發了比人類更多的網路釣魚推文，成功率也大大提高。

這個名為 SNAP_R 的 AI 以每分鐘 6.75 條推文的速度向 800 多名用戶發送了模擬的釣魚詐騙推文，吸引到 275 位受害者。相比之下，參加實驗的人類實驗者只能每分鐘發出 1.075 條推文，只吸引了 49 位用戶。

這樣一條鏈接你很難區分是 AI 還是人發的 圖 | 

Gizmodo

雖然這只是一個實驗，但它也證明 AI 已經可以用來進行惡意攻擊。事實上，黑客可能已經在使用 AI 來進行這種攻擊了。今年 7 月份，在 2017 年美國黑帽安全大會上，數百名領先的網路安全專家聚集在拉斯維加斯，討論這個問題和新興技術帶來的其他隱患。在接力調查期間舉行的巡迴調查中，有與會者被問及在未來一年內黑客是否會使用 AI 進行攻擊，62％的受訪者表示肯定。

數據安全科學家 Brian Wallace 受訪時說：「黑客一直在使用人工智慧作為武器，因為這是非常有意義的，因為黑客有規模的問題，試圖儘可能多的攻擊，儘可能多的目標，同時盡量減少對自己的風險。特別是人工智慧和機器學習，是他們最終使用的完美工具。「他說，這些工具可以決定要攻擊的人，攻擊者，何時攻擊等等。

被忽視的 AI 技術發展

1997 年深藍電腦對戰國際象棋冠軍獲勝 圖 | 視覺中國

一個有趣的事實是，隨著技術的進步，我們對它的觀念也隨之變化。例如，幾個世紀以前，如果你說由一個叫做計算器的東西計算速度可能會比人類快幾百萬倍，這肯定被認為是天方夜譚，但是今天很少有人會將計算器視為特別的事情。

同樣，在國際象棋中贏得勝利的能力曾經被認為是人類智力的高標準，但自 1997 年 Deep Blue 擊敗加里·卡斯帕羅夫以來，這種認知技能已經失去了前所未有的光彩。所以，隨著 AI 的每一次突破，機器智能和神經網路這樣的現代工具是人造智能的一種形式也在變得平凡。

今天，機器學習、自然語言處理，神經網路等技術的快速發展降低了我們對什麼構成 AI 的看法。幾年來，人工助理（如 Siri 或 Alexa），自駕車和疾病診斷演算法開始被視作理所當然的，並且很多人開始覺得這樣的 AI 其實也沒有多大力量。

但不要誤會，如果我們忽視工具或忽視這些工具的力量，我們可能會被那些渴望利用 AI 潛力的人蒙蔽，黑客包括在內。

黑客的邪惡意圖

黑客利用 AI 將更容易破解私人數據，造成安全隱患 圖 | 視覺中國

AI 或許沒有電影中想像的那麼邪惡，但是在錯誤的人手中，他們同樣會變成可怕的工具。

移動安全初創公司 Zighra 的創始人兼首席執行官 Deepak Dutt 表示，在不久的將來，複雜的人工智慧將被用於網路攻擊的可能性很高，而且它可能已經被俄羅斯、東歐等國家使用家。關於 AI 如何以惡劣的方式使用，Dutt 認為人們並不缺乏創意。

「人工智慧可用於挖掘大量公共領域和社交網路數據，以提取出生日期、性別、位置電話號碼、郵箱地址等個人身份信息，可用於黑客入侵個人賬戶，」Dutt 告訴記者。「它還可以用於自動監控電子郵件和簡訊，並為社會工程攻擊創建個性化的網路釣魚郵件網路釣魚詐騙是非法嘗試從不知情的用戶獲取敏感信息。AI 可以更容易地突變惡意軟體、更智能地搜索並挖掘和利用系統中的漏洞。

Dutt 懷疑 AI 已經被用於網路攻擊，而且這些罪犯已經在使用某種機器學習功能，例如通過自動創建個性化的網路釣魚電子郵件。

「但是，新的機器學習技術，如深度學習，AI 可以用來實現我剛才提到的更高水平的準確性和效率的情況，但新的是什麼。」他說。深度學習也稱為分層學習，是利用大型神經網路的機器學習的子領域。它已經應用於計算機視覺，語音識別，社交網路過濾等諸多複雜任務，往往產生優於人類專家的成果。

「此外，大量社交網路和公共數據集（Big Data）的可用性也有所幫助。先進的機器學習和深度學習技術和工具現在可以在開源平台上輕鬆獲得 - 這與相對便宜的計算基礎設施相結合，有效地使得網路攻擊更加複雜。

《未來犯罪：人人相關人人脆弱的時代我們能做什麼》一書的作者古德曼認為越來越多的網路攻擊都將自動化。人類黑客鎖定單一目標的情況是非常少的，現在更常見的方法是使用 AI 和機器學習的工具自動化攻擊 - 從腳本分散式拒絕服務（DDoS）攻擊到勒索軟體、犯罪聊天室等的一切。

AI 可以以超越任何個人黑客的速度和複雜程度生產複雜且高度針對性的腳本。儘管如此，這些可能性似乎幾乎是無止境的。除了已經描述的犯罪活動之外，這些技術還可以用來針對弱勢群體，進行快速攻擊，開發智能惡意軟體等。

Recorded Future 首席技術官 StaffanTruvé 認為，隨著 AI 成熟，黑客將開始使用它來提高攻擊的性能，同時也降低成本。

要避免 AI 被壞人利用，還得依靠 AI 發展

AI ON AI 可能才是正確的解決方案 圖 | 視覺中國

幸運的是，對於潛在的黑客風險，安全專業人員有一個相當有力和明顯的對策，那就是人工智慧本身。

麻煩的是，和黑客之間的較量一定是一場競賽。兩方都沒有選擇，因為唯一的對抗方式就是越來越依賴 AI。「一旦你開始對付敵手，你別無選擇，只能自己使用武器化的 AI。」，華萊士認為。為了保持領先地位，華萊士建議安全公司進行自己的內部研究，並開發自己的武器化 AI 來戰鬥並測試他們的防禦。

事實上，美國國防部研究機構 DARPA 已經採用了這種方法，並組織了大量的挑戰，AI 開發人員在捕捉旗幟的虛擬遊戲中將他們的作品相互對方。這個過程和達爾文的自然進化理論非常相似，於黑客和信息技術專業人士來說，通過對抗技術能生成最合適的技術。

「我們將不再需要」使用越來越多的 AI「從欺詐檢測到打擊網路攻擊」。事實上，幾個初創企業已經在與 IBM 沃森合作打擊網路威脅，防病毒公司利用 AI 將異常檢測作為一種自動的方法。比如，Truvé 正在使用 AI 技術來進行自然語言處理，比如利用自動檢測何時什麼時候可能會發生攻擊，並預測未來的威脅。

利用 AI 的黑客將採用更有效的方式進行攻擊，其危害遠遠超過傳統的網路攻擊手段。因此現在開發的基於 AI 的防禦機制在很大程度上也可能用於基於 AI 的攻擊。信息科技團隊不斷監測黑客的網路攻擊活動，並從中學習，不斷通過監督和無監督的基於學習的防禦策略的組合進行創新，以便在第一個標誌上發現和阻止攻擊，在任何戰爭中，採取更為積極的進攻防禦策略可能是更好的選擇。

註：本文編譯整理自 Gizmodo，原文標題為：

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！