犯罪技術將與人工智慧一同進化

人工智慧技術的飛速發展為人類社會帶來了方方面面的便捷，但會加持犯罪的各種手段。通過人工智慧程序，滑鼠輕輕一點就能輕易實現視頻和音頻竊聽的犯罪技術不會太遠。

想像一下年邁的母親打電話向你求助，她忘記了銀行卡密碼。但真實的情況是她不是你的媽媽，電話另一端的聲音只是聽起來像她。

那只是計算機合成的聲音，人工智慧的一大絕招已經在電話中被用來偽裝身份。這樣的情景目前尚屬科幻，但未來，它可能成為一種犯罪。

偽裝技術的大範圍實現需要的這種軟體正在快速發展。例如 DeepMind，Alphabet 旗下以 AlphaGo 聞名的公司，這個程序已經在圍棋大賽中擊敗了幾個世界頂級選手。最近，DeepMind 宣布已經開發出一種新程序可以模仿任何人類的聲音，這種聲音聽起來比之前的任何一套文本語音系統生成的聲音都要自然，並將現有的自然語音技術與人類語音的差距縮小了 50%。

但是，諷刺的是今年計算機安全產業的年總收入達到了 750 億美元，並開始討論機器學習和模式識別技術將會如何改善計算機安全眼下的悲劇狀態。但是還有一個問題。

「人們還沒搞明白網路犯罪已經變得自動化而且成指數級擴張，」一位執法機構的顧問和《未來的罪行》一書作者 Marc Goodman 說到。他補充道，「這不是 Matthew Broderick 在地下室里搞黑客攻擊那麼簡單了，」參考 1983 年的電影《戰爭遊戲》。

今年年初，美國國家情報局局長 James R. Clapper 曾警告過關於先進人工智慧技術的惡意使用。在其年度安全審查中，Clapper 先生強調了雖然人工智慧系統能帶來便捷，但它們也擴大了在線世界的漏洞。

計算機犯罪技術的不斷尖端化在網路攻擊工具的進化中可見一斑，比如，Goodman 所說的，廣泛使用的臭名昭著的惡意程序 Blackshades。該程序作者是瑞典人，去年在美國被定罪。

這個程序在計算機地下市場上賣的很火，其功能可以被形容為「盒子里的刑事特權（criminal franchise in a box）」Goodman 說。它能讓不懂技術的用戶在計算機上部署一個勒索程序或者通過滑鼠點擊來進行視頻或者音頻竊聽。

這些工具的下一代產品將會加上機器學習技術，而該技術原先是由人工智慧研究者用來改善機器視覺、語音理解、語音合成和自然語言理解的。一些計算機安全研究者相信數字犯罪在 5 年前就已經開始嘗試使用人工智慧技術了。

顛覆互聯網無所不在的驗證碼可以顯示這一點——全自動區分計算機和人類的圖靈測試。這是卡耐基梅隆大學的研究者 2003 年發明的 challenge-and-response puzzle，用來阻止自動程序竊取在線帳戶的技術。

普通的人工智慧研究者與黑客罪犯一直在部署機器視覺軟體，5 年前就顛覆了驗證碼技術。加州大學聖迭戈分校的計算機安全研究員 Stefan Savage 說到。

「如果你兩年沒改驗證碼了，它就會被一些機器視覺演算法操控，」他說到。

兩人驚訝的是，拖慢惡意人工智慧發展速度的東西已經可以以低成本或免費的人力解決。例如，一些網路犯罪已經將破解驗證碼外包給電子工廠，這裡人力解碼一個密碼的費用只需一丁點。

創造力更佳的計算機騙子已經使用網路色情作為獎勵發送給那些破解驗證碼的人，Goodman 說。自由勞動是人工智慧任何時候都無法匹敵的一種商品。接下來又會怎樣呢？

剛踏入犯罪的人可以搭上新技術發展的順風車。聲音識別技術如蘋果的 Siri 和微軟的小娜現在廣泛用於與計算機的互動。同時亞馬遜的 Echo 聲音控制揚聲器和 Facebook 的 Messenger 聊天機器人平台迅速成為在線商務與客戶支持的在線通道。通常的情況是，無論何時，當一種像聲音識別這樣的交流技術進步開始成為主流，犯罪很快就能將它利用上。

「我會質疑，通過聊天機器人提供客戶支持的公司不在不知不覺地承擔起一項社會工程，」krebsonsecurity.com 的一位調查記者 Brain Krebs 說。

社會工程，說的是促使人們執行某些行動或者泄露信息的行為被看成是計算機網路安全鏈上最弱的一環。網路犯罪分子已經在利用人類最好的品質——信任和助人為樂——來進行盜竊和間諜行為。創造人工智慧化身欺騙網路用戶的能力只會將問題惡化。

在州政府和政治運動的政治宣傳中廣泛使用的聊天機器人技術可以反映出這一點。

研究者已經發明了「計算宣傳（computational propaganda）」這一短語來形容 Facebook 和 twitter 等社交媒體上欺騙行為的爆發。

在最近的一篇研究論文中，牛津互聯網研究所的社會學家 Philip N. Howard 和布達佩斯考文紐斯大學（Corvinus University of Budapest）研究員 Bence Kollanyi 描述了在即將到來的「英國退歐」公投中，政治聊天機器人是如何扮演一個有策略的小角色來塑造在線對話的。

犯罪中用上這些軟體只是時間的問題。

獨立計算機安全專家 Mark Seiden 說到，「攻擊社會工程的設計中有很多小聰明，但是就我所知，還沒人開始使用機器學習來找到最容易上當受騙的那群人，」他停了停又說，「我本來應該回答你的是：我很抱歉，Dave，我現在不能回答這個問題。」

TAG:機器之心 |

※人工智慧接管城市裡的攝像頭預防犯罪，奧威爾式的監控也成為可能 | 人工智慧關鍵在人 ③
※利用人工智慧預測犯罪，人群分析就能抓小偷
※人性與魔性的真實對決，藝術犯罪家《惡魔蛙男》
※人工智慧接管城市裡的攝像頭預防犯罪，奧威爾式的監控也成為可能
※高智商的人犯罪究竟該不該與「庶民」同罪？
※加密通信軟體正成為金融犯罪的工具
※除了安全维护者，网络犯罪分子也喜欢使用人工智能系统
※美國設有專門的毒品法庭，處理非暴力性毒品犯罪
※簡直是科幻電影成真，人工智慧支援警局預測犯罪的故事。＃顫抖吧，愚蠢的人類罪犯
※除了安全維護者，網路犯罪分子也喜歡使用人工智慧系統
※《犯罪心理》李准基，為角色學習魔術和俄羅斯特工武術
※都是動畫的鍋！天才心理學集團稱「動畫和犯罪有關聯性」
※澳大利亞有這麼一群特殊的清潔工，專門負責清理犯罪現場
※聯合國維和人員的性侵犯罪問題該怎麼破？
※女賊創立了「犯罪職業技術學校」，教年輕人提高技藝
※一部高智商犯罪電影
※褲子失蹤的宋智孝，引人犯罪啊
※論心理健康與違法犯罪
※男神如何機智戰勝變態心理犯罪者