全國首例AI技術犯罪案背後，你的個人信息被最先盯上

編者按：本文來自微信公眾號「愛范兒」（ID：ifanr），運營編輯：沈星佑；36氪經授權發布。

AI 開始進入我們的生活，棲息在智能音箱或者手機里的它們，是能夠給你放音樂、陪聊天的助手，而在互聯網的灰色地帶里，它們也正成為犯罪分子的幫凶。

今年 9 月，浙江紹興警方公布，破獲全國首例利用人工智慧技術竊取公民個人信息的案件，截獲了 10 億餘組公民個人信息。

被警方查封的平台叫做「快啊」，曾經是市場上最大的打碼平台。他們在破解、竊取、販賣和盜用個人信息實施詐騙有著完整的鏈條，其中人工智慧技術運用在識別驗證碼這個環節。

為什麼 AI 會先學習識別驗證碼？

一般而言，黑產最初盜取的賬號密碼信息往往是「粗糙」的。但由於人們的同一個郵箱，通常也是多個網站的登陸賬號，同樣的密碼往往也在多個網站使用。因此黑產會通過利用已有的賬號密碼信息，去批量嘗試這些賬號密碼能否在更多不同的平台上登陸。

這個過程被稱為「撞庫」，而撞庫的過程中最主要的障礙就是各個網站設置的驗證碼。

黑產使用的 AI，就是用來應對這些驗證碼的。為什麼 AI 會先學習識別驗證碼呢？我們先來解釋一下驗證碼是什麼。

圖片來自安全牛

當我們登陸網站、提交信息時，總能遇上驗證步驟，尤其是在 12306 上買票時，對那些圖片驗證碼真的是咬牙切齒。但事實上，驗證碼是各個網站用來對抗網路黑產惡意登陸等行為而設置的安全策略。

驗證碼的全名是「全自動區分計算機和人類的圖靈測試」，由卡內基梅隆大學的路易斯 · 馮 · 安（Luis von Ahn）提出。圖靈測試，顧名思義，驗證碼的目的，是為了識別網路請求的發起方是人類，亦或是機器。因此早期的驗證碼就是網站提出一些問題，這些問題不能被機器破解回答，又得能夠被人類輕易答對。

網路黑產在撞庫時，他們就會將所遇到的海量驗證碼「打碼」任務，交給「打碼平台」去完成。

撞庫流程，圖片來自：freebuf.com

根據騰訊守護者計劃安全團隊的介紹，網路黑產撞庫時，與打碼平台是這樣合作的：

首先黑產把已竊取的帳號密碼信息導入到撞庫軟體，撞庫軟體模擬登錄協議，向互聯網公司的伺服器發送登錄請求。伺服器檢測到登錄異常時，會通過驗證碼來進行攔截；

撞庫軟體將收到的驗證碼圖片發送給「打碼平台」，請求將圖片轉化為字元。打碼平台後台破解驗證碼，將字元結果返回給撞庫軟體，完成撞庫流程，得到更多的用戶信息。

隨後這些信息可能被販賣、用於詐騙犯罪等。

早期的打碼平台，是通過眾包讓分布在各地電腦前的打碼小工來完成的。後來進化到了「人工 + OCR 降維識別圖片」。隨著互聯網公司對驗證碼識別難度的升級，「人工 + OCR 降維識別圖片」的識別率在降低，因此像「快啊」這樣的打碼平台就開始運用 AI 技術訓練機器，提高識別驗證碼的精度和效率。

隨著安全防護與破解入侵兩方面的抗衡日益升級，驗證碼的難度在增加，形式也在多樣化。從簡單的字母數字、算術題，到扭曲的字元、模糊的圖片，這些被歸類為知識性驗證碼；如今新一代的驗證碼已經開始向無知識型進化，例如 Google 的 reCAPTCHA，某些網站需要拖動滑條的驗證步驟。

機器學習的發展，讓字母、數字組成的知識性驗證碼被識別和破解的風險日漸增大，但這種驗證碼，依然是主流。據警方公布，這次抓捕的團伙所使用和訓練的 AI，已經能夠識別出 98% 以上的驗證碼。

中國互聯網協會發布的《中國網名權益保護調查報告 2016》顯示，在 2016 年，我國 6.88 億網民因詐騙簡訊、信息泄露等造成的經濟損失約為 915 億元。全國平均每個人的個人信息至少被泄露了 5 次。

AI 犯罪離我們有多遠？

對於網路黑產而言，AI 技術就是他們所發現的一把更加好用的槍支。技術本身是不分善惡的，只是看如何去運用它、在哪些情景使用它。使用 AI 犯罪，其源頭，依然是人類本身。

今年 7 月，金融時報報道，國內人臉識別公司雲從科技（Cloud Walk）正與警方合作，開發和測試用來識別犯罪嫌疑人的人工智慧，其中包括人臉識別和步態分析等技術。

總而言之，攻防雙方的對抗是一直在迭代升級的。在 AI 使用的爭議上，埃隆 · 馬斯克則是一次一次地向公眾發布自己的顧慮和警告。

早在 2014 年 8 月，馬斯克就通過推特說：AI 可能比核武器還要危險。在今年 8 月，馬斯克與 Google 旗下 DeepMind 聯合創始人穆斯塔法 · 蘇萊曼（Mustafa Suleyman），以及 26 個國家的一百多名人工智慧領域專家共同向聯合國發表了一封聯名信，希望能禁止有關殺人機器人的研究和使用。霍金也曾預言，2040 年 AI 的犯罪率將超過人類。

埃隆 · 馬斯克和創業孵化器 Y Combinator 總裁山姆 · 奧特曼聯合成立 OpenAI，圖片來自 medium.com

2015 年，埃隆 · 馬斯克創立人工智慧公司 Open AI，並宣布會開源共享包括深度學習技術在內的研究成果。在 Open AI 成立前後，谷歌宣布開源 TensorFlow 人工智慧引擎，Facebook 宣布開源 Big Sur 深度學習計算機伺服器的設計。先進技術的獲取，似乎也隨著開源而變得簡單。

就像農藥 DDT 能夠讓農業種植增產，也能讓人們患病；核技術能夠做成導彈武器，也能夠用來發電。新技術讓人類更輕鬆，也會造成新的社會問題。人工智慧也不會例外，例如 AI 可以在醫療方面提供新的可能性，也能被運用在軍事領域，製造成武器。

俄、美等國已製造出可實現自動駕駛、控制的坦克機器人，圖片來自：Recode

隨著人工智慧的普及，我們會發現它們在很多方面比人類更聰明、高效，這個過程一開始是悄無聲息只有蛛絲馬跡，但當到了某一個拐點，我們就會發現這個趨勢不可逆轉。

不過焦慮著急也沒有用，在現階段，我們還是靜靜地感受那些宣稱搭載了 AI 技術的手機，怎麼幫你把照片拍得好看，圖片修得更美吧。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！