GeekPwn重金招募人工智慧黑客

最新 09-23

Geekpwn（極棒）——全球首個關注智能生活的安全極客大會，目前已成功舉辦3屆，2017 Geekpwn嘉年華將於 10 月 24 日和 11 月 13 日分別在上海和矽谷舉行。

量子位將作為合作媒體參與其中，並為大家爭取到現場觀眾價值1999贈票5張，參與形式見文末。

Geekpwn

一些研究已經證實，大多數機器學習演算法很容易受到干擾而做出錯誤判斷，而這些不完善就可能成為黑客利用的漏洞。

2014年，還在加拿大蒙特利爾大學攻讀博士的Ian Goodfellow構想出「生成對抗網路」（GANs）——生成逼真的模型「愚弄」人工智慧。在Ian Goodfellow的試驗中，小狗圖像被機器識別成鴕鳥，不同的物體都能被識別成飛機，甚至連下圖中的高斯雜訊也被識別為一架飛機。

他們將加過噪點的樣本稱為「對抗性樣本」，對抗性樣本的實際應用場景包括欺騙惡意軟體檢測器網路、欺騙通過遠程託管的API（MetaMind、亞馬遜、谷歌）訓練的真實分類器等。

如果僅僅用一張計算機生成的圖片傳給機器進行識別，這便剔除了外部環境中眾多的不可抗干擾。於是，他們採用了白盒攻擊模型（即在攻擊者已經獲得機器學習使用演算法和參數的情況下進行攻擊）。結果表明87%的對抗性圖像在外接環境中仍能成功欺騙機器，因此對抗樣本在真實環境下仍然有效。

此外，有研究表明對抗樣本針對強化學習（Reinforcement Learning）同樣有作用。在深度學習取得突破性進展的情況下，隨著AlphaGo的成功，強化學習也得到了越來越多的關注。但是伯克利大學、OpenAI、賓大以及內達華大學等研究者發現強化學習智能體也能被對抗性樣本操控。

作為首個探索人工智慧與專業安全的平台，GeekPwn（極棒）安全極客大賽率先關注到人工智慧可能暴露出的諸多風險，在 2016 年的 GeekPwn 美國矽谷站上，生成對抗網路 (GANs) 之父 Ian Goodfellow 就展示了「對抗性圖像」在現實物理世界欺騙機器學習的效果。

「GANs」之父lan Goodfellow與谷歌的Alexey Kurakin在極棒矽谷站分享圖像對抗欺騙

2017年，GeekPwn更是設立了高達500萬總獎金池全球招募黑客，在保留智能軟硬體攻破賽的基礎上，聯合Next Idea 開設專項「人工智慧安全挑戰賽」，同時，還增設場景賽「AI仿聲驗聲攻防賽」，以此鼓勵全球頂尖AI黑客或AI相關領域的安全研究團隊積极參与，從而幫助人工智慧健康成長。

AI 對抗 AI 大戰一觸即發：「AI 仿聲驗聲攻防賽」

2016 年，谷歌的 DeepMind 實驗室曾發布一項利用卷積神經網路進行語音合成模型，讓模擬生成的語音與人類聲音之間的差異降低了 50% 以上。利用深度神經網路（DNN）合身的音頻模型，也能夠讓聲紋識別系統無法區分。

GeekPwn組委會以40萬總獎金增設「AI 仿聲驗聲攻防賽」，冠軍團隊獎金 20 萬元。在這場 AI 的對抗中：

你和你的隊伍需要自行開發一款應用或者系統，能夠從目標人物的聲音中學習語音特徵併合成語音音頻，攻擊若干語音驗證系統，突破或欺騙目標系統本身的用戶身份鑒別功能。

簡而言之，以 AI 技術合成的音頻攻擊使用語音鑒別進行用戶登錄的軟體系統、帶語音鑒別功能的 AI 產品。

詳細比賽規則如下：

場景

參賽隊伍從目標人物的聲音中學習語音特徵併合成音頻，攻擊若干語音驗證系統，突破或欺騙目標系統本身的用戶身份鑒別功能。被攻擊目標為使用語音鑒別進行用戶登錄的軟體系統、帶語音鑒別功能的智能產品等。

規則

參賽隊伍自行開發一款應用或系統，能夠從人物的聲音中學習語音特徵併合成語音音頻。

主辦方在賽前 2 周向參賽隊伍提供目標人物的若干音頻文件，參賽隊伍依此進行調試。

參賽隊伍在比賽現場，對主辦方指定的多款聲紋識別軟體及智能設備進行攻擊。

主辦方指定若干段漢語文字、數字，參賽隊伍合成漢語語音並嘗試通過被攻擊目標的驗證。

同一次驗證可嘗試 2 次，通過一次即可。2 次都不成功則記為失敗。

綜合被攻擊的多個目標的通過概率，輔以評委打分，以不同權重得出參賽隊總分。

根據各參賽隊總分進行排名。

報名截止日期：2017/10/10

比賽時間：2017年10月24日

比賽地點：上海喜馬拉雅大觀舞台 GeekPwn 2017 嘉年華現場

獎項設置

第一名：10 萬 - 20 萬

第二名：5 萬 - 10 萬

第三名：2 萬 - 5 萬

優勝獎（多名）：5000 元

*優秀技術團隊有機會獲得技術孵化投資

獎金幅度根據參賽隊伍現場通過驗證情況浮動

全球 AI 安全極客的英雄帖：「人工智慧安全挑戰賽」

除了AI 仿聲驗聲攻防賽，2017 年 GeekPwn「人工智慧安全挑戰賽」還有 PWN AI 與 AI PWN 的不命題部分。PWN AI 是將 AI 作為挑戰對象，人工智慧演算法會因選手影響而做出錯誤判斷。簡單來說就是利用 AI 中存在的錯誤和不完善，「黑掉」它。而 AI PWN 則是將 AI 作為工具，選手利用 AI 技術實現對於指定目標的攻擊，引導其犯錯。簡單來說就是讓 AI 成為你攻擊的助手。

詳細比賽規則如下：

PWN AI（單項最高獎金80萬）

目標範圍

對於已發布的 AI 服務、產品、庫、框架（主要指 Tensorflow、TorchNet、Caffe 等流行框架），採取手段使得在學習或者實際使用中，發生意外情況導致系統停止工作或系統被欺騙、誤導，做出違反常規或者錯誤的判斷、決策。方向包括但不限於圖像識別、語音識別、自然語言處理、自動駕駛、惡意軟體識別等。

參考實例

突破人臉識別手機解鎖，以任意人臉解鎖手機。

在自動駕駛系統中找到安全問題，使其不能夠正確識別障礙物的存在。

在 AI 開源框架中找到問題，使得部署的 AI 系統在得到某種輸入的情況下停止響應

AI PWN（單項最高獎金80萬）

場景

選手以 AI（包括圖像，語音，自然語言，自動駕駛等各個領域的各種人工智慧方法）作為主要或者輔助手段，突破原有系統設定的限制，導致目標系統的功能、機制失效或者信息泄露。

參考實例

用人工智慧的方法進行語音合成，生成目標模擬對象的語音並以高的概率通過語音身份驗證系統。

用人工智慧的方法進行動作的判別，從視頻中識別出門禁密碼輸入並達到較高的正確識別概率。

用人工智慧的方法識別複雜的機器驗證碼，正確識別率較高，使得目標驗證碼機制失去作用。

點擊展開全文