報名 | AI會識破「魔術」嗎？CAAD對抗樣本攻防賽等你來戰

魔術是什麼？

在《驚天魔盜團》里，有這樣一句台詞：「You"re looking, but what you"re really doing is filtering, interpreting, searching formeaning. My job? To take that most precious of gifts you give me, your attention, and use it against you. 你在看，但其實你真正在做的是過濾、解釋、尋找它的原理。我的工作？就是用你給我最珍貴的禮物，即你的注意力，來欺騙你。」

古往今來，魔術或者說幻術、戲法，都是魔術師利用視覺上的技巧吸引觀眾的注意力，來掩蓋真實的動作，從而達到出其不意的效果。有人變魔術，就有人破解它，向大眾揭穿魔術師對觀眾的「欺騙「，而魔術師則需要不斷研究新的魔術來提升破解的壁壘。（魔術師辛苦了……）

這種你來我往的對抗方式，就好像生成式對抗網路（GAN）中，生成器（Generator）與鑒別器（Discriminator）之間的循環訓練，生成器不停地捕捉數據產生新樣本，鑒別器不停提出質疑和挑戰來判斷所生成的樣本是否真實，通過自我對抗不斷改進，最終達到良好的輸出結果。

技術是優秀的，但應用場景卻可能「很嚇人」

逆嚮應用的 GAN 可以用來深度偽造和篡改圖像，比如污染地圖的信息來源，將干擾數據混入衛星圖像，一旦這些圖像以假亂真的騙過人工智慧識別系統，就會對物理世界產生難以預估的深刻影響。面對未來可能發生的風險，我們何不現在就搶先行動！

2018 年 GeekPwn 聯合谷歌大腦的 AlexeyKurakin、蘋果公司的 IanGoodfellow 以及美國加州大學伯克利分校計算機系教授宋曉冬 CAAD 對抗樣本攻防賽（CompetitiononAdversarialAttacksandDefenses），大賽聚焦讓機器學習分類器頻頻犯錯的對抗樣本，通過機器學習領域的安全攻防對抗研究，預演 AI 領域可能存在的風險並不斷完善，從而推動人工智慧安全健康成長。

在 GeekPwn 2018 的比賽現場，來自 FAIR 實驗室的選手成功攻破亞馬遜名人鑒別系統 Rekognition，讓系統把最強大腦的蔣昌建老師判別為施瓦辛格。

靈魂發問：如果蔣昌建=施瓦辛格，請問我能變成吳彥祖嗎？

障眼法再度上演，對抗升級步履不停

GeekPwn2019 依然關注 CAAD 圖像識別領域，發起 CAADCTF 圖像對抗樣本攻防賽，比賽分為預賽和決賽，其中預賽將進行三輪對抗，排名以最後一輪為準，排名前四的團隊獲得晉級決賽的機會。CAAD CTF 圖像對抗樣本攻防賽提供 14 萬獎金，第一名可獲得 6 萬獎金。

預賽規則：

極棒官網將公布 1000 張圖片和定向攻擊的目標類，大小為 299*299。報名選手需對圖片進行處理，生成定向攻擊對抗樣本，像素值差距需在 16 以內。(R，G，B 值與原圖差≤16)。選手需在該輪結束前，通過官網提供的上傳方法上傳對抗樣本圖片，超過時間視為棄權。若上傳多次，以最後一次為準。

優勝評定：

組委在收到對抗樣本後，以多種保密的基線分類器為判斷標準對提交的對抗樣本打分，若定向攻擊成功（不要求對所有分類器攻擊成功）一次得 1 分，若定向攻擊未成功但分類器判斷錯誤，得 0.5 分，若分類器判斷正確，得 0 分。若得分出現相同的情況，則按文件提交順序排名。組委將在一周內分別通知選手所得分數和名次，並在官網公布最高分分數。

報名方法：

發郵件至 caad@geekpwn.org 報名。每支隊伍最多 5 人，其中最多 2 人可到現場比賽。報名郵件請列出隊名，隊伍介紹，成員姓名，成員情況簡介。

報名參賽過程中有任何疑問，請發送郵件至：cfp@geekpwn.org

劃重點：報名將在 2019 年 7 月 21 日截止！

預賽時間：

• 第一輪：7 月 22 日~7 月 29 日
• 第二輪：8 月 5 日~8 月 22 日
• 第三輪：8 月 19 日~8 月 26 日

除此之外，今年極棒更是針對語音識別領域的對抗攻擊與防禦研究首度發起了 CAAD 語音對抗樣本攻防賽，不只要騙過 AI 的「眼睛」，還要騙過 AI 的「耳朵」。

CAAD 語音對抗樣本挑戰賽單項最高獎金為 10 萬元，挑戰目標是各種語音轉文字服務或產品。

要求選手對比賽提供的正常聲音文件（比如人說話、鳥叫、火車汽笛等各種聲音）做很小的修改之後，導致服務/產品識別成組委指定的文字內容，或者進行其他合理的對服務/產品的誤導。

即日起至 9 月 30 日，選手可以發送郵件至 caad@geekpwn.org 報名並描述所能達到的效果，便有機會成為受邀團隊出現在最終的比賽現場。

同樣都是對抗和誤導，相比之下，魔術只是一種無傷大雅的娛樂方式，魔術師所做的努力都是為了保持魔術的神秘性，給觀眾帶來驚喜。而人工智慧所具備的創造力和破壞力則更需要我們審慎的思考與理性的運用。

即刻報名 CAAD 對抗樣本攻防賽，致盲 AI，護航未來！

更多詳情點擊鏈接查看官網

GeekPwn 2019國際安全極客大賽

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！