網路安全攻防人機大戰 人工智慧依舊不敵人類

網路安全攻防人機大戰

人工智慧依舊不敵人類

2016年8月5日，全球矚目的第24屆黑客攻防奪旗大賽Defcon CTF在美國拉斯維加斯開幕。此次最具亮點的，就是參與的15支隊伍中，有一支是機器人系統Mayhem，它與其他的14支人類組成的CTF團隊，在CGC（網路超級挑戰賽，簡稱CGC）平台上比拼查找漏洞、利用漏洞和修補漏洞的速度。

這次的Defcon比賽主題是：Rise of the Machines。CTF參賽的14支人類隊伍和機器人隊伍Mayhem必須一起在CGC的開發平台上DECREE比賽找漏洞的速度。

在Defcon CTF首日比賽中，機器人Mayhem一直排名末位，到第二天，Mayhem雖然擊敗了兩支人類隊伍，但是排名仍然靠後，這一狀況一直持續到7日比賽結束。最終，人類團隊美國卡內基梅隆大學的PPP戰隊、來自中國的藍蓮花團隊與上海交大0ops團隊聯合組成的b1o0ps戰隊，以及來自韓國的DEFKOR戰隊分列大賽前三名。

這次比賽對於安全領域的意義類似於1970年的首屆機器國際象棋比賽，雖然CGC的人工智慧系統初期表現還沒有跡象能夠全面超越人類黑客的能力，但自動系統用於安全攻防實踐將加快到來，就像無人駕駛技術在美國國防部先進項目研究局（DARPA）舉辦了三屆超級挑戰賽之後，其技術成熟程度突飛猛進。

全球第一次機器人漏洞修補比賽

Mayhem是在由美國國防部先進項目研究局（DARPA）推出的CGC（Cyber Grand Challenge）網路超級挑戰賽（或自動化攻防比賽）中勝出的機器人系統，由卡內基美隆大學組成的新創團隊ForAllSecure設計。

CGC於2013年發起，是一個全球性網路安全競賽，目的在於提升利用人工智慧進行網路攻防的能力。當軟體和系統有越來越多的漏洞時，人工找尋和修補漏洞的能力遠遠落後於機器的速度，遇到計算機故障生成成百上千條崩潰報告時，這項工作就變得尤其艱巨，2003年的SQL slammer蠕蟲在短短10分鐘內就感染7萬多台電腦，要解決這樣的問題，需要靠計算機的自動化工具。因此，DARPA啟動了CGC計劃，希望研發出一套自動分析、挖掘和利用系統漏洞以及自動修補系統漏洞的CRS系統（Cyber Reasoning System，網路決策推理系統），從而改進人工智慧系統對漏洞的檢測與防禦能力。也就是說，這是機器與機器之間的較量，是全球第一次利用機器人進行網路攻防的比賽。

參與CGC決賽的機器戰隊之一CodeJitsu的共同領隊張超博士在現場接受採訪

CGC比賽從2013年10月開始報名，經過3場初賽，在2015年8月的Defcon中，宣布最終入圍的7個隊伍，包括：由加州伯克利大學Dawn Song教授帶領的CodeJitsu團隊所設計的Galactica機器人；由卡內基美隆大學David Brumley教授創立的新創公司ForAllSecure設計的Mayhem機器人；由程序分析公司GrammaTech和維吉尼亞大學組隊的TECHx所設計的Xandra機器人；由愛德華大學計算機系的教授Jim Alves-Foss及其博士後研究員Jia Song組成的兩人團隊CSDS所設計的Jima機器人；美國國防公司Raytheon（雷神）組成的DeepRed設計出的Rubeus機器人；喬治亞大學學術理論分析人員和CTF選手組成的四人小組disekt所設計的Crspy機器人；以及加州大學聖塔芭芭拉分校的學生組成的Shellphish所設計的machaPhish等七隊機器人，其中Shellphish和卡內基梅隆大學的隊伍是同時參與CGC比賽且入圍Defcon CTF比賽的隊伍。

2016年8月4日，CGC比賽的決賽正式在拉斯維加斯舉行，此次決賽主要是希望解決現實社會中難以解決的零時差（Zero Day）漏洞的問題，通過即時的自動化網路防禦系統，可以通過系統自動化找出漏洞並且完成修補，真正做到降低這種零時差漏洞對系統和使用者帶來的損害。這次CGC的比賽，以內存破壞類型的軟體漏洞為主，比如常見的緩衝區溢位（Buffer Over Flow）、Format String Error等。

所有的過程和步驟，都要求做到全程自動化，因此，現場只能看到7台機器的無聲較量，95輪的比賽均由兩個解說員進行全程解說，7支研發機器人系統的團隊成員在一旁觀戰。

最終，由卡內基美隆大學成員組成的新創公司ForAllSecure推出的Mayhem機器人（Bot）勝出，並獲得200萬美元的獎金。第二名為TECHx的Xandra機器人，獎金為100萬美元。第三名為Shellphish的Mechaphish機器人，獎金75萬美元。

值得一提的是，七支入圍決賽的機器戰隊中，有多名華人的面孔。如disekt的領隊喬治亞大學李康教授，CodeJitsu領隊為加州大學伯克利分校的宋曉東教授，以及共同領隊張超博士和戰隊成員清華大學楊坤，Shellphish戰隊的fish原是清華大學的王若愚等，並且他們大多與國內著名CTF戰隊百度-藍蓮花有關。

機器人如何保護網路安全

這七個機器人系統可以使用相關的自動化和漏洞修補技術包括：動態分析（Dynamic Analysis）、靜態分析（Static Analysis）、符號執行（Symbolic Execution）、約束求解、數據流跟蹤技術（Data Flow Tracking）以及模糊測試（Fuzz Testing）等，並和其他半自動化技術搭配，開發出一整套全自動的網路決策推理系統（Cyber Reasoning System，CRS）。決賽中，各CRS系統需要針對所有待測試的各種漏洞，也包括曾經對於全球網站造成極大衝擊的Heartbleed漏洞進行分析，不僅要自動推論出目標程序的漏洞所在位置，也必須要能觸發對手系統中的該漏洞以證明漏洞的存在，最後，則必須要自動化修補該漏洞，並防止其他隊伍的攻擊。

總決賽開始時，每個參賽的人工智慧系統被置身於一個受控的封閉環境中。每個系統負責維護自己的所有服務，使其可用性不受影響，同時發掘和修補服務中存在的漏洞，並且攻擊對手系統的服務中的漏洞。為了攻擊對手，這些參賽的系統需要分析所有服務中存在的漏洞。一旦發現漏洞，CRS系統需要進一步生成攻擊樣本攻擊對手系統。經證實對手伺服器確實存在報告的漏洞後就能得分。同理，如果自身的服務被對手系統攻擊成功將被扣分。因此，這些人工智慧系統還必須同時對自身進行網路防禦，保護伺服器不受對手的攻擊。

為了將網路安全人工智慧系統用於打擊惡意行為，此次大賽的成果以及參賽軟體以開源形式公開，開源軟體使得各種漏洞或漏洞利用程序更容易被網民發現和修復。並且，這種開放性也是為了防範對人工智慧技術「惡意濫用」。

此次比賽的負責人Walker未對人工智慧系統可能帶來的網路安全益處進行預測，但他指出，商業軟體的各種網路安全進步同樣也將給美國軍事帶來益處，因為後者一般依賴於這種現成的成果。

機器人較量背後的投入

決賽階段從2015年7月末開始，七支通過預賽進入決賽的隊伍均獲得DARPA的獎金和計算資源資助。挑戰的內容是：在更貼近實際網路攻防的對戰環境中，自動化地挖掘漏洞並生成利用程序（exploit）攻擊其他隊伍，同時自動化地防護自己隊伍的程序，包括系統和網路層面防護。

DARPA官方為每個參賽隊伍提供的計算資源總價值達60萬美元：每個獨立的HPC包含64個節點，每個節點包括20 Xeon cores、256GB of RAM、2TB of storage，總計：1280 Xeon cores，16384GB of RAM，以及128TB的存儲。

據了解，DARPA為CGC項目共投入5500萬美元，除上述各隊伍的HPC伺服器之外，還包括預賽階段各隊伍資助金額825萬美元，決賽資助金額525萬美元，決賽獎金375萬美元，以及其他平台和賽題開發費用、項目管理費用等。

（本文彙編自天極網、人工智慧快報、安全牛等編譯及原創文章，CodeJitsu隊伍的共同領隊張超博士亦對本文有貢獻。）

— —END— —

※網路安全防護中AI人工智慧重要性凸顯
※人工智慧如何抵禦黑客攻擊，保障網路安全？
※除了安全維護者，網路犯罪分子也喜歡使用人工智慧系統
※機器人之間的網路安全對抗 人工智慧真的來了！
※未來人工智慧使人類永生 人將活在網路中
※人工智慧：網路安全的關鍵「盟友」
※人工智慧用於網路安全的「能」與「不能」
※智能化工廠安全防護系列——智能發貨系統網路安全防護方案
※人工智慧是讓網路更安全還是更危險？
※網路安全：人工智慧產生了什麼「化學反應」？
※國內第一場沒「人」參與的黑客大賽，引爆網路安全與人工智慧結合
※中搜網路董事長、總裁陳沛：從「人機大戰」看人工智慧的崛起
※網路安全之中間人攻擊
※父母防網路詐騙福音 阿里推防騙智能機器人
※亞馬遜購物網公布「倉庫管理機器人」內部影片震驚全網路，誰還會想用人類？！
※築牢網路安全的人民防線 特約
※守住智慧交通網路安全防線
※揭秘今日頭條「網路安全委員會」，人工智慧如何讓網路更安全
※人工智慧可測血型；神經網路不再「學新忘舊」