安全漏洞頻現？用機器黑客保障網路安全，實現機器的自我突破

新聞 07-20

演繹 inSite 第二十一期節目

機器黑客——網路安全的破局者

張超

清華大學網路科學與網路空間研究院副教授

張超 @ 演繹 inSite 演講視頻：

以下為張超演講文字稿：

（根據演講現場整理，基於原意有所刪減，完整版請看視頻）

大家好，我是清華大學張超。今天很高興能在這裡跟大家分享話題：機器黑客——網路安全的破局者。

我將從機器黑客的前世、今生和未來展開這次演講，提起黑客大家想到的就是網路空間中做壞事的人，但實際上黑客在早期是追求技術的極客，他們以炫耀技術為目的，到後來出現一部分黑客以追逐各種利益為目的，包括政治目的、經濟目的，那麼黑客群體因此劃分為追逐利益的黑帽子黑客，以及守衛安全的白帽子黑客。

（來源：ITPRO）

黑客攻擊的邏輯是什麼？

20 年前的一部電影《黑客帝國》為黑客揭開了神秘的一角，在這部電影中人類被機器奴役，人類的意識被圈養在 Matrix 中，電影的主角是一個黑客，他用各種技術帶領人類逃脫 Matrix 的控制，在電影中角色們通過創建一個特殊的電話亭，通過接通電話人類意識就可以從 Matrix 中退出，聽起來很玄幻。

（來源：《黑客帝國》）

在現實中與這很像的一個場景是越獄，蘋果手機的越獄做的就是同樣的事情，黑客利用一些手段擺脫系統的控制，在手機上安裝一些第三方的應用程序。實際上這聽起來還是很玄幻，那麼黑客到底是怎麼做到的呢？

這就不得不提到一個概念叫漏洞，實際上漏洞不僅僅是網路安全中的概念，也是日常生活中廣泛存在的一個概念，人性存在弱點可以被欺騙，法律規章存在漏洞可能被突破，邏輯推理可能存在漏洞導致一些謬論出現，在網路空間中同樣存在著大量的漏洞，這些漏洞就是網路安全的很重要的因素，也是我們攻防雙方必爭的一種資源，是眾多的安全事件的根源。

（來源：Pixabay）

比如 2009 年針對伊朗核設施的震網病毒，以及今年爆發的 MongoDB 的弱口令問題都引起了非常嚴重的後果，還早一些的包括 2015 年針對烏克蘭電網設施的，2016 年針對美國 Dyn 網路的攻擊，還有針對互聯網上所有的加密網站的「心臟滴血」漏洞，甚至是包括我們每個人電腦中的因特爾 CPU 中的幽靈熔斷漏洞，都造成了非常非常大的影響。

普通用戶可能還聽說過香菇勒索軟體，這是 2017 年爆發的安全事件。這些背後其實都是由各種各樣的漏洞造成的，漏洞是我們安全事件的一個根源，有了這些漏洞之後，攻擊者才可以發起後面的各種動作，來實現前面提到的突破 Matrix 的效果。

在實踐中，攻擊者或者說黑客，首先要用各種方式去挖掘潛在漏洞，找到這些漏洞之後利用漏洞去突破目標系統，實現目標系統不存在的功能。比如在《黑客帝國》中他們在 Matrix 中創建電話亭，這本來不應該屬於 Matrix 的功能。但這只是一種臨時性的控制，黑客為了實現持續性的控制，通常會進一步的植入惡意代碼，來實現安營紮寨，然後伺機而動。漏洞和惡意代碼是網路安全核心的問題。

（來源：Pixabay）

除了漏洞和惡意代碼之外，實際上在一個完整的攻擊中黑客通常還做一些其他事情。第一步是偵查，黑客通常會去探索目標的資產信息、網路架構、資產的分布等等，進而發掘目標中的漏洞，然後針對這個漏洞製作各種各樣的武器，並且把這些武器通過垃圾郵件、釣魚網站等方式分發到用戶受害者，漏洞在用戶側被觸發後實現控制權的獲取，進而利用惡意代碼實現持久的控制，最終實現一種按需的攻擊。實踐中完整的攻擊流程實際上是非常複雜，也非常有挑戰性的。

國際上針對這種漏洞的發現，有大量的頂尖的賽事和懸賞，包括國內的天府杯、國際的 pwn2own，還有面向學生 Defcon CTF，以及針對智能設備的極棒等一系列賽事。這些賽事的賞金通常高達幾十萬美元，就是為了徵集各種未知漏洞。實際上，在黑市上漏洞相關的價值會更高。

例如，Zerodium 公司公開懸賞的針對客戶端伺服器的漏洞賞金高達 300 萬美金，針對手機的漏洞賞金高達 150 萬美金。通過這種高昂的賞金，我們可以看到漏洞的價值是非常大的。但是，發現未知漏洞，以及針對未知漏洞進行攻擊是非常困難的。

在這個流程里最難的一個步驟是，利用漏洞來實現這種鳩佔鵲巢的效果，實現突破原有程序的功能，實現新的能力。這一步與一些棋類遊戲非常相似，它們都需要做動態的決策，需要根據當時受害者的程序和狀態來做決策，沒有一種靜態棋譜能解決這個問題。

但是與棋類遊戲不同的地方在於，這個問題的狀態空間沒有上界，而像圍棋它狀態空間是有限的，所以它們的難度不可同日而語。而且在實踐中針對漏洞的這種攻擊還需要非常豐富的經驗，而且需要有很好的精力因為非常耗時間，同時它還需要足夠好的運氣，因為找漏洞是一個非常碰運氣的事情。

黑白對抗，研究機器自動化是必然趨勢

剛才回顧了這個機器黑客的前世，下面我們看看機器黑客的今生。首先，我們為什麼需要機器黑客？

第一個原因是這是機器的自我突破，是科學研究的一個必然方向。自從有了機器，人們一直嘗試用機器來解決各種問題，我們熟知的包括用機器來下棋，現在機器在各類棋類遊戲中包括圍棋中已經完勝人類。那麼一個很自然的問題是，在網路安全領域機器能不能像人一樣，做這些攻防的事情？

第二個原因是當前的網路安全防禦態勢實際上是比較的被動，裡面存在很多問題，而機器黑客能夠為解決這個問題提供一種新的思路。下圖展示了一個經典的漏洞的生命周期，漏洞通常是在開發階段程序員無意引入的，程序員沒有意識到漏洞的存在，但這個產品被發布之後，攻擊者或者黑客會在這個產品中發現漏洞，然後攻擊這個漏洞，一定時間之後廠商或者開發者才發現了這個漏洞，再過一段時間之後這個漏洞才被更多公眾知道。

在第一個階段，攻擊者發現並攻擊漏洞到廠商發現漏洞，這段時間我們稱為零日攻擊的時間窗口。在這個時間窗口內用戶是沒有任何保護的。在廠商知道這個漏洞之後，一般來說會升級他們的殺毒軟體來檢測這種攻擊，會發布補丁來更新他們的軟體。有了補丁之後最終的普通用戶才會去打補丁更新他們的產品，打完補丁之後這種攻擊才會失效。

在這個生命周期中，第一個階段就是零日攻擊，這個窗口通常來說平均時間是 300 多天，也就是說一年的時間內這種攻擊可能都沒有人知道，在這一年時間窗口內普通用戶完全是暴露在攻擊者的範圍之內。在這個階段之後，即在發現漏洞然後再修補的這個過程中，還有平均一個月的時間用來打補丁。在這一個月內，其實用戶的安全性極大地受到了影響，因為這個時候不只是最頂尖的黑客知道這個漏洞，普通的黑客也知道這個漏洞了，但是這個時候還沒有任何補丁出來，普通的黑客也可以發起攻擊。

第三個階段是補丁被發布出來到終端用戶打補丁之間，這個時間窗口實際上沒有一個固定的時間。在現實中，有大量的用戶並沒有主動更新系統，他們的系統中可能幾年前的漏洞都存在，所以這個時間窗口會更大。實際的現狀是，很多攻擊發生在這個階段，補丁已經出來了但是用戶並沒有打補丁，處於非常危險的狀態。所以這樣的現狀就說明，完全靠人來解決安全防禦問題，實際上是非常被動的，我們如果能夠研發機器黑客，就能夠有效地改善這一現狀。

第三個原因就是目前在攻擊這個環節，壞人們已經運用了各種自動化技術，對大量已知的低級漏洞批量的自動化的重複利用，這對安全生態造成了非常大的影響，所以我們作為白帽子也更應該去研究自動化技術，研究機器黑客對抗。

（來源：Pixabay）

機器黑客仍與頂尖黑客差距巨大

國際上已經在機器黑客方面做了一些初步的嘗試，美國 DARPA 發起了一個 CGC 的挑戰賽，目標就是構建自動化攻防的機器人。我當時也帶隊參加了這個比賽，並且也做了一些嘗試性的研究，但是現階段的機器黑客水平還是比較有限。

在 CGC 比賽第二天，14 支人類隊伍與一支機器隊伍進行了一次人機大戰，機器毫無意外的排名倒數，我所在的國內戰隊當時是拿到了第二名，也是國內的戰隊目前在這個賽事中最好的一個成績。從這個比賽可以看出來，機器黑客其實還有很遠的距離要走，粗略來講現在的機器黑客大概只有十年前的普通黑客的水平，與當今這種頂尖的黑客之間的差距非常巨大。

圖 | 2016 年 DEFCON CTF 人機大戰

那差距在哪裡呢？它面對的挑戰有哪些呢？第一個方面是攻防的人才非常稀缺，網路安全本質上是一個攻防博弈，這裡面非常需要人才智力的支持，而現在網路安全的人才非常匱乏，機器黑客實際上是這裡面非常小的一個研究方向，它所需要的安全人才更是稀缺。

第二個方面就是機器黑客所需要的基礎設施非常匱乏，當今的互聯網生態非常繁榮有各種各樣的應用，但是這些應用本質上是由底層的網路等基礎設施來支撐的。正如俗語所說，要致富先修路，基礎設施對於上層應用非常重要，如果想製造機器黑客也需要有充分的基礎設施。

但生產出機器黑客所需要的基礎設施難度是非常大的，第一就是它所分析的對象非常複雜，與圍棋遊戲有固定的空間大小不一樣，在機器黑客的場景下要分析的每一個單一的對象，可能包含百萬級的指令；而且單個對象可能存在信息損失，例如我們通常沒有目標對象的源代碼；另外，不同對象之間又存在各種各樣的差異，它們甚至是不同平台的、不同語言的；這些都對我們分析帶來極大的障礙。

另外一個方面是我們在分析技術上的局限性。首先是分析技術存在理論上的天花板，我們在計算機理論中存在不可判定問題，NP 難問題，在做機器黑客過程中會面臨大量這樣的問題；其次是工程實現難題，我們需要長期的這種人力時間投入，才能做基礎設施；第三是當今的機器黑客自動化手段還非常有限。現在自動化的機器黑客非常像早期的棋類遊戲的做法，簡單來說就是把人類已知的棋譜或者攻防經驗硬編碼到機器中，讓機器具有一定的自動化能力。我們知道，這種已知的東西沒辦法應對廣泛存在著的未知的場景。因此一個非常重要的研究點就是，我們怎樣應用一些更高級的技術，像人工智慧技術，來提升自動化水平，來實現像 AlphaGo 一樣智能的機器黑客？這是目前學術界一個最前沿的研究方向。

最後讓我們展望一下機器黑客的未來，有了機器黑客之後我們能做什麼？首先機器黑客能為我們的網路安全提供一種全周期的防禦。我們以軟體開發周期為例，一個軟體產品開發需要有很多個階段，第一個階段是目標產品的定位，要需求分析看實現什麼樣的功能，然後才是設計實現並且進行測試和集成，最後是維護包括應急響應和打補丁等。

機器黑客可以在這整個生命周期中提供一些安全的保障，比如在早期的需求分析階段自動提取安全需求；在分析和設計階段可以分析這個目標軟體中可能存在的風險；在設計實踐階段可以提供安全培訓、安全工具來供開發者使用；在實現階段可以自動化進行安全加固，為我們提供安全保障；在測試階段也可以做安全測試、安全審計；在維護階段具有提供安全補丁和應急響應的能力。那麼通過機器黑客就能夠實現在這生命周期中全方位的防護，最終就也許能達到天下無賊的目的，儘可能的消除漏洞讓攻擊者找不到漏洞可以利用。

（來源：Pixabay）

從市場角度講，機器黑客可以降低人類的人力成本，創造更大的市場。當今互聯網生態在蓬勃發展，在用戶設備數據方面都急劇增長，目前已覆蓋 40 億網民，擁有百億級的設備和萬億級的數據，支撐這一蓬勃發展生態的基礎就是安全。隨著物聯網、工業互聯網的普及，安全與個人、企業、國家的關係會越來越緊密，那麼這裡面會創造越來越大的市場，機器黑客能降低目前階段安全對人的依賴，能以極低的成本去提供更多的服務，從而創造一個更繁榮的市場。謝謝大家！

-End-

演繹inSite 是 DeepTech 近期推出的一檔青年科學家劇場式演講欄目，內容聚焦「硬核」科學的現實應用價值，追尋從「科學」到「科技」再到「產業」的實現過程。從發起至今，已邀請到近四十位青年科學家就各熱門議題展開討論，節目在多個視頻平台收穫了數百萬點擊。接下來的一段時間，我們將定期分享科學家們在演繹inSite 上的演講，一起為新知發聲，打造未來洞見者。

往期節目