AI病毒來襲，拿什麼拯救你我的電腦？

文|雷宇

來源|智能相對論(aixdlun)

在劉慈欣的科幻小說《中國2185》中，除領土，領海，領空外，還有一個被稱為電子領土的地方，這個地方除了容易受常規武器破壞外，還容易受到軟體武器的威脅。

軟體武器分為軟體病毒和軟體炸彈兩大類，其中軟體病毒是一種程序，它在電腦系統中遇到一個程序時，就把自己複製成兩份，其中一份進入到所遇到的程序中，以破壞這個程序，並隨著這個程序把自己傳染到電腦網路系統的其它部分。軟體炸彈和軟體病毒類似，但它僅僅是在電腦系統中飛快地複製自己，使自己的數量以幾何級數增長，最後占敵方電腦系統的內存而使其系統癱瘓。

事實上，伴隨著人工智慧技術的發展，AI病毒甚至比小說中描述的還要強悍。最近，IBM研究院在計算機安全大會BlackHat上展示了他們製造的惡意軟體：DeepLocker。它「靜若處子，動若脫兔」，卧薪嘗膽18年也在所不惜，只有目標出現時才會精準發作。

普通病毒尚有招可應，AI病毒則致破坏於無聲

《神鵰俠侶》中的楊過在石壁上發現了劍魔獨孤求敗刻下的字，其中有這麼幾句：

「紫薇軟劍」三十歲前所用，誤傷義士不祥，悔恨無已，乃棄之深谷。重劍無鋒，大巧不工。四十歲前恃之橫行天下。四十歲後，不滯於物，草木竹石均可為劍。自此精修，漸進於無劍勝有劍之境。在這之中提到了三把劍：紫薇軟劍、玄鐵重劍、無劍。智能相對論(aixdlun)分析師雷宇認為，這三把劍可以預示電腦病毒發展的三個階段。

第一階段：紫薇軟劍，用劍作為「器」的性狀來發揮威力。

這一階段的代表是熊貓燒香病毒。熊貓燒香作為一種蠕蟲病毒的變種，2007年，在全國範圍流行，被感染用戶系統中所有.exe可執行文件全部被改成熊貓舉著三根香的模樣。雖然這款病毒能自動傳播、自動感染硬碟且破壞力大，但只要用戶及時下載更新殺毒軟體，或者一些殺毒軟體推出的專殺工具，就可以對熊貓燒香病毒進行查殺。

對於以「器」的形狀發揮威力的病毒來說，只要有更厲害的「器」，便可制服。

第二階段：玄鐵重劍，通過一些特定的招式驅動劍。

2017年5月，wannacry敲詐勒索病毒全球大規模爆發。被該勒索軟體入侵之後，用戶系統的圖片、文檔資源等都會被加密，同時桌面上會彈出勒索對話框，向用戶勒索一定數額的比特幣贖金。最周造成很多計算機用戶的重要資料丟失，損失巨大。事實上，WannaCry主要是利用Windows系統漏洞傳播，打上安全補丁就可以有效防範。

對於以特定招式發揮威力的病毒來說，只需要在招式上改進，功力精進倒也可以避免這種威脅。但是，AI病毒卻讓人防不勝防。

第三階段：無劍，以無劍勝有劍。

AI病毒可能掌握複雜和靈活的對抗樣本，「欺騙」殺毒軟體，「偷偷隱藏」，並不好對付。DeepLocker的針對性特彆強，而且它隱藏在某些軟體中，用戶毫無知覺的將其下載。它可以通過人臉識別，語音識別，大數據分析等實現對用戶的偵測與分析，但是程序並不會顯示它正在進行某種操作。一般目標屬性識別採取了複雜的DNN結構，目標屬性和密匙則被加密到了DNN中，只有通過DNN來判斷多個維度的目標屬性符合時，病毒才會啟動攻擊，不再「深藏功與名」。

實際上，AI病毒有點像掃地僧，看似不起眼，實則是以不變應萬變，要麼不出招，要麼放大招。

AI病毒也許猖獗，但AI對抗AI的「一出好戲」正在上演

Darktrace(中文或可譯為「白夜追兇」?)是一家市值超過8.5億美元的英國公司，主要採用人工智慧方式來保障網路安全。不僅能夠應對人類黑客的攻擊，而且還能搞定機器學習的威脅。該公司主推的一款產品名為「企業免疫系統( Enterprise Immune System )」，利用機器學習技術增強自身防禦能力，把大部分網路攻擊在追蹤過程中消滅掉。除此之外，以色列初創公司SecBI也相繼推出了更先進的機器學習和AI技術來大家網路黑客襲擊。

1. AI病毒無孔不入，資產數據成「出頭鳥」

AI病毒最常見的行為就是對資產和數據的網路敲詐，以下是針對49個組織的345個網路安全預測。

數據來自文章《Cybersecurity in 2017: A roundup of predictions》，2017

物聯網的安全問題被排在了首位。工廠設備，醫院的核磁共振設備以及自動販賣機損壞時，需要及時修復，不然勢必會讓網路黑客或AI病毒有機可趁，出現需要支付贖金才能恢復聯機的情況。同時需要及時備份數據，不然企業很可能會在數據恢復上再大費周章。

由於現階段對物聯網軟體和硬體的內部工作機制的了解非常有限，如果物聯網設備被盜用，很難說會發生什麼。《物聯網安全》一書中曾提到，數據，無論是視頻、音頻、環境或其他敏感信息，往往都可以通過受入侵物聯網設備盜取出去，可能還會為犯罪分子提供組織有價值的信息來利用。

每隔不久我們就會看到不法分子盜取QQ甚至微信，騙取其好友錢財的消息，為什麼這樣的事會屢禁不止呢?除了被害者缺乏安全意識，還有就是現在的手段越來越高階。比如AI病毒可以通過學習被攻擊對象的電子郵件，聊天記錄，語音等，模仿受害者的寫作風格和語音語色，從而進行詐騙。也許在未來，對面和你語音，斗圖，侃房價的那個人，是想騙你錢的AI病毒。更可怕的是，你可能很難區分，畢竟前不久在谷歌開發者大會上亮相的語音助手就幾乎與真人無異了。

2. 當AI病毒開始攻擊AI，AI還能「絕地反擊」嗎?

AI攻擊AI，往往會使人工智慧系統精度下降最終使得輸入結果出現偏差。實際上，影響不僅僅在於把貓識別成老虎這樣的小事。更可怕的是，具有定源、定向攻擊的病毒誤導機器，比如在無人駕駛中，把長頸鹿識別成塑料袋，把綠燈識別為紅燈等。而這產生的後果不堪設想。

但在AI病毒攻擊AI之前，它也需要掌握一些「敵情」。主要有如下兩點：

1.數據。包括用於訓練網路的訓練數據集、網路結構(具體包含神經網路的層數及類型)，神經元的激活函數、權重及偏置項矩陣等。

2.演算法。「敵方」訓練數據以及訓練網路時的演算法細節。

我們知道，人工智慧依然存在黑箱，在對人工智慧進行攻擊的時候，不僅難以的得到對方的演算法，也沒有辦法改變輸入結果，很難實現有效的攻擊。

但是，神經網路固有的非線性結構使它們能夠生成更為複雜和更為靈活的對抗樣本，從而欺騙目標模型。因此，在未來，通過人工智慧技術對抗人工智慧的黑暗面已經成了行業發展的既定事實。

結論

回到開頭，小說描述的電子領土實際上已經得到了一定程度上的實現。我們當代人在互聯網上或多或少都有自己的一方領土，哪裡包含了我們的隱私我們的喜怒哀樂，而這些都勾勒出了我們在電子領土上的畫像。

AI病毒的肆虐，某種程度上不是流行感冒，而是流行頑疾，易傳染難根治。那你覺得可治嗎?

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！