安全公司要當心了！AI迅速編寫出反病毒軟體都發現不了的惡意軟體！

這次試驗用的是埃隆·馬斯克（Elon Musk）的OpenAI框架，難怪他如此討厭人工智慧。

現在機器學習工具可以編寫出挫敗反病毒軟體的定製惡意軟體。

安全公司Endgame的數據科學技術主管希魯姆·安德森（Hyrum Anderson）在美國DEF CON黑客大會（https://www.defcon.org/html/defcon-25/dc-25-index.html）上發表了主題演講，他在演示過程中展示了他公司開展的研究工作：對埃隆·馬斯克（Elon Musk）的OpenAI框架稍加改動，以完成這項任務：編寫出安全引擎無力發現的惡意軟體。

這個系統的關鍵是，拿來貌似正當的代碼，僅僅更改代碼的幾個細微之處，就可以將軟體變成攻擊代碼。他表示，即使改動小小的細節也能騙過反病毒引擎，他援引谷歌及其他公司的研究成果，表明僅僅更改圖片中的幾個像素如何讓計算機誤將一輛巴士當成一隻舵鳥。

他說：「所有機器學習模型都存在盲區。它們很容易被利用，這取決於黑客掌握的知識有多少。」

於是研究團隊構建了一個相當簡單的機制，開發武器化代碼：作了非常小的更改，然後拿一款安全檢查軟體來進行測試。通過監測來自檢測引擎的響應，他們就能夠做出許多細小的更改，結果證明，這些更改對於開發出避開安全檢測引擎的惡意軟體非常有效。

訓練了15個小時後，軟體針對無人值守的安全引擎運行了100000多個樣本。他們做到了60%的惡意軟體樣本能夠突破安全系統的防禦體系。

這個生成軟體的軟體將放在該公司在Github的頁面上，安德森鼓勵人們試一試。毫無疑問，安全公司也會好好考慮這在將來對自己的產品會有何影響。

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！