除了安全維護者，網路犯罪分子也喜歡使用人工智慧系統

編譯 |Rik R

來源|American Banker

一直以來，金融機構都和網路犯罪處於長期拉鋸中，而人工智慧技術可能讓戰事升級。

人工智慧技術正在幫助銀行的網路安全團隊洞察並處理違規行為。不過，人工智慧也會創造出新的系統漏洞，這是由於機器被賦予控制權的同時也為發生錯誤和偽造行為提供了機會。從另一個角度來看，人工智慧還可以提升攻擊者的工作效率。例如，在去年發生的那起黑客攻擊事件中， Petya 惡意軟體就利用人工智慧來識別漏洞，可以每秒掃描數百萬個埠來發現攻擊的突破口。

「人工智慧是一把鎚子，可以用來行善，也可用來作惡，」普華永道合伙人、負責人兼網路安全和隱私部門負責人 Jim Fox 說道，「如果你的對手有一把鎚子，你最好也有一把。」

人工智慧軟體能夠監視所有的網路活動，並快速辨別出可能出現違規的行為模式。隨著時間的推移，人工智慧系統可以辨別出常規模式中真正的可疑行為，哪怕這種模式在之前從未被標記過。

去年的 Petya 惡意軟體攻擊是「以機器的速度」在做決策，一位網路安全專家說道，「沒有人指導這個惡意軟體。他們編寫了一個智能程序來完成所有的工作。」

紐約投資銀行 Greenhill & Co.的首席信息官 John Shaffer 找到了一個更好的方式來應對零日漏洞攻擊（ zero-day attack ）。

「我們現在處理的大多數攻擊事件都不是通過傳統工具解決的，比如基於簽名的防病毒軟體，或者其它與簽名有關的東西。」Shaffer 說道，「真正的攻擊程序知道如何對付這些工具。真正有趣的是嘗試找出那些聰明的程序在做什麼。這就是機器學習和人工智慧發揮作用的地方。」

Shaffer 安裝了 Vectra 公司基於人工智慧的系統，該系統可以監管 Greenhill 公司所有的網路流量。它能夠發現那些標準入侵檢測軟體看不到的異常，他解釋說。基於人工智慧或增強型網路安全產品的供應商還包括 IBM、Darktrace、FireEye 和 McAfee。

在 Shaffer 部署這個軟體時，系統立即發現了銀行網路中一些奇怪的流量模式，而在這之前，這些工作是由公司自己的漏洞掃描器負責。

「對很多系統來說，這就像是有人在掃描你的網路，」Shaffer 說道。

Vectra 的軟體並不像絕大多數的安全系統那樣會發出大量警告，一天的發送量在 10 條左右。同時無需人工編寫規則，而是系統自己去學習正常行為和違規行為之間的差異，這為網路安全人員節省了大量的時間和精力。

人工智慧的黑暗面

美國情報界對人工智慧的使用憂心忡忡：人工智慧不僅會增加網路攻擊漏洞、增加事故發生的風險，還能催生外國組織利用技術升級武器和情報系統，同時加重了私營部門和金融機構擔負的責任。

「美國政府已經表示，如果一切都由機器運作而不再有人為干預，那麼人工智慧就是我們的全部執法力量、一切人類事務的總把關人，」多倫多公司 Duhaime Law 一位律師 Christine 說道，「所以，我們的互聯性越強，使用系統判定安全性、良性或惡性的比例就越高，系統就會越容易受到攻擊，因為我們竟然指望系統能夠比想要傷害我們的外國黑客更聰明且更優秀。」

她還指出，政府擔心人工智慧可能會增加事故發生的風險，並大幅增加私營部門和金融機構肩負的責任。換句話說，系統的自行決策程度越高，就越有可能犯下一個難以挽回的大錯誤。

「例如，系統搞錯了付款對象，而那個人已經走了，或者是顛倒了一群交易對象，或是將 100 萬美元付給了 1000 個人，」Duhaime 說道，「如果系統遭到大規模曝光，那麼很多人的個人信息將被不法分子利用，可能面臨被勒索的威脅。具有超強計算能力的流氓軟體會解碼我們的系統，而且能夠對我們的關鍵金融基礎設施實施各種破壞性行為。從歷史的角度看，私營部門從未在網路安全方面投入足夠多的資金。可是只有這麼做，才能發現漏洞。」

鑒於網路犯罪分子使用人工智慧的現實，私營部門更有理由以其之道防患於未然，普華永道的 Fox 在援引 Petya 的例子時說到。「這些決策是以機器的水準和速度制定的，」他說，「沒有人指導這個惡意軟體。他們編寫了一個智能程序來完成所有的工作。」

有一家銀行配備了強大的網路安全系統和人工智慧工具，卻在兩分鐘內被 Petya 感染了 14000 台機器。Fox 說：「人工智慧系統在五分鐘內便通知到網路安全團隊，報告了一些可能帶有惡意的異常事件，並做了鎖定和關閉所有機器的決策。」

罪犯如何使用人工智慧

McAfee 公司首席技術官 Steve Grobman 也指出，新技術的出現會引來守法者，也會招致網路罪犯。

「金融領域有如此多網路犯罪的原因在於，這是一個非常有效且低風險的偷錢方法，罪犯只會遭到逮捕和起訴。」Grobman 說，McAfee 正在學習「對抗性機器學習技術」。

「我們正在研究惡意軟體究竟是如何對模型產生不良影響。」他解釋道，騙子們可能會把經過專門製作的數據引入到數據集中，這樣模型在未來查看數據時就更難發現它的問題。

或者，他們可能會向輸入數據集中添加雜訊或虛假信號，從而使提取真實信號的過程變得更加困難。

「如果你成功令防衛系統頻繁誤報，網路安全人員將不得不重新調整其模型，」Grobman 說。他做了一個比喻：如果一個小偷想闖入一個有警報系統的房子，他可能會在每晚 11 點鐘騎車經過房子，故意激活警報。幾周後，房主會對這個警報系統厭倦，不是校準警報系統的敏感度，就是把這個系統系統關掉。這時，小偷就有了可乘之機。

惡意軟體也開始使用人工智慧來自動化先前人類的工作，Grobman 說。例如，利用電郵或社交媒體搜索的歷史記錄，人工智慧可以生成千人千面的魚叉式網路釣魚郵件，即黑客會偽裝成接收者認識的人並向其發送電子郵件來套取密碼等信息。

他補充道：「人類無需為每個人量身定製內容，軟體可以自動創造出適合每一個人的內容，從而可以提高受害者的轉化率。」

Grobman 對政府面向人工智慧的警告感慨萬千。

「至關重要的是，我們必須儘可能地了解所有網路攻擊技術，這樣才能在它周圍建立起最好的防禦體系，」他說，「但要讓政府發表聲明來承認這些新技術，卻並不能為技術的價值增色。話說出去就收不回來了。」

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！