人工智慧與物聯網安全：以子之矛，攻子之盾
智造觀點
在網路安全的世界裡，防禦端和攻擊端的人工智慧攻防前哨站已經打響，換句話說，對黑客來講，人工智慧不僅可以提高攻擊效率，面對人工智慧系統，他們也可以通過污染訓練數據進行相關操作。
文/未末末
來源/人工智慧觀察（ID：Aiobservation）
隨著現代威脅形勢的不斷擴大，將人工智慧（AI）添加到安全策略中，對於建立和維持有效的安全狀態變得至關重要。鑒於現代網路威脅的速度和複雜性以及當前網路安全技能的短缺，網路安全團隊需要機器學習和其他基於AI的功能的幫助，以便檢測、保護和緩解現代攻擊。
然而，當企業採用人工智慧來加強他們的安全工作時，網路犯罪分子也會採用敏捷軟體開發，自動化和機器學習之類的東西，來潛在地利用人工智慧來更好地識別和更快地利用網路漏洞，這一點也不足為奇。
實際上，由於越來越多的物聯網和運營設備進入網路基礎設施，網路犯罪分子已經有機會和能力發起快速且複雜的攻擊，而這些固有的易受攻擊的設備，將成為企業網路的入口通道。人工智慧所帶來的潛在攻擊能力，只會進一步加劇對當今數字化轉型工作的威脅。
因此，人工智慧可能很快就會提供成功保護或攻擊物聯網的方法，以便有效地在網路安全專業人員和網路犯罪分子之間建立AI軍備競賽。
為了保護數字化轉型並保持嚴格的安全狀態，IT團隊必須了解網路犯罪策略的最新變化，這些變化可能會在未來幾年內導致AI驅動的威脅環境。他們還需要了解現在可以將哪些AI功能合併到他們的安全堆棧中，以便在他們的網路不斷發展和擴展時保持一致的安全狀態。
不過，在AI防禦開始之前，人工智慧網路攻擊也不能被忽視。
最新AI攻擊手法，插入噪音就能破壞語音識別
Koos Lodewijkx，IBM Security的CTO兼VP曾分享到，目前至少有三種與人工智慧相關的網路安全攻擊手段。
首先是利用人工智慧提高攻擊效率。比如，現在黑客可以通過機器學習，分析社群媒體上的訊息、朋友圈等，依照這些個人化信息發起針對性攻擊，提高釣魚攻擊成功率。此外，現在網路上也出現通過機器學習以及可自動識別圖像的免費軟體，讓黑客可破解用來防禦自動化攻擊的驗證碼機制。
其次是黑客攻擊AI系統。這是以一種改變系統的方法進行攻擊，簡單來說就是污染AI系統，或是找到AI系統弱點、繞過防禦以進行攻擊。以微軟在2016年推出聊天機器人Tay為例。網路罪犯可以藉助機器學習技術讓它在每次的對話中改變回復話語，以至於該機器人在上線24小時候就出現了種族歧視的言論。其實不僅僅是聊天機器人，Lodewijkx表示，現在的技術也能做到入侵語音識別系統，只要在聲音中插入噪音，就能徹底改變翻譯結果，讓機器說出特定語句。
雖然這些看似無傷大雅，但由於AI已經被企業大量用於商業營運中，一旦被黑客知道模型如何訓練和運作，就能藉此機會破壞訓練模型的數據來操控模型。比如，銀行把AI導入借貸決策系統來分析申請人的收入、年齡、居住地、信用分數等，以決定是否批准該借貸，一旦找到方法繞過偵測，就算有很差的信用分數仍可貸款成功。
至於最後一種攻擊手段，黑客看重的不是模型本身，而是用來訓練AI模型背後的數據。Lodewijkx表示，黑客已經可以竊取訓練AI模型背後的數據。以圖像識別系統為例，正常情況是，給出圖片後，系統可以識別出人名，而在破解系統後，黑客只要擁有姓名，就能逆向重建圖片。
面對黑客攻擊，人工智慧從三個層面進行防禦
不只是攻擊端，AI之於網路安全防禦，也是不可或缺的角色，以IBM為例，該公司旗下的網路安全產品幾乎已全面接入人工智慧。那為什麼要用人工智慧進行防禦？
首先，Lodewijkx指出，現在的資料數量龐大，來自網路、計算機系統、資料庫等等，隨之而來的是資料、威脅、環境都變得更複雜。在這種情況下，卻面臨網路安全技術人才的短缺問題。IBM的一項調查指出，到2022年，網路安全領域會有180萬份的人才短缺。這也是為什麼需要在網路安全工具中導入AI，而AI也能提高偵測和反應的速度，降低損失。
就目前的情況而言，最常見的AI應用是預測分析（predictive analytics），也就是藉助機器學習分析大量數據，從中找出異常。舉個例子，利用人工智慧監控網路流量或使用者行為，找出不尋常的地方，或是觀察人類如何和計算機或手機互動，進而辨別出這是真正的人類、還是假裝成人類的惡意軟體。此外，也能找出假的威脅警報，降低誤報率。
第二個層面是智能強化（Intelligence consolidations），也就是把網路安全研究工作交給AI。現在，IBM正在教旗下人工智慧平台Watson讀網路安全方面的新聞、研究報告以及Twitter等，進而建立知識圖譜，並找出每個知識間的關聯性。訓練完成後，當告訴Watson一個IP位址、網址或檔案，Watson就可以及時給出該檔案的相關信息，減輕分析師的工作，讓他們不必親自去讀取大量資料。
第三種則是智能回應（intelligence response），其目標在於提高一定時間內的分析效率。Lodewijkx指出，以網路安全營運中心為例，分析師有58%的時間都是花在重複性工作上。舉例來說，當網路安全監測系統發出警告時，分析師必須比對不同的應用程序、資料庫和系統，確認該警示是否為真，鑒於這些步驟是固定的，所以很適合自動化。
不過，儘管現在很多人工智慧技術已經被用於網路安全產品，但我們也不能認為人工智慧可以解決所有的網路安全問題，至少現在距離這一目標還有很長的路要走。而隨著智慧城市、工業互聯網、自動駕駛等將在未來十年普及，人工智慧安全將成為產業發展的藍海。在這種情況下，運用人工智慧賦能網路空間安全也變得十分必要。
與此同時，面對技術規範、行業標準、法律法規尚未健全的人工智慧新領域，制定統一的安全監測標準、安全防範架構、安全評估體系對於讓網路空間安全成為人工智慧的重要應用領域也有舉足輕重的作用。可以說，隨著人工智慧技術日趨成熟，人工智慧在「AI+安全」領域不僅能夠全面提高網路空間各類威脅的響應和應對速度，而且能夠全面提高風險防範的預見性和準確性。
（文中圖片來自網路）
TAG:人工智慧觀察 |