人工智慧的安全挑戰
近兩年人工智慧（Artificial Intelligence）已經成為一個炙手可熱的名詞，各行各業尤其是信息產業已將人工智慧視為行業的下一個發展方向。
遍地開花的人工智慧
人工智慧不斷湧現的各種成果頻繁刺激著社會的認知，改變著人們的生產生活方式。各類智能機器人不斷面世，機器人索薇婭成為全球首位被賦予法律公民身份的機器人；繼AlphaGo橫掃圍棋大師後，來自國產的人工智慧程序星陣圍棋（Golaxy）也戰勝了中國圍棋第一人柯潔；在自動駕駛領域，美國和中國的人工智慧無人駕駛進展遙遙領先，無人車上路正在逐步變為現實??
無論是資本領域，還是國家層面，都敏感地意識到了人工智慧可能帶來的變革。各國在頂層設計上出台各種政策規劃，促進人工智慧產業發展，力圖搶佔未來科技制高點。美國的《美國國家人工智慧研究和發展戰略計劃》，歐盟的《歐盟人工智慧》草案積極推動發展人工智慧行業；我國的《新一代人工智慧發展規劃》、《促進新一代人工智慧產業發展三年行動計劃》以及十三五規劃，更是對人工智慧的創新發展做出了戰略部署。
在中國這個最大的全球市場支撐下，人工智慧的應用在中國發展的風生水起。人們日常的信息獲取、出行、網購、身份識別、語音互動等場景，人工智慧技術早已深植其中。2017年麻省理工科技評論公布年度全球十大突破技術，包括深度學習、刷臉支付、自動駕駛等在內的人工智慧領域熱門技術均入選，而這些技術的主要研究者包括了科大訊飛、阿里巴巴、百度等多家中國企業，表明我國在人工智慧技術研究方面已經走在了世界前列。
在政務應用上，我國也開始採用人工智慧技術提升工作效能，促進政務服務創新。如應用了人工智慧技術的「天網」目前已在全國16個省市自治區部署，其動態人臉識別技術成效顯著；在司法領域，法院智能研判系統可以為法官提供辦案規範和量刑分析等精準信息，刑事案件智能輔助辦案系統可對幾萬份刑事案件的卷宗、文書數據進行「深度學習」；部分城市已經開始試點為市民提供基於智能語音技術的人機互動諮詢服務??
顯然，人工智慧無論在改善民眾生活還是提升政府能力方面，都在發揮著越來越重要的作用。雖然美國是當前人工智慧領域的領跑者，但中國正在迎頭趕上，尤其在應用方面更勝一籌。
利大於弊 人工智慧存爭議
在人工智慧如火如荼發展的同時，對人工智慧的未來也存在著不同的聲音。
科技界對人工智慧存有深深的擔憂，他們認為人工智慧所帶來的改變，將對現有的法律體系、道德標準以及利益分配模式帶來衝擊，從而影響到現有的社會體制。人工智慧越「聰明」，就越會威脅到人類的生存。
著名的物理學家霍金生前一直堅定認為人類應該節制甚至停止發展AI技術。他認為當人工智慧發展的足夠成熟時，尤其是機器人擁有獨立思維和邏輯判斷能力時，將是人類最危險的時候。
特斯拉的CEO馬斯克也對人工智慧發出了自己的警告。儘管作為前沿的科技領袖，馬斯克夫對人工智慧的典型應用無人駕駛技術情有獨鍾，但他一直以來都認為人工智慧是人類生存的最大威脅，最直接的就是人工智慧將取代人類工作，導致大量失業。他在回應俄羅斯總統普京提出的誰能成為人工智慧領域的領導者，就可能主宰這個世界的言論時還表示，對人工智慧統治權的爭奪可能引發第三次世界大戰，因為人工智慧時代的戰爭不是由某國領導人發起的，人工智慧會自動規劃戰略，如果演算法認為能夠獲勝，就有可能發起戰爭。
阿里巴巴董事長馬雲也表示，機器學習和人工智慧會逐步消滅工作崗位，但馬雲同時認為，機器本質上是人製造出來的，永遠不會獲得堪比人類的智慧和經驗。
樂觀者如Facebook創始人扎克伯格，他表示關於人工智慧基礎研究的進步能夠在很多的領域得到應用：診斷疾病、自動駕駛、得出最優的搜索結果，幫助人們得到更多科技進步所帶來的福祉。
谷歌董事長施密特親身參與了許多複雜的人工智慧系統研發，他認為所有對機器將搶走人類工作、佔領世界的恐懼都毫無根據，並且希望人們能夠意識到：機器人會成為人類的朋友。
微軟創始人比爾蓋茨也曾就人工智慧可能帶來的挑戰發出過警告，但他認為人工智慧帶來的好處將遠超這些潛在的隱患。
種種爭議表明，人工智慧技術在人們的眼裡已經成為一把「雙刃劍」。它既是人類寄予厚望以促進經濟發展、提升生活水準的利器，也同樣給人類帶來了潛藏的巨大威脅，如何讓人工智慧最終走向樂觀尤為重要。
人工智慧放大網路安全威脅
體現在網路安全領域，人工智慧的「雙刃劍」屬性更為明顯。安全研究專家認為，網路世界中的薄弱環節會因為人工智慧的出現而不斷被放大，早在五年前就已經有黑客利用人工智慧技術進行網路犯罪活動。
如作為熱衷於新技術並捨得投入的黑灰產業，已經開始了對人工智慧的利用。人工智慧領域的人臉識別技術，同樣可以被用來破解圖片驗證碼，甚至被用來收集特定目標信息，實現精準釣魚攻擊。去年就有「刷臉支付」被成功破解的報道。
人工智慧的自動化也被應用於很多被廣泛使用的惡意軟體，這些軟體帶有諸多自動化功能，使用者不需要懂得任何黑客技術，只需要點擊滑鼠便可實現攻擊。
除此之外，人工智慧自身也存在安全風險，如針對演算法的欺騙、機器學習所使用的數據污染、模型安全風險，代碼安全風險等。
所幸的是，作為網路的保衛者，網路安全行業對人工智慧技術更為敏感。人工智慧技術正在引發網路安全領域的新熱潮和新增長。不僅投資機構青睞在人工智慧領域有創新能力的網路安全公司，傳統的科技巨頭也在加緊研究人工智慧與網路安全中的結合。
人工智慧中的機器學習很早就用於惡意軟體檢測上，當前，更多的人工智慧技術如神經網路、Agent系統等廣泛應用在入侵檢測、態勢分析、雲防禦、反欺詐、物聯網安全等領域。
得益於其通過新機器學習演算法模型和技術檢測的能力，Google 去年利用人工智慧從Play Store中移除超過 70 萬款惡意應用。而在我國不僅傳統網路安全企業在繼續深化人工智慧技術的應用，阿里巴巴、騰訊、360等互聯網企業也在積極利用人工智慧，來開展反欺詐、終端防禦、隱私保護等工作。
在國家安全層面上，對人工智慧的重視程度也越來越高，有專家認為人工智慧將成為未來網路軍備競賽的關鍵所在。哈佛大學的《人工智慧與國家安全》報告稱未來的AI技術有可能與核武器、飛機、計算機和生物技術一樣，成為給國家安全帶來深刻變化的顛覆性技術。
國外已加緊展開人工智慧在網路安全國家層面的部署。2018年3月，美國國際戰略研究中心（CSIS）在題為《美國機器智能國家戰略》的報告中，明確提出美國政府應在戰略層面注重機器智能與人工智慧發展齊頭並進。4月，美國美國防部宣布將成立「聯合人工智慧中心」， 作為聯邦政府國家安全機構的重點優先事項，負責領導軍隊和工業機構研發和採辦人工智慧工具。在具體做法上，美國國土安全部和國防部都在積極推動「人工智慧+網路安全」的研究，將更多人工智慧的創新技術引入網路安全領域。
人工智慧所帶來的深刻變革已有目共睹，歷史的經驗證明，過去的經濟繁榮時期，大多數是因為採用新技術而引發的。我們需要用長遠的眼光看待人工智慧的發展，如何使用好人工智慧這把「雙刃劍」，不僅是網路安全領域，更是全世界所需解決的實際問題。
（本文刊登於《中國信息安全》雜誌2018年第5期）
更多信息安全專家文章
請關注公眾號！
