AI安全大牛都來了！智能安全的話題引發學術界/產業界共同聚焦

雷鋒網按：2018 全球人工智慧與機器人峰會（CCF-GAIR）在深圳召開已進入第二天的議程，活動現場依舊火爆。本次峰會由中國計算機學會（CCF）主辦，雷鋒網、香港中文大學（深圳）承辦，得到了深圳市政府的大力指導，是國內人工智慧和機器人學術界、工業界及投資界三大領域的頂級交流盛會，旨在打造國內人工智慧領域最具實力的跨界交流合作平台。

根據大會安排，6月30日迎來了仿生機器人專場，機器人行業應用專場，計算機視覺專場，智能安全專場，金融科技專場等專場。作為主論壇的研究方向的延伸，「智能安全專場」則匯聚來自廣州大學、浙江大學的專家學者，同時來自百度、阿里巴巴、騰訊、京東、海康威視的安全大牛，共同探討人工智慧領域裡的安全問題，同時就安全研究能否深入進人工智慧領域等話題帶來了企業的最新觀點與研究成果。

9:15分，會場高朋滿座，專場開場。專場主席暨主持人是來自廣州大學網路空間先進技術研究院院長、教授、博導的田志宏先生。

廣州大學網路空間先進技術研究院院長、教授、博導的田志宏先生

他首先代表峰會主辦方對與會人員的到來表示了感謝和歡迎，同時表示智能安全已日益受到人們的關注，與AI、IoT、雲計算等等多個層面結合越來越緊密，因而「智能安全專場」是個很好的契機，安全行業內的領軍人物可以一起共同探討智能安全未來的發展方向。隨著開場致辭結束，專場正式進入演講部分。

一份重磅專場報告：《數據安全的現狀與趨勢》

開場演講的是來自浙江大學網路空間安全研究中心主任、國家千人計劃特聘教授、IEEE Fellow任奎教授，他做了《數據安全的現狀與趨勢》的大會重磅報告，他是研究型學者，因此他的報告讓專場具備了更多學術氣息。他主要從大數據和人工智慧之間的契合點來談個人研究的經驗與成果。他指出，數據安全的問題存在於數據的整個生命周期，從數據採集、流轉、傳輸到數據使用，通常情況下他更關注的是數據的機密性、數據的完整性、數據的可用性。

浙江大學網路空間安全研究中心主任、國家千人計劃特聘教授、IEEE Fellow任奎教授

機密性方面，互聯網企業尤其是大公司數據泄露事件一直發生，而且發生得越來越厲害，他列舉了美國Equifax用戶數據泄露和德國郵政出售選民信息的案例。他認為數據有可能被直接泄露，也有可能被做進一步隱私的挖掘。任奎談到3個技術：數據加密技術、訪問控制策略技術、隱私保護技術。數據加密技術上，學術界慢慢看到工業界的現實和需求，成果在進行遷移；訪問控制策略技術上，很多基於生物特徵的訪問控制策略（指紋、臉部識別等）飛速發展，包括從密碼學的屬性裡面基於屬性、角色的訪問控制策略越來越成熟；隱私保護技術上，在過去十幾年裡面，一項最重要的項目就是差分隱私保護。

數據完整性方面，任何不被授權的對數據的改動都是不被允許的，都會影響數據的完整性。對數據篡改來說，人們會使用傳統的技術手段，比如數據採集和傳輸時可以用數據分裝和簽名，傳輸時有一些丟包恢復的機制，即便有一些包被丟掉，不用同傳也可以有本地數據，數據審計在數據使用的時候可以通過可驗證計算等等手段來進行保護。

數據可用性方面，防DDos攻擊主要技術就是本地防護、雲端防護和源端防護，大家都在做這些事情，盡量把這些攻擊帶來的壞影響控制在最低範圍內。這其中就涉及流量清洗，涉及IP合法性檢查、流量限速、動態指紋識別、特定應用防護等等。

人工智慧時代到底是更好還是更壞？

人工智慧的時代，數據安全也面臨了很多新的挑戰。從數據安全來說，人工智慧時代到底是更好還是更壞？他談及三點：

·人工智慧的發展使數據安全保障有了更強有力的工具：精確高效的信息過濾、安全多樣的身份認證。

·人工智慧生成新的加密演算法：很多新型的安全形態會出現，可以用產生的演算法來對數據進行加密。

·人工智慧不只是好處：AI演算法被用來去挖掘用戶的隱私且帶來的負面的效應也非常之大，還可以用來生成以假亂真的音頻和視頻， 還有大大失效的CAPTCHA檢測。

AI自身數據安全的問題方面，任奎認為有三類：

·訓練數據安全：訓練數據獲取成本極高，數據較為敏感，容易被竊取。

·模型參數安全：模型的價值都在參數，被輕易拿走，會使巨大損失。

·AI應用安全：對於智能駕駛就是致命問題。對於白盒攻擊，攻擊者能夠知道AI系統演算法及參數，主要的攻擊演算法包括快速梯隊演算法、投射梯隊演算法等等。

演講末，任奎感觸，合規和新的數據法律給學術界和工業界都提出了非常多的挑戰，數據安全依然任重而道遠。

BATJ同台：暢談AI時代網路安全如何保護

與會觀眾紛紛拍照學習

BATJ同台可能是讓「智能安全專場」具備更強互聯網屬性的話題，因為互聯網4大巨頭全部到場，聽眾在比較其解決方案中會加深對BATJ的清晰認識。來自BATJ的嘉賓及主題分別為：

·百度AI安全技術總監聶科峰：《AIoT時代的安全》

·阿里巴巴集團安全部資深總監路全：《智能化攻防——機器學習在阿里巴巴網路安全的應用》

·騰訊安全平台部總監胡珀：《AI+安全=？從危到機，AI時代下的安全挑戰》

·京東安全北美研究院院長Jimmy Su：《Bots vs Adversarial machine learning: Escalating battle of captcha solving》

百度：AIoT時代的安全

首先登場的是百度AI安全技術總監聶科峰，他一開始便談到，AI技術正加速IoT發展，目前整個社會逐步進入AIOT時代。作為百度的安全團隊，他一直在跟AI一起努力開拓這個市場。AIoT概念由來已久，但沒有得到足夠的發展，近兩年AI的賦能開始，周邊很多的設備開始智能化。

百度AI安全技術總監聶科峰

·感測器。感測器是未來整個智能化設備最核心的點，基於納米微電子技術的發展，可以把數字處理做在非常小的機器上，所以它是廉價化、微小化，使得感測器大量可行，成為AIoT發展的非常重要的因素。

·晶元。CPU的特點是處理邏輯非常強，但在運算上有非常天然的弱勢。友達做了非常重要的貢獻——把GPU大規模的應用，在現性大數據處理方面發揮了非常強大的作用。現在在所有基於AI技術應用上，為百度大數據的處理提供了基礎。

·帶寬。5G速率為未來的時代提供了更加高速的傳輸，加上數據流量成本的下降，很多人都可以去接受的階段。

·深度學習的AI。谷歌、百度也有一些深度學習的框架——這加深了AI的處理。

·雲和邊緣計算。雲和邊緣計算的發展為整個AI的角色處理提供了非常成熟的基礎。

聶科峰進一步談到，進入到AIoT時代以後，它確實跟原來的時代很不一樣，這個不一樣體現在它的安全上面要求會更高：

·AIoT本身的安全技術非常薄弱，生態裡面目前從硬體到系統、到軟體甚至到設備廠商，是分工非常明確但非常不標準化，所以它的安全問題現在是沒有得到解決。

·AI基於感測器數據的採集到傳輸到處理，又引發了非常大的新的問題（個人隱私盜竊、泄密等）。

·系統性的安全風險。AIoT領域沒有人關注這個問題，但是它持續存在，每年有大量的漏洞曝出來，包括可能一些更小的實時操作系統都是潛在的風險。

他尤其強調的是「其實在行業界有一個共識，就是對於深度學習的模型，對工程師完全是黑盒，他完全不知道深度學習和機器學習的演算法如何一步步推導出最終的結果，所以這個結果是充滿了不確定性和不可控制性。這樣的不可控制性會是我們整個AI未來應用的風險點所在」。

「數據是最重要的防線，對數據是最堅固的防線，這條防線上百度一定要從各個維度來保持好這條防線」，聶科峰指出，AI的安全這塊他們要求很簡單——就是穩健。

此外，聶科峰還談及設備安全和漏洞修復問題，他表示，從雲管端到AI，百度安全將保護百度在整個AI生態上的茁壯成長，同時百度提供了基於對抗訓練的平台，大家可以嘗試使用。

阿里巴巴：像呵護孩子一樣呵護AI系統

緊接著，阿里巴巴集團安全部資深總監路全則帶來了《智能化攻防——機器學習在阿里巴巴網路安全的應用》的演講。他指出，他的演講圍繞安全為智能，而不是智能為安全。

阿里巴巴集團安全部資深總監路全

他以攻擊智能汽車為例，詳細介紹了典型的智能安全體該如何構成。他指出，改變交通標誌、黑客入侵系統、數據植入雲端讓數據中毒都可以實現對智能汽車的攻擊，而當前作為掌握海量大數據的阿里巴巴來說，面臨的挑戰還比智能汽車安全更為複雜。

目前，數據污染或數據中毒的案例不勝枚舉，而阿里安全除了在傳統網路建立安全的防禦體系，防禦黑客入侵和滲透，還要建立一張網防止數據中毒和數據污染。在阿里看來，機器流量是萬惡之源（爬蟲爬取信息、商家信息泄露、搜索排序刷單等）。

路全接下來介紹了阿里在機器流量防空體系三個方面：

·檢測模塊。如果把整個智能系統比作一個人，檢測模塊就是眼睛，沒有眼睛很多事情是做不了。

·分類模型。分類模型是機器學習的一種，是在工業界最常用的模型，如果機器學習比作有機體，分類模型就是大腦。

·輔助系統。反饋控制研究已經很透，但其實在實際系統中，反饋控制往往能起到和機器學習模型疊加組合起來能起到好效果。在傳統的OR領域，運籌學和信息系統結合也能產生很好的效果。

「在阿里有一句話，『我們要像治理酒駕一樣去打擊假貨』。現在還要加上一句，因為我們不光要像治理酒駕一樣去打擊假貨，我們還要『像呵護我們的孩子一樣去呵護AI系統』，因為它是數據驅動，你教它什麼，給它什麼數據，就會出現什麼行為」。演講最後，路全如此說道，他覺得對AI的保護迫在眉睫，智能體被數據中毒或被數據污染是他們非常不願意看到的一面，他們正為此而努力。

騰訊安全：AI+安全=？

騰訊安全平台部總監胡珀

騰訊安全平台部總監胡珀是AI安全領域的年輕專家，他最為關心的就是AI本身的安全問題，他認為，這可以歸為以下三類：

·AI演算法自身的安全問題。圖像識別、圖像欺騙等會導致自動駕駛出問題，谷歌也做了一些研究，如果模型文件被黑客控制惡意修改，並且給它學習，會產生完全不一樣的結果。

·AI系統引入第三方的組件。這些組件也會存在問題，包括對文件、網路協議、各種外部輸入協議的處理都會出問題。被黑客利用，帶來的是災難性的毀滅，所以現在產業界學術界都非常關注AI的這個方面。

·壞人也會用到AI。不要以為AI只是停留在學術界或者是工業界，其實現在黑產也大量在使用AI。

胡珀接著從人機對話、人臉識別、在線AI、智能音箱竊聽、智慧城市協議、智能設備劫持、攝像頭入侵、手機解鎖等角度用實際案例詳細解釋了AI的安全的問題。

AI安全應用到安全場景，可能帶來一些實戰。大概沿著這些方向：第一是會向傳統的生物特徵轉變，第二是研究工具有變化，特徵工程對抗轉入機器學習的方法，可能用機器學習建一個域值和模型，通過模型來看是否是黑客攻擊。在騰訊看來，引入機器學習的實際效果是應用在兩個層面，即DDoS與黑客的入侵行為，為了防止機器誤報，騰訊採用雙引擎在跑。

演講結束時，胡珀總結到，機器學習方法應用到傳統的安全場景，在某些特定場景下，AI絕對是優於人類或者傳統的特徵工程，但可能在某些場景業內還需要繼續探索。

京東安全：機器人與對抗性機器學習——不斷升級的驗證碼的戰鬥

京東安全北美研究院院長Jimmy Su主要分享「機器人與對抗性機器學習：不斷升級的驗證碼的戰鬥」這個話題，他認為隨著柯潔和李世石敗給了人工智慧機器人，深度學習其實已經在不同領域有非常顯著的發展。而京東的AI在賬號安全場景上已經運用一段時間。

京東安全北美研究院院長Jimmy Su

體現在哪些方面呢？首先是在APP的安全SDK裡面有採集設備指紋，其次是在註冊和登錄環節有人機識別技術（生物探針），再其次是行為分析做一些異常檢測，用無監督學習技術，到訂單的風控會加入黑產情報，最後是通過業務的驗證和反饋去調整模型。

電商場景欺詐行為非常豐富，涉及機注、刷單、黃牛、代購刷券、惡意訂單、虛假評論等，京東的AI體系都會涉及。從黃牛行為來看，黃牛黑產整個生態環境也有攻防不同的技術，黃牛也會有意避開人機識別。從防守角度來看，京東安全有反爬蟲，能確保京東活動價格信息不會很快被知道，同時京東也會分析黑產信息，通過NLP技術找到黃牛的動態以及黃牛現在用的工具，逆向團隊也會把黑產軟體進行立項以便打擊。

與此同時，Jimmy Su指出黑產有成熟的工具——火牛和刀鋒。火牛有非常多的功能，註冊、訂單、刷券種種行為，可以看到黑產會導入帳號、收貨人地址、微信手Q的地址、定時下單，還可以實現驗證碼的識別。而刀鋒工具作為第二大黑產工具，運作的時候可以用工具去自動滑動驗證碼，用多個賬號做批量下單，使用不同的IP從而繞過人機識別技術。黑產工具有辦法做爬蟲，從不同的端拿到價格信息，同時因為IP地址更換，使得檢測行為變得困難。

「黑產技術發展非常快，一兩天後就有新的版本出現，我們也會持續監控黑產工具」，Jimmy Su表示。針對互聯網企業流行的打碼平台，京東用得比較多的是超人打碼平台。他們將比較主流的圖片驗證碼輸入到超人打碼平台，由於有AI服務模型，所以在主流的驗證碼裡面準確率還是很高。此外，京東還將用人工智慧模型去提取優點，將優點都放在新的驗證碼，所以使用黑產工具後驗證碼正確識別率只有12%，當然對人的識別難度會有所提升，這是京東安全需要平衡的地方。

演講最後，Jimmy Su表示，在京東安全有非常廣泛的AI應用場景，AI應用是能讓他們去高效運作的唯一途徑，所以電商和黑產之間高對抗性的攻防將持續發生。

視頻物聯網巨頭：網路安全最佳實踐與IoT的碰撞

本次專場的另一個重磅演講來自海康威視。雷鋒網了解到，作為國內以視頻為核心的物聯網解決方案提供商，海康威視在網路安全層面的布局早早就已開始。海康威視網路安全部總監、網路與信息安全實驗室主任王濱發表了《網路安全最佳實踐與IoT安全的碰撞》的精彩發言。

海康威視網路安全部總監、網路與信息安全實驗室主任王濱

王濱指出，隨著AI技術的發展，其在IoT領域的發展現狀已經超過我們的想像，整個AIoT的安全問題需要足夠引起足夠重視，但是脫離了業務講安全是比較空的。

他在會上演示了三個片段，從智慧城市的智慧安防、安檢高清攝像頭以及交通領域的車輛定位幾個角度來看物聯網的升級業務的落地。

「每個人在物聯網的時代，其實都是沒有辦法去逃脫這個物聯網。基於雲計算的帶動，現在整個物聯網的體系架構已經跟原來物聯網的體系架構發生了翻天覆地的變化，原來傳統上物聯網的設備都是一些嵌入式的甚至單面積設備，發展到了今天，我們現在見到很多的物聯網設備已經載入了GPU的功能，它的計算能力甚至已經超越了我們用的手機或者筆記本電腦的計算能力」。

談及物聯網的安全，王濱表現出擔憂：當大家都納入到物聯網裡面，我們在物聯網裡面受到的安全威脅一定會越來越多，因為任何一個物聯網的設備和系統，它要為你提供各種各樣的服務，它一定會搜集到很多個人的數據和信息。而這些設備是資源受限的，網路帶寬比較窄，此外最主要的問題在於物聯網設備部分場景太開放，數量太巨大，一旦這些設備發生了安全問題，就很難控制。不管從產業界，從設備的製造商以及從用戶、政府管理機構等等來看，在安全方面做得還是有些欠缺。

「三無產品」是有安全缺陷的，原因有四：弱口令、缺乏有效的升級機制、密碼恢復存在各種各樣的危險、設備存在安全漏洞。由於整個無線網路設備數量太大、分布太多、形態多樣，進行安全升級的時候都有不同的業務場景，但是都不能按照傳統的業界最佳實踐去套。物聯網缺乏人機交互界面，用戶對設備產生所有權後，如何獲取升級通知、如何操作都是問題，安全問題出現時候，物理隔離設備無法倖免。因此隨著整個AI技術的發展，物聯網的設備會對人的生活影響越來越大，但是物聯網的安全問題跟傳統的安全理念上還是有一定的差別，需要大家去做進一步的業務緊耦合。

演講結尾，王濱總結到，海康威視目前在做全球化的工作，40%銷售額來自海外，後期安全問題將是重要發力點，目前也已經與海外企業展開對話，將進一步將IoT裡面的最佳實踐推廣到行業里。

隨著海康威視的演講結束，「智能安全專場」的演講就步入結尾了，但與會觀眾對於智能安全的關注與熱情似乎沒有絲毫消退，他們在會後與嘉賓進行了深度交談，專場的思想性、實用性與前瞻性感染了現場每個人。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！