人工智慧有哪些安全隱患？它最讓人失望的是什麼？

「計算機的深度學習能力很強，但有時你也會發現它很笨。」

人工智慧其實離我們並不遙遠，手機上的語音輸入法靠的是語音識別技術，網購後再登錄時看到的推薦商品正是基於你的購物習慣呈現出來的。在人工智慧技術的快速發展中，存在哪些安全隱患？人工智慧最讓人失望的是什麼？包括上海在內，中國發展人工智慧的優勢和短板在哪裡？

7月8日下午，由未來論壇主辦的第29期理解未來講座在上海紐約大學舉行。眾多國內外計算機領域專家和創業者發表了真知灼見。

「計算機在深度學習時容易被欺騙」

「安全性是部署人工智慧的最大挑戰。」加州大學伯克利分校計算機系教授宋曉冬說。她的研究方向是深度學習與安全領域。

從歷史上看，自從有了互聯網，就有了網路攻擊。最早的蠕蟲病毒，當時感染了6千台計算機，而這一數字佔了當時世界上計算機總數的十分之一。今年名為「wannacry」的勒索病毒則導致全球20萬台電腦中毒，涉及 150多個國家。計算機病毒攻擊不僅顯現出多樣化特點，惡意軟體也不斷升級，給經濟發展了帶來損害。

宋曉冬介紹，人工智慧領域的安全問題主要表現為兩方面，第一個是攻擊人工智慧的學習系統，讓其不能產生正確或需要的結果。第二個是對人工智慧的濫用。

宋曉冬和同事對於深度學習里的對抗性例子進行了研究。他們發現，在實施一些技術干擾後，計算機在進行深度學習時容易被欺騙，比如一個「禁止停車」標誌，可能被計算機解讀為「限速」標誌。

他們還發現，攻擊者可以對計算機生成模式進行篡改。實驗中，他們對某個人臉識別系統進行了修改，結果整個系統就只生成了一個人的臉。

「自動駕駛如果出了問題，到底該由誰來負責呢？人工智慧的安全性需要從早期就開始考慮。」宋曉冬說，這是一個跨學科任務，需要全社會共同參與。比如，人工智慧用於醫療設備的安全問題，過去多年一直沒有引起重視，而在2016年度美國食品藥品監督管理局頒發的指南里開始提及。

宋曉冬教授

「有時會發現計算機也很笨」

人工智慧當下到底有多熱？宋曉冬介紹，在加州大學伯克利分校，包括人文學科的所有學生，都被要求先學習計算機課程，這就必然會涉及到人工智慧技術。

流利說創始人王翌認為，人工智慧作為一個強大驅動器，沒有什麼行業會不涉及到。其影響力，如果用一句話來概括，就是提升了效率，推動了生產力。

「計程車司機和小區保安都和我討論過人工智慧，可見這個概念有多熱。不過我覺得，有點過熱了，實際上人工智慧的絕大部分應用場景距離我們還比較遙遠，希望在未來發展中能夠去泡沫化。」上海紐約大學計算機科學教授張崢說。

普林斯頓大學教授李凱，也對此抱有相似觀點。他認為，現在投資者和民眾對於人工智慧的期待值都很高，一旦達不到預期，必然會帶來更大的失望。

「計算機的深度學習能力很強，但有時你也會發現它很笨。」宋曉冬說，計算機還不具備抽象思考能力，不懂得用大數據得到的能力，去解決新的問題，距離真正的智慧還很遙遠。

上海交通大學軟體學院教授陳海波說，人工智慧最讓他感到震撼的是，在一個封閉的環境可以做得如此之好，但讓他感到失望的是，在一個開放的環境卻做得如此之差。現在深度學習能做到的僅僅是知其然，而不知其所以然，這就導致了人工智慧的脆弱性。

「中國最大的優勢和劣勢都在於人」

很多人工智慧技術的原創都來自國外，中國的優勢和短板又在哪裡？上海是否有這樣的機會？

「關鍵要有好的土壤，才可能做出突破性成果。」宋曉冬說，中國的市場非常大，每次回國她都會發現，這裡市場驅動的執行能力很快，中國在人工智慧發展上有很大的潛力。每年伯克利分校都會招收很多來自中國的本科生，他們數理化基礎好，英文也不錯，相對欠缺的是獨立思考能力，而這對於科研來說是很重要的。當下的中國，比較關注短期問題，在解決科學問題時過於浮躁。如果有寬鬆自由的科研土壤，富有獨立思考能力的人才，再加上市場，相信中國會成為人工智慧的大國。

「中國最大的優勢和劣勢都在於人。」張崢說，中國人口多，有旺盛的需求，雖然起步晚，但可以實現技術上的「蛙跳」。劣勢在於，原創的人少，從事尖端研究的人少，這樣就會造成一種情形：儘管比歐美國家落後得不是很多，但卻怎麼都超越不過。

上海是否有這樣的機會呢？「和其他城市相比，上海顯得稍微冷靜一點，但其短板在於落地的環境還不是很好。」張崢說。

陳海波說，上海這座城市對於生活要求比較高，容易驅動出新的需求，也推動技術向極致發展。上海擅長於精細化管理，成熟產業在這裡比較容易推動，但同時原創的東西就不容易出來。

畢馬威中國科技及信息業主管合伙人吳劍林認為，上海儲備了很多人才，但冒險心態並沒有那麼強烈。一個產業的發展要有一個「巨人」，當初張江引進了很多生命科學人才，這才有了現在領先的產業。人工智慧也需要這樣一個人才核心群體，才能把影響做出來。

題圖來源：視覺中國 內文圖片來源：未來論壇提供 圖片編輯：曹立媛

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！