周鴻禕:人臉識別也有缺陷,會被一種奇怪條紋「屏蔽掉」
圖片來自:視覺中國
鈦媒體快訊|5月16日消息:在今日舉行的第三屆世界智能大會高峰會上,360集團創始人、董事長兼CEO周鴻禕發表演講。
他在演講中,用最近發生的三件與人工智慧有關的事情,揭示了人工智慧的安全隱憂。他說,講這三件事並非貶低人工智慧,恰恰相反,關注安全有利於人工智慧更好地發展。因為只有安全的信息化,才會給人民帶來安心和幸福的信息化。
無人值守系統里,最後的控制權應該留給機器還是人?
周鴻禕提到的第一件事是波音737MAX墜機事件。近期,737MAX型飛機在過去六個月內發生兩次墜毀事故,原因為其飛行控制系統的嚴重安全風險。周鴻禕自稱非航空專家但也看到兩個問題,一是系統設計的再完美,一旦感測器出錯,就會影響飛行控制系統的判斷,繼而「犯錯」。二是當計算機出錯後,究竟是聽計算機的還是駕駛員的?
「大家都應該思考這個問題」,周鴻說,在將來無人車、無人工廠、無人碼頭等眾多無人值守系統里,當我們沒有很大把握的情況下,在感測器誤報、數據被污染的情況下,最後的控制權和決定權應該留給機器還是人?
只要把一種奇怪的條紋列印下來,別在衣服上,就能「屏蔽」掉人臉識別系統
周鴻禕講的第二件事從「逃犯剋星張學友」說起,據悉,因為張學友演唱會現場的「人臉識別」技術,警察輕鬆抓獲多名在場逃犯。不過,周鴻禕提醒大家不要只覺得人臉識別厲害,這一技術本身也存在先天缺陷:黑客們通過研究發現,只要把一種奇怪的條紋列印下來,別在衣服上,就能「屏蔽」掉人臉識別系統,出入自由。
「這種衣服可能會很暢銷」,周鴻禕不忘在演講中調侃。他認為,這還只是不太嚴重的情況。以小見大,一些無人駕駛的汽車,可能會被馬路上『奇怪』的符號誤導,導致嚴重的交通事故。
為了杜絕這種情況,周鴻禕建議企業在上線系統前,應做好安全檢測,做好「實網攻防」。
「要用實際的攻擊發現問題,而非靠靜態的研究證明系統的安全」,周鴻禕還為公司「打廣告」,「一定要找我們這些天天吃飽沒事幹的『黑客公司』來幫大家做實際的攻防,在我們手裡發現問題,比在實踐中發現問題可能要好一些。」
為何調侃劉慶峰?
「我要攻擊劉慶峰」,談到第三件事時,周鴻開門見山,調侃科大訊飛劉慶峰。據悉,去年人工智慧大會期間,兩人埋下了「吃包子」的恩怨,劉慶峰爆料周鴻禕在最近的活動中連續吃了11個天津狗不理包子。
不過,「吃包子」恩怨是假,擔憂人工智慧是真。周鴻禕指出,去年劉慶峰在演講中播放了用人工智慧「偽造」 的川普視頻,引發了他的思考。他在演講中提醒大家:最近,美國已經有人利用人工智慧將色情視頻里的女主角換成女明星。這一技術正引發恐慌,遭到美國政府查封。
「我今天已經不相信朋友圈裡的美女了」,周鴻禕說,如果這種工具降低了每個人的做假成本,就可能會出現假新聞、假名人視頻。這顛覆了我們過去「百聞不如一見」的固有觀念,甚至會在關鍵時刻帶來混亂。
「新加坡正在制定相應的法律」,周鴻禕呼籲我國也應加強對該類問題的重視,防止這樣的「工具」流傳,引發一系列道德倫理問題。


※視頻網站會員制啟示錄:廣告已「死」,公關崛起
※將台式機性能帶到移動平台,是英特爾第九代酷睿H系列的主要任務
TAG:鈦媒體APP |