論如何騙過計算機視覺AI網路，UCLA專家為你支幾招

新智元報道

來源：entrepreneur.com

編輯：大明

【新智元導讀】UCLA的研究人員最近專門發文研究了「計算機視覺神經網路究竟有多好騙「這個問題。通過3個實驗，研究人員表明，在對玻璃材質雕像、只有外形輪廓的圖像識別上，AI幾乎無能為力，成功率奇低。

雖然AI給人類帶來的方便已經不勝枚舉，但越來越多的人仍然在擔心AI技術的快速應用可能會奪走未來人類的工作，有時，這種想法甚至很有緊迫感。不過，一些研究人員不同意技術很快就會從人類手中奪走工作的想法。

加州大學洛杉磯分校（UCLA）的研究人員進行了一些實驗，結果表明，「深度學習」的機器存在嚴重局限性。

AI未來還有很長的路要走

「以深度學習計算機網路的人工智慧機器到底有多聰明，這些機器與人類的大腦有多類似？近年來，對這個問題已經取得了很大的進步，但前方仍有很長的路要走，「加州大學洛杉磯分校的認知心理學家團隊在PLOS《計算生物學》期刊上發文提出了這一問題。

有AI技術的支持者表示，非常願意使用這些神經網路網路來完成多種多樣的個人任務，甚至完成通常要由人完成的工作。然而，在這項研究中的五個實驗的結果均表明，神經網路很容易受騙，網路利用計算機視覺來識別目標的方法與人類的視覺有很大不同。

「這些機器存在嚴重的局限性，我們需要了解這些局限性。」加州大學洛杉磯分校心理學教授，該研究論文的資深作者Philip Kellman說。

AI網路很容易被騙

Kellman表示，機器視覺存在局限性。在第一個實驗中，研究人員的實驗對象是性能最好的深度學習網路之一VGG-19，使用的是經過修改的動物和目標的彩色圖像。比如，和高爾夫球表面相同材質的茶壺、身上有斑馬條紋的駱駝等等。結果VGG-19在40個對象中只有5個首選項是正確的。

第一個實驗中使用的部分圖像及實驗結果

「我們可以很容易地騙過這些人工智慧系統，」該研究論文共同作者之一，加州大學洛杉磯分校心理學教授Lujing Lu說。「這些系統的學習機制遠遠沒有人類思維複雜。」

第二個實驗中使用的部分圖像及實驗結果

在第二個實驗中，心理學家向VGG-19展示了一些玻璃雕塑的圖片，並向第二個深度學習網路展示了AlexNet。 VGG-19在所有測試兩個網路的實驗中表現更好。這兩個神經網路都使用ImageNet的圖像數據集訓練。

然而，兩個網路都未能識別出圖像中的玻璃雕塑。

第三個實驗中使用的部分圖像及實驗結果

在第三個實驗中，研究人員向VGG-19和AlexNet展示了40幅黑色輪廓的白色圖像。目的是為了檢驗神經網路是否能夠通過其形狀識別物體。

研究人員得出結論，人類可以識別整個物體，而人工智慧網路可以識別物體的碎片。

「這項研究表明，這些系統在接受訓練的圖像集合範圍內得到了正確答案，但沒有考慮形狀。而對於人類來說，目標的整體形狀是目標識別的主要形式，而目前的目標識別深度學習系統中似乎並不包括對整體形狀的識別。「Kellman說。

參考鏈接：

https://www.entrepreneur.com/article/326100

論文地址：

https://journals.plos.org/ploscompbiol/article?id=10.1371/journal.pcbi.1006613

【加入社群】

新智元AI技術 產業社群招募中，歡迎對AI技術 產業落地感興趣的同學，加小助手微信號：aiera2015_2入群;通過審核後我們將邀請進群，加入社群後務必修改群備註（姓名 - 公司 - 職位;專業群審核較嚴，敬請諒解）。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！