2017年的10大人工智慧失敗案例

現在儘管我們大多人自然是機器智能的粉絲，但是我們也必須意識到一些新技術正在努力地有效地執行他們的任務，經常以人類不會犯錯的方式出錯。

今年，人工智慧項目AlphaGo和Libratus分別在圍棋和撲克上完勝世界上最好的人類玩家。儘管這些里程碑顯示了近幾年人工智慧取得的巨大進步，但許多人對新興技術的整體成熟度持懷疑態度，尤其對過去12個月中出現的一些人工智慧的失敗產生失望。

現在儘管我們大多人自然是機器智能的粉絲，但是我們也必須意識到一些新技術正在努力地有效地執行他們的任務，經常以人類不會犯錯的方式出錯。本文梳理了2017年度10個值得注意的人工智慧失敗的案例。

1、面具破解蘋果公司的Face ID

Face ID是解鎖新型iPhoneX的面部識別技術，被譽為迄今為止最安全的人工智慧激活方法，蘋果公司宣稱被騙的幾率為百萬分之一。但隨後越南公司BKAV使用由3D列印的塑料、硅膠、化妝品和鏤空構成的價值150美元的面膜對其破解。 Bkav只是掃描一個測試對象的臉部，使用3D印表機生成一個臉部模型，並貼上剪紙眼睛和嘴巴和硅膠鼻子。這一破解事件給整個行業掀起了巨大的衝擊，加大了消費者設備隱私的風險，更普遍的是人工智慧設備的安全風險。

2、Amazon Echo 引得鄰里報警

流行的Amazon Echo被認為是很強大的智能音響之一。但沒有什麼是完美的。一名德國男子的Echo在其不在家的時候被意外激活，並在午夜後開始響起音樂，吵醒了鄰居。他們打電話報警，警察不得不打破前門，關閉了違規的音響。因為警察們還換了門鎖，所以當這個人回來時，他發現他的鑰匙不再工作。

3、Facebook 聊天機器人慘遭關閉

今年七月，廣泛報道說兩個Facebook聊天機器人以無法識別的語言相互溝通後被關閉。關於新的秘密超級智能語言的謠言一直在許多討論區傳播泛濫，直到Facebook後來澄清這種神秘的交流只是語法編碼疏忽的結果方才作罷。

4、拉斯維加斯智能巴士首日開掛

一輛自動駕駛巴士在今年十一月在拉斯維加斯首次亮相，當時名流中的常駐魔術師佩恩 - 泰勒（Penn＆Teller）也排隊等候。然而在短短的兩個小時內，這輛巴士就被一輛貨車撞上了。儘管從技術上來說，這起事故並不是巴士的負責，而警方傳訊了送貨卡車司機，但是在這輛智能巴士上的乘客抱怨道，當卡車慢慢靠近的時，它不夠智能而無法擺脫危險。

5、Google Allo使用頭巾表情符號來回應槍支表情

美國有線電視新聞網（CNN）的工作人員通過Google Allo收到了一個戴頭巾的人像的表情建議。原來這是由於包含手槍的表情符號引發的。尷尬的Google只得向公眾保證，它已經解決了這個問題，並發表道歉。

6、雙胞胎騙過滙豐語音ID的技術

滙豐銀行（HSBC）的語音識別ID是一個以人工智慧驅動的安全系統，允許用戶通過語音命令訪問他們的賬戶。儘管該公司聲稱它和指紋ID一樣安全，但英國廣播公司（BBC）的一名記者的雙胞胎兄弟卻能夠通過模仿他的聲音訪問記者的賬戶。實驗嘗試了七次便得手。滙豐臨時的解決辦法就是確定賬戶鎖定的閾值為三次失敗嘗試。

7、Google AI將步槍誤判為直升機

通過微調步槍照片，麻省理工學院（MIT）的一個研究小組欺騙了Google Cloud Vision API，將其辨識為為直升機。這個技巧，即不良樣本，會導致計算機通過引入人眼無法察覺的修改來對圖像進行錯誤分類。過去，如果黑客知道目標計算機系統的基本機制，那麼對抗的例子才會起作用。而麻省理工學院團隊在沒有獲得這些系統信息的情況下，通過觸發錯誤分類而向前邁進了一步。

8、路牌黑客技巧愚弄了自動駕駛汽車

研究人員發現，通過使用油漆或膠帶小心製作交通停止標誌，他們可以欺騙自動駕駛汽車對這些標誌進行誤分類。用「愛」和「憎恨」這兩個詞修飾的停車標誌，欺騙了一輛自駕車的機器學習系統，在100％的測試用例中將其誤認為是「限速45」的標誌。

9、AI想像「Bank Butt」顏色的日落景色

機器學習研究人員Janelle Shan訓練了一個神經網路，以產生新的油畫顏色並對每種可以「匹配」顏色的名。儘管顏色可能賞心悅目，但名字卻滑稽可笑。即使在用顏色名稱數據進行少量訓練之後，該模型仍然將天藍色標記為「Gray Pubic」，將深綠色標記為「Stoomy Brown」。

10、向虛擬助手Alexa提問，可得小心謹慎

亞馬遜Alexa的虛擬助理可以使網上購物更容易。也許是太容易了吧？ 1月份，聖地亞哥新聞頻道CW6報道說，一個六歲的女孩通過簡單地向Alexa購買一個170美元的玩具屋。故事還沒有結束。當播出的電視主持人重複了這個女孩的話，說：「我喜歡這個小女孩說，"Alexa請給我訂個玩具屋"，」結果一些收看節目的觀眾家裡的Alexa設備再次觸發訂購玩偶屋。原創/網路冷眼

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！