亞馬遜人臉識別軟體將議員識別成罪犯，到底是人工智慧還是人工弱智？

如果說在2017年人工智慧的發展達到了一個高峰的話，那麼2018年，關於人工智慧出問題的報道便越來越多地進入大眾的視野。

就在最近，連「巨無霸」亞馬遜都因其人臉識別產品鬧了個笑話。

美國公民自由聯盟利用亞馬遜人臉識別軟體Rekognition對2.5萬名犯罪分子與國會議員進行比對，結果Rekognition將28名議員識別為了犯罪分子。

據報道，美國公民自由聯盟從「公開來源」下載了2.5萬張警方拍攝的罪犯臉部照片，然後將535位國會議員的官方照片交給亞馬遜的人臉識別產品Rekognition處理，問它在2.5萬張照片中是否有照片與國會議員匹配？

Rekognition給出了「有28張匹配」的結果。

這28人中，有6人來自美國國會黑人同盟（Congressional Black Caucus）。一直以來，面部識別系統識別非裔美國人時錯誤率就會高一些。

據此亞馬遜方面已做出回應，亞馬遜方面將錯誤歸咎為使用者操作方法不當。其認為若將識別結果信任閾值從80%上調為95%，情況會有所改善。

亞馬遜發言人表示，「雖然對於熱狗、椅子、動物和其他社交媒體用途的照片來說，80%的信任度是可以接受的，但對於確定一個人的身份而言是不恰當的。當在執法活動中使用人臉識別技術時，我們建議客戶把信任度設置為95%，或者更高的水平。」

據悉，亞馬遜方面在近段時間一直向美國執法機構推銷其這款系統和配套技術，但引起了美國國會方面的質疑。在此烏龍事件之後，上述這些組織「體驗」Rekognition人臉識別系統的國會議員們表示，他們比以往更加擔憂亞馬遜該項人臉識別技術若被用於執法機構工作，將對其造成較為嚴重的不良影響，後患無窮。

由此可見，如今越來越火熱的人工智慧技術發展程度，也許並沒有人們想得那麼成熟。雖然說人工智慧技術被視為下一個風口，但對於它的擔憂並不鮮見。從對種族、性別和其他因素的偏見到自動駕駛的無人機可能會帶來致命的後果，這些問題一直都存在。

不久前，《麻省理工學院技術評論》（《MIT Technology Review》）發表了一篇題為《如果人工智慧最終殺死了一個人，該誰負責？》的文章，這篇文章提出了一個問題：如果自動駕駛汽車撞擊並殺死了一個人，應該適用什麼樣的法律呢？在這篇文章發表僅一周之後，一輛自動駕駛的Uber汽車在亞利桑那州撞死了一名女子。

人工智慧目前存在哪些問題？

不可控的「粗魯行為」

正如我們從微軟的Tay聊天機器人事件中了解到的，會話式消息系統可能是荒謬的、不禮貌的、甚至是非常令人不快的。首席信息官們必須對自己使用的東西以及使用它們的方式非常小心。要摧毀一個品牌的形象，只需要聊天機器人一次令人惱怒的爆發就足夠了。

感知能力很糟糕

谷歌人工智慧科學家及斯坦福大學教授李飛飛在《紐約時報》的一篇專欄文章中表示，人工智慧雖然是由人類開發的，但是具有諷刺意味的是，它根本不像人類。她表示，人類的視覺感知是高度背景化的，但人工智慧對圖像感知的能力卻非常的狹隘。為此，人工智慧程序員必須與領域專家合作——回歸該領域的學術根源——以縮小人與機器感知之間的差距。

黑匣子難題

許多企業都想使用人工智慧，但金融服務等行業的公司必須非常小心，因為對於人工智慧是如何得出其結論這個問題尚未能解決。Fannie Mae的運營和技術負責人Bruce Lee表示：「企業如果不能解決好樣本數據偏見對借貸公平造成的影響，就無法提供更好的抵押貸款利率。在諸如信貸決策之類的工作里，人工智慧實際上受到了很多監管的阻礙，很多問題有待解決。所以我們所做的很多事情都必須進行徹底的回溯測試，以確保沒有引入不恰當的偏見。」

民族和社會經濟方面的偏見

即使是人工智慧虛擬助手也會受到偏見的影響。你有沒有想過為什麼虛擬助理技術——例如Alexa、Siri和Cortana都設定為女性？客戶服務軟體專家LivePerson的首席執行官Rob LoCascio表示：「這源於人類自己對職場中女性的期望。許多人認為，女性本質上是『助手』；她們更愛『嘮叨』；她們更多地擔任行政職務；她們更擅長接受訂單……」

黑客利用人工智慧發動致命攻擊

一份由劍橋大學、牛津大學和耶魯大學25位技術和公共政策研究人員撰寫的98頁的報告指出，人工智慧的快速發展意味著存在惡意用戶很快就會利用該技術進行自動黑客攻擊，模仿人類傳播錯誤信息或將商業無人機轉化為目標武器。

牛津大學未來人類研究所（Future of Humanity Institute）研究人員Miles Brundage 表示：「我們承認，人工智慧有很多積極的應用。但是，它也的確存在著一個有關惡意使用問題的缺口。」

專家觀點：雖遇困境，前景仍然樂觀

即便如此，人工智慧從業者仍抱著樂觀的態度。Babson College教授Thomas Davenport在其認知技術課上表示，這些擔心在很大程度上都是被誇大了。「我從來沒見過任何一個曾經從事過人工智慧分析工作的人會說偏見不存在。」 Davenport最近完成了一本新書——《人工智慧優勢：大企業使用人工智慧的一切》，他表示幾家大公司正在非常負責任地測試人工智慧。

「很多企業已經在實踐中應用人工智慧技術，並且沒有停止這一系列計劃的想法。」Davenport補充說，「雖然這項技術仍然不成熟，但聰明的公司知道如何更好地應用，並且儘力避免受到來自媒體的各種正面和負面看法的左右。」

事實上，根據Gartner統計，IT領導者似乎基本上不被對人工智慧唱衰對言論所困擾，據統計，有超過85％的首席信息官將在2020年前通過購買、構建和外包的方式試點人工智慧。

總體而言，人工智慧的發展還處於初期階段，其趨勢是理論更完備、技術更先進、產業更繁榮、應用更廣泛，我們應給予時間助其成長。

人工智慧和人類智能各有所長，因此需要取長補短，融合多種智能模式的智能技術將在未來具有廣闊應用前景。「人+機器」的組合將是人工智慧研究的主流方向，「人機共存」將是人類社會的新常態，而學科交叉將成為人工智慧創新的源泉。至於人工智慧究竟會成為造福人類的天使，還是控制人類的魔鬼，這取決於人類自身。我們應未雨綢繆，形成合力，確保人工智慧的正面效應，確保人工智慧造福於人類。」

來源：黑科技數據

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！