歐盟要求「解釋權」，或引發與人工智慧公司巨大衝突

前言：歐盟的全球數據保護法規（GDPR）要求公司對其所用的機器學習技術的工作方式做出解釋，但即使是谷歌這樣的巨頭恐怕也無力完全解釋自己的人工智慧技術，這極可能會導致某些不可避免的衝突……

神經網路正在改變互聯網。受到人腦內部神經網路的啟發而構建出的深度數學模型，能通過分析大量數據而學會完成各種獨立的任務。這些模型學會了識別照片中的人臉、辨認語音指令和翻譯文本。而這僅僅是開始。它們還進入谷歌和 Facebook 等科技巨頭的核心業務。當你使用谷歌搜索引擎或瀏覽 Facebook 動態消息時，它們幫助篩選你看到的信息。

所有這些都在塑造著網路服務行為。但是這對世界上最大的網路市場歐盟而言還意味著思想交鋒的蓄勢待發。

在四月份，歐盟為個人信息（包括網上數據）的收集、存儲和使用制定了新的規則。這套規則名叫「全球數據保護法規 (General Data Protection Regulation, GDPR )」 ，它經歷了十年醞釀，而且將在 2018 年開始生效。即使歐盟以外地區的公司收集各種數據，它也能保護歐盟公民的數據安全。它授予歐盟懲罰違反條規的公司的權力，可罰款 2 千萬歐元或公司全球收入的 4% 。

難以解釋

這些規定禁止任何「顯著影響（significantly affects）」歐盟公民的自動化決策。這包括評估個人「工作表現、經濟條件、健康、個人偏好、興趣、可靠度、行為、地理位置或活動」的技術。同時，法律提供了 Goodman 所謂的「解釋權（right to explanation）」。換言之，條規讓歐盟公民可以檢查特定服務是如何做出某種特定的演算法決策的。這些規定都會衝擊大多數網路服務的核心。例如，在 Facebook ，機器學習系統已經在推動廣告精準投放，而這依賴於非常多的個人信息。另外，機器學習本身並不能完全服從「解釋權」。甚至對專家而言，解釋神經網路內部發生了什麼也是一項複雜任務。神經網路通過分析數百萬數據進行運作，儘管這些系統工作得非常好，但是也很難確切地弄清楚它們為什麼工作得如此之好。你不可能輕易地追蹤它們精確的工作路徑從而找到答案。牛津大學互聯網管理專家 Viktor Mayer-Sch?nberger 曾參與草擬了部分新規，他說 GDPR 對自動化決策的描述可有不同的解讀方式。但是他最近說，「一個重大問題」是語言如何影響深度神經網路。深度神經網路依賴于海量數據，而且它們產生的複雜演算法甚至可能對開發應用這些系統的人而言都是深奧難懂的。Mayer-Sch?nberger 說：「就這兩方面來看，GDPR 有話要說。」

準備衝突

一方面，Goodman 相信這些規定擊痛了 Facebook 商業模式的核心。他說：「法律牢牢緊盯著大型跨國公司。」Facebook 沒有對外界就此問題作評論的要求做出回應，但是局勢的緊張是顯而易見的。公司每年都在精準投放廣告上賺取數十億美元，現在它又在用機器學習技術來賺錢了。所有跡象表明，谷歌也在將神經網路應用於廣告投放，就像應用於「有機的（organic）」搜索結果一樣。谷歌也沒有對外界相關要求做出回應。

神經網路本身難以進行簡單的解釋，這極可能會導致某些不可避免的衝突。

但是，Goodman 並不只是將矛頭對準了互聯網大公司。機器學習的最新發展像流水一樣從特大型企業滲透到其餘互聯網企業。他說，歐盟的新規可能影響所有事物的進程，從普通的網路推薦引擎到信用卡和保險公司。Mayer-Sch?nberger 說，歐洲法院可能最終會發現，神經網路不只是自動化決策，它們更多還是統計分析。然而即使那樣，科技公司還是會捲入「解釋權」的糾紛。他解釋到，深度神經網路的美麗之處部分在於它們是「黑箱」。它們以超越人類邏輯之外的方式工作，這意味著來年採用這種技術的無數企業將因歐盟新規要求給出神經網路工作方式的解釋而陷入麻煩。「做出解釋不是不可能，」神經網路創業公司 Skymind 的 CEO 和創始人 Chris Nicholson 說，「但是這很複雜。」

人類干預

解決這種難題的一種途徑是讓人類決策者干預或控制自動化演算法。在許多情況下，這是可能發生的，因為許多設備在人類制定的明確規則下協調運用了機器學習和其它技術。這就是谷歌搜索引擎的工作方式。Nicholson 說：「在很多時候，演算法只是解決方案（需要人類參與的方案）的一部分。」但是，互聯網趨於更加自動化，而不會更少。所以最後，人為干預不一定是最佳答案。「人類真是糟糕透了。」一位評論員在科技討論網站 Hacker News 上寫到，「我們不可思議地帶有偏見。」

由歐盟新規帶來的難題將不只是影響最大的科技公司，也將延伸到所有事物上。

這是一場公正的爭論。只有當機器學習繼續進步，它才將會變得更加公正。人們傾向於將自己的信念施加給機器，但是機器正變得越來越重要。接下來要討論的無人駕駛汽車的倫理問題也是同樣充滿劍拔弩張的緊張。一些人說：「我們不能讓機器做道德決策。」但是其他人說：「當你看到道路更加安全時，你就會改變想法。」機器永遠不會成為人類。但是，在一些情況下，它們可能比人類做得更好。

數據保護之外

歸根結底，正如 Goodman 推斷的那樣，由歐盟新規帶來的難題將延伸到一切事物上。不管需要完成的任務是生成搜索結果、道路導航、以股票進行交易還是尋找浪漫的伴侶，機器學習都是未來的發展道路。谷歌如今的使命是再次培訓員工，讓他們適應新的世界秩序。Facebook 提供各種工具，可以讓公司內的任何人利用機器學習的力量。谷歌、微軟和亞馬遜如今通過它們的雲計算服務給全世界其它公司提供機器學習技術。

GDPR 應對的是數據保護問題。但是這只是潛在衝突的一個方面。例如，反托拉斯法將如何對待機器學習？ 谷歌現在面臨的情況是被指控在它的搜索結果中差別對待某些競爭對手。但是這種情況幾年前就被提出來了。當公司們抱怨機器存在歧視時，又將發生什麼呢？「駁斥這種論點變得更加困難，」Mayer-Sch?nbergerd 說，因為甚至谷歌也可能無法解釋神經網路是如何做出決策的。

請您繼續閱讀更多來自 機器之心 的精彩文章:

TAG:機器之心 |

※蘋果公司加強人工智慧領域的研究，開發晶元用於人工智慧
※李彥宏：人工智慧不會被少數大公司壟斷
※美國Duo公司推出人工智慧電腦 功能相當強大
※大疆董事長創辦機器人公司，人工智慧時代我們必須努力奔跑
※醫生也將失業？中國公司開發人工智慧技術診斷癌症
※中小板公司積極實施股權激勵 助力業務創新
※人工智慧領域，創業公司的「屠龍」手冊
※人工智慧強勢來襲 互聯網公司如何存在
※谷歌、微軟等科技巨頭都在爭相投資人工智慧創業公司
※谷歌、微軟等科技巨頭都在爭相投資人工智慧創業公司！
※孔旻智談新公司：全力支援所有活動
※經銷商股權激勵，助力公司快速擴展
※澳洲新能源公司發明人造吹蝕穴技術，利用「潮噴」發電
※福布斯：中國科技公司正在力推人工智慧發展
※傳金智勛出演徐賢新劇 公司回應討論中
※史上最強橫公司：擁有獨立貿易權和強大軍隊，征服印度，毒害清朝
※前諾基亞員工成立創業公司，正在努力解決VR最大的技術問題
※蔚來牽手長安成立合資公司，李斌說「要打造中國的智能電動汽車產業聯盟」
※澳大利亞能源公司用「人工風洞」利用海浪發電