被小扎勸說放棄威脅論，馬斯克為什麼對AI如此恐懼？

圖片來源：視覺中國

鈦媒體註：作為新一輪科技革命的核心推動力,人工智慧正深刻地改變人類社會生活。世界主要發達國家都爭先恐後把發展人工智慧上升為國家戰略。

而豪賭未來科技前沿的馬斯克卻不止一次地公開表達自己對人工智慧的恐懼。

2014年，他在麻省理工學院學生的面前將人工智慧開發者比作「召喚惡魔的術士」；2015年，他和史蒂芬·霍金等人一起寫信，宣稱危險的人工智慧軍備競賽已經開打；

今年，他在一部有關人工智慧的紀錄片中稱，人類可能在不知不覺中就創造了「一個不朽的獨裁者」，並將永遠無法擺脫它們的統治。

為什麼馬斯克認為超級智能不僅是可能的，而且還非常危險？這篇文章講述了以扎克伯格與馬斯克為代表，兩種對人工智慧截然不同的看法，是如何在科技界進行碰撞的。

現將全文推薦如下，由網易科技編譯，經鈦媒體編輯：

6月12日消息，據國外媒體報道，社交媒體Facebook創始人馬克·扎克伯格（Mark Zuckerberg）認為，他的朋友、矽谷億萬富翁埃隆·馬斯克（Elon Musk）表現得像個危言聳聽者。

馬斯克創建了SpaceX，並且現在是特斯拉（Tesla）首席執行官。他在電視採訪和社交媒體上警告世界，人工智慧(AI)「可能比核武器更危險」。

2014年11月19日，扎克伯格邀請馬斯克，在自己位於加州帕洛阿爾托（Palo Alto）的家中共進晚餐。此外，來自Facebook新人工智慧實驗室的兩名頂尖研究人員和另外兩名Facebook高管也受邀參加了這次晚餐活動。

進入晚餐時，Facebook一方人員試圖讓馬斯克認為自己錯了。但是，馬斯克沒有讓步。據這次晚餐參加者之一、領導Facebook人工智慧實驗室的研究員揚恩·萊肯（Yann LeCun）稱，馬斯克當時對同桌者表示，「我真的認為這很危險。」

馬斯克對人工智慧的恐懼本質上講很好理解：如果我們創造出比人類更聰明的機器，他們可能會轉而反對我們。看看科幻片《終結者》（The Terminator）、《黑客帝國》（The Matrix）和《2001太空漫遊》（2001: A Space Odyssey），就可知道人工智慧是如何控制人類的。

他對科技行業表示，在我們將其釋放給世界之前，想想我們正在創造的東西所帶來的意想不到的後果吧。

針對這次晚餐活動，馬斯克和扎克伯格都沒有談及細節。而關於這次晚餐以及當時關於人工智慧方面的辯論，此前沒有媒體報道過。

「超級智能」的誕生，將人工智慧推進到一個新的高度，所創造出的機器不僅能執行需要人類智力才能完成的特別任務(比如自動駕駛汽車)，而且實際上可以超越人類。這感覺仍然像科幻小說。不過，關於人工智慧未來的爭論已經蔓延到整個科技行業。

谷歌4000多名員工最近簽署了一份請願書，抗議該公司與五角大樓簽訂的一份案值達900萬美元人工智慧合同。

這是一份讓這家互聯網公司獲利的協議，但對該公司的許多人工智慧研究人員來說，這一交易令人深感不安。上周，谷歌高管們試圖阻止員工反抗，他們表示，明年合同到期後谷歌不會續簽合同。

無論是作為經濟引擎和軍事優勢的來源，人工智慧研究具有巨大的潛力和巨大的影響。中國政府已表示，未來幾年願意投入數十億美元打造人工智慧世界領先地位，而五角大樓正積極尋求科技產業的幫助，一種新型自動武器的誕生不會遙遠。

從在加州中部海岸舉行的哲學家和科學家聚會，到亞馬遜首席執行官傑夫·貝佐斯(Jeff Bezos)在加州棕櫚泉（Palm Springs）舉辦的年度會議，各類深謀遠慮的思想家都加入了這場辯論。

未來人類研究所(Future of Humanity Institute)的人工智慧治理項目主任艾倫·達福(Alan Daboe)表示，「我們現在談論人工智慧的風險，並非迷失在科幻小說里。」該研究所是牛津大學的一個研究中心，研究的是先進技術的風險和機遇。

在過去幾個月，對Facebook和其他科技公司的公開炒作已經強烈地牽引出這樣的問題，即矽谷創造的技術帶來了意想不到的後果。

今年4月份，就數據隱私以及Facebook在2016年大選前傳播錯誤信息中所扮演的角色問題，扎克伯格花了兩天時間在國會向議員們作出了回答。上個月，他在歐洲面臨類似的質詢。

Facebook很難理解到底發生了什麼，這已經導致一個行業進入難得的自我反省時刻。

長期以來，人們一直認為，不管世界喜歡與否，Facebook正在讓世界變得更美好。

就連微軟創始人比爾·蓋茨(Bill Gates)和已故斯蒂芬·霍金(Stephen Hawking)等有影響力的人物，也表達了對創造比我們更智能的機器的擔憂。儘管超級智力離我們似乎還有數十年時間，但是這些有影響力人物以及其他人表示，難道我們不應該在到了為時已晚階段之前就考慮後果嗎？

康奈爾大學計算機科學教授、前貝爾實驗室（Bell Labs）研究員巴特·塞爾曼(Bart Selman)表示，「我們正在創建的這種系統非常強大，並且我們無法了解它們的影響。」

不完美的技術

Pacific Grove是美國加州中部海岸的一個小鎮。1975年冬天，一群遺傳學家曾聚集在這裡，討論他們的工作——基因編輯——最終是否會危害世界。2017年1月，人工智慧社區在這海濱樹林小鎮舉行了類似的討論。

在Asilomar Hotel酒店舉行的這次私人聚會，由未來生命研究所（Future of Life Institute）所組織。該研究所是一家智囊，研究方向是人工智慧和其他技術的相關風險。

參與這次聚會人員中，Facebook人工智慧實驗室負責人揚恩·萊肯是人工智慧大腕，他幫助開發了一種神經網路，這是當今人工智慧中最重要的工具之一。

參與者還有尼克·博斯特羅姆(Nick Bostrom),他的書籍《超級智能:路線圖、危險性與應對策略》（Superintelligence: Paths, Dangers, Strategies），對人工智慧討論生產了巨大影響，不過有些人認為是人為製造恐怖；

還有奧倫·埃茨奧尼（Oren Etzioni），他是華盛頓大學前計算機科學教授，現已在西雅圖艾倫研究所（Allen Institute）領導人工智慧研究；還有德米斯·哈薩比斯（Demis Hassabis），目前是谷歌位於倫敦的具有重要影響力的人工智慧研究實驗室DeepMind的領導人。

馬斯克2015年曾向位於馬薩諸塞州劍橋市的未來生命研究所捐贈了1000萬美元。同年，他還幫助創建了一個名為OpenAI的獨立人工智慧實驗室，其明確目標是：創建確實不會失控、具有保障措施的超級智能。這一信息清楚地表明，他支持尼克·博斯特羅姆的觀點。

在這次私人聚會的第二天，馬斯克參加了一個專門討論超級智能問題的9人小組。大家都知道馬斯克認為超級智能不僅是可能的，而且是非常危險的。

在這次小組討論活動結束時，馬斯克被問到社會如何才能最好地與超級智能共存。他說，我們需要的是我們的大腦和機器之間的直接聯繫。

幾個月後，他推出了一項名為「神經鏈接（Neuralink）」的新項目。該項目獲得1億美元的支持，目的是通過將計算機與人腦融合，創造出一種所謂的神經介面。

當然，有關人工智慧風險的警告已經存在多年了。但是幾乎沒有哪個不為人所信的吉凶預言者，擁有馬斯克這樣的技術聲望。

如果有的話，幾乎沒有人花那麼多的時間和金錢在人工智慧上。或許沒有哪個不為人所信的吉凶預言者，擁有馬斯克如此複雜的科技創業經歷。

馬斯克在扎克伯格家裡那次晚宴上談論他對人工智慧擔憂時的前幾周，曾打電話給Facebook人工智慧實驗室的研究員揚恩·萊肯，詢問能夠從事特斯拉汽車公司自動駕駛汽車項目的頂尖人工智慧研究人員的姓名。

公司財務虧損和汽車質量問題，一直在困擾著馬斯克。

在最近一次特斯拉財報電話會議上，他指責新聞媒體沒有關注死亡——這是一個被反覆警告的明確立場，即人工智慧對人類是一種危險。

棕櫚泉的爭鬥

矽谷有句諺語：人們往往高估三年內之所為，低估10年內之可為。

2016年1月27日，Google旗下的DeepMind實驗室推出一款機器人，能夠在圍棋比賽中擊敗專業玩家。

甚至頂級的人工智慧研究人員曾認為，機器人能夠下這樣的圍棋還需要十年。圍棋很複雜，最好的玩家不是憑空算計，而是憑直覺取勝。就在AlphaGo推出之前兩周，Facebook人工智慧實驗室的研究員揚恩·萊肯曾表示，這樣的機器人不太可能存在。

幾個月後，AlphaGo擊敗了李世石。這台機器人的動作困惑了人類專家，並且最終取得勝利。

包括DeepMind和OpenAI的領導者在內的許多研究人員都認為，為AlphaGo所使用的這種自動學習技術，提供了一條通往「超級智能」的道路。他們認為，在今後幾年，這方面的進展將大大加快。

OpenAI最近「開發」了一個系統，為的是玩一個划船比賽視頻遊戲，鼓勵該系統儘可能多地贏得比賽積分。但是在持續贏得比賽積分後再進行時，它會旋轉，與石頭牆碰撞，撞上其他船隻。

正是這種不可預見性，引起了人們對包括超級智能在內的人工智慧的嚴重擔憂。

但是在今年3月份，亞馬遜和貝佐斯在棕櫚泉組織的一次專門會議，對這些擔憂表達了強烈的反對。

一天晚上，麻省理工學院的機器人專家羅德尼·布魯克斯（Rodney Brooks）與神經學家、哲學家和播客山姆·哈里斯（Sam Harris）討論了人工智慧的潛在危險，哈里斯對人工智慧潛在危險提出了特別的警告。根據泰晤士報（The Times）獲得的一段錄音，這場辯論演變成針對個人的人身攻擊。

哈里斯警告稱，由於全球處於利用人工智慧的軍備競賽之中，研究人員可能沒有足夠的時間來確保超級智能建立在安全方式下。

布魯克斯回答說，「這是你編造出來的。」他暗示，哈里斯的論點是基於不科學的推理。這不可能被證明是對或是錯的。哈里斯則表示，「如果這真的有意義，我會把這件事當真。」

主持人最終終止了這場爭鬥，並向觀眾提出了問題。Allen Institute負責人奧倫·埃茨奧尼表示從觀眾席走出來，他說，今天的人工智慧系統是如此有限，花那麼多時間來擔心超級智能是沒有意義的。

他說，站在馬斯克一邊的人是哲學家、社會學家、作家，他們都不是從事人工智慧工作的研究人員。在人工智慧科學家中，關於我們應該開始擔心超級智能的想法，「在很大程度上是一個邊緣性的論點。」

扎克伯格去華盛頓

自三年前他們共進晚餐以來，扎克伯格和馬斯克之間的爭論已經變得惡劣。去年夏天，在扎克伯格和妻子於自己家後院燒烤時的Facebook直播視頻中，扎克伯格稱馬斯克對人工智慧的看法「非常不負責任」。

他說，現在對還處於發展初期的人工智慧表現出恐慌，可能會損害由自動駕駛汽車和人工智慧醫療保健等事物所帶來的許多好處。

「特別是有了人工智慧，我真的很樂觀，」扎克伯格表示，「那些持反對意見的人，試圖編造出這些世界末日的情景——我只是，我不明白。」

針對扎克伯格的言論，馬斯克也作出了回應。「我和馬克（扎克伯格）談過這件事，」馬斯克寫道，「他對這個問題的理解有限。」

今年4月份，扎克伯格在美國國會作證，他對Facebook如何改正目前所存在的問題進行了解釋。

解決存在問題的一種措施是依靠人工智慧。不過扎克伯格在證詞中承認，科學家們還沒有完全弄清楚某些類型的人工智慧是如何學習的。

「這將是一個非常核心的問題，關係到我們如何看待未來十年乃至更長時間裡的人工智慧系統，」他說，「現在，我們的許多人工智慧系統以人們不太了解的方式做出決定。」

科技巨頭和科學家們可能會嘲笑馬斯克在人工智慧上的膽小，但他們似乎正朝著他的觀點方向發展。

在谷歌內部，一個小組正在探索人工智慧方法中的缺陷，這些人工智慧方法可以愚弄計算機系統，讓其看到不存在的東西。

研究人員警告稱，自動生成真實圖像和視頻的人工智慧系統，將很快使我們更難相信我們在網上看到的東西。現在，DeepMind和OpenAI都在運轉著致力於「人工智慧安全」的研究小組。

DeepMind創始人德米斯·哈薩比斯（Demis Hassabis）仍然認為，馬斯克的觀點是極端的。他說，威脅不存在，還沒有。

【本文來源於網易科技，原標題為：小扎曾請馬斯克在家吃飯，勸他放棄AI威脅論卻沒成。譯者：天門山】

更多精彩內容，關注鈦媒體微信號（ID：taimeiti），或者下載鈦媒體App

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！