埃隆·馬斯克:科技圈瘋狂追捧的AI，或終有一天吞噬人類！

文 | 獵雲網（ilieyun）鮑伯君

編者註：本文作者為 Maureen Down，名利場資深記者。

馬斯克，不僅僅是一名企業家，同時也聞名於他對未來的敢想敢做。最近，矽谷對人工智慧（AI）的熱潮顯然有些嚇著他了。 馬斯克認為，所有人都應該有所畏懼。因為AI在快速發展，影響著各行各業的同時，也同樣可能會對未來造成不可預料的危害。

◆ ◆ ◆

1. 馬斯克的「反AI計劃」

高級人工智慧的領先創始人，AlphaGo之父哈薩比斯與馬斯克曾展開會談，討論關於AI帶來的威脅問題。相比於前者對AI前景的看好，後者顯然是有些抗拒。

雖然不住在矽谷，然而他們兩人卻是矽谷最舉足輕重以及最「有趣」的兩個人。哈薩比斯是倫敦DeepMind實驗室的聯合創始人之一。他在幾年前就曾經拜訪過馬斯克的SpaceX火箭工廠。 馬斯克曾告訴他，SpaceX的最終目標是實現「星際殖民化」。

哈薩比斯回應他說，他也在挑戰另一個世界上最重要的項目之一：超級人工智慧。馬斯克反駁，超級人工智慧的出現，就是為什麼我們需要在火星實現殖民化的原因，因為有一天所謂的人工智慧有可能會反噬人類。然後哈薩比斯卻被馬斯克的這個說法逗笑了，他說道：「人工智慧只會跟著人們去火星。」。

然而，馬斯克卻笑不出來。

哈薩比斯被認為是最可能突破AI技術的人，儘快他長得不起眼，而且也才40歲。現在，雖然AI領域急速發展。臉書用AI來實現定向廣告，照片標籤，以及新聞推送；微軟和蘋果則用AI來驅動他們的個人語音助手——Cortana和Siri；谷歌的搜索引擎更是從始至終的運用AI技術。這些小的技術進步，無疑將會逐漸在未來形成一個靈活的、自我學習的，並且能夠仿照人類行為的超級人工智慧。

然而，馬斯克認為，如果沒有人為監控，那麼AI有可能會變成一個潛在的威脅。

在DeepMind被谷歌吞併之前，馬斯克曾經參與了該公司的投資。不過，據他本人表示，他參與到這個項目中來，並不是為了尋求收益回報，而僅僅是想盯住AI的發展速度。

馬斯克說道：「參與到這個項目中來，我能夠更深入地了解事情的進展。我知道現在這項技術突飛猛進，但是我們日常中不會看到有機器人走來走去。當然啦，掃地機器人倒是蠻多的，不過地球總不可能會被掃地機器人佔領吧。」

馬斯克曾經在公開譴責過他的友人以及技術員工。他警告說，他們正在創造一種「自我毀滅」的方式。馬斯克曾經接受採訪時表示，他十分擔心他的朋友拉里佩奇（Google的聯合創始人，現任 Google母公司Alphabet的CEO）有可能會無意間創造了一些「邪惡的事物」，包括有能力毀滅人類的機器人。

2014年，馬斯克在麻省理工發表完講話之後，對AI技術開始警惕。他預測，AI將會成為人類生存最大的威脅。他還補充道，現在國際國內應該都對AI技術實施一些監控措施，來防止人們做出一些「傻事」。他說道：「AI就彷彿是我們召喚惡魔的工具。你們應該都聽過這些故事，一個人有五角星，有聖水，所以就認為自己可以控制惡魔了，但是，根本不現實。」一些AI設計師聽到了馬斯克的這個「惡魔」言論，所以現在他們都每次回到實驗室，都開玩笑說：「來吧，我們開始召喚吧！」

然而，馬斯克依舊冷漠臉。不管怎樣，馬斯克「反抗AI」的旅程已經開始了。

2. 馬斯克

在2月份，馬斯克宣布將會將兩名遊客送到月球上遊覽一圈。說實話，馬斯克本來就是希望最後在外太空定居的那一類人。他所掌權的特斯拉還推出了新能源電池，能夠將太陽能以極低成本的方式運用到實踐中。他還在致力於推行「超級高鐵」的項目，能夠實現洛杉磯到舊金山的時速高達700英里。

去年夏天，馬斯克在拜訪美國國防部長Ashton Carter時，還提到了要打造一身類似於「鋼鐵俠」的金屬西裝。當堵在洛杉磯的公路上的時，他萌生了為什麼不能運用地下通道來解決交通問題的想法。於是，便有了SpaceX將要開挖隧道的消息。此外，更別提他對於特斯拉電動汽車的創新和設計了。

當然，馬斯克也並非一番風水。大夢想家的路上也有很多的絆腳石。SpaceX的火箭曾炸毀，特斯拉無人駕駛汽車也因感測器故障而發生車禍。

馬斯克說到：「人類有自我毀滅的能力，也就是通過這個方法，我們能夠挨過自己那些挫敗的歷史。」

第一次亮相的時候，OpenAI（諸多矽谷大亨聯合建立的人工智慧非營利組織，旨在預防人工智慧的災難性影響）看起來似乎有些假大空。畢竟是一幫科技大佬窩在一個公寓內想出來的注意，並且還僱傭了世界上領先的人工智慧領域專家。馬斯克在這其中的角色，就是一個掌舵人。

在30年前，馬斯克就已經把人類在太空的命運看作了他個人的責任。他在年輕的時候，看了一本由Douglas Adams寫的《銀河系漫遊指南》。 這本書主要就是關於外星人摧毀地球，從而為超空間高速公路鋪路，並且混合了一些超級計算機等元素的科幻小說。那時，馬斯克就為自己立下了使命：唯一值得去做的事，就是為集體爭取更有意義的利益。

據了解，OpenAI正在執行一項尚未公開的任務 —— 這並不奇怪，因為領域內的各類人士仍在討論AI能夠做什麼。到目前為止，相關政策仍不太明確，一些AI軟體在很大程度上不受管制。 不過，至少現在聯邦航空局已經開始監督無人機，而且美國證券交易委員會也在監督自動化金融交易，交通部已開始監督自駕車了。

馬斯克認為，在將技術推廣到世界範圍，讓政府和科技精英掌握之前，先要在小範圍內嘗試應用超級人工智慧的相關技術。

「關於人工智慧和機器人，我已經和拉里聊了很多次了，真的很多次。而且，不只是拉里，很多未來主義者都對機器人的發展有著必然論和宿命論。」馬斯克說道。

3. 「金牛犢」

在所謂的「人工智慧寒冬」（即在80年代早期技術的商業化失敗）之後，人工智慧的名聲彷彿是添加了潤滑油，一路飆升。OpenAI的格雷格·布羅克曼（Greg Brockman）認為，接下來十年的投資和技術將都是圍繞AI來進行的。

微軟的Jaron Lanier被稱為「虛擬現實之父」，他提出了自己的看法：「行業對AI如何著迷的原因是因為能夠滿足人們的控制欲。就好像變成了神明一樣，創造了另一批物種，創造了「生命」。國家總統做不到，明星們做不到，普通人也做不到，只有科學家們可以。這種成為神明的野心也不是什麼新鮮事，我在一本《金牛犢》的書裡面讀過。人們還是太高估自己了。」

過去幾年，Google幾乎吞併了所有稍顯成果的機器人和機器學習公司。它以6.5億美元收購了DeepMind，並建立了專註AI研究的Google Brain團隊。另外，谷歌還聘請了人工神經網路技術專家傑弗里·亨頓（Geoffrey Hinton） ，以及領域內的專家雷·庫茲維爾（Ray Kurzweil）。

可以說，AI的研究和推進就是谷歌的使命。有人稱，如果世界上真有邪惡的機器人，那麼第一台就肯定是誕生於谷歌。畢竟，Google能讓計算機來完成智能搜索，而這項任務又是人類最重要的任務之一，所以可以理解為Google同樣就能夠讓計算機來完成其他事情。

哈薩比斯稱，他正在為人工智慧領域推進一個「阿波羅」計劃。他表示：「這將會是 一個歷史性的時刻，人工智慧發展的速度已經比我所預期的快太多了。我一直希望AI能夠幫助我們探索一些新的想法，在科技領域有所作為。」

之前，AlphaGo 曾經與中國、日本，以及韓國等國家的圍棋手大戰，拿到了極為亮眼的比分。今年1月，該系統捲土重來，這一次甚至能夠用一些「詭計」來騙過對手，贏得比賽。另外，一個基於AI技術的撲克機器人 Libratus在德州亮相，並且碾壓了其他的一線選手。

Paypal聯合創始人Peter Thiel 稱，他的朋友認為，人們忍受矽谷這種技術無底線的原因，主要還是因為太寂寞了。因此，想要通過技術的手段，研發一些代替人類的「情趣用品」，滿足個人慾望。在聊到這個問題的時候，馬斯克表示：「性愛機器人，這個可能性還蠻高的。」

無論是真心還是假意，哈薩比斯都已經讓Google收購DeepMind成為了現實，並且還聯合建立了AI實驗室。在3年前，關於人工智慧倫理問題的討論似乎還為時尚早，但是到了今天，卻已經有人要揚言暫停AI的研發計劃了。

Google高管稱，拉里之所以對AI充滿憧憬，主要是因為曾對旅遊行業的定價系統價格高漲失望。因此，拉里希望能夠通過AI的智能換算，來改變人們的生活。他相信，當人們的需求更容易滿足的時候，將會有更多的時間來陪伴家人，或者是追逐自己的興趣，尤其是當一個機器人能夠幫助他們擺脫工作的時候。

前百度首席科學家吳恩達認為，現在人們擔心AI帶來的威脅，或許是有些多慮了，就好像是在考慮火星人口過多的問題一樣。他曾經和馬斯克對話，提出了AI能夠創造巨大價值的觀點。

Eliezer Yudkowsky ，機器智能研究協會的聯合創始人表示：「馬斯克的擔憂純屬無稽之談。如果他真的想要保持自己性感的救世主形象，他好好聊自己的火星殖民計劃就好了，何必來插人工智慧一腳呢？」

馬斯克和臉書的扎克伯格關係不能算太好，畢竟他們倆許多看法都不太一致。當然，關於2016年AI大潮的看法，兩人也持不同觀點。

在馬斯克宣布AI可能給世界帶來威脅的3周後，扎克伯克就把他AI領域專家們的辦公桌挪到了自己的旁邊。扎克伯克在臉書的一條博客中表示，未來將會打造一個全能型的助理機器人，幫助他管理家裡的一切事務，包括請好友進門、照顧孩子和老人，等等。他寫道：「大概就有點像鋼鐵俠的那個語音機器人一樣，通過指令就能夠讓他來完成所有工作。」

有人曾在臉書上警告扎克伯克：「不要創造出毀滅世界的那種人工智慧」。扎克伯克回應道：我們可以研發AI技術，不用過於無理由地擔心（暗指馬斯克）。人工智慧帶來的危險，遠比天災人禍要更遠。希望要凌駕在恐懼之上。

扎克伯克接受採訪時曾表示，如果我們因為恐懼這些末日的場景而放緩技術研究，這才是真正的得不償失。就好比，我們在考慮「飛」之前，至少也得先去理解如何飛吧。馬斯克的這些憂慮，是有些「歇斯底里」了。

4. 歷史的斷層

馬斯克等人給AI提出警告的這種行為，在有些人看來是作秀。不過，支持他的人也不少。史蒂芬·霍金曾表示，人工智慧的全面推行有可能將帶來人類的終結；比爾·蓋茨提到，人工智慧可能會比核武器更危險； 牛津哲學教授尼克·博斯托羅說道，一旦人工智慧具備了大腦，它可能就會不惜一切手段阻止人們更換它或者是改變它，人類的命運堪危。

去年，美國前國務卿基辛格在布魯克和人工智慧領域的專家進行了一次不對外公開的會議，主要就是討論關於智能機器人對歷史的影響。

2015年1月，馬斯克參加了波多黎各的AI安全大會，由麻省理工的49歲的物理學教授Max Tegmark主持。

Tegmark在會上說道：火災讓我們發明了滅火器；車禍讓我們發明了安全帶，氣囊和交通燈。正是這些災難和禍害讓我們學習到了如何預防和保護自己。但是，以上兩者根本無法和核武器，以及AI帶來的危險相提並論。我們需提前計劃。」

馬斯克目前已經開始啟動一筆基金，用來專門抵禦AI可能帶來的威脅。他表示，將會為「人類未來研究協會」投資1000萬美元，來完成此項計劃。另外Tegmark也向牛津的「人類未來研究所」提供了150萬美元。

波多黎各會議的六個月後，馬斯克、霍金、哈薩比斯，聯合蘋果的史蒂夫·沃茲尼亞克，伯克利計算機學院教授斯圖爾特·羅素及1000多名知名人士，共同撰寫了人工智慧標準教科書，倡議停止武器自動化的研究。

羅素說道：「以AI在50年的發展計劃來看，我們現在的這18個月至關重要。AI社區終於開始覺醒，並且也是時候讓我們思考如何打造更好的未來了。」

5.人機世界

為了更好地理解AI的正反面觀點，我驅車到了聖馬特奧，在那裡約談了Ray Kurzweil。他是《奇點臨近》的作者，一個對AI保持著烏托邦態度的人。

「計算機思維現在已經進步太多了，」Kurzweil說道，「就在幾年前，AI甚至分不出貓狗。」 對於AI的未來世界，他似乎都已經有些迫不及待了。甚至在聊天的時候，他無數次地將機器人和人類直接稱為「我們」。

Kurzweil當然也表明了他自己對於AI潛在危險的觀點。「危險和願景當然是交織在一起的，就好像火能夠給我們溫暖，幫我們烹飪食物，但是也可能會燒光我們的房子。」

此外，Kurzweil還提到了人類對於新技術的三個反應階段，分別是「哇塞，好棒！」、「完了，出大事了！」，以及「還有別的選擇嗎？」。他說道：「相比於電腦來說，人類能夠做好的事情似乎越來越少了。但是我們能夠通過創造工具來實現我們的長遠目標。AI也許未來會很友好，但是也有可能不會。如果和我們計劃的相差太多，那麼人類當然也要舉手反抗。但是，唯一的方法可能就是研發一個比對手更聰明的AI才能取得勝利了。」

不過，Kurzweil有些意外羅素居然是站在反對AI的這一邊。於是，我們也一起去拜訪了羅素，和他聊一聊關於這方面的問題。

羅素說道：「有人認為，如果機器比我們更聰明，那麼他們就會佔領地球。那麼只要我們把自己升級成機器人，而且加上人類的意識的話，那我們就沒問題啦。這種想法完全不可行。」

羅素認為，人們現在之所以不擔憂AI，主要是出於兩點考慮：第一點是，AI威脅人類不可能會發生。就好比我們開車駛向懸崖，在墜車之前，汽油早就已經耗光了。不過，這一點似乎不太能成立，因為人類的發展史本來就不可預估。

第二點是，人類只會創造可控的，能夠合作的機器人。以後的團隊將是「人類+機器人」的模式。不過，這就引申出了一個疑問：如果你創造的機器人和你計劃的不一樣，那麼所謂的團隊還能夠和諧嗎？

去年，微軟曾推出過一款AI聊天機器人Tay。不過，該機器人很快就被迫關閉了。因為她的學習能力太過強大，不僅學習了網路環境下的好言好語，而且也吸收了那些態度極端的措辭，發表了一系列反社會的言論。

如今美國特朗普當政，馬斯克的身份極為尷尬。一方面他的公司享受著美國政府的商業補貼；另一方面，他本人又是特朗普移民禁令的反對者。與此同時，與Uber的Travis Kalanick不同的是，馬斯克現在仍然作為特朗普戰略政策論壇的幕僚之一。

我曾經詢問過馬斯克關於他和特朗普之間的片段。然而，在一張和特朗普的合照中，馬斯克顯得尤為陰沉。當他討論到特朗普的時候，顯得十分疲憊：「在白宮裡，很多人的態度都太過強硬了，所以，他們也需要一個溫和的聲音。」

6. 所謂「旅程」

Eliezer Yudkowsky是一位業內評價頗高的研究員，他對AI也看法也頗為獨特。我在伯克利的一家日本餐廳約了他。

Yudkowsky解釋說：「AI不會接管整個互聯網。它有武器並不危險，危險的是它可能會比我們聰明。 假設，它通過分析DNA信息中的蛋白質結構，從而解決科學難題的話，那麼它就僅需發送一份郵件到實驗室便可以合成固定的蛋白質分子結構。不久之後，它有自己的分子排列，從而能夠構建更複雜的分子機器。」

我回想起了我和馬斯克的談話。他說道：AI主體不是一個機器人，而是基於網路中的計算機演算法。機器人僅是一個終端的執行器。重點是，如果我們的演算法失控，那麼人為可以進行操控干預。但是，一旦該演算法的信息網過大，那麼人為操控就不太簡單了。

即使是一個看似善良的機器人，也有可能會對我們造成傷害。馬斯克談到了一個例子：一個簡單的摘草莓機器人，它不斷地升級，不斷的進化。它不停地摘草莓，越來越多，而且越來越快。那麼人類就需要去開墾越來越多的土地來提供能讓這個機器人工作的條件。漸漸地，反而人類自己沒有立足之處了。

「人們真的能夠控制得住這些機器人嗎？如果有一天，真的能夠有一個按鈕讓我們在1秒鐘「殺死」這些機器人，那麼我願意做那個握著按鈕的人。因為那個時候，也許你們已經成為了這個機器人腳下的亡魂了。如果，在你們看來，所謂的終結是宇宙的極熱，那麼不如現在就開始這段旅程。」馬斯克補充道。

?

數十位產業領袖

高端大咖的思想分享及碰撞

多維度的科技成果展示

前沿趨勢的觀點匯聚

超千人行業高端觀眾

活動推薦：獵雲網2017人工智慧產業創業創新峰會

（按住二維碼↓直達報名通道）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！