馬斯克為AI懟上扎克伯格：人工智慧威脅人類文明，歷史爭論總結

馬斯克對 AI 威脅的認識到底是客觀、超前還是危言聳聽？看完這篇文章後，歡迎留下你的觀點

新智元編譯

來源：Twitter；Discovery Magazine

編譯：文強

【新智元導讀】扎克伯格與馬斯克就人工智慧威脅的爭議已經火遍全球。這不是馬斯克第一次因為說 AI 威脅人類生死存亡而與人懟起來。你並不能說馬斯克不懂 AI——實際上，馬斯克可以說是個在 AI 產學研方面都有相當涉獵的人。馬斯克對 AI 威脅的認識到底是客觀、超前還是危言聳聽？看完這篇文章後，歡迎留下你的觀點。

GIF/38K

馬斯克談「AI 威脅」又成新聞頭條，這次懟他的是扎克伯格

Facebook CEO 馬克·扎克伯格在線上與其他大人物公開互動並不常見。當他這樣做的時候，一般都很友善，並且經過編排，比如說當年他請微軟創始人比爾·蓋茨幫忙做哈佛大學演講。

但是，他對特斯拉和 SpaceX 的 CEO 伊隆·馬斯克就沒有那麼親切了。在本周一的一場 Facebook 現場視頻問答中，扎克伯格被人問到他對馬斯克呼籲世人積極監管人工智慧的看法——馬斯克在這方面一直很高調，表示要在機器人變得比人更聰明、變危險前開始積極監管，要不然 AI 就會對人類存亡構成威脅。

扎克伯格在視頻中說：「我認為那些不看好人工智慧的人，哪些鼓吹末世論的人——我真的不明白。……這真的很消極，我認為這在某種程度上是非常不負責任的。」扎克伯格表示，他對技術感到樂觀，人們不應該呼籲放緩人工智慧發展進展。

隨後，馬斯克在 Twitter 上進行了回應——跟扎克伯格談過這件事後，馬斯克認為扎克伯格在 AI 威脅人類方面的理解有限。

馬斯克是有名的人工智慧威脅論支持者。但同時，他在 AI 方面的投入也不少。馬斯克與人聯合創辦了非盈利研究機構 OpenAI，特斯拉自動駕駛使用大量的人工智慧技術，而他最新成立的公司 Neuralink 更是在腦機介面方面有大膽嘗試。

馬斯克：一個在 AI 產學研方面均有相當涉獵的人

特斯拉：走向自動駕駛

2004年，埃隆·馬斯克向特斯拉汽車公司投資630萬美元，出任該公司董事長。為了使每個人都儘早變得安全，Tesla正在向其現有的高端車型中逐步加入自動化系統。但是有一個大的爭論是關於到底是完全自動化還是逐步自動化在實際上對於公共安全來說是更好的。Elon Musk給自己設置的研製能夠從洛杉磯自動行駛到紐約的無人駕駛汽車的最終期限是2017年年底之前。

Tesla的首席執行官Elon Musk說，這在「道德上應該受到譴責」，直到技術先進到足以實現完全自動化。Tesla已經在其網站上聲稱其所有車輛「具有完全自動駕駛能力所需的硬體，其安全級別遠遠高於人類駕駛員的安全級別。

2016年10月19日，Tesla發布聲明稱，包括還未上市的Model 3在內，目前工廠在產的特斯拉汽車都將全部配備能夠實現完全自動駕駛（full self-driving capability）的硬體。其中，包括8個車身周圍的攝像頭，12個最新的超聲波感測器，1個增強版前向毫米波雷達以及處理能力將比上一代高40倍的車載計算設備NVIDIA』s Drive PX 2，其作用及安裝位置如表1與圖1所示。特斯拉想藉此實現以下公司願景：

為所有人提供比人類駕駛更高的行車安全；

為車主提供更低的交通成本；

為無車之人提供低價、按需的出行服務。

特斯拉Model3將於本月底量產。

OpenAI：確保 AI 朝向對人類有益的方向發展

2015年12月16日，特斯拉CEO埃隆·馬斯克（Elon Musk）和創業孵化器Y Combinator總裁山姆·奧特曼（Sam Altman）創建了人工智慧公司 OpenAI，並表示將開源其研究成果分享給研究人工智慧的每一個人。國外知名科技媒體《連線》雜誌發表評論文章，稱開源的OpenAI的成立將人工智慧研究推向高潮，同時也轉變了目前由谷歌、Facebook等巨頭引領的人工智慧領域競爭格局。未來，OpenAI有望成為這一領域的監管者，將其引向對人類更為安全的發展軌跡上來。

谷歌和Facebook正在將人工智慧推向新的時代，OpenAI至少還可以監督它們，當然還會監督其他人。深度學習初創企業Skymind.io的聯合創始人克里斯·尼科爾森（Chris Nicholson）說：「馬斯克和OpenAI已經看到了人工智慧的勢不可擋，他們唯一希望的是改變其發展軌跡。」

本質上，OpenA I是一個研究實驗室，旨在削減兩類組織的力量：包括因為擁有營利的超級智能系統（super-intelligence systems）而可能獲得過多力量的大型組織，以及可能使用AI來獲取力量甚至用來壓迫本國公民的政府機構。

OpenAI 團隊成員包括 Stripe 前 CTO Greg Brockman（他是擔任 OpenAI的CTO）以及世界一流的研究者 Ilya Sutskever。Ilya Sutskever曾經為Google工作過，是在多倫多接受神經網路先驅Geoff Hinton指導的年輕科學家團隊的一員。他將擔任OpenAI的研究主管。其他的人馬還有一群頂尖的天賦很高的年輕人，他們的簡歷中囊括了主要的學術團體、Facebook AI以及谷歌在2014年收購的AI公司DeepMind。OpenAI還有一個星光熠熠的顧問委員會，頂尖的計算機科學家Alan Kay也名列其中。

在成立 OpenAI 後不久，馬斯克接受採訪時表示，他對AI有所顧慮已經有一段時間了。「我和Sam，和Reid [Hoffman]，和Peter Thiel，還有其他人，談了許多次。我們在思考，「有沒有某種方法可以確保——或者提升——AI以有益的方式發展的概率？」作為幾次談話的結果，我們得出了創立一個501c3組織的結論（譯者註：501(c)是美國國內稅收法（Internal Revenue Code, IRC）中的一項條款（美國國內稅收法, § 501(c)），列出了26種享受聯邦所得稅 （federal Income tax）減免的非營利組織，501(c)(3)為宗教、教育、慈善、科學、文學、公共安全測試 （Testing for public safety）、促進業餘體育競爭和防止虐待兒童或動物等七個類型的組織，來自維基百科）：一家非營利性組織，不具有讓利潤最大化的義務，可能會是一件不錯的事情。同時，我們也會對安全性非常重視。」

馬斯克還說，他們希望AI能被廣泛傳播。「我們認為可能數量多是一件好事。而且從你可以將它作為人類意願的延伸這個方面來看，這也是一件好事。」

NeuraLink

你可能以為特斯拉和 SpaceX 夠馬斯克忙了，但在今年 3 月份，他宣布成立一家新公司——Neuralink，致力於構建能夠植入大腦的高帶寬 BCI 系統。馬斯克說，理想情況下，相關的技術不需要進行腦部手術，他還提到將相關部分注射到血液里的可能。雖然馬斯克沒有透露更多的技術細節，但神經科學家認為，馬斯克的新產品可能基於尖端研究，涉及微小的「神經塵埃」（neural dust）電極或植入大腦中的網狀電極。

馬斯克的長期目標是發明一種 BCI，能夠在日常使用過程中增強認知能力。但是，為了讓產品到達普通消費者市場，Neuralink 將首先開發可以獲得監管部門批准的醫療產品。馬斯克說：「我們的目標是在大約 4 年內，將幫助識別嚴重腦損傷（中風、癌症病變、先天性疾病）的某些東西推向市場。普通人使用大概有 8 到 10 年的距離。」

了解更多，閱讀新智元報道

【2萬字巨獻：解讀馬斯克腦機介面 Neuralink】人類只有一個選擇——成為 AI

「第一次聽說 Neuralink 之後僅僅六周，我就確定其工程之大膽、使命之壯麗，簡直讓特斯拉和 SpaceX 都黯然失色。那兩家公司在試圖定義未來人類會做什麼，Neuralink 則意在定義未來人類是什麼。」

這是著名科技作家 Tim Urban 在WaitButWhy 上發表的近4萬字長博客中的一段話。這篇長博客可讓關注 Elon Musk 和他新公司 Neuralink 的人過足了癮。文章從水母、原始人和神經元講起，直講到 Elon Musk 正在做的「腦機介面」和 Neuralink 的偉大抱負。全文貫穿著搞笑而又非常說明問題的圖片，文風也是 Urban 一貫的深入淺出風趣幽默。倒是 Elon Musk 在文章最後才不緊不慢地出場，表達了 Neuralink 希望應用其技術幫助老年人維持他們的認知能力。不過，Elon Musk 對 Neuralink 的願景如此舉重若輕的描述，更讓人期待這篇長文都寫了什麼。要知道，Tim Urban 這位最受「鋼鐵俠」欣賞的科技作者，可是把這篇文章的寫作過程說成是「我感覺就好比坐著時間機器去了一趟未來，現在我要告訴你一些根本無從想像的怪事。」【繼續閱讀】

馬斯克的擔憂值得關注嗎？5 位 AI 專家分別給出不同看法

可以說，馬斯克在 AI 產學研方面都有投入，而且還都不小。儘管如此，他還是堅信 AI 威脅論。

就在本月召開的全美國州長協會（National Governors Association）會議上，馬斯克受邀出席，並且抓住這一機會強調人工智慧是「人類文明面臨的最大威脅」，呼籲政府快速堅決採取措施，監督這項技術的發展。

根據 MIT TR 的報道，馬斯克在會上表示，

「直到人們親眼看見機器人走上街頭殺人時，他們是不會知道如何反應的，因為這件事情看上去太虛無縹緲了。我很少這麼認為，但 AI 無疑屬於這樣罕見的一個情況，那就是我們需要積極主動地對其進行監管。我認為，當我們在 AI 管制中處於被動地位時，事情就已經晚了。」

對此，Dsicovery Magazine 採訪了 5 位 AI 技術專家，請他們談談對馬斯克這一觀點的看法。

華盛頓大學計算機科學教授、艾倫人工智慧研究所 CEO Oren Etzioni：更應該關注緊迫問題，比如 AI 造成失業和 AI 武器濫用

華盛頓大學計算機科學教授、艾倫人工智慧研究所 CEO Oren Etzioni 認為，馬斯克對 AI 威脅人類存亡的密切關注，實際上將公眾的視線從 AI 對人類更為緊迫的威脅——失業、軍事武器濫用——上面拉開。Etzioni 認為，公眾需要關於 AI 全面的信息，包括正面和負面的。讓公眾了解 AI 要區分科幻和科學。在科幻小說中，人工智慧常被視為「反派」，試圖統治人類世界。但事實上，人工智慧是一種工具、一種技術，有望通過改善交通方式、醫療服務等方式來拯救生命。「與其建立新的監管機構，我們需要更好地教育人們，人工智慧可以做什麼、不可以做什麼。我們需要研究如何構建「AI 監護人」等系統來監控和分析其他 AI 系統，確保人工智慧遵守人類的法律和價值觀。世界需要人工智慧帶來好處，但人工智慧並不需要監管（The world needs AI for its benefits, AI needs regulation like the Pacific ocean needs global warming.）。

新南威爾士大學人工智慧研究員、《It』s Alive!: Artificial Intelligence from the Logic Piano to Killer Robots》的作者 Toby Walsh：AI 對人類文明還沒有構成迫切威脅，但政府開始監管是有必要的

新南威爾士大學人工智慧研究員、《It』s Alive!: Artificial Intelligence from the Logic Piano to Killer Robots》的作者 Toby Walsh 認為馬斯克是危言聳聽。他最近對 300 位資深 AI 研究人員進行了調查，其中大多數人認為 AI 至少 50 年後才能像人類一樣聰明，所以監管 AI 並不是一個亟待解決的問題。而且，如今有研究群體正在致力於確保智能機器不會對人類的生存構成威脅。Walsh 認為，這些研究人員屆時會發現我們需要採取的保障措施。

但是，Walsh 認為馬斯克在一件事上是對的：政府需要從現在開始著手監管 AI 。但是，要監管的是「傻瓜 AI」，例如有偏見的演算法、軍備競賽中的殺人機器人，這些不夠聰明的 AI 掌握著人類的生殺大權。此外，一些科技公司掌握了公民的個人信息和醫療數據，對隱私造成威脅。虛假消息在互聯網上泛濫，扭曲了人們的觀點。這些問題讓科技公司自行解決不太現實，因此需要政府出面干預。

科技巨頭之間正在展開人工智慧軍備競賽。谷歌和 Facebook 這樣的公司形成壟斷的勢頭已現，如果 20 年後還是這樣巨頭獨大的格局，Walsh 對人類社會的未來深表擔憂。

斯坦福 AI 實驗室主任、谷歌雲 AI/ML 首席科學家李飛飛：要各行各業的人都參與研發對社會有益的 AI

斯坦福 AI 實驗室主任、谷歌雲 AI/ML 首席科學家李飛飛表示，機器體現了人類的價值觀。如果人類真的擔心技術的未來影響，AI 也好，能量也罷，其他任何事情，都讓各行各業的人和各種觀點意見都在開發和應用這項技術中得到體現。這一點對斯坦福大學、谷歌和特斯拉的研究人員都一樣，每個技術專家都需要參與到改善社會、開發 benevolent AI 技術的進程中來。作為 AI 教育家和技術專家，李飛飛認為，最重要的是在發展和傳播 AI 的過程中看到更多的包容和多樣性。

IEEE 全球 AI 倫理倡議主席、AI 專家 Raja Chatila：馬斯克的關注是合理的，但要立即採取措施可能得罪股東

IEEE 全球 AI 倫理倡議主席 Raja Chatila 認為，人工智慧已經無處不在，它是互聯網的一種衍生。人工智慧已經被嵌入到當下和未來我們開發的所有演算法和系統當中。這是一個絕佳的機會，可以讓我們把人工智慧在道德和責任設計提升到優先的等級中來。然而，這與AI 和社會面臨的緊迫的危機的關係更大，忽視掉環境和社會的影響，它們對經濟的增長有著更顯著的影響。

就馬斯克關於人工智慧的生存威脅的警告是否值得人們的立即關注？Chatila 認為是需要的，我們不應該只把經濟增長當做指標，也需要關注社會效應。如果不去關注的話，我們實際上會有巨大的風險，可能會面臨大量負面效應和意外的結果，因為我們將經濟指數增長和股價價值凌駕於社會繁榮指標之上，把它們作為這些令人驚嘆的技術的成功標誌。（In terms of whether Musk』s warnings of existential threats regarding Artificial Super-intelligence merit immediate attention, we actually risk large-scale negative and unintended consequences because we』re placing exponential growth and shareholder value above societal flourishing metrics as indicators of success for these amazing technologies.）

《機器人的興起：技術和失業未來的威脅》作者、AI專家 Martin Ford：馬斯克擔心是合理的，不該被忽視

《機器人的興起：技術和失業未來的威脅》作者表示，對於人工智慧對人類構成生存威脅這件事，Elon Musk的擔憂是合理的，也不應該被忽視 。但這種擔憂要在至少50年之後才可能會出現。要求立即規範或限制人工智慧發展的原因有很多，其中最重要的一個原因是美國目前正在與其他國家特別是中國展開積極競爭，我們在這場關鍵的比賽中不能落後。

另外，對真正先進的人工智慧「接管」的擔憂，讓我們忽視了與專業人工智慧發展相關的更緊迫的問題。這些因素包括，隨著數以百萬計的工作崗位被淘汰，以及潛在的隱私威脅，以及在網路犯罪和網路戰爭中部署人工智慧，以及真正自主的軍事和安全機器人的出現，可能出現大規模經濟和社會動蕩的可能性。

這些更接近短期的發展，都依賴於馬斯克擔心的先進超級智能的發展。它們是已經存在的技術對社會影響的簡單推斷。我們當前的重點應該是解決這些投機性較低的風險，這些風險極有可能在未來 20 年內產生重大影響。

擔憂人工智慧？這還不是馬斯克想的最遠的

馬斯克認為 AI 威脅人類文明的觀點很大程度上可能受 Nick Bostrom 的影響。Bostrom 是牛津大學人類未來研究院院長，暢銷書《超級智能》的作者。2014 年 8 月，馬斯克讀完《超級智能》，在 Twitter 上公開表示要慎用人工智慧。

當時還身為博士生的 Andrew Karpathy 回應說，AI 目前還是些演算法和工程，不用太擔心。

不知道現在已經成為特斯拉 AI 主管的 Karpathy 會怎麼說。Karpathy 在從斯坦福畢業後，加入了 OpenAI 做研究。上面已經說過，OpenAI 是馬斯克與人聯合成立的非盈利研究機構，包括 Bengio 在內的多名 AI 領袖也支持創建 OpenAI。

回到 Bostrom 身上來，不僅在 AI 威脅，Bostrom 在很大程度上還影響了馬斯克現實世界的看法。QZ 曾經發表文章，「We talked to the Oxford philosopher who gave Elon Musk the theory that we are all computer simulations」。也就是說，在 Bostrom 影響下，馬斯克認為我們都是計算機模擬。

這還不算馬斯克最瘋狂的想法——他最近在一次採訪中說，他 25 年前希望做的 5 件事之一是，讓人類可以在多個行星上生活。現在，他想讓人和AI 的融合，解決大腦皮層的介面寬頻問題。「我認為可以通過改進大腦皮層和數字設備之間的神經元連接，來有效地把AI 與人融合在一起；正如我說過的，這已經存在了，現在只是介面帶寬的問題。如果有效的話，在這之後，你將成為「AI-人類」混合體。此外，如果這種形式可以得到普及的話，我們就不用擔心一些邪惡的AI 獨裁者了，因為我們就是AI 的集合。這是我能想到的最好的方法。」

你怎麼看：馬斯克的憂慮值得關心嗎？

【號外】新智元正在進行新一輪招聘，飛往智能宇宙的最美飛船，還有N個座位

點擊閱讀原文可查看職位詳情，期待你的加入~

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！