AI末日論是危言聳聽嗎？從馬斯克和扎克伯格的論戰說開去

作者｜蔡芳芳

編輯｜小智

近日扎克伯格與馬斯克關於「AI 與人類未來」的爭論引起了業界的廣泛關注，但其實這並不是此類爭論第一次出現，「AI 末日論」是否危言聳聽在科技圈一直存在爭議，只不過這次兩方觀點展開了一次更為直接的正面交手。這次爭論究竟在吵什麼？關於 AI 未來的發展還有哪些爭論？現階段 AI 產品都應用到了哪些地方？我們對於 AI 的發展到底應該怎麼看？本文將針對這些問題逐一展開

編者按

AlphaGo 戰勝排名世界第一的圍棋高手柯潔剛過去三個月，人工智慧在全球發展勢頭正盛，當普通民眾還在觀望下一個震驚世人的人工智慧產品會是什麼時，科技圈的大佬們已經就「AI 末日論到底是不是危言聳聽」打起了嘴仗。

7 月 23 號下午，扎克伯格在自家後院與網友直播閑聊的過程中，一位網友提到埃隆·馬斯克的「AI 末日論」並詢問扎克伯格對此觀點的看法。扎克伯格表示他對 AI 未來的發展持樂觀態度，他無法理解那些宣揚 AI 將導致世界末日的人，他認為這些觀點非常消極並且實際上是「非常不負責任的」。他還指出未來 AI 將能夠提供一些挽救生命的服務，比如診斷疾病和自動駕駛。

緊接著馬斯克迅速做出回應，他在推特上轉發了一篇名為《扎克伯格炮轟埃隆·馬斯克，指責他鼓吹人們警惕人工智慧「非常不負責任」》的文章，並表示「我已經與馬克聊過這事了，他對這個問題的理解有限」（有趣的是，馬斯克也曾被現代機器人之父羅德尼·布魯克斯評價為「並不懂 AI」）。並且隨後又轉發了一篇 Tim Urban 發表於 2015 年的文章，標題為《AI 革命：通往超級人工智慧之路》，再次宣告他的末日論立場堅定不動搖。

悲觀派 VS 務實派

其實對人工智慧未來發展的可能性產生分歧已經算不上什麼新鮮事了。科技圈對於人工智慧的觀點一直以來都分為兩派，一方認為人工智慧發展的速度將遠超預期，放任其發展遲早要把人類全部玩完，呼籲大眾警惕人工智慧並對人工智慧進行管制，埃隆·馬斯克就是這一方的典型代表人物，他早在 2014 年就提出了「AI 末日論」並一直在各種場合積極宣揚他的觀點，這次正面互懟的起因也正是他在美國全國州長協會上的一番發言；而另一方則彙集了眾多在 AI 領域一線進行科研工作和開發產品的專家，他們的觀點更接近扎克伯格，他們認為人工智慧尚處於發展初期，當前階段應該更關注如何優化和提高 AI 技術，而不是無謂地恐懼甚至嘗試約束一些尚未出現的東西，未來一段時間內人工智慧將為人類帶來更多好的改變。

讓我們先回顧一下諸位大咖發表過的一些重要觀點。

擔憂「人類可能會被 AI 玩死」的悲觀派代表人物：埃隆·馬斯克（SpaceX 公司 CEO 兼 CTO、Tesla 公司 CEO）、比爾·蓋茨（微軟公司聯合創始人）、斯蒂芬·威廉·霍金（英國劍橋大學著名物理學家）等。

馬斯克：

2014 年 10 月，在 MIT 的一次研討會上，馬斯克表示：「人工智慧領域的研究如同在召喚惡魔。」

2014 年 11 月，馬斯克在 Edge 上發表觀點，稱人工智慧機器可能在短短五年之內、最多十年之內就會引發「一些非常危險的事件」，但隨後立即刪除了這篇文章。

2017 年 7 月 15 日的美國全國州長協會（NGA）上，他將 AI 描述為「人類文明存在的根本性風險」，並呼籲政府主動監管人工智慧而不是被動管理，否則將為時晚矣。他表示「我一直在敲警鐘，但只有當人們看到機器人衝上街殺人，他們才會知道該如何應對，因為這看上去太不真實了」。他還認為未來人工智慧驅動的機器一定會取代人類的工作，「機器人將會處理一切工作」。

比爾·蓋茨：

2015 年在 Reddit 論壇上的問答活動中，蓋茨稱：「我站在對超級人工智慧感到擔憂的一方。一開始機器能夠為我們完成很多工作，還遠沒有達到超級智能的水平。如果我們能夠妥善地管理，人工智慧應該對我們是有利的。但是再過數十年，人工智慧可能會強大到我們不得不擔心。在這個問題上，我同意埃隆·馬斯克和其他一些人的觀點，我不理解為什麼其他人對此並不擔心。」

霍金：

2016 年霍金曾表示：「我們現在面對的大部分威脅都源於我們在科技領域的進步，但我們不可能停下科技前行的腳步，更不會倒退。因此我們必須意識到其中的危險，並盡量對其進行控制。我是個樂觀主義者，我相信我們能夠做到。」

在 2017 年的 GMIC 大會上，霍金通過視頻發表了題為《讓人工智慧造福人類極其賴以生存的家園》的演講，他表示「強大的人工智慧快速崛起，對人類來說可能是最好的事也可能是最糟的事，我們並不知道事情將往哪個方向發展。但我們應該竭盡所能，確保其未來發展對我們和我們的環境能有利。」 其中智能性自主武器的使用是他最擔心的一項。他相信，「生物大腦可以達到的和計算機可以達到的沒有本質區別。」但同時他也表示，雖然他對人工智慧有各種各樣的擔憂，但他對人工智慧技術本身仍秉持樂觀態度，他認為人工智慧潛在的好處是巨大的。

認為現階段「人類不要想太多」的務實派代表人物：羅德尼·布魯克斯（MIT 計算機科學和人工智慧實驗室創始理事，被稱為「現代機器人之父」）、邁克爾·喬丹（美國國家科學院院士，任職於加州大學伯克利分校計算機系，前百度首席科學家吳恩達的導師）、李開復（創新工場創始人）等。

羅德尼：

2017 年 1 月接受 TechCrunch 採訪時，羅德尼表示「有一些人認為 AI 是確實存在的威脅，比如斯蒂芬·霍金、馬丁·里斯爵士……他們的共同點是沒有親身在 AI 領域工作過。而對於那些在 AI 領域工作的人，我們明白要將任何技術真正轉換為產品有多麼困難。」對於馬斯克提到的人工智慧監管問題，羅德尼言辭犀利，「如果你現在要開始監管，要麼這些規則能夠適用於一些事物並能使其發生改變，要麼就不適用於任何事物。如果監管都沒有適用的對象，那監管到底有何意義？」

邁克爾·喬丹：

2017 年 1 月澎湃新聞的專訪中邁克爾·喬丹談到了霍金的擔憂，他表示「霍金並不是人工智慧的研究者，他是一個外行。計算神經生物學近期不會有太大的突破，大概幾百年後才能有進展。」對於人工智慧取代工作崗位，他認為是大勢所趨，同時對這些被取代的人之後的生活和工作如何處理是非常重要的社會問題，「人類不可能被機器毀滅，人類只能被自己毀滅。」

李開復：

在量子位的採訪中李開復明確反對馬斯克「AI 終將滅絕人類」的悲觀論調。他指出目前 AI 只是工具，離「超級智能」還遙不可及，更不用提滅絕人類了，這些論調並沒有切實的工程基礎。另外，在過去幾個月內，他與多位國內外 AI 專家、圖靈獎得主就馬斯克的「AI 末日論」進行了一些討論，AI 領域的專家們（包括吳恩達、羅德尼）基本都認同扎克伯格和李開復的觀點。他認為馬斯克作為科技圈的意見領袖，在 AI 發展初期鼓吹末日論製造恐慌，「確實是不負責任的說法」，可能會使大眾因為恐懼而錯過 AI 帶來的巨大機會。同時，李開復也坦承 AI 的確會給人類帶來失業問題，但他並不認同馬斯克「機器人將會處理一切工作」的看法，他認為 AI 將取代簡單的、重複性的工作，但人類仍然可以創造新的、AI 無法勝任的工作，比如創造性工作（如理工科的發明、人文藝術的創意等）和以社交為核心的服務型工作。

爭論一直存在，只不過這次扎克伯格與馬斯克的論戰將其推向了高潮。仔細研讀他們對於人工智慧發展的觀點，可以發現悲觀派和務實派觀點的差異主要源於著眼的發展階段和人工智慧的類型有所不同。

就如 Reddit 網友所說的，馬斯克和扎克伯格所爭論的 AI 並不是完全相同的概念，前者擔憂和呼籲人們警惕的是 AGI（general AI，即在各個方面都等同甚至超越人類水平的人工智慧）和 ASI（超級人工智慧），但這種異常強大的人工智慧到底何時會來臨，尚不可知；而後者所討論的也是當前大部分人所熟知的則是 ANI（Narrow AI，即在特定專業領域達到或超越人類水平的人工智慧），比如自動駕駛和診斷疾病其實都屬於 ANI 範疇，而自動駕駛正是馬斯克的公司 Tesla 的主營業務，扎克伯格對馬斯克的消極觀點所針對的對象可能存在一些誤解。

AI 應用現狀

如今人工智慧產品到底用到了哪裡？

搜索和推薦：從大量數據中尋找模式，被動或主動地尋找並呈現用戶想要的東西，比如谷歌搜索、百度搜索、各家外賣的餐廳推薦。

圖像識別：給一幅圖像，識別這是若干種物體中的哪一種，用於金融領域的身份識別和智能支付、安防領域的人臉識別、醫療領域的醫療影像數據匹配等。

自然語言處理：各種翻譯和語音識別，將聲音轉換為文字、將文字轉換為聲音、將英語轉換為中文等，谷歌翻譯、科大訊飛的實時翻譯系統都是此類產品，對於需要快速響應的語言轉換能幫不少忙。但對於沒有學習和訓練過的語言，這些產品也無能為力。

簡單的人機交互：比如蘋果的 Siri 和微軟小冰，能和你聊天、幫你撥打電話、在日曆上添加行程，但也僅此而已，太複雜的事情暫時還做不了。

自動駕駛：在當今量產車型中特斯拉的輔助自動駕駛已經相當先進，而谷歌、蘋果、Uber、百度等多家公司也都陸續開始在自動駕駛產品上發力。前段時間特斯拉在美國發生的一起疑似自動駕駛導致的交通事故引發大量討論，雖然美國國家公路交通安全局經過詳細調查後認為特斯拉的自動駕駛系統並無功能缺陷也非導致事故的罪魁禍首，但這次事故開始令人們意識到自動駕駛系統仍然存在局限性。報告中提到「特斯拉配備的自動剎車和自動駕駛系統都有限制條件，事發時的狀況本來就超出了系統設計的適用範圍。側方出現的車輛在系統的盲區內。」

現在真正廣泛應用於實際產品的 AI 基本上屬於同一種類型：機器學習中的監督學習，即通過 AI 來確定從 A 到 B 的映射——輸入 A 然後響應 B。如今的 AI 還很初級，只是一種還在不斷發展中的工具。一如羅德尼的觀點：「其實今天的 AI，只是在某一個狹窄領域基於大數據優化，只能說是個很厲害的模式識別引擎。要做到通用的、無所不能的 AI 根本不知從何開始。」

關於人工智慧機器取代人類勞動力的問題近來倒是頻有耳聞。但讓我們再深入了解一下那些被機器替代的工作到底是什麼樣的工作。今年 3 月份好奇心日報發布了一篇文章，引用並整理了美國多家機構對勞動力市場的研究和調查報告，針對機器替代人類勞動力的情況進行了全面的分析。而麥肯錫的一份調查結果表明，涉及收集數據、處理數據以及可預測環境下的體力勞動最有可能被機器替代，比如製造業工廠流水線的工人、電話接線員、保險理賠人員、基金經理、零售業銷售人員；而那些涉及交流溝通或對專業性、創造性要求更高的工作則相對難替代得多。這裡給大家提供一個有趣的網站，可以查詢自己所從事的工作有多大可能會被機器人替代。

AI 的未來到底會怎麼樣？

AI 領域的專家從短期發展的角度給我們吃了一劑定心丸，並對 AI 技術改變生活充滿樂觀的期待。但從長遠的角度來看，未來人工智慧到底會發展成什麼樣，會不會真的在整體上與人類的智力水平相睥睨甚至碾壓人類，這個過程需要耗費幾年、幾十年還是幾百年，這些問題還沒有人能給出確切的答案。未來一切皆有可能，但是誠如李開復所說，普羅大眾本來就對 AI 所知有限，在現階段一味地宣揚 AI 將毀滅人類，可能製造不必要的恐慌，影響公眾輿論甚至政府決策，從促進技術發展的角度來看並不是一件好事。

技術變革往往是機遇與風險並存，更何況是 AI 這樣可能具有顛覆性的新技術，由於恐懼未來不可知的「危險」而停止技術前進的腳步大可不必。凡事皆有兩面性，看好人工智慧發展的扎克伯格也承認「技術總是能被用來行善或作惡，你需要小心地開發、小心地應用」，而對人工智慧的未來走向憂心忡忡的霍金也依然肯定 AI 能夠帶來積極的影響，只不過「必須規避風險」。至於到底需不需要對 AI 進行「監管」、怎麼「監管」，由幾位非 AI 領域專業研究者的意見領袖（雖然他們也很聰明並在其他領域有所建樹）說了不算，真正的 AI 領域專家們研究後說了才算。畢竟專業的問題就應該交給專家去解決。

作為 AI 領域的從業者，如何更好地提升 AI 技術、如何應用 AI 使其為人類帶來積極利益應該是未來工作的重點，產出真正的產品才是硬道理。

而作為普通人，生命不過短短數十載，與其杞人憂天，不如盡情享受人工智慧帶來的便利，同時積極學習和轉型以應對 AI 替代簡單勞動力所帶來的工作上的挑戰，這可能是更為實際的選擇。

這裡以霍金在牛津聯盟辯論社（Oxford Union Debate Society）上鼓勵學生探索太空未解之謎的一段話作為結尾，這段話換到探索人工智慧領域同樣別有一番意味：「仰望星辰，不要只關注自己的腳下。嘗試探究你所看見的一切，探索宇宙存在的理由。要保持好奇心。不論生活看上去多麼困難，總有一些事是你能做且可以做成的，只要你不輕易放棄。」

今日薦文

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！