馬斯克就人工智慧再次發出警告，內心究竟在恐懼什麼？

「

「如果你不擔心人工智慧的安全性，那麼現在你應該擔心。它比朝鮮核武器危險得多。」近日馬斯克在Twitter上稱。

」

特斯拉CEO埃隆·馬斯克近日就人工智慧發出新的警告，稱這種技術對人類的威脅比朝鮮核武器還要大。作為「AI威脅論」的擁躉者，馬斯克曾將開發人工智慧比作是恐怖電影中的「召喚惡魔」行為。

這已不是他第一次發出警告，早在2014年，馬斯克就在麻省理工學院的一次公開訪談中拋出了「AI威脅論」，今年7月15日美國州長夏令會議中，他對人工智慧提出警告，認為AI將能夠遞歸性地改進自己，也就是應用程序自我調整，直到它將報廢人類：「我一直在敲警鐘，但是直到人們看到機器人走下街頭殺人，他們不知道如何反應，因為這似乎是如此飄渺。」

定義人工智慧發展邊界

OpenAI打造AGI安全框架

馬斯克所談的人工智慧的危險，是挑戰人類智能水平的「通用人工智慧」，可以發展出摧毀性的邪惡智能，即使研發者有很好的意圖，但仍然「偶然地產生一些邪惡的東西」， 包括可能「能夠摧毀人類的人造智能增強型機器人」。

為了控制人工智慧的發展邊界，包括馬斯克、PayPal創始人彼得?蒂爾在內的矽谷達人，在2015年承諾投入10億美金創立OpenAI非盈利平台。

該平台的使命是：建立安全的通用人工智慧(AGI)，並確保AGI優勢儘可能廣泛和均勻地分布。在這個過程中，OpenAI不會將私人信息私有化，期望在有安全隱患的情況下，創造出保持技術私有化的正式流程。

最近，OpenAI宣布，他們所打造的一個AI機器人通過完全自學習訓練，已經在電子競技遊戲Dota2中擊敗了一個名為Dendi的人類職業玩家。

未來，人工智慧的發展註定要與當代科技的演變脫節，人工智慧涉及眾多的相關領域，從大數據、雲計算、深度學習、神經網路、心理學、機器人、語言識別、圖像識別、到自然語言處理等等，當眾多領域都同時經歷爆髮式的突破，在某種程度上將加速科技研究的裂變。

人類患上「人工智慧恐懼症」

源自內心的「惡」

人工智慧分為弱人工智慧、強人工智慧、超人工智慧三種，它們本身是循序漸進的發展過程。

在馬斯克、霍金和蓋茨這些悲觀派眼中，強人工智慧尚有一定可控性，但超人工智慧的不可預知性則是令人害怕的地方。

HAL9000、終結者等小說中各種超級智能代表著人類的另一重恐懼：如果AI繼續發展、最終超越人類智能，這樣的超級智能系統是否會意識到人類已經無關緊要了呢？超級智能真的會導致人類的「終結」嗎？

對於人工智慧發展控制的需求，與其說是其強大後對人類「反叛」的焦慮，倒不如說是人類對於科技發展後，人類心理所潛在的「惡」的恐懼。

人類總會糾結於有一天，具有自主意識的人工智慧會反抗他們的「人類」造物主，他們會用超越人類的能力將人類趕盡殺絕。而這反映出的，只是人類對自身內心深處那一股「惡」力量的不可控。

所以，一旦有人感覺到人工智慧的發展速度超越了他們的可控範疇，那麼心中的焦慮和悲觀情緒便油然而生。從本質上講，真正的威脅並不是來源於人工智慧的威脅，而是來源於人類自身。

如果有一天，人類真的被人工智慧所「終結」，那麼真正的罪魁禍首必將也是人類自己的自私、貪婪與邪惡，人工智慧充其量只是一種工具和手段。

很多人在探討人工智慧未來的時候，仍忍不住流露出對人類命運的終極關懷：人類的命運是否會被機器人奴役？這是人類終極命運的「天問」，還是杞人憂天？目前尚無標準答案。我們知道的是，AI依然局限在「機器學習」的框架內，大數據的控制使得人類對於AI還有比較強大的制衡能力。與其夙夜無眠，不如趁早動手，找到人工智慧的發展和道德邊界，讓AI真正成為人類探索未知世界的有效工具。

【科技雲報道原創】

轉載請註明「科技雲報道」並附本文鏈接

第五屆全球雲計算大會暨國際網路通信展覽會?中國站，開幕式倒計時6天！9月5-7日，我們上海見！

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！