「殺人機器人」將帶來戰爭第三次革命，聯合國應禁止！

科技 08-22

向來對人工智慧、機器人技術憂心忡忡的馬斯克再次發出警告。

據騰訊科技，特斯拉CEO馬斯克近日與包括谷歌DeepMind聯合創始人Mustafa Suleyman等在內的115名機器人、AI界領袖人物，共同簽署公開信，敦促聯合國阻止自主武器（又稱殺人機器人）的使用。

馬斯克等人在公開信中表示：

致命的自主武器有可能成為戰爭中的第三次革命。一旦它們發展起來，可能導致武裝衝突比以往任何時候更大規模地進行，而且速度比人類所能理解的還要快。聯合國現在必須採取行動，以禁止自主武器（殺人機器人）的使用

對於擔憂的原因，公開信進一步指出：

這些自主武器可能成為恐怖武器，比如獨裁者和恐怖分子可能對無辜人群使用。我們沒有太多時間可浪費，一旦潘多拉的盒子打開，就很難再關閉。

今年以來，馬斯克多次表達了自己對AI、機器人技術發展的擔憂。在上月舉行的美國全國州長協會大會上，馬斯克直言：「AI將是人類文明面臨的最大風險」。他呼籲政府主動監管人工智慧，而不是被動管理，因為他擔心未來機器人會走上街頭攻擊人類。他認為，人工智慧帶來的危險，可能會覆蓋全社會，人工智慧驅動的機器未來將會取代人類的工作，到時候越來越多的人面臨下崗將使他很擔心。

此外，他還指出，最擔心的是「網路中的深層智慧」：人工智慧可能通過創建假冒的賬戶、發送虛假新聞等方式操縱信息，甚至可以引發戰爭。

關於AI技術的兩派觀點

與馬斯克類似，微軟創始人比爾。蓋茨也對AI的發展感到擔心，他近期在社交論壇Reddit上的問答活動中稱：

我站在對超級智能感到擔憂的一方。首先，機器能夠為我們做許多工作，還沒有達到超級智能的水平。如果我們能夠進行妥善管理，應該對我們有利。但是幾十年後，機器的智能化將強大到足以引起擔憂的水平。在這一問題上，我同意馬斯克和其他一些人的觀點，不理解為何一些人對此並不感到擔心。

但另一方觀點認為，無需對AI技術感到恐懼。Facebook創始人扎克伯格此前在Facebook Live的直播中表示：

我強烈反對散播AI威脅論的言論，我持樂觀態度。我認為你可以創造事物，世界會變得更美好。尤其在AI前景上，我真的感到樂觀。

扎克伯格還指出，「對於那些否定AI，試圖營造世界末日論的人，我確實不理解。他們的言論真的很消極，某些時候甚至讓我感覺太不負責任。未來5年至10年內，AI將會在許多方面改進我們的生活質量。」