霍金建議：組建「世界政府」來防禦AI崛起

3月15日消息，據國外媒體報道，著名理論物理學家史蒂芬·霍金（Stephen Hawking）無疑是當代社會最偉大的人物之一，所以當他分享他對世界的一些想法時，很多人都會認真傾聽。最近，他一直在談論一個主題：人類的未來。

霍金

最近，霍金對從地外生命到人工智慧（AI）等一些熱門話題表達了自己的觀點。對於後者，他表示出非常擔憂。他並不反對開發人工智慧技術，事實上，他曾經說過人工智慧可能是我們文明歷史上最重大的事件。但是像今天世界上其他許多科學家和思想家一樣，霍金擔心人工智慧的崛起可能帶來各種負面的副作用。

他已就人工智慧對中產階級工作崗位的影響向我們發出警告，並與特斯拉CEO埃隆·馬斯克（Elon Musk）一起，呼籲禁止開發用于軍事用途的人工智慧機器人。他也擔心人工智慧可能會接管世界，或者更糟糕的是，它會終止這個世界。現在，他在接受英國《泰晤士報》採訪時表示，防禦人工智慧崛起的最好方式，是組建可以控制這種技術的「某種形式的世界政府」。

霍金接著解釋了他建立這樣一家國際管理機構的理由：

自人類文明開始以來，人類的積極進取是有益的，因為它具有明確的生存優勢。它是在達爾文進化過程中滲透到我們人類基因的。然而，現在技術的發展速度，使這種積極進取可能以核戰爭或生物戰爭的方式摧毀我們人類。我們需要利用邏輯和理性來控制這種繼承下來的本能。

為了跟上人工智慧的發展，我們必須學會適應。霍金在2014年年底表示：「人工智慧的發展可能會導致人類的終結。它將自己發展自己，並以不斷增長的速度重新設計自己。人類則受到緩慢的生物進化限制，將無法與它競爭，並最終將被它取代。」

他認為這些人工智慧機器人拋棄我們，不會是出於任何情感的原因：「人工智慧的真正風險不是它有惡意，而是它的能力。一個有超常智慧的人工智慧能將非常善於實現目標，如果那些目標與我們的目標不一致，那我們就麻煩了。」

因此，根據霍金的看法，某種形式的管理機構和快速適應的能力——這是即將到來的人工智慧或超級智能時代我們生存的法寶。

幸運的是，這樣的機構已經出現。這些機構，例如「人工智慧夥伴關係」(Partnership on AI)和人工智慧倫理與治理基金(Ethics and Governance of Artificial Intelligence Fund)，已經開始制定有關指導方針或框架，以讓人們更負責任地開發人工智慧技術。國際電子電氣工程協會(IEEE)還發布了世界首個有關人工智慧道德準則的「指南」。

儘管未來的一切難以預料，霍金對未來仍然感到樂觀：「這一切聽起來有點像厄運來臨，但我仍是一個樂觀主義者。我認為人類會奮起迎接這些挑戰。」

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！