不想人類變成一群邪惡機器人領主的奴隸？人工智慧專家給你支招

撰文：Dina Bass

人工智慧的專家們探討人工智慧可能導致的最壞情況，以及如何阻止這種情況的發生

「為了最大化地享受人工智慧的優點，我們還必須考慮可能的後果，以及該如何應對它們」

支持人工智慧的人們設想了一個汽車漫天飛、癌症被治癒的勇敢新世界，而詆毀人工智慧的人們則擔心未來人類會淪為一群邪惡機器人領主的奴隸。為了達成一定共識，資深人工智慧科學家埃里克·霍維茨(Eric Horvitz)和設立「世界末日鍾」的勞倫斯·克勞斯(Lawrence Krauss)召集了一群專家，在美國亞利桑那州的沙漠里探討了一下人工智慧可能導致的最壞情況——以及如何阻止這種情況的發生。

2月25、26日，在特斯拉汽車(Tesla Inc.)聯合創始人埃隆·馬斯克(Elon Musk)和Skype聯合創始人揚·塔林(Jaan Tallinn)的資助下，他們在亞利桑那州立大學舉辦了一個正式名稱為「人工智慧不良後果的展望及應對」的課題小組。它有點兒像一場設計人工智慧引發的世界末日的比賽，召集了約40位科學家、網路安全專家和政策專家，他們被分成了攻方（紅隊）和守方（藍隊），預演了各種人工智慧出了大問題之後可能發生的情形，從股市被操縱，到爆發世界大戰，各種點子不一而足。

人工智慧

亞利桑那州立大學的「起源計劃」(Origins Project)負責運營了這個工作坊。霍維茨本人很樂觀（這是件好事兒，因為機器智能是他畢生的事業），但理論物理學家、「起源計劃」主管克勞斯說，兩年前啟動「起源計劃」項目的時候，一些反烏托邦思想較重的項目支持者似乎就覺得霍維茨的觀點太過樂觀了。但霍維茨說，為了讓人工智慧技術成功地向前發展，為了贏得公眾的信心，大家必須充分地提出並處理好所有相關的疑慮。

在位於華盛頓雷德蒙德的微軟研發實驗室擔任執行董事的霍維茨說：

「人工智慧極有可能以很多種方式、給我們社會的很多方面帶來轉變。與此同時，和任何技術一樣，它也有一些不盡如人意的地方和潛在的缺點。為了最大化地享受人工智慧的優點，我們還必須比以往更細緻地考慮可能的後果，以及該如何應對它們。」

」

參與工作坊的人還領了「作業」回去，他們隨後需要提交自己對最壞情境的設想。這些設想要基於目前已有、或者看起來有可行性的技術，而且要保證切實可行，能在未來5到25年內實現。最終「勝出」的噩夢設計人將被推選領導各個小組，這些小組每組由四名專家組成，他們會討論如何發動進攻以及如何加以預防。

事實證明，在設想反烏托邦願景方面，這些研究人員中的許多人都能比肩亞瑟·克拉克(Arthur C. Clarke)和菲利普·迪克(Philip K. Dick)等科幻作家。許多情況幾乎都不用人們想像——利用科技左右大選、發動網路攻擊等事件已經發生在了現實世界中，或者至少在技術上具有可能性。霍維茨引述的一項研究顯示，人工智慧可以改變自動駕駛汽車識別交通標識的方式，讓汽車誤把「停車」標識理解成「讓車」。

朗奇伯里、費舍爾和克勞斯所在的藍隊在設想戰爭與和平場景

約翰·朗奇伯里(John Launchbury)是美國國防部高級研究項目局(U.S. s Defense Advanced Research Projects Agency)下屬一個辦公室的主管，凱瑟琳·費舍爾(Kathleen Fisher)是塔芙茨大學計算機系主任，也是工作坊中該場研討會的主持人。他們最擔心的就是發動自動化智能網路攻擊。

哪裡可能會出問題？

要是有人造出一種可以讓自己隱身、同時躲開所有讓自己失效的手段的網路武器，那該怎麼辦？想像一下，如果它從自己本來要打擊的目標範圍擴散到整個互聯網上，又該怎麼辦？大家可以把它想像成那個被用來攻擊伊朗核項目的計算機病毒Stuxnet，只是人工智慧會讓它變得更加隱蔽、更具自主性。編程語言專家費舍爾說：

「

我們指的是在根源上具有人工智慧的惡意軟體。

」

費舍爾作演講時所用的演示文檔的標題是 「哪裡可能會出問題？」，而這句話也可以用來形容整個研究課題的主題。

負責防禦的藍隊對這個問題是如何回答的呢？朗奇伯里說，他們的答案並不太理想。藍隊稱，發起攻擊所需的高級人工智慧將需要大量運算能力和信息交換，所以探測起來會更容易。但費舍爾說，紅隊認為這些運算可以輕易隱蔽在無害活動中，比如說，攻擊者可以讓用戶玩一個很容易上癮的遊戲，在不知不覺間掩蓋自己的行動。

密歇根大學計算機系教授邁克爾·威爾曼(Michael Wellman)設想了人工智慧操縱股市的情況，為了防止它發生，藍隊成員建議嘗試通過已知黑客攻擊類型資料庫來識別攻擊者、將他們看作惡意軟體。威爾曼說這種辦法在金融領域可能會有用。他研究人工智慧已經30多年了，自稱是這方面的老前輩。

除了實際的解決方案以外，組織者還希望這個課題小組能開啟對應對措施的討論、提升對相關問題的認知、整合來自不同學科的思想。克勞斯說，「起源計劃」打算把閉門研討會上的材料公開，而且還可能針對一、兩種特定情景推出後續的課題研究。

美國國防部高級研究項目局的朗奇伯里希望政策制定者的參與能讓應對人工智慧邁出切實的步伐，比如在應對網路戰爭、自動化武器和機器人部隊規則方面達成共識。

克勞斯在設立「世界末日鍾」的組織的贊助商委員會擔任主席一職，這個鐘可以象徵性地說明我們離全球性災難還有多遠。他說，在課題小組看到的一些內容讓他「意識到了」這個鐘是否該調到離最後大限更近的時間。但現在大家用不著去儲備罐頭，也不必遷入荒野中的掩體。克勞斯說：

「

有些被我們視為災難性的事情，可能到頭來沒什麼大不了的。

」

編輯：趙雋楊、管文晶

翻譯：葛仲君

點擊你感興趣的關鍵詞

立即獲得關於TA的更多信息！

扎克伯格丨氣候變化丨喬布斯遺作丨汽車內飾

SUV王國丨養老丨阿聯酋航空丨梅琳達·蓋茨比

......

ofo與芝麻信用達成戰略合作

共享單車亂放怎麼解|視頻

盡在《商業周刊/中文版》App

長按識別二維碼，速速下載吧！

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！