機器人的崛起：忘了邪惡的AI吧真正的危險其實更加隱蔽

知識 09-12

OFweek機器人網訊：「相比機器人主動反抗人類的命令，更有可能發生的情況是，它們在執行人類的命令時無意地傷害了人類或者帶來麻煩。」

我們看到人工智慧的崛起時，很容易進入反烏托邦主義的情節之中，認為有意識的機器會起來反抗創造了它們的人類。科幻作品中出現的反面角色，如《終結者》里的「天網」和《2001：太空漫遊》中的哈爾，要對人類的這種情節負責。

但是，AI帶來的真正危險——至少在近期內——是更為隱蔽的。相比機器人獲得自主意識而主動反抗人類的命令並崛起，更有可能發生的情況是，它們在執行人類的命令時無意地傷害了人類或者帶來麻煩。正因為認識到了這一點，加州大學伯克利分校本周成立了一個研究中心，專門研究如何建立對人類友好的AI。

本周新成立人類友好型AI研究中心，由開放慈善項目贊助550萬美元作為啟動資金，由計算機科學教授、人工智慧先驅Stuart Russell領導。他迅速澄清了研究方向與科幻小說所描述的威脅之間「無理的、聳人聽聞的」關聯。

機器人的崛起：忘了邪惡的AI吧真正的危險其實更加隱蔽

「危險不會來自於機器突然發展出的惡意的自主意識，」他說，「重要的是你要知道，我們不是要阻止這樣的事，因為我們對於意識本身是什麼還一無所知。」

Russell在人工智慧領域聲名遠揚，他在2015年發表了一份公開信，號召研究者超越增強AI能力的研究目標，並考慮如何讓AI在社會上發揮有益的影響。這份公開信已經有超過8000位科學家和企業家在上面簽名，其中包括物理學家史蒂芬·霍金、企業家埃隆·馬斯克和蘋果公司合伙人史蒂夫·沃茲尼克。

「（AI研究）可能帶來的好處是巨大的，因為人類文明發展的終極產品是人類的智能；我們無法預測我們通過AI提供的工具來放大我們的智慧能夠達到什麼樣的成就，但起碼消除貧困和疾病是不難想像的。」公開信中這樣寫道。

「由於AI具有極大的潛力，因此重要的是研究如何從它身上獲得幫助，同時還要避免可能出現的隱患。」

正是這樣的想法，促成了這個新成立的研究中心。

到現在為止，AI主要被應用於非常有限的環境中，如下國際象棋和圍棋、識別圖片中的物體，在這些應用環境中AI能夠造成的破壞和傷害是非常有限的。如果AI開始在現實世界中做出關於我們切身利益的決定，這種風險就會高得多。

「一旦你把AI放到真實世界中，放到無人駕駛汽車、數字助理等應用中……當AI開始幫你購買對你利益有影響的物品、幫你取消約會時，它們的價值觀立場必須保證和人類一致。」Russell說。

他舉自動駕駛汽車為例，說明他們研究中心試圖解決的問題。假設一個人在設計自動駕駛汽車系統時，設定了不允許闖紅燈的規則，但這個智能系統可能會黑進交通燈的控制系統，讓所有交通能變綠。這樣的話，這個無人駕駛汽車的智能系統雖然按照規則行事，但顯然不是人類希望的結果。類似地，為一個套利基金設計的人工智慧，被設置為讓其投資組合的價值最大化，可能會被短期消費型股票刺激，而長期持有國防類股票，然後引起戰爭——如 WernerHerzog最新的紀錄片中埃隆·馬斯克表達的那樣。

「甚至當你認為已經通過防禦系統限制了你的AI系統能做的事時，它還可能會在其中找到漏洞，就像人們總會找到法律的漏洞進行偷稅漏稅一樣。你會希望AI系統不要主動尋找規則的漏洞。」Russell說。

「問題不在於意識，而在於許可權。我們賦予機器很大的許可權，希望它來完成某個目標，但它在完成目標的過程中可能會引起災難。」

為了應對這些問題，Russell和研究中心的同事打算讓AI系統觀察人類的行為，並嘗試理解人類的真正目的是什麼，然後根據人類的目的來行事，並且從失誤中吸取經驗。摒棄了為機器提供一長串需要遵守的規則的做法，他們只告訴機器主要的目標就是做人類想讓他們做的事。

這聽起來很簡單，但這是過去的50年來工程師從未嘗試過的建立系統的方式。

不過如果AI系統被設計為用這種方式學習人類的目標，就能夠保證它們一直處於人類的控制之下，即使它們的能力已經超過人類。

除了通過攝像頭等感應器直接觀察人類，機器人還能通過閱讀歷史文獻、法律檔案、小說、報紙，甚至觀看視頻和電影等方式來了解人類。它們能夠從中建立起對人類價值觀的理解。

這對機器來說不是容易的事。「人類是非理性的、不連續的、意志不堅定的、計算能力有限的、混雜的並且有時候是十分邪惡的。」Russell說。

「一些人是素食主義者，另一些人卻愛吃多汁的牛排。我們的表現從來不能接近完美，這個事實是我們研究中的一個難點。」

請您繼續閱讀更多來自 OFweek光電新聞網 的精彩文章: