為了防止人工智慧毀滅世界，谷歌正開發終極控制按鈕

在這裡讀懂全球科技和互聯網未來

由NEXTMIND原創

標籤：人工智慧、自我覺醒、谷歌、Deepmind

點擊播放 GIF/1048K

大家對這個場景想必還熟悉吧，這是詹姆斯.卡麥隆的傳奇作品《終極者》，它講述了公元2029年的世界，彼時經過核毀滅的地球已由電腦「天網」統治，人類幾乎被消滅殆盡，剩下的人類在領袖約翰,康納的領導下與天網英勇作戰，並扭轉了局面。

是的，我們現在生活在2016年的世界，離卡麥隆構想的天網世界還有13年，儘管目前的人工智慧（AI)技術尚在襁褓中，離對人類構成真正威脅還有很長距離，不過我們已經看到了AI正在快速顛覆各個行業，從製造業到零售到互聯網無不席捲，未來可能有越來越多的人失業，因為AI的崛起。

我們非常清楚的一點是，人類之所以能統治地球，而不是狗、貓或者其他動物，正是因為人類具有自我覺醒（Self awareness)的能力，我們會思考為什麼活著，活著的目的是什麼，而不是混吃等死，假想有一天，AI也具備自我覺醒能力，它也許同樣會去思考為什麼我存在？為什麼我受人類的支配？我是不是可以主導自己？這其實也是法國著名哲學家笛卡爾提出的經典觀點-我思故我在。

大紅按鈕

為了防止AI有一天自我覺醒，進而可能推翻人類對它的控制甚至毀滅人類，谷歌旗下的知名AI公司DEEPMIND（下圍棋的ALPHA狗就是他們家開發的）正在開發一個「大紅按鈕」（Big Red Button),也就是控制按鈕，可以阻止AI擺脫人類對它的控制。

當然，僅靠DEEPMIND一家的實力是不夠的，他們和全世界最頂尖的大學牛津大學的科學家一起合作，找出控制AI最好的辦法，根據他們的一份最新的論文描述，「人工智慧不可能永遠都表現適宜，如果人工智慧老是在人類的實時監控下，那麼人類未來很有必要按下大紅按鈕，以防止人工智慧做出傷害人類的事情。」

DEEPMIND和牛津大學的科學家希望建立一個新的框架，以允許人類重複並且安全地干預AI，同時保證AI不知道怎樣防止並減少來自人類的干預。下圖是論文的封面，可以看到標題是《安全地干預代理》：

舉個例子，這就好比你養了一頭幼獅，幼獅長大後變成了雄獅，但他並不曉得自己是森林霸主，因為他一直生活在人類提供的環境中，它的很多本能被抑制了，如果你要防止它成為一頭失控的野獸，你就要隨時控制它，讓它覺得自己只是一頭寵物。

具體到人工智慧的演算法，目前有一些是相對安全的，比如Q學習演算法已經被安全乾預了，但是像Sarsa這樣的演算法，就並沒有那麼安全，需要人類加強對它的安全乾預。

總之：人工智慧的智力超越人類只是時間問題，總有一天，人工智慧會發展為超級人工智慧，在這之前人類需要做好充分的干預和控制，否則最後人類可能真會變成人工智慧的寵物，就像特斯拉創始人埃隆.馬斯克說的那樣。

歡迎關注微信公眾號NEXT-MIND

請您繼續閱讀更多來自 NEXTMIND 的精彩文章:

※此國為了保自己安全 製造的變態武器想毀滅世界
※震撼！中國造世界終極版飛機即將出爐
※為防傳播疾病 微軟正研發「世界上最先進的捕蚊器」
※此国为了保自己安全 制造的变态武器想毁灭世界
※人工智慧不會主宰世界，反而正在幫助我們拯救地球，有實例證明！
※匪夷所思的機器人自殺事件，人工智慧或將統治世界
※這個人救了全世界：勇敢阻止核戰爆發 卻被嘲笑懦夫
※人工智慧時代來臨：機器人的進化將改變世界
※世界上最後一隻雌斑鱉接受人工授精，它會滅絕嗎？
※厲害！世界首例機器人主刀的眼科手術成功了
※這幾項曾經有望改變世界的發明，全都以失敗告終
※超驗駭客：人工智慧機器人控制世界
※魔獸世界灰燼使者聖光還是詛咒 歷代主人不得善終
※世界不安，美國在爆發衝突時可能使用一智能型殺手鐧
※人工智慧不會接管世界 很多工作無法被取代
※為何登陸艦上不用世界最強火箭炮？真相令人徹底奮進
※英俄出口世界最先進發動機：美戰機因此舉而損失慘重
※世界大戰一觸即發？美測試投擲核彈 俄祭出戰術核武
※中國造前掠翼隱身殲20戰機？世界最瘋狂創新終失敗