AI深度：美國研究人員試圖利用模型合成人工道德

點擊播放 GIF/32K

Tom Murphy畢業於卡內基梅隆大學計算機專業，並取得博士學位，他開發一種軟體學會玩任天堂遊戲。大多數情況都很正常，軟體經過深度學習訓練學會如何得分，但是在某些情況下，它會失常發揮，比如玩俄羅斯方塊得分與隨機放方塊差不多。有時候它快輸掉比賽時，它會選擇暫停比賽，而且是永久暫停，就像《WarGames》裡面的人工智慧Joshua一樣，會意識到贏得比賽的唯一辦法是不繼續玩下去。

Murphy開發的系統儘管並不是最高水平，但基本反應了目前人工智慧的最新進展。人工智慧在某些事情上做的很好，而在另外一件事情上一無是處。即使在最成熟的圖像識別中也會犯錯誤，甚至會把黑人當成黑猩猩。伯克利大學的一位機器人專家Alexander Reben表示，我們並不能理解機器人做什麼。

因此，一些來自斯坦福大學與伯克利大學的研究人員以及Elon Musk一起設立OpenAI，旨在建立一種框架來降低AI安全風險。谷歌DeepMind 團隊與牛津大學未來人類研究所（Future of Humanity Institute）合作發表了一篇論文《Safely Interruptible Agents》，用極其深奧的學術語言在講述一件事情：當機器人不受控制時，人類如何關閉它，相當於給AI安裝一個紅色的「緊急關機」按鈕。

西北大學（Northwestern University）的一位AI研究人員Ken Forbus試圖解決人工智慧的「道德」問題。他們使用一種SME（Structure Mapping Engine）模型，給人工智慧輸入一些道德小故事，希望他們能像人類一樣理解其中隱喻的道德準則，這是一種人工合成的「良知」。Forbus認為，從理論上人工智慧可以像人類一樣被教育地更有良知。根據《Extending SME to Handle Large-Scale Cognitive Modeling》論文的描述，SME是一種試圖像人類認知一樣學會對事物進行類比和相似歸納的模型。

這只能是理論上。假如真的可行的話，這是多麼漫長的一條道路。畢竟人類都沒有對什麼是「道德」達成一致，如何教會人工智的道德感。但是無論如何，機器正在變得越來越聰明，重要的是不是他們是否擊敗人類圍棋大師，而是它將來會不會撒謊？

編者註：原文《Forget Doomsday AI—Google Is Worried about Housekeeping Bots Gone Bad》刊於Wired網站，作者Cade Metz，有刪節。更多AI深度報道請訪問YOTOVR.COM

請您繼續閱讀更多來自 YOTOVR 的精彩文章:

※CMU試圖統一深度生成模型：搭建GAN和VAE之間的橋樑
※組圖：印度官方公開國產艦載型LCA光輝戰機測試圖
※RT：英國將開發微創手術用可穿戴式機器人設備★科學家試圖教會機器人感覺疼痛以保護人類
※UFO以什麼為動力在宇宙中翱翔？科學家試圖研製與UFO性能相當的宇宙飛船
※美將領稱俄試圖研製殺人機器人 美應「懲罰」
※貝弗利：正試圖成為聯盟最好的防守人
※NASA試圖重現《星際迷航》曲速引擎科技
※美一研究機構試圖驗證所謂「外星人」信號
※UFO獵人稱外星人試圖採集太陽資源
※工程大學環境創新，OMA 試圖把學校內部設計成一座城市
※科學家試圖揭開大規模星系團演化之謎
※基於區塊鏈智能合約技術，BlockCAT 試圖搭建更安全的 dApps 開發平台
※印度軍工試圖進一步本土化，國產化LCA缺乏出口競爭力
※韓妝企業啟用華語明星任代言人 試圖挽救中國市場
※駕車易分心？MIT 研究人員試圖用演算法解決這個問題
※韓國批量生產德國最強潛艇，試圖成為遠海海軍國家
※它們試圖成為專業攝影師
※美國大選：特朗普團隊試圖緩解各國擔憂
※這家公司試圖顛覆VR移動方式