機器崛起只是科幻，人工智慧應遵循人類價值觀

從過去的《銀翼殺手》，到現在的《機械姬》，人工智慧總會引發我們的黑暗想像。但是，如果不把眼光放那麼長，人工智慧帶來的危險很可能是無意中傷害人類或無法完美執行指令，而不是擁有自我意識並反抗人類壓迫。為此，加州大學伯克利分校設立了新的人工智慧研究中心，目的是構建更符合人類需求的人工智慧。

這個名為 「人類共處式人工智慧中心」（The Center for Human-Compatible Artifical Intelligence）的地方於上周開始運轉，其資金來自 Open Philanthropy Project。研究中心的主管是計算機科學家和人工智慧專家 Stuart Russell。在衛報網站的採訪中，Stuart Russell 認為，科幻作品的人工智慧常常 「不合情理和過於戲劇化」。

（圖片來自 madaboutmovies）

「風險不會是突然生出了惡意的機器，」 他說，「重要的是，我們不會試圖阻止那種事情的發生，因為，沒有人真正了解意識是什麼。」

2015 年，Russell 寫了一封公開信。在信中，他呼籲說，研究人員不應該只專註於更加強大的人工智慧，還要思考人工智慧的社會效益。8000 多名科學家和企業家簽名支持這封信件，包括霍金、馬斯克和蘋果的聯合創始人沃茲。

目前，人工智慧的應用範圍是有限的，不會對現實社會造成很大的影響。一旦它成為現實中的決策工具，人類面臨的風險就變大了。「一旦你把某種東西放到現實中，比如自動駕駛汽車、數字助手…… 一旦它們代表你購買物品、取消會面，那麼，它們就必須遵循人類的價值觀。」 Russell 說。

(ASIMO，圖片來自 sponkonit)

比如，有人製造了一輛自動駕駛汽車，命令它永遠不要闖紅燈，於是，汽車就黑了交通燈控制系統，把所有交通燈都變成了綠燈。在這個例子中，機器遵循了人類的命令，但是其後果卻是人類未曾預料的，也不符合人類的意圖。

「即使你限制了人工智慧系統的能力，它也會試圖找出漏洞，就像是我們找出稅法的漏洞一樣。你需要這樣一個人工智慧系統，它沒有尋找漏洞的動機，」 Russell 說，「問題不在於意識，而在於能力。你造出了特別擅於完成目標的機器，但在試圖完成目標的過程中，它們會造成一些事故。」

(圖片來自 phys)

為此，Russell 的建議是，讓人工智慧系統觀察人類行為，理解人類的目的，然後採取相應的行動，並從錯誤中學習。它不需要遵循大量的規則，而是要理解人類的真正意圖。這樣的話，即使人工智慧系統超越了人類，它們也能夠處於人類的控制之下。

不過，這並非易事，因為人類本身存在著太多的缺點。「人類是不理性、反覆無常、意志薄弱、運算能力差的，而且每個人都不一樣。有時候，人類是極端邪惡的，」 Russell 說，「有些人是素食主義者，有些人特別喜愛鮮嫩的牛排。事實上，我們的行為遠遠談不上完美。這才是真正的難題。」

題圖來自衛報

TAG:愛范兒 |

※為了防止世界混亂，人和機器人應遵循這樣的倫理法則
※人類大腦思考模式遵循的是個人主義為上還是其他什麼呢？
※為了防止世界的混亂，人和機器人應該遵循這樣的倫理法則
※人類的本體意識與夢境之謎，是否遵循宇宙循環
※散戶要想在股市中賺錢，必須遵循炒股四原則之操作方法是關鍵
※屬兔人遵循著的原則是什麼
※火影忍者中的三人組合，都遵循著一個鮮為人知的規律！
※專家認為人類是一個獨立物種，並非遵循達爾文進化論
※孕期補鈣不遵循這種方法，只會弄巧成拙！
※盆景製作應遵循的藝術原則
※女性的慾望都是遵循這樣的規律，把握這些無需前戲也能「高潮」！
※老年人健身要健到健康，應遵循什麼原則
※科幻電影中的「外星語」原來也遵循了人類自然語言的套路！
※一位股市美女操盤手堅持遵循的跟庄技巧，股票書上學不到！
※戀愛要想成功，男人必須遵循的5個原則，你做到了幾個
※健身就得遵循科學的腳步，這樣才會事半功倍
※作業創新應遵循科學
※高血脂症人應遵循哪些飲食原則？
※遵循兩性之間的規律，女人會自動上門