機器人總是對你百依百順？以後它要說「不」了！

不管別人讓你做什麼，你都會去做嗎？所有人都會說：當然不！那未來的機器人應該總是聽我們的嗎？乍一看，你可能會覺得應該——就因為它們是機器，聽從我們的指令就是它們存在的意義。但再仔細想想，你在選擇執行任務時，也並非不經大腦。所以，機器人也和你一樣。

試想一下：

一位年邁又健忘的用戶讓他/她專門照顧老年人的機器人把剛剛洗好的衣服再丟到洗衣機里去

一個幼兒園的小朋友命令機器人把球扔到窗外

一名學生讓機器人幫她完成所有的家庭作業

一個處於忙亂之中的主人，指示料理家務機器人運行垃圾處理器，即使勺子和小刀還卡在裡面

像這樣，對機器人進行不恰當指令，但並未造成實質性損害的例子還有許多。但並不是所有案例都是良性的，即使機器人的主人在下達命令是出於好意。

想像一下，一個機器人汽車根據指令在車道上倒車，但它後面卻有一隻小狗在香噴噴地睡覺，或者主人讓廚房助手機器人拿起刀子往前走，然而它卻站在一個人類廚師身後......命令很簡單，後果卻慘不忍睹。

那麼，怎麼樣才能使機器人既聽人類的命令，又不會造成不利後果？如果不讓機器人在狗狗周圍行駛的話，它可能會一點也不動了；如果要它避免拿刀刺到廚師，它可能會站住不動，或一開始就不去拿刀了。

使自主運行的機器在行動時探測到潛在威脅，並試圖去避免威脅，或拒絕執行指令，任何情況下都很必要。因此，我們到底該如何教機器人在恰當的情形下說「不」呢？

|如何使機器人預知下一步

位於波士頓的塔夫茨大學正在研發一種控制技術：機器人可基於人類指令作出簡單的推斷。這將決定機器人是會按指令行事，還是會因為指令違反了預先設定的道德準則，而拒絕行動。

要讓機器人知道什麼時候、為什麼、如何去拒絕執行指令，執行起來比口頭說說要難得多。搞清楚一個行動會造成什麼危害或問題，光看問題的直接結果是不夠的——一個從窗口扔出去的球，可能會掉進院子里，這不會造成任何傷害；但若掉到了繁忙的街道，這球可能就再也找不到了，甚至可能會導致司機為了躲避而突然一個急轉彎，接著導致車禍。情景不同，結果不同。

以現有的機器人技術，在和孩子玩丟球遊戲與把球扔出窗外或扔進垃圾桶之間，決定何時可以扔球，何時不可以還很困難。要是小孩子和機器人惡作劇，假裝接球卻躲過去，讓球飛出開著的窗戶的話，它就更不知道該怎麼辦了。

|向機器人解釋道德和法律

理解為何某些行為具有危險性，涉及到大量背景知識（包括在窗前玩球，球可能會飛出窗戶）。這需要機器人不僅能自主考慮到行為後果，還能思考出人類發出指令的真正意圖。

不管人類指令是出於好意還是惡意，機器人要能通過預知行為結果，弄清楚人類複雜指令的原因是什麼，並能把行為結果與社會規定的、希望或合法的社會準則、道德準則相比較。如上所示，現有機器人遵循的一般規則是：「如果機器人的行為會造成有害後果，那麼他們可拒絕行動。」明確義務和許可權之間的關係，能讓機器人通過可能結果，推理是否要執行指令。

總的來說，機器人不該執行違法或不被希望的行為。因此，他們需要了解法律、道德準則，甚至是禮節，以決定行為結果，或行為本身是否違反這些準則。

目前，想讓機器人處理上述情境，還有很長的道路要走。但有一點早已證實：要讓機器人去服從命令，它們得首先先學會拒絕。

viathe conversation

TAG:cnBeta |

※對不起，不是錢買不到愛情，是你的錢不夠買不下這款機器人！
※這是一款可以「吃」的機器人，味道尚不明，你想要試吃嗎？
※看著就知道打不過！這麼厲害的機器人要是實現了就啥也不怕了
※別傻了，你真的能肯定自己不是機器人！
※跟機器人搶工作，擔心拼不過？別怕！未來想贏，你只要更像人！
※為什麼你買不到一台好用的機器人？因為沒有你的代碼
※手下把買機器的五十萬輸了，張作霖又打一百萬，他這用人手段你能看懂嗎？
※如果你也喜歡機器人對戰，那一定不能錯過這個！
※看過這些之後，你還敢說你知道什麼叫機器人嗎？
※不可思議！機器人也可以「繁衍」，你聽說過嗎？
※機器人總動員，回歸大冒險！這部動漫都沒看過你敢說你老了？
※性愛機器人真的來了，根據喜好還能對話，你下得去手么？
※原想勝天半子的柯潔哭著輸給了阿法狗，所以這個世界的未來是不是要交給機器了？
※如果機器人可以繁衍後代，你會和機器人一起嗎？
※她是人不是機器，不是你摁下開關，她就會忘掉你所有的過錯
※機器人「駕馭者」不是多了 而是不夠「厲害」
※我的天！以假亂真了，到底是機器人還是真人
※狗與清潔機器人不能共存啊！不說了，擦狗屎去了！
※再見鹿晗，以後我愛機器也不會愛你！