如果人類指令是惡意的，智能機器人一定要去執行么？

無論什麼人命令你去做什麼，你都會去做嗎？你當然會回答：不！那以後的機器人應該總是聽我們的指令嗎？你一定會覺得應該——就因為它們就是為我們服務的，聽從我們的指令就是它們存在的意義。但再仔細想想，你在選擇執行任務時，也並非不經大腦。所以，機器人也和你一樣。

試想一下：

一位年邁又健忘的老人，讓他/她專門照顧老年人的機器人把剛剛洗好的衣服再丟到洗衣機里去

一個幼兒園的小朋友命令機器人把球扔到窗外

一名學生讓機器人幫她完成所有的家庭作業

一個處於忙亂之中的主人，指示料理家務機器人運行垃圾處理器，即使勺子和小刀還卡在裡面

像這樣，對機器人進行不恰當指令，但並未造成實質性損害的例子還有許多。但並不是所有案例都是良性的，即使機器人的主人在下達命令是出於好意。

想像一下，一個機器人汽車根據指令在車道上倒車，但它後面卻有一隻小狗在香噴噴地睡覺，或者主人讓廚房助手機器人拿起刀子往前走，然而它卻站在一個人類廚師身後......命令很簡單，後果卻慘不忍睹。

那麼，怎麼樣才能使機器人既聽人類的命令，又不會造成不利後果？並試圖去避免威脅，或拒絕執行指令，任何情況下都很必要。我們到底該如何教機器人在恰當的情形下說「不」呢？

使機器人預知下一步，位於波士頓的塔夫茨大學正在研發一種控制技術：機器人可基於人類指令作出簡單的推斷。這將決定機器人是會按指令行事，還是會因為指令違反了預先設定的道德準則，而拒絕行動。

說說要難得多要讓機器人知道什麼時候、為什麼、如何去拒絕執行指令，執行起來比口頭。搞清楚一個行動會造成什麼危害或問題，光看問題的直接結果是不夠的——一個從窗口扔出去的球，可能會掉進院子里，這不會造成任何傷害；但若掉到了繁忙的街道，這球可能就再也找不到了，甚至可能會導致司機為了躲避而突然一個急轉彎，接著導致車禍。情景不同，結果不同。

以現有的機器人技術，在和孩子玩丟球遊戲與把球扔出窗外或扔進垃圾桶之間，決定何時可以扔球，何時不可以還很困難。要是小孩子和機器人惡作劇，假裝接球卻躲過去，讓球飛出開著的窗戶的話，它就更不知道該怎麼辦了。

向機器人解釋道德和法律

理解為何某些行為具有危險性，涉及到大量背景知識。這需要機器人不僅能自主考慮到行為後果，還能思考出人類發出指令的真正意圖。

不管人類指令是出於好意還是惡意，機器人要能通過預知行為結果，弄清楚人類複雜指令的原因是什麼，並能把行為結果與社會規定的、希望或合法的社會準則、道德準則相比較。如上所示，現有機器人遵循的一般規則是：「如果機器人的行為會造成有害後果，那麼他們可拒絕行動。」明確義務和許可權之間的關係，能讓機器人通過可能結果，推理是否要執行指令。

要讓機器人去服從命令，它們得首先先學會拒絕。

※天生聽不見而被丟棄的狗狗不因此喪志，能看懂指令的樣子讓人感動
※無需指令可以自行移動的最新機器人
※不用羨慕別人，學好這一招你也可以讓貓聽懂指令
※平時搗蛋不聽指令的貴賓犬突然變乖了，原來主人做了這一件事！
※這隻德牧一直不服從英文指令，都以為不聽話，而真正原因讓人笑噴
※美「魔爪」機器人：發瘋地用槍口瞄準操作者，不聽任何指令！
※機器人在沒有指令，突然自行打砸展台玻璃
※同樣的指令交給狗狗，有的是天才，可有的簡直是渣渣
※嘈雜的戰場環境里，這款耳機讓士兵保護聽力又能聽清指令
※厲害了！高冷的貓主子也能被訓練？還能服從指令？
※這樣也行！惡意程序逛小甜甜的 IG 等候攻擊指令
※抱怨孩子不聽話？其實，原因在於你是個不合格的指令發布者！
※要想孩子更服管教，請給孩子的指令，他們還不擅長猜測你的心思！
※狗狗聽不懂主人的指令，正發愁呢，結果一旁的大狗竟然伸出了「援手」……
※冷血！小狗表演不聽指令，遭踢斷腳，網友：沒有需求，就沒有虐待！
※孩子比較頑皮，有些事情根本就不按照大人的指令去做
※美國警察槍殺無辜聾啞人，只因對方沒有「遵守指令」
※關於後處理一把刀程序無換刀指令問題
※德牧犬一直不服從英文指令，以為它桀驁不馴不聽話，直到他們發現原因後...所有人都笑噴了！