天啦嚕！會主動傷害人的機器人誕生啦

這台小機器人可能會傷害你！如果你把手指頭放到它面前，它有可能會扎你一下！當然你不會因此而嚴重受傷，只是像驗血一樣會有點刺痛感覺

如果你把手指頭放到亞歷山大·瑞斌（Alexander-Reben）的機器人前面，那麼它就有可能會扎你一下！當然你不會因此而嚴重受傷，只是像驗血一樣會有點刺痛感覺。瑞斌設計這個機器人的目的便是造成最小的痛苦，但從技術上說，仍然會對人造成傷害。

你真的會流血——如果這小機器人選擇扎你一下，你的手指上會有一小團血滴滲出。到目前為止，這個機器人已經扎了好幾個人的手指頭。但有時候，當你把手指頭放在它面前，這台小機器人卻毫無反應，不會扎你——究竟什麼時候會扎人什麼時候不會呢？

沒有人知道答案，即便是設計者也不知道，因為這是隨機的。瑞斌是一名機器人專家，同時也是一位藝術家，居住在美國加州伯克利附近。他對《華盛頓郵報》表示：「我將其視作一種有型的哲學。」

瑞斌的這件作品常常將藝術與技術以一種有趣的方式相互混合，得到一種甚至接近詼諧的效果——比如，他曾經設計過一款太陽能的音樂播放器，然後用它播放著《你是我的陽光》（YoAre-My-Sunshine）。

然而這台最新的小機器人卻不是為詼諧幽默而設計的。瑞斌在他的網站上表示，這是世界上第一台「自主並有意」違反所謂「機器人第一法則」。這是著名科幻作家阿西莫夫所提出的機器人三法則中的第一條。

在1942年發表的短篇科幻故事《環舞》（Runaround）中，阿西莫夫首次明確闡述了他有關機器人三法則的思想，分別論述如下：

機器人第一法則：機器人不得傷害人類，或坐視人類受到傷害；

機器人第二法則：除非違背第一法則，機器人必須服從人類的命令；

機器人第三法則：在不違背第一及第二法則下，機器人必須保護自己；

當然這樣的動作不會對人造成什麼傷害，你只會感覺稍有刺痛，手指上被扎出一個非常小的孔。但這樣的威脅性已經足夠高，讓很多人望而卻步

而瑞斌的這個小機器人的做法很顯然是故意傷害人類的，因此很明顯違反了機器人第一法則。但儘管對已經有74年歷史的經典理論構成了挑戰，但實際上這個小機器人的結構設計是非常簡單的。

瑞斌最初的設想是一台連著一個金屬臂的「自動梳頭機」，能讓人感到舒服和享受，這是受到了伍迪·艾倫的電影《傻瓜大鬧科學城》（Sleeper）中哪個抱在懷裡就能讓人產生愉悅感受的「快樂球」（pleasure-orb）的啟發。人們坐在椅子里，然後瑞斌的梳頭小機器人就會給做頭皮按摩。

瑞斌表示，這樣的場景會創造一種人與機器人之間某種令人不安的親密感。他說：「在這種情況下，機器會讓人緊張地發抖。人們會感覺非常非常詭異。」

瑞斌隨後將其改造，製作出一個能給人們帶來小小傷害的機器人。整個改造過程花費了數天時間和數百美元。這是一個帶有小小手臂的機器，其底座大小和一張列印紙相差無幾。它安裝了一台微型探測器，能夠檢測是否有人把手指放在了它的機械臂下方。此時，如果小機器人決定要扎他一下，那麼它就會突然快速地紮下去。

當然這樣的動作不會對人造成什麼傷害，你只會感覺稍有刺痛，手指上被扎出一個非常小的孔。但這樣的威脅性已經足夠高，讓很多人望而卻步。瑞斌指出：「你很難不感到緊張，渾身冒汗。」他說，但是這背後的原因或許更多的是驚奇，而不是疼痛。

但其中最關鍵的一點還在於，正如瑞斌所指出的那樣，這台小機器人做出了要傷害人類的決定，而這與此前所有的機器人都是不同的。他說：「我想到了軍用機器人。但即便是軍用機器人也並不會主動傷害人類。」

就拿美軍的「捕食者」無人攻擊機來說，它當然可以發射導彈殺死人類，但做出這項決定的不是「捕食者」無人機本身，而是它背後操控的美軍軍方人員。再比如美國海軍開發的，由雷達控制的自動崗哨炮，它會自動向出現的入侵者開火，但這同樣不是它自己的決定，而是遵循了一系列內部編程所設定的激發閾值條件。在瑞斌看來，這樣的系統並非選擇攻擊，正如並非地雷自己選擇炸死踩上去的人員一樣。

而瑞斌設計的這個旨在打破阿西莫夫機器人準則的機器人則完全不同，因為是否扎人的確是機器人自己的決定。放在它手臂下的人類手指會激發小機器人的一系列的軟體程序，最後將輸出扎人或者不扎人的決定。

瑞斌表示：「其做出是否扎人的決定過程是我無法預測的。」這台小機器人的內置程序並未採用機器學習或者人工智慧技術用於決策過程，但也並非完全屬於50:50的對半開概率。當被詢問這台小機器人扎人的幾率時，瑞斌說：「我不知道它扎人的概率有多大。」

因此，第一台違反理論上原則的機器人已經實實在在地存在了。這是一台真正依賴自身決策的機器人，在跟它們相處的過程中，我們或許時不時地需要帶上創可貼。

一起看科學是什麼

tech.sina.com.cn/discovery/

微信ID：sinascience

長按左側二維碼關注

請您繼續閱讀更多來自 新浪探索 的精彩文章:

TAG:新浪探索 |

※天啦嚕！荷蘭誕生首個機器人嬰兒，機器人也可交配生子！
※首個「機器人嬰兒」誕生 機器人還能交配生子
※全球第一個人造生物誕生！使用的材料卻讓人感到害怕
※智能時代，機器人要來了！世界首例機器人「操刀」的克隆豬誕生
※世界上腿兒最細的機器人誕生！
※厲害了 世界首例機器人操刀的克隆豬在天津誕生
※這麼像人真的好嗎？模擬機器人的誕生
※「機器人妓院」將誕生？真的不敢想！
※意念控制機器人！十年內就可以誕生
※火影忍者博人傳霧隱·新忍刀七人眾誕生，他們欲殺博人發動戰爭
※世界首個智能性機器人誕生——她渴望被親吻和撫摸
※光之巨人是怎樣誕生的？只因這個宇宙人作祟導致怪獸到處都是！
※你造嘛？攜帶型仿生汗液感測器誕生啦！
※原製作人講述「侍魂」誕生的故事
※世界第一個！智能性愛機器人誕生，可以談戀愛！售價驚喜！
※荷蘭誕生首個「機器人嬰兒」
※地球上首個用電腦創造的生命已經誕生，震驚世人！
※世界首例機器人「操刀」的克隆豬天津誕生
※人造子宮的誕生為生命帶來更多的希望！