BDSM機器人是否違反機器人第一法則？
利維坦按：與現有的性愛機器人不同，如果未來的機器人技術可以在BDSM關係中扮演施虐方，由此而產生的安全問題會備受關注。畢竟前者充其量只是機械狀態的充氣娃娃抑或人形震動棒，而後者卻承擔起「傷害輸出」的職能。
也許在若干年後，關於施虐性愛機器人傷害人類的新聞便會出現在各大科技與媒體版塊頭條位置，正如近幾年關於無人駕駛汽車測試發生意外的新聞一樣出現，甚至可能催生出賽博朋克風格的性取向，這些都是可以預見且可能發生的。但在此之前，還是希望諸位能夠將更多的機會交諸我們的同類。
（文末有福利）
文/Daniel Kolitz
譯/苦山
校對/喬琦
原文/gizmodo.com/would-a-bdsm-sex-robot-violate-asimovs-first-law-of-rob-1829595067
本文基於創作共同協議（BY-NC），由苦山在利維坦發布
今年10月，性愛機器人團體——也就是性愛機器人的製造者和潛在用戶——遭受了沉重打擊：
休斯敦市議會投票通過了一項禁令，禁止全美第一家「性愛機器人妓院」開張營業。
這一舉措先發制人，但這些議員們心裡多半清楚，自己的行為是徒勞的。很快，這件事就會被拋到腦後，沃爾瑪超市裡會擺上60種不同特色的性愛機器人任君挑選。
毫無疑問，這意味著在將來的某天，你幾乎一定能買到BDSM機器人。
【校者註：BDSM指綁縛與調教（bondage & discipline）、支配與臣服（dominance & submission）、施虐與受虐（sadism & masochism）。】
科幻作家艾薩克·阿西莫夫（1920-1992）。圖源：Observer
正如推特上一條熱門推文所指出的那樣，在你能被一個大型機器於性愛過程中捆縛、鞭打或弄到窒息前，從人類文化的角度，我們需要仔細考慮艾薩克·阿西莫夫（Isaac Asimov）的機器人三定律在其中扮演的角色
（當然還要考慮許多其他問題）
。
三定律中的第一法則明明白白地寫著：「機器人不得傷害人類」。
如果從原旨主義
（譯者註：originalism，美國憲法的一種解釋學說，亦即按照憲法制定者初衷解釋憲法）
來闡釋這條定律，或許會得出阿西莫夫並不支持BDSM性愛機器人的結論，
但在起草這幾條定律時，他很可能壓根沒想到會有這種東西。
阿西莫夫逝世已有1/4個世紀多了，因此我們採訪了數位律師、倫理學家、計算機科學家和哲學家，詢問他們BDSM機器人是否會違法阿西莫夫的三定律第一法則。現今階段，機器人還遠沒有精巧智能到足以滿足人類心靈中那點細微的戀物癖好，
但隨著科技發展，這一問題將愈發複雜——而科技總是在發展。
圖源：Conscious Life News
朱莉·卡朋特（Julie Carpenter）
加州理工州立大學（California Polytechnic State University）倫理與新興科學研究小組研究員，研究領域為人與新興技術的交互反應
我的工作內容是預測人類將如何與一項給定技術互動，在本例中也就是專為性愛目的設計的機器人。對於被設計成可與人類進行BDSM互動的機器人，
我要問的第一個問題是，機器人對於
損傷
和
傷害
的定義是什麼？
以及，它將如何準確識別人類正處於這兩種情形下？這兩個詞都有多重含義，每種含義所指向的生理和心理後果各不相同，彼此的區別十分細微複雜。
機器人需要理解人類的情感，而在性體驗中，人類表達情感不僅通過臉上不同部位的血管反應、肢體語言，說話的語調、節奏、音量，副語言使用，還會使用語言之外的許多手段。但哪怕人工智慧學會了這一切，仍然不等同於掌握了人類的認知過程，因為人類能夠理解如何在不同文化中定位人類情感，或是廣泛而各不相同的性傾向這些內容。
健康、快樂、滿足和愉快的性經歷，基礎是信任與有效溝通，當然還包括參與者的一致同意（consent）。
在任何情況下，「同意」都是為了確保生理和心理安全。
與此同時，人類的性行為中有許多內容取決於當事人的精神生活，不同的行為會讓不同的人感到刺激，對於一些人來說，這包括了角色扮演和其他創造性的互動，有時他們會與信賴的伴侶
（們）
測試身體的生理和心理極限，並在邊緣來回試探，或實踐一些社會可能會視作禁忌的行為。然而，我們現在正在討論的情景是發生在一個
（假設無知覺的）
機器人和一個人類
（或多個人類）
之間的，所以就像機器人三定律一樣，此處的「同意」應以人類方為重點。
此外，在BDSM性愛中，機器人或人類可能需要扮演特定角色，這些角色會要求他們做出可能傷害到自己或對方的行為——重申一次，這些行為的風險和可能後果對人類和機器人來說是不一樣的，因此人工智慧也需要將這些概念區分開來，明晰機器人自我和人類他者之間的界限。
圖源：Forbes
機器人如何與人類建立信任？如果它破壞了這種信任關係，該如何進行改善，使它意識到自己的失敗，並朝著重建信任的目標努力？如果它誤解了人類的狀態
（損傷/傷害或安全）
，該如何糾正錯誤並改進？
機器人如何識別人類的應允、做戲，或扮演行為？
這一人工智慧在理解損傷和傷害時，是否會偏好以健康強壯者作為標準？它將如何評判個體的脆弱度？比如說，它是會對18-35歲的成年人和老年人使用不同的損傷/傷害評估標準，還是說它能在個體病史的基礎上學會預估特定行為的潛在後果？這些概念都與一個中心思想息息相關，那就是人類和機器人之間的準確溝通，
而對於現有的人工智慧而言，這還是要求太高了。
如果機器人能像人類一樣，對傷害和損傷這兩個概念理解得靈活而細緻入微，將以上列出的這些相關問題都考慮進去，那麼我的回答是「不」，從人類的角度來看，在參與方同意的安全情形下，BDSM機器人不會違反機器人三定律。但如果機器人缺乏這種能力，不能深刻理解與其互動的人類，那它就有可能違反第一法則，因為它無法準確評估情況。
圖源：LA Weekly
詹蘇·詹賈博士（Cansu Canca, Ph.D.）
人工智慧倫理實驗室（AI Ethics Lab）創始人兼主任
除非我們持以下兩種看法，否則BDSM性愛機器人並不違背阿西莫夫的機器人三定律第一法則：第一，我們認為人類間BDSM性愛的參與者會傷害自己或對方；第二，機器人與人之間的BDSM性愛和人與人之間的BDSM性愛有著不同的效果。
BDSM這種性愛形式本身就意味著，
其所包含的行為可能導致生理和/或心理限制與不適。
然而，將這些等同於普遍意義上的傷害是一種十分片面的理解。看牙醫或做耐力運動也經常會帶來生理/心理不適，但對人們的整體身心健康有益。在參與方都同意的前提下，BDSM性愛通過生理疼痛達到歡愉、滿足和快樂。因此，在缺少反面證據時，我們認為BDSM性愛的參與者並不傷害彼此、自身，或社會中的其他人。同理，BDSM機器人也不會傷害任何人，但有些方面確實
可能
因機器人的參與而變得不同。
其中之一是機器人BDSM性愛的本質與後果。儘管機器人與單人之間的BDSM性愛多半比人與人之間的BDSM更安全、更自由，但它
同時也消解了性行為中的社會性、互動性和人際信任，這可能會在心理層面產生負面後果。
另一點是機器人的「同意」。假使機器人與人之間的BDSM性愛無法確保機器人能夠給出類似人類「同意」的反應，那麼這種互動就可能由BDSM淪為人類對機器人的強姦，這會將我們引向一系列完全不同的倫理問題。最後，我們要記住機器人有收集、儲存、共享私密數據的機會，在建立人與機器人親密互動的體系時，保證隱私是至關重要的。
圖源：Pajiba
魯思·艾利特（Ruth Aylett）
赫瑞瓦特大學（Heriot-Watt University）教授，虛擬現實與人工智慧方向
我們應該記得，機器人三定律本身就有些模糊與矛盾之處，而阿西莫夫的不少故事正是圍繞它們而展開的。
對第一法則中「
傷害
」一詞的哲學討論綿延了許多個世紀，因此這裡這個問題的答案也取決於我們對該辭彙的定義。
有人這樣定義人工智慧：「計算機完成特定任務的能力，這些任務由人類完成時，需要使用智能。」同理可得，傷害的定義應是「機器人做出的特定行為，這些行為由人類做出會被認為具有傷害性」。
根據這一定義，如果人與人之間的BDSM不具有傷害性，那麼人與機器人之間的也一樣。
BDSM性愛中，參與者會約定一個安全詞
，以便伴侶確定自己是出於受虐心態說出「停下」（這種情況下對方可以無視）
還是真的要求停止。原則上，這一方式同樣適用於人與機器人之間。
然而，這種定義方式忽略了機器人是一部機器而非真人這一事實。普遍而言，在性行為過程中將人視作機器，確實會對社會和個人造成傷害，因為這會導致部分群體
（尤其是女性）
被非人化，同時強化自我中心的、自私的性滿足觀點。從這個角度來看，BDSM性愛機器人和其他種類的性愛機器人沒有本質區別。歸根結底，性愛機器人不過是機械版本的充氣娃娃。
最後，假如這項科技成為現實、觸手可及，我覺得沒有人會真的樂於把脆弱的隱私部位暴露在這種局限性很大的機器前。和電影里的科幻場面相比，現實中的機器人不堪大用，人們不見得想把自己的身體安全置於並不那麼精確的語音識別系統控制之下。
圖源：Objet connecté
貝薩妮·莫納漢·威爾遜（Bethany Monaghan Wilson）
伯明翰大學（University of Birmingham）法學研究生，研究論文主題為性愛機器人與法律
你可以說「疼痛」不同於「傷害」，而BDSM追求的是前者。
這樣的話，BDSM機器人就不違反三定律第一法則，因為該法則強調的是「傷害」。
但現有的性愛機器人技術尚不能實現這點，這類機器人還無法區分疼痛和傷害。最先進的人工智慧性愛機器人也只能記住使用者的基本信息。可以說，這些機器人不懂界限在哪裡，因此確實會違反阿西莫夫的三定律第一法則。
要等到人工智慧技術有了長足的發展後，BDSM機器人才可能適當運作。如今的性愛機器人只能移動關節和頭部，和他們相比，人類要強大得多
（至少眼下如此）
，所以性愛機器人沒法從生理上損傷人類，哪怕損傷也是出於人類自己的意願。假如性愛機器人升級到比人類更強大的程度，它們就有可能違反第一法則了——但到了那時候，它們同樣也會升級到能夠區分疼痛和傷害的地步，這就能防止它們違法第一法則。
但從心理層面而言，BDSM機器人
確有可能
破壞第一法則，因為使用者或許會變得與「現實世界」隔絕，過於依賴性愛機器人，乃至於阻礙了自身的社會發展。
另一方面，BDSM機器人確實能夠讓使用者享受到無法從其他人類那裡得到的愉悅。不過，有些反對性愛機器人的學者，如反對性愛機器人運動組織（Campaign Against Sex Robots）會指出，BDSM機器人從根本上就違反了第一法則。
圖源：The Mac Observer
萊恩·卡洛（Ryan Calo）
華盛頓大學（University of Washington）法學院副教授兼華盛頓大學技術政策實驗室聯合主任
就我所知，阿西莫夫沒有受過專業的法律訓練。如果他學過法律，或許就會將對機器人三定律的表面違反（prima facie）和最終需要法律補償的實際違反加以區分。你所描述的例子可能屬於前者而非後者。
圖源：Imgur
讓我們來考慮這樣一個問題：拳擊手是否在比賽中對他的對手犯下了
毆打罪
（battery）？
法律對毆打的定義是「無正當理由、未經他人同意或故意的傷害性或冒犯性的肢體接觸」。拳擊賽中，雙方選手都不想被打，而且被打當然會很痛。但沒有哪個法官會認為他們犯下了毆打罪，因為儘管擊打對方選手這一行為從表面上來看是毆打，但被告立刻就會指出，
當他的對手踏上拳擊台時，就意味著同意被打，對此已有所準備。
類似地，儘管機器人可能會違反「不得損傷人類」這一告誡、讓人感到疼痛，但說到底，它是遵從了人類的命令才這樣做的，這一行為的最終目的是帶來愉悅。
【至於機器人參與BDSM性愛是否違反
第零法則
（即「機器人不得傷害整體人類，或坐視整體人類受到傷害」），我暫且保留意見。】同時，我們需要注意區分表面違反和實際違反的重要性：若不區分，機器人就無法將傷者拖拽出起火的建築物，因為移動會使傷者感到疼痛。這肯定不對——至少，我們不能這樣向機器人下指令。
湯姆·索雷爾（Tom Sorrell）
華威大學（University of Warwick）政治與哲學教授
發生在成年人間、兩廂情願的施虐-受虐（SM）性愛會涉及肉體傷害，而參與者享受這種傷害。更重要的是，肉體傷害並不只是偶爾發生於施虐-受虐性愛中，更是將這種性愛形式和其他溫和的性愛形式區分開的特徵。BDSM機器人在喜好施虐-受虐性愛的使用者命令下使其受傷，而該命令者會享受這一過程，這是完全可以想像的。
有些哲學家
（如霍布斯）
認為，在某人同意下對其進行的行為不能被稱作傷害。
但這一觀點會令施虐-受虐性愛的區別性特徵變得難以描述。更自然的說法是，施虐-受虐性愛通常包括傷害行為，而被命令參與其中的機器人不可能同時遵守阿西莫夫的機器人三定律。
圖源：
Objet connecté
帕特里克·林（Patrick Lin）
加州理工州立大學哲學教授兼倫理與新興科學研究小組主任
技術層面而言，是的，機器人所做的一切傷害人類的事情
（或因沒做成而導致人類受傷害的事情）
都違反了阿西莫夫的機器人三定律第一法則。但這樣的話，我們對「傷害」的理解就過於天真、過分簡單化了。
有時，這個詞更重要的含義是凈傷害（net-harm）。
例如，小孩子在牙醫給蛀牙鑽洞或服下苦得要命的藥劑時可能會很痛苦，但我們明白這是為了她自己好：長期來看，好處遠遠超過了起初付出的代價。實際上，我們是在使她免受更嚴重的傷害。
這點很容易理解，但有些看似明白易懂的概念要想簡單定義卻難於登天。
比如說，如何確定傷害值？我們可能需要考慮很多方面的未來參考才能算出凈值。
這是結果主義（consequentialism）道德理論中的一個著名難題，它將倫理視作數學問題來對待。BDSM機器人施加的任何傷害多半都是受歡迎的，因為當事人所體會到的愉悅感遠甚於它。
BDSM機器人看起來是在傷害你，但如果這是你自己要求的，它就沒有做錯。如果機器人做得太過火，無視你的抗議，也沒有說得通的理由，那麼它就是在錯誤地傷害你，因為這侵犯了你的自主權和主觀意願。實際上，它這時犯下了雙重錯誤，因為它同時也違反了三定律的第二法則。
但假設機器人的確是在按你的意願行事，你所感受到的疼痛只是技術層面的暫時性傷害，而非阿西莫夫定律中人們所普遍理解的傷害。計算機自然無法通過讀心來搞懂我們的真實意圖——它只能遵從自己的設定程序。
但道德規範往往過於捉摸不定，尤其是考慮到每個特定行動或意圖都有無數的變數和變體，它便無法當作精確的決策程序使用。
正是這一點產生了阿西莫夫故事中的戲劇衝突。
圖源：The Mac Observer
諾琳·赫茨菲爾德（Noreen Herzfeld）
聖本尼迪克與聖約翰大學學院（St. John』s University and the College of St. Benedict）科學與宗教學教授
首先，我猜合格的BDSM機器人製作起來十分有難度。目前的性愛機器人都很被動。我得說，現有的男性性愛機器人本質上都不過是根高級震動棒。
要造出在性交過程中佔據支配地位的BDSM機器人——唔，我覺得還有很長一段路要走。
出色的施虐狂擁有豐富的創造力，對於服從方的反應和欲求也較為敏感。對你提出的問題，我的回答是：既然發生的一切都有參與者的同意作為前提，那麼機器人就沒有傷害服從方，但這樣講也有點過分簡單化了。絕大多數BDSM關係中都有一個安全詞
（比如「茄子」）
，服從方可以隨時用它結束正在進行的一切
（因為「不」或「請停下」常常是角色扮演的一部分）
。這很容易編進程序里。但凡事總有意外，服從方可能會無法說出安全詞，此時只能相信支配方會理解自己的意願。但若換成機器人，情況就會變得危險。或許會有人提議此類機器人只能在監控下使用
（比如在妓院里）
，但誰想在進行非尋常性愛的時候被人盯著看啊？
話又說回來了，我可不迷信機器人三定律。它們根本不實用嘛。
——別走，此處有贈書——
《電幻國度》（The Electric State）
瑞典視覺概念設計師西蒙·斯托倫哈格（Simon Stalenhag）所著圖像小說。謎底隱藏在對白與插畫的所有細節中，小女孩、機器人，末日後的朝聖之旅，關於人工智慧與人類命運的預言之書。
本文留言點贊數最高的前10名讀者（截至明天中午12點前）
請後台留下自己的聯繫方式：用戶名+地址+手機號
我們將送出《電幻國度》給到10位
沒趕上的
只能點下方小程序自己掏腰包了：
往期文章：
「
利維坦
」（微信號liweitan2014
）
微博：
利維坦行星
神經基礎研究、腦科學、哲學……亂七八糟的什麼都有。反清新，反心靈雞湯，反一般二逼文藝，反基礎，反本質。
投稿郵箱：
wumiaotrends@163.com
合作聯繫：
微信號
liweitan2018
點擊小程序，或
閱讀原文
進店
TAG:利維坦 |