英國要準備和機器人講道德…這邏輯也是看不懂~

機器的智能化正在逐步深入到生活領域：客機自動降落，列車無人駕駛，（真）自動駕駛的汽車上路也是指日可待（此處沒有黑特斯拉）。

英國研究人員開始有些擔心，機器越來越聰明智能，說不好哪天擁有自主意識的機器人就掌控著人類的生死——正如電影《2001太空漫遊》里智能計算機「哈爾」面臨的選擇一樣。

當機器人不再尊重人類時，我們就攤上大事了。

畢竟當未來機器人能夠做任何想做的事情時，人類就要開始頭痛如何避免機器人犯罪。這就是英國的研究人員為什麼要強調，智能機器人必須尊重人權（包括隱私、身份認同和自主權），不符合道德的機器人，就不應當被製造出來。

尊重人權的道德標準是什麼？

英國標準協會（British Standards Institute，簡稱 BSI）在牛津大學 Social Robotics and AI 大會上發布了一套代號為 BS 8611的機器人倫理指南，全稱為《機器人和機器系統的倫理設計和應用指南》。西英格蘭大學教授 Alan Winfield 稱該指南為「將道德價值觀嵌入機器人和 AI 的第一步」。

這份新指南在關於處理多種機器人應用問題上，將幫助設計者、用戶、自動系統，建立一種新的工作視角。

「據我所知這是第一個關於機器人設計上的倫理標準」，Winfield 在會議結束後說，這比 Asimov 的法律更複雜一些，基本上規定了如何評估機器人的道德風險。

Asimov 的法律指的是科幻小說家 Isaac Asimov 在曾在短篇小說內提出規範機器人行為的三定律，分別是：

1）機器人不得傷害人類，或袖手旁觀讓一個人受到傷害

2）機器人必須服從人類的命令，除非與第一定律相矛盾

3）只要不與第一、第二定律衝突，機器人就必須保護自己

但這部由科學家、研究員、倫理學家、哲學家和機器人用戶提供意見而成的 BS 8611指南顯然比這三定律更複雜成熟。

指南聲明，製造機器人設計不得以傷害人類為專門或主要目的，並且負責任的主體是人類，任何機器人的行為都應當有人類負責。同時，機器人的道德危害不一定是人身傷害，造成恐懼、緊張這樣的心理危害也應當納入考量。

在用以參考的道德評估標準下，BS 8611建議設計者應當更關注機器人設計的透明性，但科學家們表示這點臣妾做不到。

Winfield 表示，機器人、AI 的深度學習系統都是基於整個互聯網數據上反覆練習，而這種學習和做出決策的過程，有時候設計者都無法理解。潛在的性別、種族歧視也是機器人潛在的道德風險。人工智慧的深度學習系統基於互聯網數據，而這些數據本身就存在著偏見。

整個大數據更有利於中年白種人。

這顯然是一場災難，當機器人消化吸收了所有人類的偏見，對技術應用的影響顯而易見。目前已出現的典型情況就是，語音識別在理解女性聲音時表現差一點；面部識別時，黑人則比白人難以識別。

儘管 BS 8611 指南主要針對的人群是機器人設計者和製造商，主要目的是保證人類製造的智能機器人，能夠融入社會現有的道德規範，其中重要的一點就是「不許欺騙」。

這就涉及到了一些爭議，比如允許人類和機器人產生感情嗎？特別是機器人的設計目的是為了與小孩、老人互動。

謝菲爾德大學名譽教授 Noel Sharkey 認為，這就是機器人在無意的情況下欺騙人類的例子，機器人是沒有感情的，但人類可不這麼想。在最近的一項研究里，把小機器人放到一所幼兒園裡，非常受孩子喜愛，並且孩子認為這些機器人比寵物具有更高的感知能力。

除了不許傷害、不許欺騙，對機器人的過度依賴也是一個潛在的社會問題。

英國標準協會的 Dan Palmer 認為，使用機器人和自動化技術使得流程更加高效、靈活，這也是製造業快速增長的重要組成部分，但當你與機器人共事一段時間後，它一直在給予你正確答案，但在你養成了依賴的習慣後，它會給出非常愚蠢的建議。

生活中「過度依賴機器人」也是潛在的威脅。路透社有文章指出，有科學家表示性愛機器人會使人成癮，因為機器人不會拒絕。

指南中也提到了這種「過度依賴機器人」現象，但在這類問題上並沒有給機器人設計者確切的準則，有待補充。

當然，人也不是每時每刻都能做到行為道德。當大腦誤入歧途時，我們可能需要進行道德治理。在教導智能機器人道德行為時，尤其製造機器人處理殘疾、智障人群問題時，我們也可能在完善對人類表現的道德建議。

講真，和機器人講道德可能使我們更加人性化。

本文系「筆戈科技」（公眾號：bigertech）授權噠噠發表，如需轉載請聯繫「筆戈科技」獲取授權，嚴禁私自進行二次轉載，違者必究。

※沒想到你是這樣的英國
※誰說英國沒有好吃的
※英國人真的教會了狗開飛機，這真的不是在搞笑嗎！
※難道你們都沒聽鮑里斯最後的講話？英國這樣才算贏
※據說這些美式英語可能讓英國人摸不著頭腦
※可以，這很英國！腐國人是這樣把自己玩兒壞的……
※英國人這樣說，美國人那樣說，你喜歡哪種？
※英國人的撩妹技巧，也是沒誰了！
※英國僱主並不難搞，他們想要的只是這樣的你
※話說哪一刻，你覺得自己被英國人洗腦了 ？
※話說哪一刻，你覺得自己被英國人洗腦了？
※誰說英國人買房不看風水？他們講究的更多…
※這樣的英國，你絕對想不到！
※沒看過英國的真人秀都不好意思說在英國呆過
※別說英國人不懂浪漫，你只是沒看到他們的婚禮
※美國人和英國人誰更愛飈髒話？都用英文罵人也有這麼大的差啊
※想和英國人好好相處？這些底線不能踩
※想要在英國租房？這些「潛規則」你不得不看……
※英國奇葩聯誼會不看顏值只聞腋下，覺著這麼不靠譜！