人工智慧發展到以後會不會是絕對友好的存在

最可能的情況:友好的人工智慧

首先，科學家將採取最簡單的方法保證機器人不是危險的。至少，科學 家可以放一個晶元在機器人的大腦里，如果機器人有了謀殺的想法，就自動 將它關閉。用這種方法，所有的機器人都裝備有破損安全機構，可以由人在 任何時候打開,特別是當機器人呈現錯誤行為的時候。只要有一點跡象暗 示機器人出了故障，任何聲音命令立刻將它關閉。

或者也可以創造專門的機器人獵手，其責任是壓制不正常的機器人。 這些機器人獵手專門設計有超級速度、強度和協調能力，能夠捕捉錯誤的機 器人。這些機器人獵手將設計成能夠了解任何機器人系統的弱點，在一定 的情況下它們如何表現。人也可以訓練這個技巧。在電影《銀翼殺手》 {Blade Runner)中,有一個受過專門訓練的政府特工人員隊伍,其中有一位 由哈里森?福特（Harrison Ford)扮演,他們有壓制任何機器人流所需要 的技能。

因為需要很多個幾十年的艱苦工作，機器人才能慢慢地沿著進化的階 梯上升，因此人類不會突然失去防衛，像牲口一樣被關進動物園。意識,正 如我們看到的,也是一級一級上升的，而不是一個突然演變的事件,需要很 多個幾十年的機器人才能沿著意識的階梯攀升。畢竟,大自然母親用了幾 百萬年時間才建立了人類的意識。因此，當有一天網際網路出其不意地「醒 來」或機器人突然開始自行其事時，人類將不會失去防衛。

科幻作家艾薩克?阿西莫夫（Isaac Asimov)正是這樣想的，他預想，每一個機器人在工廠加工時有三個定律防止它們失控。他設計出他的著名的 機器人三定律（three laws of robotics)，防止機器人傷害自己或人類。（三定律的基本意思是，按照順序先後，機器人不能傷害人類、它們必須服從人類、 它們必須保護自己。）

〔即便有了阿西莫夫的三定律，當這三個定律出現矛盾時還是有問題。 例如，如果人們創造了一個慈善的機器人，如果有人做出自我毀滅的選擇將 危及人類時會發生什麼呢？那麼，一個友好的機器人可能會感到，它必須奪 取政府的權力，防止人類傷害自己。這就是在電影《我，機器人》 中威爾?史密斯(Will Smith)面臨的問題，當時，中央計算機決定「為了拯救 人類，一些人必須犧牲，一些人必須放棄自由」。為了防止機器人為了拯救 我們而奴役我們，有人提倡必須增加機器人零法則:機器人不能傷害或奴役 人類。

但是很多科學家傾向於「友好的人工智慧」 (friendly AI)，在設計機器 人時從一開始就讓它是良性的。因為我們是這些機器人的製造者，我們將 設計它們，從一開始就讓它只執行有用的和慈善的任務。

「友好的人工智慧」這個術語是埃利澤?尤德科夫斯基（Eliezer Yudkowsky)發明的,他是「人工智慧奇異性研究所」的奠基人。「友好的人 工智能」與阿西莫夫的定律略有不同。阿西莫夫定律是強加給機器人的， 也許違背它們的意志。（阿西莫夫定律是從外界強加的，實際上是選擇靈 巧設計的能防止不利情況發生的機器人。）相反,在「友好的人工智慧」中， 機器人是不受限制的，可以謀殺和傷害。沒有什麼規則強加人為的道德。 而是，這些機器人從一開始就要求它幫助人類而不是毀滅他們。它們被選 定是慈善的。

這樣就產生了一個叫做「社會機器人」（social robotics)的新領域，設計 機器人使它們有素質，能讓它們融合到人類社會中。例如，漢森（Hanscm) 機器人技術公司的科學家說廣他們研究的一個任務是設計能夠融入社會 的機器人，能愛，能在擴大的人類家庭中有一席之地。」

但是所有這些方法都有一個問題，這就是到目前為止軍事部門是人工 智能系統最大的資金提供者，並且這些軍用的機器人是專門設計用來搜索、 追蹤和殺人的。我們很容易想像將來的機器人士兵的使命就是要識別敵 人，並且分毫不差地消滅他們。這樣,我們不得不格外小心，保證這些機器 人不要調過頭來對準它的主人。例如，捕食者無人駕駛飛機是由遙控操作 的,人要不斷地指示它們的飛行。但是有一天，這些無人駕駛飛機也許是自 治的,能夠按它的意志選擇和選定目標。這種自治飛機一出故障就會導致 災難性的後果。

然而在將來，越來越多的機器人資金將來自民用商業部門，特別是日本，在日本機器人是設計用來提供幫助的，而不是破壞。如果這個傾向繼 續,那麼「友好的人工智慧」就會變成現實。在這種情況下，消費部門和市 場力量將最終支配機器人，因此投資「友好的人工智慧」將有巨大的商業 利益。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！