假如世界末日來臨，劉慈欣和江曉原，你選擇吃掉誰？
就在剛剛過去的周末，一則深圳高交會上機器人傷人的新聞在網上熱傳。而在去年，德國大眾汽車廠的一個機器人也殺死了一名工作人員。雖然兩者都表示只是機器故障和意外導致，但還是引發了種種猜測：機器人的「原力」要覺醒了嗎？
這不是人工智慧的話題進入普通人的視野。事實上，在很多科幻迷看來，這甚至是關於人類未來命運的重大命題。比如，作為知名科幻作家和知名科幻影評人，劉慈欣和江曉原曾經有過一場激烈交鋒的對話，題目是《為什麼人類還值得拯救》。
不可否認，在你還沒分清楚VR、AR、AI有什麼區別的時候，機器人似乎卻「進化」得比你要快。
Promotional
比如，在俄羅斯的彼爾姆，一隻名為Promotional的機器人在一周內兩次從實驗室「出逃」。工程師兩次嘗試為它重新編程，但都失敗了。再比如，今年2月，荷蘭誕生了由一對機器人實際「交配」產出的第一個後代。它們可以自己選擇伴侶，通過Wi-Fi發送自己的基因組，並隨機產生新的基因組，通過3D印表機產生出後代。
怎麼樣，你是不是突然間發現，人工智慧的發展已經超出了自己的想像？你以為只存在於科幻電影里的未來生活，有一部分已經成為了現實。而去年，谷歌旗下的Boston Dynamics研發的人形機器人Atlas和機器狗Spot遭受測試人員各種踹踢的視頻則引起了一部分人的恐慌，人權主義者甚至開始呼籲，停止虐待機器人。
那麼問題來了：我們應該如何看待機器人？它們會明白自己在「受虐」併產生反抗嗎？它們會像《黑客帝國》那樣發展出自我意識嗎？這對人類又有什麼影響？
我們請到了國內第一位對科幻進行科學史研究的學者江曉原，來回答這些問題。
去年，江曉原出版了《江曉原科幻電影指南》一書，這是國內第一本學者對科幻的深度解讀。他說科幻的使命並不是描述美好未來，黑暗終將並很快就會降臨。
人物介紹
江曉原，1982年畢業於南京大學天文系天體物理專業，1988年畢業於中科院自然科學史研究所，中國第一個天文史專業博士，現任上海交通大學講席教授，科學史與科學文化研究院院長。
Q & A
1
從你的言論來看，你對人工智慧的態度是悲觀的。哪些問題讓你感到擔憂？
我的觀點是根本不要發展，無論從近期到遠期都是有害的。這裡談論的是追求高級智慧的人工智慧，不包括所謂「低端智能的系統「，比如收銀系統、機場流控等。後果有三：
第一，大量的人會失業，許多勞動會被計算程序取代，包括像你這樣寫稿的人。而高失業率會導致社會體制的崩潰。
第二，當機器人越來越接近高智能，反叛就會不可避免。有人認為可以替它們設定道德準則，我的回答是，你能保證自己的孩子一定不會學壞嗎？事實是，人類中不可避免地有一些後代在學壞，儘管一直有老師和家庭的道德灌輸。而比人類更為聰明的智慧體系，是更不會聽命於你的。
第三，假定以上兩條都不會發生，會怎麼樣呢？大家都知道阿西莫夫提出的「機器人三定律」，但除此之外，他還曾提出過另外一個觀點：所有依賴人工智慧的文明都要滅亡。一個極其乖順而又無所不能的人工智慧體系，這不正是今天研發者們所嚮往的嗎？但是這會從根本上消解人類生存的意義。你會從體能和智能上都迅速墮落，成為人工智慧的寄生蟲，面臨隨時被清除的命運。
2
你認為發生危險的警戒線會出現在什麼地方？
原來我也曾經設想過會有一條這樣的線，比如劃分所謂低級智能和高級智能。但後來發現，從技術上來講這條線是很難劃分清楚的。而且真正致命的紅線已經被越過了，那就是人工智慧與互聯網的結合。在阿西莫夫的時代互聯網還沒有出現，個體機器人的智能會受到物理極限的制約，但現在任何和互聯網連接的機器人，都有可能在瞬間變成超級人工智慧，就像電影《超體》，最後成為了神。而這樣的過程在幾分鐘內就完成了，遠不是人類有能力控制的。
3
科學發展需要按照什麼速度，到什麼程度，究竟應該由誰決定？
據說當年在美國關於超導超級對撞機的爭論中，一位國會議員提出一個問題：「我們能通過這種機器找到上帝嗎？如果能，我將為它投上一票。」這個項目下馬的重要原因之一，就是工程耗資巨大且爭議不斷，而科學家卻沒能將它的益處向公眾解釋清楚，因此看起來就像某些物理學家一件極盡奢華的大玩具。當社會進步到一定程度時，科學會不可避免地從被頂禮膜拜的對象，變成由公眾從納稅人角度評判的對象。如今，科學界的競爭已經變成了一場被挾持的軍備競賽。我能想到最理想的狀態是，全球大國坐下來談判，簽訂關於限制人工智慧發展的協議，就跟核軍備一樣。因為你無法叫一個國家單獨停下來。
4
你如何看待機器人的倫理問題，機器人是人嗎？我們該如何對待它們？
在科幻電影的經典之作《銀翼殺手》中，糾纏在殺手德卡德身上的一個重要主題，就是仿生人的人權問題：巴蒂這樣優秀的仿生人，富有藝術修養，有著高尚人品——連陷入絕境的敵人，他都願意伸出援手救一命，這樣的人卻沒有人權，而且只有四年壽命。人權究竟依據什麼來獲得？是依據生物學上的「出身」，還是依據人性，也就是文化？這個問題也可以延伸為「機器人的人權」或「克隆人的人權」，在《機械公敵》、《逃出克隆島》等電影中都涉及了。
人類如何對待一個物種，取決於對其文明程度的判斷。比如我把紙杯捏碎了，你最多覺得我有點怪癖或者有點情緒。但如果你這樣對待一隻貓，那就是虐待，會引起義憤。這是因為在人類的眼中，貓的等級比較高。同樣，如果你認為機器人的等級和貓狗在同一級，那麼就會認為測試人員的行為是虐待，否則只是一個普通測試。這取決於機器人的智慧等級、社會共識還有個體的認知。
這個問題還不是最尖銳的。《機械公敵》里機器人僕人有意圖地把主人殺害了，但機器人公司說是故障，不是謀殺，因為謀殺得有主體。最後罪名並不成立。這其中扯皮的空間是很大的，會帶來一系列法律上、經濟上的問題。
5
哪些科幻片或科幻小說符合你對人類未來的想像？人類未來的災難會來自何方？
所有我評價很高的科幻作品，都描繪了一個黑暗的未來。西方的主流科幻作品100年來一直都是這麼做的，它們不負責美好的幻想。凡爾納的作品之所以長期在中國受到優待，是因為他的作品是停留在這種傳統形成以前的，但後來凡爾納本人也開始反思這一點。人類未來的威脅一定來自於科技發展。我甚至擔心在我有生之年，就會看到人工智慧帶來的災難。考慮到我已經過了60歲，我真心希望自己看不到這樣的一天。提起「創新」兩個字，所有人都是無條件贊成的，好像它本身就是真理的化身，但是其實許多創新都是有害的。你就想想，用傳統的方式過一年的話會怎樣呢？不會過不下去的，也許只會更健康。
6
那麼地外文明是否會給人類帶來災難？人類應當主動接觸它們嗎？
在小說《三體》中，尋找地外文明成為各國軍方秘密競賽的項目。雖然故事是虛構的，但它提出了一個非常具有實際意義的問題。這就要說到著名的SETI（Search for Extra-Terrestrial Intelligence，地外文明探索）項目了。這是一個真實的項目，始於1960年。70年代末，NASA曾正式採納了兩種SETI 計劃給予資助，但幾年之後資助終止。不過此後SETI項目一直餘響不絕。
SETI項目的根本目的，是要設法和外星文明取得聯繫。找不找得到，好像只是「科學技術問題」，但是更嚴重的問題是：萬一真找到了外星人怎麼辦？如果外星人對我們不友好，我們將如何應付？很多受過技術訓練的人，容易有一種「唯技術主義」的傾向，但是技術實現後會帶來什麼後果，事先都沒想過。
按我個人的意見，SETI項目至今沒有找到外星文明，也不失為一件幸事。我認為現在不應該再繼續進行這樣的項目了，就像現在不應該搞「克隆人」、人工智慧之類的項目一樣。人類的當務之急，是尋找一個在有限地球資源約束下可持續發展的方案，在這個前提下儘可能地延續我們的文明。
7
你和劉慈欣在2007年有過一場激烈交鋒的對話。這麼多年過去了，大家的觀點有什麼變化嗎？
大劉是一個科學主義者。他和我的個人關係非常好，但他的有些觀點我是不贊同的。比如，他認為人類的終極目的是生存繁衍，為了生存在極端情況下可以毫不猶豫地把身邊的美女吃掉。那個對談的標題是我改的：《為什麼人類還值得拯救》。因為如果都像他那樣，人類就不值得拯救了。又比如，他贊成在人們腦子裡植入晶元，這樣就可以完全聽命於政府，團結抵抗災難，我說這種行為本身就是災難，遠的災難還沒到，近的災難已經來了。如果人的思想可以操控，那還是人嗎？其實人類有很多種情況下都是不值得拯救的。
我們今天覺得人類比一切動物都高級，不僅僅是因為智慧和科學技術，還包括了人格的優越性，要是你的行為不符合人性，存在就沒有意義，這樣就會很快墮落到動物中去。
而大劉對人性是悲觀的，他認為人性有很大的弱點，所以在他的小說里人類文明都完蛋了。最殘酷的一段是第二部的結尾「黑暗之戰」，艦長章北海一聽到地球淪陷了，先對自己唯一的一艘友軍艦艇下手。這就是大劉要吃掉美女的邏輯延伸，也是他思想中最黑暗的一點。當然我還是覺得第二部是《三體》最精彩的部分，可以把第一部和第三部都刪減併入第二部，整部作品就更精鍊了。
當然《三體》作為一部小說我認為是很有思想性和文學性的，我是給予很高評價的，儘管這種思想本身我並不贊成。但是在國內，他的觀點比較新穎，走的路線和中國大部分科幻作家都不同，很快吸引了大批粉絲。因此這篇對談剛出來的時候，他的粉絲們都痛罵我。
過了9年，最近這篇對談又被人翻出來了，因為傳說《三體》的電影擱淺了。這一回，主張吃我的人少，主張吃大劉的人多多了。因為大劉現在已經走出了科幻迷的小圈子，被大眾所知，而大眾和科幻迷不同，他們看到那麼冷酷的價值觀，是會感到害怕的。
8
一個八卦的問題，《三體》的電影版權為什麼沒有賣給好萊塢？
這是大劉最傷心的一件事，他的腸子都悔青了。對方很早就去找他了，這是中國第一個科幻作家的作品有人來買影視改編權，當時寫科幻的這群人還是比較邊緣，沒有太多話語權。而且當時《三體》剛剛出版不久，大劉自己也不知道火不火，覺得有人願意買就一股腦兒全部賣給了他。當然後來《三體》獲得了雨果獎，大家都很期待可以由好萊塢來拍攝。我一直這樣安慰《三體》的粉絲和期待中國本土科幻大片的人們：經典作品經常會反覆被搬上銀幕，即使一次沒拍好，還可以期待下一次嘛。
趣味投票
假設世界末日來臨，只有三個人活著，劉慈欣、江曉原和一個美女。只有吃掉一個人，才能讓另外兩個活下去。你會支持讓誰活下去，誰被吃掉呢？
?江曉原，他的想法太天真，無法解救和引領人類
?劉慈欣，他的理論太沒人性，不值得拯救
?美女，讓這兩位有思想的男士繼續相愛相殺好了
歡迎大家踴躍留言！島主在線等......
· End·
文字 / 蜻 蜓
編輯 / 喬如月
視覺 / 徐銘遠
往 期 回 顧
TAG:拾貳象島island |
※梁朝偉為何最終選擇劉嘉玲？你不知道的事，原來是這樣的？
※《偶像來了》即將迎來第三季，她們將取代趙雅芝跟劉嘉玲，你會選擇誰?
※華箏那麼好，郭靖怎麼就是不娶她而選擇黃蓉呢？
※假如你是高圓圓，你會選擇古天樂還是吳彥祖？
※假如你到了《海賊王》世界 你會選擇什麼身份活下去呢？
※為什麼張無忌最後選擇了與趙敏在一起而不是周芷若？他為什麼喜歡趙敏？
※炎炎夏日即將來臨，不妨選擇來雙 「賤貓」 拖鞋！
※世界環境日丨原來，你可以選擇這樣親近自然！藍天豚硅藻泥
※海賊王：路飛和羅之間的糾纏，到底是誰選擇了誰！
※《海賊王》如果你是海賊里的一個角色，你會選擇去哪裡？
※如果你是王柏川，你會選擇樊勝美么？
※霍建華沒娶陳喬恩，選擇林心如，原來因為這個！
※《海賊王》女帝說：無論她做錯什麼，都還是會被選擇原諒？
※他等了唐嫣8年，唐嫣卻選擇了羅晉你喜歡他嗎？
※宋江在臨死之前，為何會選擇毒死李逵？
※鹿晗送生日祝福，黃子韜親密回應我愛你，吳亦凡選擇沉默！
※哪個星座是選擇遠離瓜田李下，懂得愛惜羽毛呢？
※洪水來臨，他們選擇的不是錢，而是貓咪
※姬如雪和女帝，最終李星雲會選擇誰