好奇害死貓＆這個世界會好嗎？——貴陽數博會期間，和你聊一聊「人工智慧」那些事兒

上北下南，佐西佑東，古今多少事，都付笑談中。大家好，我是佑東，今天，又輪到我為大家暢談古今。這回我們拉升一下逼格，來聊一個裝逼指數頗高的話題：人工智慧。

1

剛剛過去的5月17日，是第50屆世界電信和信息社會日，今年的主題是：「推動人工智慧（AI） 的正當使用，造福全人類」。大家應該都注意到了，這個主題強調的重點是「正當使用」、「造福人類」，那麼問題就來了，這句話的言外之意，或者說反過來說也就是：人工智慧如果被「不正當的使用」，就有可能不是造福人類，反而會禍害人類。

這當然不是什麼新鮮話題，自人工智慧誕生以來，就一直伴隨著這樣的隱憂，再加上科幻小說、科幻電影的推波助瀾，一時間，關於人工智慧對人類可能產生的威脅，各種議論風生水起、甚囂塵上。著名的太空探索技術公司（SpaceX）CEO兼CTO、特斯拉公司CEO埃隆?馬斯克（注意，不是馬克思哦），就是前幾個月剛剛放衛星——哦，不對，是放火箭上天，向太空「射了一發」的那個牛逼哄哄屌炸天的哥們，就曾經表示，「如果讓我猜人類最大的生存威脅，我認為可能是人工智慧。因此我們需要對人工智慧保持萬分警惕，研究人工智慧如同在召喚惡魔。」就連人工智慧領域的資深專家、美國加州伯克利大學電子工程與計算機系教授斯圖爾特·羅素（Stuart Russell），在達沃斯年會上也曾做了一次大膽的預測，他表示，「在我孩子們的有生之年裡， 人工智慧將取代人類。未來將變得更加危險，反社會的機器人終將會成為人類的威脅。」如果你覺得以上這兩個人還不算太牛B，還不算意見領袖，都是在瞎扯蛋，那好吧，我要放大招了，請幫忙摁住棺材板，我只能請出剛剛過世了的霍金大師，這位超級牛逼的科學大伽來壓軸了——下面我們歡迎「霍老師」隆重登場，請霍老師給我們「講」兩句：「未來，人工智慧可以發展出自我意志，一個與我們衝突的意志。儘管我對人類一貫持有樂觀的態度，但其他人認為，人類可以在相當長的時間裡控制技術的發展，這樣我們就能看到人工智慧可以解決世界上大部分問題的潛力。但我並不確定。」「人工智慧的崛起是人類歷史上最好的事情，也有可能是最糟糕的，但它是最好的還是最壞的，現在還不能確定。」——這個真的是霍老師講的，不信的話我也沒轍，畢竟，那些年打著霍老師的旗號正經八百地胡說八道的段子，實在是多如牛毛啊！這下，你總算相信機器人統治世界、奴役人類這事兒，不說是大概率事件，至少也不是空穴來風、杞人憂天了吧。

嗯，這麼說來，還真是挺嚴肅、挺嚴峻的一個事兒。記得去年約莫這個時候，當同樣牛逼哄哄的柯潔，面對勁敵AlphaGo3:0的輾壓時，我們和柯潔一樣感受到了深深的絕望。就在最近，一年過去了，當這位圍棋天才狂人回憶起這樣一段經歷的時候，他是這樣說的：「我感到渾身都在顫抖，真的，寒冷地顫抖。我再也控制不住情緒，趕緊衝出對局室，找到一個無人的角落裡哭了起來。」但與此同時，這位圍棋小王子也表示：「人工智慧戰勝人類棋手，最開始我們真的是很難接受的。很多人也因此發表了自己的觀點：人類之間的對弈，會因為AI的出現變得沒有意義。我不認同這種觀點,我認為無論AI再強大、再厲害，也無法替代人類棋手對弈給我們帶來的樂趣。」很好，「樂趣」，這就上升到感官體驗的層面了，好吧，我承認，無論贏多少目、多少盤，贏了多麼牛逼的圍棋天才，AlphaGo都是體會不到下棋的「樂趣」的，他也不會有勝利所帶來的「成就感」或是失敗所帶來的「挫敗感」，他也不會有想要不斷勝利和超越的「慾望」。可問題是：他現在的確沒有，但你能保證他將來也不會有、不可能有嗎？這才是細思極恐的終極問題啊！

2

我常想，人類之所以想要爭鬥（甚至戰爭）、想要奴役別人，本質上都是源於慾望——無止境的慾望，那像深淵一樣深邃的慾望，比如食慾、性慾。而慾望又是源於什麼呢？我想是因為「愉悅」，比如美食之香濃、美色之銷魂，說得俗一點，無非是「爽」，就是因為「爽」，才會去「想」。那麼愉悅又是源於什麼呢？我想或許是源於「感覺」，比方說：觸覺，讓我們感受到肌膚之親的美妙；視覺，讓我們觀賞到大千世界的美景；味覺，讓我們品嘗到酸甜苦辣的美食；聽覺，讓我們聆聽到悅耳動聽的美樂；嗅覺，讓我們聞到清香濃郁的美味。因此，我們因感覺而愉悅，又因愉悅而產生慾望，最終因慾望而陷入爭鬥的苦海，無法自拔。這個星球上自有人類以來的歷史，從本質上來講就是一部慾望的爭鬥史，或滿足慾望，或慾望破滅，君不見：劉邦勝了，就「威加海內兮歸故鄉，安得猛士兮守四方」；項羽敗了，就「騅不逝兮可奈何，虞兮虞兮奈若何」！古今中外，概莫能外。

那麼問題實際上就簡化成了——人工智慧（或者直接簡化成講機器人吧），他們會有感覺，會有愉悅，進而會產生慾望嗎？因為按我們上面的分析，如果沒有慾望，也就不會有他「原力覺醒」、想要與人類爭霸的意願和動力了。這個問題，從現在來看，似乎是沒有的，不管科幻電影中將機器人（獸）描繪得多麼可怕，至少到現在為止，還沒有發現說有哪一個機器人會發自他內心地說（或意識到）：這個充電樁充的電比較「香」，或者說，這個「女」機器人長得真好看，我想和她啪啪啪之類。也就是說，人工智慧技術發展到今天，仍然還沒有攻克像「感覺」、「愉悅」、「慾望」等這樣一些情感體驗上的東西，或者把它統稱為「自我意識」。就像我們剛才說到的AlphGo，他可能在演算法上領先我行無數倍，碾壓我們無數次，但他直到目前，也沒有自主的戰勝我們人類的慾望，也沒有戰勝我們後的愉悅感和成就感，同樣他也不會從下棋中體會到像我們一樣的快樂或沮喪。再比如說，我們所熟知的「微軟小冰」，她貌似可以和我們開展「情感交流」，但她的所謂「情感」，都只是一種觸髮式的機械回應，並非是她的真實「意思表示」，這一點，更加大名鼎鼎的「沙特公民」Sophia，也還遠遠達不到。

這麼說來，就意味著我們根本無需擔憂了嗎？恐怕未必，智慧如霍大師那樣的大咖都擔心的事情，想必不是危言聳聽。大家不要忘了，科技發展上還有一個叫「技術奇點」的東西，一旦突破了「奇點」，那技術的進步就是呈難以置信的幾何級數的增長，如果人工智慧技術真的不幸突破了「情感」和「自主意識」這個「奇點」，那人類是否如同打開了「潘多拉魔盒」，陷入前途未卜的迷茫世界，就真的不好說了！

3

未來學家庫茲韋爾曾提出過一個不那麼嚴肅、卻很好玩的理論，叫做「嚇尿指數」，大致含義是講，把一個生活在若干年前的人帶到我們現在的生活環境，他如果被現在的交通、科技、生活狀況嚇尿，那麼這個若干年就是我們這個世紀的嚇尿指數。

百度百科上舉了這樣一個例子：想像一下坐時間機器回到1750年的地球，那個時代沒有電，暢通通訊基本靠吼，交通主要靠動物拉著跑。你在那個時代邀請了一個叫老王的人到2015年來玩，順便看看他對「未來」有什麼感受。我們可能沒有辦法了解1750年的老王內心的感受——金屬鐵殼在寬敞的公路上飛馳，和太平洋另一頭的人聊天，看幾千公里外正在發生進行的體育比賽，觀看一場發生於半個世紀前的演唱會，從口袋裡掏出一個黑色長方形工具把眼前發生的事情記錄下來，生成一個地圖然後地圖上有個藍點告訴你現在的位置，一邊看著地球另一邊的人的臉一邊聊天，以及其它各種各樣的黑科技。別忘了，你還沒跟他解釋互聯網、國際空間站、大型強子對撞機、核武器以及相對論。這時候的老王會是什麼體驗？驚訝、震驚、腦洞大開這些詞都太溫順了，我覺得老王很可能直接被嚇尿了。

但是，如果老王回到了1750年，然後覺得被嚇尿是個很囧的體驗，於是他也想把別人嚇尿來滿足一下自己，那會發生什麼？於是老王也回到了250年前的1500年，邀請生活在1500年的小李去1750年玩一下。小李可能會被250年後的很多東西震驚，但是至少他不會被嚇尿。同樣是250來年的時間，1750和2015年的差別，比1500年和1750年的差別，要大得多了。1500年的小李可能能學到很多神奇的物理知識，可能會驚訝於歐洲的帝國主義旅程，甚至對於世界地圖的認知也會大大的改變，但是1500年的小李，看到1750年的交通、通訊等等，並不會被嚇尿。

所以說，對於1750年的老王來說，要把人嚇尿，他需要回到更古老的過去——比如回到公元前12000年，第一次農業革命之前。那個時候還沒有城市，也還沒有文明。一個來自狩獵採集時代的人類，只是當時眾多物種中的一個罷了，來自那個時代的小趙看到1750年龐大的人類帝國，可以航行於海洋上的巨艦，居住在「室內」，無數的收藏品，神奇的知識和發現——他很有可能被嚇尿。

小趙被嚇尿後如果也想做同樣的事情呢？如果他回到公元前24000年，找到那個時代的小錢，然後給他展示公元前12000年的生活會怎樣呢。小錢大概會覺得小趙是吃飽了沒事幹——「這不跟我的生活差不多麼，呵呵」。小趙如果要把人嚇尿，可能要回到十萬年前或者更久，然後用人類對火和語言的掌控來把對方嚇尿。

所以，一個人去到未來，並且被嚇尿，他們需要滿足一個「嚇尿單位」。滿足嚇尿單位所需的年代間隔是不一樣的。在狩獵採集時代滿足一個嚇尿單位需要超過十萬年，而工業革命後一個嚇尿單位只要兩百多年就能滿足了。

科茲威爾認為人類在21世紀的進步將是20世紀的1000倍，下一個嚇尿指數可能只需要幾十年。結合我們今天的現實，20年前，我們來自農村的小夥伴為了打一個電話，可能要走數十里的山路，而今天，我們可以立即掏出手機，撥通這個星球上幾乎任何一個角落的某一個號碼。20年前，我們從貴陽去北京，需要坐29個小時的88次列車，而今天，高鐵已經將這個行程縮短到了9個小時。通訊和交通，無疑是我們這代人前半生見證和體驗的最為快捷的技術進步，而在我們的後半生，誰能夠保證我們不會見證和體驗到人工智慧技術翻天覆地的進步呢？換句話說，隨著科技的飛躍，下一個「嚇尿單位」極有可能將縮短到幾十年、十幾年、甚至是幾年，而下一個「尿點」，也極有可能是人工智慧技術，也就是說，在我們的後半生，誰能夠保證我們不會被人工智慧「嚇尿」？

4

「嚇尿」其實還好了，我們真正擔憂的，其實並不是人工智慧本身，而是這項新技術帶來的不確定性與可能性。這樣的不確定性，最現實的影響，比如說我們的工作——無人駕駛幹掉了駕駛員（包括但不限於「老司機」）、無人超市幹掉了收銀員、無人銀行幹掉了銀行櫃員，據說，下一步被幹掉的，還會有翻譯、律師、醫生、金融分析師等這樣一些看似高大上的行業。這無疑給我們一些人帶來了一定的職業焦慮感，算是人工智慧給社會大眾造成的最現實的恐慌了吧。

如果只是這個層面，那其實真的無需恐慌，因為無論是替代駕駛員收銀員銀行櫃員，還是替代翻譯律師醫生金融分析師，都只是人類對人工智慧的「控制性」的運用，從這個角度講，非但不應該緊張，反而應該樂見其成、鼓掌歡迎，歡迎它的替代，替代得越多越好，最好把人類所有的體力活和大部分的腦力活都替代了最好，人類每天就只談風月，寫寫詩、畫畫畫、唱唱歌、喝喝酒、打打PAO（你懂的），多爽的事兒，這不就是我們一直夢寐以求的「共產主義」、大同世界嗎？原來竟然是通過人工智慧來實現了！想想都好激動啊！

可事情似乎沒有這樣簡單，就像開篇我們提到的霍大師所講的那樣：「其他人認為，人類可以在相當長的時間裡控制技術的發展，這樣我們就能看到人工智慧可以解決世界上大部分問題的潛力。但我並不確定。」，請注意，劃重點了啊——「但我並不確定」，什麼意思呢？不確定什麼呢？大師「並不確定」 的，是「人類可以在相當長的時間裡控制技術的發展」，也就是說，將來，人工智慧技術的發展，有可能是人類自己也無法控制的！在這段話的開頭，大師其實就已經講了：「未來，人工智慧可以發展出自我意志，一個與我們衝突的意志。」看來，大師也認為，人工智慧是有可能發展出「自我意志」的！那這事可就玩兒大了。

其實，我們對於人工智慧的探索，從本質上講，與我們對外星生命的探索是極其近似的。前者是，我們試圖像「上帝」一樣，創造出一個智慧物種；後者是，我們試圖在這茫茫宇宙中找到像我們一樣，或者跟我們類似的，「上帝」創造的智慧物種。剛好，霍大師也對這後一件同樣充滿了不確定性和可能性的事情，同樣地充滿了焦慮。據說，霍大師也曾警告人類，不要試圖主動去尋找外星人，或過早將地球和人類赤裸裸地暴露在宇宙中，那將是一件很危險的事情。我覺得，霍大師一定看過劉慈欣的《三體》之《黑暗森林》。

但道理是不言自明的——無論是我們試圖創製的，還是我們試圖找尋的，或許都是這個黑暗森林法則里的「禁忌」，從某種程度上講，這兩件事情，我們都是在玩一種危險的「禁忌遊戲」。可是，誰叫我們那麼貪婪、那麼好奇呢？活好難干啊，要是有機器人來都幫我們幹了多好？人類好孤獨啊，要是宇宙中有一個「孿生兄弟」該多好？但是，聰明的，你怎麼能確定，你造出的機器人，一輩子都只是勤勤懇懇地幫你幹活，而不會像覺醒的斯巴達克思一樣突然率眾起義？你怎麼能確定，你找到的（或接待的）外星寶寶，一定是慈顏善目、寬厚仁愛的「階級兄弟」，而不是像哥倫布發現新大陸後的血腥的歐洲殖民者呢？如果是後者，那不正應驗了那句諺語：好奇害死貓嗎？

5

那麼，要不我們就不好奇了，不研究人工智慧了，也不瞎找什麼外星人了，好好過日子了，不好嗎？或許還真做不到。無論是人工智慧的研究，還是外星生命的探尋，還包括基因工程的研究（或者你也可以簡化成是對「長生不老」的研究），都是任何人也阻止不了的科學進步的重點領域和方向。我們人類就像是被設定了目標任務的遊戲角色，一代又一代地、執著地，似乎又是必然地，走向屬於我們的宿命。至於是福是禍，或許真的，只有「天」知道。

我一直以為，人類能否駕馭或被人工智慧駕馭、能否發現或被外星智慧生命發現、能否突破自然壽命的局限，是我們這一代人，所面臨的「三大迷題」。願我們保重身體，都能夠活到謎底揭開的那一天。或許，那是一個「神」的時代，而我們現在，仍然是一個「人」的時代。

1918年的某一日，大儒梁漱溟之父梁濟有感於世事多艱，像自言自語又想是提問兒子梁漱溟：「這個世界會好嗎？」梁漱溟說：「我相信世界是一天天往好里去的。」梁濟點點頭說：「能好就好啊！」說罷出了門。三天後，梁濟投凈業湖自盡。88年後的2006年，美國芝加哥大學著名漢學家、梁漱溟研究專家艾愷（Guy Salvatore Alitto）

教授出版了《這個世界會好嗎——梁漱溟晚年口述》，實話講，我翻過這本書，但的確沒細讀過，不敢妄下結論，但我深信，梁先生晚年最後給出的答案，應該是和其青年時給出的答案一樣的：我相信世界，是一天天往好里去的。

我也願意相信梁老先生的這句話。閑扯了這麼多「杞人憂天」的歪理，最後再引這樣的兩句話來結束今天的「瞎掰」——

人類一思考，上帝就發笑——猶太格言；

同神相比，即使最智慧的人，無論在智慧、美麗或其他方面，都不過像一隻猴子。——赫拉克利特

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！