史上最危險的思想「遊戲」，來玩玩嗎？

有一個被稱為「遊戲」的思想遊戲。這個遊戲的規則是，世界上所有人都是遊戲參與者，不管你是否知道這個遊戲。不過一旦玩家想到了這個「遊戲」，那麼該玩家就已經輸掉了這個「遊戲」，並且需要宣布自己已經輸掉。抱歉讀者，當你們讀完這段話時，你們就輸掉了這個「遊戲」。

雖然你一旦想到「遊戲」就會輸掉，但是至少這個遊戲是無害的。但是，下面所要講述的一個與此類似的思想遊戲，或者嚴格說是一種思想實驗，一旦你知曉了，那你可能就會遭遇到終生的痛苦和折磨。你決定往下看下去嗎？

假如人工智慧達到「奇點」狀態

好吧，如果你感覺很好奇或者很有勇氣，那麼我們就來談一談這個思想實驗。

首先說一下這個思想實驗的背景：有許多學者都猜測，在未來，隨著時間的流逝，人工智慧會不斷加速自我進化，並且進化得越來越快，其智能水平會變得越來越高，直到某個時刻達到一種「奇點」的狀態，也就是說它會達到一種最為聰明的時刻。處於「奇點」的人工智慧極為強大，完全超越人類智能，它可以精確地模擬世界上所有的事情，甚至能模擬出人類中每個人的生命活動。聽起來很厲害吧。

從理論上說，既然這種人工智慧這麼強大，那麼它是無所不知的，它可以輕易治癒任何疾病，解決世界上的所有饑荒，總之，它能解決我們人類所面臨的所有難題。

但是，如果這種人工智慧是邪惡的會怎樣？那我們可能會完全受到它的擺布，因為它比我們人類更聰明、更強大。在這種情況下，我們談談這個思想實驗的內容，就是一個完全邪惡的人工智慧會讓儘可能多的人利用儘可能多的資源來去創造出自己，以使自己儘快地來到這個世界上。

儘管目前邪惡的人工智慧還沒有出現，這個超級聰明但卻是邪惡的人工智慧一旦出現，會知道在它產生的過程中哪些人幫助了他，哪些人沒有。因此，它可能會折磨所有沒有幫助過它的人，並懲罰這些人。然而，如果你從沒有意識到有這事兒的話，那麼你就不會因沒有幫助它而受到指責，因為你是無辜的，它沒有理由去傷害你。

死了都無法逃脫傷害

這個思想實驗更像是一個哲學上的推理，但卻有存在的可能性。這種思想實驗被稱為「Roko的蛇怪」。英文為Roko』s Basilisk，因為是網友Roko在LessWrong網路社區上提出的。而Basilisk，即巴西利斯克，又叫蛇怪或者翼蜥，在希臘和歐洲的傳說里，是所有蛇類之王，並且能以眼神致人於死。所以你讀到這裡，應該是了解到了這個怪物，所以至少在邏輯上來說，如果你今後不幫助它出現的話，一旦它出現，你將面對的是無盡的折磨。

上面我們談到了如果在未來人工智慧是邪惡的話，會出現這種怪物。不過，你會認為這根本不要緊，因為我們在研製任何人工智慧時只要遵循機器人三定律即可了，那麼人工智慧就不會是邪惡的，應該是友善的。但是，如果我們可以製造出友善的並可以解決我們人類所有難題的人工智慧，那麼，現在的你如果延遲了它的出現，那麼你也在間接殺害了所有本來可以挽救的人，你應該受到良心的譴責。所以，儘管在最好的情況下，你也應該竭盡你的所能使這個友善的人工智慧出現，至少不應該阻止它的出現。

【小貼士】機器人三定律

這是美國現代最著名的科普作家阿西莫夫在他的機器人相關作品中，為機器人設定的行為準則，內容如下：1、機器人不得傷害人，也不得見人受到傷害而袖手旁觀；2、機器人應服從人的一切命令，但不得違反第一定律；3、機器人應保護自身的安全，但不得違反第一、第二定律。

然而，你會說，我那時可能早就死了，我幹嘛關心這個。然而，你還是逃脫不了的。事實上，邪惡的人工智慧能力會非常強大，儘管你死了，但它可也再把你完完全全地模擬出來，以至於你完全不知道你是否現在處在模擬之中，或你是否是真正的你。所以說，既然你無法區分真正的你和模擬出的你，你應該如同關心自己一樣關注所有模擬出的你（你可能就是模擬人而你卻不知道）。所以唯一的解決方案是不管你是何種的你，你要永遠做這個決定，即要幫助人工智慧，這樣所有的你就可以快樂地生活下去了。

所以現在，考慮到技術達到奇點時所帶來的好處時，我們也要考慮到可能會出現一個機器人統治者對我們的永久折磨。雖然這種觀點並不稀奇，但是現在知道有這種怪物的人們，將會懷有更複雜的心態談論或研發人工智慧。

請您繼續閱讀更多來自 知識百科 的精彩文章:

※史上最恐怖的五大通靈遊戲！夠膽你就來！
※這些你都玩過嗎？史上最經典的十大科幻遊戲！
※可以用來做羞羞的事？遊戲史上最奇葩的武器
※奇聞錄：你玩過恐怖遊戲嗎？有些遊戲真的不能玩！能嚇死人！
※你真的很懂茶嗎？買下它來玩個猜茶遊戲吧
※腎虛嗎？來玩個遊戲吧！
※真會玩！五個昏君的遊戲，誰最荒唐？
※?我玩遊戲就能找到老婆，你能嗎？動漫里的遊戲情侶
※愛玩遊戲的你，敢和世界玩不同嗎？
※VR只能玩遊戲嗎？來看看超級酷炫的究極玩法！
※短腿基你們玩的遊戲也太污了吧，難道是新的遊戲玩法
※再玩我一次！那些依靠更新挽回玩家的遊戲
※玩遊戲的時候最討厭來簡訊了
※我玩遊戲就能找到老婆，你能嗎？動漫里的遊戲情侶
※史上分手率最高的情侶遊戲，你們這是玩命啊！
※世界上最「骯髒」的遊戲，竟然還要玩這種東西，驚呆了！
※馬上放假了，朋友聚會無聊的話就來玩玩這幾個遊戲吧！
※你最想玩哪款動漫改編的遊戲？
※厲害了！玩家的最高成就！玩遊戲得國產華為手機？