人工智慧竟然還暗藏如此大的風險，霍金一席話讓世界徹底沉默了！

人工智慧很可能導致人類的永生或者滅絕，而這一切很可能在我們的有生之年發生。上面這句話不是危言聳聽，請耐心的看完本文再發表意見。這篇翻譯稿翻譯完一共三萬五千字，我從上星期開始翻，熬了好幾個夜才翻完，因為我覺得這篇東西非常有價值。希望你們能夠耐心讀完，讀完後也許你的世界觀都會被改變。

我們正站在變革的邊緣，而這次變革將和人類的出現一般意義重大 – Vernor Vinge如果你站在這裡，你會是什麼感覺？看上去非常刺激吧？但是你要記住，當你真的站在時間的圖表中的時候，你是看不到曲線的右邊的，因為你是看不到未來的。所以你真實的感覺大概是這樣的：

你可能覺得2050年的世界會變得面目全非這句話很可笑，但是這不是科幻，而是比你我聰明很多的科學家們相信的，而且從歷史來看，也是邏輯上可以預測的。那麼為什麼你會覺得「2050年的世界會變得面目全非」 這句話很可笑呢？有三個原因讓你質疑對於未來的預測：我們對於歷史的思考是線性的。當我們考慮未來35年的變化時，我們參照的是過去35年發生的事情。當我們考慮21世紀能產生的變化的時候，我們參考的是20世紀發生的變化。這就好像1750年的老王覺得1500年的小李在1750年能被嚇尿一樣。線性思考是本能的，但是但是考慮未來的時候我們應該指數地思考。一個聰明人不會把過去35年的發展作為未來35年的參考，而是會看到當下的發展速度，這樣預測的會更準確一點。當然這樣還是不夠準確，想要更準確，你要想像發展的速度會越來越快。

個人經驗使得我們對於未來預期過於死板。我們通過自身的經驗來產生世界觀，而經驗把發展的速度烙印在了我們腦中——「發展就是這麼個速度的。」我們還會受限於自己的想像力，因為想像力通過過去的經驗來組成對未來的預測——但是我們知道的東西是不足以幫助我們預測未來的。當我們聽到一個和我們經驗相違背的對於未來的預測時，我們就會覺得這個預測偏了。如果我現在跟你說你可以活到150歲，250歲，甚至會永生，你是不是覺得我在扯淡——「自古以來，所有人都是會死的。」是的，過去從來沒有人永生過，但是飛機發明之前也沒有人坐過飛機呀。