致敬霍金，人工智慧是否會終結人類？

霍金曾預言，徹底開發人工智慧將導致人類滅亡。

2018年3月14日，英國著名物理學家史蒂芬·霍金去世，享年76歲。霍金家人發表聲明，稱他的勇氣與堅持鼓舞了全世界。

巨星隕落，舉世哀悼。

生命最後幾年，霍金將大量的精力投入到對人工智慧的關注中，他一再指出，人工智慧科技在初級發展階段的確為人類生活帶來便利。

但是，機器將可能以不斷加快的速度重新設計自己。而人類則受制於生物進化速度，無法與其競爭，最終被超越。科學界把這種人工智慧超越人類智慧的轉折點命名為「奇點」。

事實上，美國Space X首席執行官、大名鼎鼎的「鋼鐵俠」原型設計者埃隆·馬斯克，微軟創始人兼慈善家比爾·蓋茨，也都警告過要注意人工智慧的「危害」。

麻省理工學院教授、科學家、谷歌、IBM和微軟等企業員工及與人工智慧領域有關的投資者，也聯名發出公開信，表達同樣的憂慮。

如果對人工智慧研究足夠深入的話就一定會遭遇「奇點理論」(Singularity)這一概念。

據說，這一末日般的事件即將來臨，整個人類種族將被徹底消滅，我們都將在前所未有的巨大力量下變成半機器人的存在。

這也被稱為「獃子們的狂歡」(Rapture ofthe Nerds)，類似於某些基督教團體相信在耶穌第二次降臨前會有一場狂歡，所有正義的人們都將瞬間從地球上消失，凡體升華為不朽的身體與基督同在。

如果人工智慧變成威脅……

從人們關注機器開始，奇點理論就一直以假說的形式存在。現代意義上的奇點理論指機器智能有朝一日將超越人類智能。

那時，機器將能夠進行自我編程而變得更加智能，它們也將持續設計更加先進的機器，直到將人類遠遠甩開，人類對於它們而言就如我們眼中的螻蟻一般渺小。

更溫和的解釋就是人類與機器的聯繫越發緊密到無法區分，又或是能力提升到難以想像的強大。

更具毀滅性的境地就是雖然我們沒有能夠設計其他機器人的機器人，但有機器人能不斷完善自身程序來優化某些指定任務的操作。

假設這是一個機器人女傭，有一天，當它已經優化到比人類更智能時，它可能會覺得讓所有麻煩的人類消失，整個屋子就會變得更乾淨。由於太過聰明，它可以在不被人察覺的情況下偷偷摸摸完成一切。

還有一種解讀就是機器人開始擁有自我意識，出於種種原因向人類宣戰。

單個人工智慧有多大可能攻擊人類

人工智慧按照預設程序不斷完善自身能力，但當它發展到一定階段時就可能帶來巨大的災難。假設人們為其設定的任務是製作回形針，因而它的目標就是儘可能快地做出儘可能多的回形針。

一開始的時候，它會優化自身機制，更高效地進行編程，但慢慢它就會意識到這個世界上別的地方還有許多機器並沒有在做回形針。

如果這種意識足夠強大，它也許會操控這些機器來幫助它一起完成任務，這就已經夠令人頭疼了，然而它還有可能覺得試圖阻止它的人類實在太礙事，需要及時處理掉。

在這個世界末日般的故事裡，人工智慧已經變得太過聰明，在思想上甚至超越了試圖阻止它的人類。它們成為了完美的行騙者。

在其操控者意識到出錯之前，它們就已經顛覆了遺傳學實驗室，創造了致命病毒，足以消滅整個人類種族。

沒有了人類的干涉，它們開始肆意擴張，地球上的所有資源都將被用來製作回形針，甚至還將繼續建造星際飛船企圖橫掃宇宙將更多星球變為製作回形針的工廠。正如其他場景一樣，該事件只有在特定情況下才可能發生。

機器必須足夠強大到能承載超級智能，它必須了解如何編出令人信服的謊言，卻又無法認識到人類有能力看出回形針已經太多了。

此外，只有在計算機資源足夠廉價時，我們才會毫無顧忌地利用它們來處理這些瑣碎的問題。如果任務要求高水平智能，在機器開始製作神經毒氣時，操控者就能及時發現。這類場景更可能發生在較小的範圍內。

比如，某個軍用機器人可能覺得消滅村莊中所有恐怖分子的最佳手段就是殺光每一個人。

這無疑是個悲劇，也是重大的國際事件，但這並不會造成人類的終結。

奇點理論的可能性就像有意識的機器一樣，是一個虛假信息問題。

我們現在認識的還不夠，無法判斷這對我們來說到底是不是嚴重威脅。然而，在未來的某個時刻，可能是20年後也可能是100年後，機器終將變得與有生命、能思考的存在別無二致。

它們至少也會和人類一樣聰明，甚至超越人類。伴隨著每一項新科技的發展，威脅、機遇，以及倫理問題都將一一浮現，但在我們能實實在在討論它們之前，還需要等上很長一段時間。

文章內容摘自《極簡人工智慧：你一定愛讀的AI通識書》

內容簡介：

這本書以通俗的語言和有趣的案例帶領你探索人工智慧的世界，全面展示人工智慧的概念、理論框架與應用價值，探討人工智慧的過去和將來，圖文並茂，趣味性強，是人工智慧的第一本通識書。從螞蟻習性談到股票市場，本書將帶領你開啟人工智慧的奇幻之旅。

作者：理查德·溫（Richard Urwin），英國著名人工智慧工程師，AI領域老江湖。他熱衷於角色扮演類遊戲、科幻小說和登山旅行。1975年他開發了第一個人工智慧程序，此後對該領域跟蹤研究40多年的時間。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！