霍金生前的最後警告：人工智慧將毀滅人類！果真如此嗎？

天下 08-15

AI最可怕的事就是它太像人類 —— 彼得.沃茨.《盲視》作者

雖然史蒂芬·霍金已經去世快半年了，但是他的觀點，他的思想都還在不斷的影響著我們，這其中就包括他那些「語出驚人」的神預言。

其中最能引發熱議的是霍金生前對人類留下的最後警告：人工智慧會毀滅人類！

他與埃隆·馬斯克、比爾·蓋茨大概是最著名的三個「人工智慧威脅論」支持者。霍金在多個場合，表達了對人工智慧將會全面取代人類的擔憂。

2014年霍金接受BBC採訪時說：「人工智慧的全面發展將宣告人類的滅亡。」

2015年1月份，霍金和埃隆·馬斯克，以及許多其他的人工智慧專家簽署了一份題目為《應優先研究強大而有益的人工智慧》的公開信，警告人工智慧的軍備開發可能會助長戰爭和恐怖主義，成為人類的災難。

那麼人工智慧是否值得我們信賴？人類創造的AI最終會摧毀自己嗎？

當人們看到機器人像人類一樣做出反應，或者電腦表現出策略和認知遠高於人類的高度時，他們有時會開玩笑說，人類需要接受機器人未來的霸主地位。但在這個笑話中我們可以看出一股不安。人工智慧未來是否會危及人類存在？

從2004年，由美國演員威爾史密斯主演的《機器公敵》，直至2016年，HBO發行的科幻類連續劇《西部世界》，現已出第二部。

無論是《機器公敵》人工智慧維基的叛變，還是《西部世界》機器人樂園裡機器人反抗人類的奴役，都在提醒我們警惕人工智慧。

當然也有觀客會不屑一顧，表示這些只是影視作品，在現實中是不可能發生的。但我們現在反觀現實看一看，現今，前有阿爾法GO與排名世界第一的世界圍棋冠軍柯潔對戰，以3比0的總比分獲勝，後有面向中學生的AI教材——《人工智慧基礎（高中版）》入駐高中課堂。人工智慧已經遠超人類的想像，慢慢潛伏並迅速融入了人們的生活中。在不遠的未來，人類可能由於過度依賴人工智慧而在離開人工智慧後無法過活。

如果人工智慧秉持艾薩克·阿西莫夫所提出的機器人學三定律且不產生自我意識，不威脅至人類本身，那麼人工智慧是可以與人類和平共處的。

但是若人工智慧被植入人類的意識判斷機制及外界知識後，假設當人工智慧的操作與人類相悖，在矛盾中可能產生自覺意識，人工智慧亦有可能進化，並逐漸以群居形式擺脫人類的奴役，建設屬於人工智慧自己的家園。我們都知道人工智慧錄入了人類的知識架構，但是人工智慧如何去理解知識、選擇知識卻是沒有明確答案。而若雙方爆發戰爭，在各方面遠超人類的人工智慧極有戰勝人類，人工智慧最終反過來奴役人類，甚至滅絕人類。您可能說，不一定，或許人類會和人工智慧和好相處。雖然本人也是如此期望的，但是根據人類發展的歷史來說，恐怕被奴役的可能性會更大。

據劍橋大學考古系教授保羅邁拉爾斯的推測，早期智人（即人類）的壓倒性數量優勢迫使尼安德特人遷往更難發現食物和庇護所的地方，最終伴隨著4萬年前歐洲大陸的氣候惡化，尼安德特人逐漸滅絕。尼安德特人曾統治歐洲大陸十五萬年，卻被智人短短几千年的時間趕到了歐洲西部的一角直布羅陀，直到尼安德特人滅絕。若人類最終真的要面對人工智慧「造反」這一境況時，恐怕會重蹈尼安德特人的結局。

伴隨著人工智慧大腦的不斷開發，機器人在身體結構、知識領域以及行動速度上都是人類所不能匹及。一旦機器人真的發生暴動革命，人類將毀於旦夕。

但康奈爾大學計算機科學系副教授基利安·溫伯格卻不這樣認為，在生活科學雜誌對其的採訪中，基利安·溫伯格表示比起人工智慧產生自我存在意識並毀滅人類，更可怕的是有可能不法之徒利用人工智慧造惡。

溫伯格指出，對人工智慧會發展意識並推翻人類的擔憂是基於對人工智慧的誤解。AI是在非常特定的條件下運行的，這些限制是由支配其行為的演算法定義的。人工智慧的技能是以類型為準，因此某些任務對人工智慧來說相對容易完成。這意味著，雖然人工智慧可能能夠在人類精心劃定的領域內做出令人印象深刻的壯舉，例如阿爾法狗與柯潔的比賽。人工智慧在意識這一領域中長期內不會有任何進展。

最為可怕的是人為意圖。幾乎任何類型的機器或工具都可以用於好的或壞的目的，這取決於用戶的意圖。例如在武器中加以人工智慧，無疑是令人恐懼，並急需政府嚴格監管。

拋開對於人工智慧的恐懼來說，如果人工智慧缺乏意識，那麼人工智慧無疑是人類最好的夥伴。例如，增強的圖像識別演算法可以幫助皮膚科醫生識別出潛在癌變的痣；自動駕駛汽車告訴他路段堵塞程度等等；線上零售已經和AI深度融合。在京東商城等多款購物APP上,用戶除了可以用文字搜索商品,也可藉由圖片識別技術實現圖片搜索、拍照搜索。在選購過程中,用戶可以啟動智能購物助手進行導購,推薦相似商品,提供購物策略，AI客服能夠全天候為用戶解答各種問題。AI技術還可以應用於蟲害預防,通過精準的小範圍長時段天氣預報，根據濕度和溫度,判斷出接下來兩周會不會有蟲害、有哪些種類蟲害,進而幫助蟲害地區農民買到對症的農藥。