康樂富：為什麼要警惕人工智慧的侵襲！

新年伊始，讓我們把目光投向人工智慧——剛剛過去的2017年，基礎研究領域的硬體、演算法提升，與結合產業發展的技術應用，讓人工智慧發展迎來又一輪高潮。「機器能像人一樣思考和行動」拓展了整個社會的想像力邊界。

十九大報告提出，「推動互聯網、大數據、人工智慧和實體經濟深度融合」。當前我國人工智慧的發展水平處於什麼階段，在行業領域的應用進展如何？本版就此策划了一組「聚焦高質量發展·關注人工智慧」系列報道，從行業專家、資深從業者、普通消費者的角度，向讀者全方位展示快速發展中的中國人工智慧圖景。

人工智慧（ArtificialIntelligence，簡稱AI）一詞是約翰·麥卡錫在1956年達特茅斯學院暑期會議上的一次創造，此後人工智慧幾經沉浮：人們曾對它充滿熱望，也因為看不到它的發展前景，給予冷遇。在過去的60年里，人工智慧經歷了多個寒暑交替，最近一次低潮發生在日本第五代機計劃的破產，人工智慧領域再次進入冬天，直到1997年深藍戰勝國際象棋冠軍卡斯帕羅夫，出現了一次高潮。

預測未來:人工智慧帶來的威脅

人工智慧正在為你的工作而來。為了保護你的職業，最好去做那些機器不擅長的工作，比如說涉及到人、不可預測或是需要創造力的工作。我們要避免去做那些在可預見的環境中自動消失的重複性或結構化的工作，比如電話推銷員，倉庫工人，收銀員，火車操作員，麵包師或流水線廚師等等。卡車、公共汽車、計程車和uber/lyft的司機可能很快就會被取代。除此之外還有許多職業(包括律師助理、信貸分析師、貸款官員、簿記員和稅務會計師)，雖然他們沒有被列入將被取代的名單之中，但他們的大部分工作都是自動化的，因此需要更少的人力。

人工智慧正變得越來越廣泛。如今的人工智慧主要是狹義的智能，即完成一組小目標的能力，比如下棋或駕駛，其表現有時比人類好。相比之下，人類擁有真正的智力，即完成任何目標的能力，包括學習。人工智慧的最終發展目標是通用人工智慧(Artificial General Intelligence：AGI)，即和人類一樣完成任何智力任務的能力。許多領先的人工智慧研究人員認為，我們離AGI只有幾十年的時間。

人工智慧可能會讓我們遠遠落後。正如英國數學家Irving J. Good在1965年所解釋的那樣：「使一個超智能的機器被定義為一台能夠遠遠超過人類智力活動的機器，無論它多麼聰明。」由於機器的設計是一種智力活動，一台超智能機器可以設計出更好的機器。毫無疑問，這將會是一場「智力爆炸」，而人類的智慧將遠遠落在後面。因此，第一款超智能機器是人類需要製造的最後一項發明，前提是機器足夠溫順，能夠告訴我們如何控制它。

們需要人工智慧安全研究。為了確保人工智慧在對社會的影響日益增強的同時，還需要更多人工智慧安全的研究。例如，我們怎樣才能將今天漏洞百出的計算機變成我們真正信任的、強大的人工智慧系統呢？如何讓機器學習、接受和保留我們的目標？

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！