周志華：嚴肅的研究者就不該去觸碰強人工智慧 | 觀點

撰文｜ 周志華（南京大學教授）

●

　

●

　

●

近來「人工智慧」很熱，關於「強人工智慧」的一些討論也見諸於網媒報端。作為一名人工智慧研究者，在此談點粗淺的看法僅供大家批評。

關於人工智慧，長期存在兩種不同的目標或者理念。一種是希望借鑒人類的智能行為，研製出更好的工具以減輕人類智力勞動，一般稱為「弱人工智慧」，類似於「高級仿生學」。另一種是希望研製出達到甚至超越人類智慧水平的人造物，具有心智和意識、能根據自己的意圖開展行動，一般稱為「強人工智慧」，實則可謂「人造智能」。

人工智慧技術現在所取得的進展和成功，是緣於「弱人工智慧」而不是「強人工智慧」的研究。正如國際人工智慧聯合會前主席、牛津大學計算機系主任邁克爾·伍德里奇

(Michael Wooldrige)

教授在2016年CCF-GAIR大會1報告中所說：強人工智慧「幾乎沒有進展」，甚至「幾乎沒有嚴肅的活動」

(「little progress, little serious activity」)

。事實上，人工智慧國際主流學界所持的目標是弱人工智慧，也少有人致力於強人工智慧。那麼，這是不是因為強人工智慧「太難」，所以大家「退而求其次」呢？不然。事實上，絕大多數人工智慧研究者認為，不能做、不該做！

?

牛津大學邁克爾·伍德里奇教授

首先，從技術上來說，主流人工智慧學界的努力從來就不是朝向強人工智慧，現有技術的發展也不會自動地使強人工智慧成為可能。

不妨看看現在人工智慧技術所取得的成功。在圖像識別、語音識別方面，機器已經達到甚至超過了普通人類的水平；在機器翻譯方面，便攜的實時翻譯器已成為現實；在自動推理方面，機器很早就能進行定理自動證明；在棋類遊戲方面，機器已經打敗了最頂尖的人類棋手……可以看出，上述成功有一個共同的特點：它們都是在考慮某種特定類型的智能行為，而不是「完全智能」行為2。一方面，聚焦在特定類型的智能行為上，才使得任務成為可能而非空談3；另一方面，如果目標是製造「工具」，那麼考慮特定類型的智能行為就已足夠，自主心智、獨立意識、甚至情感?之類的東西，根本無須考慮。打個未必恰當的比方，如果人們的目標是造個工具砸東西，那麼造出鎚子來就好了，無須考慮讓鎚子有心智、意識，也不必考慮是否要讓鎚子自己感覺到「疼」。事實上，人工智慧研究活躍的子領域，都是與製造智能「工具」直接相關的；而對「強人工智慧」必不可少、卻與「工具」不太相關的內容，如自主心智、獨立意識、機器情感之類，罕有嚴肅的研究。所以，現有技術即便發展再快、發展再好，也不會直接使得強人工智慧成為可能。

第二，即便想研究強人工智慧，也不知道路在何方。

有一種說法，認為如果能夠模擬出「人腦」，把其中的神經元、神經突觸等全部同規模地仿製出來，那麼強人工智慧就會自然產生。然而，這種說法從來沒有得到過一點點證明，嚴格說來甚至不能稱其為「猜想」，因為猜想也應該有一些即便不夠完備但尚能顯示可能性的證據，例如通過仿製簡單細胞，做出了單細胞智能生物。實際上，我們完全有更強烈的理由認為，即便能精確地觀察和仿製出神經細胞的行為，也無法還原產生出智能行為。正如國際人工智慧終身成就獎得主、多倫多大學赫克托·萊韋斯克

(Hector J. Levesque)

教授在他2017年的新著?中所說，即便在最理想的情況下，神經科學家也僅是能獲得「目標代碼」而已，沒有理由認為獲得了目標代碼就能還原出源代碼，因為這樣的「反向工程」即便對軟體程序來說也幾乎是不可能的，更何況神經細胞內部還存在「分散式表示」?。

第三，即便強人工智慧是可能的，也不應該去研究它。

任何一個科學研究領域或許都存在一些不該去觸碰的東西。例如克隆人是被主流生命科學界所禁止的。強人工智慧的造物將具有自主心智、獨立意識，那麼，它憑什麼能「甘心」為人類服務、被人類「奴役」？有人把阿西莫夫的「機器人三定律」?奉為圭臬，但事實上這是行不通的。且不論三定律自身的矛盾和漏洞?，憑什麼以為有自主心智和獨立意識，且智能全面達到甚至超越人類水平的機器，就不會把這些約束改掉呢？即便它是善意的，人類又憑什麼認為它會同意比它「愚蠢」的人類的判斷？例如它會不會以為把人類全部關進監獄就可以避免人類互相殘殺，這才是對人類整體最好的？至於說，到時候人類如果覺得危險了，可以把機器的電源斷開……這只是開個玩笑吧，真到那個時候，機器恐怕早就能採用其他的方式攝入能源了。總之，強人工智慧出現的那一天，恐怕真的就是人類面臨最大生存危機的時候。所以，對嚴肅的人工智慧研究者來說，如果真的相信自己的努力會產生結果，那就不該去觸碰強人工智慧。

來源：《中國計算機學會通訊》2018年第1期《專欄》，原標題為《周志華：關於強人工智慧》。

周志華

CCF會士、常務理事、人工智慧與模式識別專委主任。

南京大學教授、計算機軟體新技術國家重點實驗室常務副主任。ACM/AAAS/AAAI/IEEE/IAPR Fellow，歐洲科學院外籍院士。

研究方向:人工智慧、機器學習、數據挖掘等

腳註

1、全球人工智慧與機器人峰會，是由中國計算機學會(CCF)主辦，雷鋒網承辦的。此會於2016年8月12~13日在深圳舉辦。

2、人類始終在不斷努力製造出在某個特定方面超越人類自身能力的工具，例如潛艇比人游得深、火箭比人飛得高，但似乎罕有人努力製造既是潛艇又是火箭的工具。類似地，人工智慧研究也是在努力製造出在某種智能行為方面超越人類自身的工具。

3、事實上，「圖靈測試」所考慮的也僅是機器能否「思考」(thinking)，而不是強人工智慧語境下的「完全智能」。

4、人工智慧中有關於「情感計算」的研究，但並非是研究如何讓人造物「擁有情感」。

5、《Common Sense, the Turing Test, and the Quest for Real AI》

6、並非由單一神經細胞對應單一功能，而是諸多神經細胞共同發生作用。

7、一、機器人不得傷害人，也不得見到人受傷害而袖手旁觀；二、機器人應服從人的一切命令，但不得違反第一定律；三、機器人應保護自身的安全，但不得違反第一、第二定律。

8、由於發現三定律有漏洞，阿西莫夫後來補充了第零定律：機器人不得傷害人類整體，或因不作為而使人類整體受到傷害。

製版編輯： 許逸

｜

本頁刊發內容未經書面許可禁止轉載及使用

公眾號、報刊等轉載請聯繫授權

copyright@zhishifenzi.com

歡迎轉發至朋友圈

▼點擊查看相關文章

非虛構寫作

|馬丁之死|蘭花進化謎團|天問專欄

青蒿素

|可燃冰|P值爭論|許晨陽

|博士後

|潘建偉

張毅|王曉東

|張啟發

|崔維成

|

張鋒

|

楊振寧

|

李佩

盧煜明

|

王小凡

|吳文俊

|袁鈞瑛

|

張純如

|劉若川

知識分子

為更好的智趣生活

ID：

The-Intellectual

投稿：

zizaifenxiang@163.com

長按二維碼，關注知識分子

▼▼▼

點擊「閱讀原文」，直達知識分子書店！

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！

本站內容充實豐富，博大精深，小編精選每日熱門資訊，隨時更新，點擊「搶先收到最新資訊」瀏覽吧！

請您繼續閱讀更多來自 知識分子 的精彩文章: