人類受到機器人的威脅只有一步之遙

人工智慧產業的熱潮為什麼會出現？或者這個熱潮能熱多久？

我上課的時候經常跟同學們提一個有趣的問題，就是說牛頓聰明還是我們今天的科學家諾貝爾獎獲得者聰明？是當年的諸葛亮聰明，還是我們當代的軍事家聰明？大家哈哈就笑了，想想還是諸葛亮聰明，還是牛頓聰明。那我們這三百年不是白過了嗎？你這兩千年不是白過了嗎？人類社會進步的標誌是什麼？是不是個體，是不是個體的聰明程度？顯然不是。人類社會進步的標誌是什麼呢？我們學過科技發展史，工具是人類社會發展的主要脈絡。

人類的社會進步基本上分成這樣三個大致的階段，從距今一萬一千年開始，過了三千年，走過來，一萬一千年以前是舊石器時代，一萬一千年到六千年這三千多年是新石器時代，開始使用加工的工具了，距今六千年到三千年是銅器時代，人類是先用銅後用鐵的。然後距今三千年左右的時候呢，開始用鐵器，人類真正的進入農業文明時代，叫做農業社會。當距今三百年的時候，蒸汽機就出現了，隨後，電力出現了，太陽能出現了，各種各樣的新的能源、動力工具出現了，人類進入了工業革命時代。其實工業革命的標誌是能源工具的革命。那麼從1946年第一台電子數字計算機出現，隨後小型機，大型機，個人電腦，然後手機、無線通訊、移動通訊、智能手機，人類又進入了一個信息工具的時代。而且信息工具的革命的速度往往是十幾年、幾年一個周期，那麼人類社會的標誌叫做信息社會。

中國人工智慧學會副理事長、北京大學教授劉宏

所以，我們走過了農業社會、工業社會和信息社會這三個重要的階段，分別經歷了物質工具的革命、能量工具的革命和信息工具的革命，世界是三個過程，物質、能量和信息。那走了一圈以後，人類往哪兒走？人類的工具下一步的革命，下一步的進步在哪裡？好，回到主持人的建議，回到日常生活當中來，比如我想喝一杯開水這樣一個非常簡單的智能服務的需求，真正到家裡要實現的時候，首先一定是要有個機器人，網路可以傳信息，不能傳飲料，不能傳白開水，不能傳物質，它一定是個物質的載體，是個物質的工具。同時，它的運動要消耗能量，要走更優化的路徑，更簡潔的路徑，消耗更少的能量完成一個任務。接下來就是信息，進行複雜的信息處理、感知、傳輸、決策、執行。

我們所期望的智能工具，是物質、能量、信息高度融合的工具，未來的智能社會就是物質能量、信息三者高度融合的社會，人工智慧就是一個新的革命性力量，把這三者很好的結合在一起，更好地為人類服務。

但這並不意味著人工智慧不存在風險，機器人有個概念，叫機器人學的三定律、三原則。最早制定它就是約束機器人，不讓機器人危害人類的。第一條就是，機器人不能傷害人類，或者是無所作為，任由人類受到傷害。第二條原則是機器人要聽人類的話，除非跟第一條產生矛盾。第三條是機器人要保護自身的存在。當然機器人要保護自己，但是有人類受到威脅的時候，它要保護人類，犧牲自己，這就是機器人的三原則。這是不是徹頭徹尾的不平等原則啊，徹頭徹尾的不平等條約，是人類給機器人加上的一個枷鎖。

在實驗室當中實現這三個原則，如果我們的程序發生了一個突變，產生了一個bug，這三個原則的順序發生改變，就是一個致命的情況，人類瞬間就會受到機器人的威脅。在微觀上來講，人類受到機器人的威脅只有一步之遙，非常危險。

回過來現實問題，我們還要不要搞機器人？機器人還能不能走入千家萬戶？我個人的觀點，在技術上是悲觀的，在應用上是樂觀的。我們生活當中就有那麼一種機器，它已經走入了千家萬戶，全世界每年通過它直接殺死的人不止十萬，你們猜到了嗎？汽車，這麼危險的工具，但是已經成為人類生活不可或缺的夥伴，和人類如影隨形了。技術發展就是這樣，機器人也不例外，一定會威脅人類，但是一定會走進人類的日常生活，人工智慧將徹底改變這個世界。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！