機器人學大師：人工智慧預測的「七宗罪」

作者簡介，Rodney Allen Brooks，世界著名的機器人學家，機器人企業家，澳大利亞科學院院士。以創立了機器人學中的「行動主義方法論」而知名。曾為美國麻省理工大學人工智慧和機器人教授，現為RETHINK機器人公司創始人。

越來越多有關人工智慧和機器人未來發展的預測，瘋狂地將我們包圍——人們對未來人工智慧和機器人會變得如何強大、發展的如何快以及對我們工作產生的影響充滿擔憂。但是，你是否了解，我們對於人工智慧的擔憂，很多是基於錯誤的預測！

錯誤的推斷，有限的想像力和其他一些常見錯誤，會影響我們對未來的思考。

一些有關人工智慧和機器人未來發展的事情瘋狂地將我們包圍——人們對未來人工智慧和機器人會變得如何強大、發展的如何快以及對我們工作產生的影響充滿擔憂。

最近我在MarketWatch上看到了一個故事，說在未來的10到20年間，機器人將取代人們一半的工作崗位。這個故事甚至用了一個圖表來證明他們的數據。

這些說法是荒謬的。例如，由於機器人將接手部分工作，在10到20年內，美國近一百萬平方公里土地上的維修工人將減少到5萬人。然而現在投入使用的機器人又有多少呢？零。 機器人在現實舞台中又露過幾次面呢？零。諸如此類。這樣的故事也同樣適用於人們提到的其他所有情況，例如，有人說90％以上的工作將走向終結，這些實際存在的工作一般都有著特定的工作地點。

對那些根本不會發生的事情的錯誤預測，會讓我們感到恐懼，無論是機器人在大範圍內取代了人類的工作崗位，還是技術奇點和人工智慧的出現，都與我們價值觀截然不同，並且這些事物的出現很可能會摧毀我們的正常生活。我們要避免預測錯誤。但是為什麼人們依舊會產生這些錯誤的預測呢？ 以下，是我發現的七個常見的原因。

1.高估和低估

Roy Amara是未來研究所的共同創始人，未來研究所位於矽谷的智慧中心Palo Alto。 他因他提出的阿瑪拉定律而著名：

我們總是高估一項科技所帶來的短期效益，卻又低估它的長期影響。這短短几個詞中有著許多種含義。一個樂觀主義者可以讀出一種意思，而一個悲觀主義者可以讀出另一種不同的含義。

有一個關於阿瑪拉定律的典型例子，美國全球定位系統。從1978年開始，美國將一顆24顆衛星（現為31顆，包括其備件）發射到既定軌道上。美國全球定位系統旨在使美軍精準發射彈藥。但20世紀80年代差點取消了這個計劃。在1991年沙漠風暴期間，美國全球定位系統被首次使用，幫助軍方獲得了好幾次勝利，大家對這個系統越發認可。如今，全球定位系統的發展證明了阿瑪拉定律中的後半句話——「人們總是低估它的長期影響」，最開始在研發全球定位系統時，並沒有現今的這些用途。我的Apple Watch Series 2 在運行時開啟了GPS，就能夠準確定位、記錄我的跑步軌跡。

對於早期的GPS工程師來說，Apple Watch Series 2的小體積和低價格簡直就讓人難以相信。全球的物理實驗中也運用了GPS，在同步美國電網、保持電網穩定運行方面GPS也發揮了重要作用。它甚至能夠讓大多數實際掌控著股市的高頻交易者們避免災難性的定時誤差。 所有的飛機都在用GPS導航，或是用GPS跟蹤那些因假釋而出獄的人。GPS可以決定哪些種子的變種將種在哪裡，也可以跟蹤車隊中的每一台車，並報告駕駛員的狀態。

由於一個單純的目的，研發了GPS，但是我們很難讓它按照我們所設想的預期工作。現在，GPS已經滲透到我們生活的各個方面，如果沒有了它，我們不僅僅會走丟; 我們還會饑寒交迫、甚至可能會死掉。

過去30年，我們見證了其他類似的技術模式，它們本身擁有著廣闊的發展前景，但人們往往會低估它的長遠影響，結果隨著這些技術的不斷發展，人們逐漸又恢復了自信，最終這些技術的發展超出了他們的期望。 這就是發生在計算、基因組測序、太陽能發電、風力發電、甚至是家庭送貨技術中的真實情況。

20世紀60年代到80年代，人們一再高估了人工智慧的作用，然而，現在我有理由再次相信，人工智慧的長遠影響也有可能被低估了。但在這中間存在著一個問題：長遠究竟是指的多久？ 接下來的六個常見錯誤有助於解釋為什麼人們大大低估了未來人工智慧的發展時間。為什麼人工智慧的未來發展中「未來」一詞的時間範疇被大大低估了。

2.想像的魔力

當我還是個十幾歲的孩子時，Arthur C. Clarke和Robert Heinlein、Isaac Asimov並稱為「三大」科幻作家。但Clarke還是發明家、科學作家、未來主義者。在1962年至1973年間，他提出了三句格言，又被稱為克拉克三定律：

如果一個年高德劭的傑出科學家說，某件事情是可能的，那他可能是正確的；但如果他說，某件事情是不可能的，那他也許是錯的；

要發現某件事情是否可能的界限，唯一的途徑是跨越這個界限，從不可能跑到可能中去；

任何非常先進的技術，初看都與魔法無異。

就個人而言，我應該更加關註定律一中的第二句話，並時刻警惕，因為我比其他人更加保守，我認為人工智慧的發展速度並不會很快。但是現在我想闡述的是克拉克第三定律。

想像一下，如果我們有一台時間機器，我們就可以把牛頓從17世紀晚期傳送到今天來，然後把他放在一個他熟悉的地方：劍橋大學三一學院的教堂。

現在，給牛頓一個蘋果。 然後從你的口袋裡拿出一台iPhone，在打開iPhone並讓它呈現出充滿圖標的明亮界面之後，將這台iPhone交給牛頓。牛頓曾向我們證明了白光是由不同顏色的光線組成的，他用稜鏡將陽光分開，然後再把陽光聚到一起，讓人感到十分驚奇的是，稜鏡這個小物體在教堂的黑暗處竟產生如此動人的色彩。

現在，播放一個有關英國鄉村景色的視頻，然後給他聽一些教堂音樂。再向牛頓展示一個網頁，裡面包含了500多頁有關他偉大理論的個人注釋本（副本），然後教他如何使用手勢來放大文章中的細節。

牛頓能為我們解釋這個小裝置是怎樣完成這些操作的嗎？雖然他發明了微積分，並對光學和重力的相關內容進行了解釋，但他從來沒有對鍊金術中的化學知識進行梳理。所以我認為他可能也會有些困惑，無法解釋這些裝置是如何運行的。這個神秘的事物對他來說沒有什麼不同——但是非常有意義。牛頓也許無法將這些技術與魔法區分開來。要知道，牛頓是一個非常聰明的傢伙。

如果是魔法的話，我們就很難知道它的局限在哪兒。 假設我們進一步向牛頓展示如何使用iPhone照明、拍攝照片、放映電影並記錄聲音，展示如何將iPhone作為放大鏡和鏡子使用。然後再向他展示如何以超快速度和進行多小數位的計算。我們向牛頓展示iPhone自帶的計算步驟，並告訴他，他可以就在三一學院的教堂里和世界各地的人聊天。

牛頓會如何猜測這些設備的功能呢？稜鏡永遠都在工作。他會猜想iPhone也會像稜鏡一樣一直的工作下去嗎？他會不會忽略iPhone需要充電這一點？回想一下，在邁克爾?法拉第誕生之前，牛頓就已經去世了，所以他缺乏對電力的科學認識。如果iPhone可以是無火之光，那麼它是否也可以將鉛變成黃金呢？

這是我們在幻想未來技術的過程中都會遇到的一個問題。如果未來的技術遠遠超出我們現今的理解範圍，那麼我們就無法得知它的局限性。如果未來的技術無法與魔法區分開來，那麼有關這些技術的對錯我們都無法檢驗。

我經常會和人們爭論，我們是否應該對強人工智慧的出現感到恐慌，增強人工智慧（AGI)認為我們將建立一種與人類行為及其相似的自動化的個體。他們告訴我，我對AGI的力量還一無所知。但是這並不是一個好的論據。我們甚至不知道AGI是否可以真正存在。我希望它是存在的——這是我一直工作在機器人和人工智慧領域的動力所在。

但是，無論是作為一個普遍的應用和一個會長期存在的獨立實體，當今社會的AGI研究做得都不算好。很有可能是因為我們在同一件事情上一直堅持著同一種看法，所以導致人工智慧的問題至少已經存在了50年。

所有的證據都表明，到目前為止，對於建立一個人工智慧，我們還沒有形成一個確切的想法。它的屬性是完全未知的，所以誇張點說的話，人工智慧就變得十分神奇了，強大的宇宙是無窮無盡的。

注意有關未來技術的論據，這些論據都十分神奇，人們永遠不會推翻這樣的論據。但這只是一個基於信仰的論據，而不是嚴謹科學論證。

3. 性能VS能力

我們都會根據人們執行某些特定任務中的表現來判斷他們是否能執行一些其他的不同任務。 在一個外國的城市，我們向陌生人問路，她自信地為我們指路，聽起來說的很有道理，繼而我們想我們或許還可以問她一些關於當地公交支付系統的一些事。

現在，假設一個人告訴我們，有一張人們在公園裡玩飛盤的圖片。自然而然地，我們會猜想他或許能夠回答一些有關飛盤的形狀的問題。一個人能把飛盤扔出多遠？ 飛盤能吃嗎？會有多少人將開始玩飛盤？ 一個三個月大的孩子可以玩飛盤嗎？ 今天的天氣適合玩飛盤嗎？

計算機可以給圖像做上標記，如標上「人們在公園玩飛盤」，但計算機沒有機會回答這些問題。 除了給更多圖像做上標記，計算機根本無法回答問題，它們不知道什麼是一個人，不知道公園通常是在室外的，不知道人們的年紀，也不知道不同的天氣會對照片產生不同的影響， 等等。

然而這並不意味著這些系統是無用的; 對搜索引擎來說，它們是非常有價值的。但是到底哪裡出了問題呢。人們聽說一些機器人和人工智慧系統已經可以執行一些任務了。然後，他們會從中推斷出人類做同樣的一件事情時會有什麼樣的表現，這是可以預料到的。然後，人們會將這種推斷歸納的能力應用在機器人和人工智慧系統中。

今天的機器人和人工智慧系統所能做的非常有限， 最重要的，它們還不具有人類的抽象歸納能力。

4.多義詞

Marvin Minsky將那些帶有多重含義的詞語稱作「多義詞」。「學習」就是一個典型的多義詞; 它可以指多種不同類型的經歷。學習使用筷子和學習新歌是兩種全然不同的經歷；學習寫代碼和學習適應一個城市的生活方式也是兩種截然不同的體驗。

當人們聽聞機器學習在某些新的領域取得了長足進步時，他們傾向於把一個人在新領域的學習方式作為一種心理模型，和機器學習進行對比。然而，機器學習非常脆弱，它需要研究人員和工程師進行大量的準備，準備專用的編碼、專用的訓練數據集以及每個新問題領域的專用學習結構。現今的機器學習與人類海綿吸水式的學習完全不同，機器學習是指不必在如外科手術般的改造或專門設計下，就可以在某個新領域取得快速發展。

同樣的，當人們聽說1997年一台計算機擊敗了世界象棋冠軍，2016年擊敗了世界上最優秀的棋手時，他們更願相信這是人類「玩」的一個遊戲。當然了，這些程序實際上並不知道，甚至在他們玩的時候也不知道遊戲究竟是什麼。這些程序比人類更不適應這些遊戲。當人們玩遊戲時，規則的一個小變化並不會干擾他們。但對於AlphaGo或Deep Blue來說，影響卻是巨大的。

多義詞(同時是因此產生的歧義)，使人們誤解了機器在人們所能做的事情上可以做得多好。部分原因源於人工智慧研究人員，更糟糕的是，他們機構的新聞辦公室急於在『多義』概念的實例中取得進展。這裡的重要詞語是「實例」，這個細節很快就會丟失。新聞標題大肆宣揚多義詞，扭曲了人們對於人工智慧如今發展程度、以及它離取得更大成果還有多遠的理解。

5.指數

許多人正在遭受「指數主義」所帶來的嚴重影響。

關於摩爾定律每個人都有一些想法，這表明計算機在clockwork-like schedule方面發展的越來越好了。實際上，Gordon Moore說的是，每年每個微晶元中的組件數量都會增加一倍。50年來一直是這樣，雖然倍增時間一度從一年逐漸延長到兩年多，並且同時微晶元組件數量倍增的這種模式即將結束。

隨著晶元上的組件不斷倍增，計算機的運行速度也在成倍提高。並且每兩年這種倍增都會導致內存晶元的容量翻倍。因為晶元上組件數量不斷的增加，數碼相機擁有了越來越高的解析度，液晶顯示屏的像素也呈指數倍的增長。

摩爾定律之所以有效，是因為它適用於抽象數字的真假問題。在任何給定的電路中，是否有電荷或電壓？答案顯而易見，因為晶元組件越來越小，小到了物理範疇內的極限，我們只得到了少量電子的組件，量子效應開始佔主導地位。這就是我們現在使用的矽片晶元技術。

當人們陷入指數主義時，他們可能會認為這些作為論據的指數數據，將（在任何領域）都繼續保持快速增長。但摩爾定律和其他看似有效的指數定律可能會失效，因為首先它們就不是真正的指數函數，不能無限擴展到任何可進行簡單真假判斷的領域。

回到本世紀初，當我準備將麻省理工學院的計算機科學和人工智慧實驗室（CSAIL）運作起來時，當我需要幫助90多個不同研究團體籌集資金時，我嘗試使用iPod上的內存來對贊助商的連續快速變化進行記錄。 以下是價格在400美元以下的iPod的內存數據容量：

年份 千兆位元組

2002 10

2003 20

2004 40

2006 80

2007 160

然後我推斷出了未來幾年iPod的內存變化，並詢問了一下我們是如何使用這些內存的。

一直推算到今天，我們預計一台價值400美元的iPod具有16萬千兆位元組的內存。 但是今天頂級的iPhone（價格遠超400美元）的內存只有256千兆位元組，比2007年iPod的容量少了好幾倍。一旦內存大到能滿足任何人對音樂庫、應用程序、照片和視頻的基本需求時，這個特定指數就會突然崩潰。當物理限制容量受到威脅時，或者當沒有更多經濟合理的理由繼續拓展內存容量的時候，這個特定指數也會崩潰。

同樣地，由於深度學習的成功，我們可以看到人工智慧系統的性能突然有了大幅度的提高。似乎許多人都認為人工智慧系統性能的大幅提高表示，在未來，人工智慧的表現將定期的穩步提升。但是距深度學習獲得成功已經過去30年了，而且這是一個孤立的事件。

這並不意味著在未來不會有更多的特殊案例出現，人工智慧研究工作的停滯不前突然推動了人工智慧應用的快速增長。 但是沒有一條「定律」說到這種現象多久會發生一次。

6. 好萊塢場景

許多好萊塢科幻電影的情節是，世界就和平常的每一天一樣，除非有了某個新轉折。

在《機器管家》這部電影中，當Sam Neill扮演的Richard Martin坐下來吃早餐時，Robin Williams扮演的一個走路說話都與人類十分類似的機器人就在一旁等待著。早飯後，Richard開始讀報。是印在紙上的報紙，不是平板電腦，也不是來自Amazon Echo的播客，也不是互聯網與神經的直接連接。

事實證明，許多人工智慧的研究人員和專家，特別是那些對人工智慧失控和殺人進行放肆預測的悲觀主義者們，都面臨著想像力的挑戰，但是他們的想像方向卻大相庭徑。

他們忽略了一個事實：如果最終我們能夠建立這樣的智能設備，那麼世界將發生翻天覆地的變化。我們不會突然就對這種超級智能感到驚訝。隨著時間的推移，超級智能將在技術上有所發展，我們生活的這個世界也會因為其他的一些技術而變得更加美好，我們將有很多新奇的體驗——總有中間過程和中間階段正在發生——很久以前有種邪惡的超智能，想要擺脫我們的控制，但是在它們中間總會有那麼一些不太聰明的、不那麼好戰的機器。

在此之前，會有真正狂暴的機器；在此之前，也會有讓人討厭的機器；在此之前，也會有傲慢的不禮貌的機器。我們將在研究人工智慧的過程中改變我們的世界，不斷調整新技術的存在環境和新技術本身。我不是說我們不會遇到挑戰。我是說不會向許多人想的那樣突如其來的發生一些事情，我們都將有相當的時間來做好準備。

7.部署速度

在一些行業，新版軟體的部署非常頻繁。像Facebook這種平台的新功能幾乎每時每刻都在部署。對於許多新功能來說，只要通過了集成測試，如果使用時出現問題，退出版本後，基本上不會產生經濟損失。這是矽谷和網路軟體開發人員習慣使用的手法它之所以起作用是因為新部署代碼的邊際成本非常非常少。

另一方面，部署新硬體卻耗費很大的邊際成本。我們在日常生活中都能發現這一點。我們如今購買的許多汽車，不是無人駕駛汽車，而且大部分是不具有軟體控制功能的，到2040年我們都可能還會使用這種功能。這給大眾車輛要多久才能夠使用無人駕駛汽車增加了一個內在限度。如果我們今天建一個新房子，我們可以想像它大概會存在100多年。我住的房子始建於1904年，但是在周圍，我的房子並不是最古老的。

資本成本讓物理硬體得以長期存續，即便它是高科技產品或是肩負存在的使命，也都要遵循這個規律。

美國空軍仍然使用B-52型的B-52H轟炸機。該版本於1961年推出，距今已有56個年頭。 最後一架轟炸機完成於1962年，僅僅只是55年前。目前，這些飛機預計將繼續使用到至少2040年，也許更長時間——有人說該轟炸機的使用壽命延長可延長到100年。

在世界各地的工廠里我常會看到一些已經用了幾十年的設備。我甚至看到過還在使用Windows 3.0的電腦——一個1990年發布的軟體版本。工廠里的觀念是「如果沒有壞，那就不要修」。那些PC和他們的軟體已經運行了同樣的應用程序，二十多年來，圓滿執行了相同的任務。

在美國，歐洲，日本，韓國和中國，工廠的主要控制機制，包括全新的主要控制機制，基於可編程邏輯控制器（PLC）。這些控制器在1968年被引入以代替機電繼電器。「線圈」仍然是今天使用的主要抽象單元，PLC被編程，好像是一個24伏機電繼電器的網路。

儘管如此。乙太網電纜已經取代了一些直導線。但它們不是開放網路的一部分。而在這些全新的古老的自動化控制器中，它們是單獨的電纜，以點對點的方式體現控制流程（步驟執行的順序）。

當你想要改變世界各地的工廠中的信息流程或控制流程時，你需要幾周時間的諮詢才能確定裡面的內容，重新設計新的配置，然後再由交易員團隊來重裝電線並重新配置硬體。最近，該設備其中的一個主要製造商告訴我，他們的目標是每20年進行三次軟體升級。

原則上，它可以有不同的做法。但是在實踐中則不然。我剛剛看了一份工作清單，即使在今天，特斯拉汽車公司也試圖在加利福尼亞州弗里蒙特的工廠中聘請PLC的技術人員。他們將使用電磁繼電器生產現有的人工智慧增強型汽車。

許多人工智慧研究人員和專家認為，世界是數字化的的世界，單純的使用新人工智慧系統會對這個領域的操作產生潛移默化的影響，這種影響也將滲透到工廠的供應鏈和產品設計之中。

真理勝過一切。機器人和人工智慧中產生的所有創新都將被廣泛地運用到眾多領域之中。

英文原文參閱

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！

本站內容充實豐富，博大精深，小編精選每日熱門資訊，隨時更新，點擊「搶先收到最新資訊」瀏覽吧！

請您繼續閱讀更多來自 價值中國 的精彩文章: