AI 預測的七宗致命罪惡

關鍵時刻，第一時間送達！

作者丨Rodney Brooks

譯者丨無阻我飛揚

摘要：作者比較理性和冷靜地分析了AI預測，闡述了AI預測的七宗致命罪惡，文章其實也是表明人類真的不擅長預測。以下是譯文。

錯誤的推斷，有限的想像力，以及其他通常會犯的錯誤，都會使得我們很難更富有成效地思考未來。

我們都被有關人工智慧和機器人的未來的歇斯底里包圍了——這種歇斯底里體現在它們會多快變得有多強大上，以及它們會對工作造成什麼影響上。

我最近看到MarketWatch網站上一篇文章說：在10到20年內，機器人將取代目前一半的工作。網站甚至還用一張圖形來證明這些數字。

這種說法是荒唐可笑的。（我盡量保持專業的語言，但有時…）比方說，這篇文章似乎說：在10到20年內，美國的地面維護工人將會從100萬縮減到只用5萬人，因為機器人會接管這些工作。在這些工作領域，目前有多少個機器人在運行？ 零。機器人在這些領域應用的實際展示案例有多少呢？ 零。類似的故事適用於文章展示圖形中的所有其他的工作類別，我們將看到目前超過90%的工作在某些特定的地方還是需要人類有形的存在。

錯誤的預測會導致大家對那些不可能發生的事情感到恐懼，無論是對工作大規模的破壞，奇點，或者說AI的出現，它的價值觀與我們背離，可能會毀了我們。我們需要扭轉這些錯誤的觀念。但是為什麼人們要製造這些錯誤的觀點呢？以下我概括出了7種導致錯誤預測機器人與人工智慧未來的思維方式。

1、高估和低估

Roy Amara是Palo Alto未來研究院的創始人之一，Palo Alto是矽谷的智慧中心，他最著名的是他的格言，他的格言現在被稱為Amara定律：

我們往往會高估技術的短期影響，而又低估了它的長期影響。

在這寥寥數詞中包含了太多東西。樂觀主義者可以這樣解讀，悲觀主義者也可以那樣解讀。

一個反映Amara定律兩面性很好的例子是美國全球定位系統（GPS）。自從1978年以來，一個有24顆衛星組成的星群（現在包括31顆衛星）被放置到了軌道上面。GPS的目標是為了給美軍的炸彈提供精準的制導。但是這個計劃在上個世紀80年代一次又一次地幾乎面臨夭折。第一個作戰用途是在1991年的沙漠風暴（海灣戰爭）行動期間，軍方由於使用GPS的定位功能取得了更多的勝利。今天的全球定位系統（GPS）是Amara定律所謂的長期的效用，將會如何使用它，在最一開始是無法想像的。我的二代Apple Watch在我外出跑步時，使用GPS，準確地記錄我的位置，足以看出我是沿著街道的哪一邊在跑。現在GPS接收器的尺寸之小、價格之低，對於早期的GPS工程師來說是不可思議的。該技術在全球範圍內同步著物理實驗，在同步美國電網並保持其運行方面發揮著直接的作用。它甚至還能使得真正控制股市的高頻交易商基本不會陷入災難性的計時錯誤中。所有的飛機，無論大小，都是用GPS來導航，它也被用來跟蹤假釋出獄的犯人。它決定著應該在全球的哪一塊地種植哪一個種子變種。它追蹤卡車車隊，報告司機的表現。

GPS從一個目標開始，但讓它達到原先期望的效果卻需要一個漫長而艱辛的過程。現在它已經滲透到我們日常生活的方方面面，如果沒有它的話，我們不僅會走丟，還會挨凍受餓，甚至可能都活不了。

在過去的30年里，我們在其它技術身上也目睹了類似的模式。一開始是很大的預期，然後慢慢地加大信心，超出了我們原先的預計。計算、人類基因組測序、太陽能、風力發電、甚至日用百貨的送貨上門都是如此。

在20世紀60年代和80年代，人工智慧一再被高估，我相信現在又一次被高估，但長遠的前景也可能被低估了。問題是：長期有多長？接下來要討論的六個錯誤有助於解釋為什麼人工智慧的未來被嚴重低估了。

2、想像的魔力

在我十幾歲的時候，Arthur C. Clarke是科幻小說家的「三巨頭」之一，還有Robert Heinlein和Isaac Asimov。但Clarke不僅是一位科幻小說家，他還是發明家，科學作家，同時也是未來學家。在1962年到1973年之間，Clarke提出了三條格言，也被稱為Clarke三定律（他說牛頓也只有3條定律，所以3條對於他來說也足夠了）：

如果一個年高德劭的傑出科學家說，某件事情是可能的，那他可能是正確的；但如果他說，某件事情是不可能的，那他也許是非常錯誤的。

要發現某件事情是否可能的界限，唯一的途徑是跨越這個界限，從不可能跑到可能中去。

任何非常先進的技術，初看都與魔法無異。

就我個人而言，我會對他第一條定律的第二句話比較提防，因為對於AI的發展速度，我要比其他人保守得多。不過目前我來先講Clarke第三定律。

想像一下，我們有一台時光機，可以讓牛頓從19世紀末穿越到今天，把他安置在一個他熟悉的地方：劍橋大學的三一學院小教堂。

現在給牛頓看一個蘋果（不是砸在他頭上的蘋果，而是一個蘋果手機），從口袋裡掏出一部iPhone手機，開機，屏幕亮了起來，然後把屏幕布滿圖標的手機交給他。牛頓揭示了白光是由不同顏色的光線組成的，用稜鏡把陽光光線分開，然後再把它聚在一起，毫無疑問，在黑暗的教堂中，這樣一個小小的物體發出如此鮮艷的色彩，一定會令他感到驚奇。現在再用iPhone手機播放一部英國鄉村場景的電影，然後再播放一些他熟悉的教堂音樂。再給他看500多頁他的巨著《自然哲學的數學原理》的個人注釋副本，教他如何利用手勢操作來放大文字。

牛頓能不能開始解釋這小小的設備究竟是怎麼做到這些的呢？雖然他發明了微積分，並且對光學和重力做出了解釋，但牛頓永遠也無法分辨化學與鍊金術。所以我認為他會感到不知所措，對這台設備究竟是什麼東西，哪怕連一點思路都沒有。對於他來說，這設備與神秘學的化身沒有什麼不同——神學是他非常感興趣的事。在他看來，這與魔法是分不開的。記住，牛頓可是非常聰明的傢伙。

如果有什麼東西是魔法的話，那就很難知道它的局限是什麼了。假設我們進一步向牛頓展示這個設備是如何照亮黑暗的，它是如何拍攝照片、電影以及錄音的，如何將它用作放大鏡和鏡子的。然後我們再向他炫一下這個設備如何以驚人的速度進行算術運算，並可以精確到到小數點以後很多位的。讓他隨身帶著手機，我們甚至還可以給他看看他的走路步數是多少，並向他表明，他可以用手機與世界各地的人們立即進行交談，就在他的教堂里。

牛頓還會猜測面前的這個東西會做哪些事情呢？稜鏡可以永遠工作下去。他會不會猜想iPhone也能永遠像現在一樣工作下去，而不會理解這個玩意需要充電？要知道我們是從邁克爾·法拉第出生前的100年時間將他召來，電的概念還沒有出現，所以他缺乏對電力的科學認知。如果iPhone可以成為沒有火的光源，那麼它是否也能將鉛轉化為黃金呢？

這是我們大家想像未來技術的時候都會出現的一個問題。如果它離我們今天所掌握和理解的技術足夠遙遠的話，那麼我們就不知道它的局限性了。如果它變得與魔法難以區分，任何人說的關於它的說法都不再是可以證明真偽的。

這是我經常遇到的問題，當試圖與人辯論關於我們是否應該擔心通用人工智慧，或者AGI——我們將在這個世界上創造一種可以像人類一樣自治的機器人的想法。我說我不了解AGI會如何強大。那不是一個論點。我們甚至都不知道這樣的東西是否存在。我希望它存在——這一直是我自己在機器人和人工智慧領域工作的動力。但現代的AGI研究做的不夠好，無論是在通用性方面還是支持一個持續存在的獨立實體方面。它似乎主要停留在同樣的問題上，AI在推理和常識方面存在的問題已經至少存在了50年。我所看到的所有證據表明我們還沒有真正有效的想法。它的特性是完全未知的，所以說它很快變得神奇，強大到無極限。

宇宙中沒有什麼是沒有限制的。

要小心那些有關具有魔力的未來科技的論點。因為這些論點你永遠也無法反駁。因為它以信念為基礎，而不是科學依據。

3、表現與能力

我們都使用人們如何完成某項特定的任務的線索去評估他們完成不同的任務會有多麼好。當我們身處在一個陌生的城市，向街上的陌生人問路，她信心十足地回答，似乎有道理的樣子，所以當你想乘公交車的時候，你也可以問她是怎麼付費的。

現在假定有個人告訴我們，一張特別的照片顯示人們在公園裡玩飛盤。我們順理成章地認為這個人可以回答出類似以下幾個問題： 飛盤是什麼形狀的？一個人大體上可以把飛盤扔多遠？人能咬住飛盤嗎？大概多少人可以同時玩飛盤？一個三個月大的孩子會玩飛盤嗎？今天的天氣適合玩飛盤嗎？

能標記圖片象「人們在公園裡玩飛盤」的計算機沒有機會回答那些問題。除此之外，它們能做的只是可以給更多圖像打標籤，根本不能回答問題。它們不知道玩飛盤的人是誰，公園通常是不是在室外，人的年齡大小，以及這個圖片看起來受天氣影響最大等等這些問題都一無所知。

不過這並不意味著這些系統就一無是處；它們對於搜索引擎是很有價值的。但這就是錯誤的地方。人們得知一些機器人或AI系統已經完成了一些任務。然後，他們從這種表現中歸納出一些能力，即一個人執行同樣的任務可能會有的能力。接下來他們將這些歸納應用到機器人或者AI系統。

今天的機器人和AI系統相對於我們能做的事情在能力上是極其狹隘的。人類風格的那種歸納概括並不適用於它們。

4、手提箱單詞

Marvin Minsky稱那些有很多詞義的單詞為「手提箱單詞」。「學習」是一個強大的手提箱單詞；它可以指很多不同類型的經驗。學習使用筷子跟學習新歌的調子當然是非常不同的體驗。學習編寫代碼跟學習在特定城市穿行也會有很大的不同。

當大家聽說機器學習在一些新領域取得了長足進步，他們會考慮在一些新領域的機器學習，他們往往將人學習該新領域的心智模式套用過去。然而，機器學習是非常脆弱的，每一個新的問題領域需要研究人員或者工程師做大量的準備工作，要有特定目的的編碼來處理輸入數據，需要特殊用途的訓練數據，以及定製的學習結構。今天計算機的機器學習根本就不是像人類的那種海綿式的吸收，可以無需進行手術般篡改或者有目的開發的基礎上就能在新的領域取得快速進展。

同樣，當人們聽說計算機能打敗世界象棋冠軍（1997）或世界上最好的圍棋選手（2016）時，他們往往認為機器就像人一樣在「下」棋。當然在現實中這些程序對遊戲是什麼樣以及自己的下法其實是一無所知的。它們的適應性也差得多。人在比賽的時候，規則的一點小改動並不會讓他們迷惑。但是對於AlphaGo和深藍卻截然不同。

手提箱單詞導致大家在理解機器執行人類能做的事情有多好時會誤入歧途。而另一方面，更糟的是AI研究人員所在機構的新聞處則渴望宣稱自己所取得的進展，就是手提箱單詞之於人類的一個例子。這裡重要的是「一個例子」。細節很快就被弄丟了。新聞頭條開始吹噓那個手提箱單詞，並且誤導對AI的一般理解，以及距離實現更多還有多近。

5、指數性

很多人都飽受所謂的「指數論」之苦。

每個人對摩爾定律都有自己的想法，至少知道計算機會像發條般精確地變得越來越快。其實摩爾的說法是晶元可容納的元件數量每年都會翻番。這種情況持續了50年，儘管時間常數逐步從1年延長到2年，而現在它終於走到了盡頭。

把晶元的元件數翻番使得計算機速度也加倍。還使得內存晶元每2年容量變成之前的4倍。這還導致了數字照相機解析度越來越高，LCD屏幕像素呈指數增長。

摩爾定律見效的原因在於它適用於真/假的數字化抽象。在任何給定的電路中，存在電荷或者電壓嗎？隨著晶元組越來越小，答案依然清晰，直到一個物理限制的介入，當非常少的電荷時，量子效應就開始發揮主導作用。而我們的硅晶晶元技術現在就走到這個關鍵節點上。

當人們受到指數論影響時，他們可能會認為他們用來證明自己論點的指數性還會繼續。摩爾定律，以及像摩爾定律這樣的指數定律可能會失效，因為它們不是真正的把指數放在第一位。

回到本世紀初時我正在管理著MIT一家很大的實驗室（CSAIL），需要給超過90家研究小組籌集研究經費，我試圖向贊助商表明iPod的內存增長有多快。以下是關於400美元可以給iPod提供多大存儲的數據：

然後依據此數據，我再向外推幾年詢問兜里這些內存都可以用來做什麼。

如果外推到現在，預計400美元的iPod應該有160000GB（或者160TB）的內存。但是今天最高配的iPhone（售價超過400美元）也只有256GB的內存，還不到2007年的iPod的2倍。當內存容量大到可以容納任何理性之人的音樂庫、應用程序、照片和視頻時，這個特別的指數性就會突然之間崩塌。當達到物理極限時，指數性也會崩塌，或者當沒有更多的經濟理由讓它繼續存在時。

同樣的，由於深度學習的成功，我們已經目睹了AI系統突然有了很好的表現。很多人似乎認為這意味著AI相當於乘數效應的性能提升會繼續常態化進行下去。但其實深度學習的成功是30年不懈努力的結果，沒人能夠預測到這一點。這只是個孤立事件。

這並不意味著不會有更多的孤立事件，也就是一潭死水似的AI研究，突然會給許多AI應用插上翅膀。但是這種情況的發生頻率，並沒有「定律」可循。

6、好萊塢場景

很多好萊塢科幻電影的情節都是這樣的：世界跟今天的還是一樣，除了一個轉折。

在《機器管家》這部電影裡面，有一幕是Sam Neill扮演的Richard Martin坐下來由Robin Williams扮演的人性機器人服侍吃早餐。他一邊吃早餐，一邊拿起一份報紙來看。報紙！印刷的報紙。而不是平板電腦，或者類似Amazon Echo這樣的設備播放播客，這種設定跟互聯網並沒有直接的神經連接。

結果證明，很多AI研究人員和AI權威，尤其是那些沉溺於預測AI會失控和殺人的悲觀主義者，其想像力也類似地受到挑戰。他們忽視了這樣一個事實，那就是如果我們最終能夠製造出這樣的智能設備的話，到那時，世界將會發生巨大的變化。我們不會突然被此類超級智能的出現給嚇到。隨著時間的推移，它們會在技術上逐漸演進，我們的世界會變得不一樣，會充斥著許多其他的智能，而且我們早已經有了很多體驗。早在邪惡的超級智能想要除掉我們之前，就會有一些不那麼聰明和更好戰的機器出現。在此之前，會有很暴躁的機器出現。再往前，則會有相當煩人的機器出現。而在它們之前則是自大討厭的機器。這一路上我們會改變我們的世界，既要為了新技術調整環境，也要對新技術本身進行調整。我不是說可能不會有挑戰，而是說未必會像很多人以為的那樣，是突然的、意料之外的。

7、部署速度

新版本的軟體部署頻率在一些行業已經變得非常高。像Facebook這樣的平台的新功能幾乎是按小時為周期部署的。對於許多新功能來說，只要通過了集成測試，如果現場出現問題需要回退到舊版本的話，經濟的負面影響是非常小的。這屬於矽谷和Web軟體開發者早已習以為常的節奏。這種節奏有效是因為新部署代碼的邊際成本非常非常接近於0。

但硬體的邊際成本就很高。我們在日常生活中就能感受到。我們今天購買的很多汽車都不是自動駕駛的，大多數也都不是軟體使能的，到2040年的時候，可能還會在道路上出現。這就給我們的車可以多快變成自動駕駛增加了天然的限制。如果我們今天要建造個新家，我們的預計是它應該能頂100年左右。我現在住的建築是在1904年建造的，在我的鄰居裡面還遠算不上最古老的建築。

資本成本讓物理硬體存活很長一段時間，即便有了高科技的出現，它還有存在主義使命要履行。

美國空軍仍然在服役的是B-52轟炸機的變種B-52H。該版飛機是在1961年引進的，至今已經56年。最後一個建造於1962年，也是55年前的事情了。現在，這批飛機預計要服役到2040年，可能還要更久——有討論要把它們的壽命延長到100年。

我在世界各地的工廠里，經常看到幾十年的老設備。我甚至見過工廠里運行發佈於1990年簡版Windows 3.0的PC機器。其思維模式是「如果沒壞就不要修」。那些PC和軟體已經可靠地運行，同一個軟體執行同樣的任務超過20年了。

歐美中日韓的工廠，包括全新的工廠，其主要的控制機制都是基於可編程邏輯控制器（PLC）的。這是在1968年引入來取代繼電器的。「線圈」仍然是目前使用的主要抽象單元，PLC的編程方式也像是存在一個24V繼電器網路一樣。儘管如此，一些直連線已經被乙太網電纜取代。而乙太網電纜並不是開放網路的一部分，相反，一根根獨立的電纜都是點對點連接的，體現的是這些嶄新的古老控制器的控制流。當你想要改變信息流或者控制流時，全球大多數工廠都需要找來顧問用數周的時間弄清楚上面有什麼，設計新的並重新配置，然後一群商人隊伍再進行重新布線，對硬體進行重新配置。這種設備的一家主要製造商最近告訴我說，他們的節奏是每20年更新3次軟體。

原則上來說，這事兒可以換種做法。但在實踐上不可行。就在這個時候我還在看著職位需求列表，就在今天，特斯拉汽車公司在美國加州費利蒙市的工廠還試圖招聘全職的PLC技術人員。通過繼電器模擬來對當今最先進的AI軟體驅動的汽車生產進行自動化。

很多的AI研究人員和權威想像這個世界已經是數字化了，只需要把新的AI系統引進來就能馬上給現場、供應鏈、車間、產品設計帶來運營方面的改變。

這跟事實完全是南轅北轍。幾乎所有機器人和AI方面的創新都需要很長很長的時間才能廣泛部署，所需要的時間之長要超出圈子內外的人的想像。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！

本站內容充實豐富，博大精深，小編精選每日熱門資訊，隨時更新，點擊「搶先收到最新資訊」瀏覽吧！

請您繼續閱讀更多來自 CSDN 的精彩文章: