人工智慧的第三定律：計算的未來是模擬

雷鋒網 AI 科技評論按：在人工智慧研究如火如荼的今天，似乎也是時候回過頭來思考一下模擬計算在未來所具有的意義。當人類已經習慣於通過數字化編程式控制制機器，也許以神經網路為代表的模擬計算會把對於世界的控制權從人類手中奪走。這是一個值得探究的技術問題，同時也是一個不容忽視的倫理問題！

圖源：Arterra/Getty

計算機科學發展的歷史可以劃分為「舊約」（理論）和「新約」（實踐）兩部分：電子數字化計算機及其產生的代碼席捲全球之前和之後。舊約時代中，包括 Thomas Hobbes（托馬斯·霍布斯） 和 Gottfried Lribniz（戈特弗里德·萊布尼茨） 在內的先知們為計算機提供了底層的邏輯；而新約時代的先知們如 Alan Turing（阿蘭·圖靈），John von Neumann（約翰·馮·諾伊曼），Claude Shannon（克勞德·香農），以及 Norbert Wiener（諾伯特·維納），則創造了實現這些邏輯的機器。

圖靈一直在思索如何才能使機器變得智能化；，馮·諾伊曼在思考如何才能讓機器自我再生；香農在思考的是，機器要怎樣在任意噪音的干擾下實現可靠的通信；維納則在探究機器何時能夠學會自行控制。

1949 年，就在第一代能夠存儲程序的電子數字計算機問世之時，維納就對超出人類控制範圍的控制系統發出了警示。不過彼時，這些系統仍然在人類程序員的監督下運行，這無疑就減少了維納的擔憂。只要程序員能夠控制機器，那還會出現什麼問題？從那時起，關於機器自動控制的風險的爭論與關於數字化編程的機器的能力與局限性的爭論，就一直相伴相隨。他們認為，儘管機器擁有驚人的能力，但實際上它們幾乎沒有真正的自主權。然而，這個假設是危險的。一旦它們將這種能力用來做其他事情而不是進行數字化計算，又將發生什麼？

在過去的一百年中，電子科學經歷了兩次根本性的轉變：從模擬到數字化，從真空管道到固態。這些轉變同時發生並不意味著它們之間就有必然的聯繫。正如數字化計算使用使用真空管道元件實現一樣，模擬計算也可以在固態中實現。雖然商業應用已不再使用真空管道，但模擬計算卻仍然在被使用並且發展勢頭良好。

模擬計算和數字計算二者間沒有切確的分別。一般來說，數字計算處理的是整數、二進位序列、確定性的邏輯以及在理想狀況下以離散增量形式存在的時間，而模擬計算處理的則是實數、非確定性邏輯以及連續函數，包括現實世界中作為「連續統」（ continuum）存在的時間。

想像一下，如果你需要找到一條路的中點。你可以使用任何可用的增量來測量它的寬度，然後用數字計算計算出中點到最近的增量的距離。或者你可以把一段字元串當做模擬計算機使用，將路的寬度映射到字元串的長度上，然後通過將字元串的長度延長一倍，從而在字元串自身上找到中點的位置，而無需受到增量的限制。

許多系統可以跨模擬和數字環境操作。一棵「樹」集成了各種各樣的連續函數形式的輸入，但是如果你深入剖析這棵樹，你會發現它一直在以數字計算年份。

在模擬計算中，複雜的是網路拓撲，而不是代碼。信息被處理成連續值函數（如電壓和相對脈衝頻率），而不是通過對位的離散字元串做邏輯運算進行處理。數字計算不能出現錯誤或歧義，因而它非常依賴於在每一個步驟中的錯誤糾正（校驗）機制。而模擬計算則允許出現錯誤，計算可以與錯誤並存。

不理解某樣東西，也完全有可能構建出它。

自然界萬物使用數字編碼來存儲、複製和重組核苷酸序列，但是要想實現智能和控制，就需要依賴於在神經系統上運行的模擬計算。每個活細胞的基因系統就是一個存儲程序的計算機，而大腦卻不是。

數字計算機會在兩類比特之間進行轉換：表示空間差異的比特和表示時間差異的比特。序列和結構這兩種信息形式之間的轉換是通過計算機編程式控制制的，只要計算機還需要人類程序員來編程，我們就能保持對它們的控制權。

模擬計算機還可以在兩種信息形式之間進行轉換：空間結構和時間行為。這種轉換不需要代碼，也不需要編程。然而，我們並不完全理解自然界是如何進化出被稱為神經系統的模擬計算機的，神經系統包含了從現實世界汲取的信息，並對這些信息進行學習。它們學到的東西之一就是控制。它們學著控制自己的行為，並儘可能地控制周圍能夠控制到的環境。

在實現神經網路方面，計算機科學有著悠久的歷史（甚至可以追溯到計算機科學出現之前），但在很大程度上，這些工作都是通過數字計算機對神經網路進行的模擬，而不是自然界在原始環境下演化出來的神經網路。不過這種情況正開始發生變化：自下往上來說，無人機、自動駕駛汽車和手機的三重驅動力推動了神經形態微處理器的發展，這種微處理器實現了真正的神經網路，而不是直接在硅（和其它可能的基質）上模擬神經網路；自上往下而言，我們最大和最成功的企業在滲透和控制環境的過程中，正越來越多地轉向使用模擬計算。

當我們討論數字計算機的智能化時，模擬計算正悄然取代數字計算，方式就跟二戰後真空管等模擬元件被重新設計用以製造數字計算機如出一轍。在現實世界中，各個運行有限代碼的確定性有限狀態處理器正在形成大規模的、不確定性的、非有限狀態的「多細胞動物」生物體。就像電子流在真空管中被處理一樣，由此產生的混合模擬/數字系統會共同處理比特流，而不是由產生比特流的離散狀態的設備單獨處理比特。比特就是新型的電子。這樣的話，模擬又重新得以應用，並且它的本質屬性就是奪取控制權。

這些系統控制著從商品流到交通流再到思想流的一切事物，它們以統計的方式進行操作，就像脈衝頻率編碼的信息在神經元或大腦中進行處理一樣。智能的出現引起了智人（人類）的注意力，但是我們應該擔心的是控制的出現。

想像一下，假如現在是 1958 年，你正試圖保衛美國大陸免受空中襲擊。為了區分敵機，除了計算機網路和預警雷達站，你還需要一張實時更新所有商業空中航線的交通地圖。當時美國建立了一個這樣的系統，並將其命名為 SAGE（半自動地面防空警備系統）。SAGE接著又催生了第一個用於實時預訂航空旅程的綜合預訂系統 Sabre。Sabre 和它的後續產品很快就不僅僅是一張顯示可選擇的座位的地圖，而是開始成為具有去中心化智能的自動控制系統，能夠控制飛機將在何時飛往何處。

但這裡是否仍然存在一個人為進行控制的控制室呢？也許沒有。比如說，你可以通過僅讓車輛訪問地圖，並將其實時速度和位置反饋給地圖，來建立一個可以實時繪製高速公路交通路況的系統。最終，你可以得到的是一個完全去中心化的控制系統。而除了系統本身，不存在任何系統控制模型。

想像一下，在 21 世紀的第一個十年中，你想要實時跟蹤人際關係的複雜性。針對一所規模較小的學院裡面的社交生活，你可以建立一個中心資料庫並使其保持更新，但如果學校擴大規模，其維護工作就會超出你的控制能力。你最好能夠將一個簡單的半自動化代碼的免費副本分發出去，在本地託管這些副本，並讓社交網路自行更新。該代碼將由數字計算機執行，但是模擬計算要由系統執行，因為它的整個計算的複雜度要遠超過底層代碼。由此產生社交網路圖的脈衝頻率編碼模型最終會變成社交網路圖。它會在校園裡廣泛傳播，然後傳遍全世界。

計算機領域的下一次革命的標誌將是模擬系統的崛起，而數字化編程不再具有統治地位。

如果你想要開發一台機器來掌握人類所已知的一切知識，這意味著什麼？有了摩爾定律的支持，將世界上所有的信息數字化並不需要太長的時間。你可以掃描每一本印刷好的書，收集每一封寫好的電子郵件，每 24 小時就能收集 49 年間拍攝的視頻，同時實時跟蹤人們在哪裡，他們在做什麼。但是，你如何理解這一切的「意義」?

即使是在萬物數字化的時代，這也不能以任何嚴格的邏輯意義來定義，因為對於人類來說，「意義」從根本上來說是不合邏輯的。一旦你收集了所有可能的答案，你能做的最好的事情，就是提出一些被很好地定義了的問題，並編製一個描述所有事物之間聯繫的脈衝頻率加權的映射。在你弄清楚問題的答案之前，你的系統將不僅僅是觀察和映射事物的意義，它也將開始「構建」意義。隨著時間的推移，它將「控制」意義的定義，這就像是如果看上去沒有人在控制交通流，交通地圖系統就會開始控制一樣。

人工智慧領域有三條定律：

• 第一定律被稱為阿什比定律（Ashby"s law），該定律由《大腦的設計》（Design for a Brain）一書的作者、控制論科學家 W.Ross Ashby 提出，他認為任何有效的控制系統都必須和它所控制的系統一樣複雜。

• 第二定律由馮諾依曼提出。它指出，一個複雜系統的定義特徵是，它構成了自身最簡單的行為描述。有機體最簡單的完整模型就是有機體本身。任何試圖將系統的行為簡化為正式的描述的做法，都會使事情變得更複雜，而不是更簡單。

• 第三條定律指出，任何足夠簡單易懂的系統都不會複雜到能夠實現智能化的行為，而任何足夠複雜到實現智能化行為的系統都會複雜到難以理解。

對於那些相信「在我們理解智能之前，我們不必擔心機器產生超人類的智能」的人來說，第三定律為他們帶來了慰藉。但是第三定律中存在一個漏洞，因為你完全有可能在不了解某些東西的情況下去創建它。你不需要完全了解大腦是如何工作的，就可以創建一個可以使用的大腦模型。這確實是一個程序員和他們的道德顧問對演算法進行再多的監管也無法彌補的漏洞。能夠被證明的「好的」人工智慧還是一個神話。我們與真正的人工智慧的關係將永遠是一個信仰（唯心）的問題，而不是證明（唯物）的問題。

我們過於關注機器的智能，對自我再生、通信和控制等問題卻不夠重視。計算機領域的下一次革命的標誌將是模擬系統的崛起，而數字化編程不再具有統治地位。對於那些相信自己可以製造出一台能控制一切的機器的人來說，自然界的反應將會是：讓他們製造一台機器來控制他們自己吧。

本文出自 John Brockman 編輯的《POSSIBLE MINDS: Twenty-Five Ways of Looking at AI 》一書。

Via ：https://onezero.medium.com/the-future-of-computing-is-analog-e758471fbfe1雷鋒網雷鋒網

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！