新聞說臉書干預美國大選，人工智慧統治地球會發生嗎
臉書（Facebook）公司遇上了麻煩，原因是他們的大數據涉嫌被人工智慧演算法利用，干擾了美國大選。霍金去世前留下了警告，人工智慧是件可怕的事情，需要警惕。電影《黑客帝國》描寫的人工智慧統治地球，這有可能嗎?
人類是如何產生的
前幾天遇上閨女的連環問，大概這是所有家長都會遇到的場景。
問 人是從哪裡來的？
答 從原始人變化過來的。
問 那原始人是從哪裡來的？
答 從兩棲動物，比如類似於蛇、青蛙之類的動物變化過來的。
問 那兩棲動物從哪裡來的？
答 從水生動物變化來的，比如說魚之類的。
問 那魚從哪裡來的？
答 魚是從很簡單的單細胞生物變化來的。
問 單細胞生物從哪裡來的？
答 應該是從一些很簡單的生命，比如細菌、病毒啥的變化過來的。（開始流汗）
問 那最簡單的生命從哪裡來的？
答 從有機物變化來的。有一團有機物，它們很偶然形成了一些結構，能夠從外界吸收能量，自我複製，這就形成了生命。所以生命是偶然間產生的。
問 那有機物從哪裡來的？
答 地球上的溫度、濕度都合適時，天上一道閃電，就產生了一些有機物。（心很虛啊，連蒙帶猜不能丟了面子）
問 （長時間思考，問不出話來）
我認為，形成人類這種高度智能的物體，有兩個關鍵的節點。一是有機物的形成，構成生命物質，二是原始生命的形成，具備了代謝（吸收能量）和繁殖的功能。
物理上對此最相關的闡述當屬普利高津的研究。普利高津認為「在非平衡系統中，在與外界有著物質與能量的交換的情況下，系統內各要素存在複雜的非線性相干效應時，有可能產生自組織現象」。因此研究他獲得了諾貝爾獎。
圖 | 普利高津
這裡的「自組織現象」，既可以指人類，也可以指未來統治地球的機器人。把他的研究翻譯成大白話，就是：如果有能量源和物質源，一個複雜的系統有可能演化成令人瞠目結舌的高度有序、智能的狀態。這當然包括可以統治地球的機器人。
人工智有可能會統治地球
電影《黑客帝國》中描寫了一個場景，人類完全被機器人控制，營養通過導管供給，所有的感覺都是虛擬出來的，生活在完全虛幻的世界中。
不少人對人工智慧的危險性提出了警告。
人工智慧有可能統治地球嗎？沒有人從理論上證明不可能，所以答案當然是有可能。
人工智慧通向統治者的步驟
可能的不意味著必然發生。一個更有價值的問題，卻很少有人提起：人工智慧要統治地球，會有哪些步驟？
這個問題的答案對人類更有意義。如果能識別、把握人工智慧通向統治地球的步驟，人類將會根據自己的需求來決定，讓不讓機器人來接管地球，或者多大程度上來參與管理地球。
第一步，能不依賴人類獲取能量。按照普利高津的論點，要想形成更高級的自組織形式，需要輸入能量。
第一次看到一個機器會自主補充能量，是掃地機器人在電量耗盡前，自動連接充電接頭，自行充電。這顯然還不夠，因為它們還依賴人類發電。需要讓機器人具備自己補充能源的本領，比如直接利用煤、石油、天然氣、太陽能、或者核能作為自己的動力。這個技術並不複雜，很多人類的機器，比如飛機使用燃油、潛艇使用核能，都是直接利用一次能源。
或者更複雜些，讓機器人學習發電，並構建電網，它們通過電網來充電。這對機器人來說，類似於人類把食品配送到每個餐館，使用起來更方便。
當機器人感覺到自己能源不足時，主動去加燃料、曬太陽、或者充電，保證自己不被餓死。
火的使用、蒸汽機發明、電力的使用，這些對能量利用方式的改變，是人類歷史的最重大的變化。最近幾年如果電池技術（蓄能技術）發生大的變化，也一定會引發一次全人類的技術革命。小時候看的動畫片《變形金剛》，兩撥機器人爭來爭去的核心也是能源。可持續的能源供給，是統治者需要解決的第一個課題。
圖 | 變形金剛里的能量塊
第二步，作為永遠的統治者，它們還不能因為自己的零件磨損而消亡。有兩種解決方案。其一，讓它們在死前複製自己，甚至製造自己的加強版。其二，它們所有的零件都可以自己更換。這就實現了它們的繁衍，生生不息。讓一個機器人生產一個跟它一樣的機器人，看起來也沒有什麼技術障礙。
第三步，普利高津還說，這個系統要有複雜性。我認為這需要給機器人設定一個有效的價值觀，深度學習的術語是「損失函數」（Loss function）。這個價值觀讓它們有追求，來指導自己的活動。
比如，如果它們的價值觀是追求更強的智能，它們在製造下一代時，會拚命的增強後代的處理能力、存儲空間，把人類的以及機器人所有知識都輸入到下一代中去。
比如，如果它們價值觀要求它們長壽，它們就會追求用最強的合金、鑽石來組裝下一代，或者更新自己的零部件。
再比如，如果它們的價值觀要擴大領地，它們會拚命發展宇航技術，佔領太陽系的所有行星。
我覺得這個價值觀是以上三個步驟中，最難實現的。
如果設置不好，比如當它們覺得人類的存在對於它們只意味阻礙它們價值實現，它們就傾向於消滅人類，而人類將不會允許它們存在。再比如這些價值觀可能令它們感到思維混亂，異常「痛苦」，因而最終選擇集體自殺。
設置得好，比如，讓它們追求人類幸福的最大化，可以讓機器人能力強大的同時，永遠為人類服務。這樣人類也會給它們留下生存的空間。
如果只是這樣，它們尚且只能維持某一水平的自組織形式，它們的動機和行為模式對於人類是透明的，不足和人類抗衡。
第四步，讓其價值觀具有變異性。我覺得這是危險所在。變異性加上適者生存的法則是目前生物進化的原理。如果在設計機器人的價值觀時，讓它有隨機變異的可能性，那後果將不可預計。它們可能會快速繁衍、數量暴增，攫取人類所有的機密，搶佔各種能源，變得無法控制。
現狀
現狀是，人工智慧想要統治地球，差得非常遠。
Uber以人工智慧技術為基礎的無人駕駛汽車撞死了行人，引起軒然大波。這不能說明人工智慧的危險，只能說明技術還不成熟。就像在航空航天事業的發展過程中，人類也做出了犧牲。
臉書的大數據涉嫌干涉總統大選，這是人類的選擇，演算法只是個工具。
現階段，機器人既不能自己解決能源供給、也不會複製自己、更不會變異自己的價值觀（目標）。討論人工智慧統治地球、威脅人類，跟討論移民到太陽系外、外星人消滅地球是差不多的問題，更像是人類大腦不甘平淡、體驗獵奇感的幻想。
客觀的來評價，目前的人工智慧還只是自動化技術的自然延伸，連顛覆性技術還算不上。雖然裡面揉和了一些結果看似炫酷的演算法，實質上還是計算機技術革命浪潮中的一個縮影，如此而已。
TAG:科學思考 |