外星人帶著棋盤來了，我們怎麼辦？
可怕的外星智能正潛伏在全世界的實驗室里。
想像一下，一艘飛碟降落在時代廣場中央，艙門打開，走出來一個外星人。他是個好鬥分子，手裡拿著圍棋棋盤，走向身邊最近的一個地球人，吐出那句經典台詞：「帶我去見你們最好的圍棋手。」
我們人類的天性也喜歡爭強好勝，因此雙方一拍即合，迅速準備了一場錦標賽。外星人多年潛心研究人類是如何下圍棋的，分析過所有頂尖棋手的每局比賽復盤，因而異常自信。
看起來，人類已經註定要屈辱地吞下失敗的苦果了。畢竟，外星人有備而來，知己知彼；我們卻對對手一無所知，很可能輸得一敗塗地。
這正是今年早先AlphaGo和圍棋大師李世乭之間上演的人機世紀對決的真實寫照。外星人以五局四勝的戰績打得人類毫無還手之力。
AlphaGo的勝利算不算人工智慧研究領域的一座里程碑？絕對算，但並非因為這證明了AI棋藝高超無人能敵，而是因為這次勝利證明了AI完全能夠玩轉人類的遊戲。
要知道，AlphaGo並不是靠熟記圍棋規則，制定機智的戰略來學習下棋的。事實上，它是通過學習人類如何下棋來學棋的。在學習過程中，它看過無數場比賽，總結出了大師們如何布陣，如何應變，甚至知曉他們容易在哪裡出錯。
加在一起，AlphaGo的系統共看過頂級棋手超過3千萬步棋。因此，我們完全可以說，AlphaGo並不是作為一個以最優方式進行抽象競技比賽的系統被設計出來的。它是通過從內而外研究人類，學習預測人類的下一招、下一個反應、及最可能在哪裡犯錯來打敗人類的人工智慧系統。
簡而言之，AlphaGo並沒有學習下圍棋——它學習的是如何以人類的方式對付人類。根據已知的公開報道，AlphaGo訓練有素，準確預測出人類棋路的概率高達57%。腦補一下，假如你也有本事以57%這樣可怕的準確率預測他人的舉動——不論是用在談生意、銷售還是推廣政治觀點上，都足以構建起一個龐大的商業或政治帝國了。
對我來說，這是很可怕的。不是因為計算機在棋類遊戲上贏了我們，而是因為從這一刻起，我們將永遠在擅長模仿我們而我們卻不擅長模仿他們的外星智能面前處於下風。無論這些外星人叫阿法狗還是阿法貓，它們都會在人類自己創造的比賽中擊敗人類。這預示著未來人類可能會被輕易預測出我們動向的智能系統所操控，在最短時間內找到我們的弱點，並加以利用。
對於那些抱持樂觀態度，認為我們可以控制AI，防止它們成為威脅的人，我想說，現在這個水平的科技已經足夠危險了。以AlphaGo為例，已經出現了了解我們多於我們了解它的對手，剩下的就是將個中技術用在比競技遊戲更重要的地方。這是無可避免的大勢所趨，而這也就意味著不僅在圍棋上，在生活的方方面面，人類都註定要被AI打敗。
那麼，我們還能做些什麼呢？
我認為，作為人類，我們需要保證自己總是在人機較量中領先一步。全世界有許多研究人員在探索讓人類變得更聰明的科技，從基因療法到意識提升，甚至在身體中植入強化大腦的晶元。我個人更傾向於非創傷性的方法。放眼自然界，不計其數的其他物種都在進化過程中遇到過挑戰，需要進化出遠遠高於個體智力水平的智能才能繼續存活下去。這些物種的解決辦法是「集思廣益」，開發出形成集體智能系統的手段，將每個個體的知識、經驗、洞察力和直覺集成在一處。
沒錯，我說的就是令人聞之生畏的「蜂巢思維」。之前很長一段時間裡，我都曾堅定不移地反對過這種理論。但近年來，我漸漸意識到，將我們的智力資源匯合成閉環系統或許是讓人類搶在人工智慧前面的最佳途徑。因為蜂巢思維包含生存、呼吸、人群，浸染了人類的價值觀和情感，致力於將人類利益置於最前沿。而純粹的人工智慧沒理由分享我們的核心價值觀或做出擁護我們利益的決定。
換言之，如果我們造出了純粹的數字人工智慧，我們就需要將其視作一種地外智能。正如對待從天而降的外星人一樣，我們必須假設它會對人類構成威脅。但假如我們造出了蜂巢思維這樣的超級智能，就相當於擁有了高度進化後的人類思維，一如自然界無數其他物種的進化發展先例。
再次申明，我曾一度十分抵觸蜂巢思維範式，唯恐人將不人。但現在，我相信唯有改變才能讓我們趕超已跑在我們前頭的人工智慧。威脅並非來自天外——如果是外星人，我們一定會早早準備好應對措施。反之，人工智慧的威脅是更秘而不宣的，它們潛伏於世界各地的實驗室，伺機而動。對此，我們同樣需要未雨綢繆。
對於人工智慧系統在短期內的危險，我們也不得不防。在我們真正將機器智能看作人類智能普遍意義上的競爭對手之前，AI技術就將成熟到能夠很好地總結和預測人類行為。如果機器已經能通過預測圍棋大師的行動及反應來戰勝他，距離智能系統在生活各方面全面超越人類也就為時不遠了。為了防止這一切發生，最好的防禦或許就是強大的攻勢——大規模強化人類智能，儘可能長久地讓人類保持住競爭力才是正道。
來源：Singularity Weblog 作者：Louis Rosenberg 編譯：未來論壇 商白
文章轉載請註明出處為 「未來論壇」微信賬號（ID：futureforum）
未來論壇官網：www.futureforum.org.cn
TAG:知識百科 |