潛在威脅超核彈！人工智慧，絕非你想像的樣子
島 君 說
在科幻電影中我們總能看到人類被機器所統治，然後被迫開始反擊與人工智慧展開戰鬥的場面。
然而，時至今日人工智慧的發展速度早已超乎我們的想像，若再不予以足夠的重視，那麼誰又能保證那些曾在電影中看到的鏡頭真的不會在現實中發生呢？
或許正如馬斯克所言，「我們需要對AI保持謹慎，它們可能比核武器還要危險。」
圖 片：視覺中國
來 源：正和島（ID：zhenghedao）
我們需要對AI保持謹慎，它們可能比核武器還要危險。——埃隆·馬斯克 2014年8月的一條推特
在4月上線的紀錄片《你信任這台電腦嗎？》中，馬斯克這樣說：
這部紀錄片中，20餘位頂級大咖探討了AI技術的進步對人類的威脅
「在人工智慧時代，我們可以創造出』永恆的獨裁者』。」他提到了一個可怕的可能性：威權政府建立的AI可以超越個別領導人或政黨，創造一個永久的壓迫結構。
「如果人工智慧有一個目標，並且人類碰巧阻礙了它，它甚至不用考慮就會摧毀人類，沒有任何困難。」馬斯克說，就好像，如果我們正在建造一條道路，並且一個螞蟻碰巧阻礙了我們。」
「你會有一位永生的獨裁者。」
你覺得這是危言聳聽，覺得這只是個科幻題材的故事，那隻能說，你遠遠低估了技術進步的速度。這部記錄篇在國內也引發了熱烈討論，雖然不少人認為，這是鋼鐵俠的又一次炒作，一種危言聳聽。
但不少人從知識圖譜、決策型AI等技術方面的突破，討論了AI對人類的真正威脅。硬體及軟體上的後門，對人工智慧「灌輸」有偏見的數據，任何一點點偏差都可能讓馬斯克所說的獨裁者誕生。
波蘭作家米沃什在《被禁錮的頭腦》中寫道：
「許多歐洲國家的居民直到20世紀中葉才痛苦地意識到 ，複雜而又晦澀難懂的哲學著作對他們的命運有著直接的影響。
就像他們所說的那樣，他們自己吃的每份麵包，他們的工作性質，他們自己和他們的家庭生活，都有賴於對某些原則爭論的這樣或那樣的解決方式而此前，他們對這些原則從未注意過。」
21世紀的我們，是否應該把文本中的「哲學著作」再加上技術。
而我們是否也會到了某一天，才會「痛苦的意識到」這一切？
這是最好的時代，也是最壞的時代——狄更斯《雙城記》
AI會帶給我們怎樣的未來？在科幻小說家眼裡，這是個悲觀的事情。極權，階級固化……因為技術，這些離我們前所未有的近。
在去年矽谷引發熱議的新書《生命3.0》中，MIT終身教授泰格馬克描述了12種潛在的未來，「極權2.0」便是一種。
過去，極權主義國家通常被證明是極不穩定的，最後都走向了崩潰。但新型的監控技術為未來的獨裁者提供了前所未有的希望。
沃爾夫岡?施密特（Wolfgang Schmidt）最近在接受採訪時回憶起自己曾在斯塔西（臭名昭著的原東德秘密警察組織）擔任陸軍中校，他談到了斯諾登揭發的NSA（美國國家安全局）監控系統，說：「你知道，這對於我們來說簡直無異於夢想成真。」
雖然斯塔西常被認為是人類歷史上最為嚴酷的奧威爾式監控體系，但施密特卻感嘆道，當時的技術只能一次性監控40部電話。如果你想在監控列表上增加一個新名字，就得放棄一個舊的。
相比之下，即便只使用現存的技術，一個全球極權主義國家也能監控地球上每個人的每次電話、電子郵件、網路搜索、網頁瀏覽和信用卡交易，並通過手機定位和配有人臉識別的監控攝像頭來監控每個人的行蹤。
此外，即便是遠低於人類水平AGI的機器學習技術也可以高效地分析和處理這些龐大的數據，從而發現擾亂治安的可疑行為，讓那些鬧事者在對政府構成嚴重威脅之前就被處理掉。
MIT終身教授泰格馬克在新書《生命3.0》中寫道，我們對人工智慧的威脅存在兩種誤區。
其中之一是，比人類更聰明的人工智慧在21世紀不會誕生。在一次針對研究者和科技企業的調研中，很多人認為在2055年前後，這樣的超級智能就會誕生。
這張「人類能力地形圖」是機器人專家漢斯·莫拉維克提出的，其中，海拔高度代表這項任務對計算機的難度，不斷上漲的海平面代表計算機現在能做的事情。人工智慧完全趕上人類只是時間問題。《生命3.0》
而另一種誤區在於，人工智慧和電腦一樣，不過是我們的一種工具。而實際上，人工智慧的真正能力在於決策，倘若它的目標和我們出現了偏差，我們很有可能會失去控制權。
人們在建造水電站大壩時，根本不會考慮會淹沒多少蟻丘。而人工智慧將可能讓人類嘗到螞蟻的滋味。
科技正在讓生活前所未有地快速前進……或是毀滅，我們應該將未來把握在自己手中！——邁克斯·泰格馬克，MIT物理學終身教授
我們無法叫醒裝睡的，但醒來的人卻已經開始了行動。
2014年，MIT教授邁克斯·泰格馬克便開始致力於讓AI安全研究進入主流，並與讓·塔林（skype創始人）、埃隆·馬斯克、斯蒂芬·霍金等人創辦「未來生命研究所」。
最初，他們用文章來打響第一槍，讓媒體、大眾注意到問題的嚴重性。
隨後，在2015年，在泰格馬克的籌划下，波多黎各大會召開。Deepmind創始人丹尼爾·哈薩比斯、「奇點」這個詞的提出者弗諾·文奇以及眾多世界頂級的學者、專家參與其中。這次會議中有兩件事情格外重要。
一個是關於AI研究安全性的公開信。這封信收穫了霍金、馬斯克在內的8000位研究者的簽字。
另外一個是，未來生命研究所開放了研究資助金申請通道，收到了全球300個團隊的申請。
2017年的阿西洛馬大會，將這場運動推向了高潮。
阿西洛馬大會的合影，也是AI有益運動的「群英譜」，你可以在裡面找到拉里·佩奇、埃里克?施密特這些企業家，吳恩達、丹米斯?哈薩比斯這樣的技術專家，以及丹尼爾·卡尼曼這樣的來自心理學、經濟學、社會學方面的頂級專家。DeepMind、谷歌、Facebook、蘋果、IBM、微軟和百度等公司的代表悉數到場。
而大會最了不起的成果，當屬阿西洛馬原則。這份原則可以看做是「AI有益運動」的綱領性文件，涵蓋了研究問題、倫理與價值以及所面臨的長期問題。這份原則已經獲得超過千名AI研究者和許多頂級思想家簽名，其影響也在不斷醞釀和發酵。你可以在網站上看到它的完整版本（長按下圖識別）。
「AI有益運動」的影響從未止息，各國政府紛紛意識到AI安全性的重要，並相繼發表重要報告。
與此同時，企業界也行動起來，亞馬遜、DeepMind、Facebook、谷歌、IBM和微軟發起了一個「有益AI」的行業夥伴關係。
從政府到企業，再到民眾，所有人都對人工智慧的衝擊愈發嚴肅和重視。我們已經處在歷史的十字路口中。這場變革和以往不同，稍有不慎，我們連翻盤的機會都不會有。
泰格馬克把他的思索寫成了新書《生命3.0：人工智慧時代，人類的進化與重生》。這本書的寫作歷時5年時間。在這本30萬字的洋洋大作中，泰格馬克基於最嚴密的邏輯推理和最大尺度的想像力，探討了人機共生的關鍵問題。
泰格馬克研究這些問題的方式是，設想一個具有發展階段的生命歷程。他把最原始的生命形式，比如細菌，稱為生命1.0。
生命2.0，或者說所謂的文明階段，是人類現在所處的地方：人類能夠學習，適應不斷變化的環境，並能有意識地改變這些環境。
再往上，即生命3.0階段，是高科技階段。在這個階段，後期人類不僅可以重新設計自身的軟體，還可以重新設計自身的硬體。泰格馬克寫道，這種形式的生命將是「自己命運的主人，最終完全擺脫自然進化的束縛」。而人工智慧最有可能實現這樣的生命形式。
泰格馬克描述了生命3.0無限可能性的未來
在泰格馬克看來，人工智慧早已不再是某種「工具」。而是與人類協同生存發展的「新物種」。因此，我們最關鍵的問題就在於，怎樣讓AI與我們的目標保持一致。
《生命3.0》上線僅一天就登上美國亞馬遜 「人工智慧和機器學習類」書籍排行榜首位，隨後更是引爆矽谷。
當時，不管是像霍金這樣的科學家，還是像馬斯克那樣的企業家，以及《自然》《科學》這樣的頂尖的學術期刊，都非常罕見地同時推薦了這本書。
Science、馬斯克、霍金等的推薦語
霍金在推薦語中寫道：「無論你是科學家、企業家，還是將軍，所有人都應該問問自己現在可以做些什麼，才能提升未來人工智慧趨利避害的可能性。這是我們這個時代最重要的一次對話。」
如果你希望加入這場對話，向你推薦這本書。
TAG:正和島 |