大數據和人工智慧時代的社會情景

我們正處在一場技術劇變之中，這場劇變將會改造社會的組織方式。我們必須現在就做出正確的決定。

數字化革命如火如荼。它會怎樣改變我們的世界？我們產生的數據量每年都會翻番。用另一種說法：2016年我們產生的數據量和人類直至2015年的整段歷史的數據量相同。每一分鐘，我們都會製造出幾十萬次的谷歌搜索和臉譜網帖文。這些數據中包含的信息能揭示我們的思考方式和感受方式。不久後，我們周遭的事物——甚至可能包括我們的衣服——也會和互聯網相連。根據預測，10年之後，全球會有1 500億隻聯網的測量感測器，比地球上的人類總數還要多20倍。接著，每過12小時，數據總量就會翻番。許多公司早已試圖將這些大數據轉化成大財富。所有一切都將變得智慧化，我們不僅會有智能電話，還會有智能房屋、智能工廠和智能城市。我們是不是應該預期這些發展會促成智能國家和更智能的星球？

人工智慧領域確實正在取得激動人心的進展。尤其是人工智慧對數據分析自動化的貢獻。人工智慧如今不是一行行寫代碼，而是能夠學習知識，從而不斷發展自身。近期，谷歌公司的DeepMind演算法教會自己在49款雅達利公司的遊戲中獲勝。演算法如今幾乎像人類一樣能辨識出手寫語言和模式，甚至比人類更出色地完成某些任務。演算法能夠描述出照片和視頻的內容。如今，有70%的金融交易是由演算法完成的；部分新聞內容是自動生成的。所有這些都有激進的經濟後果：未來10到20年之內，現今的工作中大約有一半會受到演算法的威脅。當今的全球500強公司中，有40%的公司會在10年內消失。

可以預料，超級電腦不久就會在幾乎所有領域超越人類能力——大約2020到2060年之間。專家開始敲響警鐘。特斯拉汽車公司的埃隆?馬斯克、微軟的比爾?蓋茨和蘋果公司共同創立人斯蒂夫?沃茲尼亞克等技術預言家紛紛發出警告，超級智能對於人類來說是個嚴重的威脅，或許比核武器更加危險。這是不是杞人憂天呢？

有一件事很清楚：我們組織經濟和社會的方式會徹底改變。我們正在經歷二戰結束以來最大規模的變化；在生產自動化和自動駕駛汽車問世之後，社會的自動化就是下一個目標。社會處於十字路口，社會自動化有望帶來更多機遇，也可能帶來相當多的風險。假如我們做出錯誤的決定，就可能會威脅到人類歷史上最了不起的成就。

20世紀40年代，美國數學家諾伯特?維納創立了控制論。根據他的說法，系統的行為可以由合適的反饋方式來控制。不久後，一些研究者設想按照這條基本原理來控制經濟和社會，但那時還無法獲得必要的技術。

目前，新加坡被視為用數據控制社會的完美榜樣。最初是想用一個程序來保護新加坡免於恐怖襲擊，結果卻影響了經濟政策、移民政策、房地產市場和學校課程。在西方國家，消費者面臨越來越頻繁的信用核查，有些網上商店還試驗了「個性化定價」。越來越顯而易見的是，我們所有人都處在制度性監視之下。2015年，英國情報機關的「因果警察」（Karma Police）程序內幕公之於眾，報道表明每個英國人的互聯網使用情況都受到了全面的篩查。是不是「老大哥」在如今變成了現實？

程式化的社會和公民

一切在一開始都顯得相當無害。搜索引擎與推薦平台開始向我們提供關於產品和服務的個性化建議。這些信息是基於之前的搜索、購買、旅行和社交互動中收集到的個人數據和元數據而得出的。儘管根據官方的說法，用戶的身份受到保護，但實際上能相當容易地推斷出用戶的身份。今時今日，演算法相當清楚地知道我們做了什麼事，我們在想些什麼，我們有什麼感受——可能比我們的朋友和家人更加清楚，甚至比我們自己還清楚。所提供的建議往往正好合適，做出的決定感覺就像是自己做出來的一樣。實際上，我們以這種方式受到更加成功的遠程控制。它們對我們了解得更多，我們選擇的自由程度隨之降低，愈加可能是被其他人預先決定好的。但這種情況不會停下來。一些軟體平台正在向著「誘導計算」進發。在未來，這些軟體平台使用精密複雜的操縱技術，將引導我們歷經整個行為過程，可能是執行複雜的工作程序，或者是為互聯網平台生成免費內容，讓那些商業公司從中賺取幾十億金錢。趨勢是從為電腦編程轉變至為人類編程。

這些技術在政治圈內也正變得越來越流行。在「助推」的標籤下，政府正在企圖大規模地引導公民轉向那些更為健康或更加環境友善的行為，他們採用的方法就是「助推」——一種家長式管治的當代形式。這種新型的「關懷型政府」不僅對我們做什麼感興趣，還想確保我們會做出那些被認為是正確的事情。這兒的魔力術語是「大數據助推」，也就是大數據和助推的結合體。對於許多人而言，這似乎是一種數字化權杖，允許統治者以高效的方式管治大眾，而又不必讓公民走民主程序。這種做法能不能戰勝既得利益，讓全世界的發展路徑最優化呢？假如能夠如此，那麼公民將被一位數據授權的「睿智國王」統治，這位「睿智國王」能夠製造出民眾想要的經濟成果和社會成果，幾乎就像揮舞「數字魔棒」一般。

但是，只要稍微讀一下相關的科學文獻，就能看到，那些控制民意的企圖儘管想達到「最優化」，卻註定要失敗，原因在於問題的複雜性。民意的形成是個動態過程，充滿意外情況。沒人知道如何揮舞那根「數字魔棒」——也就是操縱助推的技術——才能達到最佳效果。什麼是正確手段，什麼是錯誤手段，常常要到事後才清楚。比如說，2009年德國豬流感大流行，所有人都被鼓勵去接種疫苗。然而，我們現在知道有一定比例接種疫苗的人患上了一種罕見疾病——發作性嗜睡病。幸運的是，不再有人選擇去接受疫苗接種！

另一個例子是近期醫療保險提供商試圖通過分發小型健身手環，鼓勵客戶增加鍛煉，目標是降低人群中心血管疾病患者的數量，結果卻是出現了更多的髖關節置換手術。在社會之類的複雜系統中，一個領域的改進幾乎必然會導致另一個領域的惡化。因此，事實表明，大規模干預有時能演變成大範圍錯誤。

儘管如此，罪犯、恐怖分子和極端主義者遲早會嘗試去控制那根「數字魔棒」——甚至可能是在我們未曾注意到的情況下。幾乎所有公司和機構都被黑客侵入過，甚至連五角大樓、白宮和美國國家安全局也沒倖免。

當缺乏充足的透明度和民主控制時，另一個問題就會出現：系統從內部受到腐蝕。搜索演算法和建議系統可能受到影響。一些公司可能對某些辭彙組合進行出價，攫取更有利的搜索結果。政府大概也能影響搜索結果。在大選時期，他們也許會助推中間選民，誘導選民支持他們——這種對選民的操縱難以察覺到。因而，誰控制了這項技術，誰就能贏得選舉——通過「助推」的方法讓他們攫取權力。

在許多國家，某個搜索引擎或社交媒體平台擁有佔主導地位的市場份額。這使得以上難題愈加嚴重。該搜索引擎或社交媒體平台可以決定性地影響公眾，遠程干預這些國家。即使歐洲法院在2015年10月6日做出的判決限制了歐洲數據的過度輸出，但潛在的問題在歐洲內部也依然未得到解決，遑論其他地區了。

我們能預料到什麼樣的讓人討厭的副作用呢？為了讓操縱不為人注意，需要所謂的「共鳴效應」——即給出的建議是針對每個個體充分定製化的。這麼做的話，局部趨勢因重複而逐漸強化，從而導致「過濾氣泡」或「回聲室效應」：到了最後，或許你所能獲得的只是你自身的意見經過反射回到你面前。這會引起社會兩極化，結果形成各自不同的社會群體，彼此間不再能相互理解，而且發現彼此間的衝突愈演愈烈。個性化信息能夠以這種方式在無意間摧毀社會凝聚力。目前能夠在美國政治中觀察到這種現象，民主黨人與共和黨人遊離得越來越遠，政治妥協變得幾乎不可能，結果就是社會的碎片化，甚至可能是社會的瓦解。由於共鳴效應，社會民意的大規模變化只能緩慢和逐步形成。效應的發生有時間延遲，但也無法輕易地撤銷。譬如說，針對少數族裔或外來移民的憤恨可能會失去控制；民族主義情緒過度的話，可能引發歧視、極端主義和矛盾衝突。

或許，更為意味深遠的事實在於操縱方法改變了我們做決定的方式。它們壓制了其他相關文化和社會線索，起碼是暫時的壓制。歸納來說，操縱方法的大規模應用可能引發嚴重的社會損害，包括在數位世界中的行為殘忍化。誰應該為此承擔責任？

法律問題

鑒於過去數年裡對煙草公司、銀行、IT公司和汽車公司的巨額罰金，其間產生的法律問題不應該被忽略。但是，假如操縱技術違法的話，違反了哪部法律呢？首先，操縱技術顯然限制了選擇的自由。假如對我們的行為的遠程控制完美運轉的話，我們本質上會成為數字時代的奴隸，因為我們只會執行那些實際上早已由其他人做好的決定。當然，操縱技術只會在部分程度上有效。儘管如此，我們的自由確實正在緩慢消失——實際上，正因為足夠緩慢，才至今未曾受到公眾的一丁點抵制。

偉大的啟蒙思想家伊曼努爾?康德的見解似乎與這兒的問題密切相關。康德說過，一個企圖決定其公民幸福與否的國家是個專制國家。然而，個體自我發展的權利只能由那些掌控自身人生的人來踐行，這樣也就預先假定了「信息自我決定權」。這大概是我們最為重要的憲法權利。除非這些權利得到尊重，否則民主政治無法良好地運行。假若這些權利遭到限制，那就會削弱憲政、社會與國家。

大數據助推之類的操縱技術的運轉方式類似於個性化廣告，因此其他法律也受到了影響。廣告必須明確標明，不可誤導他人，也不允許利用某些心理學花招，譬如知覺閾限下刺激。這正是嚴禁在一部電影的某個瞬間顯示出軟性飲料畫面的原因，因為那樣的廣告並非意識可察覺的，但可能仍然具有潛意識效應。此外，當前對個人數據的廣泛收集和處理肯定不符合在歐洲國家和世界其他角落實施的數據保護方面的法律條文。

最後，個性化定價的合法性值得質疑，因為它可能濫用內幕信息。其他相關方面包括可能破壞平等原則、無歧視原則和競爭法，因為自由市場准入和價格透明不再有保障。這種情況可以比擬為某些公司在其他國家以低價銷售它們的產品，但又要試圖避免消費者通過這些國家來購買產品。在過去，這類案例的結果往往是高額罰金。

個性化廣告和定價無法與經典廣告或折扣優惠券相比，因為後者是非特定的，不會以利用我們的心理弱點和破壞我們的批判性思考為目標而侵犯我們的隱私。此外，讓我們不要忘記，在學術圈裡，就算是毫無危害的決策實驗也被認為是以人為對象的實驗，這樣就得獲得倫理委員會的批准。在每一個案例中，相關人士被要求給予知情同意。相比之下，滑鼠一點，就確認我們贊同1份100頁厚的「使用條款」協議（如今的許多資訊平台都是這樣的做法）顯得非常不足。

然而，助推這樣的操縱技術正在數百萬人身上做著實驗，沒有告知那些人，沒有透明公開，更沒有倫理約束。即便是臉譜網這樣的大型社交網站或者OkCupid這樣的線上約會平台，都已經公開承認做過這類社會實驗。假如我們希望避免對人類和社會的不負責任的研究（想想近期的拷問醜聞中心理學家們的捲入程度），那麼我們迫切地需要實行高標準，尤其是科研質量標準和類似於希波克拉底誓詞的行為準則。

思考、自由和民主有沒有遭到侵蝕？

讓我們假設有一台超智能的機器，它擁有神一般的知識和超過人類的能力：我們會遵循它的指示嗎？看起來有可能。但假如我們這麼做了，那麼埃隆?馬斯克、比爾?蓋茨、斯蒂夫?沃茲尼亞克、斯蒂芬?霍金和其他人之前表達過的警告就會成真：計算機會控制這個世界。我們必須清楚地認識到，超級智能也可能犯錯、撒謊、追求自我利益或者受到操縱。尤其在於它不能與整個人類的分散式集體智能相提並論。

用一個計算機集群替代所有公民思考的想法是荒謬的，因為那樣會大大降低所達成的解決方案的多樣性與質量。儘管近期數據大批湧現，對個人化信息的使用也大為增加，但全球的問題並未減少，反而有所增加，這點早已經清清楚楚。世界的和平是脆弱的。氣候的長期變化將會導致物種數量自恐龍滅絕以來的最大損失。我們也遠遠還沒有克服金融危機和它對經濟的影響。網路犯罪預計將會引起每年3萬億美元的損失。一些國家和恐怖分子們正在準備發動網路戰爭。

在一個迅速改變的世界裡，超級智能永遠無法做出完美的決策（見圖1）：系統複雜性增加得比數據量更快，數據量又增加得比數據處理能力更快，而數據遷移速度是有限的。最終結果就是忽視局部知識和事實，而局部知識和事實對於得出好的解決方案是至關重要的。分散式、局部控制的方法經常優於集中式方法，尤其是在行為多變、幾乎無法預測和不能進行實時最優化的複雜系統中。這個結論對於城市中的交通控制早已經是正確結論，對於高度網路化、全球化的社會和經濟系統來說更是如此。

此外還存在一種危險，用強大的演算法對決策進行操縱，這樣會削弱「集體智能」的基礎。而集體智能能夠靈活地適應我們複雜世界的各種挑戰。要讓集體智能發揮作用的話，個人的信息搜尋和決策必須獨立進行。假如我們的判斷和決策由演算法預先決定，這確實會導致對人們的洗腦。智能生物被降格為純粹的指令接收者，只會自動對刺激做出反應。

換言之：個性化信息在我們周圍製造了「過濾氣泡」，一種禁錮我們思想的數字化監獄。在這種情形下，怎麼可能進行創造性思考，怎麼可能「跳出箱子」思考？最終，一個使用超智能信息系統進行社會控制、技術統治的中央集權體制會導致新形式的獨裁體制。從而，下行控制的社會（打著「自由家長制」的旗號）與被光明外表掩蓋的極權主義政權並無不同。

事實上，大數據助推的目標是讓許多人的行動一致化，操縱他們的看法和決定。此舉讓它置於宣傳之境，通過行為控制對公民處以有的放矢的隔離措施。我們預計從長遠來看後果是毀滅性的，尤其是考慮到上面提到過的削弱基礎的影響。

圖1 數字化的增長趨勢

更好的數字化社會

儘管有著激烈的全球競爭，民主政體仍然會保持審慎和睿智，不會把數百年以來的成就完全摒棄。與其他政權不同，西方民主國家有一個優點，它們早已經學會與多元文化論和社會的多樣性打交道。現在，它們只用再去學習如何進一步利用它們的優勢。

未來，那些民主國家會起到領導作用，在企業、政府和公民之間達成健康的平衡。這就要求有網狀思維，並建立起一個信息、創新、製造和服務共存的「生態系統」。為了讓這個機制良好運轉，重要的不僅僅是要創造出參與的機會，而且要支持多樣性。因為實際上無法決定最佳的目標職能：我們應該讓人均國民生產總值最大化，還是注重可持續發展？是選擇權力還是和平？是選擇幸福還是預期壽命？常常，哪種選擇會更好只有在木已成舟後才知道。多元社會允許個體追求各種不同的目標，能更好地應付各種意外出現的挑戰。

圖2 數字化的十字路口

中央集權、下行控制是屬於過去的解決方案，只適合低複雜性的系統。因此，聯邦制和多數決定是當前的解決方案。隨著經濟和文化進化，社會複雜性會繼續上升。所以，面向未來的解決方案是集體智能。這意味著對於獲得更多知識、想法和資源來說，公眾科學、眾包和線上討論平台是極其重要的新方式。

集體智能要求有高度的多樣性。然而，今時今日的個性化信息系統強化了趨勢，減少了多樣性。

社會的多樣性與生物多樣性一樣重要。它不僅激發集體智能和創新，也刺激出社會的彈性——我們的社會應付突如其來的打擊的能力。降低社會多樣性常常也就降低了經濟體與社會的功能性。這就是極權主義政權往往最終會與鄰國發生戰爭的原因。典型的長期後果是政治不穩定和戰爭，正如人類歷史中反覆發生的那樣。因此，多元化和大眾參與不應該被視為對公民的讓步，而是應當看成是促成繁榮興旺的、複雜的現代社會的功能先決條件。

總的來說，可以說人類目前處在十字路口（見圖2）。大數據、人工智慧、控制論和行為經濟學正在重塑我們的社會——重塑得更好或更壞。假如這些廣泛傳播的技術與我們社會的核心價值不相容的話，它們遲早會導致大範圍的損害。它們可能導向一個具備極權主義特徵的自動化社會。在最糟糕的情況下，一個中央集權的人工智慧會控制我們的所知、所想和行為。我們處在歷史性的重大時刻，必須決定好正確的路徑——那條路徑將允許人類全體從數字化革命中獲益。因此，我們強烈要求遵守下列基本準則：讓信息系統的運轉進一步去中心化；支持信息的自我決定和參與；改善透明度，實現更高的信任；減少信息扭曲和信息污染；讓用戶控制的信息過濾器變成可能；支持社會和經濟層面的多樣性；改善互操作性和合作機會；創造數字助手和協調工具；支持集體智能；通過數位素養和啟蒙，推動公民在數字化世界的負責任行為。

遵循這套數字化議程的話，我們所有人都會從數字化革命的成果中獲益：無論是經濟體，政府，還是公民都一樣能獲益。我們在等待什麼呢？

數字化時代的戰略

毫無疑問，大數據和人工智慧是重要的創新。它們具備巨大的潛能，能夠催化經濟價值和社會進步，從個性化的醫療護理直至可持續城市。然而，使用這些技術來讓公民失去行為能力是完全無法接受的。大數據助推和公民評分的濫用主要收集個人數據用於行為控制，這樣的做法本質上屬於極權主義。這不僅與人權原則和民主原則無法相容，也不適合用來管理當代的創新社會。為了解決這個世界的真正難題，在信息和風險管理的領域需要有更好的方法。應該如何為了社會福祉而使用大數據和人工智慧，負責任創新研究領域和「人類的數據」倡議對此提供了指引。

我們現在能做什麼？首先，即便在數字化革命的時代，公民的基本權利應當受到保護，因為它們是現代機能的民主社會存在的基礎性先決條件。這要求創造出全新的、基於信任與合作的社會契約，不會將公民和客戶視為障礙或者可以利用的資源，而是視為合作夥伴。為了這個目標，國家得要提供合適的監管框架，確保技術的設計和使用都在與民主相容的方式下進行。這樣就要求必須確保信息的自我決定，不僅是理論上，而是要在實際中確保，因為這是我們以自我決定和負責任的方式生活的前提條件。

對於那些有關方面收集到的關於我們的個人數據，我們也應該有權獲得一份副本。應該用法律來規定好這些信息必須以標準格式自動發送一份副本到一處個人數據倉庫，個人藉助這些倉庫能夠對這些數據的使用進行管理（可能在專門的基於人工智慧的數字助手支持下）。為了更好的隱私保護和避免歧視，未經授權使用數據的行為必須受到法律的嚴懲。個人能決定誰能為了什麼目的而使用他們的信息，並且要使用多久。更進一步地，應當採取適當的措施來確保信息的安全存放和流通。

此外，我們需要為公民準備高效的投訴程序以及違反規定時的有效處罰措施。最終，為了創造出充分的透明度和信任，領先的科研機構應當擔任數據和演算法的保管者，這些數據和演算法在目前規避了民主的管理。這也要求建立一套合適的行為準則，最起碼任何一位能接觸到敏感數據與演算法的人都必須遵守這套準則——這就像是為IT界專業人士準備的希波克拉底誓詞。

更進一步地，我們會要求建立一套數字化議程，為新類型的工作和數字社會的未來打下基礎。每年，我們都投資數十億美元在農業領域、公共基礎設施、學校和高等院校——讓工業和服務業獲益。

我們需要用哪種公共系統來確保數字化社會能夠成功？

第一，需要有全新的教育概念，應當更加聚焦在批判性思考、創造力、發明創新和創業精神上，而不是製造標準化的工人。

教育應當讓教育對象明白如何負責任和審慎地使用數字化技術，因為公民必須清楚地知道數字化世界如何與現實世界糾纏在一起。為了有效和負責任地行使他們的權利，公民必須對這些技術有所了解，也應該對那些非法的使用有所涉獵。這便是進一步需要科學、產業、政治和教育機構確保這些知識廣泛地傳播出去的原因。

第二，需要有一個參與平台讓人們更容易成為自僱人士，建立自身的項目，尋找合作夥伴，為產品和服務在全球做營銷，管理資源，支付稅收和社保繳款。

作為補充，城鎮甚至村莊都可以為新興的數字化社群設立中心（類似開放創新實驗室），各種想法可以在那兒被共同開發和免費測試。由於在這些中心可以找到開放和革新的工作方式，應該能推動大規模的合作創新。政府和產業公司致力於開放數據戰略，進一步讓數據可供科學和公眾使用，為高效的、與世界所面臨的挑戰同步的信息和創新生態系統創造出適合的條件。

第三，構建由公民運營的「數字神經系統」，能夠為所有人開啟物聯網的新機遇，能向所有人提供實時數據測量。

假如我們想以更加可持續性的方式利用資源，減緩氣候變化，我們需要度量我們與其他人和環境互動的正面和負面的影響。通過使用合適的反饋環，可以特定方式影響系統，通過自組織的方式讓系統實現想要的結果。

為了更好地應付未來世界的複雜性和多樣性，將其轉化成優勢，我們會需要個人數字助手。這些數字助手也會從人工智慧領域的發展中獲益。可以預期，在未來會有無數網路連接人類和人工智慧，這些網路會按照需要而靈活地建造和重新配置。然而，為了讓我們保留對我們人生的控制權，這些網路應該以分散式方式來控制。尤其在於用戶必須能夠依照意願登錄和退出。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！