人工智慧「進化」重塑未來全球治理格局

《第四次工業革命》的作者克勞斯?施瓦布認為，科技革命和產業變革中顛覆性技術的出現，會帶來社會的巨大變化。這也會導致全球原有力量對比發生改變，舊的治理體系將重新洗牌，最後達成新的力量和治理平衡，出現全球治理新秩序。歷史經驗充分地證明了這一觀點。從最近一輪科技革命和產業變革的歷程來看，美國佔據了以互聯網為代表的信息技術制高點，引領經濟革命新浪潮，綜合實力領先世界。在新一輪科技革命和產業變革中，人工智慧顛覆了人類的認知。這是一門研究開發用於模擬、延伸和擴展人的智能的理論、方法及應用系統的技術。人工智慧的出現意味著人類認識和改變客觀世界的工具有了重大突破，其迅速發展將深刻改變人類社會並改變世界。

人工智慧發展已滲入社會經濟生活多個方面

現用兩個例子簡單加以說明，在2018年，一家高科技公司的AI Lab曾參加由荷蘭瓦赫寧根大學（WUR）主辦的國際人工智慧溫室種植大賽，通過人工智慧和遙感技術，採集農作物的生長情況，最終在50平米的溫室里種出了3000公斤以上的黃瓜，農業產出是高效人工種植的五倍以上。這說明在農業領域人工智慧具有巨大的發展潛力。未來，人工智慧將有效減少農業生產對勞動力、土地等要素的消耗，提升勞動生產率，緩解困擾我國農業發展的資源「緊箍咒」，推進農業現代化。

除此之外，人工智慧與新一代信息技術結合，能有效解決地區發展的不均衡。2019年4月3日，廣東高州市人民醫院和廣東省人民醫院共同完成了全國首台「5G AI微創心臟手術」。本次手術中，廣東省人民醫院利用5G技術為遠在400公里外的高州市人民醫院進行遠程指導。現場畫面時延低於30微秒，幾乎是同步進行，整體網速比4G提升10倍。未來一個主治醫生在手術上只需做10—15分鐘的關鍵環節，藉助遠程智慧醫療方式，可讓一個醫生同時做十台手術。人工智慧技術將極大地提升效率，讓優質的醫療資源惠及更多的老百姓。

人工智慧在未來的應用不局限於以上的農業和醫療領域，在無人駕駛、智能製造、智慧城市、智慧政務系統、教育、通訊、社會治理和軍事等方面，也將拓展出新的空間。

人工智慧：從國家計划到國家戰略

人工智慧是引領未來的戰略性技術，世界主要國家把發展人工智慧作為提升國家競爭力、維護國家安全的重大戰略，加緊出台規劃和政策，圍繞核心技術、頂尖人才、標準規範等強化部署，力圖在新一輪國際科技競爭中掌握主導權。

加拿大是全球首個發布AI全國戰略的國家。2017年發布了《泛加拿大人工智慧戰略》（Pan-Canadian Artificial Intelligence Strategy），政府計劃撥款1.25 億加元支持AI研究及人才培養，目標是將加拿大建立為人工智慧研究的全球領先者。該戰略包含四個目標：增加人工智慧研究者和畢業生數量；建立三個世界頂尖科研集群；培養理解人工智慧經濟、道德、政策和法律含義的思想領袖；支持專註於人工智慧的國家研究團體。

日本是第二個發展AI戰略的國家，其《人工智慧技術戰略》在2017年3月發布。日本成立了人工智慧技術戰略委員會以發展《研究和發展目標以及人工智慧產業化的路線圖》。該委員會有11名成員，分別來自學術界、業界和政府，包括日本科學促進會主席、東京大學校長和豐田董事長。戰略制定的政策包括在研究與開發、人才、公共數據和創業公司上的新投資。

英國政府於2018年4月發布了《人工智慧行業新政》（AI Sector Deal）。這是該國政府工業戰略的一部分，旨在推動英國成為全球AI領導者。包含推動政府和公司研發、STEM 教育投資、提升數字基礎設施、增加AI人才和領導全球數字道德交流等方面。

2018年4月25日，歐盟委員會向歐洲議會、歐盟理事會、歐洲理事會、歐洲經濟與社會委員會及地區委員會提交了題為《歐盟人工智慧》報告，描述了歐盟在國際人工智慧競爭中的地位，並制定了歐盟AI行動計劃，提出了發展目標。2019年4月8日，歐盟委員會發布了一份人工智慧道德準則，提出了「值得信賴」的人工智慧應當滿足的7個條件，並將啟動AI道德準則的試行，邀請工業界、研究機構和政府機構對該準則進行測試和補充。

韓國政府大力發展人工智慧計划起源於2016年，由於人工智慧技術 AlphaGo 打敗韓國圍棋世界冠軍李世石，給了韓國很大的觸動，比賽結束兩天之後，韓國政府就公布要在未來五年投資1萬億韓元支持AI研究。兩年之後，韓國政府又公布了一個新的五年計劃，計劃投資2.2萬億韓元加強該國的AI研發。

2018年5月，印度政府發布《國家人工智慧戰略》，該戰略將人工智慧應用重點放在健康護理、農業、教育、智慧城市和基礎建設與智能交通五大領域上，重點關注印度如何利用AI促進經濟增長和社會包容。以「AI卓越研究中心」(CORE)與「國際AI轉型中心」(ICTAI)兩級綜合戰略為基礎，投資科學研究，鼓勵技能培訓，加快人工智慧在整個產業鏈中的應用，最終實現將印度打造為人工智慧發展模本的宏偉藍圖。

2018年7月，德國聯邦政府內閣通過了名為《聯邦政府人工智慧戰略要點》的文件。文件提出，當前急需採取的措施包括：為人工智慧相關重點領域的研發和創新轉化提供資助；優先為德國人工智慧領域專家提高經濟收益；同法國合作建設人工智慧競爭力中心要儘快完成並實現互聯互通；設置專業門類的競爭力中心；加強人工智慧基礎設施建設等。

2018年美國成立了「人工智慧特別委員會」，成員包括白宮科學和技術政策辦公室、國家科學基金會和國防部高級研究項目局等政府機構的官員。2019年2月美國總統特朗普簽署了行政令，啟動「美國人工智慧倡議」。儘管相比日本、中國、英國和法國等國家，美國的人工智慧發展規劃姍姍來遲，但「維持美國人工智慧領導力」的主題讓這一規劃與眾不同，主要體現出「頂層推動」「美國領導」和「注重基礎」三大特點。自特朗普政府執政以來，聯邦政府在引領科技發展中的角色日益明顯，從太空探索到量子技術，到下一代晶元技術，再到人工智慧領域。此前，美國人工智慧技術的主力軍一直是谷歌等企業部門。美國總統技術政策副助理邁克爾·克拉齊奧斯則宣稱，這個倡議的重點就是集中聯邦政府的資源來發展人工智慧。

2017年7月，中國政府印發《新一代人工智慧發展規劃》，明確指出新一代人工智慧發展分三步走的戰略目標，到2030年使中國人工智慧理論、技術與應用總體達到世界領先水平，成為世界主要人工智慧創新中心。

在各國戰略規劃描繪的美好願景之下，對於人工智慧技術迅速發展帶來的安全問題同樣受到了高度關注。例如我國的《新一代人工智慧發展規劃》中就明確提出，要開展與人工智慧應用相關的民事與刑事責任確認、隱私和產權保護、信息安全利用等法律問題研究，建立追溯和問責制度，明確人工智慧法律主體以及相關權利、義務和責任等。英國科學和技術委員會則於2016年相繼發布《機器人和人工智慧》和《人工智慧對未來決策的機會和影響》兩份報告，呼籲政府介入監管，建立透明、可追責機制。歐盟更是在2018年頒布實行了「史上最嚴」的一般數據保護條例（General Data Protection Regulation），賦予了歐盟居民對個人數據更多的控制權，並界定了在線服務商在收集、利用歐洲用戶個人數據的規則和責任。在探討WTO改革的議程中，各國對於數據基於信任的跨境流動和數據貿易等問題也是高度重視，積極探索適合各國共同發展的新模式、新辦法，並商議如何更好地解決由於各國發展不平衡造成的數字鴻溝等問題。

人工智慧「進化」背景下全球治理的新挑戰

人工智慧是影響面廣的顛覆性技術，將對政府管理、經濟安全、社會穩定乃至全球治理產生深遠影響。在這一過程中，非國家行為體的作用前所未有地上升，就業結構、法律與社會倫理、個人隱私、國際關係準則等領域同時受到衝擊與挑戰。

與原來核軍控等談判機制主體不同的是，人工智慧的技術基本掌握在非國家行為體中，如美國的谷歌、蘋果、微軟、亞馬遜、IBM、Facebook等私營機構，在中國，則是阿里、騰訊、百度、華為、京東、小米、商湯科技、科大訊飛等私營機構。私營機構甚至在如何使用人工智慧技術的原則上就會與國家存在很大分歧，這就導致與洽談核軍控等治理規則時完全不同的背景和條件，給人工智慧全球治理規則的洽談帶來很大的挑戰。

在商業公司日常運營過程中，對於公司決策者與技術開發人員來說，到底由誰來決定技術的使用方向？傳統公司，一般是由公司高層管理人員來決定公司產品和技術的應用方向。而現在的高科技互聯網公司，尤其是人工智慧公司，一些技術開發人員的價值觀也在某種程度上開始影響相關決策。這也導致價值觀認可和公司追求利益目標之間矛盾的增加。技術是一把雙刃劍，沒有人比參與創造技術的員工更接近科技增長的破壞力，也更接近它的道德困境。谷歌前首席執行官Lokman Tsui就曾提出這樣的問題：「誰來定義谷歌，誰來決定谷歌的靈魂是什麼？是領導還是員工？現在，這家公司的靈魂正面臨一場真正的鬥爭。」谷歌現任首席執行官Pichai則試圖淡化來自公司內部壓力的影響，他強調「我們不會通過公投來管理公司」，並表示是實際構建AI技術的人在做決定。

對於每個掌握人工智慧技術的私營機構，以及使用這些技術的機構（政府部門或軍方等）來說，還存在一個很大的問題。那就是挑選誰來參與制定技術使用規則，也就是通常所說的人工智慧倫理委員會人選。人們對於這些人員的選擇充滿警惕，由於每個人自身的價值觀、情感、宗教等因素偏好不同，通常候選人能獲得大多數人的認可並不容易。比如，2019年3月，紐約市警察局（NYPD）透露，他們自2016年底開始，使用人工智慧（Patternizr）追蹤罪犯，這是美國第一個通過演算法機器學習軟體，篩選警察局數據，找到同類案件並鎖定嫌疑人的工具，研究這項技術的目的是為了識別犯罪模式，幫助警察儘快逮捕嫌疑人。NYPD使用Patternizr被披露後，一些公民自由倡導者表示擔心基於機器的工具可能無意中加強了警務方面的偏見。紐約公民自由聯盟法律總監Christopher Dunn認為，對有色人種的過度監管，會使任何預測性警務平台都存在風險。為了確保公平，NYPD應該對其部署的技術保持透明，並允許獨立研究人員對這些系統進行審核。NYPD則宣稱Patternizr將種族和性別排除在演算法之外，在搜索過程中不會將嫌疑人的種族考慮在內，以作為對種族偏見的預防措施。2016年，布倫南司法中心對NYPD使用Patternizr採取了法律行動。2018年12月，紐約州最高法院下令NYPD發布有關其測試開發和使用預測性警務軟體的記錄。

除此之外，谷歌在宣布成立人工智慧倫理小組一周後，取消了其討論人工智慧問題的小組。谷歌於2019年3月26日任命了其高級技術外部諮詢委員會的成員。谷歌負責全球事務的高級副總裁肯特·沃克(Kent Walker)在一份報告中表示：「這個小組將考慮谷歌在人工智慧原則下出現的一些最複雜的挑戰，比如面部識別和機器學習的公平性，為我們的工作提供不同的視角。」員工和外部人士很快對委員會的組成提出了質疑。有些人想知道為什麼傳統基金會的主席凱·科爾斯·詹姆斯(Kay Coles James)會被納入理事會。2300多名谷歌員工簽約請願書呼籲谷歌把柯爾斯·詹姆斯清理出小組，請願書中的理由是其價值觀中包含有「反變性人、反LGBTQ和反移民」等主張。3月30日，卡內基梅隆大學(Carnegie Mellon University)信息技術和公共政策教授、谷歌(Google)選定的專家之一阿奎斯特(Alessandro Acquisti)則宣布他選擇不參加。周三，牛津大學(University Of Oxford)信息哲學與倫理教授盧西亞諾·弗洛里迪(Lucano Floridi)表示，儘管他不同意科爾斯·詹姆斯(Coles James)和傳統基金會的觀點，但他還是覺得自己應該參與進來。周四晚上，谷歌取消了整個項目。「很明顯，在目前的環境下，ATEAC不能按我們的意願發揮作用。所以我們要結束會議，回到畫板上」，谷歌周四在公告頂部貼上的一份聲明中寫道。「我們將繼續對人工智慧提出的重要問題負責，並將找到不同的方法來獲取外界對這些問題的意見。」

以上案例說明，人工智慧相關的倫理問題難以在缺乏國家政府主導和國際合作的情況下得到解決，人們對於演算法歧視、不透明等問題存有擔憂，將來也可能會對人工智慧技術的發展產生阻礙。

未來人工智慧全球治理需要新框架

當前，世界各國政府以及聯合國在內的國際組織都開始思考如何建立起有效的治理體系，以推動新技術對生產力發展的促進和人民生活水平的提高。中國《新一代人工智慧發展規劃》提出，必須放眼全球，把人工智慧發展放在國家戰略層面系統布局、主動謀劃。從全球格局來看，人工智慧技術發展本身也需要一定的國際合作，這對大變局下的國際治理體系提出了新的要求。我們應該搭建涵蓋政府、企業、學界、公共部門和私營部門的平台，形成合力，推動新技術為人類文明的進步服務。

正如聯合國副秘書長劉振民在2019年博鰲亞洲論壇年會對話環節時所說「關於人工智慧，就應當進行溝通制定規則」，「需要建立一個平台，來解決人工智慧規範性使用的問題」。

隨著人工智慧不斷「進化」，未來全球治理格局將會得到重塑，人工智慧必將為人類創造更美好的未來。

（本研究得到清華大學戰略與安全研究中心「人工智慧與安全」項目研究資助）

（作者系清華大學社科學院中美關係研究中心副主任）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！