美國國家科技委員會報告：為人工智慧的未來做好準備

E安全1月3日文 未來，人工智慧（Artificial Intelligence, AI）將發揮越來越重要的作用。為了讓美國有所準備，美國國家科技委員會調查了AI現狀、現有和潛在應用、以及AI發展進程中引起的社會和公共政策問題。美國國家科技委員會還推薦聯邦機構和其它機構採取進一步具體行動。配套文件「國家人工智慧研究和發展戰略計劃」（請在本文末尾下載E安全提供的原版報告）闡述了美國聯邦政府資助的AI研發戰略計劃。

AI服務公眾

人工智慧和機器學習的樂觀面在於，它們能幫助解決某些具有挑戰性和低效的狀況來改善人們的生活質量。公共部門和私營部門對人工智慧基礎與應用研發的投資已經開始為公眾帶來巨大好處，包括醫療保健、交通、環境、刑事司法和經濟融合等領域。政府的效率在逐漸提升，因為政府機構在培養能力通過AI更快、更靈敏、更高效地完成任務。

AI與監管

許多產品應用了AI，例如汽車和飛機，這些產品受到監管，以保護公眾免受傷害，並確保經濟競爭的公平性。將人工智慧納入這些產品將如何影響相關監管模式？一般而言，應通過評估納入AI可能減少和增加的風險面了解監管AI驅動產品保護公共安全的方法。如果風險在現有監管制度範圍內，政策討論者應開始考慮現有監管措施是否已充分解決風險，或這些措施是否需要適應AI的融入。此外，如果對納入AI的監管響應需增加合規成本，或減緩有利創新的開發或採用，決策者應考慮如何調整這些響應，以降低成本和創新壁壘，而不影響安全或市場公平性。

當前，AI驅動產品的監管挑戰主要表現在自動化車輛（如自動駕駛車輛）和配置人工智慧的無人機上。從長遠來看，自動化車輛將可能通過減少司機失誤，增加個人移動性拯救許多生命，而無人機將帶來許多經濟利益。然而必須保護公共安全。美國交通部（The Department of Transportation，DOT）正使用一種方法改進相關法規，其基礎是在部門內構建專業知識，創造實驗安全空間和試驗台，並與行業和民間社會合作改進基於績效的法規，使更多用途作為安全操作的證據累積。

研究與勞動力

政府通過研發和豐富技能、多樣化勞動力增長來推動人工智慧中扮演重要角色。單獨的聯邦政府資助AI研發戰略計劃與本報告一起發布。該計劃討論聯邦政府研發角色，確定機會範圍，並推薦方法協調研發將利益最大化，並培養訓練有素的勞動力。

此外，考慮到AI的戰略重要性，聯邦政府應監控全球範圍內該領域的發展動態，以便獲得其它地方重要變化的早期預警，以防需要變更美國政策。

AI的快速發展極大增加了相關技能的人力需求，以支持並推進該領域發展。AI世界需要精通數據的公民讀取、使用、解釋和傳達數據，並參與討論人工智慧影響的事件。聯邦科學、技術、工程和數學（Federal Science, Technology, Engineering, and Mathematics，STEM）教育計劃越來越重視AI知識和教育。AI教育還是全民計算機科學（Computer Science for All）的一部分，奧巴馬啟動的這項全民計算機科學計劃旨在讓所有美國學生從幼兒園到中學學習計算機科學，並掌握技術驅動世界所需的計算思維技能。

人工智慧的經濟影響

AI在短期內的經濟效應是將以前無法自動化的任務自動化。這將可能提高生產力並創造財富，但也可能以不同的方式影響特定類型的工作，增加與AI相輔相成的其它技能, 同時減少某些特定技能的需求。白宮經濟顧問委員會（White House Council of Economic Advisors，CEA）的分析表明，自動化對低工資職業產生的負面影響最大，並且人工智慧驅動的自動化將可能拉大教育水平相差甚遠的員工工資差距，從而潛在增加經濟不平等性。公共政策可以解決這些風險，確保工作人員經過再培訓，並能在自動化互補職業中有一番作為。公共政策還能確保AI創造的經濟效益得到廣泛共享，並確保AI迎來全球經濟新時代。

公平、安全與管控

隨著AI技術被廣泛地部署，技術專家、政策分析師和倫理家對廣泛採用AI出現的意外後果表示擔憂。使用AI做有關人類的重要決策，經常會取代通過人為驅動官僚程序制定的決策，從而導致人們擔心如何確保正義、公平和問責制——同樣2014年美國總統行政辦公室發布的《大數據:抓住機遇，保留價值》(Big Data:Seizing Opportunities, Preserving Values)的報告，以及《大數據與隱私報告》中被提出。透明度不僅涉及數據和演算法，還可能以某種形式解釋基於AI的決定。然而，AI專家警告稱，試圖理解並預測先進AI系統的過程中存在固有挑戰。

使用AI控制物理設備引發對安全的擔憂，尤其當系統暴露在極為複雜的人類環境時。AI安全的巨大挑戰在於構建系統，從實驗室的「封閉世界」過渡到外部的「開放世界」（不可能預測的事情可能會發生）。適度適應不可預見的情形很難，但卻是安全操作所必需的步驟。構建其它類型安全關鍵系統和基礎設施（例如飛機、發電廠、橋樑和車輛）的經驗可以讓AI從業人員了解驗證與確認，如何構建技術的安全案例，如何管理風險，以及如何與風險利益相關者溝通。

從技術層面講，公平挑戰與安全挑戰息息相關。在這兩種情況下，從業人員努力避免意外行為，並生成所需證據，使利益相關者有理由相信不可能發生意外的失敗。

對AI從業者和學生進行倫理培訓是該解決方案的必要組成部分。理想情況下，每個學習AI、計算機科學或數據科學的學生將會接觸與倫理和安全話題相關的課程與討論。然而，僅僅學習倫理學遠遠不夠。倫理學可以幫助從業者理解利益相關者的職責，但倫理培訓應藉助技術工具和方法，通過防止意外結果必需的技術工作，將良好意願付諸實踐。

全球考量與安全

AI在國家關係和安全領域引出政策問題。近年來，AI一直是國際討論中的熱門話題，因為各國、多邊機構和其它利益相關者開始體驗人工智慧的好處與挑戰。這些實體之間的對話與合作有助於推進AI研發，並永久駕馭AI，同時解決共同的挑戰。

如今，AI應用在網路安全領域發揮著重要的作用，預計AI將對防禦和進攻網路措施發揮更大的作用。目前，通過設計與操作保護系統安全需花費專家大量的時間和精力。將這項工作自動化可能以較低的成本強化大量系統和應用程序的安全，並提高國家網路防禦的敏捷性。

在武器系統中潛在使用AI會引起挑戰性問題。幾十年來，美國在某些武器系統融入自主權，使武器使用更精準、更安全、並實施更人道的軍事行動。然而，完全放棄人為控制武器系統存在風險，這可能引發法律和道德問題。

將自主和半自主武器系統納入美國國防計劃的關鍵在於，確保美國政府實體按照國際人道主義法行事，採取適當的措施控制武器擴散，並與合作夥伴和同盟國合作制定開發和使用這類武器系統的相關標準。美國積极參与致命自主武器系統的國際討論，並期望持續參與這些潛在武器系統的國際討論。美國政府機構正在努力制定一項符合國際人道主義法的自主與半自主武器政府政策。

為AI未來做準備

如果行業、民間社會、政府和公眾共同支持AI技術發展，慎重考慮AI潛力並管理風險，AI可能會是經濟發展與社會進步的巨大驅動力。

對重要問題展開討論，並幫助制定公開討論議程；可以監控應用安全與公平，制定、採用監管框架，鼓勵創新，並保護公眾；可以提供公共政策工具確保AI工作方式與方法提高生產力，同時避免對某些勞動力部門造成不利的經濟後果；還能支持AI基本研究，並將AI應用至公益事業；支持開發技能強的多樣化勞動力。許多公共政策領域（從教育和經濟安全網到國防、環境保護和行事司法）將會面臨AI持續發展驅動的新機會和新挑戰，美國政府必須繼續培養能力理解並適應這些變化。

隨著AI技術的持續發展，從業者必須確保AI系統是可控的、開放的、透明的、可理解的；可以與人有效協作，其操作將與人類價值觀和願望保持一致。研究人員和從業者已經在逐漸關注這些挑戰，並應持續關注。

開發並研究機器智能可以幫助我們更好地理解人類智能。若經深思熟慮後加以利用，AI可以增強我們的智慧，幫助我們繪製更美好的光明未來。