人工智慧時代的風險管理
編者按
4月16日，IBM政府業務中心發布報告《人工智慧時代的風險管理》，報告既是美國聯邦政府針對AI應用的風險管理策略基礎，又是其他政府可以借鑒的潛在可行方法。
01
背景
多年來，人工智慧（AI）的功能不斷增多，應用不斷推廣。計算能力的巨大進步和數字化推動了這場革命，從而開創了AI的新黃金時代。機器學習（ML）在推動這場AI革命中繼續扮演著不可或缺的角色。機器學習技術的成功使它得以迅速傳播到所有行業，包括政府以及政府機構的工作中。ML、自然語言處理（NLP）、機器人流程自動化（RPA）或人工神經網路等AI工具對當前和未來產生持續影響，顛覆了私營公司開展業務方式的同時，也增強了政府部門工作流程的自動化程度。
政府部門負責人和公共事業管理者在AI時代面臨的挑戰不僅是如何以有效的方式實現目標，更面臨問責制、透明度以及其他方面的擔憂，這些因素必須納入與採用AI工具來改善政府治理相關的風險管理策略中。
02
人工智慧工具與風險管理
該報告為公共事業管理者提供了一個框架，用於管理公共部門進入AI時代的相關風險，明確AI工具在公共組織及任務中的角色。AI工具為政府治理帶來了巨大的機遇和挑戰，因此在採用這些工具前，應仔細考慮和權衡。這一風險管理框架的特點是擴大了AI工具的應用範圍，增強其效能，例如提高任務效率、降低任務成本、提高決策質量、改善政府提供的服務，以及用更少資源做更多的事情等。
報告介紹和討論了AI工具的應用範圍，認為AI工具可通過三種特定方式加以利用：（1）作為一種工具，替代人為的判斷力和人工；（2）作為決策支持工具，查找大量或多維數據中不可見的模式；（3）作為信息生成和複雜度消除系統。具體可根據任務的性質和任務環境的不同而篩選，但三種方式互不排斥。
報告提出五個AI工具評估標準，供政策制定者在制定組織的AI風險管理策略時使用，分別是有效性，效率，公平，可管理和政治合法性。
03
建議
報告為制定適當風險管理流程提供了三點建議，以最大程度地利用人工智慧工具帶來的機會，同時減輕挑戰和危害帶來的影響。這些建議可以為從事政府工作的人提供一個快速思考的角度，將AI工具添加到更廣泛的工具包中，以儘可能有效、高效且公平地提供政府服務。建議如下：
1）對與AI和現有組織流程相關的管理和分析能力，進行前期和持續投資。
2）最大程度地提高工具和任務之間的契合度來管理風險。
3）利用現有的工具、創造新的工具，分享人工智慧應用和風險管理方面的經驗教訓和最佳實踐。
來源：IBM政府業務中心/圖片來自互聯網
軍事科學院軍事科學信息研究中心 李海英
編輯：劉偉雪
如需轉載請註明出處：「國防科技要聞」（ID：CDSTIC）
註：原文來源網路，文中觀點不代表本公眾號立場，相關建議僅供參考。
