歐盟 AI 道德準則草案出爐！可信賴的 AI 才能成為人類的北極星

人工智慧（AI）的公平性及道德規範在 2018 年成為重要議題，現在法律規範力量準備介入。歐盟委員會（EC）任命的人工智慧高級專家小組（AI HLEG）剛剛發布了 AI 開發和使用的道德草案—可信賴 AI 的道德準則草案（Draft Ethics Guidelines for Trustworthy AI），內容長達 37 頁，提出可信賴 AI 應具備兩大要素，以及 AI 不可為的基本原則。

歐盟委員會在 2018 年 4 月發布了歐洲人工智慧方法（European approach on AI）之後，成立了人工智慧高級專家小組，由 52 名來自學術界、工業界和民間社會的獨立專家所組成，而此次的 AI 道德準則草案第一版就是由這個高級專家小組所制定。從現在到 2019 年 1 月 18 日為對外開放徵求意見的期間，預計到了 2019 年 3 月，AI HLEG 將向歐盟委員會提交最終版本的指導方針，以及提出如何推進這項工作的建議，目標將歐洲的道德方法帶入全球舞台，此外，歐盟委員會目前也正在向願意分享相同價值觀的所有非歐盟國家開放合作。

可信賴 AI 的兩大要素

AI HLEG 表示，AI 無疑是這個時代最具變革性的力量之一，必將改變社會結構，我們必須確保最大化 AI 的優勢，同時降低風險，因此需要以人為本的人工智慧方法，AI 的開發和使用不應被視為一種手段，應視為增加人類福祉的目標。「可信賴的 AI 」（Trustworthy AI）將成為人類的北極星。

歐盟 AI 道德準則草案指出，可信賴的 AI 有兩個組成要素：一、應尊重基本權利，適用法規、核心原則和價值觀，以確保「道德目的」（ethical purpose），二、兼具技術魯棒性（robust）和可靠性，因為即使有良好的意圖，缺乏技術掌握也會造成無意的傷害。另外，AI 技術必須足夠穩健及強大，以對抗攻擊，以及如果 AI 出現問題，應該要有「應急計劃」（fall-back plan），例如在 AI 系統失敗了，必須要求交還由人類接手。

圖｜歐盟提出可信賴 AI 的道德準則草案以及框架（圖片來源：歐盟）

另外，可信賴 AI 的不可為，包括不應以任何方式傷害人類；AI 不應限制人的自由，換句話說，人們不應該被 AI 驅動的機器征服或強迫； AI 應該公平使用，不得歧視或誣衊；AI 應透明地運作，也就是說，人類需要知道 AI 正在開發的目的，以及如何使用它；AI 應該只為個人和整個社會的福祉而發展

草案也提出了框架，第一章闡述 AI 必須遵守的基本權利和價值觀，以確保 AI 符合道德目的。第二章則是實現可信賴 AI 的指導方針，同時兼顧道德目的和技術穩健性，並列出可信賴 AI 的要求，包括技術和非技術方法。第三章則提供了具體但非窮舉的可信賴 AI評估表。

圖｜可信賴 AI 的生命周期（圖片來源：歐盟）

從科研、企業的呼籲進展到國家規範，AI 的道德監管進入新高度

近年來 AI 技術在多個應用領域展示了良好的進展及高效率，但同時也浮現不少問題，包括使用有歧視的數據就會訓練出歧視人的 AI 模型，侵犯某些群體的權益，以及廣泛的面部識別技術與民眾隱私的矛盾，更讓世人震驚的莫過於利用 AI 發展出智能武器，很可能在未經人類下達命令的情況下就發動攻擊，這些 AI 不受控的問題，讓許多科學家、企業、政府感到憂心，過去對於應該制定 AI 規範的意見，多來自科研及行業界的呼籲。

不久前，微軟總裁 Brad Smith 也發出公開信，針對面部識別技術的問題提出六大原則，包括要求透明度、啟用第三方測試和比較、確保有意義的人類審查等，並承諾在 2019 年第一季度末，微軟就會實施這些原則，他同時也向美國政府呼籲，應在 2019 年開始立法來規範 AI 面部識別技術的使用，「面部識別精靈剛從瓶子中出現，除非我們儘快採取行動，否則我們在五年後醒來，才會發現面部識別讓社會問題變得嚴重，」Brad Smith 說，因為面部識別系統可能存有偏差，在某些情況下，將違反禁止歧視的法律，且若廣泛使用也可能侵犯民眾隱私。

而歐盟在 2018 年 5 月正式讓通用數據保護條例（GDPR）上路，提高個人數據使用的公平性和透明度，防止企業濫用或忽略用戶數據的保護，此次歐盟又正式提出了 AI 道德準則，象徵 AI 的公平性、透明、道德性的規範正式進入一個更高的治理層次。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！