人工智慧引發倫理問題，科技巨頭成立倫理委員會

本文屬於本次Emtech Digital人工智慧峰會獨家精選

隨著人工智慧的發展，機器承擔著越來越多（來自人類）的決策任務，這也引發了許多關於社會公平、倫理道德的新問題。

俗話說：權利越大，責任越大。人工智慧技術正變得越來越強大，那些最早開發和部署機器學習、人工智慧的企業現在也開始公開討論其創造的智能機器給倫理道德帶來的挑戰。

在《麻省理工科技評論》的EmTech峰會上，微軟研究院的常務董事埃里克·霍維茨（Eric Horvitz）說：「我們正處於人工智慧的轉折點，人工智慧理應受到人類道德的約束和保護。」

霍維茨與來自IBM和谷歌的研究人員仔細討論了類似的問題。大家都很擔憂是，人工智慧最近取得的進步使其在某些方面上的表現超越了人類，例如醫療行業，這可能會某些崗位的人失去工作的機會。

IBM的研究員弗朗西斯卡·羅西（Francesca Rossi）舉了一個例子：當你要使用機器人去陪伴和幫助老年人的時候，機器人必須遵循相應的文化規範，即針對老人所處的特定文化背景執行特定的任務。如果你分別在日本和美國部署這樣的機器人，它們將會有很大的差異。

雖然這些的機器人可能離我們的目標還很遙遠，但人工智慧已經帶來了倫理道德上的挑戰。隨著商業和政府越來越多地依靠人工智慧系統做決策，技術上的盲點和偏見會很容易導致歧視現象的出現。

去年，一份ProPublica報告顯示，一些州使用的風險評分系統在通知刑事審判結果中對黑人存在偏見。同樣，霍維茨描述了一款由微軟提供的商用情緒識別系統，該系統在對小孩子的測試中表現很不準確，原因在於訓練該系統的數據集圖片很不恰當。

谷歌的研究員瑪雅·古帕（Maya Gupta）呼籲業界要更加努力地提出合理的開發流程，以確保用於訓練演算法的數據公正、合理、不偏不倚。她說：「很多時候，數據集都是以某種自動化的方式生成的，這不是很合理，我們需要考慮更多因素以確保收集到的數據都是有用的。想想我們僅從少數群體中選樣，即使樣本足夠大，這就一定能確保我們得到的結果很準確嗎？」

去年一年，無論是在學術界還是在工業界，研究人員對機器學習和人工智慧所帶來的倫理挑戰做了大量研究。加州大學伯克利分校、哈佛大學、劍橋大學、牛津大學和一些研究院都啟動了相關項目以應對人工智慧對倫理和安全帶來的挑戰。2016年，亞馬遜，微軟，谷歌，IBM和Facebook聯合成立了一家非營利性的人工智慧合作組織（Partnership on AI）以解決此問題（蘋果於2017年1月加入該組織）。

這些公司也正在各自採取相應的技術安全保障措施。古帕強調谷歌的研究人員正在測試如何糾正機器學習模型的偏差，如何保證模型避免產生偏見。霍維茨描述了微軟內部成立的人工智慧倫理委員會（AETHER），他們旨在考慮開發部署在公司雲上的新決策演算法。該委員會的成員目前全是微軟員工，但他們也希望外來人員加入以應對共同面臨的挑戰。Google也已經成立了自己的人工智慧倫理委員會。

實施了這些項目的公司大致認為它們不需要政府採取新形式來實現對人工智慧的監管。但是，在EmTech峰會上，霍維茨也鼓勵討論一些極端的結果，這可能會導致一些人得出相反結論。

在二月份，霍維茨組織了一場研討會，他們詳細地討論了人工智慧可能帶來的危害，比如搞亂股票市場，干擾選舉結果。霍維茨說：「如果你積極主動一點，你可能會想出人工智慧將產生的某些不好的結果，並能夠提出相應的機制阻止它們的發生。」

這樣的討論似乎引發了其中一部分人的恐慌。古帕也因此鼓勵人們去考慮人類應該如何決策，使這個世界變得更加道德。

她說：「機器學習是可控制的，是精確的，是可用統計學來衡量的。並且，這裡存在著很多讓社會變得更加公正、更加道德的可能性。「

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！