演算法沒有偏見，我們有！

AiTechYun

編輯：nanan

對使用AI來改進組織的運作感到興奮嗎? 對計算機模型的見解和預測的承諾感到好奇嗎？我想提醒大家有關偏見的問題，以及這些類型的項目如何出現，我將分享一些說明性的例子，以及關於「演算法偏見」的最新學術研究。

首先,語言很重要。我們所謂的事物塑造了我們對它們的理解。這就是為什麼我試圖避免 「AI」這一被炒作的術語。大多數被稱為「機器學習」的項目實際上被描述為「機器學習」。機器學習可以被描述為訓練計算機做出決定的過程。這篇文章描述了為什麼你需要擔心機器學習問題中的數據。

這在很多方面都很重要。「演算法偏見」現在已經在媒體上出現了。這個詞是什麼意思?演算法正在使用歧視性的建議供法官使用；演算法在對翻譯服務的性別刻板印象中進行bakes；演算法推動觀眾在YouTube上觀看極端主義的視頻。我認識的大多數人都認為這不是我們想要的世界。讓我們深入探究為什麼會發生這種情況，並且把責任歸咎於它。

你的機器正在學習，但是誰在教導它呢?

物理學對我來說很難。更糟的是，我認為我永遠不會擅長物理。我把這些都歸功於一個可憐的高中物理老師。另一方面，雖然我不擅長複雜的數學，但我更喜歡學習它。我把這種持續的熱情追溯到我的初中數學老師，他帶著興奮的心情向我們介紹了這個話題。

這個故事說明：老師很重要。這在機器學習中更加如此，機器不會帶來先前的經驗、背景信念以及其他所有使人類學習的重要內容，並提供許多路徑到內容中。機器只能從你所展示的東西中進行學習。

所以在機器學習中，重要的問題是「教科書是什麼」和「誰是老師」。「機器學習的教科書是你向軟體展示的「訓練數據」，教導他們如何做決定。這通常是你檢查過的一些數據，並標有您想要的答案。通常情況下，你得到的數據來源非常廣泛(我們通常稱之為「語料庫」)。如果你想預測一個人獲得小額貸款的可能性有多大，那麼你可能會選擇一些培訓數據，包括當前貸款對象的還款記錄。

第二部分是關於老師是誰。老師決定要問什麼問題，並告訴學生什麼是重要的。在機器學習中，教師負責「特徵選擇」——決定機器可以用來做決定的數據有哪些部分。有時，這種特性選擇是你所擁有的，而不是您所擁有的訓練集所包含的。更常見的情況是，您使用一些統計數據來讓計算機選擇最有可能有用的特性。回到我們的小額貸款例子：一些候選特徵可能是貸款期限、總金額、接收者是否有手機、婚姻狀況或他們的種族。

訓練數據和訓練特性是任何機器學習項目的核心。

演算法是鏡像

讓我們回到語言這個問題上來。也許一個更有用的術語是「機器學習」將是「機器教學」。這將把責任放在老師的身上。如果你在做「機器學習」，那麼你最感興趣的是它正在學什麼。用「機器教學」，你最感興趣的是你教機器做什麼。這在語言上是一個細微的差別，但在理解上卻有很大的不同。

把責任放在老師身上可以幫助我們意識到這個過程是多麼的困難。還記得我開始時的偏見例子嗎?這種量刑演算法是歧視性的，因為它是由美國法院系統的量刑數據教導的，這些數據顯示，除了黑人之外，對每個人都很寬容。在性別刻板印象中，bakes的翻譯演算法很可能是用新聞或文學的數據來教導的，這是我們在過時的性別角色和規範中發現的。 這種在您的Feed上顯示虛假故事的演算法被教導分享許多其他人共享的內容，無論其準確性如何。

所有這些數據都是關於我們的。

演算法沒有偏見，我們有！演算法是鏡像。

它們反映了我們的問題和數據的偏差。這些偏見會被納入機器學習項目中，包括特徵選擇和訓練數據。這是對我們，而不是電腦。

矯正鏡頭

那麼我們如何檢測和糾正這個呢?老師對學生的學習負有責任和自豪感。機器學習模型的開發人員應該感到類似的責任，也許也應該讓他們感到類似的自豪感。

微軟在公開的語言模式中努力消除性別偏見的例子讓我感到振奮。我喜歡Joy Buolamwini的努力，她將這一問題重新定義為「正義」在社會和技術干預中的問題，她稱之為「演算法正義聯盟」。ProPublica的調查性報道讓公司對其歧視性的量刑預測負責。令人驚嘆的Zeynep Tufekci在演講和寫作引領著整個社會的危險。凱西·奧尼爾的數學毀滅武器記錄了這一事件的種種影響，為整個社會敲響了警鐘。像法律這樣的領域正在辯論演算法驅動的決策在公共政策環境中的意義。城市法令正在開始處理如何立法反對我所描述的一些影響的問題。

這些努力有望成為這些演算法鏡像的「矯正鏡頭」——解決我們在自己的思考中看到的令人不安的方面。這裡的關鍵是要記住，我們要做些什麼來解決這個問題。使用演算法確定決策不會自動使其可靠和可信; 就像對數據進行量化一樣，並不會自動使之成為現實。我們需要看到我們自己在這些演算法鏡像中的反映，並確保我們看到我們希望看到的未來。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！