微軟開發新工具試圖防止AI演算法中的偏見

新智元編譯

來源：futurism

編輯：肖琴

【新智元導讀】微軟希望創建一種工具來檢測AI演算法，並提醒人們演算法可能基於種族或性別對待他們。

微軟公司最新加入試圖解決演算法偏見的科技公司行列——演算法偏見是指，提供給AI系統的數據不足，以致結果反映出社會本身的偏見或不公平的觀點。

微軟加入谷歌和Facebook的行列，創建工具來尋找未適當訓練的AI。但是微軟用於發現演算法偏見的新演算法只能找到並標記演算法已經存在的問題。這意味著，比如說，導致警察偏見增加的程序如果沒被發現，仍然會被建立和使用。

為了真正地創造公平、惠及每一個人的AI，需要在前端有更多關注。公司可以通過第三方來審查他們的演算法，例如引入外部專家，並在代碼本身或被輸入的數據中尋找偏見的跡象。

一些人工智慧公司已經開始聘請審查人員來查看他們的代碼。但這也要求AI系統足夠簡單，一遍有人能夠發現問題區域，或者要求審查人員精通代碼。對於更複雜的深度學習演算法來說，這種方法並不總是可行。

另一個可能的答案是，為實際創造AI的人提供更好的培訓，這樣他們就能更好地發現自己的觀點和偏見，並防止這些偏見被演算法解釋為事實。這並不意味著程序員們正在編碼種族主義機器。但是，因為每個人都有某些隱含的偏見，技術世界將會從幫助人們更好地理解他們自己的世界觀中受益。

這些都是主要的解決方案，需要對技術的開發方式進行觀念上的轉變，即使對希望開發這些過濾器和標記演算法偏見的公司來說也是如此。

研究人員和公司開始關注這個問題，這是一個好的跡象。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！