誰在運行這個世界？演算法—控制你日常生活的密碼！

當你在網上瀏覽一雙新鞋、在互聯網上看一部電影或者申請一筆汽車貸款時，一個演算法可能會影響其結果。複雜的數學公式在各行各業中發揮越來越大的作用：從檢測皮膚癌症到推薦新的Facebook朋友、決定誰獲得工作、警力的部署、誰以什麼成本獲得保險、以及誰沒有飛行計劃等等。

演算法被實驗性地用於從原始數據中寫入新聞文章，唐納德·特朗普的總統競選就是由行為營銷人員使用演算法，來幫助定位可被說服的選民的集中區域。

但是，儘管這些自動化工具可以在以前的主觀決策中注入一定程度的客觀性，但是由於缺乏透明度，人們還是會產生一些擔憂。隨著壓力越來越大，可能意味著對於演算法要應用道德標準或問責制。

數據科學家Cathy O"Neil提醒：「盲目相信」演算法會導致不公平的結果。「演算法不是本來就公平，而是建立模型的人定義成功，」她說。

O"Neil認為，雖然一些演算法可能是有幫助的，但其他的也可能是邪惡的，並且常常放大對弱勢群體的偏見。她警告說演算法系統並不是絕對可靠的：它們依賴於不完美的輸入、邏輯、概率和設計演算法的人。她的研究成果在去年的白宮報告中得到回應。

報告指出數據系統可以理想得幫助消除人為偏見，但同時警告演算法會系統地弱化某些群體。

北卡羅來納大學研究技術和社會的教授Zeynep Tufekci認為，自動化決策通常基於收集的關於人的數據，但有時並不包括他們的知識。Tufekci在最近的TED講座中說，「這些計算系統可以從你的數字包中推斷出關於你的各種各樣的事情。

他們可以推斷你的性取向，你的性格特質，你的政治傾向。它們具有高度準確性的預測能力。

「這樣的見解可能在某些情況下有用，例如幫助專業醫療人員診斷產後抑鬱症，但在其他情況下並不公平，」她說，「一部分原因是因為要求計算機回答沒有正確答案的問題。」

它們是主觀的，開放式的充滿價值的問題，詢問誰應該被公司僱傭，你應該在什麼樣的朋友面前表現自己，哪個囚犯更容易再犯錯。

馬里蘭大學法學教授，《黑箱子社會》的作者Frank Pasquale表達了同樣的擔憂：「秘密演算法控制了貨幣和信息。」他提出一個糾正不公平影響的建議，即執行現有的消費者保護法，打擊欺詐性行為。他指出歐盟數據保護法準備從明年開始創建一個「解釋權」，當消費者權益受到損害時用來當作一個可以擴展的模型。這將「要麼強制增加透明度，要麼防止演算法被應用到一些特定的上下文中，」他說。

在民主中心和科技的政策分析師Alethea Lange稱，歐盟計劃「聽起來不錯」，但「實在是太繁冗了」，可能實際上會行不通。她認為在開發更公平的演算法中，教育和討論可能比實際執行更重要。

Lange說，她的團隊與Facebook合作，例如，修改允許廣告客戶在定位中使用「民族的親和力」的演算法，因為這種演算法備受爭議。

有其他人警告：演算法不應該成為社會弊病的替罪羊。

信息技術與創新基金會副總裁Daniel Castro說：「人們正在氣憤，他們正在尋找一些東西去抱怨」，「我們關注的是偏見、問責制和道德決策，但是無論你是否使用演算法，這些問題都存在。」

在她的2016年的書《數學毀滅的武器》中，她列舉了美國的一些令人不安的例子：

2010年華盛頓特區的公立學校根據評估績效的演算法公式中的分數，解僱了200多名教師，包括一些受人尊敬的教師。

一個診斷為雙相性精神障礙的男性，在基於演算法分類的第三方「個性」測試後，被認為屬於高危人群，七個主要零售商都拒絕他就業。

許多管轄區正在使用「預測性警務」將資源轉移到可能的「熱點」。 O"Neill說，根據數據如何饋入系統，可能會導致發現更多的輕微犯罪以及給貧困地區打上烙印的「反饋迴路」。

一些法院依靠計算機排名的公式來確定監獄徒刑和假釋，這可能會因為考慮到風險因素而引起對少數民族的歧視，如他們的鄰里和朋友或家庭與犯罪的聯繫。

在金融世界，經紀人從網上和其他來源搜取數據，繼而以新的方式做出信貸或保險決策。

對此，大家怎麼看的呢？歡迎加入怪羅微信公眾號：guailuo123