Google員工又「造反」了:AI倫理委員會,憑什麼混進了反LGBT的人?
郭一璞 發自 凹非寺
量子位 報道 | 公眾號 QbitAI
Google的員工,又開始抗議自己公司了。
一千餘名谷歌員工,聯合188名學界、科技界等社會各界人士,寫了一封聯名信,發起了一場浩浩蕩蕩的反對「LGBT恐懼症」運動。
簽名的人數,還在不斷增長中。
究其起因,則是上周Google推出的先進技術外部諮詢委員會(Advanced Technology External Advisory Council, ATEAC),一個非Google員工組成的AI倫理委員會,幫助Google面對AI發展中面臨的公平性等問題。
在這個影響Google AI發展的委員會成員名單中,員工們發現了他們認為不應該出現的人:
Kay Coles James,美國傳統基金會(the Heritage Foundation)主席,一個反LGBT、反移民的人。
要知道,Google的不少員工都是從各國來的移民,而LGBT平權早已成為主流的政治正確。
這種反差類似於,一個反對996的作戰計劃討論組裡,混進來一個996公司的老闆。
那麼一個旨在幫助Google AI負責任發展的機構,為什麼出現了一個偏見這麼大的人?
而在這場聯署運動之外,Dyan Gibbens,一家曾經為美國空軍提供無人機AI成像服務的公司CEO,竟然也進入了這個委員會。
要知道,不將AI應用於武器Google AI七原則中的重要一條啊,而這寶貴的七原則,可是去年員工們付出數十名員工離職、3000人聯名上書、持續一整個春天抗議的代價才爭取到的。
外部AI倫理委員會,出生即夭折
ATEAC,這個討論AI倫理的外部委員會是上周剛剛成立的。
3月26日,Google全球事務高級副總裁Kent Walker在Google博客中發文宣布,為了貫徹落實Google AI七原則,完善相關的內部治理結構和流程,成立ATEAC委員會。
委員會將會聚焦於Google內部涉及七原則的複雜事物,比如人臉識別,比如機器學習的公平性,為相關工作提供多樣化的觀點。
委員會設置8名成員,分別是:
Alessandro Acquisti,經濟學家,隱私問題研究者,CMU信息技術與公共政策教授。
Bubacarr Bah,應用和計算數學專家,南非斯泰倫博斯大學數學科學系助理教授。
吳德愷,NLP、音樂技術和機器學習專家,港科大計算機科學與工程教授,伯克利國際計算機科學研究所傑出研究者。
Dyan Gibbens,工業工程和無人系統專家,Trumbull Unmanned公司CEO。
Joanna Bryson,心理學和AI倫理學專家,巴斯大學計算機系副教授,多家AI公司的顧問。
Kay Coles James,美國傳統基金會主席,曾在美國各級政府擔任公共政策專家。
Luciano Floridi,哲學家,數字倫理專家,牛津大學哲學和信息倫理教授,指導牛津互聯網研究所的數字倫理實驗室,艾倫圖靈研究院數字倫理小組主席。
William Joseph Burns,外交政策專家,美國前副國務卿,卡內基國際和平基金會主席。
上面8位組成的首屆委員會的任期是2019年,他們將會從4月開始,舉行四次會議。
但是,這8個人里,有兩個人遭到強烈反對,一個人直接退出,還有一個人看到名單就失望了。
首個退出者
還沒等到第一次會議召開,名單公布沒幾天,就有人不幹了:
上述名單中的頭一位,Alessandro Acquisti在Twitter上公開表示退出ATEAC委員會,認為討論AI倫理這種重大事項,這個機構不合適。
觸犯眾怒者
而另一邊,Google員工們集結起來,反對委員會名單上的第六個人,Kay Coles James。
Google員工們認為,這個人反LGBTQ,反移民,這違背了Google的價值觀。
她曾經在Twitter上公開說,數千名危險的犯罪、毒品走私犯和性奴販子從邊境進入。
還公開反對幾部性別平權法案。
員工們說,有人認為把這個反LGBTQ、反移民的人放進委員會是為了思想的多樣性,這純粹是偷換概念,讓這麼一個人加入委員會,就是暗示Google在做決策的時候會考慮她的這種不正確的觀點。
並且,讓這樣一個人加入ATEAC委員會,嚴重破壞了Google在AI道德和公平方面的立場。
AI對社會可能造成的傷害不是隨機的,而是和我們歷史上經歷的那些歧視與不公如出一轍:
AI可能無法識別跨性別者,可能無法識別女性的聲音,可能無法識別有色人種女性,AI可能被用於加強警方的監視,監控移民,製造自動化的武器。
社會的最邊緣人群,面臨著最大的風險。
因此,Kay Coles James,這個人的觀點不僅違背了Google的價值觀,並且,還違背了AI發展的理念:
AI應用中,正義應當是凌駕於利潤之上的。
因此,ATEAC應當將弱勢群體置於決策中心。如果委員會中沒有挺LGBTQ的人,那就應當把這個反LGBTQ的人踢出去。
涉及軍方者
而在這場聯署運動之外,還有人反對名單上的第四個人,Dyan Gibbens,Trumbull Unmanned公司CEO。
這家公司的業務和無人機相關,主要客戶是能源企業和政府,幫能源企業部署基於無人機的測控、工程、物流解決方案,參與了很多政府和國防項目,包括為美國空軍提供無人機AI成像服務。
因此,不少AI專家也認為Google應該把這個做AI軍事項目的人踢出群聊。
冷嘲熱諷者
名單上的第五個人,Joanna Bryson,看到這份成員名單之後就呵呵了。
在轉發了這條消息之後,有AI研究者在她的Twitter下面留言:你知道你要在這個委員會裡跟反LGBT、反移民的人打交道么?
Joanna很淡定的說:信不信吧,這名單里有比那位更糟糕的人。
並且,她還透露這個為這個委員會工作是無償的,並且自己只承諾工作一年。
不知道,她說的「更糟糕的人」是指的誰呢?
傳送門
Google員工們的聯署信
https://medium.com/@against.transphobia/googlers-against-transphobia-and-hate-b1b0a5dbf76
Google博客:成立先進技術外部諮詢委員會(ATEAC)
https://www.blog.google/technology/ai/external-advisory-council-help-advance-responsible-development-ai/
—完—
量子位AI 系列沙龍--智慧城市
加入社群
量子位AI社群開始招募啦,量子位社群分:AI討論群、AI 行業群、AI技術群;
歡迎對AI感興趣的同學,在量子位公眾號(QbitAI)對話界面回復關鍵字「微信群」,獲取入群方式。(技術群與AI 行業群需經過審核,審核較嚴,敬請諒解)
誠摯招聘
量子位正在招募編輯/記者,工作地點在北京中關村。期待有才氣、有熱情的同學加入我們!相關細節,請在量子位公眾號(QbitAI)對話界面,回復「招聘」兩個字。
喜歡就點這裡吧 !
※迄今最大公開語音數據集上線,漢語部分還不夠強,需要你來幫忙
※Google智能硬體偷藏麥克風,用戶炸毛後道歉:不是不說,是真忘了
TAG:量子位 |