避嫌！谷歌AI工具屏蔽性別代詞 僅影響智能撰寫工具不到1％的功能

圖片來源：路透社

為了避免陷入性別歧視醜聞，谷歌在人工智慧（AI）工具中直接禁止使用性別代詞，並表示對智能撰寫工具Smart Compose的功能影響不到1％。

谷歌在5月推出了一款智能的Gmail功能，可以在用戶輸入時自動完成句子。當用戶輸入「我愛」，Gmail可能會出現「你」或「它」。但如果用戶當時要表達的是「他」或「她」，那Gmail就不會自動跳出答案了。

Gmail產品負責人在採訪中向路透社透露：谷歌的技術工具不會提出指向性別的代詞，因為風險太高，「智能撰寫」（Smart Compose）技術可能會錯誤預測用戶性別以至於冒犯用戶。

Gmail產品經理Paul Lambert說，公司研究該項目的科學家在1月份發現了這個問題，當時他正在打字：「我下周會見投資者」，而Smart Compose功能就自動提出了問題：「你想和他見面嗎？」而不是「她」。

消費者已經習慣了，智能手機自動功能不太靈敏。但是，性別問題正在影響政治和社會，谷歌不想冒險，批評家正在以各種方式仔細審查人工智慧的潛在偏見漏洞。

Paul Lambert表示：「性別問題出錯是大問題。」

Smart Compose功能利用得當可能對業務有很大幫助。這證明谷歌比其他競爭對手更了解人工智慧的細微差別，這是該公司為其品牌建立親和力並吸引客戶使用其AI驅動的雲計算工具、廣告服務和硬體的一部分戰略。

Gmail擁有15億用戶，而Paul Lambert表示，Smart Compose協助Gmail.com發送全球11％的消息。

Smart Compose是AI開發人員稱之為自然語言生成（NLG）的一個用例，計算機通過研究文學、電子郵件和網頁中的單詞之間的模式和關係來「學習」寫句子。

系統會顯示數十億個人類寫下的句子，之後會「學習」到如何完成常用短語，但也會受到普遍性的限制。例如，男性長期在金融和科學等領域佔主導地位，因此Smart Compose會認為投資者或工程師是「他」。而所有主要的科技公司也是這種情況。

Paul Lambert表示，由大約15位工程師和設計師組成的Smart Compose團隊嘗試了幾種解決方法，但沒有一種能夠證明是無偏見或可行的。他們認為最好的解決方案是最嚴格的解決方案：限制人工智慧的覆蓋範圍。他說，禁用性別代名詞對Smart Compose的功能影響不到1％。

Prabhakar Raghavan負責監管Gmail和其他服務的工程，他表示：「我們覺得唯一可靠的是保守做法。」

谷歌的新對策

谷歌決定在性別問題上採取保守做法，因為該公司預測技術之前出過問題。

在2015年，谷歌的照片服務中圖像識別功能把一位黑人女士識別為大猩猩，之後谷歌就這件事道歉。在2016年，谷歌修改了搜索引擎的自動完成功能，因為當用戶尋求有關猶太人的信息時，補充信息會顯示「是惡魔」這種反猶太人的信息。

谷歌已經禁止預測技術出現咒罵和種族辱罵相關的詞，以及提及商業競爭對手或悲慘事件。

谷歌禁用性別代詞的新政策也影響了智能回復中出現的回複列表。這個服務允許用戶使用短語如「聽起來不錯」立即回復簡訊和電子郵件。

谷歌還利用人工智慧道德團隊開發的測試來發現其他的偏見漏洞。

美國以外的人尋找當地的文化問題。Smart Compose很快會用四種語言顯示：西班牙語、葡萄牙語、義大利語和法語。

工程領導人Prabhakar Raghavan說道：「你需要進行大量的人為監督。因為在每種語言中，不恰當的用詞可能會對應不同的東西。」

科技公司共同的挑戰

谷歌並不是唯一一家擔心性別代名詞問題的科技公司。

Agolo是一家紐約創業公司，湯森路透（Thomson Reuters）曾對其進行投資，主要使用AI來概括商業文件。

它的技術無法在某些文件中確定哪個代詞與哪個名稱相符。Agolo的首席技術官Mohamed AlTantawy表示，所以概括的結果會有幾句話可以給用戶提供更多背景信息。

Mohamed AlTantawy說：「長的副本比省略了細節要好。再小的錯誤都會讓公眾失去信心，人們希望100％正確。」

然而，不完美之處仍然存在。谷歌和蘋果公司開發的預測鍵盤工具會出現「男警察」代替「警察」，「男銷售員」代替「銷售員」的情況。

在谷歌翻譯中輸入中性土耳其語短語「one is a soldier」，它的英語翻譯指代男性士兵，是「他是士兵」。同樣的，阿里巴巴、微軟公司、亞馬遜公司的翻譯軟體在為雲計算客戶提供翻譯服務時會採用「她」作為相同短語。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！