摘要：智能演算法仍在快速發展，它們仍然有機會為人類帶來更多的價值。

上周一，英國電視台 Channel 4 報道了一則新聞，有消費者在亞馬遜網站上購買廚房用品時，在「購買此商品的消費者還購買了這些」里被推薦了一些能夠幫助他組成製作炸藥所需的材料。

雖然這些物品在英國均屬於合法商品，但經過最近的幾次爆炸案，倫敦對這類事件已經非常敏感，因此這條新聞引起了不小的關注。

《紐約時報》的記者跟進報道時發現在美國也有同樣的情況，當他們在亞馬遜上購買了鎂條時，相關推薦里同樣列出了一些用於製作炸藥的粉末品。

不過也有許多人指出，按照亞馬遜演算法的推薦配方製作炸彈，其威力並不足以實施恐怖襲擊，因此有關恐怖分子網購炸藥的說法也自然站不住腳。

但無論怎樣這都是一件乍看可笑卻細思極恐的事，亞馬遜在上周三做出官方回應稱：「亞馬遜所售的所有商品必須符合公司的銷售指南，並且我們只銷售符合英國法律的產品。」

「鑒於最近發生的事件，我們將會對網站進行審查，確保所有這些商品以適當的方式呈現。」同時亞馬遜還將助英國警方與執法機構進行調查。

社會對技術的批評讓筆者聯想起轟動一時的快播涉黃案，自快播案以來，有關「技術是否無罪」的討論就從沒有消停過。

就在上周，人民網連發三篇文章，指出以今日頭條為代表、單純依靠演算法推薦的平台存在價值觀缺失、製造「信息繭房」和競爭手段屢破底線等三大問題。今日頭條也在隔日回應了人民網，表示機器學習技術目前整體發展存在不足，與人工編輯保有著相輔相成的關係，基於機器學習的信息分發仍然可以為社會創造更大的價值。

今天我們先把技術是否無罪的問題撇一邊，單獨來看一看這些年機器學習推薦演算法的發展過程中多出現過哪些或可笑或發人深省的「烏龍事件」。

先行者 Google 的試錯

搜索天生就具備人工智慧的基因，而全球最大的搜索引擎 Google 自然也早早地開始了人工智慧的實踐，但同樣，因為早期技術的不成熟，Google 也鬧出過各種各樣的糗事。

2015 年 7 月 3 日，推特上的一位網友 Jacky Alciné曝出了一張剛發布不久的 Google Photos 應用截圖，圖片上他的黑人朋友被應用標記成了大猩猩，Jacky 對此表示十分氣憤，「Google Photos，你太混蛋了，我的朋友不是大猩猩。」

隨後，Google 對此做出了回應，他們向該用戶表示道歉，並稱「圖片自動標記功能顯然還有很多改善空間，我們希望今後能避免此類錯誤再次發生。」

誤把人類識別成猩猩和動物的事不止發生在 Google 的演算法上，同年 5 月推出標記功能的雅虎旗下 Flickr 也曾經出現過類似的差錯。總體來說這類問題在演算法不斷改進、數據不斷豐富之後就會得到明顯的改善。

更早的時候，Google 曾推出一款針對孩子的視頻應用 YouTube Kids，但這款聲稱能夠屏蔽成人內容的應用仍然會播出一些不當視頻，這點引起了許多家長的不滿，Google 再次澄清「目前演算法還無法達到 100% 的精確度」。

依舊是 15 年的 5 月，有人在 Google 地圖應用上搜索「nigga house」，得到的結果卻是美國首都華盛頓特區的白宮 White House，也就是美國總統居住辦公的場所。

Nigga 是一個有著種族歧視意味的詞語，通常翻譯成「黑鬼」，名人在公開場合開玩笑時都會選擇用「N-word（N 字開頭的詞）」來代替。

而令這件事性質更加嚴重的是，當時白宮的主人還是美國第一任黑人總統奧巴馬，不禁讓人感嘆種族主義的猖獗。

出現這種差錯的原因是一項名為「Google Bomb」的功能，這項功能極容易被用戶利用，改變一些 Google 的直接搜索結果。通過在大量的網站上鏈接 nigga 和白宮這兩個詞就有可能達到上述的效果。

微軟聊天機器人 Tay

在美國，種族歧視是一個非常敏感的問題，不止是 Google，其他公司也遇到過類似的問題。

去年五月，微軟在推特上線聊天機器人 Tay，不到 24 小時就被網友們調教成了一個「種族主義者」，發表了多條刻薄、仇恨的言論。

微軟不得已匆忙下架了 Tay，其負責人也出面表示道歉，但究其原因，Tay 的失控兼具網友的放肆和其演算法本身較為脆弱兩方面原因。

Facebook 的廣告演算法

Facebook 最近也因為種族主義的問題而遭到了社會各界的批評。

據報道，上周有人發現 Facebook 平台上的廣告商可以定位到那些將自己標記為「反猶太主義者」的人群，並投放相應的廣告。作為回應，Facebook 表示他們已對其廣告政策進行重新評估，進一步限制了廣告商的許可權，並且刪除了有關「反猶太主義者」的標籤。

但這次事件並不是 Facebook 廣告問題最大的麻煩，他們官方上周表示，在美國總統大選期間，Facebook 向可能與俄羅斯有關的虛假賬號出售了約價值 10 萬美元的廣告，這些廣告從某種程度上影響力美國總統大選。

演算法正變得越來越可靠

有意無意間，互聯網上的智能演算法每每出現問題都會影響到我們的生活，小到用戶自己接觸的新聞內容，大到一個國家的政治形勢，在一個全面智能化的時代，演算法的力量正變得越來越大。

但我們可以看到，Google 的搜索已經很少出現上述的失誤，微軟重新上線的聊天機器人 Zo 也越來越「百毒不侵」，亞馬遜、Facebook 和今日頭條推薦演算法的問題也會很快得到解決，演算法在不斷改進，變得越來越可靠。

我們有理由相信，現在偶發的小烏龍，小失誤不過是因為人工智慧演算法正處在過渡期，沒有人知道未來什麼時候我們才能擁有一個完美的演算法，但可以肯定的是，演算法正在變得越來越難以被調戲，被利用。

你不必百分百地依賴機器，但在人工智慧時代到來之際，請你一點一點地讓它改變你的生活。

頭圖來源：視覺中國

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！