谷歌員工狠批 Facebook 「泄密門「:AI 不應成為大規模人口控制的武器
「重要的是,由人工智慧演算法控制我們的信息接收最終必然會產生的大規模人口控制,特別是政治控制(這甚至不一定需要非常先進的人工智慧)。用戶再也不需要有自知之明了,我認為這種「超級」人工智慧將是一個可怕的威脅。
來源 | VB
AI商業周刊編譯
Facebook在這個周末受到一系列批評,這些批評從Cambridge Analytica scandal中繼續出現,其中包括來自一個不受歡迎的資料來源:谷歌。谷歌研究員Francois cholet警告說,Facebook上的問題不僅僅是隱私權問題,也不是最近的信任問題,而是Facebook上的事實,通過AI,能變成一個totalitarian panopticon(極權全景)。
「我們看到一個有能力的實體,監測超過20億人的精神狀況,那就是大規模的行為或操縱實驗,而且我們熱愛開發世界上最好的AI技術。直接說,這真的很讓我害怕。」 Chollet在Twitter上說,「如果你從事AI工作,請別幫他們,別玩他們的遊戲,不要參與他們的研究生態系統。請展示一些良知。」
「AI研究的一個很好的版塊是提升演算法,以便儘可能有效地解決優化問題。」
根據Chollet的LinkedIn簡介,他自2015年8月以來一直是一名專註於谷歌深度學習的軟體工程師和研究人員,其代表作是Keras——一個開放源碼的深度學習庫,該作品被全球數十萬人工智慧從業者所使用。
Fran?ois Chollet 是深度學習框架 Keras 的作者
現就職於谷歌,從事深度學習技術的研究。
Chollet高度關注人工智慧的進步,特別是在深度學習領域,如何通過使用「毀滅性有效」的心理策略,實現Facebook的「大規模人口控制」。Chollet說,隨著人工智慧和深度學習的不斷進步,這種威脅會越來越大。
他寫道:「人腦是一個靜態的,易受攻擊的系統,它將越來越多地受到越來越智能的人工智慧演算法的攻擊,這些演算法將同時全面了解我們所做所為和所相信的一切,並完全控制我們所接收的信息。」
「重要的是,由人工智慧演算法控制我們的信息接收最終必然會產生的大規模人口控制,特別是政治控制(這甚至不一定需要非常先進的人工智慧)。用戶再也不需要有自知之明了,我認為這種「超級」人工智慧將是一個可怕的威脅。
儘管Chollet的尖刻評論值得注意,但請考慮來源:谷歌和Facebook的都以使用人工智慧演算法為用戶提供內容而聞名,而且都以吸引世界上許多人工智慧人才而聞名。
Chollet的評論呼應了WhatsApp聯合創始人布賴恩阿克頓(Brian Acton)呼籲用戶刪除其Facebook,以及最近幾天要求首席執行官馬克扎克伯格(Mark Zuckerberg)在美國國會和英國議會各委員會作證的呼聲越來越高。
上周五,Facebook披露了劍橋分析公司濫用用戶數據的程度,這可能有利於特朗普的總統競選。「衛報「和其他新聞媒體的報道稱,這一違規行為導致的Facebook用戶的目標提前到了5000萬。
上周五,Facebook披露了Cambridge Analytica公司濫用用戶數據的程度,這可能有利於特朗普的總統競選。《衛報》和其他新聞媒體的報道稱,這一違規行為導致Facebook在2016年總統大選前鎖定了5 000萬用戶,Facebook在被接納前幾年就意識到了用戶數據的濫用。
扎克伯格周三在接受CNN採訪時表示道歉,誓言要做出改變,並考慮了在國會委員會作證的可能性,這是他此後首次公開發表聲明。
同樣在周三,Facebook宣布對其平台進行修改,承諾對近年來獲得大量數據的任何應用程序進行審計,並要求用戶簽署合同才能訪問其Facebook帖子。
※亞馬遜與谷歌的戰爭升級!亞馬遜將停止銷售Nest智能家居設備
※5%與95%的戰爭,矽谷與「底特律們」的對抗
TAG:AI商業周刊 |