AI公司面臨隱私問題 不少仍堅持原則拒絕商業機會

據國外媒體報道，當一家由美國中央情報局支持的風險投資基金表示對拉納·埃爾·卡利烏比(Rana el Kaliouby)的面部掃描技術感興趣時，這位計算機科學家和她的同事進行了一些反思——然後拒絕了這筆投資。

AI公司面臨隱私問題 不少仍堅持原則拒絕商業機會

卡利烏比是波士頓初創公司Affectiva的聯合創始人兼首席執行官，該公司已經對其人工智慧系統進行了培訓，創建了一個包含600多萬張面孔的攝影庫，可識別出一個人的情緒，是高興還是悲傷、疲倦還是憤怒。

她說:「我們公司對你們監視別人的事情不感興趣。」

由人工智慧驅動的計算機視覺技術不斷更新，不僅加速了自動駕駛汽車的競爭，並為Facebook和谷歌上越來越複雜的照片標註功能提供了動力。但是，隨著這些能夠窺探人們的「人工智慧之眼」被安裝在商店的收銀台、警察的隨身相機，以及在戰場上找到了新的用武之地，科技公司正在努力平衡商業機會和道德決策，而這些決策可能會導致他們失去客戶或是員工失去工作。

卡利烏比說，「不難想像，利用實時的人臉識別技術可識別撒謊行為——或者，在一個專制政權的手中，監控人們對政治言論的反應，以根除不同意見。」但是，這家從麻省理工學院一個研究實驗室中走出來的小公司，已經為自己做出限制。

卡利烏比說，該公司已經避開檢測「任何安保、機場，甚至是謊言檢測的事項」。相反，Affectiva與汽車製造商合作，試圖幫助那些外表看上去疲憊的司機保持清醒，並與消費者品牌合作，商家希望了解人們對某款產品的反應是喜歡還是厭惡。

這種不安反映出，人們對這個時刻都在監視的人工智慧全視系統的能力和可能存在的弊端感到不按——就連當局也越來越渴望能使用它們。

上個月，在馬里蘭州安納波利斯的一家報紙報道一起致命槍擊事件後，警方說，他們在確認這名不願合作的嫌疑人後，立即開始了面部識別。他們這樣做的目的是利用一個國家資料庫，其中包括過去被捕者的照片。更有爭議的是，這其中還包括每個註冊了馬里蘭州駕照的人。

向執法部門提供的初步信息顯示，警方之所以利用面部識別技術，是因為嫌疑人顯然是為了逃避被確定而損壞了指紋。後來那份報告被證明是錯誤的，警方說他們使用面部識別是因為指紋識別結果受到延遲。

今年6月，位於佛羅里達州的奧蘭多國際機場宣布，計劃在今年年底前，對所有進出國際航班的乘客進行面部識別掃描。美國其他幾個機場已經在對一些國際航班進行掃描，但不是全部。

中國公司已經在使用智能相機來實時地記錄那些亂穿馬路的人。亞馬遜在西雅圖的新開的無收銀員商店中配備了頭頂攝像頭和感測器，目的是通過追蹤購物者拿起和放回的每一件商品，解決了店內行竊行為。

即使是最大的科技公司，對這項技術的擔憂也受到了動搖。例如，谷歌最近表示，在員工抗議谷歌的人工智慧技術應用到軍事應用後，該公司將退出一份防禦合同。這項工作涉及對來自伊拉克和其他衝突地區的無人機視頻進行計算機分析。

類似對政府合同的擔憂也激起了亞馬遜和微軟內部的不和。谷歌此後發布了人工智慧指南，強調使用「對社會有益」和避免「不公平偏見」。

然而，到目前為止，亞馬遜已經頂住了來自員工和隱私倡導人士日益增長的壓力，他們要求其停止向警察部門和其他政府機構出售的公司強大人臉識別工具Rekognition。

自本世紀初計算機視覺技術出現突破以來，商業和政府對這項技術的興趣迅速增長，人們使用類似大腦的「神經網路」來識別圖像中的物體。2012年，在YouTube視頻中訓練電腦識別貓還是一項早期的挑戰。現在，谷歌有款APP不僅能識別貓，還能告訴你這貓是哪個品種。

今年6月，在鹽湖城舉行了一場計算機視覺和模式識別領域的重要學術會議。多倫多約克大學的計算機科學家、會議的組織者邁克爾·布朗說，這原本是一個充滿「書獃子」令人昏昏欲睡的學術會議，現在成為淘金熱的商業世博會，吸引了很多大公司和政府機構。

布朗說，研究人員當場被給予高薪工作。但在提交給會議的數千份技術文件中，很少有涉及公眾對隱私、偏見或其他道德困境的廣泛擔憂。他說:「對於這個原本應當重視的問題，我們可能不會進行過多的討論。」

創業公司正在開闢自己的道路。邁阿密面部識別軟體公司Kairos的首席執行官布賴恩·布雷斯基恩(Brian Brackeen)制定了一項全面政策，禁止向執法部門或政府監控部門出售該技術。他在最近的一篇文章中辯稱，該技術「為道德敗壞者的嚴重不當行為打開了大門」。

相比之下，總部位於波士頓的創業公司Neurala正在為摩托羅拉開發軟體，用於警察佩戴的隨身相機，它可以根據人們的穿著和長相在人群中確定一個人。首席執行官馬克斯·范思哲(Max Versace)表示，「人工智慧是社會的一面鏡子」，因此該公司只選擇有原則的合作夥伴。

他說，「我們不是那種極權主義、奧威爾式的陰謀的一員。」

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！