IBM 用紐約街頭的監控訓練軟體，警方可按膚色搜索嫌疑人

2001 年 911 事件之後，紐約警方制定了新的防止恐怖主義襲擊計劃——通過數千台攝像機來監控曼哈頓市中心的每一條街道。十年後，紐約警方將這項視頻監控業務集中到一個指揮中心，即曼哈頓下城區域安全協調中心，並在當時表示，安全中心在監控系統中應用了一些複雜的視頻分析軟體。

最近，美國科技媒體 The Intercept 和美國國家研究院非盈利調查基金的最新報告揭露了這個視頻分析系統的細節。軟體實際上是由 IBM 負責開發，紐約市警察局則提供大量的閉路電視監控數據作為軟體訓練的資料庫，最終讓軟體可以根據膚色、發色、性別、年齡和各種面部特徵去搜索相關人員。

作為紐約曼哈頓下城（New York』s Lower Manhattan Security Initiative）安全反恐中心的合作方，IBM 不僅可以調用 512 台攝像機的數千張照片，還可以獲取在曼哈頓區域內大量監控感測器，包括攝像頭，車牌閱讀器等設備採集的數據。

當時，紐約警察部門希望視頻分析能夠提高在敏感區域實時識別可疑物品和人員的能力，紐約警察局已經退休的警察麥考特（Conor McCourt） 表示，他在初期階段使用了 IBM 的系統。

「例如你在曼哈頓市中心發現了一個可疑的袋子，作為監控中心的工作人員，你需要監控系統可以追蹤是誰把這個袋子放在這裡，前後發生了什麼的能力」，麥考特說。

IBM 的前研究員 Kjeldsen 接受採訪時候回憶警方提出的需求。「監控軟體需要處理大量不同的圖像，以便學習如何適應不同的光照，陰影和其他環境因素」。

隨後，IBM 不斷在改進這套系統，隨著合作的加深，他們被允許利用該項目進行人口特徵統計，同時獲取到更多的數據，例如整理紐約人在公共場所或者通過地鐵轉門時候採集到的特寫圖像。根據 IBM 的內部文件，到了 2012 年，IBM 已經改進了在監控系統中搜索特定人物的能力，遠不止是找一個袋子這麼簡單，系統可以通過例如年齡、性別、頭部顏色、皮膚顏色等信息進行搜索。

紐約警方在向 The Intercept 回應的郵件里承認，在 2016 年左右，IBM 的確向他們提供了可以按種族搜索人的方案。但是「該部門明確拒絕了該產品。」郵件內強調。

根據紐約警察局的說法，安全中心的反恐人員使用 IBM 按皮膚顏色，種族搜索這類的功能僅用於測試評估目的，而且只有少數反恐人員才能使用這些功能。同時，這套系統也僅在不到 50 台電腦中進行了測試。

前研究員 Kjeldsen 表示，IBM 研究對象識別系統最初的目的只是用於自動駕駛汽車或互聯網上的圖像識別等技術。但隨著 911 事件之後，IBM 發現這套系統非常適用於預防恐怖襲擊。

「在紐約，能搞定恐怖襲擊是一個很好的賣點，在 911 之後，金錢和資源都推向了安全項目」，Kjeldsen 說「這雖然不是當時我們關注的，但是需求所在」。根據 IBM 的內部文件，2007年，IBM 作為微軟子公司 Vexcel 的分包商，參與了這個六年內價值 6070 萬美元的項目。

但通過皮膚、種族等信息進行嫌疑人篩選的監控系統引起了很大的爭議，公民自由倡導者組織表示，他們對紐約警察局幫助建立具有潛在大規模種族貌區別的監控系統的計劃感到震驚。

自由與國家安全計劃的高級顧問 Rachel Levinson-Waldman 認為，在重大恐怖襲擊事件發生後，IBM 建立的識別技術很容易被濫用。「無論肇事者是否是穆斯林，推定通常都是將嫌疑人目光轉向他或她」 ，Rachel 說，不難想像執法部門會對嫌疑人的種族和宗教身份做出草率的結論，然後匆匆進入視頻監控系統，並通過它查找任何符合例如穆斯林這類嫌疑的人。

同時，視頻監控分析並不能確保 100% 正確，在過去，已經發生過很多起監控系統弄錯嫌疑目標的事情。紐約最大的公共辯護組織法律援助協會的數字取證律師傑羅姆·格雷科（Jerome Greco）就認為，錯誤的監控識別程序也可能因為一些普遍的身體特徵信息，從而不公平地將正常人陷入警察的懷疑之中。

監控技術在某些方面的確提高了城市治安，包括中國、美國在內都建立了龐大的視頻監控系統。但數據如何使用，是否有對於隱私保護都成為問題。 Kjeldsen 在採訪就認為，紐約警方在沒有得到公眾同意的情況下，就利用監控數據幫助 IBM 開發這項技術的方式開創了一個危險的先例。

題圖來源：Pexels

我們做了一個壁紙應用，給你的手機加點好奇心。去 App 商店搜好奇怪下載吧。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！