從黑箱看 AI 人工智慧在幫助人類的同時創造了可怕的危機

本文由騰訊數碼獨家發布

人工智慧是這幾年的熱詞，人工智慧系統有巨大的潛力，但它們的性能也取決於它們的數據。隨著機器學習滲透到我們生活的各個領域，比如醫療、自動駕駛、執法等等，但是如果不對人工智慧加以規範平衡利弊，那麼人工智慧技術將弊大於利。

偏頗的數據導致不準確的結果

人工智慧存在偏見的問題是最近比較困擾的一個問題，也是確實存在的一個問題，麻省理工學院(MIT)的研究員Joy Buolamwini曾親身體驗過，結果發現人工智慧識別淺色皮膚同事的面孔比識別自己的面孔更輕鬆。在此之後，她就開始了一項研究，以查明該軟體在識別她的特定特徵方面是否存在一些問題，或者是存在於人工智慧中的更廣泛的問題。

圖片來源：麻省理工學院 CSAIL

Joy Buolamwini測試了IBM、微軟和中國公司Face 的系統，向這些系統展示了1000張臉，並要求其識別受試者的性別，是男性還是女性。她發現，所有這些系統識別男性面孔的準確度明顯優於女性面孔，識別淺色面孔也比深色面孔表現得更好。現在隨著面部識別越來越融入日常生活，面孔識別被應用於安全、醫療診斷應用和尋找失蹤者等方面，但研究的結果顯示，膚色較深的人和女性處於劣勢。

圖片來源：麻省理工學院 SAIL

針對這些，麻省理工學院(MIT)的研究人員正在研究一種演算法，可以通過發現隱藏的偏倚並對數據重新採樣。在測試中，該演算法的應用有效地降低了人工智慧面部識別的種族歧視，減少了分類偏見的出現，但在不降低總體準確率的情況下，預計減少了60%以上。

英特爾AI開發者大會，AI DevCon (AIDC)主要為機器學習提供平台，來自世界各地的公司利用英特爾機器學習平台造福社會，應用於醫療和物理研究領域。英特爾主要為機器學習提供平台，而不是開發應用程序，英特爾也很清楚自己工作的規範倫理，所以它旨在開發和分享人工智慧，目標是讓人工智慧變得安全、可信、公平、透明和負責任，並為社會服務。

在AIDC的演講間隙，英特爾技術計算、分析和人工智慧總監Stephan Gillich接受採訪時表示，「為了學習演算法，你需要有準確的數據，如果你沒有廣泛且具有代表性的數據，那麼就不會起作用。」因此，從人工智慧的角度來看，這番話的意思就是，公司的數據應該儘可能準確無偏倚。

人工智慧的有益方面

英特爾還在與一些合作夥伴合作，展示機器學習在使用高質量數據並經過仔細定位的情況下的優點。在其中一個項目中，英特爾與環保組織Parley For the Oceans合作開發了一種無人機系統，可以在不干擾鯨魚健康的情況下評估它們的健康狀況。Stephan Gillich解釋說，「鯨魚可以通過拍照來識別，就像指紋，拍照之後就不需要再給這些鯨魚貼上標籤了。這些鯨魚就擁有自己的標籤了。

他們過去的做法是向鯨魚體內注射一些東西。雖然對鯨魚是無害的，但操作起來很困難。所以他們找到了一種方法，趁在鯨魚水面上噴水的時候採集樣本，然後利用人工智慧對它們進行分析，使用AI來做圖像識別。由此就產生了一個系統，Parley SnotBot，可以在不驚擾到它們的情況下，實時提供鯨魚的健康數據。

另一個特別項目涉及保護非洲象，使其不受偷獵者的殺害。目前，非洲森林象的數量可能會在未來10年內被偷獵象牙的偷獵者滅絕殆盡，但非洲象的棲息地面積巨大，護林員不可能保護所有這些大象。塞倫蓋蒂國家公園(Serengeti National Park)只有150名護林員，而他們要巡邏的面積大約相當於比利時的國土面積。

Stephan Gillich說，「這些都是偏遠地區，不可能到處都安排上人，因為那樣也會干擾野生動物，而且這也根本不可能，所以我們一直在研究如何解決這個問題」。為了幫助解決這個問題，英特爾與環保組織Resolve合作開發了一個名為TrailGuard的系統，該系統搭配了一種小到可以藏在灌木叢中的低功耗智能相機。

圖片來源：Walden Kirsch/Intel公司

攝像機會被動作激活，這時人工智慧會分析錄像以識別運動物體是動物、人還是車輛。如果一個人被識別到在一個通常只有動物居住的地方，很有可能他們是偷獵者，所以公園的管理員會對這些人和車輛保持警惕。將TrailGuard攝像機捕捉到的每一幀畫面發送到總部或雲伺服器是相當麻煩的一件事，而且管理員自己監視這麼多視頻也是不切實際的，所以運行在攝像機上的神經網路實時分析每一幀畫面，丟棄那些沒有活動或者只有動物的畫面，將那些有人類的畫面發送給公園管理員，這個方法大大減少了工作量。

TrailGuard項目取得了相當的成功，公園管理員依靠這個系統能夠在動物受到傷害之前進行干預並捕獲偷獵者，保護了瀕危動物的安全。Stephan Gillich表示，「人工智慧能提供一種創新方式，現在有很多的數據，公司可以處理和收集大量的數據，程序員可以進行函數式編程，這就是我們所說的人工智慧。」因此，人工智慧可以以一種比以前更有效的方式去幫助人類。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！