安全專家警告業界警惕AI技術濫用

人工智慧高速發展的今天，警惕的聲音也從未間斷。

超過二十名專家周三表示，獨裁統治者、罪犯和恐怖分子們可以利用人工智慧來操縱選舉或者使用無人機進行恐怖襲擊，對AI可能被濫用的情況做出警告。

在一份長達100頁的分析報告中專家概述了網路犯罪的快速增長以及在未來五到十年內使用「機器人」干擾新聞採訪和滲透社交媒體的一系列情況。

「我們的報告重點關注人們如何用人工智慧造成破壞，」劍橋生存風險研究中心執行主任Seán ó héigeartaigh說。

他告訴法新社：「人工智慧可能會帶來新的威脅，或改變現有威脅性質，影響到網路安全，人身安全和政治安全。

報告中提到，網路釣魚這種攻擊方式也有可能因為AI的引入變得更加危險。

「使用人工智慧，可能通過自動化大量流程來大規模地進行魚叉式網路釣魚，」並且使其難以發現，「héigeartaigh說。

在政治領域，專制領導人已經可以利用先進的技術篩選從監視網路收集的數據，從而監視自己的人民。

「獨裁者可以更快地發現那些可能計劃顛覆政權的人，找到他們，將他們關進監獄。」

同樣，利用一些別有用心的宣傳以及以假亂真的視頻，人民可以大規模地操縱輿論。

美國特別檢察官羅伯特穆勒上周公布的一項起訴書詳細描述了影響了2016年總統選舉的所謂「巨魔農場」行動，這個行動中黑客操縱了Facebook和推特上數千個社交網路機器人。

無人駕駛飛機和機器人同樣可能被濫用，可能會導致自動駕駛車輛墜毀，導彈意外發射或者威脅攻擊關鍵基礎設施勒索贖金。

- 自主武器 -

牛津大學未來人類研究所研究員Miles Brundage說：「就我個人而言，我特別擔心自主無人機被恐怖分子和國家用於恐怖和自動網路攻擊。」

報告詳細介紹了一個合理的情景，一個裝有炸彈的辦公室清潔機器人通過與其他同樣品牌的機器混合滲入德國財政部。

這個機器人平時的行為就是清掃，清理，清理垃圾 – 直到其隱藏的面部識別軟體發現部長。

「這個隱藏的爆炸裝置接近部長，殺死了部長並傷害了附近的工作人員」。

「這份報告已經想像出未來五到十年內世界會變成什麼樣子，」óhéigeartaigh說。「我們生活在一個AI被到處濫用的世界。」

作者呼籲決策者和公司為機器人製作無法入侵的操作系統，加強安全限制，並考慮擴大有關人工智慧開發的法律和法規。

另一個值得關注的領域是自動致命武器。

去年，超過100位機器人和AI企業家 – 包括特斯拉和SpaceX首席執行官埃隆·馬斯克以及英國天體物理學家史蒂芬霍金 – 請求聯合國禁止自主殺人機器人，他們警告說在數字時代，這些武器可能被恐怖分子用來對付平民。

「致命的自主武器可能成為第三次戰爭革命」，他們聯合聲明中發出警告，這份聲明的簽署者中也有谷歌DeepMind聯合創始人穆斯塔法蘇萊曼。

這份題為「人工智慧的濫用：預測，預防和緩解」的新報告的撰稿人還包括來自電子前沿基金會。

「從長遠來看，AI是否被認為是有益的或有害的，這在很大程度上是人類行為的產物，而不是技術本身。」

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！