當前位置:
首頁 > 最新 > 海外研究報告:人工智慧被黑客濫用的危險性與日俱增

海外研究報告:人工智慧被黑客濫用的危險性與日俱增

2月21日,一份由25名技術與公共政策研究員共同發布的報告指出,快速發展的人工智慧(AI)被惡意利用的風險呈上升趨勢,一旦遭黑客攻擊,或釀成無人駕駛的車禍,商業無人機也可能變成有針對性的武器。

參與這份報告的撰寫者包括來自劍橋、牛津和耶魯大學的25位技術與公共政策研究人員,以及隱私和軍事專家。報告旨在就可能發生的濫用人工智慧行為敲響警鐘。

研究人員表示,基於對五年內人工智慧技術發展進程的預估,其認為惡意使用人工智慧會對數字、物理和政治安全造成迫在眉睫的威脅,因為它可能被利用來實施大規模的、極具針對性的高效攻擊。

「我們都同意,人工智慧可以有很多積極的應用。」牛津未來人類研究所研究員Miles Brundage表示:「但圍繞惡意使用人工智慧問題的文獻少得多。」

人工智慧一般使用計算機執行通常需要人類智能的任務,例如做出決定或識別文本、語音或視覺圖像。

人工智慧被認為是實現各種技術可能性的一股強大力量,但它已經成為了學界激烈爭論的焦點。爭論涉及的問題主要在於,通過人工智慧實現的大規模自動化是否會造成大規模失業和其他社會混亂。

而這篇98頁的文章警告稱,通過使用AI來完成原本可能需要人力和專業知識才能完成的任務,或將降低攻擊的成本。未來可能會出現新的攻擊,單靠人類獨自開發或利用AI系統本身的脆弱性是不切實際的。

報告綜述了大量關於人工智慧造成安全風險的學術研究,並呼籲各國政府和政策及技術專家通力合作,一同化解此類危險。

研究人員詳細介紹了人工智慧生成合成圖像、文本和音頻的能力,它可以被用來在網路上模仿他人行為,以左右輿論。報告提出的建議包括將人工智慧作為軍用和商用兩種用途的技術來進行管理。

報告還提出了問題——學者是否應該對其發表和披露的有關人工智慧新發展的內容有所保留,是否應該在該領域的其他專家研究並找到應對潛在危險的方法後,再將結果公之於眾。

「我們最終得到的問題比答案多得多。」Brundage說。

這篇論文誕生於2017年初的一次研討會上,自那以後,其中一些預言基本上成真了。作者們當時預測,人工智慧可以用於製作極度模擬的政府官員音頻和視頻,從而用於宣傳目的。

而去年年底,一些模擬的色情視頻開始在網上流傳,一些名人的面孔被嫁接到不同的身體上,有些效果可以以假亂真。

特拉斯公司首席執行官馬斯克和矽谷投資者薩姆·阿爾特曼創立的OpenAI組織政策主管傑克·克拉克表示:「雖然它現在被用在了色情行業,而非政治宣傳,但是,這一技術被應用於後者也不是不可能。」

喜歡這篇文章嗎?立刻分享出去讓更多人知道吧!

本站內容充實豐富,博大精深,小編精選每日熱門資訊,隨時更新,點擊「搶先收到最新資訊」瀏覽吧!


請您繼續閱讀更多來自 澎湃新聞 的精彩文章:

韓媒:日本政府向韓提議商討安倍出席平昌冬奧事宜
全國第一起!歌手趙雷演唱會少唱13首被罰5萬

TAG:澎湃新聞 |