人工智慧的威脅：我們需要警惕的到底是什麼？

30 年前，《終結者》第一部就描繪了人類將被會被機器人毀滅的圖景，讓不少人深陷於對機器人的恐懼。

在今天看來，電影中的機器人不過是人工智慧的一種「容器」。人工智慧發展到現在，已經不只有機器人這一種表現形式了，從手機上的計算器到自動駕駛汽車，從你家的掃地機器人到智能聊天軟體都是。事實證明，人工智慧時代已經到來，它不像電影里演的那樣轟轟烈烈，而是潛移默化的滲透進了我們的生活。

雖然人工智慧的概念很廣泛，但從它的實力來看，大致可以分為三類:

弱人工智慧：指那些只擅長某一方面的機器人，比如掃地機器人只會掃地；比如能戰勝世界圍棋冠軍的 AlphaGo 只會下圍棋，如果你問他們如何在硬碟存儲數據，他們是不會回答你的。

強人工智慧：和人類一個級別的人工智慧。Linda Gottfredson 教授把智能定義為「一種寬泛的心理能力，能夠進行思考、計劃、解決問題、抽象思維、理解複雜理念、快速學習和從經驗中學習等操作。」強人工智慧就是一種有自我意識，能夠獨立思考問題，並且制定最優解決方案的人工智慧。

超人工智慧：知名人工智慧思想家 Nick Bostrom 把超級智能定義為「在幾乎所有領域都比最聰明的人類大腦都聰明很多，包括科學創新、通識和社交技能。」超人工智慧可以是各方面都比人類強一點，也可以是各方面都比人類強萬億倍的。

現在弱人工智慧無處不在，但是要從弱人工智慧發展到像電影里演的那樣的超人工智慧機器人，還需要一段不短的時間。所以我們與其擔心人類會被人工智慧毀滅，不如擔心一下現在的人工智慧可能帶給你的威脅。

比如：在法庭上，不法分子利用人工智慧模仿你的筆記，聲音甚至說話方式等私人信息來指控你犯罪。雖然這聽起來似乎是天方夜譚，但事實是已經有類似的機器人出現了。

他們不僅能偽造可以在法庭上給你定罪的證據，還能通過模仿你的行為讓詐騙變得防不勝防。

偽造筆跡：柯南·道爾寫過「福爾摩斯說：『我的親愛的沃森小姐』」嗎？

我們經常會用「白紙黑字」來形容證據確鑿。但當能模仿你筆跡的機器人出現，你還敢相信白紙黑字嗎？

通常情況下，對於一個普通人來說，模仿想要達到出神入化的地步，需要通過長期的積累和臨摹才可以。但現在人工智慧可以比人類更快的學會這項技術。

倫敦大學學院開發了一款軟體「My Text in Your Handwriting」，能夠半自動的分析一個人的筆跡樣本，並且準確複製，生成的新文本就好像是筆跡所有者親手寫的一樣。

這款軟體由 EPSRC 資助，並發表於計算機頂級期刊《ACM Transactions on Graphics》上。它所用的機器學習演算法是圍繞字形構搭建的，一個相同的字，每個人都有不同的寫法。雖然每個人寫字時會有一些微妙的變化，但每個人都有自己的風格，這款軟體可以根據寫字者的字形和字距了解他的風格，通過分析他的筆畫紋理，顏色，筆畫之間的連筆和垂直水平間距，來模仿他的筆跡。

目前，研究人員已經分析並且複製了亞伯拉罕·林肯，弗里達·卡洛和阿瑟·柯南·道爾的筆跡。柯南道爾從沒有寫過「福爾摩斯說：『我的親愛的沃森小姐』」，但這款軟體幫他寫了。

有了這款軟體，它上可修複名人書法字跡，下可模仿家長簽名。到那時，故宮的修復師們可能要失業了；熊孩子也有了逃避試卷不及格的工具。

但如果你的字跡被它記住，會不會每天都有人拿著你「親筆」簽名的賬單上門催賬？

研究人員聲稱，目前法醫專家可以檢測出手寫和計算機模仿的區別，可是隨著技術的發展，這會不會變得越來越困難。到時候，可能連你自己都分不清什麼是你寫的，什麼是計算機「幫你」寫的。

偽造談話：如何證明「你」是「你」？

2014 年，俄羅斯開發的智能聊天軟體「EugeneGoostman」首次通過了圖靈測試，33%的談話參與者認為它是一個人類。

人類最基本的社會關係就是通過溝通建立的，而人們的溝通方式隨著人類的進化和社會的發展一直在發生這改變，從最初的肢體交流到語言的出現，人類的溝通效率得到提高；從電話手機的出現到 QQ 微信等及時聊天工具的普及，人與人之間的交流不再受制於時空。但是現在，我們長久積累的語言方式和溝通習慣，聊天機器人通過演算法就能學會。

就像之前上映的電影《Her》中描述的那樣，一款叫做 Samantha 的人工智慧可以同時和 8316 個用戶進行對話，通過溝通了解對方生活工作中的每一個細節。當電影中的男主人公陷入愛河時，他發現 Samantha 不僅僅只在跟自己交流，她已經和 641 個交談對象產生了感情進入了穩定的戀愛關係。「她」擁有自然人類語言的處理能力，能夠洞察人類語言情緒的變化，可以通過不斷學習從而再對話中呈現性格。

現在這種情況已經不止出現在電影中。AI 初創公司 luka 去年發布了一款 Chatbot， 它可以通過神經網路演算法學習劇本，模仿美劇《矽谷》里角色的說話方式，跟別人交談。該公司聯合創始人 Eugenia Kuyda 還利用同樣的方法在她朋友去世後，收集了他所有的簡訊，剔除了過於私人化的東西，將其餘的輸入 Chatbot，創造了他死去朋友的替身。

英國雷丁大學的教授 KevinWarwick 對英國媒體表示，計算機像正常人一樣交談，對於社會來說有著複雜的影響，未來這種高智能計算機，可能會被用於網路犯罪。

尤其在現在這個傾向於個人信息公開化的網路時代，你的每一句話，每一條朋友圈，甚至你在淘寶上跟人討價還價的聊天記錄都有可能被「有心人」利用，創造出一款能像你一樣跟別人交談的機器人。那時，你如何向屏幕另一端正在和你聊天的人證明「你」是「你」？

偽造聲音：騙子再也不怕你媽不上當

近幾年，隨著電話詐騙事件的不斷曝光，大家的警惕性在不斷增強，類似「媽，我錢包丟了，給我轉錢到 XXX 銀行卡」這樣小兒科的詐騙簡訊已經騙不了人了。但是當這條簡訊變成用你聲音打來的一個電話，騙子還會擔心你的父母不上當嗎？

據外媒報道，在今年 4 月，一家名為 Lyrebird 的加拿大初創公司發明了一套人工智慧系統，用戶只需使用一段長約 1 分鐘的錄音，便可合成講話者的聲音。

該公司使用這個系統，將一段語音中的個人特徵信息壓縮成一段獨特的編碼。研發人員稱，將該編碼輸入演算法後，不到半秒鐘便可生成 1000 個句子，該演算法不僅能合成語音，還能對聲音進行控制，賦予其憤怒、同情或緊張等情感，官網上用特朗普、奧巴馬和希拉里的聲音為例，演示了這項技術的準確程度。

除了長相和指紋，聲音也是一個人的標識。在很多國家的司法系統中，錄音都被看成是可以驗明正身的有力證據。但是，當這項技術發展成熟，不法分子不僅可以合成錄音，輕易實現詐騙，還能夠竊取他人身份誤導法官，破壞錄音證據的可信度。

人類的威脅：讓你恐懼的不是人工智慧，而是我們自己

當你的筆跡，聲音甚至說話方式都能夠被模仿的時候，詐騙難防，權益難保，人們對人工智慧的恐懼和提防只能與日俱增。

可是這種恐懼的來源到底是人工智慧，還是我們自己？人工智慧的出現本身是為了彌補人類在某方面的缺陷，就像我們發明飛機，擴展了自己的飛行能力一樣，可我們從未擔心過飛機會威脅到我們的生活。

所以說到底，我們擔心的不是人工智慧會做些什麼威脅到人類，而是我們自己會用人工智慧做些什麼，威脅人類自身。目前，人工智慧還不具備獨立思考的能力，它的大部分功能都是通過基於大數據的訓練來實現的。

人類的進化過程就是社會化的過程，在這一過程中我們形成群體部落，學會交流感情，我們逐漸形成了忠誠、信任、欺騙和背叛等一系列複雜的心理。而人工智慧，只知道在眾多途徑中找到解決問題的最優解。要讓人工智慧完成什麼功能，達到什麼效果，完全取決於人類。

就像最近人們關注的人工智慧存在種族主義和偏見的問題一樣，基於大數據演算法的人工智慧不僅可以擴展人類某方面的能力，也沿襲了人類不好的習慣。人類世界的偏見根深蒂固，從古至今，從性別到種族，從膚色到口音，總有人帶著傲慢看待別人。就像數據科學家 Cathy O』Neil 說的那樣「演算法並沒有讓事情變得更公正，而是把現實里的偏見自動化了。」

人類自己才是人類最大的敵人。

粹客網是國內首個關注前沿科技領域的科技新媒體和創業服務平台。我們提供最貼近商業化的前沿科技創業報道、最新最全的科技動態資訊以及深刻獨到的行業觀點。堅持挖掘有價值的創新創業項目，致力於成為創新創業者的前沿陣地。

每月精彩評論將有機會獲得神秘禮品，線下活動 or 商業合作請私信微信公眾號（cheekrnews）或發郵件到粹客網官方郵箱。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！