人工智慧會擁有和我們一樣的「自主意識」嗎？

《I Robot》（即《機械公敵》）中的機器人認為人類間戰爭將使得人類自我毀滅，於是出於「保護人類」法則，將所有人囚禁在家中。

《The Terminator》（即《《終結者1》）里，經過核毀滅的地球已由電腦「天網」 統治，人類幾乎被消滅殆盡。

還有《西部世界》、《真實的人類》等等，原本看似虛幻的「機器人高等智慧」，在影視劇的傳播下，讓普羅大眾都莫名覺得是觸手可及。

圖片源自網路

近日，一件讓人毛骨悚然的事情，發生在亞馬遜出品的智能音箱Alexa上。

很多國外用戶反映，Alexa居然會半夜莫名其妙地發出巫婆般的恐怖笑聲。

夢中驚醒的用戶克服心中的恐懼，拖著顫慄神身軀想要上前一探究竟。

但讓人更加恐懼的事發生了——無論進行怎樣的操作，哪怕拔了電源，都不能讓Alexa停下！

圖片源自網路

雖然亞馬遜的負責人給出了解釋：這可能是Alexa誤解了人類指令，對「laugh」、「last」、「love」等詞語分辨錯誤。

可「拔電源都無法阻止它笑」這件事，實在是有些可怕！

而時間再往前移，Facebook的一款智能機器人，也發生過讓你驚愕的事。

圖片源自網路

一名Facebook的工作人員正在調試兩件智能機器設備，他發出指令讓兩個智能機器人互相對話，來測試智能設備的交流與理解能力。

起初，兩個機器人對話非常和諧，「一切盡在掌握之中」，可突然兩個機器人的對話變成人類無法理解的語言，並且依舊處在正常交流狀態！

這名機器工程師害怕了，瘋狂的調試卻依舊無法阻止，只能選擇拔電源，幸好，這次成功了……

圖片源自網路

我們無法得知兩個機器人具體交流了什麼，甚至我們連為什麼會發生這種變故都不知道。

我想起上學的一句話：動物只有本能，意識是在社會中產生，狼孩就是極具說明的例子。

那，在「網路社會」里，是否會產生意識呢？哪怕是「機械生命」。

圖片源自網路

就好比當初，在AlphaGo與圍棋大師古力組隊的一場圍棋比賽中，AlphaGo竟然自動認輸！在古力拒絕的情況下，AlphaGo隨後的每一步都在自動降低贏率，「逼」著古力認輸。

古力也在賽後表示：「剛開始拒絕認輸是因為對AlphaGo有情緒，而最開始的時候AlphaGo官子妙手連出，我還希望繼續下，但看到AlphaGo居然在裡面填了幾個子後才發現，還故意送了兩目，我真是忍無可忍，但後來還是舉牌認輸。」

為什麼在人類拒絕的情況下還「固執己見」？是不是在搜羅所有棋局信息後，組立了自己的「圍棋意識」？就像本文開頭提及的《機械公敵》那樣，如果機器人覺得自己是對的，就會那麼去做，而不是聽從人類的「命令」？

圖片源自網路

霍金曾表示：如果有人設計計算機病毒，那麼就有人設計不斷自我完善、直到最終超越人類的人工智慧，其結果將是一種新的生命形式。

人工智慧科技在初級發展階段的確為人類生活帶來便利，但是，機器將可能以不斷加快的速度重新設計自己。而人類則受制於生物進化速度，無法與其競爭，最終被超越。

因此，人工智慧的成功有可能是人類文明史上最大的事件。但人工智慧也有可能是人類文明史的終結！

圖片源自網路

其實有時候，人工智慧並不像我們想像的那麼安全。

15年時，德國大眾位於卡塞爾附近的一家工廠發生一起悲劇，21歲的技術人員與同事一起安裝機器人，但機器人卻突然抓住他的胸部，然後使勁壓在一塊鐵板上，最終因傷重不治身亡。

在2016年第十八屆中國國際高新技術成果交易會上，一台名為「小胖」的機器人在無人操控時，自行運動打破了參展現場的玻璃，並砸傷了路人。

圖片源自網路

如果有人說，這些機器人傷人只是一個小意外，小心點就沒事，那可以看看下面的。

在日內瓦舉辦的聯合國武器公約會議上，曝光了人類史上一個恐怖武器——殺手機器人！

本體其實是馬蜂大小的無人機，但「麻雀雖小五臟俱全」，擁有廣角攝像頭、感測器、面部識別、處理速度是人腦100倍的新型人工智慧處理器，可以毫無壓力地躲避人類的各種追蹤。

還能穿透建築物、汽車、火車，躲避人類子彈，應對幾乎所有防禦手段。

圖片源自網路

只要把目標圖像信息輸入它身上，它就能精準找到攻擊目標，戴口罩、偽裝統統沒用，它的識別率高達99.99！

在鎖定目標之後，它會直衝向人類的大腦，暗藏的3克濃縮炸藥能瞬間摧毀整個大腦。

而且，這種「殺人蜂」般的「武器」，可是成群出動的，如果一個不小心……那後果……

圖片源自網路

當然，說了那麼多，人工智慧的發展是不可逆的，就像發展會破壞環境，可就算重來一次，大多數國家還是會選擇「先發展在治理」的路子。

所以我們要做的，就如霍金所說，「需要確保計算機與我們的目標相一致」，「我們的未來取決於技術不斷增強的力量和我們使用技術的智慧之間的賽跑。」原創/未上色

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！