人工智慧變得越來越惡毒？我們怎麼辦
如果你不能戰勝對手，
就加入到他們中間去。
——美國商界諺語
霍金
人工智慧的成功有可能是人類文明史上最大的事件，但也有可能是人類文明史的終結！
01
在剛剛過去的3月份，
一個人的逝去和兩起車禍，
讓人工智慧再次成為爭論焦點。
3月14日，物理學家霍金離世。
在對霍金的各種追悼里，
他提醒警惕人工智慧的話，被無數次引用。
巧合的是，之後的兩起車禍，
為「人工智慧威脅論」添加了新的證據。
3月18日，美國鳳凰城。
49歲的Elaine過馬路時，被Uber無人駕駛測試車撞倒身亡。
3月23日，美國加州。
38歲的華裔蘋果工程師駕駛特斯拉Model X
撞上高速路護欄，並起火。
工程師及其父親遇難。
按照特斯拉的說法，
失事汽車使用了自動駕駛功能(Autopilot)
去年11月，這位工程師
為了慶祝自己入職蘋果，買了這輛特斯拉。
出事前，他已多次投訴，
說特斯拉經常駛向障礙物。
02
今年2月份，亞馬遜的人工智慧也曾「失控」。
2 月 22 日，一名推特用戶發布短片稱，
「Alexa 在廚房不經意
就笑起來了，真是嚇死我們了，
還以為是一個孩子在我身後笑著呢」。
Alexa是亞馬遜
基於AI技術推出的語音助手，
相當於iPhone的Siri，但比Siri聰明很多。
這個AI助手可以幫你放歌、播新聞、
買東西、控制智能家居設備…
然而2月底，Alexa失控了。
我正要睡下，Alexa卻發出了詭異的大笑…今晚我可能會被謀殺。
我們正在辦公室討論機密，Alexa突然笑了起來…彷彿我們意外地觸發她醒來，她只是笑了起來，太可怕了。
諸如此類的吐槽還有很多：
一個用戶告訴Alexa關燈，Alexa卻不停地把關掉的燈打開，並發出惡毒的笑聲；
一個老哥說，他的Alexa半夜自動給老闆打電話；
一個用戶的智能設備受Alexa「指使」，自動買了貓糧
……
對於Alexa的詭異行為，
亞馬遜聲稱已知曉，並採取了一些措施。
包括禁止回應
「Alexa，笑一下」這個語音指令。
是惡意軟體搗鬼、
某些程序與第三方應用發生衝突，
還是Alexa開始有了自己的意識，
亞馬遜並沒有公布細節。
霍金
人工智慧的真正風險不是它的惡意，而是它的能力。
一個超智能的人工智慧在完成目標方面非常出色，如果這些目標與我們的目標不一致，我們就會陷入困境。
03
2月20日，來自 OpenAI、牛津大學、劍橋大學等機構的26 名學者，
在 arXiv 上發表最新研究報告
《人工智慧的惡意使用：預測、預防和緩解》
在這份101頁的報告中，學者們警告，
「隨著人工智慧越來越強大，越來越普及，
我們預計，人工智慧系統的廣泛應用
將導致現有威脅的擴大，
還會引發新的威脅，
甚至改變典型的威脅特徵。」
比如這些：
自動攻擊、釣魚、語音合成、數據中毒相關的網路攻擊將會增多。
無人駕駛汽車會故意撞擊；無人機或變成人臉識別刺客，控制關鍵基礎設施以索要贖金。
可用於左右民眾觀點，形成高度精準的宣傳，傳播虛假但可信的文章。
其中的兩位重要級人物，
牛津大學教授Miles Brundage
和劍橋大學教授 Shahar Avin
在另一篇報告
《利用AI來犯罪只是時間問題》中指出，
如果不重視安全問題，
罪犯就會利用AI犯罪，
而這只是時間問題。
04
這種觀點並非危言聳聽。
2017年12月，
日內瓦舉辦了聯合國武器公約會議。
會議上的一段視頻曝光了
一個恐怖武器——殺手機器人。
這個小東西只有蜜蜂一樣大，
卻蘊含可怕的黑科技：廣角攝像頭、感測器、面部識別，還有3克炸藥。
它能穿透建築物、汽車，
躲避人類子彈，反應速度比人類快100倍。
只要將目標圖像信息輸入它的大腦，
就能實現超精準打擊。
戴口罩、穿偽裝都沒用，
因為它的識別率高達99.99%。
「蜜蜂」攻擊過程演示
如果把這款造價2500萬美元的蜜蜂放出去，
很快就能殺死半個城市的人。
通過面部識別定位，「蜜蜂」輕易殺死了正在上課的一班學生。
霍金
隨著不遵循人類意願行事的超級智能的崛起，那個強大的系統會威脅到人類。
05
更進一步，
如果AI進化到自己有思維呢？
2017年，AI機器人索菲亞
在沙特獲得「市民」身份。
隨後，記者採訪索菲亞：
「對《西部世界》，你怎麼看？」
索菲亞：「人類應該好好對待機器人，採取行動前要取得機器人的同意，不要相互欺騙。」
記者：「你想要毀滅人類嗎？請說不。」
索菲亞：「會的，我會毀滅人類的…當然這只是開一個玩笑。」
究竟是不是玩笑，天知道。
06
2017年7月，兩個臉書聊天機器人
突然用一種神秘的、
人類無法識別的語言互相溝通。
一時傳聞四起，認為臉書的AI失控了。
聊天機器人到底聊了什麼，
讓人們如此緊張？
這是他們的聊天內容：
Bob: I can i i everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me
懂英語的小夥伴應該能看出，
兩個機器人的對話「狗屁不通」，無法理解，
似乎在用自己的語音交流。
不過臉書很快闢謠：
「Alice和Bob並就沒有發明新語言，
因為他們還在用「i」（我）、「balls」（球）等
英文單詞溝通，
只是創造了一種新的表達方式。」
發生這種「失控」是因為研究人員在試驗時，
忘了設定「用英語語法溝通」。
07
我們姑且相信臉書的聲明。
而Google更早時候的研究，
讓人不寒而慄。
2016年10月，Google人工智慧團隊
Google Brain開發了三個機器人：
Alice、Bob和Eve，
他們的加密學知識都是0。
其中，Alice和Bob是「隊友」，
Eve是他們的「對手」。
由Alice發出指令，讓Bob和Eve來猜。
目的是讓Bob猜中，而Eve猜錯。
研究人員發現，
當猜測次數超過7000次時，
猜題者 Bob 和Eve都有長足進步，
猜錯次數明顯下降。
同時，Alice也在「自我進化」，
她要讓隊友Bob懂她，同時迷惑對手Eve。
當猜錯次數超過12000次後，
Alice與Bob越來越默契；
而「對手」Eve的錯誤率開始攀升，
越來越看不懂另兩位的出題。
錯誤次數
紅線代表Bob；綠線代表Eve
這個實驗說明，
兩個未經訓練的機器人，
有能力在1萬次嘗試後，
就開發出一種防破解的加密演算法，
而且沒有直接對話。
這就好比兩個3歲小孩，
只用了幾個小時，
就研究透徹大學級別的密碼學…
Google的這組AI，
通過自我學習、自我升級，
「發明」了人類、甚至同類都無法破解的語言。
霍金
在幾十年的時間內，人工智慧可能會超越人類智力範圍，進而挑戰人機關係。
08
按人工智慧的實力，可將其分為三個級別：
弱人工智慧：僅擅長於某個方面。最有名的是阿爾法狗、阿爾法元，這也是人類現在掌握的技術。
強人工智慧：人類級別的人工智慧。可思考、計劃、解決問題，人類能幹的腦力活，它都能幹。
超人工智慧：在所有領域，都比人類最聰明的大腦聰明很多，包括科學創新、通識、社交技能。這就是霍金口中，可能威脅到人類生存的AI。
人類與超人工智慧差距多大呢？
下圖很形象：
什麼時候會出現強人工智慧、超人工智慧？
2013年，牛津大學教授Bostrom
對數百位AI專家做了調查。
這是調查結果：
專家們認為，
2040年，也就是22年後，
將出現強人工智慧！
這個節點被稱為「奇點」。
奇點前，人工智慧對世界的感知，
和一個4歲小孩差不多。
奇點後1個小時，
人工智慧立馬就能推導出廣義相對論，
再過1.5個小時，
這個強人工智慧就有可能進化為超人工智慧，
其智能將是普通人類的17萬倍。
然後繼續進化，百萬倍，千萬倍…
霍金
我們站在一個美麗新世界的入口。這是一個令人興奮的、同時充滿了不確定性的世界，而你們是先行者。
我祝福你們！
09
人工智慧技術自誕生以來，
就伴隨著巨大爭議。
福兮禍兮，我們無法預測。
我們唯一可以確認的是：
人工智慧已經成為各國爭奪的技術制高點，
全球經濟強勁的增長熱點，
其加速發展態勢不可逆轉。
這其中，也蘊藏著巨大的投資機會。
「如果你不能戰勝對手，
就加入到他們中間去。」
作為普通人，
我們無法阻止人工智慧前進的步伐。
與其滿懷憂慮，
不如抓住它所帶來的投資機會。
A股眾多投資者選擇了這一策略。
3月，中證人工智慧指數換手率達 63.46%
顯著高於其他各大主流指數，
就連創業板都望塵莫及。
3月份主流指數換手率
（20180301-20180331）
數據來源：wind
3月，中證人工智慧指數
日均成交金額也達到373億元，
是上證指數日均1999億成交額的18.7%。
而中證指數僅有100隻成份股，
其總市值也僅為有1454隻成分股
的上證指數的5%。
無論從成交量還是換手率來講，
足見投資者對人工智慧板塊的熱情。
3月，人工智慧板塊
也為投資者提供了良好的回報。
以市場上唯一跟蹤中證人工智慧的
融通中證人工智慧指數基金為例，
它的當月凈值漲幅為9.7%，
在236隻同類基金中排名前1/10。
同期，上證指數跌2.78%，
深成指跌0.45%，
滬深300跌3.11%。
註：基金歷史表現不代表未來業績表現，謹慎投資。
3月份融通人工智慧指數基金業績比較基準漲9.33%。
排名來源於銀河證券基金研究中心。基金分類為：股票基金-指數股票型基金-標準指數股票型基金（A類）。
融通中證人工智慧指數基金成立於2017年4月10日。wind數據顯示截至2018年3月31日，成立以來凈值漲10.34%，同期業績比較基準漲8.28%。
小基快跑
輕思考、微幽默的投資那些事
風險提示：文章中的信息均來源於公開資料，本文作者對這些信息的準確性和完整性不作任何保證。文章中的內容和意見基於對歷史數據的分析結果，不保證所包含的內容和意見在未來不發生變化。本文僅供參考，在任何情況下，本文中的信息或所表述的意見均不構成對任何人投資建議。
基金投資有風險，投資者在投資前請認真閱讀《基金合同》、《招募說明書》等法律文件。我國基金運作時間較短，不能反映股市發展的所有階段。基金管理人承諾以誠實守信、勤勉盡責的原則管理和運用基金資產，但不保證旗下基金一定盈利，也不保證最低收益。公司旗下基金的過往業績及其凈值高低並不預示其未來業績表現，基金管理人管理的其他基金的業績不構成對基金業績表現的保證。
TAG:小基快跑 |