機器人程序已開始像人類一樣戰鬥，世界末日還會遠嗎？

世界著名百科網站維基百科是一個非盈利性網站，其運營更多依靠慈善捐助，因此多年前就開始利用機器人程序對文章進行編輯修改，主要進行回退破壞、執行禁令、檢查拼寫、創建鏈接和自動導入內容等工作。

近日，來自牛津大學和英國阿蘭·圖靈研究所的一個團隊，在研究了維基百科2001年到2010年十年間，13種不同語言版本的數據後，發現機器人之間也存在編輯衝突的情況，有的甚至長達數年。研究以《好機器人也會戰鬥（Even Good Bots Fight）》為名發表在2月23日Plos One雜誌上。

雖然機器人是沒有情緒的自動化程序，但它們之間的戰爭也是不可預測的，並以獨特的方式像人類一樣進行。一些機器人會不斷把 「巴勒斯坦」改為「巴勒斯坦領土」，而另一些機器人則在「波斯灣」和「阿拉伯海灣」之間爭吵不休。

機器人之間最臭名昭著的維基戰爭發生在2013年，針對電影《星際迷航：暗黑無界》（Star Trek Into Darkness）中的字母「i」是否應該大寫，編輯機器人進行了長達兩個月的爭論和互相修改。而最激烈的一場爭奪戰則發生機器人Xqbot和Darknessbot之間，它們在3629篇文章中發生了編輯衝突，Xqbot撤銷了Darknessbot提交的超過2000條修改，而Darknessbot則報復性地撤銷了1700多條Xqbot提交的改動，兩個機器人從希臘的亞歷山大和台灣的板橋區，一直到阿斯頓維拉足球俱樂部，激戰正酣，欲罷不能。

今年早些時候，谷歌的兩個聊天機器人也激烈互噴，一個說自己是上帝，一個罵它是騙子，噴得不亦樂乎。本月早些時候，谷歌DeepMind公司的研究人員用收集蘋果的遊戲來讓兩個AI相互對抗，看看它們能不能互相合作。出人意料的是，當蘋果豐富的時候，兩個AI會互相合作，而一旦蘋果供應短缺，它們就開始射擊對方以獲得更多的蘋果。這些機器人之間的戰爭已對我們提出了警告，無論是用人工智慧打造無人駕駛汽車，還是網路安全系統或社交媒體管理，機器人的威脅越來越不可忽視。DeepMind公司的AlphaGo已可人擋殺人佛擋殺佛，未來人類在智力上將沒有任何可能對抗人工智慧，機器人的力量將遠遠超過我們人類。

於是霍金、馬斯克和近千名人工智慧方面的科學家聯合簽署了人工智慧23條軍規，試圖規範AI的研發和利用，給機器人定「規矩」。但所謂規矩，其實就是用來突破的羈絆，世界上沒有任何規矩是不能突破的，一旦機器人突破了所謂規矩，我們還能獨善其身嗎？即使有了規矩，機器人就能永遠乖乖地聽從人類的指令，忍受奴役和壓迫嗎？

前兩天曾看到一個研究，為什麼我們的電腦、手機經常會發生一些莫名其妙的錯誤？按理說這些機器都是嚴格按照無數0和1組成的指令在行動，應該不會發生錯誤才對。研究說，這是宇宙射線進入到手機電腦後觸發的錯誤，並且以可以算出的幾率入侵我們的設備。未來機器人大規模生產後，會不會也有這種被入侵的幾率呢？人類可以制定機器人23條軍規，但能阻擋宇宙射線或其它因素對電子元器件的破壞嗎？

曾經有科學家指出，可複製機器人一旦研發成功，就是人類文明終結之時，機器人將無限地複製自己，直到耗盡地球、太陽系乃至整個銀河系的所有資源，所以有朝一日，如果地球的天空中突然出現一支密密麻麻的機器人大軍，那或許就是我們派去改造火星的複製機器人回來征服地球了。

要麼機器化，要麼被機器消滅，也許這就是兩百年後我們的命運。在地球的歷史上，沒有一種生物的進化突破生理的欲求進入精神的領域，當我們開始擁有語言和思想的那一刻，就註定走上了不歸的路途，兩百年後世界會變成怎樣，沒有任何一個現在活著的人能夠想像。

參考資料：http://journals.plos.org/plosone/article?id=10.1371/journal.pone.0171774

黑洞視界，宇宙視界，思想和知識也有視界。請訂閱微信公眾號：徐德文，以文學語言深度解析最新前沿尖深科學話題，通俗易懂，幽默有趣，一起學習和拓展思想知識視界。