智能機器人用于軍事，萬一叛變了怎麼辦？

隨著無人及人工智慧武器裝備的不斷問世，可以預見智能機器人變身戰場殺人機器將成為現實。在阿西莫夫的科幻小說《銀河帝國》，曾描繪了智能機器人為人類服務的場景，並提出了著名的機器人三大定律「機器人不得傷害人，也不能見人受到傷害而袖手旁觀。二.機器人應服從人的一切命令，但不得違反第一定律。三.機器人應保護自身的安全，但不得違反第一、第二定律」。三大定律約束智能機器變成殺人工具，甚至要防止有朝一日機器進化到了超越人類智力水平之後，反叛並取代人類成為世界的主宰。

現在看這只是一個美好的願望，人類是無法剋制自己的貪婪，機器人定律肯定不會給軍用機器人灌輸，人類的道德規範連人類都限制不了，更別說什麼機器人了。

說到這裡要有人說了，無人機早就開始投入戰場了，察打一體無人機取得戰果也不是一兩個了，大量的戰例說明機器人早就開始殺人了。但是，這個觀點是不對的，這裡要說明的是現在普遍使用的無人機還只是人類遙控的工具，無人機並沒有進行自主化操作。現在的無人機就是一個大號航模，一切智能判斷都是人類完成。

但是未來的智能機器人，有自己的判斷決策，並可以實現自主的攻擊。就像阿爾法狗下圍棋，技術人員也不知它在想什麼，具體的步驟都是它自己下出來的，以後的作戰模式就應該是這樣：機器人發現目標，發出敵我識別信號，同時給後台的人員來參與判斷敵我。一旦目標被標定是敵人，那麼機器人將自主決定什麼時候出擊，有多少機器人協同，用什麼樣戰術，什麼時候發射武器進行攻擊。而人類就是一個確定目標的情報員。

甚至人工智慧的訓練到了一定程度，機器人取代將軍下達作戰命令都可能了，畢竟圍棋可以戰勝人類，那麼軍事指揮，這種高智商的活也不是不可以預期的。穩妥一點也可以當個合格的參謀。

想想這個情景還是讓人不寒而慄的，機器人沒有感情，純粹的殺戮機器，完全可能一往無前的去屠殺，把它認為的一切障礙物進行清除。只要戰爭這個指令下達，剩下的就不是我們可以隨意控制的了的了。

所以，人類在享受人工智慧帶來便利的同時，是否應該前瞻性的研究一下人工智慧的潛在危險，並且制定通用標準，將危險限制在萌芽中。

作者：雪一刀

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！