卡拉什尼科夫全新的自主武器和「終結者謎題」

據說地球人民都關注分享我局了(⊙v⊙)

地球知識局微信公號：地球知識局

卡拉什尼科夫集團最近宣稱開發一種能夠自我決定和識別目標的自主戰鬥模型武器。

俄羅斯武器製造商卡拉什尼科夫集團低調宣布了這個具有恐怖意味的消息。該公司披露了一系列使用人工智慧演算法識別目標和進行自我決定的自主機器人。這一消息再次引發世界對於自主武器爭議問題的強烈關注，並且似乎在向人類詰問：我們到底在什麼時點將致命武器的權力交給人工智慧？2015年，包括埃隆馬斯克和史蒂芬霍金在內的超過一千名機器人和人工智慧學者聯名簽署了一份公開信，要求英國政府下達對於人工智慧武器的禁令。然而官僚作風、臃腫遲緩的英國政府直到2016年12月才進行答覆。目前，英國政府召集了專家小組，準備推進正式的全球禁令，只不過真正實現還需要好幾年的時間。

全自動的卡拉什尼科夫

當英國政府還在組建工作小組來討論對於制定人工智慧武器禁令的可能性時，俄羅斯早已準備著手製造全自動戰鬥機器人。俄羅斯武器製造商卡拉什尼科夫以發明AK47這一人類歷史上最為有效率的殺人機器而在全世界臭名昭著。俄國總統弗拉基米爾普京到卡拉什尼科夫參觀幾天後，該公司就由公關總監索菲亞伊萬諾娃發布了以下宣言：「未來即將來臨，公司將會發布一系列基於神經網路的產品。「 她還在一份對於俄羅斯國家新聞媒體TASS的簡短聲明中補充道：「其中，一種全自主戰鬥武器模型計劃將於Army-2017論壇上進行展示。「

在這份短促的聲明中沒能清楚地說明目前卡拉什尼科夫已經具體製造了什麼樣的武器或者將會如何進行製造，但是這一姿態已經十分清楚地傳達出來。該公司已經製造了一種「基於神經網路「的」全自動「系統。這一武器化的」戰鬥模型「顯然能夠自主決定和識別目標，並且我們很快就會看到。

終結者謎題

我們是否應該將人類監督從任何自動軍事操作中移除？這一爭論已經持續進行了一段時間而沒有結論。在美國，圍繞這一問題的討論無法達成一種官方的共識。 一個在五角大樓的走廊里被私下稱為「終結者謎題「的問題經常被提及：是否限制這些類型武器的發展實際上會使得其他缺乏道德感的國家大幅領先？還是說最終讓機器擁有製造生命或是死亡決定是一種更大的威脅？目前美國對於自主武器的官方立場是對任何涉及致命武力的過程都必須有人類的允許。自主武器只能被部署在非致命性、非動態武力之中。退休的美陸軍上校約瑟夫布萊徹和其他人聯合撰寫了一篇非常強有力的關於自主武器的文章，其中毫不掩飾的表達了對於自主武器禁令的批評。約瑟夫描述了一種兩個戰士進行對抗的場景。一名戰士擁有全自主武器的軍械庫，而另一名戰士只是具有相似的半自主武器，武器完成攻擊總是需要人類的參與。

在這樣的情境中，半自主武器的戰士具有兩大劣勢。完成攻擊過程的速度是一個顯然的問題。自主武器本質上能夠更快地行動並且打敗另一個需要人類允許其致命行為的武器。

人類主導武器的第二個劣勢是很容易被侵入。無論是在地上還是天上，半自主武器都需要聯絡，而這一特點會最終導致反向危害的發生。未來的終極網路戰爭很可能就是將一個國家的戰爭機器人對向該國自己人，因此一個系統越是獨立，它就會越為閉合，並保證對於外部危害有足夠的安全防範。

與以上看法相對立的結論是，限制致命自主武器的發展實際上將會變相增強那些追求這些科技的冒進國家的軍事實力。

人工智慧能夠消除人類誤差嗎？

我們先將自主機器人戰士的恐怖形象放下一會，看一下另一個問題。一些學者提出在軍事領域中促進更徹底的人工智慧可以提高精準度，並減少對平民的誤傷。 我們有時在新聞上會看到一些軍事行動由於錯誤地攻擊了城市中心而使得大量人群因炸彈而血肉橫飛，這都是因為人類誤差或是無差別攻擊導致的。如果人工智慧武器是這樣一種武器：它只針對特定目標計算路徑， 精準識別到人, 並且在它自主確定對於非戰鬥人員是安全之時才會發動攻擊，那麼我們又該如何看待？

在生命未來研究所的一份報告中，（諷刺的是這是由埃隆馬斯克贊助的），研究科學家海瑟羅夫檢視了現有的自動武器系統並考慮了未來發展的方向。他表示，目前有兩種科技正大幅受到新武器開發者的歡迎。

「這兩種最新出現的技術是目標圖像鑒別和巡邏（例如 自我參與）「，羅夫寫到 」前者受益於計算機視覺和圖像處理所取得的進步，並運用於最新的導彈科技。後者出現在一些轉冷的領域，例如小型無人機。它們代表了自主性的最新前沿：武器並不具有特定的目標，而是在一套潛在的目標中等待合適的目標被檢測到。這一科技目前只運用在很少一部分已配置的系統中，但卻是待發展系統中極具分量的組成部分。「

當然，這些系統目前仍然需要人的參與來觸發任何殺傷命令，然而，我們需要問的是，技術發展到哪一個時點時，人類便會阻礙系統效率的提高？

這些都是目前仍然無法解答的問題。

隨著俄羅斯國家支持的卡拉什尼科夫集團宣布全自主戰鬥系統的開發，我們需要迅速地找到這些問題的答案。

「終結者謎題「也許在過去幾年是個具有娛樂性的思考實驗，但是這樣的科幻正在迅速變為科學事實。對於將生死的權力交給機器，我們已經做好準備了嗎？

據說地球人民都關注分享我局了(⊙v⊙)

地球知識局微信公號：地球知識局

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！