老問題，新方法：在人工智慧時代衡量軍事效能

人工智慧不僅僅是發展戰爭武器的工具，它還是了解武器影響的工具，不管是我們當前擁有的武器還是我們未來擁有的武器。

在越戰之後流傳著這樣一段對話：一位美國上校告訴越南上校：「你知道，你從未在戰場上擊敗過我們。」，越南上校回答說：「可能確實是這樣，但這也無關緊要。」這段對話大概率是杜撰的，但它也引出了一個問題——不注重效能的戰鬥。

「會產生什麼影響？」是國家安全中一個經常被忽視的基本問題：一個行動對對手產生了什麼影響，它是否使我們更接近我們的目標？很多情形都適用這個問題，比如，為迎接當地領導而進行的徒步巡邏、落在叛亂陣地的炸彈、關閉電網的網路行動或面向敵人的精彩航母展示等會產生什麼效果？這個問題不光適用於高級政策制定者，也適用於初級戰術家。在任何層面上忽視它都會產生嚴重後果，尤其在有贏得一場戰鬥卻輸掉整場戰爭的傾向時。

縱然「會產生什麼影響」是一個很重要的問題，但這個問題的答案卻十分虛無縹緲——儘管我們盡了最大的努力，但還是無法給出完整答案。一個影響是對手尊重美國利益的意圖發生了變化，但意圖是存在於對手頭腦中的。直接暴力可以使意圖變得清晰，但除了主動作戰，我們無法獲悉別人打算做什麼。即使我們能夠看清對手的想法，效能在時間維度和空間維度的複雜性也使得我們難以完全感知。例如，對於一顆落入叛亂陣地的炸彈，不同的人會有不同的反應，比如炸彈落點附近的叛亂分子、從遠處看到炸彈爆炸的人還有聽到爆炸聲的人。要回答「會產生什麼影響？」這一問題，我們需要在炸彈爆炸時弄清楚這些瞬時反應，並在炸彈爆炸後幾天和幾周內了解這些反應是如何發展的。對任何人或任何團體來說，弄明白這些都無比艱難。

人工智慧（AI），作為一種基於證據的測量軍事影響的方法，可以讓我們更接近問題的答案。它可以衡量情緒，而情緒是行為意圖的指標，它可還以跨越時間和空間。我們既可以使用人工智慧來開發用於發動戰爭的新工具，也可以使用它來更好地了解我們已有工具的效能。

決策者面臨的挑戰將是如何將人工智慧作為衡量效能的方式。除了技術和組織方面的障礙外，我們還面臨著一個心理障礙：我們與生俱來的認知感。人類可以看到對手在他們視野中如何反應，並且人類可以感受到他人的情緒。採用人工智慧作為效能的衡量標準，意味著承認我們自己的感知可能是不完整的，機器能做得比我們更好，而承認這一點可能會讓人覺得不舒服。採用人工智慧作為衡量效能的第一步是了解人類的認知偏差如何使判斷效能變得困難。本文描述了人類用直覺判斷效能容易出錯的具體例子，並解釋了人工智慧如何幫助回答這個基本問題：「會產生什麼影響？」

一個難題=三個簡單問題？

心理學在過去半個世紀中最重要的發展之一是認識到，人類在面對極其複雜的問題時，會簡化這些問題以得出結論。用諾貝爾獎得主心理學家丹尼爾·卡尼曼的話來說就是，我們提出了難以解決的問題，卻用簡單易懂的問題代替它們。

相比於「會產生什麼影響？」這個難題，我們更傾向於問（至少）三個簡單的問題：我想要的效果是什麼？對敵人的刻板印象會產生什麼影響？此時此刻的影響是什麼？我們轉向這些更簡單的問題——用判斷和決策研究人員的話說就是啟發式問題——因為這些問題的答案更直觀。回答這些問題要比回答多維對手將如何在不同的時間和空間上做出反應容易得多。回答這些簡單的問題會導致對所討論的「效能」產生系統偏見估計。人工智慧在測量效能方面最重要的貢獻是為我們消除這種偏見。當然，是否是最重要的貢獻要取決於我們對人工智慧的問題指引。

簡單問題#1：我們的目標是什麼？

當面對複雜性問題時，我們傾向於用期待代替現實，用「我想要什麼樣的影響？」來代替「會產生什麼效果？」或者，考慮到組織的激勵措施，用「我的老闆希望影響是什麼？」來代替。「我想要」這個問題是很容易回答的，我們希望影響能夠滿足我們的目標。

這個簡單的問題由於混淆了理想目標（我們想要看到實現的某些影響）與準確目標（我們想知道實現的實際影響）。這種情況很常見，任何人都曾經計劃在一天內完成比實際可行的更多的任務，並且將這兩個目標等同起來。這是心理學家所說的「計劃謬論」。

人工智慧，至少是狹義上的人工智慧，已經可以經過訓練解決一系列特定問題，並且能不像人類那樣容易受到目標混淆的影響。例如，一個接受過適當訓練來衡量對手聲音中恐懼的程序，就不會為了在戰前增強其自信心或者在戰後上傳好消息，去下意識地去改變它的演算法。這個演算法只會測量恐懼。（該衡量標準是否以無偏見的方式使用，將取決於人類決策者。）

簡單問題#2：對敵人心理的刻板印象有什麼影響？

第二種替換是將對手的全部複雜性替換為對他或她簡單的刻板印象。「會產生什麼影響？」需要衡量一個行動對所有相關戰鬥人員的影響，而一個任務往往隨著每個額外戰鬥人員的增加變得更加複雜。一個更簡單、更直觀的任務是對所有戰鬥人員創建一個單一的刻板印象，並衡量對該單一刻板印象的影響。有研究認為，人們傾向於認為對手不如他們。即使是不傾向於貶低敵人的決策者，也必須依賴某種程度的簡化。原因很簡單，因為他們的認知能力有限，無法理解對手的全部複雜性。

原因可能追溯到我們進化的過去，人類傾向於高估敵人的恐懼程度，而低估他們自己將經歷的憤怒程度。恐懼和憤怒會導致不同的行為，可以將影響從好的變成壞的。恐懼會讓人感受到世界上更多的風險，並削弱對局勢的控制，如果目標是說服敵人停止戰鬥，那麼這兩者都是好事。但憤怒會產生相反的效果——它導致對手感受到更少的風險和更強的控制，並尋求報應性正義。如果目標是停止戰鬥，所有這些都是不好的。

使用已有的技術，可以訓練演算法衡量來自文本、人臉圖像和語音音調的不同情緒。測量工具可以理想地與現有的情報收集功能相結合，捕捉語音通信或面部圖像的平台可以為演算法提供必要的基本數據，以評估對手對某一行動的情感反應。開發這樣的工具需要使商業技術適用軍事環境，例如，商業公司已經將情緒衡量作為衡量營銷活動有效性的手段。

使用敵人先前是否有恐懼或憤怒反應的歷史數據，演算法可以預測影響何時會導致一種情緒。實際上，憤怒和恐懼只是開始。人工智慧可以接受訓練，以衡量與有效性相關的其他因素：例如，民眾對政府的信任程度，或戰鬥部隊的團隊精神。

簡單問題#3：此時此刻的影響是什麼（僅此時此刻）？

最後，人類傾向於簡化難以解決的影響問題，因為它涵蓋了太多的空間和時間。回到先前提到的落入叛亂陣地的炸彈這個例子，任何看到炸彈的人、炸彈附近的人、甚至是只聽到爆炸聲的人都可能會改變他們尊重美國利益的想法。要想完整回答「會產生什麼影響？」這一問題，必須考慮到任何直接或間接接觸炸彈的人。

影響也會隨著時間的推移而變化。炸彈爆炸後立即產生的影響可能與它一周後產生的影響有所不同，最初的震驚可能已經變成了恐懼或憤怒。在整個空間和時間維度，即使是衡量一個動作的效果，對人類來說也是不切實際的。更別說衡量長期行動及其對整個地區的影響。

人工智慧可以幫助解決這個問題，通過使用演算法，在更廣泛的意義上評估影響。如果利用正確的數據進行適當的訓練，演算法就能衡量行動周邊區域以及有關行動的新聞所能傳播到的區域人們的情緒反應，並且衡量炸彈爆炸瞬間、幾天和幾周內人們的情緒。人工智慧可以使決策者面臨的複雜問題變得迎刃而解。

當然，演算法的有效性取決於訓練數據的有效性以及人類收集信息的數量。專家們必須避免將人類的局限性編碼到人工智慧演算法中——例如，如果演算法只使用對美國而言積極的結果數據集進行訓練，那麼人工智慧就很容易得出有偏差的答案。

技術、組織和心理上的挑戰

為了讓人工智慧成為一種衡量軍事影響的方法，國防部必須克服許多障礙。首先，它必須說服技術專家為軍事應用開發人工智慧。谷歌員工最近在抗議他們公司使用開源人工智慧解決方案，來幫助國防部處理來自無人機系統的數據。這段插曲表明，將人工智慧應用于軍事環境並不像與公司簽訂一份合同那麼簡單。如果五角大樓要使用人工智慧衡量軍事影響，就需要讓糾結的開發者相信軍事應用在道義上是合理的。

針對那些具有相關人工智慧專業知識的人的說服策略應該強調，從長遠來看，更好的影響衡量標準可以減少暴力衝突。更精確地衡量影響會減少客觀上無效的暴力（即使直覺上似乎有效）。在需要暴力的情況下，更好的效力措施將有助於確保它只針對那些意圖無法通過除暴力外的其他手段改變的人。

組織上的障礙部分源於國防部的規模和過去的成功。採用新技術所需的靈活性往往隨著官僚規模的擴大而減少，而美國軍方過去的成功卻帶來了一個阻止任何形式改變的問題：既然過去的方法是成功的，那為什麼還採用新方法呢？國防部的創新委員會建議五角大樓充分利用人工智慧，包括建立一個致力於研究、實驗和技術運營的全系統中心。然而，正如創新委員會成員和前谷歌CEO埃里克·施密特所言，阻礙進步的是「創新採納問題」。據他說，國防部並不缺乏新的想法，而是缺乏超越現狀的能力。

然而，在技術和組織動力的背後，是一個更為基本的心理障礙。我們可以用自己的眼睛看到影響，並且不費吹灰之力就能看穿他們。採用人工智慧來衡量有效性，就是懷疑我們的直覺。自我懷疑並非易事，特別是對於經驗豐富的決策者而言，他們對於組織的價值部分決定於他們了解情況的能力。

結論

人工智慧不僅僅是發展戰爭武器的工具，它還是了解武器影響的工具，不管是我們當前擁有的武器還是我們未來擁有的武器。它不是第一種能同時發動戰爭和理解戰爭效力的手段。運輸彈藥的飛機也可以作為戰損評估的平台，衛星可以在用於偵察的同時被武器化。但是，人工智慧的不同之處在於，它不僅僅是一種收集更多有關軍事效力信息的方式，它還是一種理解所有信息的手段。

人工智慧是解決信息豐富而認知能力有限這一歷史悠久問題的一種手段。也就是說，如果我們願意讓它發揮作用，它就可以做到這一點。如果是這樣的話，人工智慧可以使我們更接近於解決另一個悠久的問題：它可以幫助我們觀察敵人的思想，影響一直存在敵人的大腦中，但我們還從未見過。

作者丨Brad Dewees

編譯丨IITE

選自丨War On The Rocks

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！