事實證明人工智慧有多可怕，愛國者導彈系統失誤擊落了2架友機

科幻小說常常警示我們，要畏懼那些我們無法掌控的智能機械。事實上，我們真正需要害怕的，是那些需要我們控制但我們還沒能力把握的智能機器。

從愛國者導彈到特斯拉汽車，再到Airbus噴氣式飛機，自動化系統如今已造成不少人員傷亡。它們並沒有惡意，只是在災難到來之前，我們沒能及時把設備從「被動監控」切換到「主動控制」而已。

資料圖：愛國者導彈發射

究竟什麼時候該提起警惕？有時候，一天里有23小時59分鐘都是無需在意的，唯獨那麼1分鐘是致命的關鍵。2003年，自動化的愛國者導彈防禦系統出現失誤，擊落了兩架友機，一架英國龍捲風戰機和一架美國海軍F-18戰機。這一切發生的太快，以至於我們還沒來得及阻止，就已經結束了。

資料圖：美軍F-18墜毀照片

2009年，法國航空447號航班由里約熱內盧飛往巴黎。一名年輕的副駕駛正操控著飛行設備，機長這時將飛機交給自動化駕駛系統，並把位置讓給了另一位年長的副駕駛，準備稍微打個盹。突然，空速指示器被凍住了。這原本只是一個小故障，但它導致了自動駕駛儀數據的缺失，人工智慧系統繼而陷入「兩眼一抹黑」的境地。

於是，自動駕駛系統脫軌了，並將指揮棒立馬交回駕駛員手中。由於切換來的突如其來，駕駛員們甚至還沒做好準備。各種警報聲響起，恐慌不斷瀰漫，駕駛員來不及判斷究竟發生了什麼，更沒意識到他們此時的大腦空白將引發怎樣的後果。直到飛機失速、墜落並消失於汪洋大海，駕駛員們都沒能找出正確的應對措施。

最終，447號航班上的228人無一倖免。這是自動駕駛系統的錯么？但系統完全是按照設定程序運作的。這是駕駛員的錯么？機組人員明顯缺乏態勢感知，但是，當一個人連續幾個小時都處於休息狀態時，我們又如何能期待他高效地解決突發危機？

人們總愛通過自動化設備拯救自己的不足，殊不知這是把自己推向了另一個深淵。法航447便是人工智慧和人類智慧共同導致的一場災難，在這次事件中，人們就沒能成功接下智能設備遞出的指揮棒。除此之外，還有一種情況也會產生難以想像的後果，那就是自動化系統沒有在必要時候卸下控制權，而人類也反應遲鈍地聽從設備的安排。

【京東超市】SYMA司馬S107W遙控飛機 3.5通道合金耐摔直升飛機無人機 兒童男孩禮物 紅色

￥106.00

打個比方，最近新出的步槍自動瞄準系統能幫助士兵成功擊中目標，然而，一旦系統失去控制，我們又習慣性地相信瞄準設備的判斷，會不會有可能出現誤傷甚至誤殺的情況呢？

不要妄想裝備人工智慧後，就可以不用大腦了。我們是人工智慧的主人，不是它們的奴隸。愚蠢的頭腦配上高級的自動化系統，只會產生可怕的災難。我們需要的是相互信任、依賴的人工智慧機器。在使用人工智慧的同時，我們還得保證人的參與度，保持人的創造性和判斷力，這樣方能減少犯錯的可能性。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！