奇才霍金生前發警告：人類若不控制這一技術將會毀滅世界

3月14日，據媒體報道，英國著名物理學家史蒂芬·霍金去世，享年76歲，作為世界天文物理學知名科學家，以及現代最偉大的物理學家之一，霍金曾多次就人類最終命運提出自己的見解，2011年，史蒂芬·霍金在一次演講中就人類科技發展的弊端進行了討論，這可能是他他一生中最重要的五個預言之一，霍金認為人類如果不能控制人工智慧技術的發展，未來可能將反過來被「人工智慧」所擊敗，未來的戰爭可能是人和「人」之間的戰爭，或者說人和人工智慧自我意識的戰爭，一旦人類失去對人工智慧的自我意識進行控制，人類反而會被自己的創造品所吞噬，這就是所謂的「人工智慧困局」。軍事專家陳忠告訴記者，當「人工智慧」越來類人且其自主化能力的提升，如何進行善惡、是非判斷成為一個嚴重的問題，是否執行人類的命令為何來糾錯都成為「人工智慧」技術發展未來的隱患。

2017年3月，霍金向英國《獨立報》表示，人類必須建立有效機制儘早識別威脅所在，防止新科技（人工智慧）對人類帶來的威脅進一步上升。霍金認為，自從人類文明形成以來，來自生存能力優勢群體的侵略就一直存在，強盛國家消滅弱小國家，強大且生存力強的生物捕食弱小生物，為了生存，生物和生物群體的進攻性從而停止，而人工智慧進一步發展便可能具備這種優勢，即便人工智慧自己沒有背叛我們，但是人類自身卻很可能會通過人工智慧，來進行核戰爭或生物戰爭從而摧毀我們的世界，因此人類需要利用邏輯和理性去控制未來可能出現的威脅。上世紀80年代的科幻電影《終結者》中，人類製造了一整套人工智慧自動核武器防禦「天網」系統，但「天網」系統最終發動了核戰爭消滅了大部分人類，人工智慧通過控制工廠生產只能機器人，對僅存的人類進行「圍剿」，這是人工智慧對人類赤裸裸的「背叛」，這部電影是一個恐怖的未來預言。

軍事專家告訴記者，人工智慧技術已經開始深入未來武器發展和軍事作戰系統構建中去，目前，人類製造的最新型防空系統和反導系統，都存在人工智慧自我決策機制的存在，例如在以色列「箭3」反導系統中，反導雷達發現目標後，對目標進行確認防空系統可以自主進行射擊攔截，當然這個過程中，操作人員可以進行人工干預，但問題是他不聽話怎麼辦？近年來，人工智慧在邏輯能力上已經顯著超越了人類，著名的「阿爾法狗」就是其中一個例子，軍事專家陳忠認為，「阿爾法狗」只代表了人工智慧在基於神經網路的機器深度學習、高性能計算和大數據技術等領域的最新成就，屬弱人工智慧。但有軍事專家預言，未來強人工智慧的運用就會如同5年前大數據的進入一樣，帶來巨大的改變。在競爭與博弈更為激烈的軍事領域，人工智慧自上個世紀隨著計算機的出現已經越來越多地走向戰場，推動著智能化戰爭時代的來臨。

人工智慧的自我學習能力很強，但人工智慧最嚴重的問題是其沒有倫理道德制約，「殺人」只是一個指令，善良與罪惡、正義與否都不在現有人工智慧的考慮範圍內，霍金的對人工智慧的疑慮恰恰就在於此，眾所周知，人工智慧技術的核心命意，乃是通過對於計算機的恰當編程，以使得相關設備能夠在行為層面上表現出與人類類似的「智能性」。儘管關於什麼樣的行為可以被判為「智能的」，學界尚有不少的爭議，但是一般人都不會反對這麼一條評判意見：理想中的人工智慧產品，應當能夠在盡量減少人工干預的情況下，在相關工作環境中，按照用戶的要求自主地完成各種任務。很顯然，人工智慧在多大程度上被人工干預可能是一個很大的問題，因為這個自主是自己判斷對與錯，殺與不殺，開火還是不開火呢？還是等待操作人員按動YES或者NO的選擇框呢？

軍事專家告訴記者，從倫理學的角度，軍事衝突的語言即關於辯護的語言，所謂辯護就是指你有沒有充足的理由發動奪取人生命的戰爭，理由這個詞非常玄妙，人類可以創造出很多理由發動戰爭，而且理由都很冠名堂皇，但人工智慧能夠明白嗎？一些軍事學者認為，軍事衝突導致人員的死亡以及財產的受損，並造成各種形式的可以想像的大量傷害。不給理由就去做這些事情乃是瘋狂的。正所謂出師有名，但人工智慧到底需要不需要了解這些東西呢，如果是自主化的無人機或無人戰車，他在射擊之前還要請示一下是不是開火，顯然那肯定是不行的，要不然搞人工智慧又是為了做什麼？人類也不可能期盼人工智慧能夠明白這其中道德上的用心良苦吧。

不過，即使你有了理由去進行殺傷性作戰行動，如果戰爭中制服或殺傷人員目標，可以通過更少的人員與財產損失來達到，那麼，相關的軍事行動還是無法得到辯護，然而，人類總是有理由發動戰爭，而軍用人工智慧系統的介入，又會在多大問題上會改變此類問題的性質呢？我們知道，「機器人戰士」或軍用人工智慧畢竟還是人類生產或設計的產物，我們也完全不能夠設想這些人工智慧，能在「其設計者不知其如何運作」的前提下進行作戰行動，那麼作為人類的設計者真的明白自己在做什麼嗎？

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！