當智能體具備生命體征時，超級人工智慧將給人類帶來什麼？

新智元報道

來源：techtalks

編輯：雅新

【新智元導讀】通用人工智慧一直是人們對智能體未來發展前景的展望。當人工智慧有類人的生命體征，智力和意識的特徵時，我們是否思考過如何與之互動，去認知和接受它們。

你是否對拔下機器人的插頭或關閉人工智慧演算法而感到難過？暫時不會。

但是，當我們的計算機變得比我們更聰明時，我們又如何呢？

關於通用人工智慧後果的辯論幾乎與AI的歷史一樣悠久。

大多數討論都將人工智慧的未來描述為像終結者那樣的啟示錄或像Wall-E那樣的烏托邦。

但是，鮮有人討論，當人工智慧體有類人的生命體征，智力和意識的特徵時，我們將如何與之互動，去認知和接受它們。

薩格勒布經濟與管理學院的科學家Borna Jalsenjak在最近發表的一篇文章中，討論了超級智能的AI，以及生物體與人造生命體之間的類比。

這篇文章的的標題為，「The Artificial Intelligence Singularity: What It Is and What It Is Not」，收錄在《深度學習基礎指南》中。這是一本論文集，探討了人工智慧的不同階段歷史，科學和哲學方面。

? ?

《深度學習基礎指南》– Springer

AI奇點何時會出現？

最先將「奇點」這一概念引入人工智慧領域的是美國的未來學家 Raymond Kurzweil。在他的《奇點臨近》《人工智慧的未來》兩本書中，將二者結合，他用「奇點」作為隱喻，描述的是，當人工智慧的能力超越人類的某個時空階段。

? ?

奇異性是有關通用AI的討論中經常提到的一個術語，但我們在奇異性方面存在很多困惑和分歧。大多數科學家和哲學家都認為關鍵的一點是，這是AI系統變得比我們更智能的轉折點。

AI奇點出現的的另一個重要方面是時間和速度：AI系統將達到可以不斷重複和加速地自我完善的程度。

「更簡潔地說，一旦有一種AI達到人類水平，並且AI可以創建稍微智能的AI，然後再創建更智能的AI，並且會像這樣繼續下去，直到出現一種比人類先進得多的AI。」Jalsenjak寫道。

需要明確的是，我們今天擁有的人工智慧技術，即狹窄的AI，距離實現這一壯舉還差得很遠。

Jalsenjak將當前的AI系統描述為「特定領域的AI」，比如只擅長製作漢堡的AI。與人類不同，這些系統只能學習或被教導如何執行特定任務，這就是為什麼它們被稱為狹窄AI。

這不是關於如何以及何時實現AGI的討論。

這是一個不同的話題，也是許多辯論的焦點，大多數科學家認為，人類級人工智慧至少需要幾十年的時間。

Jalsenjack 表示，當我們真正實現時，無論是明天還是一個世紀，如何去定義AI和人類的身份？

在AI社區中，許多人都會將將機器視為人類，尤其是當它們具有智能的跡象時。雖然這顯然是對當今技術的高估，Jalsenjack還提醒我們，通用人工智慧不是必須複製人類的思想。

他在論文的腳註中寫道，「即使有了先進的人工智慧，也沒有理由認為先進人工智慧與人類智慧有相同的結構。」

人類與當前人工智慧技術之間的最大區別之一是，人類是活著的生命體，但AI演算法卻並非如此。

Jalsenjak寫道：「當今的技術發展不能讓AI具備生命體征。但我們奇怪的是，是否會出現超級的AI，例如在關於奇異性的討論中可以預測到這種超級智能，這值得一試。」

這種人造的生命會對我們如何認知AI並採取行動產生巨大影響。

具有怎樣的生命體征可以說人工智慧體是「活著的」？

Jalsenjak從哲學人類學的概念中汲取了想法，指出生物是可以自主行動並照顧自己和自己的物種。至少現在，無論是多麼先進的機器，它們在這方面始終只能作為人類的延續而發揮作用。

生命有不同的層次，而且正如AI發展趨勢所示，人工智慧正在慢慢朝具有生命的體征靠近。

根據哲學人類學的觀點，當有機體朝著目標發展時，生命的最初跡象就形成，在當今的目標驅動下的AI也同樣具有。

Jalsenjak說，人工智慧沒有「意識到」其目標，並且漫不經心地壓縮數字以達到似乎這一無關緊要的目標，因為我們認為植物和樹木即使沒有同樣的意識也可以存活。

認為具有生命體征的的另一個關鍵因素是生物體能夠有自我修復和改善自身的能力。它也應該生育並照顧後代。

這是我們在樹木，昆蟲，鳥類，哺乳動物，魚類以及幾乎所有我們認為活著的東西中看到的特徵。自然選擇和進化的規律迫使每個生物體能夠學習和發展適應環境生存的技能，以確保物種的生存。

關於生育照顧後代，Jalsenjak提出，人工智慧的繁殖並不一定與其他生物體一樣。

機器不需要後代來確保物種的生存。AI可以解決材料劣化的問題，只需手頭有足夠的替換零件即可將故障零件更換為新零件。

關於自我完善能力，就更加微妙了。Jalsenjak指出，即使不同軟體的自修改程度有所不同，但已經有能夠自修改的軟體。

當今的機器學習演算法在一定程度上能夠使其行為適應環境。他們將許多參數調整為從現實世界中收集的數據，並且隨著環境的變化，可以在新信息上對它們進行重新訓練。

比如冠狀病毒大流行可能會干擾我們正常行為下進行訓練的AI系統。

由於人們戴著口罩，面部識別演算法不能夠檢測到人臉。而這些演算法現在可以通過對戴口罩的臉部圖像進行訓練來重新調整其參數。

顯然，與人類和高等動物的能力相比，這種適應水平微乎其微。

但是，理想的自我完善型AI可能會創造出全新的演算法，從而帶來根本性的改進。這就是所謂的「遞歸式的自我完善」，將導致更加智能的AI不斷循環和加速完善。

今天，我們有一些像遺傳演算法和網格搜索的機制，可以改善機器學習演算法的不可訓練組件。但是它們帶來的變更範圍非常有限，並且仍然需要一定程度的開發人員的手動操作。你不能指望遞歸神經網路會通過許多突變而變成一個Transformer。

Jalsenjak指出，遞歸式自我完善將使AI有可能完全取代正在使用的演算法，正是奇點出現所需要的。

Jalsenjak總結道，「通過類比及觀察AI已有的特徵，可以認為超級人工智慧是活著的，說AI是人類的延續這一說法是無效的。它們將有自己的目標，也許還有自己的權利。人類將首次與至少與他們一樣聰明，而且可能更加聰明的智能體共存於地球。」

你仍然可以在不感到內疚、自責的情況下關閉機器人的電源嗎？

反思：AI自由意志，AI道德仍將是我們繼續思考的問題

賈爾森賈克在論文的結尾承認，對人造生命體的反思還提出了許多其他問題。這裡描述的關於生物的特徵是否足以使某事物被認為是活著的，或者這僅僅是必要的條件？

Douglas Hofstadter在《我是一個奇怪的循環》中否認了這一觀點。他認為個體的自我意識和思維是將其他生物，智能體與人類區分開的關鍵。

自由意志也是一個懸而未決的問題。Jalsenjak寫道：目前尚不清楚未來的AI是否有自由意志的可能性。

最後，還有超級智能AI的道德問題。這是一個廣泛的主題，包括AI應該具有的道德原則，人類對AI應當具有的道德原則，以及AI如何看待與人類的關係。

參考鏈接：

https://bdtechtalks.com/2020/06/29/artificial-intelligence-singularity/

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！