科學家創建可自我複製的神經網路，AI像生命體一樣繁殖
【導讀】自體複製是生物體生活中的一個關鍵部分，然而這在以往的人工智慧中被忽略了。最近，一些計算機科學家開始創造可以進行自體複製的神經網路，他們把這項研究發在了arXiv上。
這是生命繁衍的一個重要過程，也是生物體通過自然選擇來進化的至關重要的一步。該論文的第一作者、哥倫比亞大學的博士生Oscar Chang向The Register解釋說，他們的目標是通過模仿生物的繁衍過程來觀察人工智慧是否能持續地自體複製。
「其主要動機是人工智慧代理（AI agent）是由深度學習驅動的，自我複製機製為達爾文自然選擇的發生提供了保障，如果神經網路有自我複製的機制，那麼人工智慧代理社群就可以通過像自然界一樣的自然選擇來簡單地提高自己。」
科研人員將他們的工作與一種可以學習如何生成源代碼的副本的計算機程序quines相比較。然而，在神經網路中，被克隆的是網路的權重而非源代碼，因為權重才決定了不同節點之間的網路連接值。
研究人員建立了一個用於產生網路權重的前饋「vanilla quine」網路。 vanilla quine網路也可以通過自我複製權重來解決任務。 他們將它用於MNIST數據集上的圖像分類來識別0到9手寫數字。
與擁有數百萬個參數的標準圖像識別模型相比，這些網路較小，最多有21,100個參數。
網路分類是否準確？
測試網路需要60000個MNIST圖像作為訓練集，並用10000個作為測試。經過30次迭代後，quine網路的準確率達到了90.41％。雖然網路的效果相比較於更大，更複雜的圖像識別系統不算優越，但這也不算很糟糕。
該論文中指出，「自體複製佔據了神經網路能力的很大一部分」。換句話說，如果神經網路需要進行自體複製，那麼它無法集中於圖像識別任務上。
文章中提出：「這是一個有趣的發現，一個網路在在完成一個特定任務的同時要進行自體複製是很困難的，表明了這兩個目標相互矛盾，
Chang無法解釋為什麼會發生這種情況，但是這種情況在自然界中也並非罕見。
「其中的原理很難解釋。 但我們注意到，這種現象與自然界中生殖和其他任務之間需要維持的平衡相類似。例如，我們的荷爾蒙可以幫助我們適應環境，在食物短缺的時候，我們的性慾下降，優先考慮生存而非生殖。所以目前看起來神經網路中的自體複製並不是那麼有效，但它仍然是一個有趣的實驗。」
他補充說：「據我們所知，我們第一個解決了神經網路構建中自體複製機制的問題。因此，我們的工作應該被視為概念證明。」
但是研究人員希望有一天它可以用於計算機安全領域或受損系統中的進行自我修復。
「學習如何增強或減少AI程序自替複製的能力對計算機安全非常有用。例如，我們可能希望人工智慧能夠執行其源代碼，而不需要通過它自己的意志或與對抗網路的交互來對其進行反向工程。
他指出，自體複製還可以用於受損物理系統的自我修復。他還補充道： 「這同樣適用於人工智慧，其中自體複製機制可以作為檢測損傷的最後手段，也可以將受損或失控的AI系統恢復正常。」
論文地址：
https://arxiv.org/pdf/1803.05859.pdf
免責申明:本站所有內容均來自網路,我們對文中觀點保持中立,對所包含內容的準確性,可靠性或者完整性不提供任何明示或暗示的保證,請僅作參考。若有侵權,請聯繫刪除。
文章來源：新智元
