會「學習」的超導人工突觸：讓神經形態計算更快更節能！
背景
人腦具備非常強大的計算能力，其複雜程度和處理能力遠遠超過最先進的超級計算機。那麼，大腦是如何具備如此強大計算能力的呢？
下面為大家簡單說明一下。如圖所示，大腦執行計算時，它會在神經元之間傳遞電化學信號。
（圖片來源：NIST）
這些信號的傳輸受到一個關鍵連接結構控制，它就是突觸。
（圖片來源：NIST）
突觸的感受能力決定了突觸後神經元是否會對於信號作出響應。
（圖片來源：NIST）
如果信號不夠強，突觸後神經細胞將不會作出響應。發送的信號越多，那麼突觸的感受力就會加強，這樣就使得突觸具有了學習能力。
人腦由兩個主要組成部分：神經元網路和突觸。它與機器相比具有顯著優勢：第一，並行處理和存儲大量數據；第二，進行並行處理的能耗極低。
神經形態計算，被認為代表了未來人工智慧的重要發展方向，引起了科學界的濃厚興趣。不同於傳統的馮·諾依曼計算機體系結構，神經形態計算的靈感來源於人類大腦，它模仿神經突觸和神經元，將負責數據存儲和數據處理的元器件整合到同一塊晶元中，更節能、更快速、更高效地處理和學習數據。
之前，筆者介紹過一種特殊的電子器件：憶阻器。它能夠模仿神經突觸和神經細胞的功能，啟動神經形態計算，並且在能耗和尺寸上都具有優勢。關於憶阻器的創新研究成果，之前介紹過的案例很多。例如，前些天，筆者剛介紹過美國國家標準與技術研究院（NIST）的科學家們揭示出了憶阻器的內部工作機制。
（圖片來源：NIST）
創新
今天，筆者要介紹的創新成果也是來自NIST，同樣也是可用於類腦計算機和神經形態計算的電子元器件，但是這一次卻不再是憶阻器。
近日，NIST 研究人員製造出了一種超導開關，它能像生物系統一樣進行」學習「，並可以在未來類腦計算機中連接處理器並存儲記憶。
研究人員在《科學進展》（Science Advance）雜誌上詳細描述了這種超導開關。它也被稱為人工突觸，與生物學中的突觸功能類似。這項研究由美國情報先進研究計劃署（IARPA）的低溫計算複雜性項目贊助。
技術
突觸是腦細胞之間的一種連接或者開關。NIST製造的人工突觸是一個直徑10微米的金屬圓筒，就像真實突觸一樣，因為它可以處理輸入的電尖峰脈衝，從而定製輸出的尖峰脈衝信號。這種處理基於一種柔性內部設計，可以根據經驗或者所處的環境來調整。細胞或者處理器之間傳遞的信息越多，連接就越強大。因此，真實突觸和人工突觸都能維持舊電路，並創建出新電路。
NIST的突觸是一種約瑟夫遜結。這些約瑟夫遜結是一種三明治結構的材料，中間填充了絕緣體。
（圖片來源：NIST）
當流過約瑟夫遜結的電流超過臨界電流時，電壓尖峰就會產生。這些突觸使用標準鈮電極，但是統一在硅基材中填充了錳納米團簇。
（圖片來源：NIST）
納米團簇，每平方微米約有20,000個，就像帶有「自旋」的微小磁條，這種自旋的方向要麼隨機，要麼是一種協調的方式。
（圖片來源：NIST）
Schneider 表示：「這些是定製的約瑟夫遜結。我們能控制指向同一方向的納米團簇的數量，它將影響約瑟夫遜結的超導特性。」
除了被輸入電流激活並開始製造電壓尖峰之外，突觸都處於一種超導狀態。研究人員在磁場中施加電流脈衝改善磁場的有序性，也就是說，提高指向同一方向的納米團簇數量。這種磁場效應逐步降低了臨界電流水平，使得創造常導體和製造電壓尖峰變得更加容易。當所有的納米團簇對齊的時候，臨界電流最低。這個過程也是可逆的：在沒有磁場的條件下，施加脈衝會降低磁場的有序性並抬升臨界電流。在這項設計中，不同的輸入改變了自旋排列，產生出輸出信號，這也類似於大腦的工作模式。
改變器件製造方法及其運行溫度也可以調整突觸的行為。研究人員通過製造更小的納米團簇，可以降低提高或者降低磁場有序性所需要的脈衝能量。例如，將運行溫度從零下271.15攝氏度提升到零下269.15攝氏度，將帶來更多更高的電壓尖峰。
關鍵一點是，突觸能在三維空間中層疊，製造出能夠用於計算的大型系統。為了用於模擬系統是如何運行的，NSIT 研究人員製造出了一種電路模型。
價值
NIST的人工突觸比真實突觸更好，它比人類大腦傳遞信息速度更快，每秒鐘達到10億次，而人腦細胞是每秒50次，而且使用的能量只有一點點，大約為人類突觸的千分之一。用技術術語來說，尖峰脈衝能量少於1×10－18焦耳（attojoule），低於室溫條件下的背景能量，與綁定兩個原子所需的化學能量等同。
NIST 物理學家 Mike Schneider 表示：「NIST的突觸比人腦需要的能量更低，而我們尚未發現其他任何需要能量更少的人工突觸。」
這種新突觸將在由超導元件構成的神經形態計算機中使用，它能在沒有電阻的條件下傳輸電力，因此比其他基於半導體或者軟體的設計更加高效。數據將在磁通量單元中進行傳輸、處理和存儲。模仿人腦細胞的超導器件和傳輸線已經開發出來了，但是迄今為止，高效的突觸（關鍵部件）一直缺失。人腦非常擅於處理場景識別之類的任務，因為它既按照順序又同步處理數據，並且將記憶存儲在遍布整個系統的突觸中。傳統的計算機只能按照順序處理數據，將記憶存儲在獨立的單元中。
根據論文表述，NIST 的突觸結合了小尺寸、超快尖峰脈衝信號、低能量以及三維層疊能力，將為構建新型神經形態系統提供方法，這種神經形態系統比已經通過其他技術演示的神經形態系統更為複雜。
這項研究彌補了現有的神經形態計算機的不足。展望未來的新型人工智慧，這種計算機將提升自動駕駛汽車和癌症診斷的認知與決策。
關鍵字
神經網路、人工智慧、超導
參考資料
【1】https://www.nist.gov/news-events/news/2018/01/nists-superconducting-synapse-may-be-missing-piece-artificial-brains
【2】M.L. Schneider, C.A. Donnelly, S.E. Russek, B. Baek, M.R. Pufall, P.F. Hopkins, P.D. Dresselhaus, S. P. Benz and W.H. Rippard.Ultra-low power artificial synapses using nano-textured magnetic Josephson junctions. Science Advances, 2018 DOI: 10.1126/sciadv.1701329
TAG:IntelligentThings |