MIT重磅研究：基於人工神經網路，探索抑制神經元的生物學意義

在近幾年，人工神經網路——一種參照大腦運作模式而建成的計算模型——已經成為了最為炙手可熱的人工智慧系統，並且應用於從語音到圖像的各個領域。

雷鋒網消息，MIT CSAIL 於今日發布了一個重磅研究成果：他們已經開發出一個大腦神經迴路的計算模型，它揭示了抑制神經元的生物意義。

這個模型是由一組輸入神經元陣列與同等數量的輸出神經元組成，採用「競爭學習規則」（winner-take-all）來操作。

也就是說，網路的輸出神經元之間相互競爭以求被激活，但在每一時刻只有一個輸出神經元被激活。這個被激活的神經元稱為競爭獲勝神經元，而其它神經元的狀態被抑制，故稱為 Winner Take All，這就像美國大選一樣，在該州獲得更多選票的候選者就會得到該區所有的選票。

MIT 研究者們證明，通過使用理論計算機科學的相關工具，他們的模型能夠讓一定配置的抑制性神經元遵循「競爭學習規則」，並獲得最有效的結果。這其中原因何在？真相就在於該模型能夠對抑制性神經元在大腦中的行為進行預測，而這也成為了計算分析輔佐神經科學研究的絕佳例子。

這一新發現在本周的理論計算機科學變革會議上公布。論文作者為 MIT 軟體科學及工程的 NEC 教授 Nancy Lynch，博士後 Merav Parter 及電子工程與計算機科學的研究生 Cameron Musco。Lynch 表示，「這一發現能夠為計算機網路或以手機為代表的電子設備與生物系統中的神經網路之間建立起緊密聯繫，我們正在嘗試從分布式計算的角度尋找可能使之受益的方向，並將重點放在演算法上。」

為了補充一些背景知識，雷鋒網先為大家簡單介紹一下人工神經網路與人體神經網路的聯繫與區別：

我們都知道，大腦的神經細胞存在兩種狀態：興奮和抑制。神經細胞通過某種方式將所有樹突上的信號進行相加，如果信號總和超過了某個閾值，那麼這個神經細胞就會被刺激，達到興奮狀態。人工神經網路也就是模仿上述原理而設計的一種演算法模型。

人工神經網路與人體的神經元類似，由多個節點（神經元）之間聯結而成，每個節點代表一種特定的輸出函數，並根據各個節點的不同權重生成不同的計算輸出。

由於權重能夠表示激發或抑制作用（在這裡，雷鋒網(公眾號：雷鋒網)為大家簡單表示為正負關係），這些或正或負的數據將作為激勵函數的輸入進行作用。而這個激勵函數經過所有不同節點的權重綜合計算後得到一個新的激勵值，並最終得到我們想要的結果。

而在人工智慧應用中，實際情況當然會更加複雜一些。一個神經網路可以接受不同數據的訓練，不斷通過調整權重而得到更契合實際的結果。

Lynch 團隊對該模型進行了多處修改，使得人工神經網路在生物層面更加真實。首先是增加抑制性神經元的數量。通常在人工神經網路中，連接上的權重值就和雷鋒網方才提及的一樣，通常是正的，或者是可正可負的。但在人體大腦中，有一些神經網路能夠發揮純粹的抑制作用，並阻止其它神經元活動，因此 MIT 的研究人員參考這一點，將這些神經元建模為只連接負權重的節點。

而就像我們所了解到的一樣，很多人工智慧採用的是前饋網路，即信號只從一個方向通過網路，從接收輸入數據的第一層到提供計算結果的最後一層。但大腦間的反饋會更加複雜一些。Lynch、Parter 及 Musco 的神經網路就增加了一層反饋機制，輸出神經元的信號傳遞到抑制性神經元，它的輸出會再次傳遞到輸出層。此外，輸出神經元的信號也會反饋給自身，這對競爭學習規則而言顯得非常重要且有效。

MIT 的研究人員改進的人工神經網路還有一點最大的不同在於，神經網路變得更具概率性。因為在此前傳統的人工神經網路中，如果節點的輸入值超過某個閾值，則節點會被激發。但在大腦中，即使增加了輸入神經元的信號強度，也只會增加輸出神經元激活信號的機會。這同樣對於競爭學習規則也具有不小的意義。

Parter 與她的同事們成功證明，如果只有一個抑制性神經元，是不可能變成競爭學習的最終「贏家」的（但兩個就 OK 了！）。其中的秘訣在於，如果多於一個輸出神經元激活抑制性神經元（研究人員稱之為收斂神經元）能夠激活強抑制信號。而另一個抑制性神經元（被稱為穩定神經元）的功能在於，只要任何輸出神經元正在激活信號，那麼它都只會發出更弱的信號。

收斂神經元能夠驅動神經網路選擇單個輸出神經元，並在該節點上停止激活信號；而穩定神經元則會在收斂神經元已經停止活動時防止輸出神經元的第二次作用。而如果輸出神經元被抑制的時間越久，它越有可能繼續保持這一狀態。而一旦選擇了單個輸出神經元，它的反饋迴路能夠確保自己能夠克服穩定神經元的抑制作用。

但是，如果缺少了隨機性，網路並不會收斂到單個輸出神經元，抑制性神經元權重的任何設置將同等地影響所有的輸出神經元。「你需要隨機性來打破這種對稱性，」Parter 解釋道。

研究人員能夠確定所需要的輔助神經元的最小數量，以保證特定收斂的速度，以及在一定數量的輔助神經元的情況下的最大收斂速度。

越多的收斂神經元並不代表著收斂速度一定會加快，比如說現在有 100 個輸入神經元，兩到三個收斂神經元已經足夠，而增加第四個並不會增加你的速度。與此同時，一個穩定神經元已經足夠。

但更有意思的地方在於，研究人員發現興奮性神經元（刺激）與抑制神經元一樣，並不能增強神經網路的處理效率。

Salk 生物研究所的助理教授 Saket Navlakha 表示，這個模型能夠應用於很多的感覺系統中，包括生成稀疏碼的嗅覺系統。「我們已經發現了許多類型的抑制性神經元，下一步我們打算看看是否能像論文所說的一樣，將抑制性神經元分為上述兩類。」

卡耐基梅隆大學計算機科學 Ziv Bar-Joseph 表示，「神經科學在計算模型上需要考慮更多的細節，除了抑制性神經元如何發生作用外，什麼樣的蛋白質能夠驅動它們呢？」目前，Nancy 正在對神經網路進行全面性的觀察，並研究抑制神經元的數量。而這種基於宏觀層面範圍內的建模，相信能夠為人類帶來普適性更強的預測。

viaMIT，雷鋒網編譯

雷鋒網原創文章，未經授權禁止轉載。詳情見轉載須知。