【2018 新智元AI 技術峰會倒計時 14 天】

諾貝爾獎唯一計算機領域評委親臨，峰會首批嘉賓陣容公布

3月29日，將於北京舉辦的2018 年中國 AI 開年盛典——2018 新智元 AI 技術峰會，我們邀請到了德國總理默克爾的科學顧問、諾貝爾獎唯一計算機領域評委、工業 4.0 教父、世界頂級自然語言處理專家 Wolfgang Wahlste 教授。Wahlster 教授將親臨 329 峰會現場，分享歐洲對人工智慧科技發展和 AI 產業化的思考。與諾獎評委面對面，點擊文末閱讀原文，馬上參會！

搶票鏈接：

http://www.huodongxing.com/event/8426451122400

新智元報道

作者：聞菲

【新智元導讀】3月11日，北京腦科學和類腦計算論壇召開，以「眾神（經）計算」為主題，由中科院計算所研究員孫毓忠首次提出，眾專家分析討論，探索用於腦科學和腦疾病的新一代腦模擬計算系統。AI晶元浪潮下，我們能否更進一步，找到一種既擁有生物特徵，又具有計算系統特性的新型模擬系統？從腦到計算的跨度是否太遠？深度學習更靠近數學和腦科學的哪一端？

會議由北京市科委、中科院計算所主辦，中科曙光協辦，計算所孫毓忠研究員和趙地副研究員擔任大會主席。瞄準產業下一個風口，凸顯學者前瞻性和預見性。

人腦是自然界最複雜精密的系統，而腦和計算機在某些機制和原理上具有高度的相似性。眼下，人工智慧晶元熱潮正盛，但AI晶元場景仍以小規模為主，用於手機端、自動駕駛和消費電子產品。百尺竿頭更上一層樓，聚焦神經晶元和「眾神（經）計算」，2018年3月11日，北京腦科學和類腦計算論壇在中科院計算所召開，探討用於腦科學和腦疾病的新一代研究工具。

在實體生物以及高性能計算機的純模擬之間，我們能否找到一種既有生物，也有計算系統成分的高效模擬系統？

大會主席：中科院計算所計算機體系結構國家重點實驗室孫毓忠研究員

中國科學院院士李國傑、郭愛克，中科院計算所副所長陳熙霖，中國神經科學會常務理事、中國腦科學計劃申報書寫作組和實施方案編製組統稿人范明等出席會並發表演講。

計算機似乎是唯一能實現人工智慧的手段，但不理智的決策如何計算？

李國傑院士

李國傑院士指出，現在做的腦科學研究和類腦計算，都屬於計算神經科學，而計算神經科學與人工智慧，兩者應當相向而行，漸進融合。李院士提出，短期內把腦的科學和奧妙解開不太可能。正如此前北京大學的黃鐵軍教授所說，想要弄清人腦、根據腦的肌理來做計算機，可能性極低，不如先把計算機做出來，而後再了解腦，就像先製造出飛機，然後再了解空氣動力學。但是，類腦計算比造飛機難，憑空想像也不容易，所以，應該兩邊同時展開研究，最後在中間融合，兩個領域都能對彼此形成啟發。

中科院計算所副所長陳熙霖

中科院計算所副所長陳熙霖指出，到目前為止，計算機似乎是唯一能實現人工智慧的手段，從這個意義上講，計算是非常重要的。但經濟學家研究發現，我們做決策時並不是完全理智的，而如果不是完全理智的，那麼是不是就不能完全依靠計算來模擬人腦？

陳所長這樣描述他從計算的角度看未來我們從腦科學裡能得到的啟示：「用計算模擬的辦法推動腦科學進展，好比在爬一座山，我們希望有一條路能上去，如果什麼都沒有，就是在盲人摸象地往上爬。如果我們從腦科學那裡得到一些啟示，就好比我看到山上有人告訴我，他爬到頂上去過，換句話說，把黑盒變成一個灰盒，再逐步的變成一個白盒。」

陳所長還拋出了一個問題：如果一條線的一端是腦，另一端是數學，那麼深度學習位於哪裡？是離腦更近，還是離數學更近？

回答這個問題，或許還是要從認識人腦講起。

認知人腦：敢為天下先，設計硅基大腦，整合多種天才特徵

郭愛克院士

人類大腦在整體上是怎樣工作的？郭愛克院士介紹，大數據出現之前，我們主要是依靠抽樣數據記錄，數據是片面的，依靠經驗、結論、假設和價值觀來認知人類的大腦，這一過程閃耀著一顆顆璀璨的科學明星：

薛定諤，關注生命的本質，提出了「非周期晶體」、「負熵」、「密碼傳遞」、「量子躍遷」等概念，用來解釋和理解生命現象；皮亞傑，回到智力的本質，把「適應」（adaptation）看做智力的本質，人的智力發展過程被視為適應水平不斷提高的過程；拉蒙·卡哈爾，發現神經元結構，「神經系統是由獨立的神經細胞組成」；謝靈頓，提出了突觸的概念，認為神經元的末梢分支與另一個神經元胞體獲樹突僅僅是接觸，在原生質上並不連續——突觸是腦的基本操作單元，它對於腦的重要性，如同原子對於物質，DNA對於生命那樣重要。

再到巴甫洛夫、赫布（突觸修飾和神經細胞群）、克里克（在還原論上認識生命本質），以及中國的兩座高山：馮德培，上海生理所前所長，觀察到強直後增強效應（PTP），這是亞細胞水平神經可塑性的一個先驅性電生理髮現，以及張香桐，創建了中科院上海腦研究所，是歷史上第一個闡述了樹突上突觸連接重要性的人。

但是，這些畢竟是觀察和抽樣，只有繪製出人類大腦的聯結圖，我們才能真正了解大腦如何工作。在這方面，中科院自動化所完成了一項十分重大的工作：2016年，中科院自動化所蔣田仔團隊與國際合作，6年時間成功繪製出全新的人類腦圖譜：腦網路組圖譜。

該圖譜包括246個精細腦區亞區，以及腦區亞區間的多模態連接模式，突破了100多年來傳統腦圖譜繪製思想，引入了腦結構和功能連接信息對腦區進行精細劃分和腦圖譜繪製的全新思想和方法，比傳統的Brodmann圖譜精細4-5倍，具有客觀精準的邊界定位，第一次建立了宏觀尺度上的活體全腦連接圖譜。

接下來，郭院士介紹了進化基本的計算原則具有的普遍性。例如，遞歸網路與氣味的稀疏編碼：大腦就是一個編碼器，通過神經元和神經網路的特殊語言，將輸入進來的物理信息翻譯為一種視覺，嗅覺，聽覺，觸覺上的直觀感覺，神經編碼在原則上可以有多種形式，在信息流（比如視神經）的瓶頸形成區域，或者和記憶相關的重要區域，稀疏編碼是非常可取的。

再例如最近鄰搜索任務：哈希演算法和果蠅嗅覺編碼，後者更加優越。研究人員將果蠅的嗅覺迴路看作是一個哈希函數，輸入是一種氣味，輸出是一個對應標籤（哈希）。果蠅將相似的氣味與類似的標籤聯繫起來，這樣從某一種氣味中學到的條件反射，可以應用到以後遇到的相似的氣味上。研究人員推測，果蠅的嗅覺迴路產生的標籤是局部敏感的——局部敏感哈希是解決計算機科學中眾多相似搜索問題的基礎，而且果蠅的演算法效率更高。這也表明局部敏感哈希可能是大腦中使用的一個一般計算原則。

郭院士指出，他認為腦可能是以模塊的方式來工作的。這些模塊可能在果蠅的蘑菇體發現，也可能在斑馬魚的視頂蓋，還可能在鼠的下丘腦，或者靈長類的伏隔核。我們或許可以參照化學的元素周期表，總結出大腦的功能模塊，構建大腦功能模塊的「元素周期表」，成為腦的密碼錶。

在此基礎上，敢為天下先：設計硅基大腦，整合多種天才特徵。腦里有很多的天才特徵，有數學的，有音樂的，有繪畫的，有記憶的。這些特徵很多不是出生以後學習過來的，而是在神經網路中可以編碼的。有沒有可能計算機科學家和腦科學家攜手，設計整合各種天才特徵？或者從這些特徵中設計一個更強大的系統，可以完成多種功能，類似一個「硅基大腦」。

腦科學和類腦智能是一個具有無限可能的領域，人類完全可以期待從腦科學那裡獲得最為令人吃驚的啟迪，拉開人類歷史上的智能革命，從腦-智力-環境-社會的複雜統一體中逼近腦和人類本質。

深度學習的問題：從神經環路看類腦計算

清華計算神經科學教授、博士生導師宋森博士

清華大學腦與智能實驗室及類腦計算中心的宋森博士，分享了他關於深度學習局限性的思考。常見的深度學習一般是基於大數據的，其實就是一個函數。這種大數據深度學習現在來說做得不錯，但可能從2017年開始，瓶頸已經比較明顯了。那麼，深度學習的問題在哪裡？

宋森博士認為，這是由大自然的特性決定的。大自然是個複雜系統，複雜系統呈現出來一個比較常見的現象，就是呈長尾分布。深度學習可能搞定了很多事情，但遇到個例和不那麼常見的情況，就容易出問題。

人會採取推理、類比等方法，對那些不常見的事情給出一些比較粗略的判斷。計算機要做到像大腦那樣學習，就需要考慮如何將這兩種推理模式——基於大數據的精確推理和基於小數據的模糊推理給有機結合起來。

和現有的人工神經網路不同，混合計算是大腦的一種基本形式，這可能和大腦的多任務型和魯棒性有關。宋森博士從編碼、局部環路結構、學習和全局環路結構四方面做了探討。從編碼的層次看，大腦的一個基本特徵就是用高度並行的原理，用空間來換時間。舉個例子，你要表示「8」這個數字，在計算機裡面必須有一個二進位編碼，因此也涉及到解碼。而生物的外周神經元，可能就是讓一個神經元發放8個脈衝，採取經典頻率編碼。

而大腦裡面一種關鍵的編碼是稀疏編碼。這樣表述的一個好處就是，很容易和概率標準自然地連接起來。稀疏編碼是大腦的一個比較重要的系統。但如果仔細看，就會發現稀疏編碼並不能解釋一切，有很多神經元會參與多個集成，稀疏性在每一個大腦皮層也是不同的。

宋森博士推測，不同的大腦皮層功能不同，第2、3層可能是稀疏編碼，統一分布在抽象空間中，主要用於識別；而第5、6層則可能是樹狀結構，主要用於關聯。他認為大腦採取稀疏和壓縮雙重編碼，同時也採取空間和時間複合編碼。

從局部神經環路的層面，研究已經發現，大腦中互相連接比較強的神經元，它們的功能特性也差不多；而從深度學習角度理解，初級神經皮層上面有些現象也可以與CNN對應起來。

宋博士指出，腦環路和深度學習有一些可能存在相似性，但有些有不同的地方。在局部環路結構上，大腦的連接是層級化的，存在局部群（community）、中心神經元（hub）和富人俱樂部（rich club）現象。

在提到學習時，宋森博士認為，大腦中有兩類不同的學習任務，一類是模式分離，也即漸變學習，有點像大數據問題，比如試錯類型的學習。另一類則是模式聯想（快速關係學習），典型的例子是恐懼調節，也就是將小鼠放在盒子中進行電擊，下次再將它放在類似的盒子中，就知道自己可能會遭遇不好的事情。而在學習這兩類不同的任務時，大腦是把不同的東西分開來的。

在全局神經環路層面，大腦採取多時鐘同步通訊的辦法來實現靈活高效的控制和調配，通過調配實現動態鏈接網路結構。

從大腦到計算的路有多長？

中科院自動化所余山研究員

中科院自動化所的余山博士論述了神經科學和人工智慧如何能夠相互促進。

或許你也認為，真正人工智慧專家需要了解的問題，可能神經科學專家回答不了，而且神經科學的發現可能太過細緻，一眼看不到直接的實際用處。

如何解決這個問題？余山博士認為，我們可以從大腦的工作原理中總結一些基本的規律，這很可能是大腦和計算的通用原則。我們在神經科學中觀察到一些重要的現象規律，把它用起來，看它對機器學習演算法有沒有幫助，好比一個前饋的過程，再配合一個反饋的過程（反向傳播），看能否很明確地用數學的語言表達其功能，如果可行，就建立起一個環路，我們就可能有效發現類腦計算的一些途徑。

余山博士舉了幾個例子。首先是突觸傳播和Dropout。在神經生物學中發現，突觸響應不是確定性的，存在很大的失誤率，有信號傳遞過來，突觸不一定能傳遞，甚至不一定能轉化為化學信號，突觸在20%~30%的情況下才傳遞成功，一般將其理解為生物噪音，但這樣實在太沒效率了。另一方面，在有些地方突觸卻可以實現100%成功傳遞，說明這不是不可能做到。

神經科學家很早就觀察到了這一現象，但對其功能意義並不完全理解。2012年，Hinton提出Dropout演算法，以及後續提出的Drop connect演算法，隨機讓網路中的一些節點（突觸）不工作，使得網路有效避免了過擬合，從而實現了更好的泛化性能。實際上這正好對應了突觸傳遞的隨機性。這就是機器學習專家從數學的角度理解，讓生物學家得到啟發的一個例證。

第二個例子是臨界態和類腦之間的關係。神經科學家發現，當生物處於臨界態時有利於信息的傳遞，處於超臨界（大多數神經元都處於飽和）、亞臨界（激活不夠）時都不利於信息處理。用腦片做實驗也發現，臨界狀態使得網路的動態範圍實現最優化。

這個現象，機器學習專家從ML的角度來理解，能得到哪些啟示呢？在一個深度網路中，淺層神經元的動態範圍容易保持在較大的水平，但隨著層數越來越深，很快網路的動態範圍就變得非常小，要麼大多數神經元都不活躍，那麼大多數神經元都趨於飽和。這個帶來的一個重要問題，就是BP演算法中梯度的回傳就受到影響，也即「梯度消散」。

在生物中，大腦通過臨界態來解決這個問題。而在機器學習領域，人們採取的做法是在每兩個層之間另加一層（Batch Norm層或是Layer Norm 層），從而讓後面層級保持一個較好的動態範圍，相當於讓每層都保持在臨界態，這些方法在深度學習中都有廣泛的應用。

余山博士總結說，由此可見，大腦和機器學習很多時候面臨的問題是很相似的，即便我們現在對大腦的了解還不完整，但是我們仍然可以去嘗試，去發現大腦通用的功能優勢，然後去理解這樣做在信息處理上的意義是什麼，如果我們能夠理解這些問題，借鑒大腦的一些解決方法，就能幫助我們設計更好的機器學習演算法。

Q&A：人類的大腦里存在量子效應嗎？

在這次腦科學和類腦計算論壇上，北京大學信息科學技術學院教授吳思，中科院神經科學研究所高級研究員、神經科學國家重點實驗室副主任王佐任，中科院寧波材料所諸葛飛博士，四川大學類腦計算研究中心主任唐錦華博士，以及中科院瀋陽自動化所研究員斯白露博士也分別發表了報告，從神經計算、憶阻型神經形態晶元、空間記憶神經動力學等多個角度，對計算神經科學與人工智慧的融合、借鑒與發展進行深入探討。

左起：斯白露、諸葛飛、王佐仁、唐錦華、中國傳媒大學腦科學與智能媒體研究院院長曹立宏、吳思、余山和陳熙霖

新智元：從大腦圖譜的研究里，有沒有發現人的大腦存在量子效應，還是說人的大腦就遵循經典的物理和化學？

余山：我試著回答一下，從目前的大腦圖譜研究看，我沒有看到人腦跟量子有關係。這個話題有很多人在說，我認為目前神經科學沒有很強的證據表明，量子力學在大腦的神經信息處理當中發揮了任何重要的作用。這樣說有幾方面的證據，一個是在大腦這樣一個37攝氏度的環境當中，很難保持要保持量子糾纏態，現在所有的量子計算都取決於量子糾纏，以及能夠保持足夠長時間，這樣看大腦是不滿足相關條件的。

王佐仁：對，我完全同意余山老師的觀點，量子糾纏當然是物質的基礎，但它跟神經計算可能沒有直接聯繫。這樣的糾纏可能聽起來很fancy，當初是一個叫彭羅斯的物理學家提出來的，神經科學家對這個理論是普遍是否認的。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！