工程領域的人工神經網路和深度學習等方法，是否需要尋求其在神經科學、認知科學和生物學等其他領域的合理性？

我覺得問題中至少包含兩個子問題：

1. 如何定義合理性？什麼叫做『神經科學、認知科學和生物學等其他領域的合理性』？

2. 為什麼我們需要尋找生物合理性？給工程方法尋找生物合理性的原因和動力是什麼？

首先的問題在於：什麼叫做『神經科學、認知科學和生物學等其他領域的合理性』？

根據我的觀察，很多時候，所謂的合理性指的是符合對應科學的觀察和現象。這些觀察和現象能夠在一定的層面上解釋神經系統信息加工機制，但是並不代表這就是整個故事了。因為這樣一個具有神經科學合理性的理論或者現象很有可能是一個結果，而不是一個原因，而你需要解釋為什麼這個生物合理性的規律是『合理的』。比如我們說Hebbian Rule，這樣一個神經科學理論用一句話描述是fire together, wire together。這個規則主要是描述了神經元連接的一種規律。但是，為什麼會需要有這樣一種規律？這種規律要完成什麼樣的目的和功能？每一個所謂生物合理性的設計背後都需要有更多的研究來解釋：為什麼這個設計是合理的？如果工程領域的研究能夠解釋這個『為什麼』，那麼就是這個工程方法來解釋生物合理性，而不是尋求生物合理性。

舉個例子，我們看到鳥在飛，然後我們決定做一個飛行器。在做這個飛行器的過程中，我們使用很多工程的方法。我們在這個過程中是否單純地尋求這些飛行相關的工程方法和原理的生物合理性呢？我覺得不是。我覺得是這些方法的研究使得『鳥有翅膀』、『鳥長成流線型的樣子』這樣的生物學現象更加合理了，而不是『鳥有翅膀』、『鳥長成流線型的樣子』使得這些方法更加合理了。這些方法本身的合理性是需要大量的物理學實驗和理論推導來證明和支持的。

第二個問題在於：為什麼我們需要尋找生物合理性？我們是希望用生物學的合理性的規律使得工程學的方法看起來更合理一些，還是怎麼樣？

如果我們說『這個工程方法是合理的，因為人腦也是這麼做的』，這完全沒有解釋這個工程方法的合理性，這叫甩鍋，一口鍋全甩到了人腦研究的研究者身上。為什麼人腦要這麼做？為什麼人腦這麼做是合理的？為什麼人腦這麼做就是高效的？為什麼？

我們的根本的目的在於：我們是為了解釋和理解事物背後的原理，而從各種不同的角度和學科來思考，我們當然不能只停留在『這方法好用』，我們還要了解『為什麼這個方法好用』，對工程方法也是這樣，對神經科學研究也是這樣——這也是我們為什麼能夠有無窮盡的研究可以做的原因之一。如果神經科學上相關的知識，能夠幫助我們理解工程方法的工作原理，我們當然可以使用我們懂得稍微多一點的神經科學研究結果來解釋現在我們並不是太懂工程方法。我們的目的始終是為了更好地了解工程方法本身的原理，而尋求生物合理性只是一種工具和途徑，能夠幫助我們達到我們的目的。

比如神經科學中的『感受野』這個概念，很有可能在工程上發現這是一種合理的控制計算複雜度的過程（我都是猜的，我不是研究深度網路的）。將來的深度網路研究很有可能從數學的角度解釋為什麼『感受野』這樣的設計能夠是的運算更加高效——比如有可能是減少冗餘，或者降低相關，或者其他的什麼的。如果我們知道了數學方面的解釋，我們可以回到大腦系統來看，在整個大腦皮層為什麼需要這些功能——比如減少冗餘，或者降低相關——從而幫助我們了解大腦皮層到底在進行什麼樣的信息加工：處理了哪些信息，丟掉了哪些信息，為什麼要丟掉這些信息，為什麼要保留另外的信息，這些保留了的信息是如何決定我們的感覺和知覺的。這兩個學科的共同進步，我相信是可以同時推動這兩個學科的共同發展的。就像當年數學和物理兩個學科互相促進，共同推進發展一樣。

為了說明這種相互性，我試著舉這樣一個例子：如果一個工程方法，比如人工神經網路，沒有使用Hebbian Rule，但是照樣很高效，那又怎麼樣呢？這只是說明我們不能借Hebbian Rule來理解人工神經網路，僅此而已。這既不能證明這個人工網路就一定是不行的，也不能證明Hebbian Rule就是唯一的正確解，也不能說明人工網路就沒有進行Hebbian Rule背後所需要的計算過程和功能。萬一，一個沒有把Hebbian Rule放入設計的人工神經網路，在數萬次迭代之後，自然而然地出現了Hebbian Rule類似的現象——如果不同節點信息傳遞頻繁，他們之間的連接更加緊密——我們到底是去用Hebbian Rule在解釋這個人工網路，還是去用人工網路在解釋Hebbian Rule？

最後，在這裡吐個槽。認知科學家和神經科學家之間經常看不上眼，吐槽對方的研究。

神經科學家看到認知科學家構建那些貝葉斯模型，概率模型，就嘲笑說：神經元怎麼可能做貝葉斯，你這個模型在生物學上就不合理。

你怎麼就知道貝葉斯不具有生物合理性？誠然，一個神經元的動作電位可能很難讓人想像怎麼做貝葉斯模型，但是這並不代表大腦就不在做貝葉斯運算啊。神經元組成環路，環路組成腦區，你怎麼就知道神經環路不能進行貝葉斯運算，你怎麼就知道腦區裡面那麼多神經元一起不能進行貝葉斯運算了？計算機最基本的元件只有0/1兩種狀態，跟神經元比起來差多了，但是連這些元件組成的整個計算機系統都可以非常順利地進行各種貝葉斯運算——不信的話你可以打開Matlab、R、Python，隨你喜歡——為什麼一個更加厲害的信息處理系統反倒是不能做貝葉斯推論了？

我們不能用不具備生物合理性來說一個模型是不合理的，也不能為了讓一個模型合理而強行給它加上所謂生物合理性，因為很有可能是我們現在既不了解生物，也不了解模型。等到我們都了解得更多的時候，等我們逐漸知道背後原理到底是什麼，我們才有可能發現他們可能都是合理的，而且還有可能是同一種計算過程的不同實現方式。

TAG:知乎 |

※神經科學領域的大神們
※神經經濟學的哲學基礎
※和經濟學相親相愛的理工科—從諾獎熱門神經經濟學談起
※心理學家與腦神經科學家如何和諧共處
※擁抱深度學習還是數學的優雅？神經網路對圖像處理、數學和人類的影響
※MIT重磅研究：基於人工神經網路，探索抑制神經元的生物學意義
※大腦美學神經科學的藝術是如何誕生的
※全人的發展-利用神經科學來管理，真的需要？
※深度學習黑箱探測難題發展成新學科：人工智慧神經科學
※一位生物學家的神經膠質研究之路
※物理學家揭示深度學習原理：神經網路與宇宙本質驚人關聯
※神經經濟學：一種「硬」的經濟學理論
※神經系統科學家：人體存在預知大事件的神奇能力
※慢性失眠的神經影像學研究進展
※哈佛科學家研製出新的體外「腦晶元」，來研究神經和心理疾病
※神經系統疾病的醫學康復
※一名工程師對於深度學習的理解-神經網路基礎ANN
※復旦大學神經與智能工程中心招聘中心主任助理
※《科學》雜誌：神經學家發現了寵物喜歡求撫摸的秘密