從傳統神經網路的角度解讀Geoffrey Hinton的Capsule模型
分享背景
近幾年,「深度學習之父」Geoffrey Hinton多次公開表示,認為卷積神經網路、反向傳播演算法存在不合理之處,提倡研究者們在深度學習之上積極探索人工智慧的新理論體系,並率先提出了capsule理念。近日,隨著論文《Dynamic Routing Between Capsules》在arXiv上的放出以及另一篇仍處於盲審狀態的論文《matrix capsules with EM routing》在網上的流傳,Hinton的capsule計劃再度引發了熱議。本次分享人作為全球第一個將capsNet模型復現代碼發布到github的作者,將通過與傳統神經網路的對比來深入解讀capsule模型。(關注AI研習社,回復【論文】即可獲取論文原文、翻譯以及三種環境下的不同實現。)
分享主題
從傳統神經網路的角度解讀Geoffrey Hinton的Capsule模型
分享提綱
1. capsule概念提出的背景
2. capsule模型與傳統神經元的比較
3. 參數更新演算法routing-by-agreement的分析
4. capsNet模型與卷積/全連接神經網路的比較
5. 討論:論文的貢獻及可改進之處
6. 核心演算法的代碼剖析
分享人簡介
廖華東,重慶郵電大學二年級碩士生,生物信息學背景,capsNet模型Tensorflow版(http://t.cn/RW1hLNp)復現的作者,主要研究興趣包括人工智慧基礎理論研究(如capsule理論、強化學習、GAN),及AI醫療。
分享時間
北京時間11月17日(周五)20:00
參與方式
掃描海報二維碼添加社長微信,備註「廖華東」
不要等到演算法出現accuracy不好、
loss很高、模型overfitting時,
才後悔沒有好好掌握基礎數學理論。
走穩機器學習第一步,夯實數學基礎!
「線性代數及矩陣論、概率論與統計、凸優化」
3大數學基礎課程,火熱團購中!
掃碼參團
※數據科學工作者 的日常工作內容包括什麼?
※用面向對象的神經規划進行文本理解
※以不同的思考側重介紹卷積神經網路
※深度學習在語音增強方向上的前沿研究
※深度學習系列之一:基礎入門與全連接神經網路
TAG:AI研習社 |