用Pytorch 實現的 Capsule Network

本庫用 Pytorch 實現的 Capsule Network 基於以下論文：

Dynamic Routing Between Capsules by Sara Sabour, Nicholas Frosst and Geoffrey Hinton

https://arxiv.org/abs/1710.09829

官方用 TensorFlow 實現的Capsule Network的論文地址如下：

https://arxiv.org/abs/1710.09829

運行

要獲取關於該項目的詳細信息，請運行：

pythonmain.py--hel

重構的圖像與原始圖像對比：

安裝需求

默認的超參數（和論文的類似）

Per-GPU batch_size = 128

Initial learning_rate = 0.001

Exponential lr_decay = 0.96

Number of routing iteration (num_routing) = 3

損失函數超參數（請參閱 loss.py）

Lambda for Margin Loss = 0.5

Scaling factor for reconstruction loss = 0.0005

GPU Speed benchmarks

單個 GeForce GTX 1080Ti - 35.6s per epoch

兩個 GeForce GTX 1080Ti - 35.8s per epoch（twice the batch size -> half the iteration）

Github 地址

https://github.com/danielhavir/capsule-network

NLP 工程師入門實踐班：基於深度學習的自然語言處理

三大模塊，五大應用，手把手快速入門 NLP

海外博士講師，豐富項目經驗

演算法 + 實踐，搭配典型行業應用

隨到隨學，專業社群，講師在線答疑

新人福利

關注 AI 研習社（okweiwu），回復1領取

【超過 1000G 神經網路 / AI / 大數據，教程，論文】

谷歌正式開源 Hinton 膠囊理論代碼，即刻用 TensorFlow 實現吧

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！