深度學習簡單框架

現在有很多深度學習的開源框架可以直接使用，但在學習深度學習時，從零編寫深度學習框架有助於對技術細節的深刻理解。本文將會使用python實現深度學習的最簡單版本，即沒有考慮一些優化內容。

為了簡化，關於激活函數，無論隱藏層還是輸出層，本文都是用Sigmoid函數作為激活函數，其實對於二分類問題，隱藏層使用Relu函數，輸出層使用Sigmoid函數，效果會更好。

下面構建神經網路，其中X是輸入數組，Y是分類標籤數組，L代表神經網路的層數，unit是每層的神經元的個數，lambd是學習率，iterat是迭代次數。WeightDict輸出每層權重，Output輸出預測值，CostDict輸出每次迭代的代價函數值。

訓練好神經網路後，得到的WeightDict就是所要的神經網路模型，下面將該模型用於新樣本進行預測，輸出新樣本的預測值：

神經網路還有很多可以優化的地方，比如超參數的選擇，激活函數的選擇，梯度下降法的優化等等，後續會將這些方法加入來優化演算法的實現。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！