模型優化：如何加快學習！深度學習之父的神經網路第六課

作為深度學習祖師，Geoffrey Hinton 的每一句每一言，都使學習者如奉綸音。濃縮其畢生所學的《Neutral Network for Machine Learning》，則是唯一一門 Hinton 老師系統講授的公開課。

自 2012 年開課，NNML 就一躍成為深度學習開發者的殿堂級慕課。時隔五年，仍然是內容最「干」、最值得學習的深度學習課程。

如果說吳恩達的《Machine Learning》是最佳入門課程，描述 NNML 則只需兩個字： 「必修」——對於有志於真正掌握深度學習的人而言。

它很難，但也因此沒有做任何「dumb down」——為照顧小白而犧牲「厚度」，把原本並不單純的原理硬以簡單的類比表述出來，是幾乎所有深度學習課程不得不做的妥協。

但這門課沒有。

本欄目將在AI研習社（公眾號：okweiwu）每周一、周三更新，敬請關注！

Lecure 6模型優化：如何加快學習！

內容簡介

第六節介紹了隨機梯度下降法（SGD），並且介紹了加快學習速度的動量方法（the momentum method）、針對網路中每一個連接的自適應學習步長（adaptive learning rates for each connection）和RMSProp演算法。這幾個演算法的難度很大，需要反覆推理思考，並在實踐中摸索以加深理解。

往期課程

--------------------------------------------------

為了讓廣大 AI 青年們不再為英語所累，快速進入學習狀態，雷鋒網旗下 「AI 研習社」 推出了深度學習之父 Geoffrey Hinton 的《Neutral Network for Machine Learning》中文系列視頻課程。PS: 出於對 Hinton 知識成果的尊重以及版權的需要，AI 研習社已經獲得了 Hinton 教授的親自授權。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！