循環神經網路RNN（二）深度學習之父的神經網路第八課（中文字幕

作為深度學習祖師，Geoffrey Hinton 的每一句每一言，都使學習者如奉綸音。濃縮其畢生所學的《Neutral Network for Machine Learning》，則是唯一一門 Hinton 老師系統講授的公開課。

自 2012 年開課，NNML 就一躍成為深度學習開發者的殿堂級慕課。時隔五年，仍然是內容最「干」、最值得學習的深度學習課程。

如果說吳恩達的《Machine Learning》是最佳入門課程，描述 NNML 則只需兩個字： 「必修」——對於有志於真正掌握深度學習的人而言。

它很難，但也因此沒有做任何「dumb down」——為照顧小白而犧牲「厚度」，把原本並不單純的原理硬以簡單的類比表述出來，是幾乎所有深度學習課程不得不做的妥協。

但這門課沒有。

本欄目將在AI研習社（公眾號：okweiwu）每周一、周三更新，敬請關注！

Lecure 8循環神經網路（二）

內容簡介

首先講解了何謂 hessian 矩陣，強調了調整到 optimal point 方法的重要性。接下來 Hinton 講解了一個 RNN 運用 HF 方法在 language model 上的一個例子，並介紹了 multiplicative connection 和 Echo State Network（ESN）。

往期課程目錄

1.1 為什麼要學習機器學習？

1.2 神經網路機制中的腦科學原理

1.3 簡單的神經元模型

1.4 ANN 的 MNIST 學習範例

1.5 機器學習演算法的三大類

2.1 神經網路架構介紹

2.2 神經網路架構介紹

2.3 感知器的幾何空間解析

2.4 感知器的原理透析

2.5 感知器的局限性

Lecture 3 線性 / 邏輯神經網路和反向傳播

Lecture 4 學習特徵向量

Lecture 5 用神經網路進行物體識別

Lecure 6 模型優化：如何加快學習！

Lecure 7 循環神經網路RNN（一）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！