Deep Learning解讀合輯 國慶特輯

國慶節來了，社長我也休息一下。

藉此機會，把我們之前發過的內容做一次總結，也方便大家查閱~

『學術青年分享會』是雷鋒網旗下垂直 AI 領域學術交流社群——AI 研習社所發起的活動。AI 研習社致力於建設全球領先的 AI 求知社區，基於專業直播平台，進行技術交流的公益傳播和深度交流。

『分享會』通過邀請學術界、工業界學者進行高質量內容分享，讓廣大學術青年了解最前沿的學術與行業技術進展，成為連接學術界與工業界之間的橋樑，並希望能夠從中發現一大批優秀 AI 人才，推動國內 AI 行業的持續發展。

『分享會』採用線上直播的形式，聚集了國內外高校 CS 背景的優秀碩博在校及畢業生，他們來自斯坦福大學、香港大學、都柏林城市大學、北京大學、清華大學、中國科學院等海內外高校研究所，以及矽谷、BAT 等知名企業工程師。分享嘉賓將有機會受邀加入相關社區，與國內外 AI 領域優秀人才學者交流互動，並作為主講嘉賓加入研習社學術青年嘉賓團。

今天帶來的是Deep Learning這本書的前七章總結，以下是之前幾期參與分享的學霸們：

分享人

王奇文

江湖碼農，前BAT資深工程師，先後做過推薦系統、分散式、數據挖掘、用戶建模、聊天機器人。

孫嘉睿

迅雷人工智慧圖像演算法工程師，北京大學信息工程學院博士，京都大學情報學碩士。

吳楚

數學碩士，華大基因演算法工程師，典型程序猿一枚。

陳安寧（Jackie）

名古屋大學計算力學博士，目前從事AI 諮詢和解決方案的開發。

大家可以把本文收藏下來，這樣方便回過頭來向各個章節跳轉。

這一部分主要是深度學習的一些基本介紹、一些發展歷史。可以看一下這個封面，一幅漂亮的風景畫，紐約中央公園遍地盛開的杜鵑花，仔細看有點不太正常，對了，這就計算機生成的，確切的說，是 Google deepmind 團隊的傑作——夢幻公園。

今天分享的是第二章：線性代數。從 27 頁到 42 頁，內容不多，基本都是傳統形式上的概念。同樣，我只講直觀思路，儘可能的少用公式，畢竟好多人見著數學公式就頭疼，更不用說在 PPT 上看了，效果不好，容易催眠，看著看著就身在朝野心在漢了。

這節課會講到一些基本概念，常用的分布，頻率學派和貝葉斯學派的差別，還有貝葉斯規則，概率圖，最後是資訊理論。這裡第四條可能很多人可能頭一回見到，學了那麼多概率，連這個都不知道，那你的概率真的白學了，真這樣，不開玩笑。不過，老實說我也是前幾年才知道這個學派的差別，因為浙大三版教材上就沒提到這些，好像就提到一點，頻率學派就是古典概率，沒有什麼其他的，這也是現行教材的缺陷。

其實我們大部分人在運用機器學習或者深度學習的時候是不需要考慮這一章的內容的，這章的內容更多是針對演算法的數學分析，包括誤差的增長以及系統的穩定性。

第一，在機器學習、包括了深度學習中數值計算的應用。

第二，數值誤差的問題

第三，簡單的分析機器學習系統的穩定性問題

最後，針對優化問題給出了兩種不同的優化演算法，一種是梯度下降法，一種是限制優化演算法。

5.1 學習演算法

5.2 Capacity, 過擬合和欠擬合

5.3 超參數和驗證集

5.4 估計量，偏移值和方差

5.5 最大似然估計

5.6 貝葉斯統計

5.7 監督學習演算法

5.8 無監督學習演算法

5.9 隨機梯度下降

5.10 構建機器學習演算法

5.11 挑戰深度學習

6.1 例子：學習異或

6.2 基於梯度的學習

6.3 隱藏層單元

6.4 架構設計

6.5 BP 演算法和其他不同演算法

6.6 歷史記錄？

7.1 參數歸一化懲罰

7.2 歸一化懲罰作為條件最優化

7.3 正則化和欠約束問題

7.4 數據集增大

7.5 雜訊魯棒

7.6 半監督學習

7.7 多任務學習

7.8 早期中止

7.9 參數連接和參數共享

7.10 稀疏表達

7.11 Bagging and Other Ensemble Methods？

7.12 Dropout

7.13 對抗訓練

7.14 切線距離，Tangent Prop 和流行切分類器？

新人福利

關注 AI 研習社（okweiwu），回復1領取

【超過 1000G 神經網路 / AI / 大數據，教程，論文】

對我們的分享會有什麼建議？

希望成為分享人嗎？

讓我們聽到你的聲音

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！

本站內容充實豐富，博大精深，小編精選每日熱門資訊，隨時更新，點擊「搶先收到最新資訊」瀏覽吧！

請您繼續閱讀更多來自 唯物 的精彩文章: