吳恩達最新深度學習課程:斯坦福2018—Andrew Ng、Kian Katanforoosh主講
【導讀】近期,斯坦福大學深度學習課程有開課了,主講老師是人工智慧領域知名學者AndrewNg和KianKatanforoosh。我們在早些時候也編輯發布了卡耐基梅隆大學的深度學習課程,斯坦福大學和卡耐基梅隆大學一樣,都是當今走在AI領域前沿的機構。今天整理的斯坦福大學深度學習課程的主要內容同樣涵蓋了深度學習的基礎知識和常見的模型,包括:反向傳播、梯度下降、CNNs、RNNs、LSTM、強化學習等等。與其他課程有所不同,本課程還關注深度學習的應用,包括醫療、自動駕駛、手語閱讀、自然語言處理等,從項目實踐的角度幫助學生掌握深度學習。
專知內容組附上上一次CMU2018和CMU2017年課程:深度學習的內容:
▌主講老師
▌課程簡介
深度學習是人工智慧中最受追捧的技能之一。我們將幫助您學習深度學習。在本課程中,您將學習深度學習的基礎知識,了解如何構建神經網路,以及如何完成一個成功的機器學習項目。具體地,您將學習卷積網路,RNNs,LSTM,Adam,Dropout,BatchNorm,Xavier / He初始化等等。還可以將該技術應用到醫療,自動駕駛,手語閱讀,音樂創作和自然語言處理的案例研究中。您不但要去掌握理論,還要去看看它在工業中的應用。我們將教會您在Python和TensorFlow中實踐所有的這些想法。完成本課程後,您可能會找到創造性的方法並將其應用於您的工作。您將可以在家觀看視頻並完成編程任務和測驗,然後來課上進行深入討論和項目實踐。
▌課程信息
時間和地點
星期四上午10:30 - 上午11:50,丁克爾斯比爾禮堂(Dinkelspiel Auditorium)
聯繫信息
▌助教列表
▌預備知識
要求學生具備以下背景知識:
1. 掌握基本的計算機科學原理和技能,能自己動手寫計算機程序。
2. 熟悉概率論(CS 109或STATS 116)
3. 熟悉線性代數(Math 104,Math 113或CS 205中的任何一個)
▌課程內容安排
課程一:神經網路和深度學習
第1講
走進AI世界
課程安排
教學大綱
Slides: https://web.stanford.edu/class/cs230/files/Week1_slides.pdf
第2講
深度學習介紹
神經網路基礎
Slides:
https://web.stanford.edu/class/cs230/files/Week2_slides.pdf
https://web.stanford.edu/class/cs230/files/C1M1.pdf
https://web.stanford.edu/class/cs230/files/C1M2.pdf
課程二:改進深層神經網路 超參數優化、正則化和優化。
第3講
反向傳播的數學基礎
淺層神經網路
深層神經網路
The Mathematics of Backpropagation:
https://web.stanford.edu/class/cs230/files_fall2017/CS230_Handout3.pdf
slides:
https://web.stanford.edu/class/cs230/files/C1M3.pdf
https://web.stanford.edu/class/cs230/files/C1M4.pdf
https://web.stanford.edu/class/cs230/files/lecture-notes-3.pdf
第4講
深度學習的實踐方面
Slides: https://web.stanford.edu/class/cs230/files/C2M1.pdf
課程三:構建機器學習項目
第5講
生成對抗網路
自編碼器
優化演算法
超參數調優,Batch標準化,編程框架。
https://web.stanford.edu/class/cs230/files_fall2017/CS230_Handout6.pdf
課程四:卷積神經網路
第6講
案例學習(機器學習策略)
第7講
卷積網路反向傳播
加權量化
卷積神經網路的基礎
深度卷積模塊
課程五:序列模型
第8講
深度強化學習
https://docs.google.com/a/stanford.edu/presentation/d/10l5OBS0dWTgkgAWHNQqDziyVk5yRCeX9SPAagMIyc0A/edit?usp=sharing
第9講
殘差網路反向傳播
循環神經網路
NLP和詞嵌入
https://web.stanford.edu/class/cs230/files_fall2017/CS230_HandOut10.pdf
第10講
語音識別
CTC損失
注意力機制
https://web.stanford.edu/class/cs230/files_fall2017/CS230_Handout8.pdf
具體課程表截圖:
TAG:專知 |