時隔兩年，斯坦福NLP標準公開課CS224N將再次開放視頻

知識 01-07

機器之心報道

參與：思源、曉坤

你知道怎麼入門自然語言處理么？當然是大名鼎鼎的斯坦福公開課 CS224N 了，它和計算機視覺方面的課程 CS231n 堪稱絕配。但是自 2017 年以來，NLP 有了很多重大的變化，包括Transformer和預訓練語言模型等。目前開放的視頻仍然是 17 年年初的課程，很多激動人心的前沿模型都沒有介紹。不過在最近展開的 CS224N 2019 的課程中，其表明這一次的課程視頻將放到 YouTube 上！

課程地址：http://web.stanford.edu/class/cs224n/

CS224N 是一門關於自然語言處理的專項課程，雖然有很多公開課都會涉及循環神經網路或語言建模等內容，但很少如它那樣會系統地介紹自然語言處理任務。包括詞嵌入、依存關係解析、神經機器翻譯、語音識別和語義消歧等。此外在 19 年的新課程中，它還會重點介紹最近非常流行的 Transformer 和預訓練表徵，這些系統化的新內容真的很令人期待。

在 17 年的課程中，CS224N 採用的是 TensorFlow，今年採用的是更加簡潔的PyTorch。不過今年並沒有專門介紹 PyTorch 的課時，所以還需要讀者預先學習 PyTorch。

此外在 CS224N 2019 的課程主頁上，它表明一旦課程完成，那麼斯坦福計劃將這些視頻放到 YouTube 上。不過在 3 月 14 號結束課程後，斯坦福還需要一段時間處理視頻，所以讀者可先看看 17 年的視頻。而其它 PPT 和作業都會隨著課程的進行而放出來，所以我們也可以先看看課程資料。

講師陣容

課程視頻地址（目前僅提供 2017 年春季課程）：https://www.youtube.com/playlist?list=PL3FW7Lu3i5Jsnh1rnUwq_TcylNr7EkRe6

關於 CS224n

自然語言處理（NLP）是信息時代最重要的技術之一，也是人工智慧的關鍵部分。NLP 的應用無處不在，因為人們幾乎用語言進行交流：網路搜索、廣告、電子郵件、客戶服務、語言翻譯、醫學報告等。近年來，深度學習方法在許多不同的 NLP 任務中獲得了非常高的性能，其只需要使用單個端到端神經模型，而不需要傳統的、任務特定的特徵工程。在本課程中，學生將深入了解 NLP 深度學習的前沿研究。通過講座、作業和最終項目，學生將學習設計、實現和理解他們自己的神經網路模型所需的技能。今年，CS224n 將首次使用 PyTorch，而不是 TensorFlow。

預備知識

熟練使用 Python：所有課程都需要用到 Python（具體來說，使用NumPy和 PyTorch）。如果你有很多編程經驗，但使用不同的語言（例如 C / C / Matlab / Java / Javascript），可能問題不大。

這個教程可能對那些不熟悉 Python 和/或 NumPy 的人有用： http://cs231n.github.io/python-numpy-tutorial/

大學微積分和線性代數：需要熟悉使用（多變數）導數，並理解矩陣/向量符號和運算。

概率和統計基礎：需要熟悉概率的基礎知識、高斯分布、均值、標準差等。

機器學習基礎：模型構建過程涉及設計損失函數、求導數並通過梯度下降進行優化。如果已經擁有基本的機器學習和/或深度學習知識，那麼課程將會更容易，但是即使不知道這些也可以學習 CS224n。HalDaumé的機器學習課程（http://ciml.info/）提供了一個平易近人的介紹。閱讀該書的前 5 章可以獲得很好的背景知識，閱讀前 7 章會更好。

參考資料

以下書籍對於本課程學習非常有用，但不是必要的。感興趣的讀者可自由選擇，所有的書籍都能在線免費閱讀。

Dan Jurafsky and James H. Martin.《Speech and Language Processing (3rd ed. draft)》

地址：https://web.stanford.edu/~jurafsky/slp3/

Jacob Eisenstein.《Natural Language Processing》

地址：https://github.com/jacobeisenstein/gt-nlp-class/blob/master/notes/eisenstein-nlp-notes.pdf

Yoav Goldberg.《A Primer on Neural Network Models for Natural Language Processing》

地址：http://u.cs.biu.ac.il/~yogo/nnlp.pdf

Eugene Charniak.《Introduction to Deep Learning》

地址：https://mitpress.mit.edu/books/introduction-deep-learning

本文為機器之心報道，轉載請聯繫本公眾號獲得授權。

------------------------------------------------