90後美女學霸傳奇人生：出身清華姚班，成斯坦福AI實驗室負責人高徒

科技 03-01

出品 | AI科技大本營（ID: rgznai100）

今天給大家介紹一位斯坦福博士畢業生的傳奇人生

她的一篇名為「Neural Reading Comprehension and Beyond」的博士論文火了

在論文提交後的短短四周內就獲得了超過 2700 的查閱量

她就是 90 後美女學霸陳丹琦

https://cs.stanford.edu/~danqi/

小姐姐籍貫湖南長沙

小學三年級起學習奧數，從小就對數學有著特殊的天賦

中學就讀於」百年老校「雅禮中學

期間，陳丹琦又迷上了信息學

高中時，便獲得了國際信息學奧林匹克金獎

還上了當年的新聞，成為湖南省第一位入選信息學國家隊的女選手

被媒體稱作「透著周筆暢似的微笑」的女生

在此期間，她還提出了 CDQ 分治演算法，以及插頭 DP（輪廓線動態規劃）

隨後她又進入了清華學堂計算機科學實驗室（姚班）

並在畢業時榮獲清華大學 2012 屆優秀本科畢業論文，以及姚期智院士親自頒發的獲獎證書的殊榮

而這僅僅只是她在演算法/數據結構和理論計算機科學方面

之後，在斯坦福大學學習的六年多的時間裡，新的研究領域正向她打開……

人工智慧以及自然語言處理領域的相關研究

期間，她還擔任過：

微軟亞洲研究院實習生（ML＆WSM小組）

微軟研究院雷蒙德研究實習生（NLP小組）

紐約市 Facebook AI Research 研究實習生

目前，陳丹琦正訪問美國西雅圖的 Facebook AI Research 和華盛頓大學

主要研究方向是深度學習在自然語言處理中的應用，尤其是文本理解和知識表示/推理之間的交叉領域

據悉，2019 年秋季，陳丹琦將加入普林斯頓大學計算機科學系擔任助理教授

她的求學經歷、成長曆程

無不彰顯出她的」學霸「氣質

然而在她的成長曆程中，她卻一直心懷感謝

對她的父母、她的愛人、她的朋友、她的老師

她的父親，同時還是當年國防科大的數學副教授

對於父母，她心懷感恩，值得驕傲

她的愛人，俞華程，與她一同畢業姚班，進入斯坦福攻讀算計博士學位

僅用 4 年時間便發表數篇重要論文提前畢業，現於哈佛大學做博士後

對於愛人，她感念他兒時起的十多年陪伴，欽佩他的」謙遜、專註、聰慧與努力「

http://theory.stanford.edu/~yuhch123/

當然，此次她最要首先感謝的就是她的博士論文指導老師、斯坦福大學語言學和計算機科學教授 Christopher Manning

要知道在計算機領域，博士畢業的難度可想而知

作為斯坦福人工智慧實驗室（SAIL）小組成員之一的 Chris Manning

在自然語言領域多有建樹，其主講的斯坦福 CS224n 課程（期間陳丹琦也作為助教）

與李飛飛的 CS231n 同為自然語言處理和計算機視覺領域的」必修課「

去年 11 月，Chris 也成為斯坦福實驗室的新負責人，與回歸斯坦福的李飛飛開始新的合作

那麼，Chris 與愛徒陳丹琦

是否會成為下一個自然語言處理界的」李飛飛與李佳的 CP「呢？

下面，我們試圖透過陳丹琦的博士畢業論文」Neural Reading Comprehension and Beyond「，了解她目前在自然語言處理領域的成果。

Christopher Manning 評論稱：「陳丹琦是採用神經網路進行自然語言理解的先驅。她的這個模型簡單、乾淨、成功率高，吸引了不少人的關注。」

該篇論文主要討論了「人工智慧中最難以琢磨且長期存在的挑戰之一」：教機器如何理解人類語言。通過改進性能，通過驗證和推廣的模型以及問答系統的潛在應用以推進自然語言處理技術的方法。

論文鏈接：

https://stacks.stanford.edu/file/druid:gd576xb1833/thesis-augmented.pdf

以下為論文摘要及論文框架部分（AI科技大本營做了不改變原文的翻譯）：

摘要

教機器理解人類語言文本是人工智慧所面臨的最困難、長期存在的挑戰之一。而本文探討的就是閱讀理解問題：如何建立一種計算機系統，使其能真正的讀懂文本並回答問題。一方面，我們認為閱讀理解是評價計算機系統對人類語言理解能力的一項重要指標。另一方面，如果真的可以構建高效的閱讀理解系統，那麼這將成為自動問答和對話系統應用落地的關鍵技術。

這篇論文專註於神經閱讀理解，一類基於深度神經網路的閱讀理解模型。與稀疏的、手動的、基於特徵的傳統模型相比，這種端到端神經模型被證明在學習豐富語言現象方面更有效，在現代閱讀理解的各項指標上都有大幅度的提升。

論文主要由兩部分組成。第一部分主要分析神經閱讀理解的本質，介紹在建立有效的神經閱讀理解模型中我們所做的努力，更重要的是理解神經閱讀理解模型實際中學到了什麼，以及要解決當前的任務模型理解深度需要達到什麼程度。我們還總結了這一領域的最新進展，討論了未來的發展方向和有待解決的問題。

在第二部分，我們探討的是如何把神經閱讀理解模型的最新研究成果應用在實際中。為此，我們探索了兩個新課題：

（1）如何將信息檢索技術與神經閱讀理解相結合，解決大規模開放域問題的問答；

（2）如何基於閱讀理解模型從目前的單向制問答方式轉變為對話式的問答系統。我們把這些方法應用在 DRQA 和 COQA 項目中，並證明了其有效性。我們相信，未來這些方法在語言技術領域中將會有很大的發展前景。

詳細章節介紹

（第一部分）

第二章主要闡述了閱讀理解任務的歷史與近年發展概況。然後定義了問題公式與主要分類，並簡短討論閱讀理解與通用問題回答間的區別；最後，探討近年來神經閱讀理解由大規模數據集和神經模型兩者帶來的成功。

第三章內容主要基於她們自己的研究工作。先介紹了神經閱讀理解的全部模型。從非神經網路方法，基於特徵分類的方法開始，討論它們與端到端的神經方法有哪些區別。然後到神經網路方法，介紹了她們自己的提出的方法「THE STANFORD ATTENTIVE READER 」，以及此方法應用到 CNN/DAILY MAIL 和 SQUAD 兩個代表性數據集上的實驗結果。更重要的是還深入分析了神經網路模型之所以有更好的理解能力到底學習了什麼。最後，總結了近年來神經閱讀理解模型在不同方面取得的進展。

第四章主要探討了關於這個領域未來的研究工作於開放性研究問題。

（第二部分）

第五章中，我們將開放域問答任務視為閱讀理解的應用之一。如何將高性能的神經閱讀理解系統與有效的信息檢索技術結合，構建新一代開放域問答系統。同時以我們的研究工作為基礎，介紹了 DRQA 系統，包括其關鍵部分與如何為其構造訓練數據，並對其在多個任務基準中進行評估。從而探討 DRQA 系統的局限性與未來的工作方向。

第六章研究了對話式問答系統，即機器必須理解一段文字內容後回答對話中出現的一系列問題。在簡要回顧對話系統相關論文後發現，構建信息搜尋對話主體的關鍵是對話問答。之後對 CoQA 進行了介紹，一個為對話問答系統構建的新穎數據集，從文本段落的 8k 對話中收集的 12.7 萬個問答與答案，對此進行深度分析與構建幾個模型。基於我們 2019 年現階段的一些工作，我們也對此領域的未來方向進行了探討。

最後在第七章進行論文的總結。

或許當你讀到這裡，你或許已對陳丹琦過去的精彩人生感到羨慕，對她目前的學術成果有所讚賞，但或許你不知道的是：

在她走出國門留學海外的生涯里，遇到過多少的難題和挫折？

例如同為 Chris Manning 學生的齊鵬，與陳丹琦同來自清華，也是個相當的厲害人物