當前位置:
首頁 > 知識 > 谷歌 AI 發布 BERT 模型,打破十一項 NLP 記錄,會開啟 NLP 新時代嗎?

谷歌 AI 發布 BERT 模型,打破十一項 NLP 記錄,會開啟 NLP 新時代嗎?

這裡是 AI 研習社,我們的問答版塊已經正式推出了!歡迎大家來多多交流~

http://www.gair.link/page/question


社長為你推薦來自 AI 研習社問答社區的精華問答。如有你也有問題,歡迎進社區提問。

話不多說,直接上題

@伊麗莎白問:

谷歌 AI 發布 BERT 模型,打破十一項 NLP 記錄,會開啟 NLP 新時代嗎?

日前,谷歌 AI 團隊發布 BERT 模型,在機器閱讀理解水平測試 SQuAD1.1 中表現出相當不錯的成績:在 11 項 NLP 任務中刷新當前最優性能記錄。BERT 的 GLUE 基準提升至 80.4%(絕對改進:7.6%),MultiNLI 準確率達到 86.7%(絕對改進:5.6%),在 SQuAD v1.1 的問答測試中,F1 得分提升至 93.2 分(提高 1.5 分),比人類表現高出 2 分。

論文地址:https://arxiv.org/abs/1810.04805

谷歌大腦科學家 Thang Luong 甚至在 Twitter 表示:A new era of NLP has just begun.

研究 NLP 的小夥伴們,看過這篇 paper 的你,如何看待 BERT??

來自社友的回答

@ShtPgsHus_

總結就是目前看來局限任務結果的還是數據量,一個超強的預訓練模型可以提供非常好的文本表示,幾乎不需要花里胡哨的各種機制,就可以在各種NLP上取得極好的效果。從CoVe,ELMO,GPT,再到現在的BERT,對於深度學習下的文本表示確實值得重新思考。NLP不同於CV,所有的信息都在像素里,文本的理解需要大量的語法及語義信息,對標註數據的需求很大,同時又沒有像ImageNet一樣的大型數據集。大規模語料pretrain的模型可以提供更加泛化的文本表示能力。

@亦熹

前有微軟阿里,後有訊飛谷歌,2018當真是NLP的騰飛元年!

@叢末

不明覺厲

@醬番梨

谷歌牛逼

@Mikasa

谷歌確實實力強大,但 NLP 的發展,還遠著呢~


喜歡這篇文章嗎?立刻分享出去讓更多人知道吧!

本站內容充實豐富,博大精深,小編精選每日熱門資訊,隨時更新,點擊「搶先收到最新資訊」瀏覽吧!


請您繼續閱讀更多來自 AI研習社 的精彩文章:

使用卷積神經網路做語義分割
「特徵工程」與「表示學習」

TAG:AI研習社 |