谷歌 AI 發布 BERT 模型,打破十一項 NLP 記錄,會開啟 NLP 新時代嗎?
這裡是 AI 研習社,我們的問答版塊已經正式推出了!歡迎大家來多多交流~
http://www.gair.link/page/question
社長為你推薦來自 AI 研習社問答社區的精華問答。如有你也有問題,歡迎進社區提問。
話不多說,直接上題
@伊麗莎白問:
谷歌 AI 發布 BERT 模型,打破十一項 NLP 記錄,會開啟 NLP 新時代嗎?
日前,谷歌 AI 團隊發布 BERT 模型,在機器閱讀理解水平測試 SQuAD1.1 中表現出相當不錯的成績:在 11 項 NLP 任務中刷新當前最優性能記錄。BERT 的 GLUE 基準提升至 80.4%(絕對改進:7.6%),MultiNLI 準確率達到 86.7%(絕對改進:5.6%),在 SQuAD v1.1 的問答測試中,F1 得分提升至 93.2 分(提高 1.5 分),比人類表現高出 2 分。
論文地址:https://arxiv.org/abs/1810.04805
谷歌大腦科學家 Thang Luong 甚至在 Twitter 表示:A new era of NLP has just begun.
研究 NLP 的小夥伴們,看過這篇 paper 的你,如何看待 BERT??
來自社友的回答
@ShtPgsHus_
總結就是目前看來局限任務結果的還是數據量,一個超強的預訓練模型可以提供非常好的文本表示,幾乎不需要花里胡哨的各種機制,就可以在各種NLP上取得極好的效果。從CoVe,ELMO,GPT,再到現在的BERT,對於深度學習下的文本表示確實值得重新思考。NLP不同於CV,所有的信息都在像素里,文本的理解需要大量的語法及語義信息,對標註數據的需求很大,同時又沒有像ImageNet一樣的大型數據集。大規模語料pretrain的模型可以提供更加泛化的文本表示能力。
@亦熹
前有微軟阿里,後有訊飛谷歌,2018當真是NLP的騰飛元年!
@叢末
不明覺厲
@醬番梨
谷歌牛逼
@Mikasa
谷歌確實實力強大,但 NLP 的發展,還遠著呢~
TAG:AI研習社 |