西湖大学特聘研究员张岳：自然语言处理的一些瓶颈思考与探索 / 开普饭

自2018年下半年开始,到现在为止,预训练语言模型的发展基本呈现爆发趋势,研究人员数目越来越多,研究方向也越来越广. 近日,在第十九届中国计算语言学大会(CCL2020)上,华为诺亚方舟实验室语音语义 ...

预训练语言模型属于人工智能领域中自然语言处理领域的一个细分,是自然语言处理领域的重要突破,得到了越来越广泛的关注,相关研究者和从业人员在实际应用的过程中,亟需一本理论翔实.代码细节充分的参考书.本次给 ...

本篇介绍深度学习在自然语言处理(NLP)中的应用,从词向量开始,到最新最强大的BERT等预训练模型,梗概性的介绍了深度学习近20年在NLP中的一些重大的进展. 作者&编辑 | 小Dream哥 ...

来自:哈工大SCIR 5月13日-15日举办的CCF青年精英大会(YEF2021),特别组织思想秀,邀请各界贤达与业界青年共同探讨方略大事.作为CCF青年精英大会(YEF)最重要核心的环节之一,&qu ...

来源:无人系统技术作者:王亚珅摘要:对深度学习领域的研究进行综合评述,并对其进一步发展方向进行分析.首先分析围绕注意力机制的深度学习技术最新研究成果,以及在自然语言处理领域取得突破性进展的巨型预训 ...

NLP:自然语言处理技术的简介.发展历史.案例应用之详细攻略相关文章 NLP:自然语言处理技术的简介.发展历史.案例应用之详细攻略 Paper之ACL&EMNLP:2009年~2019年AC ...

机器之心发布机器之心编辑部云从科技语音组提出了一种基于 BART 预训练模型的语义纠错技术方案,它不仅可以对 ASR 数据中常见的拼写错误进行纠正,还可以对一些常识错误.语法错误,甚至一些需要推理 ...

概述自然语言处理中的 Transformer 模型真正改变了我们处理文本数据的方式. Transformer 是最近自然语言处理发展的幕后推手,包括 Google 的 BERT. 了解 Tran ...

2020上半年收集到的优质AI文章 – 自然语言处理自然语言处理的蓬勃发展及其未来人工智能之自然语言处理初探我所知道的中国NLP「破圈」十年零基础入门NLP - 新闻文本分类现代NLP中的零 ...

编者按:机器阅读理解.机器问答.聊天机器人都是近年大热的方向,其研究与应用领域都进展飞速.本期书单我们有请微软高级研究员.斯坦福大学计算机系博士朱晨光为大家推荐一组相关书籍,并对机器阅读理解任务作了解 ...

前言 2021年4月,距离论文"Attention is all you need"问市过去快4年了.这篇论文的引用量正在冲击2万大关. 笔者所在的多个学习交流群也经常有不少同学在 ...

本文主要介绍了在机器学习项目的最初设计阶段中,你可能会遇到的陷阱,并详细阐述如何避免这些陷阱的最佳实践. 本文最初发表于 Towards Data Science 博客,经原作者 Bruce H. C ...

‍‍ BERT模型是当今处理自然语言任务效果最好的模型.掌握了该模型,就相当于掌握了当今主流的NLP技术,今天要给大家介绍的书是基于Bert模型的自然语言处理实战. 本书内容本书从零基础开始,介绍了 ...

2019年上半年收集到的人工智能自然语言处理方向干货文章自然语言(NLP)发展史及相关体系读了这篇文字,做年薪百万的NLP工程师聚焦机器"读.写.说.译",探寻NLP未来之路 ...

通过在下游 NLP 任务上的微调,BERT.XLNet 和 RoBERTa 等预训练语言模型已经展示出了卓越的性能.但是,这些模型中的大量参数导致储存和计算成本过高,从而对模型在资源受限应用场景中的部 ...

西湖大学特聘研究员张岳：自然语言处理的一些瓶颈思考与探索