第1章自然语言处理.pptxVIP

第一章自然语言处理概述《自然语言处理》自然语言处理教材编写组

目录01自然语言处理的定义02自然语言处理的应用领域030405自然语言处理的发展历程自然语言处理的研究现状和发展趋势自然语言处理的知识和技术储备

自然语言处理的定义01

1.自然语言处理的定义自然语言处理（NaturalLanguageProcessing）是计算机科学、人工智能和计算语言学的一个交叉领域，关注计算机和人类（自然）语言之间的交互，特别是关注计算机编程以有效处理大型自然语言语料库。自然语言处理中的挑战通常涉及自然语言理解、自然语言生成、语言与机器感知的连接、对话系统或它们的某些组合。

2.如何理解定义的三层含义自然语言理解、自然语言生成、语言与机器感知的连接、对话系统或它们的某些组合。关注点计算机、人工智能、计算语言学交叉所属领域①计算机和人类自然语言之间的交互；②计算机编程以有效处理大型自然语言语料库。1233研究任务

自然语言处理的应用领域02

机器翻译你知道有哪些机器翻译软件？你用过哪些？感觉怎么样？谷歌翻译、百度翻译、有道翻译、...还有其他的形式吗？同传翻译：腾讯翻译君，百度AI同传，...专业领域翻译：百度垂直领域翻译，...

文本分类和情感分析文本分类是机器对文本按照一定的分类体系自动标注类别的过程，也是自然语言处理最早的应用领域之一。你能想到哪些自动文本分类应用？垃圾邮件分类，新闻类型分类，...情感分析也可以认为是文本分类的一个子类型。情感分析往往应用于电商的用户评价分析，微博等自媒体的用户留言倾向分析，或者公共事件的舆情分析等。

信息抽取信息抽取是采用机器学习算法从非结构化文本中自动抽取出用户感兴趣的内容，并进行结构化处理。例如命名实体识别、实体关系抽取、事件抽取、因果关系抽取等。

智能问答与聊天系统智能问答往往是基于领域知识的单轮对话，即用户就某一领域的问题进行提问，机器基于领域知识给出答案的过程。而聊天系统则属于多轮对话过程，往往涉及领域知识的多轮对话或者闲聊等内容。

文本生成文本生成包括自动文章撰写、自动摘要生成等内容。

信息检索信息检索指信息按一定的方式组织起来，并根据用户的需要找出有关的信息的过程和技术。有哪些信誉好的足球投注网站引擎是当前主流的信息检索方式，Google、百度、搜狗等有哪些信誉好的足球投注网站引擎在信息检索方面已经取得了巨大的成就，从最初的关键词匹配算法到如今的语义检索技术，用户已经能够随心所欲的检索自己所需的信息。

自然语言处理的发展历程03

自然语言处理的发展历程

自然语言处理的研究现状和发展趋势04

1.技术发展趋势（1）技术发展历程：20世纪50—70年代主要采用符号主义和基于语言学规则的研究方法。20世纪80—90年代主要采用统计学习方法。2000年至今主要采用深度学习方法：深度神经网络模型，注意力机制，端到端技术，Seq2Seq模型，大规模预训练模型，...（2）未来趋势：语言表征技术进一步完备：从Onehot到Word2vec、Glove，再到Bert、Bart、GPT3、...深度学习从大样本向小样本发展：完全监督模型，远程监督模型，小样本算法（元学习方法，度量学习方法等），零样本学习，...知识和深度学习高度融合推动NLP的深度理解和推理。当前的深度学习无法融入知识，导致推理能力和深度理解能力不足，将来知识与深度学习的高度融合会带来该领域的质的飞跃。

2.应用发展趋势（1）应用发展现状：当前应用比较成熟的任务：信息检索、机器翻译、文本分类等。当前已经开始商业应用尝试、但是还不成熟的领域：信息抽取、文本生成、问答与聊天系统等。（2）应用发展趋势：NLP在更多领域取得突破，将为行业创造更大的价值。NLP平台从封闭走向开放（实现开放领域应用），从单模态走向多模态（跟视觉技术、听觉技术、触觉技术和其他系统高度融合）。

自然语言处理的知识和技术储备05

1.数学知识和技能要求主要是三个方面的要求：高等数学：例如微积分知识用在基于损失函数的梯度下降法更新模型参数。线性代数：向量的表示与计算是NLP中语言表示和求解的主要操作。概率论与数理统计：很多NLP的求解模型都是基于统计学方法构建的。

2.计算机知识和技能要求数据结构：数据结构是计算机科学的基础，不管设计什么样的计算机系统，数据结构设计都是必不可少的。算法原理：对于一个系统来讲，在设计完数据结构的基础上，就需要进行算法设计，所有NLP应用的机器学习算法和深度学习算法都要