自然语言处理：基于预训练模型的方法

封面

版权信息

作者简介

内容简介

推荐序

推荐语

前言

数学符号

第1章 绪论

1.1 自然语言处理的概念

1.2 自然语言处理的难点

1.3 自然语言处理任务体系

1.4 自然语言处理技术发展历史

第2章 自然语言处理基础

2.1 文本的表示

2.2 自然语言处理任务

2.3 基本问题

2.4 评价指标

2.5 小结

第3章 基础工具集与常用数据集

3.1 NLTK工具集

3.2 LTP工具集

3.3 PyTorch基础

3.4 大规模预训练数据

3.5 更多数据集

3.6 小结

第4章 自然语言处理中的神经网络基础

4.1 多层感知器模型

4.2 卷积神经网络

4.3 循环神经网络

4.4 注意力模型

4.5 神经网络模型的训练

4.6 情感分类实战

4.7 词性标注实战

4.8 小结

第5章 静态词向量预训练模型

5.1 神经网络语言模型

5.2 Word2vec词向量

5.3 GloVe词向量

5.4 评价与应用

5.5 小结

第6章 动态词向量预训练模型

6.1 词向量——从静态到动态

6.2 基于语言模型的动态词向量预训练

6.3 小结

第7章 预训练语言模型

7.1 概述

7.2 GPT

7.3 BERT

7.4 预训练语言模型的应用

7.5 深入理解BERT

7.6 小结

第8章 预训练语言模型进阶

8.1 模型优化

8.2 长文本处理

8.3 模型蒸馏与压缩

8.4 生成模型

8.5 小结

第9章 多模态融合的预训练模型

9.1 多语言融合

9.2 多媒体融合

9.3 异构知识融合

9.4 更多模态的预训练模型

9.5 小结

参考文献