深度学习与神经网络

封面

版权信息

内容简介

前言

第1章 绪论

1.1 与深度学习有关的几个概念

1.1.1 人工智能

1.1.2 机器学习

1.1.3 表示学习

1.1.4 机器学习、神经网络与深度学习的关系

1.1.5 深度学习常用的框架

1.2 神经网络与深度学习的发展历程

1.2.1 神经网络的诞生

1.2.2 神经网络的复兴

1.2.3 深度学习的崛起

1.3 神经网络的产生机理

1.3.1 大脑研究的基本情况

1.3.2 脑组织的基本组成

1.3.3 脑组织的分层结构

1.3.4 大脑的基本工作原理

1.4 生物神经网络基础

1.4.1 神经元的基本结构

1.4.2 神经元的基本分类

1.4.3 神经元的信息传递机理

1.4.4 生物神经网络的构成

1.5 本书的知识框架体系

1.6 本章小结

第2章 人工神经网络计算

2.1 神经网络概述

2.2 人工神经元模型

2.2.1 基本神经元模型

2.2.2 常用激活函数

2.2.3 Softmax输出分类

2.3 神经网络结构

2.3.1 单层前馈网络

2.3.2 多层前馈网络

2.3.3 反馈网络

2.3.4 图网络

2.4 神经网络的学习方法

2.4.1 无监督学习的Hebb算法

2.4.2 监督学习的Delta规则

2.5 神经网络的损失函数

2.5.1 均方差损失函数

2.5.2 平均绝对误差损失函数

2.5.3 交叉熵损失函数

2.6 神经网络的学习规则

2.6.1 极大似然估计

2.6.2 经验风险最小化准则

2.6.3 过拟合与欠拟合

2.7 梯度下降法

2.7.1 一维梯度下降

2.7.2 多维梯度下降

2.7.3 随机梯度下降

2.8 网络正则化方法

2.8.1 L1和L2正则化

2.8.2 提前停止

2.8.3 权重衰减

2.8.4 丢弃法

2.8.5 数据增强

2.8.6 标签平滑

2.9 模型评估方法

2.9.1 混淆矩阵

2.9.2 准确率、精确率、召回率

2.9.3 ROC/AUC/PR曲线

2.10 本章小结

第3章 多层感知器神经网络

3.1 感知器及其发展过程

3.2 感知器学习算法

3.2.1 离散单输出感知器学习算法

3.2.2 离散多输出感知器学习算法

3.2.3 多层感知器线性处理问题

3.3 多层感知器的算法实现

3.4 反向传播算法

3.4.1 反向传播多层感知器模型

3.4.2 反向传播算法的原理

3.4.3 反向传播算法的执行步骤

3.4.4 梯度消失和梯度爆炸问题

3.4.5 反向传播网络的数据拟合问题

3.5 本章小结

第4章 自组织竞争神经网络

4.1 竞争学习的概念与原理

4.1.1 竞争学习规则

4.1.2 竞争学习原理

4.2 SOFM网络

4.2.1 SOFM网络结构

4.2.2 运行原理

4.2.3 学习过程

4.2.4 两阶段学习

4.3 ART网络

4.3.1 ART网络结构

4.3.2 网络运行与训练

4.3.3 网络运行的参数说明

4.4 自组织竞争神经网络的算法实现

4.5 本章小结

第5章 径向基函数神经网络

5.1 径向基函数介绍及结构

5.2 函数逼近与内插

5.2.1 插值问题的定义

5.2.2 径向基函数的一般形式

5.2.3 径向基函数的性质