深度学习与神经网络
上QQ阅读APP看本书,新人免费读10天
设备和账号都新为新人

2.3.1 单层前馈网络

在分层网络中,神经元以层的形式组织。在最简单的分层网络中,源节点构成输入层,直接投射到神经元输出层(计算节点)上,这种网络就是严格地无圈或前馈网络。如图2-7所示,输入层有m个节点,输入向量X=(x1x2,…,xm),输出层有n个节点,输出向量O=(o1o2,…,on)。此网络称为单层网,“单层”指的是计算节点(神经元)输出层。这里不把输入层计算在内,因为这一层没有计算。

图2-7 单层前馈网络

设输入层的第i个神经元到输出层的第j个神经元的连接强度为wij,即X的第i个分量以权值wij输入到输出层的第j个神经元中,取所有的权值构成(输入)权值矩阵W,即

W=(wij)

输出层的第j个神经元的网络输入记为vj

其中,1≤jm。如果取

Y=(v1,v2,…,vn)

其中,F为输出层神经元的激活函数的向量形式。这里约定,F对应每个神经元有一个分量,而且它的第j个分量对应作用在Y的第j个分量vj上,一般认为各个分量是相同的。