代数大脑:揭秘智能背后的逻辑
上QQ阅读APP看书,第一时间看更新

2.1.4 输入与输出之间的关系

任何给定的网络体系结构都可以根据节点之间的连接权重表示为输入和输出节点之间的不同关系。例如,图2.3所示是一个非常简单的网络,假设我们想使用这个网络模型来表示逻辑函数OR的运算规则:如果输入节点中任意一个节点的值为true(或“打开”),则输出为true;如果两个输入均为false,则输出为false(例如,下暴风雪或停电这两个事件任意发生一个,学校都不会正常上课)。如果输入单元为true,则将其打开(设置为1);如果为false,则将其关闭(设置为0)。我们还假设输出节点的激活函数是一个二进制阈值,因此只要输出节点的总输入大于等于1,该节点的输出经过激活函数后得到的值便为1,否则为0。

022-1

图2.3 具有两个输入节点和一个输出节点的两层感知器

输出节点的总输入量的计算公式为输入1×权重1+输入2×权重2。根据假设,我们可以使用多种权重的组合来实现网络。图2.4中给出了一种可行的权重组合,其中输入节点1到输出节点的权重为1.0,输入节点2到输出节点的权重也为1.0。

如图2.4所示,如果打开输入节点1并关闭输入节点2,则向输出单元输入的加权和为(1.0×1.0)+(0.0×1.0)=1.0。由于1.0大于等于阈值,因此输出单元将被激活。如果把输入节点1和输入节点2全部打开,则向输出单元输入的加权和为(1.0×1.0)+(1.0×1.0)=2.0,仍然大于等于输出的激活阈值。相反,如果将两个输入节点全部关闭,则向输出节点输入的加权和为(0×1)+(0×1)=0,该值小于输出激活的阈值,所以输出单元会被关闭。

023-1

图2.4 可以实现逻辑运算“或”的两层感知器

假如在输出层使用与上面相同的激活函数(二进制阈值大于或等于1),但使用一组不同的权重(例如图2.5中所示的权重),那么同样可以使用上述网络来表示逻辑函数AND。在网络中,输入节点1到输出节点的权重为0.5,输入节点2到输出节点的权重也为0.5。如果两个输入节点都打开,则向输出单元输入的加权和为(0.5×1)+(0.5×1)=1.0。由于1.0大于等于阈值,因此将输出单元将被激活。相反,如果仅打开输入节点1,则向输出节点输入的加权和为(0.5×1)+(0.5×0)=0.5,该值小于输出节点激活函数的阈值,因此,输出节点将不会打开(false)。

024-1

图2.5 可以实现逻辑运算“与”的两层感知器