1.8 小结

在本章中，在介绍人工神经网络的架构和各个组成部分之前，我们理解了为什么需要使用单个网络同时执行特征提取和分类。接下来，学习了如何将网络的各个层连接起来，然后进行前向传播，计算出网络当前权重对应的损失值。之后实现了通过反向传播来学习优化权重以最小化损失值的方法。而且，了解了学习率如何在实现网络最优权重方面发挥作用。此外，实现了网络的所有组成部分——前向传播、激活函数、损失函数、链式法则和梯度下降，从零用NumPy更新权重，从而为接下来的学习打下坚实的基础。

在理解神经网络工作原理的基础上，我们将在下一章中使用PyTorch实现一个神经网络，并在第3章中深入探讨可以在神经网络中调整的其他各种组件（超参数）。