企业级AI技术内幕:深度学习框架开发+机器学习案例实战+Alluxio解密
上QQ阅读APP看书,第一时间看更新

第2章 盘古人工智能框架多层次神经网络的实现

2017年3月21日,作者在硅谷,利用三个月的时间,于2017年6月22日实现了盘古人工智能框架,在该框架中实现了基本的ANN(Artificial Neural Network)和CNN(Convolutional Neural Network),那时还没实现RNN(Recurrent Neural Network),但是实现了另外两个特别重要的算法,一个是自动编码(AutoEncoders),还有一个是非监督学习玻尔兹曼机算法(Boltzmann_Machines),二者都跟推荐系统相关。对于深度学习中的算法,神经网络算法是必须掌握的,CNN、RNN等都是基于神经网络算法延伸出来的,包括自动编码算法,也是基于神经网络的算法延伸出来的。自动编码算法、玻尔兹曼机算法在实际中可用于推荐系统,在Facebook、谷歌、亚马逊的各种应用场景都可以看见推荐系统的身影;深度学习在图片识别、声音识别中可能暂时不那么重要。从2017年6月开始,用了将近10个月的时间,作者在自己开发的人工智能框架中试验了上述算法,这是做人工智能研究的核心能力之一。

研究TensorFlow、PyTorch的时候发现,TensorFlow、PyTorch和作者开发的人工智能框架思路是一样的,但在实现上有所不同。作者开发的人工智能框架满足了基本的神经网络的需要,如果要像TensorFlow、PyTorch那么强大,需要迭代很多个版本。我们将从最基础的一个版本,通过几次版本的迭代,达到自研的人工智能框架内核和TensorFlow、PyTorch的内核一致的程度。