延伸阅读

本章介绍了几种常见的密度估计方法。根据类表示唯一公理可知，一个自然的期望是密度估计与实际的密度相同。可惜的是，这只是一个先验假设。在什么情况下，类表示唯一公理对于密度估计问题成立呢？统计学家已经对这个问题研究了很多年，给出了两者理论逼近的条件，感兴趣的读者可以阅读参考文献。

对于以概率为基础的机器学习算法来说，密度估计几乎是最重要的基础章节，甚至有统计学家认为机器学习不过是概率统计的变种。当然，现实中，既存在许多在学习阶段考虑概率的机器学习算法，也存在许多在学习阶段并不考虑概率的机器学习算法。但是，无论什么样的学习算法，其测试阶段都需要概率统计来估计学习算法的性能。因此，密度估计可以说是机器学习中最为基础的学习问题之一。