2.3.4　单个预测的局部可解释性

为什么模型会对一个实例做出某种预测？

当然，可以着眼于一个实例，检查模型对某个输入的预测，并解释原因。如果查看单个预测，那么这个复杂模型的行为可能会更令人愉悦。在局部上，预测可能只依赖于线性的或单调的某些特征，而不是对它们有复杂的依赖性。例如，房屋的价格可能与它的面积大小呈非线性关系。但是，如果只查看一个特定的100 m2 的房屋，那么对于该数据子集，模型预测可能与面积呈线性关系。可以通过模拟当增加或减少10 m2 的面积时，预测的价格是如何变化的来发现这一点。因此，局部解释比全局解释更准确。在第5 章中，可以使单个实例的预测更容易解释。