贝叶斯的博弈:数学、思维与人工智能
上QQ阅读APP看书,第一时间看更新

所罗门诺夫完备性

所罗门诺夫归纳法的基本定理,就是所罗门诺夫所说的其公式的完备性。粗略地说,所罗门诺夫归纳法的完备性表明,如果数据中存在某种可计算的模式,那么所罗门诺夫妖最终会发现这一模式,所需时间与模式的所罗门诺夫复杂度成正比 11

11更准确地说,所罗门诺夫完备性定理断定,如果存在某个有待发现的相关理论 ,那么 的所罗门诺夫复杂度就可以作为所罗门诺夫妖的所有预测错误的累计总和的一个上界。如果用第 15 章会谈论的 KL 散度来衡量这些错误的话,对于只用到两个字符的编程语言,我们就会得到 。此外,我们也能解释休谟的一致性原则,它其实相当于假设基础理论 的存在,但丘奇–图灵论题正好保证了这一点。而在网络广播 Axiome 的第七集开头,我也指出了所罗门诺夫完备性能解决所谓“grue”的逻辑悖论。

更准确地说,数据越复杂,所罗门诺夫妖为得知其中隐藏的结构所需的信息量就越大。但所罗门诺夫完备性证明了必需的信息量绝不会超过数据的精致度(sophistication)12,即使隐藏其中的结构带有随机涨落的“噪声”!

12“精致度”一词在这里有着非常精确的定义,我们会在第 18 章中介绍。

对我来说,有了这个基本定理,再加上任何其他方法似乎都不可能比这做得更好或者至少持平的事实,就基本上是支持贝叶斯主义的最终论据了——即使我们必须首先相信所有预测性理论都是所罗门诺夫式的理论,而且最完美的论证应该是证明任何拥有这一性质的方法,必然是某种形式的所罗门诺夫归纳法。