优化理论与实用算法
上QQ阅读APP看书,第一时间看更新

1.6.1 一元问题

如果局部导数为零且二阶导数为正,则设计点一定在强局部极小值处:

1. f′(x*)=0

2. f″(x*)>0

导数为零使得自变量变化较小时,函数值不会改变。二阶导数为正使得一阶导数为零的点刚好在碗形函数的底部[1]

如果一个点的一阶导数为零且二阶导数是非负的,它也可以是局部极小值点:

1. f′(x*)=0,一阶必要条件(FONC)[2]

2. f″(x*)≥0,二阶必要条件(SONC)。

这些条件被称为必要条件,因为所有局部极小值都遵守这两个规则。不幸的是,并非所有一阶导数和二阶导数为零的点都是局部极小值点,如图1.7所示。

图1.7 强局部极小值的必要但不充分条件的例子

可以使用泰勒展开式[3]得到候选点x*的一阶必要条件。

其中渐近符号Oh2)在附录C中讨论。

二阶必要条件也可以从泰勒展开式获得:

我们知道一阶必要条件必满足:

因为h>0。因此f″(x*)≥0的充分条件是x*在局部极小值处。

[1] 如果f′(x)=0并且f″(x)<0,那么x是一个局部极大值点。

[2] 满足一阶必要条件的点有时称为平稳点。

[3] 泰勒展开式在附录C中介绍。