优化理论与实用算法
上QQ阅读APP看书,第一时间看更新


1.6.2 多元问题

xf的局部极小值处,必须满足以下条件:

1.∇fx)=0,一阶必要条件(FONC)。

2.∇2fx)半正定(对该定义的解释请见附录C.6节),二阶必要条件(SONC)。

FONC和SONC是一元情况的推广。FONC告诉我们函数在x处无变化。图1.8展示了满足FONC的多元函数的示例。SONC告诉我们x在碗形函数上。

图1.8 梯度为零的三个局部区域(见彩插

FONC和SONC可以通过简单的分析获得。为了使x*在局部极小值处,它所对应的函数值必须小于周围点处的函数值:

如果求fx*)的二阶近似,可以得到:

我们知道,在忽略高阶项的情况下,极小值的一阶导数必须为零。整理之后,可以得到:

这是半正定矩阵的定义,并且满足SONC。

例1.1说明了如何将这些条件应用于Rosenbrock香蕉函数。

例1.1 针对Rosenbrock函数检查点的一阶和二阶必要条件(右图中的点表示极小值点,详见彩插

考虑Rosenbrock香蕉函数

点(1,1)是否满足FONC和SONC?

梯度是:

黑塞矩阵是:

计算得出∇(f)([1,1])=0,所以满足FONC。[1,1]处的黑塞矩阵为:

它是正定的,所以满足SONC。

仅依靠FONC和SONC难以实现最优化。对于二次可微函数的无约束优化,如果满足FONC且∇2fx)是正定的,则该点一定处于强局部极小值处。这些条件统称为二阶充分条件(Second-Order Sufficient Condition,SOSC)。