1.2 最优化问题的起源与发展

最优化的理念起源于微积分研究的初期，法国数学家Pierre de Fermat（1607−1665，图1-2（a））与法国数学家Joseph-Louis Lagrange（1736−1813，图1-2（b））分别提出了基于微积分的公式求解最优值的方法。除了简单的函数最优化问题之外，一般又统称最优化问题为数学规划（mathematical programming）问题。相关的历史回顾可以参见文献[1]。

苏联学者Leonid Vitaliyevich Kantorovich（1912−1986，图1-2（c））在最优化领域尤其是线性规划领域做了大量的奠基工作，美国数学家George Bernard Dantzig（1914−2005，图1-3（a））提出了著名的单纯形法（simplex method）[1]，求解线性规划问题。Dantzig提出单纯形法的背后有一个有趣的故事[2],[3]。1939年加州大学Berkeley分校的博士生Dantzig有一次上课迟到，错把老师Jerzy Neyman（1894−1981）在黑板上写的两个世界数学难题当成课后作业，给出了问题的解，为线性规划问题提出了一种高效的求解方法。美国数学家、计算机学家John von Neumann（1903−1957，图1-3（b））提出了对偶理论与计算方法，进一步提高了线性规划问题的求解效率。

图1-2 Fermat、Lagrange和Kantorovich画像或照片

注：图像均来源于维基百科

美国应用数学家Richard Ernest Bellman（1920−1984，图1-3（c））开创了一个最优化问题的新领域——动态规划，实现了多级决策的规划问题。

图1-3 Dantzig、von Neumann和Bellman的照片

注：图像均来源于维基百科

最优化理念与技术为许多科学与工程领域奠定了数学基础，“最优”一词可以和任何一个领域联用，为其注入新的活力。例如，在搜索引擎上搜索“最优”可以搜索到很多相关的领域，如最优控制、最优设计、最优系统、资源最优配置、最优停止理论、最优资本结构等，这些领域都是和最优化密切相关的。