截图
简介
这是最优化理论与算法ppt，包括了最优化问题，泰勒级数问题，方向导数与极值问题，凸集、凸函数与凸优化问题，算法概述等内容，欢迎点击下载。
最优化理论与算法ppt是由红软PPT免费下载网推荐的一款课件PPT类型的PowerPoint.
最优化理论算法及工程应用 第一章 预备知识 1.最优化问题 最优化定义: 最优化是从所有可能方案中选择最合理方案以达到最优目标的一门学科。 最优化问题： 寻求某些变量的取值使其符合某些限制条件，并使某个目标函数达到最大值或最小值的问题。 最优化方法包括: 线性规划、非线性规划、整数规划、动态规划、多目标规划、组合优化等等。 1.最优化问题的发展 最优化问题可以追溯至17世纪法国数学家拉格朗日关于一个函数在一组等式约束条件下的极值问题 (求解多元函数极值的 Lagrange 乘数法 )。 19 世纪柯西引入了最速下降法求解非线性规划问题。 20 20世纪三、四十年代线性规划(LP)理论的引入使得优化理论的研究出现了重大进展。 1951年库恩和塔克给出了非线性规划(NLP)的最优性条件。 随着计算机技术的发展，各种最优化算法应运而生。 最优化问题的数学模型一般形式 2.n元函数的Taylor公式 一元函数的泰勒展开式： 设函数在定义域内连续可微，则有 二元函数的Taylor展式： 3.函数的方向导数与极值问题 目标函数的等值面（线） 对于简单的问题，可用等值线或等值面来描述函数的变化趋势，还可以直观地给出极值点的位置。 1）目标函数的等值面，其数学表达式为f(x)=c。 在这种线或面上所有点的函数值均相等，因此，这种线或面就称为函数的等值线或等值面。 当c取一系列不同的常数值时，可以得到一组形态相似的等值线或等值面，称为函数的等值线簇或等值面簇。 函数的方向导数与极值问题 2）当n=2时，该点集是设计平面中的一条直线或曲线。 例1： 目标函数f(x)＝一60x1一120x2的等值线族。 这是一组相互平行的直线，函数值沿箭头所指方间逐渐下降。如图所示。 函数的方向导数与极值问题 3）当n=3时，该点集是设计空间中的一个平面或曲面。 例2 函数 的图形(旋转抛物面)，以及用平面f(X)＝c切割该抛物面所得交线在设计空间中的投影。如图所示。 4）当n大于3时，该点集是设计空间 中的一个超曲面。 函数的方向导数与极值问题 方向导数 讨论函数 在一点P沿某一方向的变化率问题。 如果函数在点 是可微分的，那末函数在该点沿任意方向L的方向导数都存在，且有 其中 为x轴到方向L的转角 函数的方向导数与极值问题 梯度 函数在一点的梯度是这样一个向量， 它的方向与取得最大方向导数的方向一致， 而它的模为方向导数的最大值。 以 的n个偏导数为分量的向量称为在处的梯度， 记为 梯度也可以称为函数关于向量的一阶导数。 Hesse矩阵 函数的方向导数与极值问题 梯度与方向导数之间的关系 (1) 若 ，则P的方向是函数在点 处的下降方向； (2) 若 ，则P的方向是函数在点 处的上升方向。 方向导数的正负决定了函数值 的升降，而升降的快慢就由它的 绝对值大小决定．绝对值越大， 升降的速度就越快 结论： (1)梯度方向是函数值的最速上升方向； (2)函数在与其梯度正交的方向上变化率为零； (3)函数在与其梯度成锐角的方向上是上升的，而在与其梯度成钝角的方向上是下降的； (4)梯度反方向是函数值的最速下降方向． 函数的方向导数与极值问题 可行方向 函数的方向导数与极值问题 无约束优化极值问题 凸集、凸函数与凸优化问题 凸组合：已知 ，任取k个点，如果存在常 数 ， 使得 则称 为 的凸组合。 凸集、凸函数与凸优化问题 设 ，任取 如果有 ，有 则称 为 上的（严格）凸函数。 凸函数的判断条件 （1） 一阶导数向量法 是凸集 上的凸函数的充要条件是， 有 (2) 二阶导数矩阵法 设 在凸集X上有二阶连续偏导数，则 是凸函数的充要条件是， 有 半正定。 凸规划 设有规划 设P为凸规划，则： 谢谢观赏
展开
