优化方法的理论体系 有哪些方面?


优化方法的理论体系 有哪些方面?

文章插图
优化方法的理论体系 有哪些方面? (1)、一维优化方法
(2)、多维无约束优化方法
(3)、多维有约束优化方法
(4)、线性优化方法
(5)、多目标优化方法
【优化方法的理论体系 有哪些方面?】(6)、离散变量优化方法
(7)、基于其他理论的优化方法
(8)、常见的优化算例
(9)、主要文献
步骤阅读
优化方法的理论体系 有哪些方面?

文章插图
1 (一)一维优化方法 。主要有以下三类:1)基于盲人探路思想的试探法 。以步长加倍策略将极值点确定在距离当前点单步步长之内,再以步长减半策略,使当前点接近于极值点 。主要有确定极值点所在区间的进退法(应用推论1)、一维盲人探路法(在进退法基础上增加一个模块)、一阶导数符号法(应用推论2)等 。2)区间削去法 。比较区间内两点的目标函数值或计算一点的导数符号,根据单峰假设将极值点所在区间削短 。主要有对称等比例、对称变比例区间分割法、平分法、切线交点法、自适应二分法等 。3)拟合函数寻点法 。主要是二次拟合函数法(抛物线法)、三角拟合函数法、二次拟合函数定点法、一次拟合导函数法等 。
2 (二)多维无约束优化方法 。主要有:1)负梯度方向法及基于盲人探路思想的折线负梯度方向法 。2)多维二阶近似式方向法及其近似算法 。3)坐标系拟均匀变换法,也称为坐标变换法,包括局部坐标系的建立 。4)获得共轭方向的方法,主要有定义法、几何法、待定系数法、两次同方向寻优获得法、连续两次沿负梯度方向寻优获得法(四寻法、六寻法、三寻法)等 。5)共轭方向轮换法,主要有几何法、待定系数法、正交向量组法等,包括方向组的概念 。6)寻优方向的数值算法实现,基于二次函数假设的数值偏导数、方向导数计算式,构造二阶偏导数矩阵法、大步长探测等算法实例 。7)拟合函数法,主要有多维二次拟合函数法和线性拟合梯度法 。8)不求偏导数的方向组轮换法,主要有坐标方向轮换法、自适应坐标下降法、经典Powell基本算法和改进算法、构造共轭方向法等 。9)无界多面体变形法,也称为单形替换法或单纯形法,与多维有约束复合形法的寻优思想相同 。
3 (三)多维有约束优化方法 。主要有:1)可行域内直接求解法,主要包括网格法、有界多面体变形法(复合形法)、随机方向法等 。2)优选可用方向法,寻优到约束边界之后,寻优最好的方向继续寻优,是船到桥头自然直的正确思路 。3)半步法,没有寻优到约束边界的时候采用无约束优化方法,寻到之后退半步重新选择新的寻优方向,是未雨抽聊的研究思路 。4)化简法,主要有基于二阶近似式构造寻优方向法、基于一阶近似式线性化法 。5)构造无约束优化问题序列法,采用加权组合的方式将目标函数和约束函数转化为无约束优化问题,权按照一定规律变化,从而构造出一系列的无约束优化方法,主要有围墙法(内点惩罚函数法,须加固围墙)和土堆法(外点惩罚函数法) 。
4 (四)线性优化方法 。对于目标函数和约束函数均为设计变量线性函数的优化问题,其约束边界和目标函数等值线均为直线,可行点的集合构成一个凸集,且为凸多面体 。如果存在最优点,则必为该凸集的某个顶点 。寻找最优点就是在该凸多面体上确定最优的顶点 。主要方法为单纯形法,在可行域多面体的某一个顶点出发,逐渐滑向更好的顶点,最终获得最优点 。