《2022年非线性计划问题的两种方法 .docx》由会员分享，可在线阅读，更多相关《2022年非线性计划问题的两种方法 .docx（8页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、精品_精品资料_第一章 非线性规划问题的基础概念1.1 非线性规划问题的简介非线性规划问题时形成于二十世纪五十岁月的新兴学科,是运筹学的一个重要1分支.库恩和塔克于1951 年发表的关于最优性条件 后来称为库恩塔克条件,又称为K-T 条件 的论文是非线性规划正式产生的一个重要标志.非线性规划问题主要讨论的是在线性或非线性的约束函数条件下线性或非线性的目标函数的最优化问题,典型的应用领域包括预报、生产流程的支配、库存掌握、质量掌握、过程设计等诸多方面.特殊是在最近三十多年,非线性规划的进展很快,不断有讨论者提出各种新的算法,并其的应用范畴也越来越广泛, 例如在各种预报、治理方面、最优设计、质量掌
2、握、系统掌握等领域.1.2 共轭梯度法简介共轭梯度法一开头是1908 年由 Schmidt引入梯度类方法运算效率高 , 特殊是Hestenes 和 Stiefel在大约 1951 年经过不断的改进 , 并且和统计类反演方法结合形成了统计加迭代的组合反演方法, 排除了依靠于初始推测的缺点 , 成了一种广受欢迎的反演方案.共扼梯度法具有结构简洁, 运算量小 , 储备量少且构造搜寻方向不需要求解线性方程组以及算法具有二次终止性等优点, 因此该算法是最优化方法中相对较好的一种方法 , 特殊是在求解大规模无约束最优化间题时更是得到了广泛的应用 1.3 变尺度法简介变尺度法是近 30 多年来进展起来的,它
3、是求解无约束极值问题的一种有效方法.由于它既防止了运算二阶导数矩阵及其求逆过程,又比梯度法的收敛速度快,特殊是对高维问题具有显著的优越性,因而使变尺度法获得了更高的声 誉,至今仍被公认为求解无约束极值问题最有效的算法之一.其次章 共轭梯度法2.1 引言共轭梯度法是介于最速下降法与牛顿法之间的一个方法,它仅需利用一阶导数信息,但克服了最速下降法收敛慢的缺点,又防止了牛顿法需要储备 和运算 Hesse 矩阵并求逆的缺点,共轭梯度法不仅是解决大型线性方程组最有用的方法之一,也是解大型非线性最优化最有效的算法之一.1）最初是由运算数学家Hestenes 和几何学家 Stiefel于 1952 年 为求
4、正定系数 矩阵 线性方程 组而独立 提出的. 他 们合作的 闻名 文章 Method of conjugate gradients for solving linear systems被认为是共轭梯度法的奠基性文章.2） 1964 年, Fletcher和 Reeves 将此方法推广到非线性最优化,得到了求解一般函数微小值的共轭梯度法 .（3） 共轭梯度法的收敛性分析的早期工作主要由Fletcher、Powell 、Beale 等学者给出 .（4） Nocedal 、Gilbert、Nazareth 、Al-Baali、Storey 、 Dai、Yuan和 Han等学者在收敛性方面得到了不少新
5、成果.共轭梯度法 conjugate gradient method, CG）是以共轭方向 conjugate direction）作为搜寻方向的一类算法.CG 法是由 Hesteness和 Stiefel于可编辑资料 - - - 欢迎下载精品_精品资料_1952 年为求解线性方程组而提出的.后来用于求解无约束最优化问题,它是一种重要的数学优化方法.这种方法具有二次终止性.2.2 基本原理由于,故有但故2-1）任取初始近似点,并取初始搜寻方向为此点的负梯度方向,即沿射线进行一维搜寻,得算出,由于从而可知和正交 这里假设和均不等于零）.和构成一正交系,我们可以在由它们生成的二维子空间中寻求.为此
6、,可令式中为待定系数,欲使与与 A 共轭,由式,必需故令由此可得以为搜寻方向进行最优一维搜寻,可得算出,假定,因和为 A 共轭,故但 故 由于可编辑资料 - - - 欢迎下载精品_精品资料_全部即和构成一正交系.现由它们生成的三维子空间中,寻求与和为A 共轭的搜寻方向.令式中和均为待定系数.由于应与和为A 共轭,故须从而 解之得令,就,于是连续上述步骤,可得一般公式如下： 对于正定二次函数来说,由式由于进行的是最优一维上述,故有从而如此,即可得共轭梯度法的一组运算公式如下：其中为初始近似,由于以及,故式也可以写成2.3 共轭梯度法的算法1）挑选初始近似,给出答应误差2）运算并用式和式算出.3）
7、一般的,假定已得出和,就克运算其第k+1 次近似：4）如,停止运算,即为要求的近似解.否就,如,就用式和式运算和, 并转向第 3）步.2.4 数值试验求下述二次函数的微小点： 解 将化成式的形式,得现从开头,由于故于是故可编辑资料 - - - 欢迎下载精品_精品资料_第三章变尺度法3.1 基本原理假定无约束极值问题的目标函数具有二阶连续偏导数, X为其微小点的某一近似.在这个点邻近取的二阶泰勒多项式靠近3-1 ）就其梯度为3-2 ）这个近似函数的微小点满意3-3 ）从而3-4 ）其中为在点的海赛矩阵.假如是二次函数,就为常数阵.这时,靠近式3-1 ）是精确的.在这种情况下,从任一点动身,用 3
8、-4 ）式只要一步即可求出的微小点 假定正定）.当不是二次函数时,3-1 ）式仅是在点邻近的近似表达式.这时,按3-4）式求得的微小点,只是的微小点的近视.在这种情形下,人们常取为搜寻方向,即3-5 ）3-5）式确定的搜寻方向,为在点的牛顿方向.3.2 运算步骤可编辑资料 - - - 欢迎下载精品_精品资料_1）给定初始点及梯度答应误差.2）如就即为近似微小点,停止迭代.否就,转向下一步.3）令单位阵）在方向进行一维搜寻,确定正确步长：如此可得下一个近似点4）一般的,设已得到近似点,算出,如就即为所求的近似解,停止迭代.否就,按式运算,并令在方向进行一维搜寻,确定正确步长：其下一个近似点为5）
9、如点满意精度要求,就即为所求的近似解.否就,转回第四步,知道求出某点满意要求为止.3.3 数值试验可编辑资料 - - - 欢迎下载精品_精品资料_下面我们针对变尺度法进行数值试验：解：取,由于故令可得由此可得可编辑资料 - - - 欢迎下载精品_精品资料_故如上求正确步长,可得代入上式得这就是微小点.参考文献：1 胡运权著 .运筹学教程【 M】.北京：清华高校出版社, 20222 王宜举、修乃华著 .非线性规划理论与算法【 M】.西安：陕西科学技术出版社, 20223 袁亚湘著 .非线性规划数值方法【 M】.上海：上海科学技术出版社,19934 袁亚湘、孙文瑜著 .最优化理论与方法【 M】.北
10、京：科学出版社, 19974 王德人著 .非线性方程组解法与最优化方法 .北京：人民训练出版社,19795 中国科学院数学讨论所运筹室编.最优化方法 .北京：科学出版社,19806 席少霖、赵凤治著 .最优化运算方法 .上海：上海科学技术出版社,19837 M.阿佛里耳著 .李元熹等译 .非线性规划分析与方法 .上海：上海科 学技术出版社, 1979可编辑资料 - - - 欢迎下载精品_精品资料_8 戴彧虹、袁亚湘著 .非线性共轭梯度法 .上海：上海科学技术出版社,19949 戚厚铎、韩继业、刘光辉著 .修正 HestenesStiefel共轭梯度算法 .数学年刊, 1996,17A3）. 17728410 席少霖著 .约束变尺度法【 J】.运筹学学报, 1985 年 01 期11 张慧生、王堂生著 .约束变尺度法应用探讨【 J】.新疆工学院学报,1994,15A）. 24925312 赵凤治、尉继英著 .约束最优化的运算方法【 M】.北京：科学出版社, 1991可编辑资料 - - - 欢迎下载