《第5讲 无约束优化精选文档.ppt》由会员分享,可在线阅读,更多相关《第5讲 无约束优化精选文档.ppt(36页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第5讲 无约束优化本讲稿第一页,共三十六页实验目的实验目的实验内容实验内容2.掌握用数学软件包求解无约束最优化问题掌握用数学软件包求解无约束最优化问题.1.无约束最优化基本算法无约束最优化基本算法.1.无约束优化基本思想及基本算法无约束优化基本思想及基本算法.4.实验作业实验作业.3.用用MATLAB求解无约束优化问题求解无约束优化问题.2.MATLAB优化工具箱简介优化工具箱简介.本讲稿第二页,共三十六页 无约束最优化问题无约束最优化问题求解无约束最优化问题的的基本思想求解无约束最优化问题的的基本思想*无约束最优化问题的基本算法无约束最优化问题的基本算法返回本讲稿第三页,共三十六页标准形式:
2、标准形式:求解无约束最优化问题的基本思想求解无约束最优化问题的基本思想求解的基本思想求解的基本思想 (以二元函数为例以二元函数为例)531连续可微本讲稿第四页,共三十六页本讲稿第五页,共三十六页多局部极小 唯一极小(全局极小)本讲稿第六页,共三十六页搜索过程搜索过程最优点 (1 1)初始点 (-1 1)-114.00-0.790.583.39-0.530.232.60-0.180.001.500.09-0.030.980.370.110.470.590.330.200.800.630.050.950.900.0030.990.991E-40.9990.9981E-50.99970.99981E
3、-8返回本讲稿第七页,共三十六页无约束优化问题的基本算法无约束优化问题的基本算法 最速下降法是一种最基本的算法,它在最优化方法中占有重要地位.最速下降法的优点是工作量小,存储变量较少,初始点要求不高;缺点是收敛慢,最速下降法适用于寻优过程的前期迭代或作为间插步骤,当接近极值点时,宜选用别种收敛快的算法.1 1最速下降法(共轭梯度法)算法步骤:最速下降法(共轭梯度法)算法步骤:本讲稿第八页,共三十六页2 2牛顿法算法步骤:牛顿法算法步骤:如果f是对称正定矩阵A的二次函数,则用牛顿法,经过一次迭代就可达到最优点,如不是二次函数,则牛顿法不能一步达到极值点,但由于这种函数在极值点附近和二次函数很近似
4、,因此牛顿法的收敛速度还是很快的.牛顿法的收敛速度虽然较快,但要求黑塞矩阵可逆,要计算二阶导数和逆矩阵,就加大了计算机的计算量和存储量.本讲稿第九页,共三十六页3 3拟牛顿法拟牛顿法本讲稿第十页,共三十六页本讲稿第十一页,共三十六页返回本讲稿第十二页,共三十六页MATLAB优化工具箱简介优化工具箱简介1.1.MATLAB求解优化问题的主要函数求解优化问题的主要函数本讲稿第十三页,共三十六页2.2.优化函数的输入变量优化函数的输入变量 使用优化函数或优化工具箱中其他优化函数时,输入变量见下表:本讲稿第十四页,共三十六页3.3.优化函数的输出变量见下表优化函数的输出变量见下表:本讲稿第十五页,共三
5、十六页4 4控制参数选项的设置控制参数选项的设置 (3)MaxIterMaxIter:允许进行迭代的最大次数,取值为正整数.选项中常用的几个参数的名称、含义、取值如下选项中常用的几个参数的名称、含义、取值如下:(1)陈列:显示水平.取值为off时,不显示输出;取值为iter时,显示每次迭代的信息;取值为final时,显示最终结果.默认值为final.(2)MaxFunEvals:允许进行函数评价的最大次数,取值为正整数.本讲稿第十六页,共三十六页例:opts=optimset(Display,iter,TolFun,1e-8)该语句创建一个称为选择的优化选项结构,其中显示参数设为iter,To
6、lFun参数设为1e-8.控制参数选项可以通过函数控制参数选项可以通过函数optimsetoptimset创建或修改创建或修改.命令的格式如命令的格式如下:下:(1)options=optimset(optimfun)创建一个含有所有参数名,并与优化函数optimfun相关的默认值的选项结构.(2)options=optimset(param1,value1,param2,value2,.)创建一个名称为选项的优化选项参数,其中指定的参数具有指定值,所有未指定的参数取默认值.(3)options=optimset(oldops,param1,value1,param2,value2,.)创建名
7、称为oldops的参数的拷贝,用指定的参数值修改oldops中相应的参数.返回本讲稿第十七页,共三十六页用用MATLAB解无约束优化问题解无约束优化问题 其中等式(3)、(4)、(5)的右边可选用(1)或(2)的等式右边.函数fminbnd的算法基于黄金分割法和二次插值法,它要求目标函数必须是连续函数,并可能只给出局部最优解.常用格式如下:常用格式如下:(1)x=fminbnd(fun,x1,x2)(2)x=fminbnd(fun,x1,x2,options)(3)x,fval=fminbnd()(4)x,fval,exitflag=fminbnd()(5)x,fval,exitflag,ou
8、tput=fminbnd()本讲稿第十八页,共三十六页MATLAB(wliti1)主程序为主程序为wliti1.m:f=2*exp(-x).*sin(x);fplot(f,0,8);%作图语句作图语句 xmin,ymin=fminbnd(f,0,8)f1=-2*exp(-x).*sin(x);xmax,ymax=fminbnd(f1,0,8)本讲稿第十九页,共三十六页例例2 2 有边长为有边长为3 3m的正方形铁板,在四个角剪去相等的正方形以制成方形无的正方形铁板,在四个角剪去相等的正方形以制成方形无盖水槽,问如何剪法使水槽的容积最大?盖水槽,问如何剪法使水槽的容积最大?解解先编写先编写M文件
9、文件fun0.m如下如下:function f=fun0(x)f=-(3-2*x).2*x;主程序为主程序为wliti2.m:x,fval=fminbnd(fun0,0,1.5);xmax=x fmax=-fval运算结果为运算结果为:xmax=0.5000,=0.5000,fmax=2.0000.=2.0000.即剪掉的正方形的边即剪掉的正方形的边长为长为0.50.5m时水槽的容积最大时水槽的容积最大,最大容积为最大容积为2 2m3.MATLAB(wliti2)本讲稿第二十页,共三十六页 命令格式为命令格式为:(1)x=fminunc(fun,X0);或x=fminsearch(fun,X0
10、)(2)x=fminunc(fun,X0,options);或x=fminsearch(fun,X0,options)(3)x,fval=fminunc(.);或x,fval=fminsearch(.)(4)x,fval,exitflag=fminunc(.);或x,fval,exitflag=fminsearch(5)x,fval,exitflag,output=fminunc(.);或x,fval,exitflag,output=fminsearch(.)2.多元函数无约束优化问题多元函数无约束优化问题标准型为:标准型为:min本讲稿第二十一页,共三十六页3 fminunc为中型优化算法的
11、步长一维搜索提供了两种算法,由选项中参数LineSearchType控制:LineSearchType=quadcubic(缺省值),混合的二次和三次多项式插值;LineSearchType=cubicpoly,三次多项式插使用使用fminunc和和 fminsearch可能会得到局部最优解可能会得到局部最优解.说明说明:fminsearch是用单纯形法寻优是用单纯形法寻优.fminunc算法见以下几点说明:算法见以下几点说明:1 fminunc为无约束优化提供了大型优化和中型优化算法.由选项中的参数LargeScale控制:LargeScale=on(默认值默认值),使用大型算法使用大型算法
12、LargeScale=off(默认值默认值),使用中型算法使用中型算法2 fminunc为中型优化算法的搜索方向提供了4种算法,由 选项中的参数选项中的参数HessUpdate控制:控制:HessUpdate=bfgs(默认值),拟牛顿法的(默认值),拟牛顿法的BFGS公式;公式;HessUpdate=dfp,拟牛顿法的,拟牛顿法的DFP公式;公式;HessUpdate=steepdesc,最速下降法,最速下降法本讲稿第二十二页,共三十六页例例3 3 minMATLAB(wliti3)1.1.编写编写M文件文件 fun1.m:function f=fun1(x)f=exp(x(1)*(4*x(
13、1)2+2*x(2)2+4*x(1)*x(2)+2*x(2)+1);2.2.输入输入M文件文件wliti3.m如下如下:x0=-1,1;x=fminunc(fun1,x0);y=fun1(x)3.3.运行结果运行结果:x=0.5000 -1.0000 y=1.3029e-10本讲稿第二十三页,共三十六页MATLAB(wliti31)MATLAB(wliti32)本讲稿第二十四页,共三十六页3.3.用用fminsearch函数求解函数求解MATLAB(wliti41)输入命令:f=100*(x(2)-x(1)2)2+(1-x(1)2;x,fval,exitflag,output=fminsear
14、ch(f,-1.2 2)运行结果:x=1.0000 1.0000fval=1.9151e-010exitflag=1output=iterations:108 funcCount:202 algorthm:Nelder-Mead simplex direct search 本讲稿第二十五页,共三十六页4.4.用用fminunc 函数函数MATLAB(wliti44)(1)建立M文件fun2.m function f=fun2(x)f=100*(x(2)-x(1)2)2+(1-x(1)2(2)主程序wliti44.m本讲稿第二十六页,共三十六页 Rosenbrock函数不同算法的计算结果函数不同
15、算法的计算结果可以看出,最速下降法的结果最差.因为最速下降法特别不适合于从一狭长通道到达最优解的情况.本讲稿第二十七页,共三十六页例例5 5 产销量的最佳安排产销量的最佳安排 某厂生产一种产品有甲、乙两个牌号,讨论在产销平衡的情况下如何确定各自的产量,使总利润最大.所谓产销平衡指工厂的产量等于市场上的销量.本讲稿第二十八页,共三十六页基本假设基本假设1 1价格与销量成线性关系价格与销量成线性关系2 2成本与产量成负指数关系成本与产量成负指数关系本讲稿第二十九页,共三十六页 模型建立模型建立 若根据大量的统计数据,求出系数b1=100,a11=1,a12=0.1,b2=280,a21=0.2,a
16、22=2,r1=30,1=0.015,c1=20,r2=100,2=0.02,c2=30,则问题转化为无约束优化问题:求甲,乙两个牌号的产量x1,x2,使总利润z最大.为简化模型,先忽略成本,并令a12=0,a21=0,问题转化求z1=(b1-a11x1)x1+(b2-a22x2)x2的极值.显然其解为x1=b1/2a11=50,x2=b2/2a22=70,我们把它作为原问题的初始值.总利润为:总利润为:z(x1,x2)=(p1-q1)x1+(p2-q2)x2本讲稿第三十页,共三十六页 模型求解模型求解 1.建立M文件fun.m:function f=fun(x)y1=(100-x(1)-0.
17、1*x(2)-(30*exp(-0.015*x(1)+20)*x(1);y2=(280-0.2*x(1)-2*x(2)-(100*exp(-0.02*x(2)+30)*x(2);f=-y1-y2;2.输入命令:x0=50,70;x=fminunc(fun,x0),z=fun(x)3.计算结果:x=23.9025,62.4977,z=6.4135e+003 即甲的产量为23.9025,乙的产量为62.4977,最大利润为6413.5.MATLAB(wliti5)返回本讲稿第三十一页,共三十六页实验作业实验作业本讲稿第三十二页,共三十六页本讲稿第三十三页,共三十六页本讲稿第三十四页,共三十六页本讲稿第三十五页,共三十六页本讲稿第三十六页,共三十六页