《梯度法和共轭梯度法幻灯片.ppt》由会员分享,可在线阅读,更多相关《梯度法和共轭梯度法幻灯片.ppt(25页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、梯度法和共轭梯度法第1页,共25页,编辑于2022年,星期六一一.无约束最优化问题无约束最优化问题解析方法:利用函数的解析性质构造迭代公式使之收敛到最优解。第2页,共25页,编辑于2022年,星期六二二.梯度法(最速下降法)梯度法(最速下降法)迭代公式:迭代公式:如何选择下降最快的方向?如何选择下降最快的方向?第3页,共25页,编辑于2022年,星期六梯度法(最速下降法):梯度法(最速下降法):梯度法算法步骤:梯度法算法步骤:第4页,共25页,编辑于2022年,星期六解:解:第5页,共25页,编辑于2022年,星期六收敛性收敛性性质性质.第6页,共25页,编辑于2022年,星期六第7页,共25
2、页,编辑于2022年,星期六 最速下降法反映的目标函数的一种局部性质最速下降法反映的目标函数的一种局部性质,从局部看从局部看,最速下最速下降方向确是目标函数值下降最快的方向降方向确是目标函数值下降最快的方向,选择这样的方向进行选择这样的方向进行搜索是有利的搜索是有利的.但从全局来看但从全局来看,由于由于锯齿现象锯齿现象的影响的影响,即使向着极小点移近不太即使向着极小点移近不太大的距离大的距离,也要经历不小的也要经历不小的”弯路弯路”,因此收敛速度大为减慢因此收敛速度大为减慢.最速下降法一般适用于计算过程的前期迭代最速下降法一般适用于计算过程的前期迭代,或者作为间或者作为间插步骤插步骤.第8页,
3、共25页,编辑于2022年,星期六第9页,共25页,编辑于2022年,星期六三三.共轭梯度法共轭梯度法1.共轭方向和共轭方向法共轭方向和共轭方向法共轭是正交的推广。共轭是正交的推广。第10页,共25页,编辑于2022年,星期六第11页,共25页,编辑于2022年,星期六几何意义几何意义第12页,共25页,编辑于2022年,星期六第13页,共25页,编辑于2022年,星期六第14页,共25页,编辑于2022年,星期六共轭方向法第15页,共25页,编辑于2022年,星期六2.共轭梯度法 如何选取一组共轭方向?如何选取一组共轭方向?以下分析算法的具体步骤。以下分析算法的具体步骤。第16页,共25页,编辑于2022年,星期六第17页,共25页,编辑于2022年,星期六第18页,共25页,编辑于2022年,星期六第19页,共25页,编辑于2022年,星期六第20页,共25页,编辑于2022年,星期六第21页,共25页,编辑于2022年,星期六第22页,共25页,编辑于2022年,星期六第23页,共25页,编辑于2022年,星期六第24页,共25页,编辑于2022年,星期六3.用于一般函数的共轭梯度法第25页,共25页,编辑于2022年,星期六