《第07章：最优控制的计算方法优秀PPT.ppt》由会员分享，可在线阅读，更多相关《第07章：最优控制的计算方法优秀PPT.ppt（102页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第07章：最优控制的计算方法现在学习的是第1页，共102页本章主要内容n7.1 直接法 7.2 间接法 7.3 小结 返回主目录现在学习的是第2页，共102页 在前面讨论变分法、极小值原理和动态规划时，我们列举了一些例子。为了易于说明问题，这些例子都是非常简单的，可以用手算来解决问题。但是在实际工作中所遇到的最优控制问题，一般都是很复杂的，必须用计算机求解。因此，最优控制的计算方法就变得十分重要了。这方面的内容十分丰富，由于篇幅所限，我们只介绍几种典型的算法。现在学习的是第3页，共102页(无约束)（ii）哈密顿函数 取极小的必要条件(有约束)（7-2）或 由极小值原理可知，最优控制问题的解必
2、须满足以下几个条件（iii）边界条件（包括横截条件）（i）正则方程（7-1）现在学习的是第4页，共102页 最优控制的计算方法一般是先求出满足上面三个条件中某两个的解，然后用合适的迭代计算形式逐次改变这个解，以达到满足剩下的另一个条件的解（即最优解）。通常把最优控制的计算方法分成两类：直接法和间接法。现在学习的是第5页，共102页 n直接法 它的特点是，在每一步迭代中，不一定要满足 取极小的必要条件，而是逐步改善它，在迭代终了使它满足这个必要条件，而且，积分状态方程是从 到 ，积分协态方程是从 到 ，这样就避免了去寻找缺少的协态初值 的困难。常用的直接法有梯度法，二阶梯度法，共轭梯度法。现在学
3、习的是第6页，共102页 n间接法 它的特点是，在每一步迭代中都要满足 取极小的必要条件，而且要同时积分状态方程和协态方程，两种方程的积分都从 到 或从 到 。常用的间接法有边界迭代法和拟线性化法。现在学习的是第7页，共102页7.1 直接法直接法（一）梯度法 这是一种直接方法，应用比较广泛。它的特点是：先猜测任意一个控制函数 ，它可能并不满足 取极小的必要条件，然后用迭代算法根据 梯度减小的方向来改善 ，使它最后满足必要条件。计算步骤如下：现在学习的是第8页，共102页1 先猜测 中的一个控制向量 ，是迭代步数，初始时 。的决定要凭工程经验，猜得合理，计算收敛得就快。现在学习的是第9页，共1
4、02页2 在第 步，以估计值 和给定的初始条件 ，从 到 顺向积分状态方程，求出状态向量 。现在学习的是第10页，共102页 3 用 、和横截条件求得的终端值 ，从 到 反向积分协态方程，求出协态向量 。现在学习的是第11页，共102页4 表示在 、处取值。当这些量非最优值时，。计算哈密顿函数 对 的梯度向量现在学习的是第12页，共102页5、是一个步长因子，它是待定的数。选择 使指标达到极小。这是一维寻优问题，有很多现成的优化方法可用。如分数法，0.618法，抛物线法，立方近似法等。(7-3)表明迭代是沿着梯度的负方向进行的。修正控制向量（7-3）现在学习的是第13页，共102页 6、计算是
5、否满足下列指标（7-4）是指定小量，若满足则停止计算，否则，令 ,转步骤2。另一停止计算的标准是（7-5）现在学习的是第14页，共102页例7-1考虑下面的一阶非线性状态方程（7-6）用梯度法寻找最优控制使下面的指标最小（7-7）现在学习的是第15页，共102页解因 自由，由横截条件得哈密顿函数为（7-8）协态方程为（7-9）现在学习的是第16页，共102页、选初始估计 。代入初始条件：，确定积分常数、将 代入状态方程（7-6）可得（7-11）积分上式可得（7-12）代入（7-12）式即可得（7-13）现在学习的是第17页，共102页3将 代入协态方程（7-9），且由边界条件 从t=1倒向积分
6、可得5 。这里选步长因子 。如此继续下去，直至指标函数随迭代变化很小为止。4由现在学习的是第18页，共102页 图7-1用梯度法寻找最优控制 图7-2 最优状态的求解 图7-1和图7-2表示了控制和状态 的初始值和第一次迭代值，可以看到第一次迭代 就几乎 收 敛 到 最 优 值，与最优值还有差异，而且一般说来愈接近最优值收敛愈慢现在学习的是第19页，共102页梯度法应用得比较多，它的优点是：（1）简单，编制程序容易；（2）计算稳定可靠。缺点是：（1）在接近最优解时，迭代收敛很慢，为改善 收敛性可用共轭梯度法和二阶变分法等；（2）不能区分局部极小和全局极小；（3）对控制变量受约束，终端状态受约束
7、的情 况不能直接处理。对于这种有约束的情况可用约束梯度法或惩罚函数法加以处理。现在学习的是第20页，共102页约束梯度法可处理如下的不等式约束：（7-15）首先，对于任何控制 ，定义约束算子（7-16）现在学习的是第21页，共102页显然 满足约束，即 满足约束，其中 ，再由 用无约束的梯度法求解，在每一次迭代中得出 ，然后用 代替，再进行下一次迭代。（7-17）现在学习的是第22页，共102页 惩罚函数法可处理如下形式的约束：（7-18）（7-19）现在学习的是第23页，共102页这时，将性能指标 增广为其中，（7-21）（7-20）现在学习的是第24页，共102页 显然，当满足约束时，中后
8、两项为零。当不满足约束时，后两项将使 增大，故称为惩罚函数。在迭代过程中，逐次增大 和 。显然当 和 很大时，所求得的 的无约束最优控制近似于 的有约束最优控制。现在学习的是第25页，共102页（二）共轭梯度法 用共轭梯度法寻找最优控制时是沿着所谓共轭梯度向量的方向进行的。为了说明共轭梯度的意义，我们先从求函数极值问题的共轭梯度法开始，再推广到求泛函极值问题。现在学习的是第26页，共102页 1求函数极值的共轭梯度法其中，为常数，为正定阵。是 和 的内积。要求寻找 使 取极值。(7-23)设 是定义在 空间中的二次指标函数（7-22）现在学习的是第27页，共102页定义 则称 和 是 共轭的。
9、（单位阵）时，共轭就变为通常的正交。若 中两个向量 和 满足（7-24）现在学习的是第28页，共102页 设向量 ，是两两 共轭的，以 为寻找方向，可得共轭梯度法的迭代寻优程序：（7-25）与梯度法不同处仅在于用共轭梯度 代替负梯度 。问题是如何产生共轭梯度方向 。现在学习的是第29页，共102页 值由 和 对 共轭的关系来确定，即（7-26）（7-27）令 ，即初始时共轭梯度与梯度方向相反、大小相等。以后的共轭梯度可如下递归产生：现在学习的是第30页，共102页将（7-26）代入（7-27），得称为共轭系数。故（7-28）现在学习的是第31页，共102页用（7-28）式计算 是不方便的，因为
10、要用到二阶导数阵 。由（7-22）和（7-23）知 分别为 的第 个和第 个分量，右端表示由 的第 行第 列元素构成的矩阵。计算这个二阶导数阵非常困难。为此，有必要推导不用 来计算 的公式。（7-29）现在学习的是第32页，共102页 性质1 若 是 空间中彼此 共轭的向量，则它们是线性独立的。在这个推导中要用到共轭梯度的下列性质：现在学习的是第33页，共102页证明：证明：因为 正定，上式对每一个 成立，所以必须有 与假设矛盾，这说明 是线性独立的，它们构成了 空间中的一组基向量。上式左端各项对 取内积后有（7-31）用反证法。若不线性独立，则必存在不全为零的常数 使（7-30）现在学习的是
11、第34页，共102页其中,可这样来求：作内积（7-33）从而按照这个性质，函数 的极小点 可用这组基来表示，即（7-32）现在学习的是第35页，共102页性质2 式中，。（7-34）说明，在 处函数 的梯度 与前一步的寻找方向 必正交。如果 ，则有（7-34）现在学习的是第36页，共102页若不然，不妨先设 。再设 ,即 是最优步长。在 附近选一个 ，将 在 处展开，保留一阶项后，有 证明：证明：（7-35）现在学习的是第37页，共102页这与 为极小相矛盾。若设 则可取 ，同样得出矛盾，于是必有（7-34）成立。现在学习的是第38页，共102页性质3（7-36）说明，在 处的梯度 与以前各步
12、的共轭梯度寻找方向都正交。若 ，则必有（7-36）现在学习的是第39页，共102页证明证明由（7-22）式所假定的二次函数 ，可得（7-38）（7-37）得到重复使用现在学习的是第40页，共102页设 为极小点，则（7-39）（7-38）减去（7-39）得（7-40）现在学习的是第41页，共102页上式两边对 作内积，得（7-42）（7-41）=（7-37）代入（7-40），得现在学习的是第42页，共102页由性质2知 再由 与是 共轭的定义可知（7-42）右端第二项也为零，因此 （7-36）得证。现在学习的是第43页，共102页但 是线性无关的，它们构成 中一组基，与所有基正交，而 中只有
13、个基，故 。这说明 处的梯度为零，即 为二次函数 的极小点。如果取 ，则（7-43）现在学习的是第44页，共102页如果一个算法能在有限步内求出二次函数的极小点，就称这个算法具有二阶收敛性或有限步收敛性。由此可见，在 空间中，对二次函数 用（7-25）式所示的共轭梯度法寻优，迭代至多 步就可达到极小点。现在学习的是第45页，共102页性质4若 ，则（7-44）现在学习的是第46页，共102页证：证：（7-44）得证。由性质3和（7-26）式知现在学习的是第47页，共102页 下面根据这四个性质来推出 的一个简单的计算公式。在（7-41）中令 ,可导出现在学习的是第48页，共102页再利用（7-
14、26）式，可得 由性质4知 ，因此得（7-45）现在学习的是第49页，共102页 用（7-46）计算 ，只用到 在 和 两处的梯度，因此非常方便。（7-46）对二次函数是精确的，对非二次函数，它只是一个近似公式 由性质3，就可得出（7-46）现在学习的是第50页，共102页 将共轭梯度法求 的极小解的算式归纳如下：（4）递推逼近极值点解 用一维寻优决定。（2）算共轭系数 ，（1）算梯度（3）算共轭梯度现在学习的是第51页，共102页2、用共轭梯度法解最优控制问题 前面已说过，最优控制计算的直接法是用迭代方法逐步改善控制量 ，使它最后满足哈密顿函数 取极小的必要条件。现在学习的是第52页，共10
15、2页 除了这些以外，其它在形式上与求函数极值的共轭梯度法一样。故梯度向量为（7-47）这里梯度向量 是时间的函数，向量时间函数的内积定义为（7-48）现在学习的是第53页，共102页共轭梯度法求最优控制步骤为（1）（2）（3）设已求出第K步估计的控制函数 可任选。以 为初值，从 到 积分状态方程，得出状态轨迹 。以 为终值，从 到 反向积分协态方程，求得协态轨迹 。现在学习的是第54页，共102页（4）（5）（6）计算梯度向量计算共轭系数时，。（7-49）时，。（7-50）计算共轭梯度现在学习的是第55页，共102页（7）（8）停止计算。否则令 ,回到步骤2。当满足下面的不等式（7-53）用一
16、维寻优决定 ，即 （7-52）（7-51）计算控制函数现在学习的是第56页，共102页例7-2要求用共轭梯度法决定最优控制 ，使 最小。性能指标（7-56）设系统状态方程为（7-54）（7-55）现在学习的是第57页，共102页解（常数）（7-59）（7-58）协态方程为（7-57）哈密顿函数为现在学习的是第58页，共102页（7-62）（7-63）故协态方程化为（7-61）（7-60）由横截条件现在学习的是第59页，共102页（1）选 ，代入状态方程和协态方程（7-54）、（7-55）、（7-62）和（7-63），时的计算可求得积分可得现在学习的是第60页，共102页 梯度向量共轭梯度 。现
17、在学习的是第61页，共102页（2）时 ，用一维寻优来决定。将 代入状态方程（7-54）、（7-55）和协态方程（7-62）、（7-63），得现在学习的是第62页，共102页积分得可求得 的最优值为于是现在学习的是第63页，共102页 由（7-62）式积分上式可得现在学习的是第64页，共102页 共轭系数共轭梯度现在学习的是第65页，共102页（3）时，控制量为同以上步骤，将 代入状态方程和协态方程，求出对 寻优，可得 ，于是由现在学习的是第66页，共102页 所以这个例子只要两步迭代即可得到最优解。一般说来，共轭梯度法比梯度法收敛快，但接近最优解后收敛性仍是较慢的。一个补救办法是重新启动，即
18、找出几个共轭梯度方向 后，令 ，再用（7-50）重新迭代，寻找共轭梯度方向。可以证明 ，即为最优控制。这只要证明即可。现在学习的是第67页，共102页7.2 间接法（一）边界迭代法这个方法的特点是逐步改善对缺少的初始条件的估计，以满足规定的边界条件。它的原理如下。现在学习的是第68页，共102页可解出 ，将它表示为 和 的函数，即利用哈密顿函数H取极小的方法（7-64）将所求得的 代入正则方程（7-1），消去正则方程中的 。再引入增广状态（7-65）现在学习的是第69页，共102页 设（7-65）式有 个已知初始条件 ，个终端条件已知，设为 和 ，这是混合式的两点边值条件（参见例3-6），用边
19、界迭代法也很易处理。一般是非线性向量函数。则正则方程（7-1）可写成（7-66）现在学习的是第70页，共102页 显然，是已知的，设（7-67）定义现在学习的是第71页，共102页因 未知，用一个估计值 得到的解为（7-69）设由 、出发积分正则方程（7-66），求得解 ,从中抽出 个分量构成 。显然 的值将随 而变，记成（7-68）现在学习的是第72页，共102页 因 估计得不一定准确，故 一般不等于给定值 .将（7-68）在 处展开为台劳级数，保留一次项，得 其中，是 维矩阵，称为敏感矩阵或转移矩阵。（7-70）现在学习的是第73页，共102页 式中，是 的第 行，第 列元素。（7-71）
20、式右端表示由第 行第 列元素构成的矩阵。由（7-69）和（7-70）可得（7-71）（7-72）因 一般是非线性函数，（7-72）式是一个近似式，为了求得正确的 ，要用迭代求解。现在学习的是第74页，共102页 其中，是迭代次数，是松驰因子，可改善收敛性，收敛到最后时，将 取为1。在第 步，用 作为估值，积分正则方程，求得 ，令 是第 步的估值，则根据（7-72）可得到下面的迭代格式（7-73）现在学习的是第75页，共102页 为指定的小值，则停止计算。否则用 代替 ，再积分正则方程，重复进行。若（7-74）现在学习的是第76页，共102页计算步骤如下（1）（2）由 解出 ，代入状态和协态方程
21、。设已求出 的第 步估计值 和给定的合在一起，从 积分正则方程，求出 抽出 个要求的分量的终值 ，若 ，停止计算，否则进行下一步。现在学习的是第77页，共102页（3）（4）（5）按（7-73）计算 。令 回到步骤2。求敏感矩阵现在学习的是第78页，共102页这种方法的缺点是：（1）（2）（3）第一次估计 很困难，终端值对 非常敏感时，与 相差很大，线性关系（7-70）不成立。敏感矩阵难于确定得很精确，对它求逆的运算也容易引入误差。现在学习的是第79页，共102页例7-3 系统状态方程为性能指标为用边界迭代法寻找 ，使 最小。（7-77）（7-76）（7-75）现在学习的是第80页，共102页
22、解因终端 ，自由，故 设 的初始估计值为零，迭代结果见表7-1。可见在第7次迭代时，、已为零，满足了边界条件。现在学习的是第81页，共102页表7-1现在学习的是第82页，共102页 这个方法的特点是用迭代算法来改善对正则方程解的估计，使它逐步逼近正则方程的精确解。和前面一样，将正则方程写成。（二）拟线性化法 设已知 个初始条件 和 个终端条件 （7-79）（7-78）现在学习的是第83页，共102页 拟线性化法将非线性两点边值问题转化为线性两点边值问题，因此变得容易求解。设在迭代的第 步获得近似解 ，将正则方程（7-78）在 展开，保留一次项，可得到 步的近似解 ，有（7-80）现在学习的是
23、第84页，共102页满足给定边界条件（7-81）（7-82）现在学习的是第85页，共102页（7-80）可写成下面的线性非齐次方程（7-83）或（7-84）是 的系统矩阵，其中（7-85）现在学习的是第86页，共102页可停止计算当满足（7-87）是 驱动函数向量。（7-84）是线性微分方程，由给定的 个边界条件可确定其通解的 个未知常数，故解 可完全被确定。（7-86）现在学习的是第87页，共102页例7-4用拟线性化法求 ，使 最小。系统方程为性能指标为（7-89）（7-88）现在学习的是第88页，共102页解哈密顿函数为（7-90）（7-91）现在学习的是第89页，共102页上式代入状态
24、方程后得到（7-92）（7-93）或写成（7-94）上式与（7-78）对照可知（7-95）现在学习的是第90页，共102页根据（7-85）、（7-86）可得（7-96）（7-97）现在学习的是第91页，共102页 于是线性化后的正则方程（7-84）中的系数阵 和驱动项 都已确定，解这个非齐次时变微分方程，并用边界条件 和 以决定通解中的未定常数，就完全确定了 ，这就完成了一次迭代。当满足（7-87）式时，停止计算，求解结束。现在学习的是第92页，共102页7.3 小结小结 1 最优控制的计算方法可分为直接法和间接法两大类。直接法中我们列举了梯度法和共轭梯度法。间接法中列举了边界迭代法和拟线性化
25、法。现在学习的是第93页，共102页2 直接法的特点是：在每步迭代中并不满足哈密顿函数 取极小的必要条件，只是在迭代终了才满足这个条件；另外积分状态方程时是从 ，而积分协态方程时是从 。由于状态和协态的稳定性是相反的，所以这种双向积分，可使最优化过程非常稳定。这可举一简单例子来说明。现在学习的是第94页，共102页例 7-5 （7-98）（7-99）现在学习的是第95页，共102页解：（7-100）于是协态方程为（7-101）现在学习的是第96页，共102页 设 ，则从 ，收敛，而 发散。若从 ，则 就变为收敛了。解这两个方程，得（7-102）（7-103）现在学习的是第97页，共102页3
26、梯度法是利用梯度信息 来不断改善对控制函数 的估计，最后满足 的必要条件。这是一种简单又稳定的算法，几乎对所有的 的初始估计都有很好的收敛性。但在远离最优解时收敛速度快，在接近最优解时收敛得慢（原因在于 ）。现在学习的是第98页，共102页 共轭梯度法比梯度法稍微复杂些，但收敛速度也快些。同样，在接近最优解时，共轭梯度法收敛速度变慢。要加速接近最优解时的收敛速度可用二阶变分法，不过这种方法的计算复杂程度要增加很多。现在学习的是第99页，共102页4 间接法的特点是：在每步迭代中都满足 取极小的必要条件；另外，它同时从一个方向（从 或从 ）积分状态和协态方程。由于状态和协态的稳定性相反，这就使得对边界条件的初始估计非常敏感。尤其当终端时刻远远大于系统的最小时间常数时，收敛性可能很差。现在学习的是第100页，共102页5 边界迭代法是在每步迭代中不断改善对缺少的初始条件的估计去满足给定的终端条件（也可改善对缺少的终端条件的估计去满足给定的初始条件），这种方法对初始估计（如 ）是非常敏感的，只有在能获得良好的初始估计时，才建议使用这种方法。现在学习的是第101页，共102页 拟线性化法将非线性正则方程围绕上一步的估计解轨迹 线性化，递推解出 最后满足正则方程。这种方法对初始估计 可能不如边界迭代法对初始估计 那么敏感。并且求线性微分方程的解也比较容易。现在学习的是第102页，共102页