《第五章-拉格朗日松弛算法ppt课件.ppt》由会员分享，可在线阅读，更多相关《第五章-拉格朗日松弛算法ppt课件.ppt（62页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多目标值最优值基于数学规划:分支定界法、割平面法、线性规划松弛再对目标函数可行化等的目标值。现代优化算法：禁忌搜索法、模拟退火法、遗传算法、蚁群算法等的目标值。其它算法：分解法、组合算法等的目标值。下界算法：线性规划松弛、拉格朗日松弛等的目标值。寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多例子1:线性规划松弛:在5.1.1中,将整数约束松弛为实数,称其为5.1.1的线性规划松弛:寒假来临，不少的高中毕业生和大学
2、在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多1.定理5.1.1:2.此类算法适合于整数规划问题中,决策变量为较大整数的情形.3.此类算法分两阶段:第一阶段为求松弛后线性规划问题的最优解;第二阶段为将解整数化,并考虑可行性.注:寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多例2:对偶规划松弛方法:5.1.2的对偶形式为:其中Y为决策变量.注:由对偶理论知,5.1.2和5.1.3有相同的最优值,至于采用其中的哪个模型求解5.1.1的下界,需比较哪个计算简单.寒假来临，不少的高中毕业生和大学
3、在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多例3.代理松弛法:当(5.1.1)中的约束太多时,代理松弛一个约束代替(5.1.1)中的K个约束极端情况可以用一个代替全部注:代理松弛法保证目标函数,整数规划约束不变,显然,由代理松弛法求得的解不一定可行寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多例4.拉格朗日松弛方法基本原理:将目标函数中造成问题难的约束吸 收到目标函数中,并保持目标函数的线性,使问题容易求解.Q:为什么对此类方法感兴趣?A:(1).在一些组合优化中,若在原问题中减少一些
4、约束,则使得问题求解难度大大降低.(我们把这类约束称为难约束).(2).实际的计算表明此种方法所得到的结果相当不错.寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多5.1 基于规划论的松弛方法松弛的定义（5.1.1）:问题整数规划模型:满足下列性质时,称为5.1.1的一个松弛(relaxation).(1)可行解区域兼容:(2)目标函数兼容:其中,为5.1.1的可行域.寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多例5.1.1 set covering pr
5、oblem问题描述:设 ,所有 ,且每一列对应一个费用 ,表示第j列覆盖第i行,要求在最小的费用下选择一些列,使其覆盖所有的行.松弛问题:寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多松弛模型:以上问题很容易求得最优解寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多5.2 拉格朗日松弛理论原整数规划问题拉格朗日松弛寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多定理5.2.1 LR同下整数规
6、划问题(5.2.1)有相同 的复杂性,且若IP可行解非空，则:证明:寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多注:定理5.2.1说明拉格朗日松弛是IP问题的一个下界,但我们应该求与IP最接近的下界,即:定义5.2.1 若 ,满足以下条件,则称D为凸集.对于离散点集 ,其凸包定义为:显然Con(Q)为凸集.寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多定理5.2.2 若拉格朗日对偶问题的目标值有限,则证明:设Con(Q)的极点为 ,极方向为 则:寒假来临
7、，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多由LD问题有限,则有:上述问题等价于:整理得:寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多其对偶问题为:即有:寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多推论推论5.2.1:对于任给c,整数规划问题IP和拉 格 朗日对偶问题LD的目标值相等的充要条件为:证:显然有 从而有:再由定理5.2.2:若对任何c有 ,则问题得证.寒假来临，不少的高中毕业生
8、和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多例5.2.1 假设整数规划问题IP第一个约束为复杂约束,其拉格朗日松弛后的模型LR为:寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多43211234l2l1l4l3EDCBA5.2.3图解示意寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多单位化下降方向:最优值只能在(4,0)和(3,4)两点得到,过这两点的直线方程:y+x4=16.其垂直方向为:寒假来临，不少的高中毕
9、业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多综合有:例5.2.2(继5.2.1)例5.2.1中 寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多43211234DCB43211234DCBS1S2寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多由推论5.2.1可以知道,由两个因素有关:第一个因素是目标函数中的C,推论5.2.1要求对所有的C满足S1=S2,但也可能存在某个C使得 第二个因素是可行解的区域.由上面
10、的图形可知,SI和S2不同,所以存在一个C,使得 不为零,如在例5.2.1中,在 达到拉格朗日对偶问题的最优值,其最优解为(4,0);,其一个最优解也为(4,0).由此我们可以知道,即使拉格朗日松弛在某个 下达到的最优解为原问题的可行解,我们也不能断言 .除非此时 .寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多定理5.2.3 若线性规划松弛问题LP存在可行解,则注:此定理说明,拉格朗日松弛对偶后的目标值 是IP 问题的一个下界,且不比 差.定理5.2.3 的充要条件是存在 和 使得:寒假来临，不少的高中毕业生和大学在校生都
11、选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多证明：、充分性：、必要性：记为问题的最优解，为问题的最优解，则：寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多例5.2.3(继例5.2.1)时,为问题的一个可行解,此时:一般情况下,可大致估计:寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多5.3.拉格朗日松弛的进一步讨论目的:对非标准的拉格朗日形式讨论.一、等号约束的松弛寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一
12、个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多二、LR最优解和LP最优解的关系具体例见例5.3.1。寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多n例5.3.1集合覆盖问题寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多n拉格朗日松弛三个约束，寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多n由此得到当松弛后问题的一个最优解为原问题（5.3.1）的一个可行解时，并不能得到该解为原问
13、题的最优解。在什么条件下该解为IP的一个最优解？定理5.3.1 的充要条件为：寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多三、拉格朗日松弛的整数性定义5.3.1 若LR的最优解与其整数约束无关，则称该问题具有整数性，即：寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多n例5.3.2（续5.1.1）例5.1.1的集合覆盖问题SC的拉格朗日松弛为寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多
14、n上页公式的线性规划模型为nLRSC和LSC具有整数性。定理5.3.2 若LR具有整数性，则寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多n整数规划问题和它的拉格朗日松弛分别为5.3.3和5.3.45.3.3寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多5.3.4寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多n按定理5.3.2有寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一
15、个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多5.3.15.3.1寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多5.2.25.3.1寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多n定理5.3.2的结论5.3.1寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多n在例5
16、.3.3的条件下寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多n例5.3.4（续例5.3.3）继续例5.3.3的讨论，将式（5.3.3）中的约束5.3.5寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多5.3.6寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多寒假来临，不少的高
17、中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多四、拉格朗日分解寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多n例7.3.5寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多寒假来临
18、，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多5.4 拉格朗日松弛算法5.4.1 次梯度算法（subgradient optimization）定义：（凹函数）函数 满足以下条件称为凹函数 定理5.4.1 若LR的可行解集合Q为有限个实数点集，则以下函数为凹函数寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多定理5.4.1 函数为凹函数的充要条件为：证
19、明 必要性：设 为凹函数，则H为凸集,为边界点,所以存在过 和法方向 的支撑超平面 满足:寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多充分性:ABC寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多定义5.4.2 若 为凹函数,在 向量满足:则称 为 在 的一个次梯度,所有的次梯度集合记为:定理5.4.3 若 为凹函数,为 的充要条件为定理5.4.4 设LR的可行解集合Q由有限个整数点组成,其极点为 有:寒假来临，不少的高中毕业生和大学在校生都选择去打工。准
20、备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多证明:注:若 不是最大值点,则相交的两个同目标值的平面 满足 且,两平面的法方向交角不超过90度.寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多当 不是光滑点是,在 的邻域内,当 充分小时,存在 ,使得:由 内所有次梯度夹角不超过90度,有由上面的讨论可得次梯度优化算法如下:STEP1:任选初始拉格朗日乘子 STEP2:对 ,从 中任选一个次梯度 ,若 则停,否则 重复STEP2.寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但
21、是，目前社会上寒假招工的陷阱很多注:1、的选取:2、停止准则：寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多5.4.2 拉格朗日启发式算法Step1:拉格朗日次梯度法求IP下界Step2:对所求解可行化例5.4.1 假设集合覆盖问题SC通过前面的松弛得到一个解 ,当其不可行时即存在i使得一个可行化方法是求k,满足重复以上步骤,直到所有行都被覆盖.寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多集合覆盖问题的拉格朗日松弛算法:Step1:初始化Step2:计算Step3:若所有行被覆盖,stop;or 记 表示第i行没有被覆盖,在没有被覆盖的行中任选一行k,计算Step4:寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多例5.4.2 对集合覆盖问题假设:最优解为:第三行没有被覆盖,在可覆盖第三行中选费用最小的列寒假来临，不少的高中毕业生和大学在校生都选择去打工。准备过一个充实而有意义的寒假。但是，目前社会上寒假招工的陷阱很多