《函数的最佳逼近.ppt》由会员分享,可在线阅读,更多相关《函数的最佳逼近.ppt(75页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、关于函数的最佳逼近现在学习的是第1页,共75页1 最佳逼近问题最佳逼近问题一、函数的逼近方法一、函数的逼近方法关于函数的关于函数的n次次多项式多项式逼近方法逼近方法,已知有下面的几种:,已知有下面的几种:1. Taylor展式展式如果如果误差为误差为10)1(00)(000)()!1()()(!)()()()( nnnnxxnfxxnxfxxxfxfxf nnxxnxfxxxfxfxf)(!)()()()(00)(000 10)1()()!1()()( nnnxxnfxR 现在学习的是第2页,共75页2. 2. 插值多项式插值多项式),(),()!1()()(1)1(baxnfxRnnn nj
2、jijinjiinyxxxxxL00)( 同为同为n 次多项式,哪一个逼近效果更好呢?这时可以建立一次多项式,哪一个逼近效果更好呢?这时可以建立一个个度量标准度量标准来进行度量。在所建立的度量标准之下,就可以来进行度量。在所建立的度量标准之下,就可以给出给出最佳的最佳的n 次逼近多项式次逼近多项式。注:注:除了用除了用多项式多项式来逼近一个函数来逼近一个函数 f(x) , ,也可以用其它具有也可以用其它具有某种某种共同特征的函数共同特征的函数来逼近来逼近 f(x) ,并求出其相应的最佳逼,并求出其相应的最佳逼近。近。例如,例如,现在学习的是第3页,共75页3.3.最佳逼近问题最佳逼近问题 给定
3、给定 中的一个中的一个子集合子集合 , 对于对于某一已知函数某一已知函数f(x) X ,在在 中寻求一个函数中寻求一个函数p(x)作为作为函数函数f(x)关于某个关于某个度量标准度量标准下下的最佳逼近的最佳逼近函数函数, , 称之为称之为最佳逼近问题最佳逼近问题。X)( xf )( xp 本章我们主要考虑本章我们主要考虑连续函数空间连续函数空间X=Ca,b上的最佳逼近问题,这时的子上的最佳逼近问题,这时的子集合集合可以取为由具有可以取为由具有某种共同特征某种共同特征的函的函数组成,例如数组成,例如多项式函数多项式函数、三角函数三角函数、指指数函数数函数、分式有理函数分式有理函数等。等。 同时,
4、还需要给出连续函数空间同时,还需要给出连续函数空间上的一个上的一个度量标准度量标准,下面先通过,下面先通过内积内积给出给出平方范数平方范数。p(x)从总体上更能反映从总体上更能反映f(x)的特性或总体上其偏差按某种度量达到最小的特性或总体上其偏差按某种度量达到最小现在学习的是第4页,共75页二、连续函数的平方范数二、连续函数的平方范数 已知所有连续函数构成的集合已知所有连续函数构成的集合Ca,b是一个是一个线性空间线性空间,对于,对于Ca,b中的任意函数中的任意函数 f(x)、g(x) ,定义实数定义实数 badxxgxfgf)()(),(可以证明此实数满足性质:可以证明此实数满足性质:这时,
5、称这时,称 (f, g) 为为 f(x) 与与 g(x)的的内积内积。(1). (f , g)= (g , f );(2). (f , g)=( f , g ), R;(3). (f + g , h)=( f ,h)+( g,h );(4). (f , f ) 0, 当且仅当当且仅当 f =0 时时 (f , f )=0 12121 1221 122(,),(,)( , )aa abb ba ba ba ba ba ba b 现在学习的是第5页,共75页为函数为函数 f(x) 的的平方(欧氏)范数平方(欧氏)范数,且满足以下性质:,且满足以下性质: 给出了函数的给出了函数的范数范数,便给出了函
6、数的一个,便给出了函数的一个度量标准度量标准,在此,在此度量标准之下,就可以找出度量标准之下,就可以找出 f(x) 在不同函数类中的最佳逼近。在不同函数类中的最佳逼近。下面就来考虑下面就来考虑这一最佳逼近问题的解决这一最佳逼近问题的解决。 badxxffff)(,22并称并称(3.1)(1) f2 0 , f2 =0 , 当且仅当当且仅当 f =0 ;(2) c f2=|c| f2 ; (3) f + g2 f2+ g2 ; 221212(,),aa aaaamax( )ax bff x 无穷范数无穷范数现在学习的是第6页,共75页1212(,),(,)aa abb b 22122212aaa
7、bbb cosa ba ba b 1 122( , )a ba ba ba b 22221 1221212a ba baabb 22( ) ( )( )( )bbbaaaf x g x dxfx dxgx dx 22(,)f gfg 222( ) ( )( )( )bbbaaaf x g x dxfx dxgx dx 柯西柯西施瓦施瓦茨不等式茨不等式现在学习的是第7页,共75页基函数基函数2 对于连续函数空间对于连续函数空间 Ca,b 中的元素中的元素 f(x) 及其及其子空间子空间)(,),(),(10 xxxspann 所谓所谓 f(x) 在在 中的中的,就是存在,就是存在nnncccxp
8、 1100)(使得对于一切使得对于一切 nnncccxp 1100)(22*)()()()(xpxfxpxfnn 都有:都有:广义多广义多项式项式)(xf)(xpX)()(xpxf有限维有限维现在学习的是第8页,共75页22*)()()()(xpxfxpxfnn 不等式不等式 说明说明所求的所求的nnncccxp 1100)(满足等式:满足等式:其中其中nnncccxp 1100)(22*)()(min)()(xpxfxpxfnpnn (3.2)由于由于pn*(x)是由其系数是由其系数c0* , c1*, ,cn* 唯一确定的,因此,只要我唯一确定的,因此,只要我们求出了满足们求出了满足(3.
9、2)的的 c0* , c1*, ,cn* ,就可以求出就可以求出f(x)最佳平方逼近最佳平方逼近:nnncccxp 1100)(投影投影现在学习的是第9页,共75页(3.3)构造多元函数构造多元函数根据根据nnncccxp 1100)( ),(10ncccI baniiidxxcxf20 )()( 22)()(xpxfn 则则 baniiindxxcxfcccI2010 )()(),( 2222*)()(min)()(xpxfxpxfnpnn 这时等式这时等式(3.4)意味着意味着),(min),(10),(10ncncccIcccIi (3.5)现在学习的是第10页,共75页),(min),
10、(10),(10ncncccIcccIi (3.5),(10ncccI baniiidxxcxf20 )()( (3.3)的极小值点的极小值点。2222*)()(min)()(xpxfxpxfnpnn (3.4)也就是说,求出满足也就是说,求出满足等式等式(3.4)的的 pn*(x) ,等价于求出满足等价于求出满足等式等式(3.5)的的 c0* ,c1* , , cn* 。 由由(3.5)可知可知 c0* ,c1* , , cn* 是是 n+1 元二次函数函数元二次函数函数现在学习的是第11页,共75页而而n+1元函数元函数 baniiindxxcxfcccI2010 )()(),( 在区间在
11、区间 (-,+) 上具有上具有一阶连续导函数一阶连续导函数,因此根据,因此根据极值原理极值原理,在,在最小值点最小值点 c0* ,c1* , , cn* 处:处:nkcIk,2,1 ,0,0 dxxxcxfcIkbaniiik)()()(20 而而于是于是0)()()()(0 dxxxcdxxxfkbabainiik 即即 bakkbainiidxxxfdxxxc)()()()(0 现在学习的是第12页,共75页),()()(kibakidxxx ),1,0()()()()(0nkdxxxfdxxxcbakkbainii 利用内积利用内积),()()(kbakfdxxxf 可以得到可以得到nk
12、fckniiki, 1 , 0),(),(0 这是一个含有这是一个含有n+1个变量的方程组,具体形式为:个变量的方程组,具体形式为:nkfcccknknkk, 1 ,0),(),(),(),(1100 现在学习的是第13页,共75页再写成再写成 ),(),(),()()()()()()()()()(1010, 1,01,1, 11,00,0, 10,0nnnnnnnnfffccc ),(),(),(),(),(),(),(),(),(),(),(),(11001111101000101000nnnnnnnnnnfcccfcccfccc 矩阵形式为矩阵形式为现在学习的是第14页,共75页这是关于
13、这是关于n+1个个变量变量c0 ,c1 , , cn 的线性方程组,并称其为的线性方程组,并称其为法方程法方程组组,或者,或者正规方程组正规方程组。 解此方程组,就可以得到解此方程组,就可以得到c0* ,c1* , , cn* ,也就得到了也就得到了f(x) 的最的最佳平方逼近:佳平方逼近: )()()()(1100 xcxcxcxpnnn 0,00,10,001,01,11,11,0,1,()()()(,)()()()(,)()()()(,)nnnnnnnncfcfcf 格拉姆格拉姆( (Gram) )矩阵矩阵最佳平方逼近函数存在惟一最佳平方逼近函数存在惟一现在学习的是第15页,共75页),
14、(*22*2nnnpfpfpf )(),(*nnnppffpf, 最佳平方逼近的平方误差为最佳平方逼近的平方误差为)()()()(1100 xcxcxcxpnnn 由方程组由方程组nkfckniiki, 1 ,0),(),(0 ),(),(0knikiifc 0),(0 nikiicf 0),(0 nikkiiccf 可得可得0),(00 nkkkniiiccf 0)(* nnppf,对于最佳逼近解对于最佳逼近解现在学习的是第16页,共75页),(),(*fpffn 于是,最佳平方逼近于是,最佳平方逼近),(*22*2fpfpfnn 的平方误差为的平方误差为 niiifcf0*22),( 如果
15、如果nnxxxxx )(,)(,1)(10 )()()()(1100 xcxcxcxpnnn (3.6)则称则称(3.6)(3.6)为为 f(x) 的在的在a,b上的最佳平方逼近上的最佳平方逼近n次多项式。次多项式。 n较大时,法方程组出现病态(第六章讲,实习题六6-3Hilbert矩阵),可取基函数为正交基函数(如三角函数)现在学习的是第17页,共75页*求求连续函数最佳平方逼近的步骤连续函数最佳平方逼近的步骤* 1. 给定给定a,b上的连续函数上的连续函数f(x), 及子空间及子空间)(,),(),(10 xxxspann bakkbakikidxxxffdxxx)()(),()()(),
16、( 2. 利用内积利用内积给出法方程组给出法方程组 ),(),(),()()()()()()()()()(1010, 1,01,1, 11,00,0, 10,0nnnnnnnnfffccc 现在学习的是第18页,共75页3. 求出法方程组的解求出法方程组的解 c0* ,c1* , , cn* ,得到最佳平方逼近得到最佳平方逼近)()()()(1100 xcxcxcxpnnn 4. 求出求出平方平方误差误差 niiifcf0*222),( nibaiibadxxxfcdxxf0*2)()()( 称为称为均方均方误差误差现在学习的是第19页,共75页 例例3.13.1求求 在在 上的上的最佳平方逼
17、近最佳平方逼近一次多项式,并一次多项式,并估计误差。估计误差。xxf )( 1 ,41直接套用公式:直接套用公式:xccxp101)( 解:设解:设 令基函数为令基函数为x 10, 1 ),(),(),()()()()()()()()()(1010, 1,01,1, 11,00,0, 10,0nnnnnnnnfffccc 则需要求解的方程组为:则需要求解的方程组为:现在学习的是第20页,共75页 1411001),(),(xdx 141211),(dxx 1410),(dxxf 1411),(dxxxf ),(),()()()()(10101,11,00,10,0 ffcc 这时由这时由xfx
18、 , 110 14100),(dx 得到得到43 6421 3215 127 8031 于是得到法方程组于是得到法方程组 现在学习的是第21页,共75页解之得解之得 13588,2710*1*0 cc最佳平方逼近最佳平方逼近一次多项式为一次多项式为 xxp135882710)(1 12732154310 cc80316421321510 cc nibaiibadxxxfcdxxf0*2)()()( 关于误差,由误差估计式关于误差,由误差估计式),(22222nnpffpf 现在学习的是第22页,共75页得到得到 10*22),()(iiibafcdxxf 1412)(dxxf),(),(110
19、0 fcfc 141xdx3215 1272710 803113588 00010803. 0 31010803. 0 25259259. 021604938. 0 现在学习的是第23页,共75页 例例3.2 求求 f(x)=arctanx 在在0,1 上的最佳平方逼近二次多项式,上的最佳平方逼近二次多项式,并估计误差。并估计误差。解:设解:设 P2(x)=c0+ c1 x +c2x2 ,则则2210, 1xx ),(),(),()()()()()()()()()(2102102,22,12,01,21,11,00,20,10,0 fffccc 需要写出法方程组需要写出法方程组 这时这时1),
20、(1000 dx 21),(),(101001 xdx 现在学习的是第24页,共75页2ln214arctan),(100 xdxf214arctan),(101 xdxxf41),(),(1031221 dxx 51),(10422 dxx 31),(),(1022002 dxx 31),(10211 dxx 62ln6112arctan),(1022 xdxxf现在学习的是第25页,共75页法方程组为法方程组为 2ln616142142ln21451413141312131211210 ccc解得:解得:288627. 0,080458. 1,005195. 0*2*1*0 ccc且且2*
21、2288627. 0080458. 1005195. 0)(xxxp 现在学习的是第26页,共75页本节本节(2)小结小结1.1.何为连续函数最佳平方逼近多项式?何为连续函数最佳平方逼近多项式? bandxxffspanbaCxf)(,)(2210 如何计算连续函数的最佳平方逼近如何计算连续函数的最佳平方逼近n次多项式?次多项式?3. 如何估计最佳平方逼近如何估计最佳平方逼近n次多项式的误差?次多项式的误差?4. 练习:试求函数练习:试求函数 f(x)=1/x 在区间在区间1, 3上的最佳平方逼近一次多上的最佳平方逼近一次多项式并估计误差。项式并估计误差。现在学习的是第27页,共75页3 3
22、离散数据拟合的最小二乘法离散数据拟合的最小二乘法 当我们得到的实验数据是准确值时,可以用代数插值的方法,求当我们得到的实验数据是准确值时,可以用代数插值的方法,求出原函数的近似表达式。出原函数的近似表达式。经常由观察或测试可得到经常由观察或测试可得到 y=f(x)的一组离散数据的一组离散数据: 但是,这组离散数据由观察或测试得到,往往并非完全精确,如但是,这组离散数据由观察或测试得到,往往并非完全精确,如果用插值的方法来逼近,效果就不会太好果用插值的方法来逼近,效果就不会太好。 这时可以考虑用这时可以考虑用最小二乘法最小二乘法进行数据拟合,给出逼近曲线。其进行数据拟合,给出逼近曲线。其特点特点
23、是:是:所求的逼近曲线不一定经过这些离散点,但却尽可能的靠所求的逼近曲线不一定经过这些离散点,但却尽可能的靠近原曲线近原曲线。( xi , yi ), yi=f(xi) , i=0,1,m离散点的最佳平方逼近离散点的最佳平方逼近-几何上称为几何上称为曲线拟合曲线拟合(curve fitting)现在学习的是第28页,共75页最小二乘拟合曲线最小二乘拟合曲线现在学习的是第29页,共75页三次样条函数插值曲线三次样条函数插值曲线现在学习的是第30页,共75页LagrangeLagrange插值曲线插值曲线现在学习的是第31页,共75页一、数据拟合的最小二乘法的思想一、数据拟合的最小二乘法的思想 已
24、知离散数据:已知离散数据: ( xi , yi ), i=0,1,2,m ,假设我们用函数假设我们用函数 逼近函数逼近函数f(x),则两个函数在每一个点,则两个函数在每一个点xi都会产生一个误差:都会产生一个误差:*()()()iiiiixf xxy ., 2 , 1 , 0mi 我们希望所求的逼近函数在每一个我们希望所求的逼近函数在每一个xi 处所产生的误差处所产生的误差i 的绝对的绝对值值|i |达最小达最小。但这样分别考虑太困难,所以我们应考虑整体误差。但这样分别考虑太困难,所以我们应考虑整体误差 miim02221202 *20()miiixy *( )x 现在学习的是第32页,共75
25、页应该使应该使2222012*200()mmmiiiiixy L L整体达最小整体达最小(误差的平方和最小)(误差的平方和最小)。 通过这种通过这种度量标准度量标准求得拟合曲线的方法,就称作求得拟合曲线的方法,就称作曲线拟合的最曲线拟合的最小二乘法小二乘法( (最小二乘逼近最小二乘逼近) )。 按照以上思想求按照以上思想求 f(x) 的拟合曲线(的拟合曲线(逼近函数逼近函数)时,首先需要)时,首先需要确定出确定出 f(x) 所属的函数类,然后进一步求出具体函数,具体按照以所属的函数类,然后进一步求出具体函数,具体按照以下步骤进行下步骤进行。221202m 现在学习的是第33页,共75页二、最小
26、二乘法拟合曲线的步骤二、最小二乘法拟合曲线的步骤第二步:根据图示判断点第二步:根据图示判断点(xi,yi)所反映的函数类,确定曲线所反映的函数类,确定曲线 所属的所属的函数类型函数类型,例如,例如多项式函数类、三角函数多项式函数类、三角函数 类、指数函数类、对数函数类类、指数函数类、对数函数类等。假设所确定的等。假设所确定的 函数类的基函数为函数类的基函数为第一步:根据如下已知点的坐标,在坐标系里描点第一步:根据如下已知点的坐标,在坐标系里描点miyxii, 2 , 1 , 0),( ,10nspan 则所求的函数可以表示为:则所求的函数可以表示为:*0( )( )njjjxcx 只要确定了系
27、数,就可以求出拟合曲线。只要确定了系数,就可以求出拟合曲线。经验公式经验公式现在学习的是第34页,共75页第三步:对于其整体误差第三步:对于其整体误差所求的解应该使以上二次函数所求的解应该使以上二次函数达到极小达到极小,由极值原理应有:,由极值原理应有:22*200()mmiiiiixy minjiijjyxc020)( 令:令: minjiijjnyxccccI02010)(),( nkcIk,2,1 ,0,0 现在学习的是第35页,共75页这样由这样由nkcIk,2,1 ,0,0 minjiijjnyxccccI02010)(),( 及及0)()(200 ikminjiijjkxyxccI
28、 求得求得整理为整理为0)()()(000 miikiminjikijjxyxxc miikinjjmiikijxycxx000)()()( 现在学习的是第36页,共75页 miikinjjmiikijxycxx000)()()( 令令 miikijkjxx0)()(),( miikikxyf0)(),( 则有则有nkfckjnjkj, 1 ,0),(),(0 这样就给出了求解这样就给出了求解 方程组方程组:nccc,10离散内积离散内积现在学习的是第37页,共75页 ),(),(),()()()()()()()()()(1010,1,0, 11, 10, 1,01,00,0nnnnnnnnf
29、ffccc 同样称其为同样称其为。解法方程组求得。解法方程组求得*1*0,nccc便得到最小二乘拟合曲线便得到最小二乘拟合曲线为了便于求解,我们再对为了便于求解,我们再对法方程组法方程组的导出作进一步分析。的导出作进一步分析。*0()()njjjxcx 现在学习的是第38页,共75页得到得到法方程组法方程组第第 j 行的元素为:行的元素为: miikijkjxx0)()(),( )()()()(,),(),(1010mkkkmjjjxxxxxx ),(),(),(10njjj )()()()()()()()()()(,),(),(0111100010010mnmnmnnmjjjxxxxxxxx
30、xxxx 由由), 1 , 0(nk 现在学习的是第39页,共75页于是法方程组的于是法方程组的系数矩阵系数矩阵可写为:可写为: )()()()()()()()()(101110101000mnnnmmxxxxxxxxx )()()()()()()()()(,1,0,11,10,11,01,00,0nnnnn )()()()()()()()()(101111000100mnmmnnxxxxxxxxx 将右端第二个矩阵记为:将右端第二个矩阵记为:现在学习的是第40页,共75页 )()()()()()()()()(101111000100mnmmnnxxxxxxxxxA 0,00,10,1,01,
31、11,0,1,()()()()()()()()()nnTnnnnA A 则则系数矩阵系数矩阵可以表示为:可以表示为:此外,关于法方程组的此外,关于法方程组的右端项右端项(常数项)(常数项):现在学习的是第41页,共75页由由), 1 ,0()(),(0nkxyfmiikjk mmkkkyyyxxx1010)(,),(),( 得到得到 ),(),(),(10nfff )()()()()()()()()(101110101000mnnnmmxxxxxxxxx myyy10YAT 现在学习的是第42页,共75页最后可以将最后可以将法方程组法方程组表示为:表示为:YAACATT 其中其中1, 1101
32、111000100)()()()()()()()()( nmmnmmnnxxxxxxxxxA myyyY10 ncccC10这样可以较快写出这样可以较快写出法方程组法方程组来。来。现在学习的是第43页,共75页如果所求得最小二乘拟合函数为如果所求得最小二乘拟合函数为n次多项式次多项式,则:,则:nnxx , 110 nmmnnxxxxxxA1111100 nmnnmTxxxxxxA1010111这时这时:YAACATT ncccC10 myyyY10误差误差: miiimiiimiiyxfyy0202*022)()( minjiijjyxc020*)( 现在学习的是第44页,共75页三、三、数
33、值例子数值例子 例例3.4 根据如下根据如下离散数据离散数据拟合曲线并估计误差拟合曲线并估计误差 x 1 2 3 4 6 7 8 y 2 3 6 7 5 3 2解解: step1: 描点描点 1 2 3 4 5 6 7 8 7 6 5 4 3 2 1* step2: 从图形可以看出拟合曲从图形可以看出拟合曲线为线为一条抛物线一条抛物线:2210 xcxccy step3: 根据基函数给出法方程根据基函数给出法方程组组现在学习的是第45页,共75页 nmnnmTxxxxxxA1010111由由得到得到 262120610111xxxxxxAT即即 644936169418764321111111
34、1TA TY2357632 又又求得求得 81471171179117117931179317AAT YAT 63512128法方程组为法方程组为:01273117931179117117911718147ccc 63512128现在学习的是第46页,共75页01273117931179117117911718147ccc 63512128解得解得:3864. 0,4321. 3,3185. 1210 ccc求得拟合二次多项式函数求得拟合二次多项式函数223864. 04321. 33185. 1)(xxxp 误差为:误差为: 60222)(iiiyxp 先计算出拟合函数值:先计算出拟合函数值
35、:得到:得到:0000. 32 或者:或者:7321. 1 xi1234678 p21.72724.00015.50026.22755.36373.77261.4087现在学习的是第47页,共75页 解:在坐标轴描点解:在坐标轴描点例例 3.5 根据如下离散数据拟合曲线并估计误差根据如下离散数据拟合曲线并估计误差 xi -3 -2 -1 0 1 2 3 yi 4 2 3 0 - 1 -2 -5从离散点的图形上从离散点的图形上看不出看不出原函数属于哪一类型,一原函数属于哪一类型,一般多采用多项式拟合,在般多采用多项式拟合,在此我们用二次多项式拟合。此我们用二次多项式拟合。22102)(xcxcc
36、xp 现在学习的是第48页,共75页根据如下离散数据给出法方程组根据如下离散数据给出法方程组 xi -3 -2 -1 0 1 2 3 yi 42 3 0 - 1 -2 -5这时这时 941014932101231111111TA TY5210324 求得求得 19602802802807AAT YAT 7391得到法方程组得到法方程组 739119602802802807210ccc现在学习的是第49页,共75页所求二次拟合曲线为所求二次拟合曲线为 2*28411283932)(xxxp 拟合曲线的均方偏差为拟合曲线的均方偏差为759. 1)(602*2 iiiyxp 012702810280
37、392801927ccc 由由8411,2839,32210 ccc解得:解得:现在学习的是第50页,共75页 拟合曲线拟合曲线在实际中有广泛应用,特别在在实际中有广泛应用,特别在实验、统计实验、统计等方面是如此。等方面是如此。通常,由一组试验或观测取得数据,这些数据先在平面上标出,然后通常,由一组试验或观测取得数据,这些数据先在平面上标出,然后确定拟合曲线的类型。确定拟合曲线的类型。 例如,电阻与导线的长度呈线性关系,如何确定具体的线性表示例如,电阻与导线的长度呈线性关系,如何确定具体的线性表示式,可通过对不同长度的导线测试电阻所得数据作拟合曲线而得式,可通过对不同长度的导线测试电阻所得数据
38、作拟合曲线而得。 对于某些具体问题,有时对于某些具体问题,有时拟合曲线的类型拟合曲线的类型是是,所对应的,所对应的公式也叫做公式也叫做经验公式经验公式,只需确定曲线的,只需确定曲线的具体参数具体参数即可即可 。 下面给出一个已知经验公式,如何确定其中参数的例子下面给出一个已知经验公式,如何确定其中参数的例子。现在学习的是第51页,共75页例例3.6 对如下数据作形如对如下数据作形如 y = aeb x 的拟合曲线的拟合曲线 解解: : 由于函数集合由于函数集合=aeb x | a,b R 不是一线性空间,因此直不是一线性空间,因此直接作拟合曲线是困难的。接作拟合曲线是困难的。 为了便于计算,在
39、函数为了便于计算,在函数 y = a eb x 两端分别取两端分别取对数对数得到得到这时,需要将这时,需要将原函数表原函数表进行转换如下进行转换如下令令 z= ln y , A = ln a , B=b,则则 z=A+Bxln y = ln a+bx xi12345678 yi15.320.527.436.649.165.687.8117.6现在学习的是第52页,共75页xxx )(, 1)(10 yzln 对对 z=A+Bx 作线性拟合曲线,取作线性拟合曲线,取这时这时 8765432111111111TD 20436368DDT Tz77. 448. 418. 489. 360. 331.
40、 302. 372. 2 14.14798.29zDT xi12345678 yi15.320.527.436.649.165.687.8117.6 xi12345678 zi2.723.023.313.603.894.184.484.77现在学习的是第53页,共75页得正则方程组得正则方程组 14.14798.2920436368BA解得解得 29. 0,44. 2 BA29. 0,44.11 BbeaA于是有于是有xey29.0*44.11 拟合曲线为:拟合曲线为:现在学习的是第54页,共75页例例3.7 3.7 利用最小二乘法解下列超定(矛盾)方程组利用最小二乘法解下列超定(矛盾)方程组
41、 2531252132321321321321xxxxxxxxxxxx 解解: :超定方程组很难得到一组值使得每一个方程都成立。一般情超定方程组很难得到一组值使得每一个方程都成立。一般情况下用况下用尽量使每一个方程都近似成立尽量使每一个方程都近似成立的的一组值一组值作为超定方程的近似解。作为超定方程的近似解。这时最小二乘法就可以用于解这类方程这时最小二乘法就可以用于解这类方程。 采用最小二乘法,考虑如下的误差函数:采用最小二乘法,考虑如下的误差函数:独立方程数独立方程数多于变量数多于变量数现在学习的是第55页,共75页 2531252132321321321321xxxxxxxxxxxx232
42、1232123212321321)253()1252()13()2(),( xxxxxxxxxxxxxxxI所求的所求的最小二乘最小二乘解应该满足解应该满足3 , 2 , 1, 0 ixIi现在学习的是第56页,共75页2321232123212321321)253()1252()13()2(),( xxxxxxxxxxxxxxxI同理可得同理可得:)319915(2321 xxx)13(2)2(23213211 xxxxxxxI)253(32) 1252(22321321 xxxxxx)2369(23212 xxxxI)53119(23213 xxxxI令偏导数等于零令偏导数等于零现在学习的
43、是第57页,共75页0)319915(23211 xxxxI0)2369(23212 xxxxI0)53119(23213 xxxxI法方程组为:法方程组为: 5235119136919915321xxx解此方程组得最小二乘解:解此方程组得最小二乘解: x1= -0.3141 x2= 0.1333 x3=0.0269现在学习的是第58页,共75页关于法方程组的获得,可以用更简便的方法,先将方程组用矩阵表关于法方程组的获得,可以用更简便的方法,先将方程组用矩阵表示示 2531252132321321321321xxxxxxxxxxxx 2112513252131111321xxxYAX YAAX
44、ATT 简化为简化为 两边同乘以系数矩阵的转置矩阵,就得到所需要的法方程组两边同乘以系数矩阵的转置矩阵,就得到所需要的法方程组: 具体计算结果如下:具体计算结果如下:现在学习的是第59页,共75页 2112521115313211513252131111521115313211321xxx 5235119136919915321xxx与前面计算的法方程组相同,解值得最小二乘解与前面计算的法方程组相同,解值得最小二乘解x1= -0.3141 x2= 0.1333 x3=0.0269现在学习的是第60页,共75页最小二乘曲线拟合最小二乘曲线拟合 矛盾方程组求最小二乘解矛盾方程组求最小二乘解mmnn
45、mmnnnnyxCxCxCyxCxCxCyxCxCxC)()()()()()()()()(11001111110000011000yAC 200min()mnijjiijyCx yAACATT矛盾方程组的最小二乘解矛盾方程组的最小二乘解现在学习的是第61页,共75页本节本节(3)问题问题1、最小二乘法拟合曲线的步骤是什么?最小二乘法拟合曲线的步骤是什么? 2、如何根据离散数据写出法方程组?如何根据离散数据写出法方程组? nmnnmTxxxxxxA1010111 )()()()()()()()()(110110101000mnnmnmTxxxxxxxxxA ncccC10 myyyY10YAAC
46、ATT 现在学习的是第62页,共75页2*20()miiixy minjiijjyxc020)( 3、最小二乘法拟合曲线的平方误差最小二乘法拟合曲线的平方误差如何计算?如何计算?4、确定经验公式确定经验公式 中的参数,使之中的参数,使之 与下列数据拟合与下列数据拟合21bxaxcxy xi 0.1 0.2 0.3 0.4 0.5 0.6 yi 0.1720.323 0.484 0.690 1.000 1.579现在学习的是第63页,共75页解解: : 该问题的求解,可以将其化为线性函数进行该问题的求解,可以将其化为线性函数进行由由21bxaxcxy 得到得到xcbcaxcy 111令令yz1
47、cc11 cac 0cbc 2xxxxx )(,1)(,1)(210 则则)()()(221100 xcxcxcz 则则1021zccc xx= =+ + +再令再令现在学习的是第64页,共75页函数值转化为函数值转化为 xi 0.1 0.2 0.3 0.4 0.5 0.6 yi 0.172 0.323 0.484 0.690 1.000 1.579 yz1 xi 0.1 0.2 0.3 0.4 0.5 0.6 yi 5.814 3.096 2.066 1.449 1.000 0.633这时,法方程组的系数矩阵按下式计算这时,法方程组的系数矩阵按下式计算现在学习的是第65页,共75页 )()(
48、)()()()()()()(521202511101501000 xxxxxxxxxAT 543210543210111111111111xxxxxxxxxxxx 6 . 05 . 04 . 03 . 02 . 01 . 06 . 015 . 014 . 013 . 012 . 011 . 01111111 633.0000.1449.1066.2096.3814.5z现在学习的是第66页,共75页由由 6 . 05 . 04 . 03 . 02 . 01 . 06 . 015 . 014 . 013 . 012 . 011 . 01111111TA计算出计算出 633.0000.1449.1
49、066.2096.3814.5z 91. 061 . 2614.1495 .241 . 25 .246AAT 28. 319.8706.14zAT法方程组法方程组 28. 319.8706.1491. 061 . 2614.1495 .241 . 25 .246210ccc现在学习的是第67页,共75页解得解得 c0 =6.0631 c1 =-0.0474 c2 =-10.0748cc11 cac 0cbc 2利用利用得到得到0970.210474.0111 cc5481.212)0970.21()0748.10(2 ccb最后得到最后得到21bxaxcxy 25481.2129132.127
50、10970.21xxxy 9132.127)0970.21()0634. 6(0 cca现在学习的是第68页,共75页第三章第三章 最佳逼近小结最佳逼近小结一、一、最佳逼近问题最佳逼近问题 连续函数空间连续函数空间: X=Ca,b 子子 函函 数数 空空 间间: X 两种度量标准两种度量标准: | f |2 及及 | f |二、连续函数的最佳平方逼近二、连续函数的最佳平方逼近 bandxxffspanbaCxf)(,)(2210 1. 三要素三要素现在学习的是第69页,共75页2. 最佳平方逼近及法方程组最佳平方逼近及法方程组22*)()()()(xpxfxpxfnn ),(),(),()()