《第5章曲线拟合优秀PPT.ppt》由会员分享,可在线阅读,更多相关《第5章曲线拟合优秀PPT.ppt(26页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第5章曲线拟合现在学习的是第1页,共26页 5.1 5.1 曲线拟合的最小二乘法曲线拟合的最小二乘法 如果已知函数如果已知函数f(x)f(x)在若干点在若干点x xi i(i=1,2,(i=1,2,n),n)处处的值的值y yi i,便可根据插值原理来建立插值多项式作为便可根据插值原理来建立插值多项式作为f(x)f(x)的近的近似。但往往会遇到这样一种情况,即节点上的函数值并不似。但往往会遇到这样一种情况,即节点上的函数值并不是很精确的,这些函数值是由实验或观测得到的数据,不是很精确的,这些函数值是由实验或观测得到的数据,不可避免地带有测量误差,如果要求所得的近似函数曲线精可避免地带有测量误差
2、,如果要求所得的近似函数曲线精确无误地通过所有的点确无误地通过所有的点(x(xi i,y,yi i),),就会使曲线保留着一切测试就会使曲线保留着一切测试误差。当个别数据的误差较大时误差。当个别数据的误差较大时,插值效果显然是不理想的。此插值效果显然是不理想的。此外外,由实验或观测提供的数据个数往往很多由实验或观测提供的数据个数往往很多,如果用插值法如果用插值法,势必势必得到次数较高的插值多项式,这样计算起来很烦琐。得到次数较高的插值多项式,这样计算起来很烦琐。现在学习的是第2页,共26页为此为此,我们希望从给定的数据我们希望从给定的数据(x(xi i,y,yi i)出发出发,构造一个构造一个
3、近似函数近似函数 ,不要求函数不要求函数 完全通过所有的数完全通过所有的数据点,只要求所得的近似曲线能反映数据的基本趋据点,只要求所得的近似曲线能反映数据的基本趋势,如图势,如图5-75-7所示。所示。图图5-1 5-1 曲线拟合示意图曲线拟合示意图 换句话说换句话说:求一条曲线求一条曲线,使数据点均在离此曲线的上方或使数据点均在离此曲线的上方或下方不远处下方不远处,所求的曲线称为拟合曲线所求的曲线称为拟合曲线,它既能反映数据它既能反映数据的总体分布的总体分布,又不至于出现局部较大的波动又不至于出现局部较大的波动,更能反映被更能反映被逼近函数的特性逼近函数的特性,使求得的逼近函数与已知函数从总
4、体上使求得的逼近函数与已知函数从总体上来说其偏差按某种方法度量达到最小来说其偏差按某种方法度量达到最小,这就是最小二乘法。这就是最小二乘法。现在学习的是第3页,共26页 与与函函数数插插值值问问题题不不同同,曲曲线线拟拟合合不不要要求求曲曲线线通通过过所所有有已已知知点点,而而是是要要求求得得到到的的近近似似函函数数能能反反映映数数据据的的基基本本关关系系。在某种意义上在某种意义上,曲线拟合更有实用价值。曲线拟合更有实用价值。在对给出的实验在对给出的实验(或观测或观测)数据数据作作曲曲线线拟拟合合时时,怎怎样样才才算算拟拟合合得得最最好好呢呢?一一般般希希望望各各实实验验(或或观观测测)数数据
5、据与与拟拟合合曲曲线线的的偏偏差差的的平平方方和和最最小小,这这就就是最小二乘原理。是最小二乘原理。两种逼近概念两种逼近概念:插值插值:在节点处函数值相同在节点处函数值相同.拟合拟合:在数据点处误差平方和最小在数据点处误差平方和最小现在学习的是第4页,共26页 函数插值是插值函数函数插值是插值函数P(x)P(x)与被插函数与被插函数f(x)f(x)在节点在节点处函数值相同处函数值相同,即即 而曲线拟而曲线拟合函数合函数 不要求严格地通过所有不要求严格地通过所有 就是说拟合函数就是说拟合函数 在在x xi i处的偏差处的偏差(亦称残差)亦称残差)不都严格地等于零。但是不都严格地等于零。但是,为了
6、使近似曲线能尽量反为了使近似曲线能尽量反映所给数据点的变化趋势映所给数据点的变化趋势,要求要求 按某种度量标准按某种度量标准最小。若记向量最小。若记向量 ,即要求向量即要求向量 的某种范的某种范数数 最小最小,如如 的的1-范数范数 或或-范数范数即即 现在学习的是第5页,共26页或或最小。为了便于计算、分析与应用,通常要求最小。为了便于计算、分析与应用,通常要求的的2-2-范数范数 即即 为最小。这种要求误差(偏差)平方和最小的拟合称为为最小。这种要求误差(偏差)平方和最小的拟合称为曲线拟合的最小二乘法。曲线拟合的最小二乘法。现在学习的是第6页,共26页(1)直线拟合直线拟合设设已已知知数数
7、据据点点 ,分分布布大大致致为为一一条条直直线线。作作拟拟合合直直线线 ,该该直直线线不不是是通通过过所所有的数据点有的数据点 ,而是使偏差平方和而是使偏差平方和为最小,其中每组数据与拟合曲线的偏差为为最小,其中每组数据与拟合曲线的偏差为根据最小二乘原理,应取根据最小二乘原理,应取 和和 使使 有极小有极小值,故值,故 和和 应满足下列条件:应满足下列条件:现在学习的是第7页,共26页即得如下正规方程组即得如下正规方程组(5.45)例例5.21 5.21 设有某实验数据如下:设有某实验数据如下:1 2 3 4 1 2 3 4 1.36 1.37 1.95 2.28 1.36 1.37 1.95
8、 2.28 14.094 16.844 18.475 20.963 14.094 16.844 18.475 20.963 用最小二乘法求以上数据的拟合函数用最小二乘法求以上数据的拟合函数 解解:把表中所给数据画在坐标纸上把表中所给数据画在坐标纸上,将会看到数据点的分将会看到数据点的分布可以用一条直线来近似地描述布可以用一条直线来近似地描述,设所求的设所求的 现在学习的是第8页,共26页拟合直线为拟合直线为 记记x x1 1=1.36,=1.36,x x2 2=1.37,=1.37,x x3 3=1.95=1.95x x4 4=2.28,y=2.28,y1 1=14.094,y=14.094,
9、y2 2=16.844,y=16.844,y3 3=18.475,y=18.475,y4 4=20.963=20.963则正规方程组为则正规方程组为其中其中 将以上数据代入上式正规方程组将以上数据代入上式正规方程组,得得现在学习的是第9页,共26页(2 2)多项式拟合)多项式拟合 有有时时所所给给数数据据点点的的分分布布并并不不一一定定近近似似地地呈呈一一条条直直线线,这这时时仍仍用用直直线线拟拟合合显显然然是是不不合合适适的的,可可用用多多项项式式拟拟合合。对对于于给给定定的一组数据的一组数据寻求次数不超过寻求次数不超过m(mN)m(mN)的多项式的多项式 来拟合所给定的数据,与线性拟合类似
10、,使偏差的来拟合所给定的数据,与线性拟合类似,使偏差的平方和平方和为最小为最小现在学习的是第10页,共26页由由于于Q Q可可以以看看作作是是关关于于 (j=0,1,2,j=0,1,2,m)m)的的多多元元函函数数,故故上上述述拟拟合合多多项项式式的的构构造造问问题题可可归归结结为多元函数的极值问题。令为多元函数的极值问题。令得得即有即有现在学习的是第11页,共26页这是关于系数这是关于系数 的线性方程组,通常称为正规方的线性方程组,通常称为正规方程组。可以证明,正规方程组有唯一解。程组。可以证明,正规方程组有唯一解。例例5.22 5.22 设某实验数据如下:设某实验数据如下:1 2 3 4
11、5 6 1 2 3 4 5 6 0 1 2 3 4 5 0 1 2 3 4 5 5 2 1 1 2 3 5 2 1 1 2 3用最小二乘法求一个多项式拟合这组数据用最小二乘法求一个多项式拟合这组数据 (5.46)(5.46)现在学习的是第12页,共26页解:将已给数据点描在坐标系中,可以看出这些点解:将已给数据点描在坐标系中,可以看出这些点 接近一条抛物线,因此设所求的多项式为接近一条抛物线,因此设所求的多项式为由法方程组(由法方程组(5.465.46),经计算得经计算得 N=6,其法方程组为其法方程组为 解之得解之得所求的多项式为所求的多项式为现在学习的是第13页,共26页(3 3)可化为线
12、性拟合的非线性拟合)可化为线性拟合的非线性拟合 有些非线性拟合曲线可以通过适当的变量替换转有些非线性拟合曲线可以通过适当的变量替换转化为线性曲线,从而用线性拟合进行处理,对于一个化为线性曲线,从而用线性拟合进行处理,对于一个实际的曲线拟合问题,一般先按观测值在直角坐标平实际的曲线拟合问题,一般先按观测值在直角坐标平面上描出散点图,看一看散点的分布同哪类曲线图形面上描出散点图,看一看散点的分布同哪类曲线图形接近,然后选用相接近的曲线拟合方程。再通过适当接近,然后选用相接近的曲线拟合方程。再通过适当的变量替换转化为线性拟合问题,按线性拟合解出后的变量替换转化为线性拟合问题,按线性拟合解出后再还原为
13、原变量所表示的曲线拟合方程。再还原为原变量所表示的曲线拟合方程。表表5-4列举了几类经适当变换后化为线性拟合求列举了几类经适当变换后化为线性拟合求解的曲线拟合方程及变换关系解的曲线拟合方程及变换关系现在学习的是第14页,共26页表表5-45-4 曲线拟合方程曲线拟合方程 变换关系变换关系 变换后线性拟合方程变换后线性拟合方程现在学习的是第15页,共26页几种常见的数据拟合情况。图几种常见的数据拟合情况。图(a)表示数据接近于表示数据接近于直线,故宜采用线性函数直线,故宜采用线性函数 拟合;图拟合;图(b)(b)数数据分布接近于抛物线。可采据分布接近于抛物线。可采拟合;拟合;二次多项式二次多项式
14、 拟合;拟合;(a)(a)(b)(b)现在学习的是第16页,共26页图图(c)(c)的数据分布特点是开始曲线上升较快随后逐的数据分布特点是开始曲线上升较快随后逐渐变慢渐变慢,宜采用双曲线型函数宜采用双曲线型函数 或指数型函或指数型函数数 图图(d)(d)的数据分布特点是开始曲线下降快的数据分布特点是开始曲线下降快,随随后逐渐变慢后逐渐变慢,宜采用宜采用 或或 或或 等数据拟合。等数据拟合。(c)(d)现在学习的是第17页,共26页例例5.13 5.13 设某实验数据如下设某实验数据如下:1 2 3 4 5 6 1 2 3 4 5 6 0 0.5 1 1.5 2 2.5 0 0.5 1 1.5
15、2 2.5 2.0 1.0 0.9 0.6 0.4 0.3 2.0 1.0 0.9 0.6 0.4 0.3用最小二乘法求拟合曲线用最小二乘法求拟合曲线 解解:将已给数据点描在坐标系中下图所示将已给数据点描在坐标系中下图所示,可以看出这些可以看出这些点接近指数曲线点接近指数曲线,因而可取指数函数因而可取指数函数作为拟合函数作为拟合函数.对函数对函数两边取对数得两边取对数得.令令 得得 则就得到线性模型则就得到线性模型 现在学习的是第18页,共26页则正规方程组为则正规方程组为其中其中将以上数据代入上式正规方程组,得将以上数据代入上式正规方程组,得解得解得由由 得得 ,由由 得得于是得到拟合指数函
16、数为于是得到拟合指数函数为 现在学习的是第19页,共26页 (4 4)超定方程组的最小二乘解)超定方程组的最小二乘解设线性方程组设线性方程组Ax=bAx=b中,中,,b b是是mm维已知向量,维已知向量,x x是是n n维解向量,当维解向量,当mmn n,即方程组中方程的个数,即方程组中方程的个数多于未知量的个数时,称此方程组为超定方程组。多于未知量的个数时,称此方程组为超定方程组。一般来说,超定方程组无解(此时为矛盾方程组一般来说,超定方程组无解(此时为矛盾方程组),),这时需要寻求方程组的一个这时需要寻求方程组的一个“最近似最近似”的解的解.记记 ,称使称使 ,即即 最小的解最小的解 为方
17、为方程组程组Ax=bAx=b的最小二乘解。的最小二乘解。现在学习的是第20页,共26页定理定理5.6 5.6 是是Ax=bAx=b的最小二乘解的充分必要条件为的最小二乘解的充分必要条件为 是是 的解的解.证明证明:充分性充分性若存在若存在n维向量维向量 ,使使 任取一任取一n维向量维向量 ,令令 ,则则 ,且且所以所以 是是Ax=bAx=b的最小二乘解。的最小二乘解。现在学习的是第21页,共26页必要性必要性:r r的第的第i i个分量为个分量为,记记由多元函数求极值的必要条件,可得由多元函数求极值的必要条件,可得即即 由线性代数知识知由线性代数知识知,上式写成矩阵形式为上式写成矩阵形式为 它
18、是关于的线性方程组它是关于的线性方程组,也就是我们所说的正规方程组或也就是我们所说的正规方程组或法方程组。可以证明如果法方程组。可以证明如果A A是列满秩的是列满秩的,则方程组则方程组(5.485.48)存在惟一解)存在惟一解 (5.48)现在学习的是第22页,共26页例例5.24求超定方程组求超定方程组的最小二乘解的最小二乘解,并求并求误差平方和。误差平方和。解解:方程组写成矩阵形式为方程组写成矩阵形式为正规方程组为正规方程组为现在学习的是第23页,共26页即即解得解得 此时此时 误差平方和为误差平方和为 现在学习的是第24页,共26页 我们已经讨论了最小二乘意义下的曲线拟合问题我们已经讨论
19、了最小二乘意义下的曲线拟合问题,由于方程比较简单由于方程比较简单,实际中应用广泛实际中应用广泛,特别是因为任何连特别是因为任何连续函数至少在一个较小的邻域内可以用多项式任意逼近续函数至少在一个较小的邻域内可以用多项式任意逼近,因此用多项式作数据拟合因此用多项式作数据拟合,有它的特殊重要性。从而在有它的特殊重要性。从而在许多实际问题中许多实际问题中,不论具体函数关系如何不论具体函数关系如何,都可用多项式都可用多项式作近似拟合作近似拟合,但用多项式拟合时但用多项式拟合时,当当n n较大时较大时(n n7),7),其方其方程的系数矩阵的条件数一般较大程的系数矩阵的条件数一般较大,所以往往是病态的所以往往是病态的,因而给求解工作带来了困难。因而给求解工作带来了困难。现在学习的是第25页,共26页这组基函数就称为点集这组基函数就称为点集 上的正交函数集。上的正交函数集。这种情况下方程组的系数矩阵是对角阵,显然容易求解。这种情况下方程组的系数矩阵是对角阵,显然容易求解。关于正交函数的求法本书从略,读者可参考其它书籍关于正交函数的求法本书从略,读者可参考其它书籍 近年来近年来,产生一些直接解线性最小二乘问题的新方产生一些直接解线性最小二乘问题的新方法,例如正交三角化方法。另外法,例如正交三角化方法。另外,如果能选取基函数如果能选取基函数 使得使得 时时,现在学习的是第26页,共26页