《第5章线性参数的最小二乘法处理.ppt》由会员分享，可在线阅读，更多相关《第5章线性参数的最小二乘法处理.ppt（77页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第第五五章章 线性参数的最小二乘法处理线性参数的最小二乘法处理 最小二乘法是一种最小二乘法是一种数学优化数学优化技术，它通过使技术，它通过使误差的平方和最小找到一组数据的最佳函数匹误差的平方和最小找到一组数据的最佳函数匹配。配。最小二乘法通常用于最小二乘法通常用于曲线拟合曲线拟合（用实验方法（用实验方法拟定经验公式）、拟定经验公式）、获取参数的最可信赖估计获取参数的最可信赖估计、组合测量的数据处理组合测量的数据处理及及回归分析回归分析等。等。按照处理方法的不同，最小二乘法有按照处理方法的不同，最小二乘法有经典最经典最小二乘法小二乘法（即（即代数法代数法）和）和矩阵最小二乘法矩阵最小二乘法。第第
2、一一节节 最小二乘法原理最小二乘法原理 第第二二节节 正规方程正规方程 第第三三节节 精度估计精度估计 第四节第四节 组合测量的最小二乘法处理组合测量的最小二乘法处理第一节第一节 最小二乘法原理最小二乘法原理 为为了了确确定定t个个不不可可直直接接测测量量的的未未知知量量X1,X2,Xt的的估估计计量量x1,x2,xt,可可对对与与该该t个个未未知知量量有有函函数数关关系系的的直直 接接 测测 量量 量量 Y进进 行行 n次次 测测 量量，得得 到到 测测 量量 数数 据据l1,l2,ln,并设有如下函数关系：并设有如下函数关系：若若n=t，则则可可由由上上式式直直接接求求得得未未知知量量。由
3、由于于测测量量数数据据不不可可避避免免地地包包含含着着测测量量误误差差，所所求求得得的的结结果果x1,x2,xt也必定包含一定的误差。也必定包含一定的误差。为为提提高高所所得得结结果果的的精精度度，应应适适当当增增加加测测量量次次数数n，以以便便利利用用补补偿偿性性减减小小随随机机误误差差的的影影响响，因因而而一一般般取取nt。可可见见此此时时不不能能直直接接由由方方程程组组（5-1）解解得得x1,x2,xt。问问题题：nt时时如如何何由由测测量量数数据据l1,l2,ln,获获得得最最可可信赖的结果信赖的结果x1,x2,xt？按按照照最最小小二二乘乘法法原原理理：最最可可信信赖赖值值应应在在使
4、使残残差差平方和最小的条件下求得。平方和最小的条件下求得。设设直直接接测测量量量量Y1,Y2,Yn的的估估计计量量分分别别为为y1,y2,yn，则有如下关系：，则有如下关系：而测量数据而测量数据l1,l2,ln的残差应为：的残差应为：即：即：式（式（5-3）、式（）、式（5-4）称为）称为误差方程式（残差方程式）误差方程式（残差方程式）。若若数数据据l1,l2,ln的的测测量量误误差差无无偏偏（即即排排除除了了系系统统误误差差），相相互互独独立立且且服服从从正正态态分分布布，设设其其标标准准差差 分分 别别 为为 1 1,2 2,n，则则 各各 测测 量量 结结 果果l1,l2,ln出出现现于
5、于相相应应真真值值附附近近d1 1,d2 2,dn区域内的概率分别为：区域内的概率分别为：由由概概率率乘乘法法定定理理可可知知，各各测测量量数数据据同同时时出出现现在在相应区域相应区域d1 1,d2 2,dn的概率应为：的概率应为：根根据据最最大大或或然然原原理理，由由于于事事实实上上测测量量值值l1,l2,ln已已经经出出现现，因因而而有有理理由由认认为为这这n个个测测量量值值同同时时出出现现于于相相应应区区间间d1 1,d2 2,dn的的概概率率P应应为为最最大大，反反过过来来即即待待求求量量X1,X2,Xt的的最最可可信信赖赖值值的的确确定定，应应使使l1,l2,ln同同时时出出现现的的
6、概概率率P为为最最大大。由由上上式式可见，要使可见，要使P最大应满足：最大应满足：当当然然，由由前前述述给给出出的的结结果果只只是是估估计计量量，它它们们以以最最大大的的可可能能性性接接近近真真值值而而并并非非真真值值，因因此此上上述述条条件件应以残差的形式表示，即用残差代替绝对误差：应以残差的形式表示，即用残差代替绝对误差：引入权的符号引入权的符号p，由下面的关系，由下面的关系有有 对于等精度测量，有对于等精度测量，有即即则式（则式（5-5）可简化为）可简化为 上上式式表表明明：测测量量结结果果的的最最可可信信赖赖值值应应在在残残差差平平方方和和（在在不不等等精精度度测测量量时时应应为为加加
7、权权残残差差平平方方和和）为为最小的条件下求出，此即最小的条件下求出，此即最小二乘法原理最小二乘法原理。注注意意：虽虽然然最最小小二二乘乘法法原原理理是是在在测测量量误误差差无无偏偏、正正态态分分布布和和相相互互独独立立的的条条件件下下推推导导出出的的，但但在在不不严严格服从正态分布的情形下也常被使用格服从正态分布的情形下也常被使用。最最小小二二乘乘法法既既可可以以用用于于线线性性参参数数的的处处理理，也也可可以以用用于于非非线线性性参参数数的的处处理理。测测量量的的实实际际问问题题大大多多属属于于线线性性的的，而而非非线线性性参参数数可可借借助助级级数数展展开开的的方方法法将将其其在在某某一
8、一区区域域近近似似地地化化成成线线性性的的形形式式，因因此此线线性性参参数数的的最最小小二二乘乘法法处处理理是是最最小小二二乘乘法法理理论论所所研研究究的的基基本内容。本内容。线性参数的测量方程线性参数的测量方程一般形式为：一般形式为：相应的估计量为：相应的估计量为：误差方程为：误差方程为：为为了了方方便便，线线性性参参数数的的最最小小二二乘乘法法借借助助矩矩阵阵来来进行讨论。进行讨论。最小二乘法原理的矩阵形式最小二乘法原理的矩阵形式 设有列向量设有列向量和和nt阶矩阵（阶矩阵（nt）l1,l2,ln为为n个个直直接接测测量量结结果果（已已获获得得的的测测量量数数据）；据）；x1,x2,xt为
9、为t个待求的被测量的估计量；个待求的被测量的估计量；v1,v2,vn为为n个直接测量结果的残差；个直接测量结果的残差；a11,a21,ant为为n个误差方程的个误差方程的nt个系数。个系数。线性参数的误差方程式线性参数的误差方程式（5-9）可表示为：）可表示为：即即 等等精精度度测测量量时时：残残差差平平方方和和最最小小这这一一条条件件的的矩矩阵形式为阵形式为即即或或 不不等等精精度度测测量量时时，最最小小二二乘乘法法原原理理的的矩矩阵阵形形式式为：为：或或其中其中P为为nt阶权矩阵。阶权矩阵。线线性性参参数数的的不不等等精精度度测测量量可可以以转转化化为为等等精精度度的的形形式式（单单位位权
10、权化化），从从而而可可以以利利用用等等精精度度测测量量时时测测量量数数据据的的最最小小二二乘乘法法处处理理的的全全部部结结果果。为为此此，应应将将误误差差方方程程化化为为等等权权的的形形式式。若若不不等等精精度度测测量量数数据据li的的权权为为pi，将将不不等等精精度度测测量量的的误误差差方方程程式式（5-9）两端同乘以相应权的平方根得：）两端同乘以相应权的平方根得：令令则误差方程化为等精度的形式为：则误差方程化为等精度的形式为：上上式式中中各各式式已已具具有有相相同同的的权权，与与等等精精度度测测量量的的误误差差方方程程形形式式一一致致，即即可可按按等等精精度度测测量量数数据据处处理理的的方
11、法来处理。方法来处理。设有设有n1阶矩阵（列向量）和阶矩阵（列向量）和nt阶矩阵阶矩阵则线性参数不等精度测量的误差方程的矩阵形式为：则线性参数不等精度测量的误差方程的矩阵形式为：最小二乘条件用矩阵表示为：最小二乘条件用矩阵表示为：或或第二节第二节 正规方程正规方程 在在第第一一节节中中已已经经提提到到，为为了了获获得得更更可可靠靠的的结结果果，测测量量次次数数n大大于于未未知知参参数数的的数数目目t，即即所所得得误误差差方方程程式式的的数数目目多多于于未未知知数数的的数数目目。因因而而直直接接用用一一般般解解代代数数方方程程的的方方法法无无法法求求解解这这些些未未知知参参数数，利利用用最最小小
12、二二乘乘法法则则可可以以将将误误差差方方程程式式转转化化为为有有确确定定解解的的代代数数方方程程组组（其其方方程程式式数数目目正正好好等等于于未未知知数数的的个个数数），从从而而可可解解出出这这些些未未知知参参数数。这这个个具具有有确确定定解解的的代代数数方方程程组组称称为为最最小小二二乘乘法法估估计计的的正正规规方方程（或称为程（或称为法方程法方程）。）。(一一)线性参数的最小二乘法处理程序线性参数的最小二乘法处理程序1.根据具体问题列出残余误差方程式；根据具体问题列出残余误差方程式；2.按按最最小小二二乘乘法法原原理理，利利用用求求极极值值的的方方法法将将误误差差方方程转化为正规方程；程转
13、化为正规方程；3.求解正规方程，得到待求的估计量（确定解）；求解正规方程，得到待求的估计量（确定解）；4.给出精度估计。给出精度估计。(二二)非线性参数的最小二乘法处理程序非线性参数的最小二乘法处理程序 应应先先将将非非线线性性参参数数线线性性化化，然然后后按按上上述述程程序序去去处理。处理。可可见见，建建立立正正规规方方程程是是待待求求参参数数最最小小二二乘乘法法处处理的基本环节。理的基本环节。一、等精度测量线性参数最小二乘法处理的正规一、等精度测量线性参数最小二乘法处理的正规方程方程线性参数的误差方程为：线性参数的误差方程为：在等精度测量中，应满足最小二乘条件式在等精度测量中，应满足最小二
14、乘条件式要要求求估估计计量量xi（i=1,2,t），利利用用求求极极值值的的方方法法（求求导数并令其为零）来满足上式的条件。导数并令其为零）来满足上式的条件。对残余误差的平方和对残余误差的平方和 求导数，并令其为零，有：求导数，并令其为零，有：因为因为所以所以同理有同理有上式中各二阶偏导数恒为正，即上式中各二阶偏导数恒为正，即由由此此可可知知，上上面面各各方方程程求求得得的的极极值值是是最最小小值值，满满足足最最小小二乘条件，因而也是所要求的估计量，最后把它写成：二乘条件，因而也是所要求的估计量，最后把它写成：上上式式即即为为等等精精度度测测量量的的线线性性参参数数最最小小二二乘乘法法处处理理
15、的的正正规规方方程程。这这是是一一个个t元元线线性性方方程程组组，当当其其系系数数行行列列式式不不为为零零时，有唯一确定解，由此可解得欲求的估计量。时，有唯一确定解，由此可解得欲求的估计量。上方程组在形式上有如下上方程组在形式上有如下特点特点：1）沿主对角线分布着平方项系数）沿主对角线分布着平方项系数都为正数。都为正数。2）以以主主对对角角线线为为对对称称线线，对对称称分分布布的的各各系系数数彼彼此此两两两两相等，如相等，如 现现将将上上述述线线性性参参数数的的正正规规方方程程表表示示成成矩矩阵阵形形式式。把把正规方程组中第正规方程组中第r个方程式（个方程式（r1,2,t）改写成如下形式：改写
16、成如下形式：式中式中r1,2,t。由此，正规方程组可写成由此，正规方程组可写成因而它可表示为因而它可表示为即即 ，这这就就是是等等精精度度测测量量情情况况下下以以矩矩阵阵形形式式表表示示的的正规方程正规方程。又因。又因所以正规方程又可写成所以正规方程又可写成 即即若令若令 ，则正规方程又可写成，则正规方程又可写成 若若A（nt阶矩阵，阶矩阵，tn）的秩等于）的秩等于t，则矩阵，则矩阵是是满秩满秩的，即其行列式的，即其行列式 。那么对于。那么对于 有有唯唯一一的的确确定定解解。如如若若用用 左左乘乘正正规规方方程程的的两两边边，就得到正规方程解的矩阵表达式：就得到正规方程解的矩阵表达式：所解得所
17、解得 的数学期望为的数学期望为式中，式中，Y、X为列向量（为列向量（n1阶矩阵和阶矩阵和t1阶矩阵）阶矩阵）其其中中矩矩阵阵元元素素Y1,Y2,Yn为为直直接接测测量量量量的的真真值值，而而X1,X2,Xt为待求量的真值。可见为待求量的真值。可见 是是X的的无偏估计无偏估计。例例5-1 已已知知任任意意温温度度t时时的的铜铜棒棒长长度度yt、0时时的的铜铜棒棒长长度度y0和和铜的线膨胀系数铜的线膨胀系数具有线性关系具有线性关系现现测测得得在在不不同同温温度度ti下下，铜铜棒棒长长度度li如如下下表表，试试估估计计y0和和的的最可信赖值。最可信赖值。解解 列出误差方程列出误差方程式式中中，li为
18、为在在温温度度ti下下铜铜棒棒长长度度的的测测得得值值；为为铜铜的的线线膨膨胀胀系系数。数。令令 为两个待估计参量，则误差方程可写为为两个待估计参量，则误差方程可写为为计算方便，将数据列表如下：为计算方便，将数据列表如下：i123456ti/102025304045li/mm2000.362000.722000.802001.072001.482001.60iti/ti2/2li/mmtili/(.mm)1101002000.3620003.62204002000.7240014.43256252000.8050020.04309002001.0760032.154014002001.4880
19、059.264520252001.6090072.0170565012006.03340201.3根据误差方程，按式（根据误差方程，按式（5-19）列出正规方程）列出正规方程将表中计算出的相应系数值代入上面的正规方程得将表中计算出的相应系数值代入上面的正规方程得解得解得a1999.97mm；b0.03654mm/即即y01999.97mm；因此，因此，铜棒长度随铜棒长度随温度的线性变化规律温度的线性变化规律为为按矩阵形式解算，则有按矩阵形式解算，则有所以所以y0a1999.97mm；习题习题5-1 测量方程为测量方程为 试求试求x、y的最可信赖值。的最可信赖值。解解 列出误差方程列出误差方程
20、系数矩阵系数矩阵正规方程为正规方程为解正规方程得解正规方程得习题习题5-2已知误差方程为已知误差方程为 试求试求x1,x2,x3的最可信赖值。的最可信赖值。解解 系数矩阵系数矩阵 测量数据列矩阵为测量数据列矩阵为正规方程为正规方程为解正规方程得解正规方程得二、不等精度测量线性参数最小二乘法处理的正二、不等精度测量线性参数最小二乘法处理的正规方程规方程不等精度测量时线性参数的误差方程仍然为：不等精度测量时线性参数的误差方程仍然为：但最小二乘条件为加权残余误差平方和最小，即但最小二乘条件为加权残余误差平方和最小，即要要求求估估计计量量xi（i=1,2,t），同同样样利利用用求求极极值值的的方方法法
21、（求导数并令其为零）来满足上式的条件。（求导数并令其为零）来满足上式的条件。该方程满足该方程满足 条件，经整理后得如下方条件，经整理后得如下方程组程组上上式式即即为为不不等等精精度度测测量量时时最最小小二二乘乘法法处处理理的的正正规规方方程程。式中式中它它仍仍然然有有前前述述等等精精度度测测量量时时正正规规方方程程的的特特点点，即即主主对对角角线线各各项项系系数数是是平平方方和和，为为正正值值，以以对对角角线线为为对对称称轴轴线线的的其他各相应项两两相等。其他各相应项两两相等。可可将将上上述述正正规规方方程程化化成成等等精精度度的的形形式式，类类似似单单位位权权化化只只需作代换需作代换将其代入
22、上述正规方程，经整理后得到下面的正规方程将其代入上述正规方程，经整理后得到下面的正规方程可可见见该该正正规规方方程程在在形形式式上上与与等等精精度度测测量量时时的的正正规规方方程程完完全一致。全一致。将将正正规规方方程程（5-25）各各式式分分别别展展开开，整整理理后后可可以以得得到到与与式（式（5-20）类似的结果：）类似的结果：用矩阵表示为：用矩阵表示为：即即而而 所以上式又可写成所以上式又可写成由由 可可得得出出正正规规方方程程的的解解，即即参参数数的的最最小小二二乘乘解为解为令令 ，则，则这这就就是是不不等等精精度度测测量量时时，线线性性参参数数的的最最小小二二乘乘法法处处理理。因为因
23、为可见可见 是是X的无偏估计。的无偏估计。例例5-2 某测量过程有误差方程式及相应的标准差如下：某测量过程有误差方程式及相应的标准差如下：试求试求x1、x2的最小二乘法处理正规方程的解。的最小二乘法处理正规方程的解。解解 首先确定各式的权，由首先确定各式的权，由可取各式的权为可取各式的权为用表格计算给出正规方程常数项和系数：用表格计算给出正规方程常数项和系数：可得正规方程可得正规方程解得最小二乘法处理结果为：解得最小二乘法处理结果为：iai1ai2pipiai12piai22piai1ai2lipiai1lipiai2li111161616166.44103.04103.04212161664
24、328.60137.60275.2031399812710.8197.29291.87414991443613.21118.98475.92515992254515.27137.43687.1559530156594.341833.18三、非线性参数最小二乘法处理的正规方程三、非线性参数最小二乘法处理的正规方程在在 一一 般般 情情 况况 下下，函函 数数 yi=fi(x1,x2,xt)（i1,2,n）为非线性函数，测量的误差方程为：）为非线性函数，测量的误差方程为：是是非非线线性性方方程程组组。直直接接由由它它建建立立正正规规方方程程并并求求解解是是很困难的。很困难的。一一般般采采取取线线性
25、性化化来来解解决决这这类类问问题题，将将非非线线性性函函数数化为线性函数，再按线性参数的情形进行处理。化为线性函数，再按线性参数的情形进行处理。为为此此，取取x10,x20,xt 0为为待待估估计计量量x1,x2,xt的的近似值，则估计量近似值，则估计量xr可表示为可表示为式式中中，1,2,t分分别别为为估估计计量量与与所所取取近近似似值值的的偏偏差。差。因因此此，只只须须求求得得偏偏差差1,2,t，即即可可由由上上式式获得估计量获得估计量x1,x2,xt。将函数在将函数在x10,x20,xt 0处展开，取一次项，则有处展开，取一次项，则有式式中中 为为函函数数fi对对xr的的偏偏导导数数在在
26、x10,x20,xt 0处处的值，的值，r1,2,t。将展开式代入误差方程，并令。将展开式代入误差方程，并令将误差方程化为将误差方程化为 上上式式是是一一线线性性参参数数的的误误差差方方程程，故故可可按按线线性性参参数数的的情情形形列列出出正正规规方方程程并并求求解解出出r（r1,2,t），进进而可按下式求得相应的估计量而可按下式求得相应的估计量xr（r1,2,t）。）。注注意意：在在获获得得线线性性化化的的过过程程中中，函函数数的的展展开开式式只只取取一一次次项项而而略略去去了了二二次次以以上上的的高高次次项项，严严格格地地说说，由由此此给给出出的的估估计计量量是是近近似似的的。因因为为只只
27、要要所所取取近近似似值值xr 0的的偏偏差差r 相相对对于于所所研研究究的的问问题题而而言言足足够够小小，则则二二次次项项以以上上的的高高次次项项的的值值甚甚微微，可可以以忽忽略略不不计计，故故一一般般来来说说这这已已能能满满足足实实际际的的要要求求。因因此此，在在对对某某一一非非线线性性参参数数作作线线性性化化处处理理时时，估估计计量量近近似似值值的的选选取取应应有有相应的精度要求相应的精度要求。在在线线性性化化的的过过程程中中为为获获得得函函数数的的展展开开式式，必必须须首首先先确定未知数的近似值确定未知数的近似值，其，其方法主要有方法主要有：（1）直直接接测测量量：对对未未知知量量xr直
28、直接接进进行行测测量量，以以所所得得结结果作为其近似值。果作为其近似值。（2）通通过过部部分分方方程程式式进进行行计计算算：从从误误差差方方程程中中选选取取最最简简单单的的t个个方方程程式式，采采用用近近似似的的求求解解方方法法，如如令令vi0，于于 是是 可可 以以 得得 到到 一一 个个 t元元 齐齐 次次 方方 程程 组组，由由 此此 解解 得得x10,x20,xt 0，即为未知数的近似值。，即为未知数的近似值。由由以以上上讨讨论论可可知知，所所有有情情况况（等等精精度度与与非非等等精精度度测测量量，线线性性与与非非线线性性参参数数）最最后后均均可可归归结结为为线线性性参参数数等等精精度
29、度测测量量的的情情形形，可可按按线线性性参参数数等等精精度度测测量量的的情情形形建建立和求解正规方程，获得最可信赖值。立和求解正规方程，获得最可信赖值。四、最小二乘原理与算术平均值原理的关系四、最小二乘原理与算术平均值原理的关系为为了了确确定定一一个个量量X的的估估计计量量x，对对其其进进行行n次次直直接接测测量量，得得 到到 n个个 数数 据据 l1,l2,ln，相相 应应 的的 权权 分分 别别 为为p1,p2,pn，则测量的误差方程为，则测量的误差方程为其最小二乘法处理的正规方程为其最小二乘法处理的正规方程为（t1）由误差方程知由误差方程知ai1，因而有，因而有可得最小二乘法处理的结果为
30、：可得最小二乘法处理的结果为：这这正正是是不不等等精精度度测测量量时时的的加加权权算算术术平平均均值值原原理理所所给给出的结果出的结果 对于等精度测量有对于等精度测量有则由最小二乘法所确定的估计量为：则由最小二乘法所确定的估计量为：此此式式与与等等精精度度测测量量时时算算术术平平均均值值原原理理给给出出的的结结果果相相同同，即即可可以以算算术术平平均均值值作作为为多多次次等等精精度度重重复复测测量量的的最最佳估计值。佳估计值。通通过过以以上上分分析析可可见见，最最小小二二乘乘法法原原理理与与算算术术平平均均值值原原理理是是一一致致的的，算算术术平平均均值值原原理理可可以以看看做做是是最最小小二
31、二乘乘法原理的特例（法原理的特例（t1的情形）。的情形）。第三节第三节 精度估计精度估计 对对测测量量数数据据最最小小二二乘乘法法处处理理的的最最终终结结果果，不不仅仅要要给给出出待待求求量量的的最最可可信信赖赖的的估估计计量量，而而且且还还要要确确定其定其可信赖程度可信赖程度，即应给出所得估计量的精度。，即应给出所得估计量的精度。一、测量数据的精度估计一、测量数据的精度估计 为为了了确确定定最最小小二二乘乘估估计计量量x1,x2,xt的的精精度度，首首先先需需要要给给出出直直接接测测量量所所得得测测量量数数据据的的精精度度。测测量量数数据据的的精精度度也也以以标标准准差差来来表表示示。因因为
32、为无无法法求求得得的的真真值值，因因而而只只能能依依据据有有限限次次的的测测量量结结果果给给出出的的估估计计值值 ，所所谓谓给给出出精精度度估估计计，实实际际上上是是求求出出估估计计值值 。（一）等精度测量数据的精度估计（一）等精度测量数据的精度估计 设设对对包包含含t个个未未知知量量的的n个个线线性性参参数数方方程程组组进进行行n次次 独独 立立 的的 等等 精精 度度 测测 量量，获获 得得 了了 n个个 测测 量量 数数 据据l1,l2,ln。其其相相应应的的测测量量误误差差分分别别为为1,2,n，它它们们是是互互不不相相关关的的随随机机误误差差。因因为为一一般般情情况况下下真真误误差差
33、1,2,n是是未未知知的的，只只能能由由残残余余误误差差v1,v2,vn给出方差给出方差2的估计量。的估计量。可以证明可以证明 是自由度为（是自由度为（nt）的）的2变变量。根据量。根据2变量的性质，有变量的性质，有因而因而 由由此此可可知知，若若取取残残余余误误差差平平方方和和的的平平均均值值作作为为2的的估计量估计量 ，则所得的，则所得的 将对将对2有系统偏移，即有系统偏移，即不是不是2的无偏估计量。的无偏估计量。因为因为所以，可取所以，可取 作为作为2的无偏估计量的无偏估计量。习惯上，这个估计量也写成习惯上，这个估计量也写成2，即，即因而测量数据的因而测量数据的标准差的估计量标准差的估计
34、量为为 一般写成一般写成例例5-3 试求例试求例5-1中铜棒长度的测量精度。中铜棒长度的测量精度。已知残余误差方程为已知残余误差方程为将将ti，li代入上式，可得残余误差为代入上式，可得残余误差为于是可得标准差为于是可得标准差为（二）不等精度测量数据的精度估计（二）不等精度测量数据的精度估计 不不等等精精度度测测量量数数据据的的精精度度估估计计与与等等精精度度测测量量数数据据的的精精度度估估计计相相似似，只只是是公公式式中中的的残残余余误误差差平平方方和和变变为为加加权权平平方方和和，测测量量数数据据的的单单位位权权方方差差的的无无偏偏估估计计为为通常习惯写成通常习惯写成故测量数据的故测量数据
35、的单位权标准差单位权标准差为为二、最小二乘估计量的精度估计二、最小二乘估计量的精度估计 最最小小二二乘乘法法所所确确定定的的估估计计量量x1,x2,xt的的精精度度取取决决于于测测量量数数据据的的精精度度和和线线性性方方程程组组所所给给出出的的函函数数关关系系。对对给给定定的的线线性性方方程程组组，若若已已知知测测量量数数据据l1,l2,ln的的精精度度，就就可可求求得得最最小小二二乘乘估估计计量量的的精精度。度。下下面面首首先先讨讨论论等等精精度度测测量量时时最最小小二二乘乘估估计计量量的的精精度估计度估计。设有正规方程设有正规方程现要给出由此方现要给出由此方程所确定的估计程所确定的估计量量
36、x1,x2,xt的精的精度。为此度。为此,1.利用利用不不定定乘乘数数法法求求出出x1,x2,xt的的表表达达式式，2.然然后后再再找找出出估估计计量量x1,x2,xt的的精精度度与与测测量量数数据据l1,l2,ln精精度度的的关关系系，即可即可得到估计量精度估计的表达式得到估计量精度估计的表达式。设设有有不不定定乘乘数数d11,d12,d1t；d21,d22,d2t；dt1,dt2,dtt（共共 tt个个）。为为 求求 x1，令令d11,d12,d1t分分 别别 去去 乘乘 上上 面面 的的 正正 规规 方方 程程 中中 的的 第第1,2,t式，得式，得将上面的方程组各式的左右两边分别相加得
37、将上面的方程组各式的左右两边分别相加得选择选择d11,d12,d1t值，使之满足如下条件：值，使之满足如下条件：则则令令 则则因因l1,l2,ln为为等等精精度度的的、相相互互独独立立的的正正态态随随机机变变量量，即即 ，则有，则有将将等等式式右右端端2的的系系数数展展开开，并并适适当当地地合合并并同同类类项项，注注意意到不定乘数到不定乘数d11,d12,d1t的选择条件式，最后可得的选择条件式，最后可得 同同样样，再再用用d21,d22,d2t分分别别去去乘乘正正规规方方程程各各式式，将乘得的各式相加，按将乘得的各式相加，按x1,x2,xt合并同类项得合并同类项得适当选择适当选择d21,d2
38、2,d2t，使之满足如下条件：，使之满足如下条件：则可求得则可求得x2的表达式，由此得的表达式，由此得依此类推，可得依此类推，可得 由上所述，可给出下面的结果：由上所述，可给出下面的结果：设设 d11,d12,d1t；d21,d22,d2t；dt1,dt2,dtt分别为下列各方程组的解：分别为下列各方程组的解：上上述述方方程程组组中中，不不定定乘乘数数drs(r,s=1,2,t)的的系系数数与与正正规规方方程程（5-19）的的系系数数完完全全一一样样，因因而而在在实实际际计计算算时时，可以利用解正规方程的中间结果，十分简便。可以利用解正规方程的中间结果，十分简便。由由 上上 述述 方方 程程
39、组组 求求 得得 d11,d12,dtt，则则 各各 估估 计计 量量x1,x2,xt的方差为的方差为相应的标准差为相应的标准差为式中，式中，为为测量数据的标准差测量数据的标准差。正正规规方方程程（5-19）中中的的系系数数为为ATA，方方程程（5-51）中中不不定定乘乘数数dij的系数也为的系数也为ATA，即，即(ATA)D=E，所以，所以D=C-1。不等精度测量的情况与此类似。若有正规方程不等精度测量的情况与此类似。若有正规方程求解下面的求解下面的t个方程组：个方程组：得到得到d11,d12,dtt，于是估计量，于是估计量x1,x2,xt的标准差为的标准差为式中，式中，为为测量数据的单位权
40、标准差测量数据的单位权标准差。对对等等精精度度测测量量，因因p1=p2=pn（可可取取值值为为1）,即即为测量数据的标准差，这是不等精度测量的特例。为测量数据的标准差，这是不等精度测量的特例。利利用用矩矩阵阵的的形形式式可可以以更更方方便便地地获获得得上上述述结结果果。设设有有协方差矩阵（协方差矩阵（nn阶矩阵）阶矩阵）式中，式中，Dlii为为li的方差，的方差，Dlij为为li与与lj的协方差（或称相关矩）；的协方差（或称相关矩）；若若l1,l2,ln为等精度独立测量的结果，即为等精度独立测量的结果，即且相关系数且相关系数 ，即，即则有则有 于是估计量的协方差为于是估计量的协方差为矩阵矩阵式
41、式中中各各元元素素即即为为上上述述的的不不定定乘乘数数，可可由由矩矩阵阵（ATA)求求逆逆而得，或由式（而得，或由式（5-51）求得。）求得。同样，也可得不等精度测量的协方差矩阵同样，也可得不等精度测量的协方差矩阵式中，式中，为单位权标准差。为单位权标准差。矩阵矩阵式式中中各各元元素素即即为为不不定定乘乘数数，可可由由（ATPA）求求逆逆得得到到，也可由式（也可由式（5-54）求得。）求得。例例5-4 试求例试求例5-1中铜棒长度和线膨胀系数估计量的精度。中铜棒长度和线膨胀系数估计量的精度。已知正规方程为已知正规方程为测量数据测量数据li的标准差为的标准差为由式（由式（5-51）及所给正规方程
42、的系数，可列出求解不定乘数）及所给正规方程的系数，可列出求解不定乘数的方程组为的方程组为 分别解得分别解得则按式（则按式（5-53），可得估计量），可得估计量a、b的标准差为的标准差为因因故故第四节第四节 组合测量的最小二乘法处理组合测量的最小二乘法处理 在在精精密密测测试试工工作作中中，组组合合测测量量占占有有十十分分重重要要的的地地位位。例例如如，作作为为标标准准量量的的多多面面棱棱体体、度度盘盘、砝砝码码、电电容容器器以以及及其其他他标标准准器器的的检检定定等等，为为了了减减小小随随机机误误差差的的影影响响，提提高高测测量量精精度度，可可采采用用组组合合测测量的方法。量的方法。组组合合测
43、测量量是是通通过过直直接接测测量量待待测测参参数数的的各各种种组组合合量量（一一般般是是等等精精度度测测量量），然然后后对对这这些些测测量量数数据据进进行行处处理理，它它是是最最小小二二乘乘法法在在精精密密测测试试中中的的一一种种重要的应用。重要的应用。为为简简单单起起见见，现现以以检检定定三三段段刻刻线线间间距距为为例例，说说明组合测量的数据处理方法。明组合测量的数据处理方法。如如图图5-1所所示示，要要求求检检定定刻刻线线A、B、C、D间间的的距距离离x1、x2、x3。为为此此，等等精精度度直直接接测测量量刻刻线线间间距距的的各各种种组组合合量量（见见图图5-2），得到如下测量数据：），得
44、到如下测量数据：l1=1.015mm l2=0.985mm l3=1.020mm l4=2.016mm l5=1.981mm l6=3.032mm首先按式（首先按式（5-9）列出误差方程）列出误差方程ABCD图图5-1图图5-2根根 据据 矩矩 阵阵 形形 式式（5-10），左左式式可以表示为可以表示为即即由式（由式（5-24）可得）可得式中式中所以所以即解得即解得这这就就是是刻刻线线间间距距AB、BC、CD的的最最佳佳估估计计值值，现现再再求求出出上上述估计量的精度估计。述估计量的精度估计。将估计值代入误差方程可得将估计值代入误差方程可得因因为为是是等等精精度度测测量量，测测得得数数据据l1
45、，l2，l3，l4，l5，l6的的标标准准差相同，为差相同，为 为为求求出出估估计计量量x1，x2，x3的的标标准准差差，首首先先需需求求出出不不定定乘乘数数dij（i,j=1,2,3）。由由方方程程（5-51）可可知知，不不定定乘乘数数dij的的系系数数与与正正规规方方程程（5-19）的的系系数数相相同同，因因而而dij是是矩矩阵阵C-1中中各各元素，即元素，即则则按式（按式（5-53），可得估计量的标准差为），可得估计量的标准差为最小二乘法最小二乘法处理超定线性方程组的一种方法，求出最佳解。处理超定线性方程组的一种方法，求出最佳解。一、原理一、原理对对于于超超定定方方程程组组，即即独独立立
46、方方程程的的个个数数大大于于变变元元的的个个数数，是是不不会会存存在在解解的的，但但可可以以讨讨论论最最优优解解，即即首首先先将将方方程程组组转转化化为为误误差差方方程程组组，最最佳佳解解就就是是满满足足误误差差平平方方和和最最小小的的条条件件。由由于于极极值值定定理理可可知知，对对平平方方和和目目标标函函数数求求一一阶阶导导数数，并并令令其其为为0 0，就就可可建建立立其其正正规规方方程程组组，也也称称为为法法方方程程组组。在在解解线线性性方方程程组组时时一一般般可可用用矩矩阵阵论论的的知知识识进进行行讨讨论论，这这样样方方便便快快捷捷，如如对对各各个个变变元元的的求求导导，可可将将目目标标
47、函函数数看看作作以以变变元元向向量量为为变变元元的的标标量量函函数数，进进而而可可求求向向量量导导数数，这这样样方方便便快快捷捷，就可用用矩阵的逆、变换等知识求其最小二乘解。就可用用矩阵的逆、变换等知识求其最小二乘解。对对不不等等精精度度测测量量来来说说，要要进进行行另另个个角角度度的的考考虑虑，主主要要是是在在建建立立目目标标函函数数时时，各各个个残残差差是是有有权权的的，其其权权可可看看作作各各个测量列的方差的倒数。其他的处理方式就一致了。个测量列的方差的倒数。其他的处理方式就一致了。二、解适定方程组二、解适定方程组对对于于适适定定方方程程可可采采用用多多种种方方法法求求解解，如如求求系系
48、数数矩矩阵阵的的逆逆，或或对对系系数数矩矩阵阵进进行行初初等等行行变变换换，这这就是消元法等。就是消元法等。三、非线性最小二乘法三、非线性最小二乘法主主要要思思想想就就是是线线性性化化处处理理，可可采采用用两两种种方方法法，一一是是变变量量代代换换进进行行线线性性化化，另另一一种种是是利利用用TaylorTaylor展展开开式式，在在其其领领域域内内，可可去去掉掉高高压压一一次次项项的的项项，这样就将非线性函数线性化。这样就将非线性函数线性化。四、精度估计四、精度估计在在测测量量过过程程中中，一一切切测测量量数数据据都都带带有有误误差差的的，在在解解线线性性方方程程组组时时，若若原原有有的的测
49、测量量数数据据带带有有误误差差，则则求求的的估估计计量量的的误误差差即即精精度度是是多多少少呢呢，即即求求出出的的方程的系数的偏差是多少呢？方程的系数的偏差是多少呢？具具体体操操作作采采用用不不定定乘乘数数法法，求求不不定定乘乘数数矩矩阵阵，进进而而其其对对角角元元素素就就是是待待求求未未知知量量的的方方差差与与测测量量数数据据方方差差的的比比值值。而而测测量量数数据据的的方方差差采采用用测测量量数数据据的的残残差差求求出出，方方差差为为残残差差的的平平方方和和除除于于n-tn-t，n n为为方程的个数，方程的个数，t t为变元的个数为变元的个数结结论论：矩矩阵阵论论的的知知识识，未未知知量量为为方方程程的的系系数数，这这是通过测量数据求方程系数的过程。是通过测量数据求方程系数的过程。