《2022年随机模型方法及应用 .pdf》由会员分享，可在线阅读，更多相关《2022年随机模型方法及应用 .pdf（21页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、11 随机模型、方法及其应用（一）一元线性回归第一节大数定律与数理统计的若干知识11 大数定律及中心极限定理大数定律（low of large numbers）及中心极限定理（central limit theorem）不仅为概率论（theary of probability）提供统计方面的理论保证，而且也为数理统计（mathematical statistics）的理论和方法奠定了坚实的理论基础。111 不等式设随机变量的方差 D存在且有限，则对0，有PED2（）112 Bernoulli大数定律n重独立实验中事件A出现的频率vnn， 依概率收敛于事件A在每次实验中出现的概率p，即0，lim
2、nnPvnp1（）113 大数定律设n是相互独立的随机变量序列，且Dcn， n12， ，（）名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 1 页，共 21 页 - - - - - - - - - 12 其中 c是常数，则对0，有limnkknkknPnnE11111（）114 大数定律设n是相互独立的随机变量序列，且En， n12， ，（）则对0，有limnkknPn111（）115 LvyLindeberg 中心极限定理设n是独立、同分布的随机变量序列，且En， Dn20， n1
3、2， ，（）则xR，有limnkkntxPnnxedt12122（） 6 De Moivre-Laplace中心极限定理设n是独立、同分布的随机变量序列，且nBp1， ()0112pn， ，（）则xR，有名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 2 页，共 21 页 - - - - - - - - - 13 limnkkntxPnpnppxedt121122（）12 基本统计量和常用统计分布在数理统计中，统计量（statistic）及其分布被广泛用于参数估计（parameter
4、s estimation）和假设检验等统计推断（statistical inference ）的过程中，121统计量的定义及常用统计量定义设12，n是总体的一个样本（ sample），T12，是样本12，n的不含任何未知参数的函数，则称 T12，为一个统计量；如果xxxn12，是样本12，n的一个观测值， 那么称 T xxxn12，是统计量T12，n的一个观测值。定义设12，n是来自总体的一个容量为 n 的样本，常用的统计量有、 样本均值（ sample mean）：11nkkn（）MATLAB: mean(x) 、 样本方差（ sample variance）：Snkkn2211（）名师资料
5、总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 3 页，共 21 页 - - - - - - - - - 14 、 样本标准差（ sample standard deviation）：Snkkn121（）、 修正的样本方差（ repaired sample variance）：Snkkn*22111（）MATLAB: var(x) 、修正的样本标准差（repaired sample standard deviation）：Snkkn*1121（）1常用统计分布、2分布：设随机变量（ rand
6、om variable ）12，n相互独立、同分布，且kN01， kn12， ， ，则随机变量221kkn（）所服从的分布称为自由度是n 的2分布，记做22n 。如果随机变量22n ，那么有）2的概率密度为：p xxnxexnnx0012202212，（）MATLAB: chi2cdf(x,n) 并且有名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 4 页，共 21 页 - - - - - - - - - 15 En2（）Dn22（）0102030405060708000.020.0
7、40.060.080.10.120.140.16x2 Distribution Densityfrom left side to right side: n = 5, 10, 20, 50图） 定理（2分布的可加性）设随机变量kkn22，kn12， ，则22121kknkknn（）定理如果随机变量22n ，那么2201nnNL，（）定理 （Fisher ）如果随机变量22n ，那么名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 5 页，共 21 页 - - - - - - - - -
8、 16 221012nNL，（）、 t 分布： 设随机变量，相互独立，且 N 01，2n ，则随机变量tn（）所服从的分布称为自由度是n 的t 分布，记做 tt n，并称其为自由度为n 的 t 变量。） 设随机变量 tt n，则其概率密度为：p xnnnxnn1221212，x（）-5-4-3-2-101234500.050.10.150.20.250.30.350.4t Distribution Density- n = 5- n = 50图）定理设随机变量 tt n，则名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心
9、整理 - - - - - - - 第 6 页，共 21 页 - - - - - - - - - 17 limnt nxpxe1222，x（）、 F 分布： 设随机变量，相互独立，且2m ，2n ，则随机变量Fnm（）称为自由度为mn，的 F 变量，所服从的分布称为的F 分布，记做FF mn，。）如果随机变量 FF mn，那么1FF nm，。00.511.522.533.544.5500.20.40.60.811.21.41.61.82F Distribution Density- m = 5, n = 10- m = 10, n = 50- m = 50, n = 200图名师资料总结 - -
10、 -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 7 页，共 21 页 - - - - - - - - - 18 第二节一元线性回归的若干问题21 简单线性回归分析设随机变量y与随机变量 x之间存在某种相关关系，对于x 的取定的一组不完全相同的值nxxx,21，作独立实验得到 n对观察结果：kkyx ,，nk,2, 1（）其中ky 是随机变量y在kxx时的观测结果。简单线性回归模型及其基本理论假设假设变量y与自变量 x之间的相关关系可由下式表示：bxay（）其中2,0 N，a和b是未知（回归）参数，称式（
11、）为一元回归模型 。由（）、（）可得kkkbxay（）其中2,0 Nk，且相互独立。当利用样本kkyx ,，nk,2, 1，得到参数 a和b的估计a?和b?，那么对于给定的 x ，取xbay?（）作为bxa的估计，并称式（）为y关于 x 的线性回归方程 ，其图形称为 回归直线 。简单线性回归模型的基本特征、由kkkbxay，知ky 是随机变量；名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 8 页，共 21 页 - - - - - - - - - 19 、kkkkkkbxaEbxab
12、xaEyE；、2kkkkDbxaDyD；、0,0,jijiyyCovCov；、kkkkkbxayyEy；、2,kkbxaNy。回归参数的最小二乘估计、最小二乘估计准则：nkkkbabxaybaQ12,min?,?（）、 回归参数的最小二乘估计nkknkkkxnxyxnyxbxbya1221?，（）其中nkkxnx11，nkkyny11。、回归参数的最小二乘估计的统计特性）线性性：a ?和 b?都是ky 的线性组合；）无偏性：aaE ?和bbE?）方差最小性：a ?和b?的最小二乘估计都是 a 和b的所有线性无偏估计中方差最小的。）2的估计、可决系数与相关系数定义：名师资料总结 - - -精品资
13、料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 9 页，共 21 页 - - - - - - - - - 20 总偏差平方和nkkTyyS12误差平方和nkkkEyyS12?，回归平方和nkkRyyS12?总偏差平方和的分解：RETSSS由于22nSEE，所以2nSMSEE是2的一个无偏估计。EMS称为平均误差平方和，1RRSMS称为平均回归平方和。定义：ERRTRSSSSS2（）为可决系数，2（）或nkknkknkkkyyxxyyxx12121（）为相关系数。）回归效果的显著性检验与方差分析表由最小二乘法求得的
14、线性回归方程是否具有实用价值，需要通过假设检验才能确定。如果线性假设符合实际，则b不应为零，因此，需要检验的假设为：名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 10 页，共 21 页 - - - - - - - - - 21 0:0bH，0:1bH（）F检验法采用统计量：ERMSMSF，当0:0bH为真时，2, 1nFF；对于给定的显著性水平，如果2, 11nFF，则应拒绝0H ，认为线性回归效果显著；如果2, 11nFF，则应接受0H ，即认为线性回归效果不显著。这一分析过程可
15、由方差分析表给出：方差分析表误差来源自由度平方和S均方和MSF回归R误差E12nRSESRMSEMSERMSMS总和T1nTS表（）t 检验法：采用统计量xxElMSbt?，（）名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 11 页，共 21 页 - - - - - - - - - 22 其中nkkxxxxl12，当0:0bH为真时，2ntt；对于给定的显著性水平，如果22ntt，则应拒绝0H ，认为线性回归效果显著；如果22ntt，则应接受0H ，即认为线性回归效果不显著。）回归
16、参数的假设检验和参数估计（）回归参数b的假设检验和区间估计记nkkExxExxMSlMSbs122?（）那么2?ntbsbb（）假设检验0:0bH，0:1bH的统计量为bsbt?0?，因此，对于给定的显著性水平，如果22ntt，则应拒绝0H ；否则接受0H 。回归参数b的置信度为%1100的置信区间为：bsntb?2?2（）（）回归参数 a的置信区间： 回归参数 a 的置信度为%1100的置信区间为：asnta?2?2（）名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 12 页，共
17、21 页 - - - - - - - - - 23 注：在做线性回归分析时，一般将分析结果记为：asasxbay?（）预测对于任何给定的0 xx，00bxay的点估计0? y 可由回归方计算，在小样本情况下，0y 的置信度为%1100的置信区间为：xxElxxnMSnty20210112?（）大样本时，0y 的置信度为%1100的置信区间为：EMSzy210?（） . 常双曲线（ Hyperbola ）：baxxyxbay1（）对数曲线（ Logarithm Curve ）xbayln（）多项式曲线（ Polynomial Curve ）mmxaxaay10（）指数曲线（ Exponent C
18、urve ）xaey（）S型曲线名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 13 页，共 21 页 - - - - - - - - - 24 xbeay1（）上述曲线图示如下： . 问某建材实验室在作陶粒混凝土强度实验中，考察每立方米混凝土的水泥用量kgx对28天后的混凝土抗压强度2/ cmkgy的影响，并测得如下数据：ix260250240230220210200190180170160150iy7.894 .866 .822 .804 .771 .743.711.686.64
19、6 .613 .589 .56表（）求y关于 x的线性回归方程，并问： 每立方米混凝土中增加kg1水泥时，可提高的抗压强度是多少？（）检验线性回归效果的显著性05. 0；（）求回归参数b的区间估计95. 01；（）求kgx5.220时，y的预测值与预测区间。回归直线方程：2 8 3.1030399.0?xy，总体方差点估计：2393.0?2总体方差区间估计：5107283.330399. 0回归效果显著性检验：、利用F检验法：2, 19646.4105225.595. 03nFF、利用 t 检验法：22281.23137.74975.0ntt名师资料总结 - - -精品资料欢迎下载 - - -
20、 - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 14 页，共 21 页 - - - - - - - - - 25 kgx5.220时，y的预测值 : 3626.16?5.22xy预测区间 : 0323.23626.16图2.4 1401601802002202402605560657075808590Linear Regression Model- Regression Beeline050100150200250300102030405060708090100Linear Regression Model- Regression B
21、eeline名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 15 页，共 21 页 - - - - - - - - - 26 图2.5 附程序： Linear_Regression_Model.m %Linear Regression Model clear all x=150:10:260; y=56.9 58.3 61.6 64.6 68.1 71.3 74.1 77.4 80.2 82.6 86.4 89.7; L=length(x); P,S=polyfit(x,y,1);
22、z=P(1).*x+P(2); fity=polyval(P,x); Prey=polyval(P,22.5) plot(x,y,r*,x,fity) Meanx=mean(x); Meany=mean(y); Lxx=(L-1)*var(x); St=(L-1)*var(y); Sr=0; Se=0; for k=1:L Se=Se+(y(k)-z(k)2; Sr=Sr+(z(k)-Meany)2; end MSe=Se/(L-2); r=Sr/St F=Sr/MSe % if P(1)=0 FF(1,n-2). Sb=MSe/Lxx T=abs(P(1)/(MSe/Lxx).5) % if
23、 P(1)=0 Tt(n-2). Falgfa=finv(0.95,1,L-2) Talgfa=tinv(0.975,L-2) Nalgfa=norminv(0.975,0,1) title(Linear Regression Model) gtext(- Regression Beeline) hold on %Solving the prediction Interval t=20:.5:260; 名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 16 页，共 21 页 - - -
24、 - - - - - - 27 prey=polyval(P,t); if L45 prey1=prey-Talgfa*(MSe*(1+1/L+(t-Meanx).2/Lxx).5; prey2=prey+Talgfa*(MSe*(1+1/L+(t-Meanx).2/Lxx).5; else prey1=prey-Nalgfa*(MSe).5; prey2=prey+Nalgfa*(MSe).5; end plot(t,prey,t,prey1,r,t,prey2,r)P=poly2sym(P); P=vpa(P,5) %H=polytool(x,y,1,0.05,22.5) 1.50 1.6
25、5 1.80 1.95 2.10 2.25 2.40 2.55 2.70 2.85 3.00 3.15 3.30 3.45 3.60 3.75 3.90 4.05 4.20 4.35 4.50 4.65 4.80 4.95 5.10 5.25 5.40 5.55 5.70 5.85 1.77 2.07 2.26 2.41 2.61 2.69 2.87 2.75 2.98 3.08 3.04 3.32 3.28 3.62 3.48 3.70 3.74 3.71 3.65 3.93 3.91 4.14 4.19 4.37 4.31 4.25 4.41 4.33 4.48 4.53 22.533.5
26、44.52.533.544.55Nonlinear Regression Model- Regression Curve名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 17 页，共 21 页 - - - - - - - - - 28 回归曲线方程：xyln9553.10566.1?，总体方差点估计：2393.0?2总体方差区间估计：5107283.330399. 0回归效果显著性检验：024681012-101234567Nonlinear Regression Model- Reg
27、ression Curve名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 18 页，共 21 页 - - - - - - - - - 29 、利用F检验法：2, 19646.4105225.595. 03nFF、利用 t 检验法：22281.23137.74975.0nttkgx5.220时，y的预测值 : 3626.16?5.22xy预测区间 : 0323.23626.161.9553*x+1.0566 附程序： Nonlinear_Regression_Model01.m %Li
28、near Regression Model clear all s=1.5:0.15:5.85; y=1.77 2.07 2.26 2.41 2.61 2.69 2.87 2.75 2.98 3.08 3.04 3.32 3.28 3.62 3.48. 3.70 3.74 3.71 3.65 3.93 3.91 4.14 4.19 4.37 4.31 4.25 4.41 4.33 4.48 4.53; L=length(s); x=log(s); P,S=polyfit(x,y,1); LP=length(P); z=zeros(1,L); for i=1:LP z=z+P(i).*x.(LP
29、-i); end fity=polyval(P,x); plot(s,y,r*,s,fity) title(Nonlinear Regression Model) gtext(- Regression Curve) Meanx=mean(x); Meany=mean(y); Lxx=(L-1)*var(x); St=(L-1)*var(y); Sr=0;Se=0; for k=1:L 名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 19 页，共 21 页 - - - - - - -
30、- - 30 Se=Se+(y(k)-z(k)2; Sr=Sr+(z(k)-Meany)2; end Se=Se MSe=Se/(L-2) F=Sr/MSe % if P(1)=0 FF(1,n-2). T=abs(P(1)/(MSe/Lxx).5) % if P(1)=0 Tt(n-2). Falgfa=finv(0.95,1,L-2) Talgfa=tinv(0.975,L-2) hold on l=0.5:.5:12; t=log(l); prey=polyval(P,t); if L45 prey1=prey-Talgfa*(MSe*(1+1/L+(t-Meanx).2/Lxx).5;
31、 prey2=prey+Talgfa*(MSe*(1+1/L+(t-Meanx).2/Lxx).5; else prey1=prey-Nalgfa*(MSe).5; prey2=prey+Nalgfa*(MSe).5; end plot(l,prey,l,prey1,r,l,prey2,r)P=poly2sym(P); P=vpa(P,5) 附程序： Nonlinear_Regression_Model02.m %Linear Regression Model clear all x=1.5:0.15:5.85; y=1.77 2.07 2.26 2.41 2.61 2.69 2.87 2.7
32、5 2.98 3.08 3.04 3.32 3.28 3.62 3.48. 3.70 3.74 3.71 3.65 3.93 3.91 4.14 4.19 4.37 4.31 4.25 4.41 4.33 4.48 4.53 L=length(x); 名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 20 页，共 21 页 - - - - - - - - - 31 n=input(The Degree n of The Polynomial Pn(x) n = ); P,S=polyf
33、it(x,y,n); LP=length(P); z=zeros(1,L); for i=1:LP z=z+P(i).*x.(LP-i); end fity=polyval(P,x); plot(x,y,*,x,fity) Meany=mean(y); Lxx=(L-1)*var(x); St=(L-1)*var(y); Sr=0;Se=0; for k=1:L Se=Se+(y(k)-z(k)2; Sr=Sr+(z(k)-Meany)2; end Se=Se MSe=Se/(L-2) F=Sr/MSe % if P(1)=0 FF(1,n-2). T=abs(P(1)/(MSe/Lxx).5) % if P(1)=0 Tt(n-2). Falgfa=finv(0.95,1,L-2) Talgfa=tinv(0.975,L-2) P=poly2sym(P); P=vpa(P,5) 名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 21 页，共 21 页 - - - - - - - - -