《第二讲随机变量的定义及分布PPT讲稿.ppt》由会员分享，可在线阅读，更多相关《第二讲随机变量的定义及分布PPT讲稿.ppt（69页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第二讲随机变量的定义及分布第二讲随机变量的定义及分布第1页，共69页，编辑于2022年，星期二本章学习的目标：本章学习的目标：复习概率与随机变量的理论复习概率与随机变量的理论加深随机变量函数的理论（重点）加深随机变量函数的理论（重点）深化一些重要概念的理解深化一些重要概念的理解加深多维正态随机变量的理论加深多维正态随机变量的理论增加增加MatlabMatlab的统计分析函数的统计分析函数(自主学习）自主学习）第2页，共69页，编辑于2022年，星期二1.1 1.1 概率的基本术语概率的基本术语 随机试验随机试验(Random Experiment):(Random Experiment):满足
2、下列三个条件的试验称为随机试验：满足下列三个条件的试验称为随机试验：(1)(1)在相同条件下可重复进行；在相同条件下可重复进行；(2)(2)试验的结果不止一个，所有可能的结果能事先明确；试验的结果不止一个，所有可能的结果能事先明确；(3)(3)每次试验前不能确定会出现哪一个结果。每次试验前不能确定会出现哪一个结果。例：投掷硬币例：投掷硬币(Toss a coin)The outcome varies in an unpredictable fashion when the experiment is repeated under the same conditions.第3页，共69页，编辑于
3、2022年，星期二随机事件随机事件(Random Event):(Random Event):在随机试验中，对试验中可能出现也可能不出现、在随机试验中，对试验中可能出现也可能不出现、而在大量重复试验中却具有某种规律性的事情，称而在大量重复试验中却具有某种规律性的事情，称为随机事件，简称为事件。为随机事件，简称为事件。如投掷硬币出现正面就是一个随机事件。如投掷硬币出现正面就是一个随机事件。第4页，共69页，编辑于2022年，星期二基本事件基本事件(Elementary Event):(Elementary Event):随随机机试试验验中中最最简简单单的的随随机机事事件件称称为为基基本本事事件件
4、，如如投投掷掷骰骰子子出出现现1 1、2 2、.、6 6点点是是基基本本事事件件，出出现现偶偶数点是随机事件，但不是基本事件。数点是随机事件，但不是基本事件。(简单事件简单事件Simple Event)Simple Event)第5页，共69页，编辑于2022年，星期二样本空间样本空间(Sample Space)(Sample Space)随机试验的所有基本事件组成的集合称为样本空间随机试验的所有基本事件组成的集合称为样本空间.Toss a coin：S=Head,Tail=H,TToss a die:S=1,2,3,4,5,6第6页，共69页，编辑于2022年，星期二关于样本空间的注释：关于
5、样本空间的注释：离散的样本空间离散的样本空间Toss a die:S=1,2,3,4,5,6连续的样本空间连续的样本空间由多次子试验构成的样本空间看下例由多次子试验构成的样本空间看下例第7页，共69页，编辑于2022年，星期二IF we toss a coin three times and let the triplet xyz denote the outcome“x on the first toss,y on the second toss,z on the third toss”,then the sample space of the experiment isS=HHH,HHT,
6、HTH,HTT,THH,THT,TTH,TTTThe event“one head and two tails”is defined byE=HTT,THT,TTH第8页，共69页，编辑于2022年，星期二关于样本空间的注释：关于样本空间的注释：离散的样本空间离散的样本空间Toss a die:S=1,2,3,4,5,6连续的样本空间连续的样本空间由多次子试验构成的样本空间由多次子试验构成的样本空间可数无穷的样本空间可数无穷的样本空间S=S1 S1 =HH,HT,TH,TT,S1=H,T第9页，共69页，编辑于2022年，星期二频率和概率频率和概率(Frequency and Probabil
7、ity):(Frequency and Probability):n n次重复试验中，次重复试验中，事件事件A A发生的次数发生的次数n nA A：-事件事件A A的的频数频数比值比值n nA A/n:-/n:-事件事件A A发生的发生的频率频率概率概率频率反映了事件频率反映了事件A A发生的频繁程度，若事件发生的频繁程度，若事件A A发生的发生的可能性大，那么相应的频率也大，反之则较小。可能性大，那么相应的频率也大，反之则较小。第10页，共69页，编辑于2022年，星期二1.2 1.2 随机变量的定义随机变量的定义(Definition of a random variable)(Defin
8、ition of a random variable)设随机试验设随机试验E E的样本空间为的样本空间为S=eS=e，如果对于每一个，如果对于每一个e e S S，有一个实数，有一个实数X(e)X(e)与之对应，这样就得到一个与之对应，这样就得到一个定义在定义在S S上的单值函数上的单值函数X(e)X(e)，称，称X(e)X(e)为随机变量，为随机变量，简记为简记为X X。随机变量是定义在样本空间随机变量是定义在样本空间S S上的单值函数上的单值函数1.1.定义定义第11页，共69页，编辑于2022年，星期二Interpretation of random variable:SeReal li
9、neRandom variable is a function that assigns a numerical value to the outcome of the experiment.第12页，共69页，编辑于2022年，星期二A coin tossSe1Real line10e2Mapping of the outcome of a coin toss into the set of real number第13页，共69页，编辑于2022年，星期二A discrete random variable is a random variable that can be take on
10、at most a countable number of possible values根据随机变量取值的不同可以分为：根据随机变量取值的不同可以分为：连续型随机变量连续型随机变量(Continuous random variable)(Continuous random variable)离散型随机变量离散型随机变量(Discrete random variable)(Discrete random variable)第14页，共69页，编辑于2022年，星期二2.2.概率分布列概率分布列Xx1x2.xnpkp1p2.pnProbability mass function(PMF)第15页
11、，共69页，编辑于2022年，星期二(1)(0,1)(1)(0,1)分布分布 随机变量的可能取值为随机变量的可能取值为0 0和和1 1两个值，其概率分布为两个值，其概率分布为PMF:0 1第16页，共69页，编辑于2022年，星期二Bernoulli random variableLet A be an event of interest in some experiment,e.g.,a device is not defective.We say that a“success”occurs if A occurs when we perform the experiment.Bernoul
12、li random variable IA is equal to 1 if A occurs and zero otherwise.第17页，共69页，编辑于2022年，星期二(2)Binomial 独立地进行独立地进行n次贝努利试验，事件次贝努利试验，事件A发生发生m次的概率次的概率刚好是刚好是 展开的第展开的第m+1项的系数项的系数例：雷达双门限检测器例：雷达双门限检测器第18页，共69页，编辑于2022年，星期二Example:Transmission error in a binary communications channel.Let X be the number of err
13、ors in n independent transmissions.Find the PMF of X.Find the probability of one or fewer errors0101 1-1-第19页，共69页，编辑于2022年，星期二The probability of k errors in n bits transmissions is given by the probability of an error pattern that k 1s and n-k 0s X is a binomial random variable第20页，共69页，编辑于2022年，星期
14、二例：信息传输问题（例：信息传输问题（Message Transmissions）Let X be the number of times needs to be transmitted until it arrivers correctly at its destination.Find the probability that X is an a even number.X is a discrete random variable taking on values from S=1,2,3,.(3)geometric random variable第21页，共69页，编辑于2022年，星
15、期二The event X=k occurs if k-1 consecutive erroneous transmissions(failures)followed by a error-free one(success)X is called the geometric random variable第22页，共69页，编辑于2022年，星期二泊松分布泊松分布(Poisson distribution)(Poisson distribution)例：交通路口在单位时间内通过的车辆数例：交通路口在单位时间内通过的车辆数第23页，共69页，编辑于2022年，星期二1.3 1.3 分布函数和概率
16、密度函数分布函数和概率密度函数Probability Density Function,（PDF）Distribution Function or Cumulative Distribution Function,(CDF)1.定义定义第24页，共69页，编辑于2022年，星期二右连续2.分布函数的性质（分布函数的性质（Properties of the CDF）第25页，共69页，编辑于2022年，星期二分布函数是右连续的不减函数，在负无穷处为零，正无穷分布函数是右连续的不减函数，在负无穷处为零，正无穷处为处为1 1。对于连续型随机变量，取某一特定值的概率是为零。对于连续型随机变量，取某一特
17、定值的概率是为零的。即的。即PX=x=0PX=x=0第26页，共69页，编辑于2022年，星期二对于离散型随机变量，分布函数为阶梯函数，阶梯的跳变对于离散型随机变量，分布函数为阶梯函数，阶梯的跳变点出现在随机变量的取值点上，跳变的高度为随机变量取点出现在随机变量的取值点上，跳变的高度为随机变量取该值的概率。该值的概率。第27页，共69页，编辑于2022年，星期二对于离散型随机变量，对于离散型随机变量，PMF与与CDF的关系为的关系为第28页，共69页，编辑于2022年，星期二概率密度概率密度随机变量落入(x1,x2)的概率 第29页，共69页，编辑于2022年，星期二对于离散型随机变量，它的概
18、率密度函数是一串对于离散型随机变量，它的概率密度函数是一串 函数之和，函数之和，函数出现在随机变量的取值点，强度为取该值的概率。函数出现在随机变量的取值点，强度为取该值的概率。第30页，共69页，编辑于2022年，星期二第31页，共69页，编辑于2022年，星期二3.3.常见概率分布常见概率分布 正态分布（正态分布（NormalNormal），也称高斯（），也称高斯（GaussGauss）分布）分布 -4-3-2-10123400.10.20.30.40.50.60.70.8N(0,1)N(0,1)正态分布概率密度正态分布概率密度 标准正态分布函数第32页，共69页，编辑于2022年，星期二瑞
19、利分布（瑞利分布（RayleighRayleigh）瑞利分布概率密度瑞利分布概率密度 2 2 02468101200.050.10.150.20.250.30.350.4第33页，共69页，编辑于2022年，星期二指数（指数（ExponentialExponential）分布）分布指数分布概率密度指数分布概率密度 0123456700.511.5第34页，共69页，编辑于2022年，星期二 对数正态分布（对数正态分布（LogNormalLogNormal）高分辨率雷达杂波分布高分辨率雷达杂波分布01234567891000.10.20.30.40.5对数正态分布概率密度对数正态分布概率密度 为
20、尺度参数为形状参数第35页，共69页，编辑于2022年，星期二1.4 1.4 多维随机变量及其分布多维随机变量及其分布 Multiple Random Variables and Distributions Multiple Random Variables and Distributions 1.定义定义Se第36页，共69页，编辑于2022年，星期二2.2.二维分布函数和概率密度二维分布函数和概率密度 Bivariate CDF and PDF Bivariate CDF and PDF 二维分布函数图解二维分布函数图解 定义：定义：第37页，共69页，编辑于2022年，星期二二维分布函数
21、性质：二维分布函数性质：边缘（边缘（MarginalMarginal）分布）分布由二维分布函数可以求出一维分布函数由二维分布函数可以求出一维分布函数 第38页，共69页，编辑于2022年，星期二二维概率密度：二维概率密度：由二维概率密度可以求出边缘概率密度由二维概率密度可以求出边缘概率密度第39页，共69页，编辑于2022年，星期二随机变量落在某个区域的概率随机变量落在某个区域的概率 第40页，共69页，编辑于2022年，星期二3.3.条件分布条件分布(Conditional Distribution)(Conditional Distribution)条件分布函数条件分布函数条件概率密度条件
22、概率密度称随机变量称随机变量X X、Y Y独立独立第41页，共69页，编辑于2022年，星期二Example:Communication Channel with Discrete Input and Continuous Outputnoise voltage NU(-2,2)通信信道通信信道X:+1 or -1Find PX=+1,Y0Y第42页，共69页，编辑于2022年，星期二Solution:1/2When the input X=1,the output Y is uniformly distributed in the interval Therefore第43页，共69页，编辑
23、于2022年，星期二1.5 1.5 随机变量的数字特征随机变量的数字特征 均值均值 方差方差 协方差与相关系数协方差与相关系数 协方差矩阵协方差矩阵 举例举例第44页，共69页，编辑于2022年，星期二1.1.均值（均值（Mean)Mean)算术平均：算术平均：所有可能取值等概率加权所有可能取值等概率加权统计平均值：统计平均值：所有可能取值按概率加权所有可能取值按概率加权连续型随机变量：连续型随机变量：离散型随机变量：离散型随机变量：第45页，共69页，编辑于2022年，星期二性质：性质：如果如果X X和和Y Y相互独立，相互独立，如果如果EXY=0，则称，则称X和和Y正交正交(Orthogo
24、nal)。第46页，共69页，编辑于2022年，星期二2.2.方差方差(Variance)(Variance)方方差差反反映映了了随随机机变变量量X X的的取取值值偏偏离离其其均均值值的的偏偏离离程程度度或或分分散程度，散程度，D(X)D(X)越大，则越大，则X X的取值越分散。的取值越分散。第47页，共69页，编辑于2022年，星期二性质：性质：如果如果X X1 1,X,X2 2,.,X,.,Xn n相互独立。相互独立。第48页，共69页，编辑于2022年，星期二Variance is a nonlinear operator第49页，共69页，编辑于2022年，星期二3.3.协方差和相关系
25、数协方差和相关系数(Covariance and Correlation coefficient)(Covariance and Correlation coefficient)如果如果X和和Y相互独立，则相互独立，则rXY=0，|rXY|=1的充要条件是的充要条件是PY=aX+b=1第50页，共69页，编辑于2022年，星期二we define X and Y to be uncorrelatedIf ,If X and Y are independent,then X and Y are uncorrelated.X and Y are independentX and Y are unc
26、orrelatedTrueFalse第51页，共69页，编辑于2022年，星期二The correlation coefficient provides a measure of how good a prediction of the value of one of the two RVs can be formed based on an observed value of the other.1 indicates a high degree of linear between X and Y+1 means b0 and -1 means b0第52页，共69页，编辑于2022年，星期
27、二Independent:UncorrelatedOrthogonal:第53页，共69页，编辑于2022年，星期二不相关就认为不相关就认为X与与Y没有关系吗？没有关系吗？例：例：为零均值正态随机变量，为零均值正态随机变量，Y 与与X相关吗？相关吗？Y是依赖于是依赖于X的的(Dependence)，但但Y与与X不相关不相关(Uncorrelated),线性不相关的。线性不相关的。第54页，共69页，编辑于2022年，星期二Independent implies zero covariance but zero covariance does not imply independence.Exa
28、mple:Uncorrelated but dependent random variablesLet be uniformly distributed in the interval(0,2)。LetX and Y are uncorrelated but dependent第55页，共69页，编辑于2022年，星期二注意英文单词的区别注意英文单词的区别:Correlation(Uncorrelated)Dependent（Independent)It can be shown that 第56页，共69页，编辑于2022年，星期二4.4.协方差矩阵（协方差矩阵（Covariance Mat
29、rixCovariance Matrix）多维随机变量通常用协方差矩阵来描述随机变量之间的相互关系。多维随机变量通常用协方差矩阵来描述随机变量之间的相互关系。第57页，共69页，编辑于2022年，星期二协方差矩阵是对称（共轭对称）的；协方差矩阵是对称（共轭对称）的；如果变量之间是不相关的，则如果变量之间是不相关的，则K K是一个对角阵。是一个对角阵。第58页，共69页，编辑于2022年，星期二例例1:(0,1)分布随机变量，分布随机变量，PX=1=p,PX=0=q=1-p,求求X的均值和方差的均值和方差5.Expected value of some important random vari
30、ableEX=1PX=1+0 PX=0=pEX2=12 PX=1+02 PX=0=pD(X)=E(X2)-(EX)2=p-p2=pq解解:第59页，共69页，编辑于2022年，星期二例例2(a,b)2(a,b)上均匀分布的随机变量，求均值和方差上均匀分布的随机变量，求均值和方差 第60页，共69页，编辑于2022年，星期二例例3 3 求瑞利分布随机变量的均值和方差。求瑞利分布随机变量的均值和方差。第61页，共69页，编辑于2022年，星期二常用分布及其数字特征归纳常用分布及其数字特征归纳Uniform Random Variable第62页，共69页，编辑于2022年，星期二Exponenti
31、al Random Variable第63页，共69页，编辑于2022年，星期二Gaussian Random VariableRemark:Under a wide range of conditions X can be used to approximate the sum of a large number of independent random variable.第64页，共69页，编辑于2022年，星期二Gamma Random VariableRemark:Chi-Square random variable with k degree of freedom:k=2,=1/2
32、第65页，共69页，编辑于2022年，星期二Laplacian Random Variable第66页，共69页，编辑于2022年，星期二Rayleigh Random Variable第67页，共69页，编辑于2022年，星期二随机变量的定义与分布随机变量的定义与分布（1）概率的基本术语：）概率的基本术语：随机试验随机试验 基本事件基本事件 随机事件随机事件 样本空间，频率与概率样本空间，频率与概率（2）随机变量的定义）随机变量的定义 从样本空间到实轴的映射从样本空间到实轴的映射（3）随机变量的分布）随机变量的分布 PMF CDF PDF 典型随机变量的分布典型随机变量的分布（4）条件分布）条件分布 小结小结第68页，共69页，编辑于2022年，星期二随机变量的数字特征随机变量的数字特征1.均值均值 反映随机变量取值的统计平均值反映随机变量取值的统计平均值2.方差方差 随机变量取值偏离均值的偏离程度随机变量取值偏离均值的偏离程度3.相关系数相关系数 X与与Y线性程度的度量线性程度的度量4.注意：线性不相关并不意味他们没有关系注意：线性不相关并不意味他们没有关系5.注意与独立的差别注意与独立的差别6.4.协方差矩阵协方差矩阵7.5.常见随机变量的数字特征常见随机变量的数字特征第69页，共69页，编辑于2022年，星期二