《第三章信号检测与估计理论清华.ppt》由会员分享,可在线阅读,更多相关《第三章信号检测与估计理论清华.ppt(223页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、国家重点实验室国家重点实验室第三章第三章 信号的统计检测理论信号的统计检测理论课件下载地址课件下载地址密码:密码:111111国家重点实验室国家重点实验室3.2 统计检测理论的基本概念统计检测理论的基本概念基本要求:基本要求:充分理解统计检测理论的模型充分理解统计检测理论的模型理解几个判决概率的基本概念理解几个判决概率的基本概念国家重点实验室国家重点实验室 二元信号检测模型二元信号检测模型信源信源信源的输出称为假设信源的输出称为假设将信源的输出将信源的输出(假设假设)以一定的以一定的概率关系映射到整个观察空间中概率关系映射到整个观察空间中接收端所有可能观测量的集合接收端所有可能观测量的集合将观
2、察空间进行合理划分将观察空间进行合理划分,使每个观测量使每个观测量对应一个假设判断的方法对应一个假设判断的方法判决规则判决规则观察空观察空间间概率转移机构概率转移机构国家重点实验室国家重点实验室Example:SourceTransition mechanismObservationSpace0+2+1-2-100-1+1R=-2,-1,0,1,2国家重点实验室国家重点实验室成立成立二元信号检测二元信号检测 判决域判决域二元信号的检测问题,可归结为对观察空间的划分问题,即按照二元信号的检测问题,可归结为对观察空间的划分问题,即按照一定的准则,将观察空间一定的准则,将观察空间R分别划分为分别划分
3、为R0和和R1两个子空间。两个子空间。国家重点实验室国家重点实验室思考思考:如果如果n是均值为零的、方差为是均值为零的、方差为 的高斯随机变量的高斯随机变量应服从何种分布?应服从何种分布?国家重点实验室国家重点实验室判决假设二元信号判决结果二元信号判决结果判决假设二元信号判决概率二元信号判决概率国家重点实验室国家重点实验室二、二、M元信号检测模型元信号检测模型信源信源信源的输出称为假设信源的输出称为假设将信源的输出将信源的输出(假设假设)以一定的以一定的概率关系映射到整个观察空间中概率关系映射到整个观察空间中接收端所有可能观测量的集合接收端所有可能观测量的集合将观察空间进行合理划分将观察空间进
4、行合理划分,使每个观测量使每个观测量对应一个假设判断的方法对应一个假设判断的方法判决规则判决规则观察空观察空间间概率转移机构概率转移机构国家重点实验室国家重点实验室成立成立M元信号检测元信号检测 判决域判决域成立国家重点实验室国家重点实验室3.3 Bayes Criterion(贝叶斯准则贝叶斯准则)基本要求:基本要求:充分理解平均代价充分理解平均代价(Average Risk)的概念的概念贝叶斯准则的判决表达式贝叶斯准则的判决表达式判决性能分析判决性能分析贝叶斯准则的基本原理:在划分观察空间时,使平均风险最小贝叶斯准则的基本原理:在划分观察空间时,使平均风险最小国家重点实验室国家重点实验室一
5、、平均代价的概念和贝叶斯准则一、平均代价的概念和贝叶斯准则通信系统中,二元信号的平均解调错误概率:通信系统中,二元信号的平均解调错误概率:可看出,检测性能,不仅与两种错误判决概率有关,还与信源发送可看出,检测性能,不仅与两种错误判决概率有关,还与信源发送0和和1的的先验概率有关先验概率有关另外,每做出一种判断,人们要付出的代价也是不同的另外,每做出一种判断,人们要付出的代价也是不同的如何综合考虑上述各种因素来设计好的检测方法?如何综合考虑上述各种因素来设计好的检测方法?贝叶斯检测,给定各种判决代价因子,且已知各假设的先验概率条件下,贝叶斯检测,给定各种判决代价因子,且已知各假设的先验概率条件下
6、,使使平均代价最小平均代价最小的检测准则。的检测准则。国家重点实验室国家重点实验室一、平均代价的概念和贝叶斯准则一、平均代价的概念和贝叶斯准则问题:问题:代价因子如何定义?代价因子如何定义?平均代价如何计算?平均代价如何计算?如何获得最小的平均代价?如何获得最小的平均代价?国家重点实验室国家重点实验室一、平均代价的概念和贝叶斯准则一、平均代价的概念和贝叶斯准则1.代价因子的定义代价因子的定义对于二元信号统计检测,共有四种事件发生,即对于二元信号统计检测,共有四种事件发生,即表示假设表示假设Hj为真时,判决假设为真时,判决假设Hi成立所付出的代价成立所付出的代价注:一般假设注:一般假设国家重点实
7、验室国家重点实验室一、平均代价的概念和贝叶斯准则一、平均代价的概念和贝叶斯准则2.平均代价的计算平均代价的计算平均代价平均代价C将由两部分构成,一是信源发送将由两部分构成,一是信源发送H0假设时,假设时,判决判决所付出的代价所付出的代价C(H0)二是信源发送二是信源发送H1假设时,判决所付出的代价假设时,判决所付出的代价C(H1)国家重点实验室国家重点实验室一、平均代价的概念和贝叶斯准则一、平均代价的概念和贝叶斯准则2.平均代价的计算平均代价的计算对于二元信号统计检测,有四种事件发生,即对于二元信号统计检测,有四种事件发生,即因此,因此,国家重点实验室国家重点实验室一、平均代价的概念和贝叶斯准
8、则一、平均代价的概念和贝叶斯准则2.平均代价的计算平均代价的计算由由国家重点实验室国家重点实验室一、平均代价的概念和贝叶斯准则一、平均代价的概念和贝叶斯准则3.平均代价取到最小值的条件平均代价取到最小值的条件国家重点实验室国家重点实验室一、平均代价的概念和贝叶斯准则一、平均代价的概念和贝叶斯准则3.平均代价取到最小值的条件平均代价取到最小值的条件国家重点实验室国家重点实验室一、平均代价的概念和贝叶斯准则一、平均代价的概念和贝叶斯准则3.平均代价取到最小值的条件平均代价取到最小值的条件合并合并合并合并国家重点实验室国家重点实验室一、平均代价的概念和贝叶斯准则一、平均代价的概念和贝叶斯准则3.平均
9、代价取到最小值的条件平均代价取到最小值的条件和和是两项固定值。是两项固定值。因此,平均代价因此,平均代价C的大小与判决区域的大小与判决区域R0有关。有关。把使被积函数取负值的观察值把使被积函数取负值的观察值x值划分给值划分给R0区域,而把其余的观察值区域,而把其余的观察值x值划分给值划分给R1,即可保证平均代价最小。即可保证平均代价最小。国家重点实验室国家重点实验室一、平均代价的概念和贝叶斯准则一、平均代价的概念和贝叶斯准则4.贝叶斯判决准则贝叶斯判决准则把使被积函数取负值的观察值把使被积函数取负值的观察值x值划分给值划分给R0区域,而把其余的观察值区域,而把其余的观察值x值划分给值划分给R1
10、,即可保证平均代价最小。即可保证平均代价最小。判决判决H0假设成立假设成立判决判决H1假设成立假设成立判决判决H0假设成立假设成立判决判决H1假设成立假设成立贝贝叶叶斯斯判判决决准准则则国家重点实验室国家重点实验室贝叶斯准则基本思路贝叶斯准则基本思路:根据给定的代价计算平均代价根据给定的代价计算平均代价按照平均代价最小划分观察空间按照平均代价最小划分观察空间,得到判决准则得到判决准则对判决表达式进行化简对判决表达式进行化简一、平均代价的概念和贝叶斯准则一、平均代价的概念和贝叶斯准则国家重点实验室国家重点实验室二、贝叶斯检测的进一步说明二、贝叶斯检测的进一步说明贝叶斯判决准则贝叶斯判决准则定义为
11、似然比函数定义为似然比函数定义为判决门限定义为判决门限是一维随机变量,称为检验统计量是一维随机变量,称为检验统计量不依赖于假设的先验概率,也与代价因子无关,适用于不同先验概率和不同不依赖于假设的先验概率,也与代价因子无关,适用于不同先验概率和不同代价因子的最佳信号检测。代价因子的最佳信号检测。国家重点实验室国家重点实验室二、贝叶斯检测的进一步说明二、贝叶斯检测的进一步说明利用贝叶斯判决准则进行检测的基本步骤:利用贝叶斯判决准则进行检测的基本步骤:步骤步骤1:计算两个似然函数,构建似然比:计算两个似然函数,构建似然比步骤步骤2:根据两个假设的先验概率和代价因子,计算判决门限:根据两个假设的先验概
12、率和代价因子,计算判决门限步骤步骤3:利用上式,形成贝叶斯检测基本表达式:利用上式,形成贝叶斯检测基本表达式步骤步骤4:化简:化简国家重点实验室国家重点实验室三、贝叶斯检测例题三、贝叶斯检测例题Ex3.1 Ex3.1 在二元数字通信系统中在二元数字通信系统中,假设为假设为HH1 1时时,信源输出为常值信源输出为常值正电压正电压m,假设为假设为H H0 0时时,信源输出输出零电平信源输出输出零电平,信号在传输过信号在传输过程中迭加了噪声程中迭加了噪声n(t),每种信号的持续时间为每种信号的持续时间为T,T,请请:(1)(1)若接收端对接收信号若接收端对接收信号x(tx(t)在在(0,T)(0,T
13、)时间内进行时间内进行1 1次采样次采样,给出给出对应的贝叶斯检测准则对应的贝叶斯检测准则(2)(2)若接收端对接收信号若接收端对接收信号x(tx(t)在在(0,T)(0,T)时间内进行时间内进行N N次独立采样次独立采样,给出给出 对应的贝叶斯检测准则对应的贝叶斯检测准则.上述两种情况下上述两种情况下,噪声采样值噪声采样值n ni i是均值为零是均值为零,方差为方差为 的高斯噪声的高斯噪声国家重点实验室国家重点实验室解:一次采样时解:一次采样时步骤步骤1:计算两个似然函数,构建似然比:计算两个似然函数,构建似然比由于由于n是高斯分布随机变量,因此在是高斯分布随机变量,因此在H0假设下,观察信
14、号假设下,观察信号x也服从高斯分布,也服从高斯分布,且均值为零,方差为且均值为零,方差为 ,在在H1假设下,观察信号假设下,观察信号x服从均值为服从均值为m,方差为,方差为的高斯分布。的高斯分布。国家重点实验室国家重点实验室步骤步骤2:根据两个假设的先验概率和代价因子,计算判决门限根据两个假设的先验概率和代价因子,计算判决门限步骤步骤3:形成贝叶斯检测基本表达式:形成贝叶斯检测基本表达式步骤步骤4:化简:化简国家重点实验室国家重点实验室解:解:N次采样时次采样时步骤步骤1:计算两个似然函数,构建似然比:计算两个似然函数,构建似然比由于由于n是高斯分布随机变量,因此在是高斯分布随机变量,因此在H
15、0假设下,第假设下,第i次采样值次采样值xi服从高斯分布,服从高斯分布,且均值为零,方差为且均值为零,方差为 ,在在H1假设下,第假设下,第i次采样值次采样值xi服从均值为服从均值为m,方差为,方差为的高斯分布。的高斯分布。国家重点实验室国家重点实验室步骤步骤2:根据两个假设的先验概率和代价因子,计算判决门限根据两个假设的先验概率和代价因子,计算判决门限步骤步骤3:形成贝叶斯检测基本表达式:形成贝叶斯检测基本表达式国家重点实验室国家重点实验室步骤步骤4:化简:化简国家重点实验室国家重点实验室Ex3.2 考虑以下信号检测问题考虑以下信号检测问题:其中其中n1i是均值为零是均值为零,方差为方差为的
16、高斯随机变量的高斯随机变量,n0i是均值是均值为零为零,方差为方差为 的高斯随机变量的高斯随机变量,且不同采样时刻的加性且不同采样时刻的加性噪声之间是相互统计独立的噪声之间是相互统计独立的.请给出上述问题的贝叶斯检测准则请给出上述问题的贝叶斯检测准则.国家重点实验室国家重点实验室解:解:N次采样时次采样时步骤步骤1:计算两个似然函数,构建似然比:计算两个似然函数,构建似然比由于由于n是高斯分布随机变量,因此在是高斯分布随机变量,因此在H0假设下,第假设下,第i次采样值次采样值xi服从高斯分布,服从高斯分布,且均值为零,方差为且均值为零,方差为 ,在在H1假设下,第假设下,第i次采样值次采样值x
17、i服从均值为服从均值为0,方差为,方差为的高斯分布。的高斯分布。国家重点实验室国家重点实验室步骤步骤2:根据两个假设的先验概率和代价因子,计算判决门限根据两个假设的先验概率和代价因子,计算判决门限步骤步骤3:形成贝叶斯检测基本表达式:形成贝叶斯检测基本表达式步骤步骤4:化简:化简国家重点实验室国家重点实验室步骤步骤4:化简:化简如果如果如果如果国家重点实验室国家重点实验室贝叶斯检测小结贝叶斯检测小结(1)贝叶斯检测,给定各种判决代价因子,且已知各假设的先验概率条件下,贝叶斯检测,给定各种判决代价因子,且已知各假设的先验概率条件下,使使平均代价最小平均代价最小的检测准则。的检测准则。把使被积函数
18、取负值的观察值把使被积函数取负值的观察值x值划分给值划分给R0区域,而把其余的观察值区域,而把其余的观察值x值划分给值划分给R1,即可保证平均代价最小。即可保证平均代价最小。判决判决H0假设成立假设成立判决判决H1假设成立假设成立贝叶斯判决准则贝叶斯判决准则国家重点实验室国家重点实验室贝叶斯检测小结贝叶斯检测小结(2)利用贝叶斯判决准则进行检测的基本步骤:利用贝叶斯判决准则进行检测的基本步骤:步骤步骤1:计算两个似然函数,构建似然比:计算两个似然函数,构建似然比步骤步骤2:根据两个假设的先验概率和代价因子,计算判决门限:根据两个假设的先验概率和代价因子,计算判决门限步骤步骤3:利用上式,形成贝
19、叶斯检测基本表达式:利用上式,形成贝叶斯检测基本表达式步骤步骤4:化简:化简国家重点实验室国家重点实验室四、贝叶斯检测性能分析四、贝叶斯检测性能分析贝叶斯检测准则是一种平均代价最小的判决准则,按照贝叶斯贝叶斯检测准则是一种平均代价最小的判决准则,按照贝叶斯检测准则,能获得平均代价到底等于多少?检测准则,能获得平均代价到底等于多少?问题问题1:利用贝叶斯检测准则进行检测,平均检测错误概率如何计算?利用贝叶斯检测准则进行检测,平均检测错误概率如何计算?问题问题2:上述两个问题的关键在于,如何计算四种事件的检测概率?上述两个问题的关键在于,如何计算四种事件的检测概率?计算基本原则:根据化简后的最简判
20、决表示式进行计算。计算基本原则:根据化简后的最简判决表示式进行计算。国家重点实验室国家重点实验室四、贝叶斯检测性能分析四、贝叶斯检测性能分析计算基本原则:根据化简后的最简判决表示式进行计算。计算基本原则:根据化简后的最简判决表示式进行计算。计算步骤:计算步骤:步骤步骤1:推导贝叶斯检测准则的最简表示形式推导贝叶斯检测准则的最简表示形式步骤步骤2:根据最简表示形式,计算各种假设下,统计量的概率密度函数根据最简表示形式,计算各种假设下,统计量的概率密度函数步骤步骤3:计算判决概率计算判决概率国家重点实验室国家重点实验室四、贝叶斯检测性能分析四、贝叶斯检测性能分析根据最终的统计量来计算各种判决概率根
21、据最终的统计量来计算各种判决概率最终统计量最终统计量国家重点实验室国家重点实验室Ex3.5 Ex3.5 考虑以下二元信号假设检验问题考虑以下二元信号假设检验问题:其中其中ni是均值为零是均值为零,方差为方差为的高斯随机变量的高斯随机变量,且不同且不同采样时刻的加性噪声之间是相互统计独立的采样时刻的加性噪声之间是相互统计独立的.请请(1)给出上述问题的贝叶斯检测准则给出上述问题的贝叶斯检测准则.(2)当当N=1时时,计算判决概率计算判决概率 和和 .(3)当当N1时时,计算判决概率计算判决概率 和和 .国家重点实验室国家重点实验室解:解:N次采样时次采样时步骤步骤1:计算两个似然函数,构建似然比
22、:计算两个似然函数,构建似然比由于由于n是高斯分布随机变量,因此在是高斯分布随机变量,因此在H0假设下,第假设下,第i次采样值次采样值xi服从高斯分布,服从高斯分布,且均值为零,方差为且均值为零,方差为 ,在在H1假设下,第假设下,第i次采样值次采样值xi服从均值为服从均值为A,方差为,方差为的高斯分布。的高斯分布。国家重点实验室国家重点实验室步骤步骤2:根据两个假设的先验概率和代价因子,计算判决门限根据两个假设的先验概率和代价因子,计算判决门限步骤步骤3:形成贝叶斯检测基本表达式:形成贝叶斯检测基本表达式国家重点实验室国家重点实验室步骤步骤4:化简:化简国家重点实验室国家重点实验室性能分析:
23、性能分析:统计量统计量假设假设H0条件下,统计量条件下,统计量l为高斯分布,均值和方差分别为:为高斯分布,均值和方差分别为:国家重点实验室国家重点实验室性能分析:性能分析:统计量统计量假设假设H1条件下,统计量条件下,统计量l为高斯分布,均值和方差分别为:为高斯分布,均值和方差分别为:国家重点实验室国家重点实验室性能分析:性能分析:统计量统计量国家重点实验室国家重点实验室性能分析:性能分析:统计量统计量国家重点实验室国家重点实验室国家重点实验室国家重点实验室Ex3.6 Ex3.6 设二元假设检验的观测信号模型为设二元假设检验的观测信号模型为:其中其中n是均值为零是均值为零,方差为方差为 的高斯
24、随机变量的高斯随机变量,若两若两种假设先验等概的种假设先验等概的,且代价因子为且代价因子为c00=1,c10=4,c11=2,c01=3.给出上述问题的贝叶斯检测准则和平均代价给出上述问题的贝叶斯检测准则和平均代价C.国家重点实验室国家重点实验室解:解:步骤步骤1:计算两个似然函数,构建似然比:计算两个似然函数,构建似然比由于由于n是高斯分布随机变量,因此在是高斯分布随机变量,因此在H0假设下,第假设下,第i次采样值次采样值xi服从高斯分布,服从高斯分布,且均值为且均值为1,方差为,方差为 ,在在H1假设下,第假设下,第i次采样值次采样值xi服从均值为服从均值为-1,方差为,方差为的高斯分布。
25、的高斯分布。国家重点实验室国家重点实验室步骤步骤2:根据两个假设的先验概率和代价因子,计算判决门限根据两个假设的先验概率和代价因子,计算判决门限步骤步骤3:形成贝叶斯检测基本表达式:形成贝叶斯检测基本表达式国家重点实验室国家重点实验室步骤步骤4:化简:化简国家重点实验室国家重点实验室计算平均代价:计算平均代价:统计量统计量假设假设H0条件下,统计量条件下,统计量l为高斯分布,均值和方差分别为:为高斯分布,均值和方差分别为:国家重点实验室国家重点实验室平均代价计算:平均代价计算:统计量统计量假设假设H1条件下,统计量条件下,统计量l为高斯分布,均值和方差分别为:为高斯分布,均值和方差分别为:国家
26、重点实验室国家重点实验室性能分析:性能分析:统计量统计量国家重点实验室国家重点实验室国家重点实验室国家重点实验室性能分析:性能分析:统计量统计量国家重点实验室国家重点实验室c00=1,c10=4,c11=2,c01=3.国家重点实验室国家重点实验室3.4 派生贝叶斯准则派生贝叶斯准则(Generalized Bayes Criterion)基本要求:基本要求:掌握最小平均错误概率准则和最大后验概率掌握最小平均错误概率准则和最大后验概率准则准则理解极小化极大准则和奈曼理解极小化极大准则和奈曼-皮尔逊准则的应皮尔逊准则的应用范围和基本原理用范围和基本原理国家重点实验室国家重点实验室3.4.1 最小
27、平均错误概率准则最小平均错误概率准则(Minimum mean prob.of error criterion)应用范围应用范围平均错误概率平均错误概率此时此时,平均代价最小即转化为平均错误概率最小。平均代价最小即转化为平均错误概率最小。国家重点实验室国家重点实验室3.4.1 最小平均错误概率准则最小平均错误概率准则把使被积函数取负值的观察值把使被积函数取负值的观察值x值划分给值划分给R0区域,而把其余的观察值区域,而把其余的观察值x值划分给值划分给R1,即可保证平均代价最小。即可保证平均代价最小。判决判决H0假设成立假设成立判决判决H1假设成立假设成立国家重点实验室国家重点实验室3.4.1
28、最小平均错误概率准则最小平均错误概率准则最小平均错误概率判决准则最小平均错误概率判决准则国家重点实验室国家重点实验室3.4.1 最小平均错误概率准则最小平均错误概率准则Ex3.7 Ex3.7 在闭启键控通信系统中,两个假设下的观察在闭启键控通信系统中,两个假设下的观察信号模型为:信号模型为:若两个假设的先验概率相等,且若两个假设的先验概率相等,且采用最小平均错误概率准则,试确定判决表示式,采用最小平均错误概率准则,试确定判决表示式,并求最小平均错误概率并求最小平均错误概率上述情况下上述情况下,噪声噪声n n是均值为零是均值为零,方差为方差为 的高斯噪声的高斯噪声国家重点实验室国家重点实验室由例
29、由例3.5,知,知由于由于国家重点实验室国家重点实验室3.4.2 最大后验概率准则最大后验概率准则(Maximum a posteriori prob.criterion)应用范围应用范围贝叶斯判决准则贝叶斯判决准则国家重点实验室国家重点实验室因此,当因此,当dx很小时,有很小时,有国家重点实验室国家重点实验室最大后验概率检测准则:最大后验概率检测准则:国家重点实验室国家重点实验室贝叶斯检测,给定各种判决代价因子,且已知各假设的先验概率条件下,贝叶斯检测,给定各种判决代价因子,且已知各假设的先验概率条件下,使使平均代价最小平均代价最小的检测准则。的检测准则。最小平均最小平均错误概率错误概率判决
30、准则判决准则最大后验最大后验概率检测概率检测准则准则等概等概最大似然最大似然判决准则判决准则贝叶斯及派生检测准则贝叶斯及派生检测准则(1)国家重点实验室国家重点实验室贝叶斯检测,给定各种判决代价因子,且已知各假设的先验概率条件下,贝叶斯检测,给定各种判决代价因子,且已知各假设的先验概率条件下,使使平均代价最小平均代价最小的检测准则。的检测准则。贝叶斯及派生检测准则贝叶斯及派生检测准则(2)信源先验信源先验概率未知概率未知信源先验概率及信源先验概率及代价因子均未知代价因子均未知极小化极大准则极小化极大准则奈曼皮尔逊准则奈曼皮尔逊准则国家重点实验室国家重点实验室3.4.3 极小化极大准则极小化极大
31、准则(Minimax criterion)应用范围应用范围假设的先验概率未知,判决代价因子给定假设的先验概率未知,判决代价因子给定目的目的尽可能避免产生过分大的代价,使极大可能代价最小化。尽可能避免产生过分大的代价,使极大可能代价最小化。国家重点实验室国家重点实验室3.4.3 极小化极大准则极小化极大准则(Minimax criterion)在先验概率未知的情况下在先验概率未知的情况下,最小平均代价是先验概率的函数最小平均代价是先验概率的函数.在先验概率未知的情况下在先验概率未知的情况下,进行检测的方法是进行检测的方法是:先假设一个先验概率先假设一个先验概率p1g,然后按照贝叶斯准则进行检测然
32、后按照贝叶斯准则进行检测为尽可能降低代价为尽可能降低代价,需设计一种先验概率的假设方法,使由此需设计一种先验概率的假设方法,使由此 得到的检测准则的代价值与先验概率无关得到的检测准则的代价值与先验概率无关.国家重点实验室国家重点实验室3.4.3 极小化极大准则极小化极大准则一、几种表示符号定义一、几种表示符号定义虚警概率虚警概率漏警概率漏警概率国家重点实验室国家重点实验室3.4.3 极小化极大准则极小化极大准则二、先验概率未知的情况下,平均代价的性质二、先验概率未知的情况下,平均代价的性质平均代价平均代价C(P1)是先验概率是先验概率P1的严格上凸函数的严格上凸函数国家重点实验室国家重点实验室
33、3.4.3 极小化极大准则极小化极大准则三、先验概率未知的情况下,可以采用的检测方法三、先验概率未知的情况下,可以采用的检测方法可猜测一个先验概率可猜测一个先验概率P1g,然后利用贝叶斯准则进行检测。,然后利用贝叶斯准则进行检测。判决门限是判决门限是P1g的函数的函数判决区域判决区域R0是是P1g的函数的函数判决区域判决区域R1是是P1g的函数的函数国家重点实验室国家重点实验室给定给定 条件下,平均代价条件下,平均代价 是先验概率是先验概率P1的线性函数的线性函数 若若 ,平均代价,平均代价 大于最小平均代价大于最小平均代价 为避免产生过分大的代价,需要猜测一种先验概率为避免产生过分大的代价,
34、需要猜测一种先验概率 ,使得平均代价使得平均代价不依赖于信源的先验概率不依赖于信源的先验概率P1 3.4.3 极小化极大准则极小化极大准则国家重点实验室国家重点实验室为避免产生过分大的代价,需要猜测一种先验概率为避免产生过分大的代价,需要猜测一种先验概率 ,使得平均代价使得平均代价不依赖于信源的先验概率不依赖于信源的先验概率P1 3.4.3 极小化极大准则极小化极大准则国家重点实验室国家重点实验室3.4.3 极小化极大准则极小化极大准则国家重点实验室国家重点实验室3.4.3 极小化极大准则极小化极大准则利用极小化极大准则进行检测的基本步骤:利用极小化极大准则进行检测的基本步骤:步骤步骤1:计算
35、两个似然函数,构建似然比:计算两个似然函数,构建似然比步骤步骤2:假设判决门限为:假设判决门限为 ,构建贝叶斯检测基本表达式,构建贝叶斯检测基本表达式步骤步骤3:化简成最简形式:化简成最简形式步骤步骤4:利用极小化极大准则,确定最终判决门限。:利用极小化极大准则,确定最终判决门限。国家重点实验室国家重点实验室3.4.3 极小化极大准则极小化极大准则(Minimax criterion)Ex3.8 Ex3.8 在闭启键控通信系统中,两个假设下的观察在闭启键控通信系统中,两个假设下的观察信号模型为:信号模型为:若两个假设的先验概率未知,且若两个假设的先验概率未知,且采用极小化极大准则采用极小化极大
36、准则,试确定检测门限和平均错误概率试确定检测门限和平均错误概率上述情况下上述情况下,噪声噪声n n是均值为零是均值为零,方差为方差为 的高斯噪声的高斯噪声国家重点实验室国家重点实验室解:解:步骤步骤1:计算两个似然函数,构建似然比:计算两个似然函数,构建似然比由于由于n是高斯分布随机变量,因此在是高斯分布随机变量,因此在H0假设下,假设下,x服从高斯分布,服从高斯分布,且均值为零,方差为且均值为零,方差为 ,在在H1假设下,假设下,x服从均值为服从均值为A,方差为,方差为的高斯分布。的高斯分布。国家重点实验室国家重点实验室步骤步骤2:假设门限,构建似然比检测基本表达式:假设门限,构建似然比检测
37、基本表达式国家重点实验室国家重点实验室步骤步骤3:化简:化简国家重点实验室国家重点实验室步骤步骤4:计算判决门限化简:计算判决门限化简国家重点实验室国家重点实验室国家重点实验室国家重点实验室3.4.4 奈曼奈曼-皮尔逊准则皮尔逊准则(Neyman-Pearson criterion)应用范围应用范围假设的先验概率未知,判决代价未知假设的先验概率未知,判决代价未知(雷达信号检测雷达信号检测)奈曼奈曼-皮尔逊检测皮尔逊检测尽可能小,尽可能小,尽可能大。尽可能大。目标目标实际情况实际情况减小时,减小时,也相应减小;也相应减小;也随之增加。也随之增加。增加增加在在 约束条件下约束条件下,使正确判决概率
38、使正确判决概率 最大的准则。最大的准则。国家重点实验室国家重点实验室3.4.4 奈曼奈曼-皮尔逊准则皮尔逊准则一、奈曼一、奈曼-皮尔逊准则的存在性皮尔逊准则的存在性奈曼奈曼-皮尔逊检测准则是一定存在的。皮尔逊检测准则是一定存在的。二、奈曼二、奈曼-皮尔逊准则的推导皮尔逊准则的推导在在 约束条件下约束条件下,使正确判决概率使正确判决概率 最大的准则。最大的准则。在在 约束条件下约束条件下,使判决概率使判决概率 最小的准则。最小的准则。等价于等价于利用拉格朗日乘子利用拉格朗日乘子 ,构建目标函数,构建目标函数若若 ,J达到最小时,达到最小时,也达到最小。也达到最小。国家重点实验室国家重点实验室3.
39、4.4 奈曼奈曼-皮尔逊准则皮尔逊准则二、奈曼二、奈曼-皮尔逊准则的推导皮尔逊准则的推导把使被积函数取负值的观察值把使被积函数取负值的观察值x值划分给值划分给R0区域,而把其余的观察值区域,而把其余的观察值x值划分给值划分给R1,即可保证平均代价最小。即可保证平均代价最小。判决判决H0假设成立假设成立判决判决H1假设成立假设成立国家重点实验室国家重点实验室3.4.4 奈曼奈曼-皮尔逊准则皮尔逊准则(Neyman-Pearson criterion)判决表达式判决表达式其中其中,判决门限由下式确定判决门限由下式确定国家重点实验室国家重点实验室3.4.4 奈曼奈曼-皮尔逊准则皮尔逊准则(Neyma
40、n-Pearson criterion)求解步骤求解步骤Step1 计算似然函数、似然比计算似然函数、似然比,并写出判决表达式并写出判决表达式Step2 化简化简Step3 根据统计量计算根据统计量计算 和和Step4 在在 约束下,计算判决门限约束下,计算判决门限国家重点实验室国家重点实验室3.4.4 奈曼奈曼-皮尔逊准则皮尔逊准则(Neyman-Pearson criterion)Ex3.9 在二元通信系统中,两个假设下的观察信号在二元通信系统中,两个假设下的观察信号模型为:模型为:试构造一个在试构造一个在 条件下的奈曼条件下的奈曼-皮尔逊接收机皮尔逊接收机.上述情况下上述情况下,噪声噪声
41、n是均值为零是均值为零,方差为方差为1的高斯噪声的高斯噪声国家重点实验室国家重点实验室解:解:步骤步骤1:计算两个似然函数,构建似然比:计算两个似然函数,构建似然比由于由于n是高斯分布随机变量,因此在是高斯分布随机变量,因此在H0假设下,假设下,x服从高斯分布,服从高斯分布,且均值为零,方差为且均值为零,方差为 ,在在H1假设下,假设下,x服从均值为服从均值为1,方差为,方差为的高斯分布。的高斯分布。国家重点实验室国家重点实验室步骤步骤2:假设门限,构建似然比检测基本表达式:假设门限,构建似然比检测基本表达式国家重点实验室国家重点实验室步骤步骤3:化简:化简国家重点实验室国家重点实验室步骤步骤
42、4:计算判决门限:计算判决门限在在条件下确定判决门限条件下确定判决门限解得解得国家重点实验室国家重点实验室贝叶斯检测,给定各种判决代价因子,且已知各假设的先验概率条件下,贝叶斯检测,给定各种判决代价因子,且已知各假设的先验概率条件下,使使平均代价最小平均代价最小的检测准则。的检测准则。最小平均最小平均错误概率错误概率判决准则判决准则最大后验最大后验概率检测概率检测准则准则等概等概最大似然最大似然判决准则判决准则贝叶斯及派生检测准则贝叶斯及派生检测准则(1)国家重点实验室国家重点实验室贝叶斯检测,给定各种判决代价因子,且已知各假设的先验概率条件下,贝叶斯检测,给定各种判决代价因子,且已知各假设的
43、先验概率条件下,使使平均代价最小平均代价最小的检测准则。的检测准则。贝叶斯及派生检测准则贝叶斯及派生检测准则(2)信源先验信源先验概率未知概率未知信源先验概率及信源先验概率及代价因子均未知代价因子均未知极小化极大准则极小化极大准则奈曼皮尔逊准则奈曼皮尔逊准则按照似然比检测形式构建基本表达式,按照似然比检测形式构建基本表达式,并在并在 的约束下计的约束下计算最终判决门限。算最终判决门限。按照似然比检测形式构建基本表达式,按照似然比检测形式构建基本表达式,并在并在 的约束下计的约束下计算最终判决门限。算最终判决门限。国家重点实验室国家重点实验室3.5 信号统计检测的性能信号统计检测的性能(Perf
44、ormance of Statistical Detection)根据根据分析似然比检测的接收机工作特性分析似然比检测的接收机工作特性国家重点实验室国家重点实验室3.5 信号统计检测的性能信号统计检测的性能(Performance of Statistical Detection)接收机工作特性的共同特点接收机工作特性的共同特点(似然比函数是似然比函数是x的连续函数的连续函数)上凸曲线上凸曲线随着门限随着门限 的增加,两种判决概率的增加,两种判决概率PD和和PF之都会减小之都会减小工作特性某点上的斜率等于该点工作特性某点上的斜率等于该点PD和和PF所要求的检测门限值所要求的检测门限值利用接收机
45、工作特性,可进行各种判决准则的分析和计算利用接收机工作特性,可进行各种判决准则的分析和计算PD和和PF之同时增加,或同时减小之同时增加,或同时减小曲线位于曲线位于PD=PF之上之上国家重点实验室国家重点实验室3.5 信号统计检测的性能信号统计检测的性能工作特性某点上的斜率等于该点工作特性某点上的斜率等于该点PD和和PF所要求的检测门限值所要求的检测门限值国家重点实验室国家重点实验室3.5 信号统计检测的性能信号统计检测的性能利用接收机工作特性,可进行各种判决准则的分析和计算利用接收机工作特性,可进行各种判决准则的分析和计算贝叶斯准则和最小错误概率准则下贝叶斯准则和最小错误概率准则下根据先验概率
46、和代价因子,求得判决门限根据先验概率和代价因子,求得判决门限以以 为斜率,可找到一条直线,与在给定信噪比为斜率,可找到一条直线,与在给定信噪比d下的下的PD-PF曲线相切;曲线相切;切点对应的切点对应的PD和和PF值,就是在给定信噪比下的两种判决概率。值,就是在给定信噪比下的两种判决概率。国家重点实验室国家重点实验室3.5 信号统计检测的性能信号统计检测的性能利用接收机工作特性,可进行各种判决准则的分析和计算利用接收机工作特性,可进行各种判决准则的分析和计算极小化极大准则极小化极大准则交点即是在极小化极大准则条件下的两种判决概率。交点即是在极小化极大准则条件下的两种判决概率。按照上述公式,画出
47、一条按照上述公式,画出一条PD-PF直线,该直线与给定信噪比下的直线,该直线与给定信噪比下的PD-PF工作特性工作特性曲线相交曲线相交国家重点实验室国家重点实验室3.5 信号统计检测的性能信号统计检测的性能利用接收机工作特性,可进行各种判决准则的分析和计算利用接收机工作特性,可进行各种判决准则的分析和计算奈曼皮尔逊准则奈曼皮尔逊准则交点即是在奈曼皮尔逊准则下的两种判决概率。交点即是在奈曼皮尔逊准则下的两种判决概率。该直线与给定信噪比下的该直线与给定信噪比下的PD-PF工作特性曲线相交工作特性曲线相交由由画一条直线画一条直线国家重点实验室国家重点实验室贝叶斯检测,给定各种判决代价因子,且已知各假
48、设的先验概率条件下,贝叶斯检测,给定各种判决代价因子,且已知各假设的先验概率条件下,使使平均代价最小平均代价最小的检测准则。的检测准则。最小平均最小平均错误概率错误概率判决准则判决准则最大后验最大后验概率检测概率检测准则准则等概等概最大似然最大似然判决准则判决准则贝叶斯及派生检测准则贝叶斯及派生检测准则(1)国家重点实验室国家重点实验室贝叶斯检测,给定各种判决代价因子,且已知各假设的先验概率条件下,贝叶斯检测,给定各种判决代价因子,且已知各假设的先验概率条件下,使使平均代价最小平均代价最小的检测准则。的检测准则。贝叶斯及派生检测准则贝叶斯及派生检测准则(2)信源先验信源先验概率未知概率未知信源
49、先验概率及信源先验概率及代价因子均未知代价因子均未知极小化极大准则极小化极大准则奈曼皮尔逊准则奈曼皮尔逊准则按照似然比检测形式构建基本表达式,按照似然比检测形式构建基本表达式,并在并在 的约束下计的约束下计算最终判决门限。算最终判决门限。按照似然比检测形式构建基本表达式,按照似然比检测形式构建基本表达式,并在并在 的约束下计的约束下计算最终判决门限。算最终判决门限。国家重点实验室国家重点实验室贝叶斯及派生检测准则贝叶斯及派生检测准则(3)分析某种检测方法的性能时,需根据化简后的最简判决表示式进行。分析某种检测方法的性能时,需根据化简后的最简判决表示式进行。计算步骤:计算步骤:步骤步骤1:推导某
50、种检测方法下获得的最简判决表达式推导某种检测方法下获得的最简判决表达式步骤步骤2:根据最简表示形式,计算各种假设下,统计量的概率密度函数根据最简表示形式,计算各种假设下,统计量的概率密度函数步骤步骤3:计算判决概率计算判决概率国家重点实验室国家重点实验室3.6 M元信号的统计检测元信号的统计检测(Detection of M-ary Signal)基本要求:基本要求:掌握贝叶斯准则掌握贝叶斯准则掌握最小平均错误概率准则掌握最小平均错误概率准则国家重点实验室国家重点实验室3.6 M元信号检测元信号检测1.Bayes 检测准则检测准则平均代价为平均代价为寻找一种判决空间的划分方法寻找一种判决空间的