《信息论测试题及答案(共9页).doc》由会员分享,可在线阅读,更多相关《信息论测试题及答案(共9页).doc(9页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、精选优质文档-倾情为你奉上一、设X、Y是两个相互统计独立的二元随机变量,其取-1或1的概率相等。定义另一个二元随机变量Z,取Z=YX(一般乘积)。试计算:1.H(Y)、H(Z); 2.H(YZ);3.I(X;Y)、I(Y;Z);二、如图所示为一个三状态马尔科夫信源的转移概率矩阵 1. 绘制状态转移图; 2. 求该马尔科夫信源的稳态分布; 3. 求极限熵; 三、在干扰离散对称信道上传输符号1和0,已知P(0)=1/4,P(1)=3/4,试求:1. 信道转移概率矩阵P 2.信道疑义度 3.信道容量以及其输入概率分布四、某信道的转移矩阵,求信道容量,最佳输入概率分布。五、求下列各离散信道的容量(其条
2、件概率P(Y/X)如下:)六、求以下各信道矩阵代表的信道的容量答案一、设X、Y是两个相互统计独立的二元随机变量,其取-1或1的概率相等。定义另一个二元随机变量Z,取Z=YX(一般乘积)。试计算:1.H(Y)、H(Z);2.H(XY)、H(YZ);3.I(X;Y)、I(Y;Z);解:1. =1bit/符号Z=YX而且X和Y相互独立 = = 故H(Z)= =1bit/符号2.从上式可以看出:Y与X的联合概率分布为:专心-专注-专业P(Y,Z)Y=1Y=-1Z=10.250.25Z=-10.250.25H(YZ)=H(X)+H(Y)=1+1=2bit/符号3.X与Y相互独立,故H(X|Y)=H(X)
3、=1bit/符号 I(X;Y)=H(X)-H(X|Y)=1-1=0bit/符号 I(Y;Z)=H(Y)-H(Y|Z)=H(Y)-H(YZ)-H(Z)=0 bit/符号二、如图所示为一个三状态马尔科夫信源的转移概率矩阵 2. 绘制状态转移图; 2. 求该马尔科夫信源的稳态分布; 3. 求极限熵;解:1.状态转移图如右图 2.由公式,可得其三个状态的稳态概率为:3.其极限熵: 三、在干扰离散对称信道上传输符号1和0,已知P(0)=1/4,P(1)=3/4,试求:2. 信道转移概率矩阵P 2.信道疑义度 3.信道容量以及其输入概率分布010.90.10.10.901解:1.该转移概率矩阵为 P= 2
4、.根据P(XY)=P(Y|X)P(X),可得联合概率 P(XY)YYX=09/401/40X=13/4027/40P(Y=i)12/4028/40由P(X|Y)=P(X|Y)/P(Y)可得P(X|Y)Y=0Y=1X=03/41/28X=11/427/28H(X|Y)=- 3.该信道是对称信道,其容量为: C=logs-H=log2-H(0.9,0.1)=1-0.469=0.531bit/符号 这时,输入符号服从等概率分布,即四、某信道的转移矩阵,求信道容量,最佳输入概率分布。 解:该信道是准对称信道,分解为两个互不相交的子信道矩阵 这里 C=logr-H(P的行矢量) - =0.174bit/符号 这时,输入端符号服从等概率分布,即=五、求下列各离散信道的容量(其条件概率P(Y/X)如下:) 六、求以下各信道矩阵代表的信道的容量