《2022年湘大信息论与编码试卷归纳 .pdf》由会员分享，可在线阅读，更多相关《2022年湘大信息论与编码试卷归纳 .pdf（4页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、一、填空题（每空1 分，共 30 分）（1）在现代通信系统中，信源编码主要用于解决信息传输中的有效性，信道编码主要用于解决信息传输中的可靠性，加密编码主要用于解决信息传输中的安全性。（2）不可能事件的自信息量是_ _,必然事件的自信息是0。（3）离散平稳无记忆信源X 的 N 次扩展信源的熵等于离散信源X 的熵的N 倍。（4）在信息处理中，随着处理级数的增加，输入和输出消息之间的平均互信息量会减少。（5）若一离散无记忆信源的信源熵H（X）等于 2.5，对信源进行等长的无失真二进制编码，则编码长度至少为3。（6）假设每个消息的发出都是等概率的，四进制脉冲所含信息量是二进制脉冲的 2 倍。（7）对于
2、香农编码、费诺编码和霍夫曼编码，编码方法惟一的是香农编码。霍夫曼编码方法构造的是最佳码。（8）已知某线性分组码的最小汉明距离为3，那么这组码最多能检测出_2_个码元错误，最多能纠正 _1_个码元错误。（9）设有一个离散无记忆平稳信道，其信道容量为C，只要待传送的信息传输率R_小于 _C（大于、小于或者等于），则存在一种编码，当输入序列长度n 足够大，使译码错误概率任意小。（10）平均错误概率不仅与信道本身的统计 特性有关，还与_译码 规则和编码方法有关（11）互信息 I(X;Y)与信息熵 H(Y)的关系为：I(X;Y)_小于 _（大于、小于或者等于）H(Y)。（12）克劳夫特不等式是唯一可译码
3、_存在 _的充要条件。00，01，10，11是否是唯一可译码？_是_。（13）差错控制的基本方式大致可以分为前向纠错、反馈重发和混合纠错。（14）如果所有码字都配置在二进制码树的叶节点，则该码字为唯一可译码。（15）设信道输入端的熵为H(X)，输出端的熵为H(Y)，该信道为无噪有损信道，则该信道的容量为Max H（Y）。（16）某离散无记忆信源X，其符号个数为n，则当信源符号呈等概 _分布情况下，信源熵取最大值 _log（n）。（17）平均互信息是输入信源概率分布的上凸函数;平均互信息是信道转移概率的下凸函数,平均互信息的最大值为信道容量。二、简答题（共4 题，每题5 分）1,简述自信息和平均
4、自信息量自信息：)(1log)(2iixpxI平均自信息量：)(log)()(21iqiiixpxpxH2,简述信源的符号之间的依赖与信源冗余度的关系。名师资料总结-精品资料欢迎下载-名师精心整理-第 1 页，共 4 页 -当信源的符号之间有依赖时，信源输出消息的不确定性减弱。而信源冗余度正是反映信源符号依赖关系的强弱，冗余度越大，依赖关系就越大。3,简述香农第一编码定理的物理意义?1.答：无失真信源编码，编码后尽可能等概率分布,使每个码元平均信息量最大。从而使信道信息传输率 R 达到信道容量C,实现信源与信道理想的统计匹配。4,什么是最小码距,以及它和检错纠错能力之间的关系。某一码书C中,任
5、意两个码字之间汉明距离的最小值称为该码的最小码距Dmin.当已知某线性分组码的最小汉明距离为Dmin，那么这组码最多能检测出e=Dmin-1 个码元错误，最多能纠正t=(Dmin-1)/2 个码元错误。三、计算题（共6 题，每题1 0 分）1,有两个二元随机变量X和 Y，它们的联合概率为Y X x1=0 x2=1 y1=0 1/8 3/8 y2=1 3/8 1/8 定义另一随机变量Z=XY（一般乘积），试计算 H(Z)=?解：Z=XY 的概率分布如下：symbolbitzpZHzzZPZkk/544.081log8187log87)()(818710)(2212,二元对称信道如图。1）若430
6、p，411p，求XH、YXH|和YXI;；2）求该信道的信道容量。解：1）共 6分2），（3分）此时输入概率分布为等概率分布。（1分）符号/749.0|bitYXH名师资料总结-精品资料欢迎下载-名师精心整理-第 2 页，共 4 页 -3,求以下二个信道的信道容量：，3 答：P1 为一一对应确定信道，因此有。P2 为具有归并性能的信道，因此有。4,.信源空间为1234567()0.20.190.180.170.150.10.01XxxxxxxxP X，试构造二元霍夫曼码，计算其平均码长和编码效率（要求有编码过程）。5,已知一个高斯信道，输入信噪比(比率)为3。频带为 3kHz，求最大可能传送的
7、信息率。若信噪比提高到15，理论上传送同样的信息率所需的频带为多少？5答:(1)最大可能传送的信息率是Ct=w log(1+Px/Pn)=31000 log(1+3)=61000比特/秒(2)1.5kHZ 名师资料总结-精品资料欢迎下载-名师精心整理-第 3 页，共 4 页 -6,设一线性分组码具有一致监督矩阵110101100110111000H1）求此分组码n=?,k=?共有多少码字？2）求此分组码的生成矩阵G。3）写出此分组码的所有码字。4）若接收到码字（101001），求出伴随式并给出翻译结果。解：1）n=6,k=3,共有 8个码字。（2分）2）设码字012345CCCCCCC由TTHC0得0000135034012CCCCCCCCCC令监督位为012CCC，则有340451352CCCCCCCCC生成矩阵为101100110010011001（3分）3）所有码字为000000，001101，010011，011110，100110，101011，110101，111000。（3分）4）由TTHRS得101S，该码字在第5位发生错误，（101001）纠正为（101011），即译码为（101001）（2分）名师资料总结-精品资料欢迎下载-名师精心整理-第 4 页，共 4 页 -