《[物理]信道与信道容量.ppt》由会员分享，可在线阅读，更多相关《[物理]信道与信道容量.ppt（40页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、23.1 3.1 信道分类和表示参数信道分类和表示参数3.2 3.2 离散单个符号信道及其容量离散单个符号信道及其容量3.3 3.3 离散序列信道及其容量离散序列信道及其容量3.4 3.4 连续信道及其容量连续信道及其容量3 设信道的输入X=(X1, X2 Xi, ), Xi a1 an 输出Y= (Y1, Y2 Yj,), Yj b1 bm 信道转移概率矩阵p(Y|X)： 描述输入/输出的统计依赖关系,反映信道统计关系信 道XYp(Y|X)4 无干扰(无噪声)信道 信道的输出信号Y与输入信号X之间有确定的关系Y= f (X), 已知X后就确知Y 转移概率:)f()f(pXYXYXY, 0,
2、1)|(5 有干扰无记忆信道 信道的输出信号Y与输入信号X之间没有确定的关系,但转移概率满足:)|()|()|()|(2211LLxypxypxyppXY 有干扰无记忆信道可分为: 二进制离散信道 离散无记忆信道 离散输入、连续输出信道 波形信道6 信道输入是n元符号Xa1, a2, , an 信道输出是m元符号Yb1, b2, , bm 转移矩阵 已知X, 输出Y统计特性nnmnnmmmaaapppppppppPbbb2121222211121121a1a2anb1b2bm:p11p12p21p22pnmniabpmjij,2, 11)|(178 平均互信息I (X;Y)： 接收到符号Y后平
3、均每个符号获得的关于X的信息量。niijijijijijijxypxpypypxypxypxpYXI1)|()()()()|(log)|()();( 信道的信息传输率就是平均互信息 9 信道容量C： 最大的信息传输率);(max)(YXICiap 单位时间的信道容量：);(max1)(YXITCiapt10 对于一般信道,信道容量计算相当复杂,我们只讨论某些特殊类型的信道： 离散信道可分成： 无干扰(无噪)信道 无噪无损信道 有噪无损信道 无噪有损信道 有干扰无记忆信道 有干扰有记忆信道11噪信道nYHXHYXICiap2)(log)(max)(max);(max噪信道mYHYXICiap2)
4、(log)(max);(max噪信道nXHYXICiap2)(log)(max);(max12 对称离散信道： 对称性: 每一行都是由同一集 p1, p2,pm 的诸元素不同排列组成输入对称 每一列都是由集q1, q2,qn的诸元素不同排列组成输出对称2131616121313161213131616161613131PP满足对称性,所对应的信道是对称离散信道。13 信道矩阵 7 . 02 . 01 . 01 . 02 . 07 . 03161316161613131PP 不具有对称性,因而所对应的信通不是对称离散信道。 14 若输入符号和输出符号个数相同,都等于n,且信道矩阵为pnpnpnp
5、pnpnpnppP111111111 此信道称为强对称信道 (均匀信道) 信道矩阵中各列之和也等于1 15 对称离散信道的平均互信息为)|()()|()(),(XYHYHYXHXHYXIniaYHabpabpabpabpapXYHiijjijijijiji, 2 , 1)|()|(log)|()|(log)|()()|(),()|()|(21mipppHaYHXYH16 对称DMC信道的容量： 上式是对称离散信道能够传输的最大的平均信息量,它只与对称信道矩阵中行矢量p1, p2,pm 和输出符号集的个数m有关。ijmjijmppmpppHmC121loglog),(log 强对称信道的信道容量
6、： )1,1,1 (log2npnppHnC17 设二进制对称信道的输入概率空间 信道矩阵：10PXppppppppP11ppabpapbpppabpapbpiiiiii)|()() 1()|()() 0(11010018)(loglog)|(log)|()|(log)|()()|(pHppppabpabpabpabpapXYHijjijijijiji)(1)()()|()();(pHpHppHXYHYHYXI)(1log)(1log)()(ppHppppppppYH19 当 p 固定时, I (X,Y) 是的U型上凸函数。I(XY)(1pHC BSC信道容量1-H(p) I ( X ,Y )
7、 对存在一个极大值。)(1)()()|()();(pHpHppHXYHYHYXI20pC)(1pHC 当固定信源的概率分布时, I ( X, Y ) 是 p 的 型 下凸函数。0)21,21(1HC信道无噪声 当 p = 0, C =10 = 1bit = H ( X ) 当 p = 1/2 , 信道强噪声 BSC信道容量信道容量(; )( )(|)()( )1( )I X YH YH Y XHppH pH p 21 定理定理： 给定转移概率矩阵P后,平均互信息I (X;Y)是输入信源的概率分布p(ai)的 型上凸函数。 定理定理： 平均互信息I (X;Y)是信道传递概率p(bj|ai)的 型
8、凸函数。 信道容量是完全描述信道特性的参量,是信道能够传输的最大信息量。niijijijijijijabpapbpbpabpabpapYXI1)|()()()()|(log)|()();(22)(1 pHrCst 当信源输入符号的速率速率为 rs (符/秒), 信道容量信道容量 实际信息传输速率 Rt 为 )|()(YXHXHrRst 进入信道输入端的信息速率 ()insDr H X 23例BSC信道如图, rs=1000符号/秒, 错误传递概率 p=0.1求:信道容量 0Y0.9 10.1sbispHrCst/531469. 01 1000)9 . 0log9 . 01 . 0log1 .
9、0(1 1000)(1 输入符号等概时有最大信息传输速率信道实际信息传输速率sbitYXHXHrRst/413398. 0811. 01000)|()(sbitXHrDsin/811811.01000)(X24 例3-3 设有两个离散BSC信道,串接如图,两个BSC信道的转移矩阵为:ppppPP1121X00ZY111-p1-p1-pp 串联信道的转移矩阵为:222221)1 ()1 (2)1 (2)1 (1111ppppppppppppppppPPP1-pp25X00ZY11 求得:)1 (21);()(1);(ppHZXIpHYXI 在实际通信系统中,信号往往要通过几个环节的传输,或多步的
10、处理,这些传输或处理都可看成是信道,它们串接成一个串联信道。pp1-p1-p1-p1-p26 由信道2信道m信道1);();();()(WXIZXIYXIXH);(max)2 , 1 (ZXIC);(max) 3 , 2 , 1 (WXIC 可以看出,串接的信道越多,其信道容量可能会越小,当串接信道数无限大时,信道容量可能会趋于0XYZ27 准对称信道 转移概率矩阵P是输入对称而输出不对称 将信道矩阵P的列划分成若干个互不相交的子集mk,由mk为列组成的矩阵Pk是对称矩阵。 616131313161613131613161616131311P 它们满定对称性,所以P1所对应的信道为准对称信道。
11、 28 准对称信道1 . 01 . 07 . 02 . 02 . 07 . 07 . 01 . 01 . 02 . 02 . 07 . 02P),(log21mpppHmC 准对称信道容量29 当输入分布为等概率时：rkkkmMNpppHnC121log),(log 其中n是输入符号集的个数,(p1, p2,pm)为准对称信道矩阵中的行元素。 设矩阵可划分成r个互不相交的子集。 Nk是第k个子矩阵Pk中行元素之和, Mk是第k个子矩阵Pk中列元素之和。 ), 2 , 1()|()|(rkabpMabpNiijkjijk30 例：设信道传递矩阵为 8181214181814121P2141412
12、11P818181812P信道符号）（比特/061. 0811. 075. 11)41log4143log43()81,81,41,21(2loglog),(log121HMNpppHnCrkkkm 计算得：N1 =3/4, N2 = 1/4, M1=3/4, M2 = 1/4 将它分成 31 定理： 一般离散信道的平均互信息I(X;Y)达到极大值的充分和必要条件是输入概率p(ai)必须满足: I (ai;Y) = C 对于所有ai其p(ai)0 I (ai;Y) C 对于所有ai其p(ai) = 0 上式说明： 当信道的平均互信息I(X;Y)达到信道容量时,输入符号概率集p(ai)中每一个符
13、号ai对输出端Y提供相同的互信息,只是概率为0的除外。3233 设信道的输入X=(X1, X2 Xi, ), Xi a1 an 输出Y= (Y1, Y2 Yj,), Yj b1 bm信 道XYp(Y|X) 对于无记忆离散序列信道,其信道转移概率为)|(),|,()|(111llLlLLXYpXXYYppXY 仅与当前输入输出有关。若信道是平稳的)|()|(xyppLXY34：若信道的输入和输出分别是L长序列X和Y, 且信道是无记忆的, 亦即信道传递概率为)|()|(1llLlXYppXY 则存在 );();(1llLlYXII：若信道的输入和输出分别是L长序列X和Y, 且信源是无记忆的, 亦即
14、LllXpp1)()(X);();(1llLlYXII 则存在 35 若信源与信道都是无记忆的 );();(1llLlYXII L次扩展信道的信道容量 LlLlllPPLlCYXIICXX11)();(max);(max 当信道平稳时: 1LCCL 一般情况下: 1);(LCI36 例3-7.BSC信道二次扩展1( )10001(0.1log0.10.9log0.9)100010.469531/H pbis s 0 0X0 11 01 10 00 11 01 1Y22222222)1 ()1 ()1 ()1 ()1 ()1 ()1 ()1 ()1 ()1 ()1 ()1 (pppppppppp
15、ppppppppppppppP 转移概率矩阵 2次扩展信道的信道容量 2222log 4(1) , (1), (1),CHppp pp p 若 p = 0.1 则 C2=(20.938)bit/序列 = 1.062bit/序列 C1 = 0.531bit/符号 1( )10001(0.1log0.10.9log0.9)100010.469531/H pbis s 11ppPpp 371( )1(0.1log0.10.9log0.9)10.469531/CH pbit s38 设有L个信道,它们的输入、输出分别是： X1,X2XL； Y1,Y2YLLllLLCCCCIC121, 2, 1);(maxYX信 道信 道信 道p(Y1|X1)p(YL|XL)p(Y2|X2) 每一个信道的输出Yl只与本信道的输入Xl有关,与其他信道的输入、输出都无关。 独立并联信道的信道容量 X1X2XLY1Y2YL39 3-1 3-3 3-4