信息论与编码3信道与信道容量.ppt

第3章信道与信道容量?信道分类和表示参数?离散单个符号信道及其容量?离散序列信道及其容量?连续信道及其容量 信道分类和表示参数 n信道分类用户数量:单用户、多用户输入端和输出端关系:无反馈、有反馈信道参数与时间的关系:固参、时变参噪声种类: 随机差错、突发差错输入输出特点:离散、连续、半离散半连续、波形信道 信道分类和表示参数 n信道参数 3 ????号之间统计的依赖关系来描述信道输入输出信条件概率输出矢量为输入矢量为设信道)( ,, ),,,,( ,, ),,,,( 1 21 1 21 Y/X Y Xp bbXYY, Y aaXXXX m jj nii???????????信道种类有干扰有记忆信道有干扰无记忆信道无干扰信道 3 2 信道分类和表示参数 n二进制对称信道( BSC )4 ?????????pp pp1 1P 1-p1-p pp 01 1 信道分类和表示参数 n离散无记忆信道 5 ????????????? nm nn m mppp ppp ppp??????? 21 2 22 21 1 12 11P b 2 a 2a 1a nb m b 信道分类和表示参数 n离散输入、连续输出信道 6 222/)(2 1)/( ??? iay iYeayp ???+ XY 信道分类和表示参数 n波形信道 7 + x(t) y(t) n(t))()( ),()( ),()/( ),,/,,()/( ,, 21 21npxp nxpxp yxpxyp xxxyyypxyp n x yx x yx Y L L Y Y?????? 离散单个符号信道及其容量 n信息传输率?信道在单位时间内平均传输的信息量定义为信息传输速率? R= I(X;Y )=H(X)-H(X/Y ) 比特/符号?R t=I(X;Y )/t 比特/秒 n信道容量比特/符号( bits/symbol 或 bits/channel use ) 8 );( max )(YXIC iap? 离散单个符号信道及其容量 n无干扰离散信道的信道容量 9 XYXYXY 1 1 1 1 1 1 1 1 1 1 1 1 1 (a) 无噪无损信道 (b) 无噪有损信道 (c) 有噪无损信道部分理想化的无干扰离散信道 离散单个符号信道及其容量?X、Y一一对应?C= max I(X;Y)= log n ?多个输入变成一个输出?C= max I(X;Y)= max H(Y) ?一个输入对应多个输出?C= max I(X;Y)= max H(X) 10