信道与信道容量第三章信道与信道容量.ppt

信道与信道容量
第三章
信道与信道容量第三章信道与信道容量
1
信道分类和表示参数
离散单个符号信道及其容量
离散序列信道及其容量
连续信道及其容量
内容
信道与信道容量第三章信道与信道容量
2
信道
设信道的输入X=(X1, X2 … Xi,… ), Xi ∈{a1 … an}
输出Y= (Y1, Y2 … Yj,…), Yj ∈{b1 … bm}
信道转移概率矩阵p(Y|X)：
描述输入/输出的统计依赖关系,反映信道统计关系
信 道
X
Y
p(Y|X)
信道与信道容量第三章信道与信道容量
3
无干扰(无噪声)信道
无干扰(无噪声)信道
信道的输出信号Y与输入信号X之间有确定的关系Y=f (X),已知X后就确知Y
转移概率:
信道与信道容量第三章信道与信道容量
4
有干扰无记忆信道
有干扰无记忆信道
信道的输出信号Y与输入信号X之间没有确定的关系,但转移概率满足:
有干扰无记忆信道可分为:
二进制离散信道
离散无记忆信道
离散输入、连续输出信道
波形信道
信道与信道容量第三章信道与信道容量
5
离散无记忆信道DMC
信道输入是n元符号X∈{a1, a2, …, an}
信道输出是m元符号Y∈{b1, b2, …, bm}
转移矩阵
已知X,输出Y统计特性
a1
a2
an
b1
b2
bm
:
:
:
:
:
:
p11
p12
p21
p22
pnm
信道与信道容量第三章信道与信道容量
6
离散单个符号信道及其容量
信道与信道容量第三章信道与信道容量
7
信道容量
平均互信息I (X;Y)：
接收到符号Y后平均每个符号获得的关于X的信息量。
信道的信息传输率就是平均互信息
信道与信道容量第三章信道与信道容量
8
信道容量
信道容量C：
最大的信息传输率
单位时间的信道容量：
信道与信道容量第三章信道与信道容量
9
信道容量的计算
对于一般信道,信道容量计算相当复杂,我们只讨论某些特殊类型的信道：
离散信道可分成：
无干扰(无噪)信道
无嗓无损信道
有噪无损信道
无噪有损信道
有干扰无记忆信道
有干扰有记忆信道
信道与信道容量第三章信道与信道容量
10