3-1设二进制对称信道的概率转移矩阵为,
若p(x0)=3/4,p(x1)=1/4,求H(X)、H(X/Y)、H(Y/X)和I(X;Y)。
求该信道的信道容量及其达到信道容量时的输入概率分布。
求信道冗余度。
解:(1)由题目求得联合概率,及Y的概率分布为:。则,进而:
(2)对称信道的信道容量为:
当时达到此信道容量。
(3)信道的绝对冗余度=C-I(X;Y)=-= bit/sym
信道的相对冗余度=1-I/C=1-=%
3-2求下列各离散信道的容量(其条件概率P(Y|X)如下):
Z信道
X Y
0
1
0
1
0
1
ε
1-ε
可抹信道
X Y
0
E
1
0
1-ε1-ε2
ε1
ε2
1
ε2
ε1
1-ε1-ε2
非对称信道
X Y
0
1
0
1/2
1/2
1
1/4
3/4
准对称信道
X Y
0
1
2
3
0
1/3
1/3
1/6
1/6
1
1/6
1/3
1/6
1/3
解:(1)信道输出0、1的先验概率分别为、,
令,则有:
令,则
当时达到信道容量。
(2)对于准对称信道,做划分
则
(3)设: 则:
X
0
1
Y
0
1
P(x)
a
(1-a)
P(Y)
+
-
此时有:
(4)对于准对称信道,划分为:
3-3 有一个二元对称信道,其信道转移概率如图所示。设该信道以1500个二元符号/s的速度传输输入符号。现有一消息序列共有14000个二元符号,并设在这消息中p(0) = p(1) = 1/2。问从信息传输的角度来考虑,10秒钟内能否将这消息序列无失真地传送完?
0 0
1 1
解:对于对称信道,其信道容量有:
p(0) = p(1) = 1/2时达到此容量。
则信道中每秒传输的信息量,而10秒钟传输14000个二元符号需要每秒传输的信息量为,有,所以不能够完成传输。
3-4求如图所示信道的信道容量及其最佳输入概率分布。并求当=0和1/2时的信道容量。
X 1 Y
0 0
1-e
1 1
e
e
2 2
1-e
解:由图可得:信道的转移矩阵:
此信道矩阵是非奇异矩阵,又,则可利用方程组求解:
进而有:
而:
得:
所以:
当时,此信道为一一对应信道,得:
当时,得:
3-5信道如图所示,试问输入分布(1/2,0,1/2)能否使该信道达到信道容量。
解:
则信道输出的概率分布为:
由信道容量定义:
联立方程求解得:,
第3章作业答案改正 来自淘豆网www.taodocs.com转载请标明出处.