2012.信息论.第2章.习题答案.ppt

同时掷出两个正常的骰子,也就是各面呈现的概率都为1/6,求:
(1) “3和5同时出现”这件事的自信息量;
(2) “两个1同时出现”这件事的自信息量;
(3) 两个点数中至少有一个是1的自信息量。
解:
(1)
筒连按峰***
(2)
(3)

设在一只布袋中装有100只对人手的感觉完全相同的木球,每只球上涂有一种颜色。100只球的颜色有下列三种情况:
(1)红色球和白色球各50只;
(2)红色球99只,白色球1只;
(3)红、黄、蓝、白色各25只;
求从布袋中随意取出一只球时,猜测其颜色所需要的信息量。

在布袋中放入81个硬币,它们的外形完全相同。已知有一个硬币的重量与其他81个硬币的重量不同,但不知这一个硬币是比其他硬币重还是轻。问确定随意取出的一个硬币恰好是重量不同的一个硬币所需要的信息量是多少?若要进一步确定它比其他硬币是重一些还是轻一些所需要的信息量是多少?

居住在某地区的女孩中有25%是大学生,在女大学生中有75%,。假如我们得知“”的消息,问可获得多少信息量?
解:
设随机变量X代表女孩子学历
X
x1(是大学生)
x2(不是大学生)
P(X)


设随机变量Y代表女孩子身高
Y
y1(身高>160cm)
y2(身高<160cm)
P(Y)


已知:在女大学生中有75%是身高160厘米以上的
即:p(y1/ x1) =

解:
设随机变量X代表女孩子学历
X
x1(是大学生)
x2(不是大学生)
P(X)


设随机变量Y代表女孩子身高
Y
y1(身高>160cm)
y2(身高<160cm)
P(Y)


已知:在女大学生中有75%是身高160厘米以上的
即:p(y1/ x1) =
求:身高160厘米以上的某女孩是大学生的信息量,即:

有两个二元随机变量X和Y,它们的联合概率为
X Y
x1=0
x2=1
y1=0
1/8
3/8
y2=1
3/8
1/8
并定义另一随机变量Z = XY(一般乘积),试计算:
(1) H(X), H(Y), H(Z), H(XZ), H(YZ)和H(XYZ);
(2) H(X/Y), H(Y/X), H(X/Z), H(Z/X), H(Y/Z), H(Z/Y), H(X/YZ), H(Y/XZ)和H(Z/XY);
(3) I(X;Y), I(X;Z), I(Y;Z), I(X;Y/Z), I(Y;Z/X)和I(X;Z/Y)。

X Y
x1=0
x2=1
y1=0
1/8
3/8
y2=1
3/8
1/8
解:(1) H(X), H(Y)

Z = XY的概率分布如下:
X Y
x1=0
x2=1
y1=0
1/8
3/8
y2=1
3/8
1/8
(1) H(Z)

X Y
x1=0
x2=1
y1=0
1/8
3/8
y2=1
3/8
1/8
(1) H(XZ), H(YZ)
送著亦姿夯阜撼拣空鸵榨炎篷尖危小拱搪霉拟减缓慈致磺所葱管赡傀