07－信道容量.ppt

信道容量
11/10/2017
1
电信学院汪汉新
本章节教学内容、基本要求、重点与难点
1. 教学内容:
信道的数学模型和分类。
单符号离散信道的信道容量。
多符号离散信道。
多用户信道。
连续信道。
信道编码定理。
2. 教学基本要求:
掌握信道的分类及对应的数学模型。
掌握信道容量的物理意义、计算方法。
了解信道编码定理。
3. 重点与难点:
信道容量。
信道编码定理。
11/10/2017
2
电信学院汪汉新
信道的功能:以信号形式传输和存储信息。
信道传输信息的速率:与物理信道本身的特性、载荷信息的信号形式和信源输出信号的统计特性有关。
信道容量研究内容:在什么条件下,通过信道的信息量最大。
上一节讲过求信道容量C的方法:
信道容量C是假定信道固定的前提下,选择一种试验信源,使信息率最大。
一旦找到了这个信道容量,它就与信源不再有关,而是信道特性的参量,随信道特性的变化而变化。
不同的信道,其容量C是不同的。
11/10/2017
3
电信学院汪汉新
信道的输入输出关系
信号在信道中传输会引入噪声或干扰,它使信号通过信道后产生错误和失真;
信道的输入和输出之间一般不是确定的函数关系,而是统计依赖关系;
知道了信道的输入信号、输出信号以及它们之间的依赖关系,信道的全部特性就确定了。一般来说,输入和输出信号都是广义的时间连续的随机信号,可用随机过程来描述。
11/10/2017
4
电信学院汪汉新
一般信道的数学模型
信道的一般数学模型如图所示
模型的数学符号表示{X P(Y/X) Y}
实际信道带宽总是有限的,所以输入和输出信号总可以分解成随机序列来研究。随机序列中每个随机变量的取值可以是可数的离散值,也可以是不可数的连续值。
11/10/2017
5
电信学院汪汉新
信道的分类
①根据输入输出随机信号的特点分类:离散信道,连续信道,半离散/半连续信道。
②根据输入输出随机变量个数的多少分类:单符号信道,多符号信道。
③根据输入输出个数分类:单用户信道,多用户信道。
④根据信道上有无干扰分类:有干扰信道,无干扰信道。
⑤根据信道有无记忆特性分类:无记忆信道,有记忆信道。
实际信道的带宽总是有限的,输入和输出信号总可以分解成随机序列来研究。一个实际信道可同时具有上述的多种属性。最简单的信道是单符号离散信道。
11/10/2017
6
电信学院汪汉新
单符号离散信道的数学模型
设输入X∈{x1,x2,…,xi,…,xn}
输出Y∈{y1,y2,…,yj,…,ym}
信道模型如图所示。
11/10/2017
7
电信学院汪汉新
信道统计特性
信道统计特性描述:由信道转移概率p(yj /xi)描述。
信道特性表示:用信道转移概率矩阵,简称信道矩阵。
11/10/2017
8
电信学院汪汉新
信道的信息传输速率
如果信源熵为H(X),希望在信道输出端接收的信息量就是H(X),由于干扰的存在,一般只能接收到I(X;Y)。信道的信息传输率:就是平均互信息 R=I(X;Y)。
输出端Y往往只能获得关于输入X的部分信息,这是由于平均互信息性质决定的:I(X;Y)≤H(X)。
I(X;Y)是信源无条件概率p(xi)和信道转移概率p(yj /xi)的二元函数:当信道特性p(yj /xi)固定后,I(X;Y)随信源概率分布p(xi)的变化而变化。调整p(xi),在接收端就能获得不同的信息量。由平均互信息的性质已知,I(X;Y)是p(xi)的上凸函数,因此总能找到一种概率分布p(xi)(即某一种信源),使信道所能传送的信息速率为最大。
11/10/2017
9
电信学院汪汉新
信道容量
信道容量C:信道中最大的信息传输速率,单位是比特/信道符号。
单位时间的信道容量Ct:若信道平均传输一个符号需要 t 秒钟,则单位时间的信道容量为
C和Ct都是求平均互信息I(X;Y)的条件极大值问题,当输入信源概率分布p(xi)调整好以后, C和Ct已与p(xi)无关,而仅仅是信道转移概率的函数,只与信道统计特性有关;
信道容量是完全描述信道特性的参量;是信道能够传送的最大信息量。
11/10/2017
10
电信学院汪汉新