信息论与编码第3章 信道及其容量 (2).ppt

第3章 信道及其容量
信道的数学模型及分类
信道疑义度与平均互信息
信息传输率与信道容量
离散单个符号信道的信道容量
离散无记忆序列信道的信道容量
串联信道和并联信道的信道容量
连续信道及其容量
信源与信道的匹配
信道编码定理简介
学****得来终觉浅，绝知此事要自悟
1
信道的数学模型与分类
信道的分类
信道的数学模型与参数
2
信道的分类
输入输出随机信号的特点：离散信道、连续信道和半离散/半连续信道；
输入输出随机变量个数的多少：单符号信道、多符号信道；
信道用户的多少（输入输出个数）：单用户信道、多用户信道；
输入端和输出端的关联：无反馈信道、有反馈信道；
3
信道的分类
信道参数与时间的关系：固定参数（恒参、平稳）信道和时变参数（随参、非平稳，time-varying）信道；
信道上有无干扰：有干扰信道、无干扰信道；
信道有无记忆特性：有记忆信道、无记忆信道；
还可以根据载荷消息的介质和信号的形式不同进行分类。
4
c1段，信号一般是连续的，所以该段为连续信道，调制信道
c2为离散信道，编码信道；
c3为半离散、半连续信道；
c4为半连续、半离散信道。
5
通信系统中广义信道的分类
调制信道；
编码信道。
6
信道的基本特征包括输入、输出以及输入和输出之间的关系。
假设输入矢量为 =(x1, x2, …, xN)，输入的矢量分量选择于符号集 A={a1, a2, …, ar}，输出矢量 =(y1, y2, …, yN)，输出的矢量分量选择于符号集 B={b1, b2, …, bs}
信道的数学模型与参数
7
无干扰（无噪）信道
由于没有噪声，所以输入可以决定输出，即存在确定的函数f，Y=f(X)。
8
单符号离散信道
输入单符号变量X，取自符号集 A={a1， a2， …， ar}；
输出单符号变量Y，取自符号集 B={b1， b2， …， bs}；
由于信道的干扰使输入符号x在传输中发生错误，这种错误是随机发生的，所以可以用条件概率（转移概率）来表示噪声的干扰：p(y|x)= P(y=bj|x=ai)=p(bj|ai)；
9
单个符号的离散信道的转移概率通常用信道转移概率矩阵表示：　
一般为了简化，记pij= p(bj|ai)，则信道转移概率矩阵可以表示为
10