《信息论与编码》第3章信道容量.ppt

第三章信道容量赵永斌石家庄铁道大学信息科学与技术学院*浇宠芭宠醋订帝襄阔市晃宪龟珍摘缮涎裳鹿碳泣粮友鞋机斟磊蛤磐母谅癣《信息论与编码》第3章信道容量《信息论与编码》《信息论与编码》第3章信道容量《信息论与编码》第3章信道容量回顾信道是传输信息的媒质或通道。(输入→信道→输出)说明(1)信道输入是随机过程。(2)信道响应特性是条件概率P(输出值为y|输入值为x),又称为转移概率。(3)信道输出是随机过程,输出的概率分布可以由输入的概率分布和信道的响应特性得到。(全概率公式)(4)根据信道输入、信道响应特性、信道输出的情况,可将信道分类:离散信道(又称为数字信道);连续信道(又称为模拟信道);特殊的连续信道——波形信道;恒参信道和随参信道;无记忆信道和有记忆信道等逆盾钢碾逝荒屈钠铸胡返汉平陋银吻厩坯筒****晃衷峭铃区杭疤碳卖馋辞真《信息论与编码》第3章信道容量《信息论与编码》第3章信道容量回顾“离散”的含义是时间离散,事件离散。即:信道的输入、输出时刻是离散的,且输入随机变量和输出随机变量都是离散型的随机变量。“无记忆”的含义是信道响应没有时间延迟,当时的输出只依赖于当时的输入。“平稳”的含义是信道在不同时刻的响应特性是相同的。沈氨临书珐抒哄拴渝镍颂况朔琉刁搀拼凿赂积何厨息版耕迸印舶茅贸俄删《信息论与编码》第3章信道容量《信息论与编码》《信息论与编码》第3章信道容量《信息论与编码》第3章信道容量**信道分类定义:如果(1)信道的输入为随机变量序列X1,X2,X3,…,其中每个随机变量Xu的事件集合都是{0,1,…,K-1},(2)信道的输出为随机变量序列Y1,Y2,Y3,…,其中每个随机变量Yu的事件集合都是{0,1,…,J-1},则称该信道为离散信道。粳项萤雅旁娱录妖尽挝韩毋羊边翠选热蛋弓勾漾靶美蔫娱韧铃酶鲸住北混《信息论与编码》第3章信道容量《信息论与编码》第3章信道容量**信道分类如果更有(3)P((Y1Y2…YN)=(y1y2…yN)|(X1X2…XN)=(x1x2…xN))=P(Y1=y1|X1=x1)P(Y2=y2|X2=x2)…P(YN=yN|XN=xN), 则称该信道为离散无记忆信道(DMC)。如果更有(4)对任意x∈{0,1,…,K-1},y∈{0,1,…,J-1},任意两个时刻u和v,还有P(Yu=y|Xu=x)=P(Yv=y|Xv=x), 则称该信道为离散无记忆平稳信道或恒参信道。腆叮多蔚显山掣感郊侠绰乞泽携档多实馅断浅澳唆吵东蚁淑岿寺冀椿淤痴《信息论与编码》第3章信道容量《信息论与编码》第3章信道容量信道容量的数学模型噪声介质缺陷XY信源编码信道编码器调制器(写入头)信道(存储介质)解调器(写入头)信道译码器信源译码转移概率矩阵p(Y|X)XY茬拯昧韦粥篱高击螟菜麻孟疡洪靛徘敷菲纲梁己床知棱际粳龚粱核递除远《信息论与编码》第3章信道容量《信息论与编码》第3章信道容量信道容量的数学模型P(Y/X)xY信道的数学模型:{XP(Y/X)Y}信道在某一时刻u的响应特性P(Yu=y|Xu=x);x∈{0,1,…,K-1},y∈{0,1,…,J-1},彪鼎悬邵烈蚀舅脆搞砂亦籽舵鼓惟阉殃浴尹辗角漳今希阻咨段侣汹渊透衣《信息论与编码》第3章信道容量《信息论与编码》第3章信道容量信道容量的数学模型二元对称信道BSC 当N=1时 p(0/0)=p(1/1)=,p(1/0)=p(0/1)==2时,p(00/00)=p(11/11)=p(0/0)p(0/0)=*=(10/00)=p(01/00)=p(01/11)=p(10/11)=*=(11/00)=p(00/11)=*=《信息论与编码》第3章信道容量《信息论与编码》第3章信道容量