信息论基础2.ppt

第1章信息论基础***。。、性质及计算方法。(重点)(难点),掌握对称信道容量的计算方法。滨清宛溪仰锌熙辐籽毛夷伦币鸳扔铣享孕措诧个檄簇竹童菊龄枢粒说真镁信息论基础2信息论基础2计划学时:4学时外语关键词:信道:Channel对称信道:hannel传输矩阵:TransmitMatrix噪声熵:NoiseEntropy损失熵:LossEntropy信道容量:ChannelCapacity联合熵:JointEntropy平均互信息::信息论—基础理论与应用电子工业出版社(2001年8月第一版):信息理论与与编码学****辅导及精选题解电子工业出版社(2004年7月第一版):信息处理与编码人民邮电出版社(1999年7月第一版):信息论与编码北京邮电大学出版社(2001年8月第一版)问努禁空负待耳核洱鹏筏才辑融斧沦成蹦***钨雪十园眺妨勤赋裸慨铣娟京信息论基础2信息论基础2信源分类;离散信源、连续信源、波形信源什么是信息?通信所消除掉的不确定度是信宿所获得的信息量。自信息、信息熵的概念与计算;回忆罐药屹虚劈说嗣庆悲古醉仙浅筐只躲斩芹掺料灿殊瘸麻坤众笑悄疑倪庚瞎信息论基础2信息论基础2信道是信息的传输媒体。这里存在噪声干扰,也包含通信设备对信号的作用,是通信系统最为复杂的部分。在讨论信道中的信息传输规律这个主要问题时,对实际信道抽象出三个简化模型::::(1)广义信道模型松赁很臂控戚矽伞甭红靴秤燥汹菠绣肉屿冰舟践研秩租房墓穗擂锦腿猩怕信息论基础2信息论基础2广义信道模型把码型变换、调制与解调、复用与交换等信号处理过程,统统概括在广义信道之中。广义信道对于信源,就是代码序列的入口;对信宿,是代码序列的出口;它只是一个不透明的通道,所有的传输与处理过程都被屏蔽其中。信源信宿代码序列X代码序列Y恕巾签由爽檄莲呜坝恳献烁琢购干匡芥钱毙又吐锥耸模贡泼乙要缉汛眼父信息论基础2信息论基础2信道可以按不同的特性进行分类,根据输入和输出信号的特点可分为:波形信道信道的输入和输出都是时间上连续,并且取值也连续的随机信号。连续信道信道的输入和输出都是时间上离散、取值连续的随机序列,又称为模拟信道离散信道信道的输入和输出都是时间上离散、取值离散的随机序列。离散信道有时也称为数字信道。雄逆沂殆喀揩听烹绣喧蜘邑尚奖大靶狞灌走郁帝禁楞撵恕败冰凿西陈躇蜒信息论基础2信息论基础2