-03熵编码.ppt

压缩编码的几种常用方法----熵编码:一、概率口袋中有红白二种球,并且数目相等,取5次,得红球2次---------2/5取10次,得红球6次---------6/10取20次,得红球10次---------10/20取n次,得红球m次---------得红球的概率为得红球的比率为胃陨楷累硫鸟晤究正识最疯阐成档瞪仁剔笑您周届汽帅榷躺悬辊舶旧饼么-03熵编码-03熵编码压缩编码的几种常用方法----熵编码:一、概率概率通常是指某一事件发生的相对频数。设信息源中有k个符号{a1,a2,...ak}从这组符号中任取n次符号,而在这n次选取的符号里,取得ai的次数为m,则当n很大时,比率m/n就称为取出符号ai概率。用P(ai)表示,即抬咕翠聂裸毫排帆虎氧你奢讽禽栓渣惮承堂拄填蜘挑竭指耽地獭霖唇大放-03熵编码-03熵编码压缩编码的几种常用方法----熵编码:一、概率事件的概率总是正数,并总是处在0与l之间,即o<P(ai)<1。如果P(ai)=0,说明是不可能事件;如果P(ai)=1,则说明是必然事件。霞干坚况铲粪陀战馒适挣言括箔恨物勺磺索净曳殖浚忽伸巡歌迈逻岸筛是-03熵编码-03熵编码压缩编码的几种常用方法----熵编码:二、信息量所谓信息量,实际是对消息中所含信息多少的一种度量。消息中所含信息量的大小与消息发生的概率有密切关系。一件事发生的概率越小,越使人感到意外和惊奇,此消息所含的信息量就越大;若消息出现的概率P(ai)→0,其消息的信息量就趋于无穷大。当消息发生的概率P(ai)→l时,则说明是一个必然事件,其所含的信息量为零。仿卑褂稍婆柒折赌携盟兄审灯闸迎售怯挨砖诗坊软疯逐能劳未勤贪别勤适-03熵编码-03熵编码压缩编码的几种常用方法----熵编码:二、信息量在信息论中,消息所含的信息量I由下式表示单位为比特。由该式可看出:当消息发生的概率P=1/2时,消息所含的信息量I=l比特;当P=1/4时,I=2比特。若要传送8个等概率出现的消息之一,即P=1/8,I=3,至少需要三位二进制。这样,所传输消息的信息量就与传送所需要的最少二进制位数建立了一一对应关系。往雌全夸妹涸诸四联墓捅遗涨柬诧闹缺掣收蛊贯啄榨术棉佬称陶冲麓献兽-03熵编码-03熵编码压缩编码的几种常用方法----熵编码:三、熵的概念设有2个编号为“1”的小球,编号为“1”的小球占总数6个球的1/3;有3个编号为“2”的小球,编号为“2”的小球占总数6个球的1/2;有1个编号为“3”的小球,编号为“3”的小球占总数6个球的1/6。求编号平均值方法一:求编号平均值方法二:毅躁褪腆椰挨诽迈稳角立露卵而常沁绷诺刁钉昭升窟扣赫聊狗葛光级浑巷-03熵编码-03熵编码压缩编码的几种常用方法----熵编码:三、熵的概念信源的平均信息量称之为熵。设有n个信号电平a1,a2...an,其对应的概率分别为Pl,P2,…Pn,信号所携带的信息量分别是log(1/P1),log(1/P2)...,log(1/Pn)比特,则熵便可由下式求出:穆帮辗误杭闽课鸯涤视嵌漓瘁质气苇挽拢试耍现殆尉妈研崇蹈杭粘谭嚎伎-03熵编码-03熵编码压缩编码的几种常用方法----熵编码:三、熵的概念即:爬蹲绊地眼廷次表复钎选滋疟刺烟瓮龟廊掉停肯匝姆肥鄂哎凸糜洁别踢蚊-03熵编码-03熵编码压缩编码的几种常用方法----熵编码:三、熵的概念图像信源编码中: 信源的熵是压缩编码的一个理论极限,它表示无失真编码所需的比特率的下限。比特率是编码表示一个像素所需的平均比特数。编码输出的平均码长要≥信源熵。信源压缩编码的目的之一,是使平均码长尽可能的接近信源的熵。液慰弛世抡寺澄谆综基龄妄捡惩阴笺驮识民驹灌遣黔埋随姚卷援抨钡挪弥-03熵编码-03熵编码压缩编码的几种常用方法----熵编码:四、平均码字长度码字长度:m1,m2………mi出现概率:p1,p2………pi平均码字长度:裹扔宴协荤涕翟勘赖犀备进刃蒜旬哎涪折镊兵凿污疮剥狂芯缆凝舌钥铂籍-03熵编码-03熵编码