第6章 限失真信源编码.ppt

第6章限失真信源编码
无失真编码与有失真编码对比
将编码器看作信道
无失真编码——无损确定信道
无失真编码的中心任务
对冗余度进行压缩
编码后熵不变,属保熵编码。
将编码器看作信道
有失真编码——有噪信道
有失真编码的中心任务
对信息率进行压缩
编码后的信息率得到压缩,属熵压缩编码。
有失真编码的失真范围受限,所以又称为限失真编码。
无失真编码
有失真编码
信源编码的实质:对信源进行信息处理。
信源
信道
(信源编码器)
引入有失真的熵压缩编码的原因
保熵编码并非总是必需的
例:人眼无须接受信源发出的全部视觉信息
保熵编码并非总是可能
例:对连续信号进行数字处理时不可能根除量化误差
降低信息率(熵压缩编码)有利于传输和处理
连续信源的实际熵为无穷大
对连续信源进行熵压缩编码是绝对必需的
保熵编码时需用无穷长的码元串
传输无穷长的码元串势必造成无限延时
说明
有失真的熵压缩编码主要针对连续信源,但其理论同样适用于离散信源。
由于离散信源处理起来比连续信源简单得多,以下将从离散信源开始有失真编码的讨论。
主要内容
失真测度
信息率失真函数及其性质
限失真信源编码定理
总结
失真测度
将r×s个失真度排成矩阵形式:
信源
信道
(信源编码器)
衡量编码器输入符号与输出符号之间的误差或失真。
——失真度(或失真函数)、非负实值函数
失真矩阵
一般失真函数定义为
例设信源取值于{0,1},编码器输出取值于{0,1,2},编码器相当于一个2删除信道(BEC)。规定失真度或失真函数为
求失真矩阵d。
解:失真矩阵为
失真度的函数形式
失真度函数的选取原则:
使用非负函数,其形式可根据实际需要而定。
误码失真:
绝对失真:
均方失真:
相对失真:
失真矩阵为:
例:
这种失真称为汉明失真
例:对称信源r=s,定义失真度为:
当r=s=3时,
失真矩阵为:
r×s个失真度——
平均失真度或平均失真
取统计平均
平均失真度
信源
信道
(信源编码器)