信息论IT_17_率失真函数与熵压缩编码.pdf

率失真函数与熵压缩编码率失真函数与熵压缩编码 • 信信源编编码 – 信源的冗余度压缩编码信源的冗余度压缩编码 – 信源的熵压缩编码 率失真函数与熵压缩编码率失真函数与熵压缩编码 • 信信源编编码 – 信源的冗余度压缩编码信源的冗余度压缩编码 （无失真的、保熵的编码） – 信源的熵压缩编码信源的熵压缩编码 （在允许的失真下，使熵率尽量减小） 率失真函数与熵压缩编码率失真函数与熵压缩编码 • 信信源编编码 – 信源的冗余度压缩编码信源的冗余度压缩编码 （无失真的、保熵） – 信源的熵压缩编码信源的熵压缩编码 （有失真、熵压缩） 率失真函数与熵压缩编码率失真函数与熵压缩编码 • 信信源编编码 – 信源的冗余度压缩编码信源的冗余度压缩编码 （针对离散信源） – 信源的熵压缩编码信源的熵压缩编码 （主要针对连续信源） （同样适用于离散信源） 率失真函数与熵压缩编码率失真函数与熵压缩编码 • 信信源的熵的熵压缩编缩编码 – 信息速率失真函数信息速率失真函数 – 熵压缩编码 率失真函数与熵压缩编码率失真函数与熵压缩编码 • 信息信息速率失真率失真函数数 – 离散信源离散信源 – 连续信源 – 模拟信源模拟信源 率失真函数与熵压缩编码率失真函数与熵压缩编码 • 熵熵压缩编缩编码 – 熵压缩分组码熵压缩分组码 • 量化 •• 变换编码变换编码 – 熵压缩树码 • 预测编码 率失真函数与熵压缩编码率失真函数与熵压缩编码 • 离散离散无记忆信信源的熵的熵压缩缩分组编编码 及信源的信息速率失真函数及信源的信息速率失真函数 – 失真的量度 – 率失真函数率失真函数 （使基本概念的阐述变得简单和易于理解） 率失真函数与熵压缩编码率失真函数与熵压缩编码 • 离散离散无记忆信信源的熵的熵压缩缩分组编编码 离散无记忆信源的源字母表： A  , , ,  U 1 2 k 熵熵压压缩缩编编码码的的码码字字母母表表： A  , , ,  VV 11 22 JJ 率失真函数与熵压缩编码率失真函数与熵压缩编码 • 离散离散无记忆信信源的熵的熵压缩缩分组编编码 源字字母表表：A  , , ,  U 1 2 k 源源字字母母序序列列：：uu uu uu uu uu  22 11 00 11 22 u 取的概率为p    n k k 码字母表：A  , , ,  V 1 2 J 码码字字母母序序列列：：vv vv vv vv vv  2 1