第四章 限失真信源编码.pptVIP

第1页，共36页，星期日，2025年，2月5日第四章?????限失真信源编码限失真编码：信源编码经过译码后能保留应用要求的信息，允许信源有一定的失真。为什么要限失真编码1°连续信源的绝对熵为无限大，由于信道的带宽有限，受信道容量的限制。不可能实现完全无失真的信源信息的传输。(可能性)2°信道资源和技术经济因素的限制。(可实现性)3°实际应用不必要无失真地恢复信源消息,不必要完全无失真的信源信息的传输.(必要性)4°数字系统的应用,模拟量的采样,量化也会引入失真.第2页，共36页，星期日，2025年，2月5日语音信号传输语音（音频）信号的带宽：20～20000HZ实际应用音频范围:电话质量:300～3.4KHZ电话公用网调幅广播质量:50～7KHZ有现场感的语音传输高保真音频信号:20～20KHZ高保真音响图像信号传输一路6MHz的普通电视信号数字化后，其数码率将高达167Mbps，对储存器容量要求很大，占有的带宽将达80MHz左右第3页，共36页，星期日，2025年，2月5日表4－1各种图像信号应用的码率应用种类象素数/行行数/帧码率bps压缩前压缩后HDTV192010801.18G20~25M普通电视720480167M4~8M会议电视35228836.5M1.5~2M电视电话1281125.2M56k第4页，共36页，星期日，2025年，2月5日一、连续消息的统计特性时间连续、取值连续2.描述:随机过程1.波形信源：例如：在一个具体的时间点ti，{x(ti)}为一个取值连续的随机变量，可用有限维概率密度函数族描述：4.1连续信源的熵和互信息第5页，共36页，星期日，2025年，2月5日平稳随机过程：统计特性不随时间平移而变化的随机过程。★{x(t)}在时刻t=ti的集平均:{x(t)}在某一时刻ti变量x(ti)的统计平均一、波形信源的特性2.描述:★{x(ti)}的时间平均：{x(ti)}某一样本函数x’(t)的时间平均值遍历平稳过程：若一平稳随机过程{x(t)}的集平均以概率1等于其时间平均，则称{x(t)}为遍历的平稳过程。大部分实际信号可以近似看作遍历平稳过程第6页，共36页，星期日，2025年，2月5日二、连续信源的熵变量X的概率分布与概率密度函数的关系为：1、方法连续消息离散化N次扩展信源时间离散化、幅度分割逼近量化理论采样定理第7页，共36页，星期日，2025年，2月5日对连续变量X的量化方法如下：将X的取值范围[a,b]作n等分，每份?=(b-a)/np(x)ab0a+(i-1)Δa+iΔPixΔ二、连续信源的熵则X落在第i区间内的概率为：第8页，共36页，星期日，2025年，2月5日则连续信源X:?此信源合理！二、连续信源的熵第9页，共36页，星期日，2025年，2月5日二、连续信源的熵2、相对熵第10页，共36页，星期日，2025年，2月5日三、平均互信息波形信道｛x(t)｝｛y(t)｝采样后:基本公式第11页，共36页，星期日，2025年，2月5日实际应用中,允许信号有一定的失真,当失真超过一定限度后,信息将失去实用价值,因此要规定失真的限度.信息率失真是A/D转换、量化、频带压缩和数据压缩的理论基础.4.2.1失真函数1)失真函数定义信源经过信源编码后输出对于每一对(ui,vj),指定一个非负函数d(ui,vj)≥0i=1,2,…,nj=1,2,…,m称d(xi,yj)为单个符号的失真函数.表示信源发出符号xi,接收端再现yj所引起的误差或失真.d(xi,yj)=0无失真,d(xi,yj)0有失真.4.2信息率失真函数第12页，共36页，星期日，2025年，2月5日2)常用的失真函数1°平方误差失真函数d(xi