波形信源和波形信道.pptVIP

高斯白噪声信道：信道中的噪声是高斯白噪声。低频限带高斯白噪声可以看成是无限带宽的高斯白噪声通过一个理想低通滤波器后所得。传递函数的频率响应为低频限带高斯白噪声的功率谱密度为按噪声对信号的作用功能分类加性和乘性信道第30页，共52页，星期日，2025年，2月5日加性信道：信道中噪声对信号的干扰作用表现为与信号相加的关系。图4.8加性信道在加性连续信道中，信道的转移概率密度函数等于噪声的转移概率密度函数。在加性信道中，条件熵为第31页，共52页，星期日，2025年，2月5日第32页，共52页，星期日，2025年，2月5日4.7连续信道和波形信道的信息传输率4.7.1基本连续信道的平均互信息输入信源X为输出信源Y为信道的转移概率密度函数满足第33页，共52页，星期日，2025年，2月5日基本连续信道的信息传输率为比特/自由度第34页，共52页，星期日，2025年，2月5日4.7.2多维连续信道的平均互信息信道的转移概率密度函数多维连续信道的平均互信息第35页，共52页，星期日，2025年，2月5日多维连续信道的信息传输率为比特/N个自由度比特/自由度平均每个自由度的信息传输率为4.7.3波形信道的信息传输率比特/秒第36页，共52页，星期日，2025年，2月5日2、对称性3、凸状性4、信息不增性图4.10两个串接连续信道与离散信道的证明类似4.7.4连续信道平均互信息的特性1、非负性第37页，共52页，星期日，2025年，2月5日第1页，共52页，星期日，2025年，2月5日4.1波形信源的统计特性和离散化实际某些信源的输出常常是时间和取值都是连续的消息。例如语音信号、电视信号。这样的信源成为随机波形信源，其输出消息可以用随机过程{x(t)}来表示。随机过程{x(t)}可以看成由一族时间函数组成称为样本函数。每个样本函数是随机过程的一个实现。图4.1一个随机过程第2页，共52页，星期日，2025年，2月5日连续信源：信源输出的消息是在时间上离散，而取值上连续的、随机的。如遥控系统中有关电压、温度、压力等测得的连续数据。随机波形信源：信源输出的消息不仅在时间上是连续的而且在取值上也是连续的、随机的。于是定义随机波形信源的特点：（1）随机波形信源中消息数是无限的。每一个可能的消息是随机过程的一个样本函数。每个样本函数是随机过程的一个实现。第3页，共52页，星期日，2025年，2月5日（2）随机波形信源可用有限维概率密度函数族以及与各维概率密度函数有关的统计量来描述。平稳随机过程：统计特性不随时间平移而变化。非平稳随机过程：统计特性随时间平移而变化。第4页，共52页，星期日，2025年，2月5日随机过程时间离散的随机序列取样定理时间连续函数f(t)的频带受限（上限频率为F）取样间隔为这样，通过取样，随即过程就成为可数的无限维的随机序列。如果随机过程又是限时的，时间间隔为T，则就第5页，共52页，星期日，2025年，2月5日成为2FT个有限维的随机序列。取样之后还要对取值的离散化。取样加量化才使随机过程变换成时间的取值都是离散的随机序列。量化必然带来量化噪声，引起信息损失。第6页，共52页，星期日，2025年，2月5日4.2.1连续信源的差熵先看单个变量的基本连续信源的信息测度。基本连续信源的输出是取值连续的单个随机变量。可用变量的概率密度，变量间的条件概率密度和联合概率密度来描述。4.2连续/波形信源的信息测度变量的一维概率密度函数为第7页，共52页，星期日，2025年，2月5日联合概率密度函数为一维概率分布函数为条件概率密度函数为它们之间的关系为第8页，共52页，星期日，2025年，2月5日图4.2概率密度分布并满足基本连续信源的数学模型为第9页，共52页，星期日，2025年，2月5日于是，连续信源的熵定义为无限大常数单位为：奈特/自由度第10页，共52页，星期日，2025年，2月5日同理，两个连续随机变量X、Y的联合熵和条件熵可以定义为4.2.2连续平稳信源和波形信源的差熵连续平稳信源输出的消息是连续型的