第1专题1聊城大学课件(792KB).pptVIP

* * 这个模型包括以下五个部分： 3. 信道 信道是信息传输和存储的媒介。 4. 译码器 译码是编码的逆变换，分为信道译码和信源译码。 5. 信宿 信宿是消息的接收者。 2. 编码器 编码器是将消息变成适合于信道传送的信号的设备。 1.信源 信源是产生消息的源。 编码器 信源编码器，提高传输效率 信道编码器，提高传输可靠性 * * 1.2 什么是信息论？ 3.信息论研究的目的 研究通信系统的目的就是要找到信息传输过程的共同规律，以提高信息传输的可靠性、有效性、必威体育官网网址性和认证性，以达到信息传输系统最优化。 所谓可靠性高，就是要使信源发出的消息经过信道传输以后，尽可能准确地、不失真地再现在接收端。 所谓有效性高，就是经济效果好，即用尽可能短的时间和尽可能少的设备来传送一定数量的信息 * * 1.2 什么是信息论？ 4.信息论研究的内容（范畴） * * 广义信息论，包括信息论在自然和社会中的新的应用，如模式识别、机器翻译、自学习自组织系统、心理学、生物学、经济学、社会学等一切与信息问题有关的领域。 工程信息论，研究信息传输和处理问题，也就是狭义信息论方法在调制解调、编码译码以及检测理论等领域的应用。 狭义信息论，即通信的数学理论，主要研究狭义信息的度量方法，研究各种信源、信道的描述和信源、信道的编码定理。 * * 5.信息论的应用 1948年以后，调制解调 Digital Modulation:BPSK绝对相移键控, QPSK正交相移键控, QAM正交幅度调制 ,FH跳频扩频 , DS直接序列扩频, FDMA, TDMA, CDMA 空间时间自适应处理、智能天线技术 多用户检测、干扰抑制技术 多载波和OFDM 正交频分复用 * * 5.信息论的应用 1948年以后，信源编码 Huffman, Fano Code (1950); 波形编码：PCM脉冲振幅调制, DM增量调制, DPCM增量脉冲调制; 语音参量编码; 图象编码：DCT, 帧间预测插值, 运动补偿 数据压缩编码 ；语音编码标准；图象编码标准 * * 5.信息论的应用 1948年以后、信道编码 Hamming Code汉明码, Cyclic Code 循环码(1950); Convolution Code卷积码 (Fano, Viterbi, 1950’); BCH Code, Reed Solumn Code (1959) 级连码（内码：RS码+外码：卷级码） Trellis coded Modulation网格编码调制 (1976, 1982) Turbo Code涡轮码 (1993) (10-5，0.5dB) LDPC低密度奇偶校验编码 (Gallager,1963) (10-6, 0.04dB) 1.3 仙农信息论概述 本节包括以下内容： ??仙农信息论研究的主要问题 ??信息论的特点 * * 1．关于信源以及信息的含义和度量 　 信源限制为具有某一先验概率的随机过程；熵作为信源平均不确定性的度量。 * * 1.3.1 仙农信息论研究的主要问题 2. 无失真信源编码定理（仙农第一定理） 如果编码速率（码率）不小于信源的熵，则可实现无失真编码，反之，不存在无失真编码。 存在无失真编码 * * 1.3.1 仙农信息论研究的主要问题 3. 关于信道容量与信息的可靠传输 有噪信道编码定理（仙农第二定理）：如果信息传输速率小于信道容量，则总可找到一种编码方式使得当编码序列足够长时传输差错任意小，反之不存在使差错任意小的编码。 * * 3. 关于信道容量与信息的可靠传输 存在使差错任意小的编码 。 * * 4．信息率失真理论（数据压缩的理论基础） 限失真信源编码定理（仙农第三定理）：对任何失真测度 D ≥ 0，只要码字足够长，总可找到一种编码，使得当编码后信息传输率在≥ R（D）时，码的平均失真d ≤ D。R(D）称为信息率失真函数。 * * 4．信息率失真理论（数据压缩的理论基础） 另一种等价描述：对任何失真测度D ≥ 0，码的平均失真d ≤ D，那么编码后信息传输率 ≥ R（D）。R（D）是满足失真准则的最小的平均码长。 * * 4．信息率失真理论（数据压缩的理论基础） 存在平均失真 不大于D的编码 * * 1.4 仙农简介与学术风格 本节包括