030732004《信息论基础》教学大纲.docxVIP

《信息论基础》课程教学大纲 课程代码：030732004 课程英文名称：Information Theory Fundation 课程总学时：32 讲课：32 实验：0 上机：0 适用专业：电子信息科学与技术 大纲编写（修订）时间：2011-5-10 一、大纲使用说明 （一）课程的地位及教学目标 本课程是电子信息科学与技术专业学生所应必备学习的基础理论课程，是一门专业选修基础 课，也可作为高年级学生的先修课程。通过本课程的学习，学生应掌握信息论的基本概念及香农 的编码定理等内容，使学生具备了学习有关通信、数字信号处理与传输等后续课程所必须的信息论与编码的基本知识。该课程现在已经成为信息学科的基础理论之一。并在各种工程应用中经实 践检验卓有成效的应用技术，如编码技术、多媒体技术、通信技术的发展反过来又丰富了信息论 与编码技术的理论内涵。这些理论对于从事相关领域进行研究和工程应用的科技人员具有很高的参考价值。 （二）知识、能力及技能方面的基本要求 本课程是信息类及通信专业本科高年级学生选修的一门比较重要的专业基础课。专业基础 课。 本课程采用概率论与随机过程等数学方法研究信息的统计度量、信道容量以及信源与信道编码等理论问题；主要目的是让学生了解香农信息论的基本内容，掌握其中的基本公式和和基本运算，培养利用信息论的基本原理分析和解决实际问题的能力，为进一步学习通信和信息以及其他相关领域的技术奠定良好的理论基础。应掌握数字通信系统的基本原理和理论，掌握无失真信 源编码的编码方法及信道编码的基本概念和编译码方法。是更好掌握其它专业课的必备基础。 （三）实施说明 在教学环节中,重点讲授信源的信息量的计算、信源编码、信道容量的计算及信道编码。另外，教师可以根据具体情况适当调整大纲的学时分配。 （四）对先修课的要求 《概率论与数理统计》、《线性代数》 （五）对习题课、实验环节的要求 要求学生对典型习题一定要掌握，做到举一反三。本课程无实验环节。 （六）课程考核方式 考核方式考查 考核目标 在考核学生对信息论的对基本知识，基本理论和基本方法的基础上，重点考核学生对信息论在实践中的应用。 成绩构成 平时测验（占 30%）、上课提问（占 20%）、作业加学习后期的大作业（或是课程总结）（占 50%） （七）参考书目 《信息论与编码》， 陈运主编，，电子工业出版社，2008 年 3 月 《信息论与编码》， 曹雪虹等编 北京有点大学出版社，2002 年 6 月 《信息论-基础理论与应用》，傅傅祖芸，电子工业出版社 ，2002 年 8 月 二、中文摘要 信息论与编码技术的理论现在已经成为信息学科的基础理论之一，特别是数字信号的处理与传输的理论及技术基础。信息论基础这一课程作为通信工程与计算机工程的专业主干课程。而在各种工程应用中经实践检验卓有成效的应用技术，如编码技术、多媒体技术、通信技术的发展反过来又推动了信息论与编码技术的发展。 三、课程学时分配表 1 绪论 2 2 1.1 信息的一般概念、 信息的分类 1 1 1.2 信息论的起源、发展及内容及通信系统的模型 1 1 2 信源熵 14 14 2.1 单符号离散信源 10 10 2.2 多符号离散平稳信 4 4 3 信道容量 6 6 3.1 信道的数学模型及分类 1 1 3.2 单符号离散信道的信道容量 4 4 3.3 多符号离散信道 1 1 4 信源编码 4 4 4.1 离散信源编码 1 1 4.2 香农编码 1 1 4.3 费诺编码 1 1 4．4 哈夫曼编码 1 1 5 信息率失真函数 2 2 5.1 基本概念 1 1 5.2 离散信源的信息率失真函数 1 1 6 信道编码 4 4 6.1 信道编码的概念 1 1 6.2 离散信源的信息率失真函数 3 3 合 计 32 32 序号教学内容 序号 教学内容 学时 讲课 实验 上机 第 1 部分 绪论 总学时(单位：学时):2 讲课：2 实验：0 上机：0 具体内容: 1)明确本课程的内容、性质、发展及适用的场合； 2）掌握通信系统模型的内涵，了解信息论章通信中的作用重 点: 通信系统的模型第 2 部分 信源熵 总学时(单位：学时):14 讲课：14 实验：0 上机：0 习题： 习题： 第 2.1 部分 单符号离散信源（讲课 10 学时） 具体内容： 掌握单符号离散信源的数学模型 自信息和信源熵 信源熵的基本性质和定理 了解加权熵的概念及基本性质 平均互信息量 各种熵之间的关系重 点: 符号离散信源的数学模型、自信息和信源熵、信源熵的基本性质和定理、平均互信息量难 点: 平均互信息量 习题：自信息和信源熵的计算、平均互信息量的计算第 2.2 部分 多符号离散平稳信源（讲课 4 学时） 具体内容: 掌握序列信息熵 掌握平稳离散信源的数学模型 掌握平稳