《信息论与编码理论》课程教学大纲.docVIP

《信息论与编码理论》教学大纲 课程编号：0121016 课程总学时：46学时 先修课程：概率论与随机过程 开课院系：通信工程学院 学分：3学分 课程性质：必修 开课学期：第五学期 适用专业：通信工程、电子信息工程、信息安全 一、 课程的基本要求以及在教学计划中的地位与作用 应掌握数字通信系统的基本原理和理论，掌握无失真信源编码的编码方法及信道编码的基本概念和编译码方法。该课程属通信学科的专业基础课程，是更好掌握其它专业课的必备基础。 二、 课程内容和学时分配 1、 引论：通信系统模型、Shannon信息论的中心问题（2学时）。 2、 信息量和熵：离散随机变量的熵、平均互信息，连续随机变量的互信息和相对熵、互信息和相对熵，互信息的凸性（10学时）。 3、 离散信源无失真编码：离散无记忆源的等长编码与不等长编码，Huffman编码，算术编码，LZ编码（12学时）。 4、 信道容量：离散无记忆信道、组合信道、时间离散无记忆、连续信道、波形信道（8学时）。 5、 离散信道编码定理（4学时）。 6、 信道编码：线性分组码（8学时）。 7、 总结及发展：（2学时）。 三、 教材与参考书目 [1] 王育民、梁传甲编著 《信息与编码理论》，西北电讯工程学院出版社，1986 [2] 王新梅 肖国镇编著，《纠错码——原理与方法》， 西安电子科技大学出版社 [3] 吴伟陵编著 《信息处理与编码》，人民邮电出版社，1999 [4] 姜丹等编著 《信息理论与编码》，中国科学技术大学出版社，1992 [5] 周炯槃著 《信息论基础》，人民邮电出版社，1983 [6] [美]林舒、科斯特洛著，王育民、王新梅译，《差错控制编码、基础与应用》，人民邮电出版社 [7] 王新梅编著，《纠错码与差错控制》，人民邮电出版社 《信息论与编码理论》教学日历 课程的内容、结构、知识点、课时等方面的组织安排： 信息论是运用概率论与数理统计的方法研究信息、信息熵、通信系统、数据传输、加密学、数据压缩等问题的应用数学学科，也是通信与信息系统学科的一门专业基础课程。 课程内容、结构、知识点、课时等方面的组织安排如下： 1. 引论（2学时） 1）通信系统模型 2）Shannon信息论要解决的中心问题 2. 信息量和熵（10学时） 1）离散随机变量的熵、平均互信息 2）连续随机变量的平均互信息和相对熵 3）平均互信息的凸性 3. 离散信源无失真编码（12学时） 1）离散无记忆源的等长编码、不等长编码，Huffman编码 2）算术编码、LZ编码 4. 信道容量（8学时） 1）信道容量的概念 2）离散无记忆信道、组合信道、时间离散的无记忆连续信道和波形信道的容量 5. 离散信道编码定理（4学时） 1）Fano不等式、典型序列基本概念 2）离散信道编码定理 6. 信道编码：线性分组码（8学时） 1）分组码编译码基本原理 2）线性分组码的编译码原理 7. 总结及发展：（2学时） 附加要求：自学卷积码及viterbi译码方法，编写相关程序。 考评方式与标准 对学生的考核采取笔试、实验、作业相结合的方式。笔试占70%，实验、作业占30%。 实验作业要求学生在信源编码和信道编码部分自选完成两个实验作业，并写出完整报告，说明原理和实现方法，提交程序和运行结果。 作业要求学生独立完成，教师根据学生作业的质量给出成绩。 课程指南 《信息论与编码理论》是信息与计算科学专业一门重要的专业基础课，以应用概率论、随机过程和现代数理统计方法，研究信息提取、传输和处理的一般规律，提高信息系统的有效性和可靠性，实现信息系统的最优化。 通过对本课程的学习，要求学生了解信息论的形成及发展，掌握信息科学的研究内容和方法，掌握有关信息论的基本理论、编码的理论和实现原理；理解信源的熵、熵的性质和无失真信源编码理论、限失真信源编码理论以及各种常用的信源编码、信道编码方法，为以后开设的专业课程打下了坚实的基础。