信息论与编码硕士生课程综合报告.docVIP

硕士生课程综合报告 课程名称： 信息论与编码 学生姓名及学号： 任课教师姓名及职称 完成及提交时间__________2015.12.25______________________ 说明： 1、本课程综合作业代替闭卷的期末考试，请大家认真对待！ 2、要求认真、独立完成，不得抄袭网络资料（包括论文或者直接翻译英文内容）。3、如果发现严重抄袭行为，将按不及格处理。 4、评分准则：有自己的理解和思考（能够结合自己的硕士选题者更好），占70%；文字通畅、简洁，图表规范，参考文献（含格式）完整占30%。 5、报告正文的字体请用小四号宋体和Times New Roman，1.5倍行间距。报告的篇幅尽量控制在3-4页，单页打印（如果报告篇幅偏长，请采用双面打印）。 6、本页务必和前一页的封面一起双面打印。 7、请在报告正文的首页和最后一页签名。 8、本作业提交的截止时间是第14周星期五下午3：00，超出此时间将一概不予受理。 “没有信息论的基础，从事通信与信息领域的研究和创新是不可能的事”，以此我认识到信息论对于通信学生的重要性。“通信的基本问题就是在一点重新准确地或近似地再现另一点所选择的消息”，以此我开始了解伟大数学家，信息论创始人C.E.Shannon，开始信息论与编码的课程学习。 信息论与编码是一门运用概率论和数理统计的方法研究通信系统的学科，它构建了通信系统的数学模型，定义了信息的度量规则，数学描述和定量分析了通信系统从信源到信宿的全过程，进而延伸至信息的传输与压缩处理领域。我认为学习信息论与编码应注重基本概念、基本理论和基本分析方法，并结合实例建立数学模型，给出推演过程，并力求物理概念清晰、数学结构严谨和完整，逐步深入展开。通过本课程的学习我了解了通信系统各部分的主要组成以及作用，了解了香农信息论的三个基本概念，与之相应的三个编码定理，以及信源编码、信道编码等基本理论及基本方法。 通过本学期对信息论与编码课程的学习，我了解到信息论在数据压缩理论，密码学，统计学，信号处理中有广泛的应用，其中在学习个过程中，我着重了解了信息论在数据压缩理论中哈弗曼编码在文件压缩与解压方面的作用以及与我所要研究方向息息相关的有关信号处理方面的知识。下面我将就哈弗曼编码在文件压缩的应用以及信号处理方面谈谈我的学习与认识。 为了节省存储空间和提高信息传输的效率，对文件进行压缩与解压是很有必要的。很多压缩与解压软件是基于像LZW码的改进算法等的基础上开发出来的。但是，我所了解到的哈弗曼编码是一种长编码技术，它能充分利用短码，同样能根据哈弗曼来开发相应的压缩与解压软件。并且通过哈弗曼开发出的软件简单易用，安全必威体育官网网址性能很好。这里介绍下哈弗曼编码的原理，哈夫曼编码(Huffman Coding)是一种编码方式，哈夫曼编码是可变字长编码(VLC)的一种。哈弗曼于1952 年提出一种编码方法，该方法完全依据字符出现概率来构造异字头的平均长度最短的码字，有时称之为最佳编码，一般就叫作哈弗曼编码。以哈夫曼树─即最优二叉树，带权路径长度最小的二叉树，经常应用于数据压缩。在计算机信息处理中，“哈夫曼编码”是一种一致性编码法（又称“熵编码法”），用于数据的无损耗压缩。这一术语是指使用一张特殊的编码表将源字符，例如某文件中的一个符号进行编码。这张编码表的特殊之处在于，它是根据每一个源字符出现的估算概率而建立起来的（出现概率高的字符使用较短的编码，反之出现概率低的则使用较长的编码，这便使编码之后的字符串的平均期望长度降低，从而达到无损压缩数据的目的）。哈弗曼之所以能够对文件进行压缩，完全是由于文件能够满足哈弗曼编码的条件。我们可以将一个文件看作一个单符号信源; 任何一个文件都是由一个个字节构成的, 每一个字节就是一个字符, 而字符只有256种, 因此一个文件最多含有256种字符。这样, 我们可以将文件中包含的每种字符看作一个信源符号;但是, 我们必须知道每种字符在该文件中出现的概率。这是很容易办得到的,因为每个文件总的字符数是容易知道的, 而每种字符在文件中出现的次数也是可以统计的, 因此能够计算出每种字符在该文件中出现的概率。从哈弗曼编码的原理以及相关信息我们可以看出，在计算机信息处理中，哈弗曼编码可以用于数据的无损耗压缩即通过使用较短的码字来来给出现概率较高的信源符号编码，从而使平均码长最短，达到最佳编码的目的，从而我们可以将哈弗曼编码与数据的压缩紧密的联系在一起。通过对文件压缩与解压方面知识的学习，我认为运用信息论中哈弗曼编码的相关知识能使文件压缩过程更有效率，同时所开发的软件简单实用，安全必威体育官网网址性好。通过对哈弗曼编码的学习，我相信对我学习数据方面的知识一定会有帮助。