《信息論与编码》实验讲义新.docVIP

信息论与编码 实验讲义 淮阴师范学院 2012年月日 实验一、计算二阶马尔可夫信源的熵 一、实验目的 1．掌握MATLAB的矩阵运算功能和图表功能。 2．掌握二阶马尔可夫信源熵的求解方法。 二、实验条件 计算机一台，MATLAB仿真软件。 三、实验内容 （1）MATLAB的应用（请参阅相关书籍） （2）实验主要内容 已知信源的转移矩阵 ， 利用Matlab强大的矩阵运算功能计算二阶马尔可夫信源的平稳分布概率。 在Matlab环境下，编程计算该二阶马尔可夫信源的熵。 （3）实验原理 对于时齐、遍历的马尔可夫链，已知 为信源的转移矩阵， ，为稳态概率，，且 则信源熵为 其中， 如 四、实验要求及分析 （1）进一步熟悉MATLAB的矩阵运算功能。 （2）按照书上p15页、p34页例题进行理论分析，并与所做实验进行对比。 实验二 绘制二进制熵函数曲线 一、实验目的 1．掌握二进制符号熵的计算； 2．掌握MATLAB的应用； 3．掌握Matlab绘图函数； 4．掌握、理解熵函数表达式及其性质 二、实验条件 计算机一台，MATLAB仿真软件。 三、实验内容 （1）MATLAB的应用（请参阅相关书籍） （2）打开MATLAB，在命令窗口中输入eidt，弹出编辑窗口，如图1： 图1 MATLAB的编辑窗口 （3）输入源程序： clear; x=0.001:0.001:0.999 y=-x.*log2(x)-(1-x).*log2(1-x); plot(x,y); grid on （4）保存文件为entropy.m； （5）单击Debug菜单下的Run，或直接按F5执行； （6）执行后的结果图2： 四、实验分析 （1）熵函数是一个严格上凸函数 （2）熵的极大值，二进符号的熵在p(x1)=p(x2)=0.5取得极大值 （3）调调整p(x1)的取值步长，重画该曲线 图2 二进制符号熵函数图 2 2