信息论与编码（汤学明）信息论与编码——A3.docVIP

计算机学院 2012 — 2013 学年第 一 学期 《信息论与编码》考试试卷 A卷 闭卷 考试时间： 2012 年 11 月 28 日 专业 信息安全 班级 学号 学生姓名 题号 一 二 三 四 五 六 七 总分 核对人 题分 10 20 12 16 15 15 12 100 得分 得分 评卷人 一、填空题（共10分，每空1分） (1) 信号是信息的物理表达层，它载荷信息的　　　　　　，消息是信息的数学表达层，它是物理信号的　　　　　　　　。 (2) 必然发生的随机事件的自信息量为　　　　　，不可能的随机事件若发生，则能提供的自信息量为　　　　　。 (3) 限平均功率的连续信源，当输出信号的幅值服从　　　　　　　　　　　　时，信源具有最大的连续熵，其熵值表达式为　　　　　　　　　　　　。 (4) 多用户信道允许信道有多个输入端或输出端，其中最基本的多用户信道类型主要有　　　　　　　　　　、广播信道和　　　　　　　　　　　　　　。 (5) 某街道有7盏独立运行的发出红、绿、黄信号的交通灯，该街道的交通信号符号序列数共有　　　　种，可取得的最大熵为　　　　　　　　　　。 得分 评卷人 二、名词解释（共20分，每小题5分） (1) 数据处理定理： (2) 平均互信息的凸性： (3) 平均失真度： (4) 熵功率： 得分 评卷人 三、计算题I（共12分） 设有某2元离散信源的概率分布为：，其失真矩阵定义为：，某试验信道的信道矩阵为，试求： (1) 该信源的； (2) 如限定最大许可平均失真度，求信息率失真函数； (3) 如失真视作单位为“元”的经济损失，求的信息价值率。 得分 评卷人 四、计算题II（共16分） 已知某二元单符号离散信源Ｘ以75%的概率发出“0”，经由右表所示的转移概率到达信宿Y，另定义（普通减法），试计算： (1) 信息熵及条件熵 (2) 平均互信息； (3) 对Z进行定长无失真信源编码，若要求编码效率大于90%，译码差错率低于，需多少个信源符号一起编码？ 得分 评卷人 五、计算题III（共15分） 某4元二阶齐次马尔可夫信源的状态集合为，已知前状态或转移到的概率为0.1，转移到的概率为0.4，其余的转移状态均为0.25，试求： (1) 一步状态转移概率矩阵并画出状态转移图； (2) 极限熵； (3) 该马尔可夫信源的冗余度。 得分 评卷人 六、计算题IV（共15分） 已知某离散无记忆信道的转移概率如右图所示，试求： (1) 时，该信道的信道容量C； (2) 时，该信道的信道容量C及达到信道容量的最佳输入概率分布。 得分 评卷人 七、信源编码题（共12分） 设有一单符号离散无记忆信源如下： ，试求： (1) 2进制费诺编码、平均码长及其编码效率； (2) 3进制哈夫曼编码、平均码长及其编码效率。 - 6 - X Y ? 1 0 0.32 0.68 1 0.84 0.16