信息论与编码考试试卷123456A.docVIP

湖南涉外经济学院2011—2012学年度第 1 学期期末课程 《信息论与编码》考核试卷 专业班级： 电子信息工程 考核方式：闭卷 考试时量： 120 分钟 试卷类型： A 题 号 一 二 三 四 五 六 七 八 九 十 合计 复核人 应得分 20 40 40 100 实得分 ————装—————订—————线——————外——————不——————要——————答—————题——— 学部 专业年级 学号 姓名 考场号 座位号 第2页 共 4 页 第1页 共 4 页 得分 评卷人 复核人 一、?填空选择题（每分）。 连续信源输出信号的峰值功率受限时，_均匀_分布的熵最大；连续信源输出信号的平均功率受限时，_正态_分布的熵最大。 3、当X和Y相互独立时，互信息为（ B ）。 A、 1 B、 0 C、某一个正数 4、信源为X，信宿为Y，条件熵H（X|Y）称为（ B ）。 A、噪声熵 B、信道损失熵 5、信道编码定理：对于一个离散无记忆信道，若其信道容量为C，输入信源符号长度为L，当信息传输速率（ A ）时，总可以找到一种编码方法， 当L足够长时，译码的错误概率为任意小正数。 A、 R〈 C B、 R〉C 得分 评卷人 复核人 二、常规题（1小题25分+2小题15分，共40分） 已知X，Y∈{0，1}，XY构成的联合概率为：P（00）=P（11）=，P（01）=P（10）=，( ), 计算： 熵H（X），H（Y）； 条件熵H（X/Y），H（Y/X）； 互信息I（X；Y）。 解：1) p(x=0)=p(x=1)=p(y=0)=p(y=1)=0.5 H(X)=H(Y)=1 (8分) 2) H(XY)=H(X)+H(Y|X)=H(Y)+H(X|Y) H(XY)=-2()=1.8113 H(Y|X)= H(X|Y)= 1.8113-1=0.8113 (12分) 3) I(X;Y)=H(X)-H(X|Y)=H(Y)-H(Y|X)=H(X)+H(Y)-H(XY)=2-1.8113=0.1887 (5分) 2. 求下列信道的信道容量和最佳分布。( ) 2.解： 该信道为对称信道，最佳分布是等概率分布p(X)={ }(7分) 信道容量：C=(8分 得分 评卷人 复核人 三、综合题（每小题20分，共40分） 1. 在电话信道中常允许多路复用。一般电话信号的带宽为3.3kHz。若信噪功率比为20dB，求电话通信的信道容量。() 1．解： (4分) (4分) 香农定理： 2. 给定声音样值X的概率密度为拉谱拉斯分布，求它的熵H（X），并证明它小于同样方差的正态变量的连续熵()。 2.解： EX=0(2分) (5分) (5分) 正态分布: (4分) 得分 评卷人 复核人 四、 得分 评卷人 复核人 五、 得分 评卷人 复核人 六、 得分 评卷人 复核人 七、 得分 评卷人 复核人 八、 得分 评卷人 复核人 九、 得分 评卷人 复核人 十、 得分 评卷人 复核人 十一、 得分 评卷人 复核人 十二、 第4页 共 4 页 第3页 共 4 页