信息理论与编码-期末试卷及答案.docxVIP

信息理论与编码-期末试卷及答案

考试时间：______分钟总分：______分姓名：______

一、选择题（每小题2分，共10分。请将正确选项的字母填在题后的括号内）

1.设信源消息共有4个符号，其出现概率分别为1/2,1/4,1/8,1/8，该信源的信息熵是（）。

A.2比特/符号

B.2.5比特/符号

C.3比特/符号

D.3.5比特/符号

2.对于一个离散无记忆信道，其输入符号为X，输出符号为Y，若p(y=0|x=0)=1,p(y=1|x=0)=0,p(y=0|x=1)=0,p(y=1|x=1)=1，则该信道的信道容量为（）。

A.0比特/符号

B.0.5比特/符号

C.1比特/符号

D.无法计算

3.根据香农第一定理，无失真信源编码定理指出，只要信源的信息速率R小于信道容量C，就存在一种编码方法，使得编码后的码字序列在传输过程中几乎不会发生错误。这里的“几乎不会发生错误”通常指（）。

A.译码错误概率可以为任意小

B.译码错误概率等于信道错误概率

C.译码错误概率达到零

D.码字序列长度可以任意长

4.在线性分组码中，若一个码字的汉明重量为3，则该码字能纠正最多（）个比特的错误。

A.1

B.2

C.3

D.4

5.下列关于循环码的叙述中，正确的是（）。

A.循环码是一种非线性码

B.任何长度的码字都可以构成一个循环码

C.循环码的编码过程可以通过移位寄存器和异或门实现

D.循环码的译码通常比线性码更复杂

二、填空题（每小题2分，共10分。请将答案填在题后的横线上）

6.若一个信源的熵为1比特/符号，且该信源是离散无记忆的，产生每个符号的平均信息量是______比特。

7.在二进制对称信道（BSC）中，错误概率为p，则信道容量C=______比特/符号。

8.设(7,4,3)线性分组码的生成矩阵为G，其列向量线性无关的最多个数是______。

9.一个(n,k,d)线性码，码长为n，信息位数为k，最小距离为d，则其编码效率R=______。

10.卷积码通常用______和______来描述其编码特性。

三、计算题（每小题6分，共18分）

11.设信源符号集合为{A,B,C,D}，其出现概率分别为P(A)=1/2,P(B)=1/4,P(C)=1/8,P(D)=1/8。请计算该信源的信息熵H(X)。

12.已知一个二进制对称信道（BSC）的错误概率p=0.1。请计算该信道的信道容量C。

13.考虑一个(7,4,3)线性分组码，其生成矩阵为G=[1001;0101;0011;1110]。请计算信息组(1011)对应的码字。

四、简答题（每小题7分，共21分）

14.简述香农第二定理（有损信源编码定理）的主要内容。

15.什么是线性码的距离？最小距离d对线性码的纠错能力有什么影响？

16.简述卷积码与分组码的主要区别。

五、证明题（10分）

证明：对于任何线性分组码，其最小距离d等于其全体码字中非零码字的汉明重量之最小值。

试卷答案

一、选择题

1.B

2.C

3.A

4.B

5.C

二、填空题

6.1

7.1-H(p)

8.k

9.k/n

10.标准生成矩阵，转移函数

三、计算题

11.H(X)=-[(1/2)*log2(1/2)+(1/4)*log2(1/4)+(1/8)*log2(1/8)+(1/8)*log2(1/8)]=-(1/2)*(-1)-(1/4)*(1)-(1/8)*(3)-(1/8)*(3)=1/2+1/4+3/8+3/8=2.5比特/符号

解析思路：直接应用熵的定义公式H(X)=-∑p(x)log2p(x)计算。

12.C=1-H(p)=1-[p*log2p+(1-p)*log2(1-p)]=1-[0.1*log210.1+(1-0.1)*log21-0.1]≈1-[0.1*(-1)+0.9*(-0.0458)]≈1-[-0.1-0.04122]≈1.14122比特/符号

解析思路：应用二进制对称信道的信道容量公式C=1-H(p)。

13.码字=信息组*G=[1011]*[1001;010