南京工程学院信息论参考试卷重修题.pdfVIP

一填空题（本题15空，每空1分，共15分）

1.信源熵H(X)的定义为，在时取得

最大值。条件熵H(Y/X)定义为，它与H(X)

的大小关系为。

2.对于平均符号熵为H(X)的离散平稳无记忆信源，一定存在一种无失真编

L

码方法，使平均信息率K满足不等式。

最佳码指的是，用衡量各

种编码方法与最佳码的差距。

3.限失真信源编码中失真函数的定义为，平均失真定义

为。

4.线性分组码的伴随式定义为，其中错误图案E指的

是。在一定的差错范围内，利用

T

来判断收码是否有误。如信道中产生差错，则成立。在H固

定的前提下，RHT仅与有关，与无关。

2某一阶马尔可夫信源的状态转移如下图所示，信源符号集为X：{0,1,2}，

并定义。试求：

1）状态的极限概率Wi；

2）信源的极限熵H；

￥

3）p取何值时H取最大值。（3+3+3=9分）

￥

。（3+3+3=9分）