第五章 信源编码-习题答案.pdfVIP

 X  x1 x2 x3 x4 x5 x6 x7  5.1 设信源    P(X ) 0.2 0.19 0.18 0.17 0.15 0.1 0.01     (1) 求信源熵H(X)； (2) 编二进制香农码； (3) 计算平均码长和编码效率。 解： (1) 7 H (X )  p (x ) log p (x )  i 2 i i 1 (0.2 log2 0.2 0.19log2 0.190.18log2 0.180.17log2 0.17 0.15log2 0.150.1log2 0.10.01log2 0.01) 2.609 bit / symbol (2) x p(x ) p (x) k 码字 i i a i i x1 0.2 0 3 000 x2 0.19 0.2 3 001 x3 0.18 0.39 3 011 x4 0.17 0.57 3 100 x5 0.15 0.74 3 101 x6 0.1 0.89 4 1110 x7 0.01 0.99 7 1111110 (3) K k p (x ) 30.2 30.1930.1830.1730.154 0.17 0.01 i i i 3.14 H (X ) H (X ) 2.609  83.1% R K 3.14  X  x1 x2 x3 x4 x5 x6 x7  5.2 对信源   编二进制费诺码，计算编码效率。 P(X ) 0.2 0.19 0.18 0.17 0.15 0.1 0.01     解： x