第6章_有噪信道编码信道.pdf

信息论基础 信息论基础 12-13学年 第二学期 春季 DUT 信息论基础 第六章 有噪信道编码 DUT 信息论基础 本章内容提要 本章内容提要 6.1 错误概率与译码规则 6.2 错误概率与编码方法 6.3 有噪信道编码定理 6.4 联合信源信道编码定理 DUT 信息论基础 3 前一章已经从理论上讨论了，对于无噪无损信道只要 对信源进行适当的编码，总能以信道容量无差错的传递 信息。但是一般信道总会存在噪声和干扰，那么在有噪 信道中进行无错传输可以达到的最大信息传输率是多少 呢？这就是本章所要讨论的问题。本章的核心是香农第 二定理。 DUT 信息论基础 4 6.1 错误概率与译码规则 为了减少错误，提高通信的可靠性，就必须分析错误 概率与哪些因素有关，有没有办法控制，能控制到什么程 度。 前边已经讨论过，错误概率与信道的统计特性有关，但 并不是唯一相关的因素，译码方法的选择也会影响错误率。 DUT 信息论基础 5 6.1 错误概率与译码规则 例：有一个BSC信道，如图所示 0 1/3 0 2/3 2/3 1 1 1/3 若收到“0”译作“0”，收到“1”译作“1”，则平均错误概率为： 2 P P (0)P (0) P (1)P (1) E e e 3 反之，若收到“0”译作“1”，收到“1”译作“0”，则平均错 误概率为1/3，可见错误概率与译码准则有关。 DUT 信息论基础 6 6.1 错误概率与译码规则 我们来定义译码准则： 输入符号集 A {a } i B b{ } 输出符号集 j 译码规则 F (b ) a j i 例： 0.5 0.3 0.2   P 0.2 0.3 0.5  0.3 0.3 0.4 DUT 信息论基础 7