信息论与编码6信道编码教程.ppt

第6章 信道编码 ;本章内容;6.1 有扰离散信道的编码定理 ;差错类型;差错图样（error pattern） ;差错图样类型 ;纠错码分类 ;差错控制系统分类 ;6.1.2矢量空间与码空间 ;矢量空间中矢量的关系 ;矢量空间与基底;二元域GF(2)上三重矢量空间 ;矢量空间;码空间;分组编码的任务 ;6.1.3随机编码;6.1.3随机编码;6.1.3随机编码;6.1.3随机编码;E(R)为可靠性函数，也叫误差指数 码率：R =( lbM) / N M是可能的信息组合数，M=qK N是每码字的码元数， R表示每码元携带的信息量，单位是每符号比特（bit / symbol） ;R在[0,R0]区间时E(R)~R曲线是斜率为-1（-45?）的直线，E(R)反比于R；而当R=C时E(R)=0即可靠性为零。 ;正定理：只要传信率R小于信道容量C，总存在一种信道码（及解码器），可以以所要求的任意小的差错概率实现可靠的通信。 逆定理：信道容量C是可靠通信系统传信率R的上边界，如果R C，就不可能有任何一种编码能使差错概率任意小。 ;6.2 纠错编译码的基本原理与分析;6.2.1纠错编码的基本思路;6.2.1纠错编码的基本思路;6.2.2最优译码与最大似然译码;最佳译码，也叫最大后验概率译码(MAP) 最大似然译码( MLD) ;如果 构成码集的2K个码字以相同概率发送，满足P(ci ) = 1/2K ， i=1,2,…,2K P(r)对于任何r都有相同的值，满足P(r) = 1/2K 则P(ci /r)最大等效于P(r / ci)的最大，在此前提下最佳译码等效于最大似然译码。 ;对于无记忆信道， 例：BSC信道的最大似然译码可以简化为最小汉明距离译码。 汉明距离译码是一种硬判决译码。由于BSC信道是对称的，只要发送的码字独立、等概，汉明距离译码也就是最佳译码。 ;6.3 线性分组码;空间构成;6.3.1 生成矩阵和校验矩阵;系统形式的生成矩阵;生成的码字C;校验矩阵;例6-2 (6,3)线性分组码，其生成矩阵是 G= 求： (1)计算码集，列出信息组与码字的映射关系。 (2)将该码系统化处理后，计算系统码码集并列出映射关系。 (3)计算系统码的校验矩阵H。若收码r = [100110], 检验它是否码字？ (4)根据系统码生成矩阵画出编码器电原理图。 ;例6-2 码集与映射关系;例6-2 二元(6,3)线性分组码编码器;6.3.2 伴随式与标准阵列译码;伴随式S???定义;从物理意义上看，伴随式S并不反映发送的码字是什么，而只是反映信道对码字造成怎样的干扰。 差错图案E是n重矢量，共有2n个可能的组合，而伴随式S是(n-k)重矢量，只有2n-k个可能的组合，因此不同的差错图案可能有相同的伴随式。 接收端收到R后，因为已知HT，可求出 S＝RHT；如果能知道对应的E，则通过C = R＋E而求得C。 RHT = S ? C = R＋E R S E C 只要E正确，译出的码也就是正确的。 ;差错图案E的求解(1) ;上述方程组中有n个未知数en－1,… e1,e0 ，却只有n-k个方程，可知方程组有多解。 在有理数或实数域中，少一个方程就可能导致无限多个解，而在二元域中，少一个方程导致两个解，少两个方程四个解，以此类推，少n-( n-k) = k个方程导致每个未知数有2k个解。 因此，由上述方程组解出的E可以有2k个解。到底取哪一个作为附加在收码R上的差错图案E的估值呢？ 概率译码：把所有2k个解的重量(差错图案E中1的个数)作比较，选择其中最轻者作为E的估值。该方法概念上很简单但计算效率不高。;依据：若BSC信道的差错概率是p，则长度n的码中错误概率 ： 0个错 1个错 2个错 … n个错 (1-p)n p(1-p)n-1 p2(1-p)n-2 pn 由于p 1, … 出错越少的情况，发生概率越大，E的重量越轻，所以该译码方法实际上体现了最小距离译码准则，即最大似然译码。 ;标准阵列译码表 ;表中所列码字是接收到的码字R； 将