8-信道编码A.pptVIP

*这些序列即为典型序列，也就是那些满足渐近均分定理的那些序列 * * 通信系统原理-郭宇春 郑宏云 通信系统原理-郭宇春 郑宏云 * 通信系统原理-郭宇春 郑宏云 * 通信系统原理 北京交通大学 电子信息工程学院 通信工程教研室 郭宇春 郑宏云 * 通信系统原理-郭宇春 郑宏云 * Chap8 信道编码 信道编码基本概念 线性分组码 循环码 卷积码 * 通信系统原理-郭宇春 * * 通信系统原理-郭宇春 郑宏云 * 8.1 信道编码基本概念 信道编码的目标 信道编码的理论依据 汉明距及汉明重量 差错控制能力与编码效率 随机错、突发错、错误样式 简单的差错控制编码 差错控制方式 * 通信系统原理-郭宇春 郑宏云 * 信道编码的目标 信源编码——提高有效性 寻求更为简洁的信息表达方式，使编码后的数据率最小 减少冗余信息 信道编码 —— 提高可靠性，减小差错 寻求最安全的表达方式，它能有效抵抗信道造成误码 码流的频谱特性适应通道的频谱特性，使传输过程中能量损失最小，减小发生差错的可能性； 当信道破坏了某个比特时，可利用其他比特的冗余信息复原出被破坏的比特——差错控制编码 信道编码的理论依据？ * 通信系统原理-郭宇春 郑宏云 * Shannon 信道编码定理 基于单个符号考虑传输 除非使用无穷的功率或几乎为零的传信率,无法避免错误 Shannon换一个视角考虑: 描述信道为一个随机映射 X?Y: P(Y/X) 在这个描述下, 是否存在某些关于无差错传信率的极限 Shannon 信道编码定理 信道 互信息 信道容量 信道编码定理 * 通信系统原理-郭宇春 郑宏云 * 信道 连续信道 通常假设 离散信道 X?Y 发送符号：x1，x2，x3，…，xn 接收符号： y1，y2，y3，…，ym P(xi) = 发送符号xi 的概率 ， i ＝ 1，2，…，n； P(yj) = 收到yj的概率， j ＝ 1，2，…，m P(yj/xi) = 转移概率， 即发送xi的条件下收到yj的条件概率 x1 x2 x3 y3 y2 y1 接收端 发送端 xn 。。。。 。。。。 。 ym 信道模型 P(xi) P(y1/x1) P(ym/x1) P(ym/xn) P(yj) 线性时变网络 si(t) f[si(t)] ? n(t) so(t) 给定P(Y |X) ，信道就已经给定 我们关心通过这个信道最多可以传送多少信息 * 通信系统原理-郭宇春 郑宏云 * 平均互信息量 从信息量的概念, 发送xi时收到yj所获得的信息量 I(xi; yi) = ?log2P(xi) ? [? log2P(xi /yj)] 互信息：平均信息量 / 接收符号 每个发送符号平均信息量, 信源的熵 接收符号已知后，发送符号的平均信息量 发送X，接收方观察到Y 并且依据Y 去猜测X，所能猜出的程度是互信息 互信息相比发送符号信息量H(X)，少了的部分H(X/Y) 是传输错误率引起的损失。 xi的信息量: 发送xi前接收端对xi的不确定程度 收到yj后接收端对xi的不确定程度 * * 平均互信息量 I(X;Y)≤H(X) ,I(X;Y)≤H(Y) H(X) H(Y) I(X;Y) H(Y|X) H(X|Y) 互信息 是两个集合H(X)和H(Y)的交集 从某种程度上是一种用信息来度量的相关性 * * H(X) 与 H(X/Y) 二进制信源的熵 P(1) = ?，P(0) ＝ 1 - ? 当? 从0变到1时，信源的熵 当? ＝ 1/2时， 此信源的熵达到最大值。 条件熵 无噪声条件下， P(xi /yj) = 0；H(X/Y) = 0 从接收一个符号获得的平均信息量为H(X)。 有噪声条件下 从一个符号获得的平均信息量为[H(X)－H(X/Y)]。 说明H(X/Y)即为因噪声而损失的平均信息量 二进制信源的熵 H(?) * * 信道容量 信道能够传送的最大信息量，它等于信道输入和输出的互信息的最大可能值 连续信道 与信道本身的性质, 信号功率大小等因素有关 离散信道 由信道本身的性质所决定 两种度量 每个符号能够传输的平均信息量最大值 (比特/符号) 当信道中的噪声极大时，H(x / y) = H(x), C = 0 单位时间（秒）内能够传输的平均信息量最大值 (b/s) * 通信系统原理-郭宇春 郑宏云 * BSC 二元对称信道（BSC，Binary symmetrical channel） 输入x/输出y ?{0,1}; 信道转移概率具有对称性 P(Y