4—第四讲信道容量及其计算.pptVIP

??? 第四讲 ;Y;二元删除信道 （BEC）：输入符号X取值于{ 0, 1}， 输出符号取值于{ 0, 2, 1}，传递概率为;0; 2、 信道容量定义; I（X；Y）是输入随机变量的概率分布的上凸函数，所以对于固定的信道，总存在一种信源分布，使传输每个符号平均获得的信息量最大，也就是说，每一个固定信道都有一个最大的信息传输率。 信道容量定义为信道中每个符号所能传递的最大信息量，也就是最大 I (X；Y)值。 ; 信道容量C与输入信源的概率无关（C只对应着一种信源概率分布，即最佳概率分布），它只是信道传输概率的函数（不同的转移概率对应不同的信道），只与信道的统计特性有关，所以信道容量是完全描述信道特性的参量。 ;4－2 信道容量的计算;1/3;而以下两个矩阵不是对称的，而是准对称的。 （行对称而不是列对称）;二元对称信道的容量： ;对于对称信道;例：;（2）、准对称信道的容量 ;解：达到信道容量的输入分布为等概分布。;（与公式计算的结果相同）;此时平均互信息就是信道容量;定理：一般离散信道的平均互信息 I(X;Y) 达到极大 值的充要条件是：输入概率矢量 满足 其中 是信道输入x=k时，关于信道输 出一个字母的平均互信息，即 ;一般信道容量的计算方法 （拉格朗日乘子法）;定理1：如果信道的输入随机序列为 通过信道传输，接收到的随机序列为 若信道是无记忆的，即满足 则 ;证明：设信道输入输出序列X和Y的一个取值为 ;这里用到（全概率公式）;;定理2：如果信道的输入随机序列为 通过信道传输，接收到的随机序列为 若信源是无记忆的，即满足 则 ;（5）、信道的组合;级联信道：信道1的输出作为信道2的输入。;??? 第四讲 信道容量及其计算 结 束