离散消息信道容量的迭代计算.docVIP

离散消息信道容量的迭代算法 摘要 对于离散信源，在限度失真条件下直接计算信源的最小速率是比较复杂的。本文分析了Blahut迭代算法求解R(D)的原理和过程，并通过仿真研究了各种离散信道率失真函数R(D)与失真限定值D的关系。本文主要对离散信道及其信道容量进行相关阐述，重点描述用迭代算法实现离散信道容量，并对其进行仿真分析。 关键词：离散信源 率失真函数 Blahut迭代算法 一．离散消息信道容量 1.1 离散信道 设新到的输入符号集合X为随机变量集合，则输出符号集合Y也为随机变量集合。因为信道有随机噪声干扰，使Y在X给定条件下为随机变量，所以用条件概率P(Y|X描述Y与X之间的关系，其信道模型如图1所示： 图1 信道模型 1.2信道容量 由平均互信息量I(X; Y) 是输入随机变量X的概率分布P(x) 的∩型凸函数。因此对于一个固定的信道, 总存在一种信源(某种概率分布P(x)) ,使传输每个符号平均获得的信息量最大。也就是每个固定信道都有一个最大的信息传输率。定义这个最大的信息传输率为信道容量C,即C=max{I(X; Y)}。其中 I(X,Y)=[H(X)-H(X/Y)]=[H(Y)-H(Y/X)] 比特/符号 信道容量与与信源无关，它是信道的特征参数，反应的是信道的最大的信息传输能力。 对于一般信道的求解方法，就是求解方程组 令 则 若r=s，此方程有解，可以解出s各未知数β，再根据 得 从而 信道容量求出后，计算并没有结束，必须解出相应的，并确认所有的都大于或等于0时，所求的C才存在，因为在我们对I(X;Y)求偏导时只限制，并没有限制，所以求出的可能为负值，此时的C就不存在，必须对进行调整再求解C一般由迭代算法求出。 二．离散消息信道容量迭代算法 2.1 信道容量迭代算法的迭代流程 一般离散信道的信道容量可以通过以下迭代算法实现： 对于一个给定信道的信道转移概率，并且给定初始化信源分布，置迭代计数器k=0，设信道容量相对误差门限为δ，δ0； 由迭代公式计算； 由上一步结果代入公式计算 得到信道容量 判断若，则转到(7) 迭代序号加一，即k=k+1,转向(2) 输出的结果和的结果 以上迭代算法的迭代过程由以??流程图表示 三．仿真结果 对不同的离散无记忆信道进行仿真，利用迭代算法计算出其信道容量及达到信道容量时信源的输入概率分布。 此仿真中不同的信道转移概率表示不同的离散信道，信道容量对比仿真分析如下表所示： 表1. 不同离散信道的迭代算法对比 信道转移矩阵信道容量精度输入概率迭代次数1/8 7/8 7/8 1/80.45640.00010.5 0.511/8 7/8 3/10 7/100.03380.00010.5012 0.498811/14 6/14 1/2 6/14 1/14 1/20.20420.00010.5 0.511/2 1/4 0 1/4 0 1 0 0 0 0 1 0 1/4 0 1/4 1/21.32190.00010.134 0.365 0.365 0.1345可见，对于不同的离散信道对应不同信道容量且达到信道容量对应不同的输入概率分布，且迭代所需次数也不同。 然后我们对于同一信道，对应不同精度要求的迭代算法进行仿真比较，如下表所示： 表2. 不同精度要求的迭代算法对比 信道转移矩阵信道容量精度输入概率迭代次数1/5 2/5 0 2/5 0 1 0 0 0 0 1 0 2/5 0 2/5 1/51.22880.0010.1285 0.3715 0.3715 0.128541/5 2/5 0 2/5 0 1 0 0 0 0 1 0 2/5 0 2/5 1/51.229370.00010.1238 0.3762 0.3762 0.123861/5 2/5 0 2/5 0 1 0 0 0 0 1 0 2/5 0 2/5 1/51.229400.000010.1231 0.3769 0.3769 0.12317 可见，对于同一信道，迭代算法对于精度的不用要求其迭代次数不同，精度越高迭代次数越多，计算越复杂。 四．结论 本文对离散消息信道容量展开研究，首先介绍了离散信道以及信道容量的相关概念。然后介绍了离散信道信道容量的迭代求法。接下来通过对迭代算法的仿真结果分析得出，对于不同的离散信道对应不同信道容量且达到信道容量对