离散信源与离散信道的匹配.pptVIP

信息论 电子信息工程学院 电子信息工程学院 沈阳航空航天大学 电子信息工程学院 信息论 输入∕输出统计关系 输入量 X (随机过程) 输出量 Y (随机过程) 信道 3.7离散信源与离散信道的匹配 在一般情况下，当信源与信道相连接时，其信息传输率并未达到最大。我们总希望能使信息传输率越大越好，能达到或尽可能接近于信道容量。 由前面的分析可知，信息传输率接近于信道容量只有在信源取最佳分布时才能实现。 由此可见，当信道确定后，信道的信息传输率与信源分布是密切相关的。 当达到信道容量时，我们称信源与信道达到匹配，否则认为信道有剩余。 3.9离散信源与离散信道的匹配 信道剩余度 信道相对剩余度 3.9离散信源与离散信道的匹配 在无损信道中，信道容量 C＝logr (r是信道输入符号数)。而I(X;Y)＝H(X)，因而 无损信道的相对剩余度 =信源剩余度 上式说明提高无损信道信息传输率就等于减少信源的剩余度。 对于无损信道，可以通过信源编码减少信源的剩余度，使信息传输率达到信道容量。 因此引入问题：在一般通信系统中，如何将信源发出的消息(符号)转换成适合信道传输的符号(信号)从而达到信源与信道的匹配。 3.9离散信源与离散信道的匹配 例如，某离散无记忆信源 通过一个无噪无损二元离散信道进行传输。 该信道的信道容量为：C＝1(比特／信道符号) 对本信源的信息熵为 H(X)＝1.937(比特／信源符号) 要使信源在此二元信道中传输，必须对X进行二元编码： 3.9离散信源与离散信道的匹配 因此，必须通过合适的信源编码，使信道的信息传输率接近或等于信道容量。 ? ? 对于码 (比特／信道符号) 对于码 (比特／信道符号) 3.9离散信源与离散信道的匹配