论基础-练习与思考1.pptVIP

* * 作业题6 解答： (1)信源发出符号的概率分布与时间平移无关，而且信源发出的序列之间也是彼此无依赖的，因此该信源是平稳的，而且是离散无记忆信源。 (2) * * 作业题6 (3) * * 作业题7 2.22.一阶马尔可夫信源的状态图如图2.8所示。信源X的符号集为{0,1,2}。 (1)求信源平稳后的概率分布P(0),P(1),P(2)； (2)求信源的熵H∞。 (3)近似认为此信源为无记忆时， 符号的概率分布为平稳分布， 求近似信源的熵H(X), 并与H∞进行比较。 (4)对一阶马尔可夫信源p取何值时H∞最大， 当p=0和p=1时结果又如何。 * * 作业题7 * * 作业题7 * * 作业题7 * * 作业题7 * * 作业题8 2.23.一阶马尔可夫信源的状态图如图2.9所示。信源X的符号集为{0,1,2}。 (1)求平稳后信源的概率分布； (2)求信源的熵H∞。 (3)求当p=0和p=1时信源的熵， 并说明理由。 * * 作业题8 * * 作业题8 * * 作业题9 2.25.一黑白气象传真图的消息只有黑色和白色两种，即信源X={黑,白}。设黑色出现的概率为P(黑)=0.3，白色的出现概率P(白)=0.7。 (1) 假设图上黑白消息出现前后没有关联，求熵H(X)； (2) 假设消息前后有关联，其依赖关系为P(白/白)=0.9，P(黑/白)=0.1， P(白/黑)=0.2，P(黑/黑)=0.8，求此一阶马尔可夫信源的熵H2 (X)； (3) 分别求上述两种信源的剩余度，比较和的大小，并说明其物理意义。 * * 作业题9 * * 作业题9 (2) * * 作业题9 (3) * * 练习题1 1.设有一非均匀骰子，若其任一面出现的概率与该面上的点数成正比，试求各点出现时所给出的信息量，并求扔一次平均得到的信息量。 * * 练习题2 2.证明离散平稳信源有 * * 3.每帧电视图像可以认为是由3×105个像素组成的，所有像素均是独立变化，且每像素又取128个不同的亮度电平，并设亮度电平是等概率出现，问每帧图像含有多少信息量？若有一个广播员，在约10000个汉字中选1000个汉字来口述这电视图像，试问广播员描述此图像所广播的信息量是多少(假设汉字字汇是等概率分布，并彼此无依赖)？若要恰当地描述此图像，广播员在口述中至少需要多少汉字？ 练习题3 * * 泪水和汗水的化学成分相似，泪水为你换来同情，汗水为你赢得成功。 －与其流泪，不如流汗 . 第二章 信源熵 . 第二章 信源熵 第二章 信源熵 第二章 信源熵 第二章 信源熵 第二章 信源熵 第二章 信源熵 第二章 信源熵 第二章 信源熵 第二章 信源熵 第二章 信源熵 第二章 信源熵 第二章 信源熵 * * 海尔集团CEO张瑞敏，在一次中层干部会上提出这样一个问题：“石头怎样才能在水上漂起来？” * * No Chance Stay For You ! 《孙子兵法》曰：“激水之疾，至于漂石者，势也”－速度决定了石头能否漂起来 早起的鸟儿有虫吃，赶在别人前头，不要停下来，这是竞争者的状态，也是胜者的状态。如果成功有捷径的话，那就是飞，时刻准备飞！ 没有机会为你停留 ! * * 第二章总结 (1) 单符号离散信源 ① 信息量 自信息、条件自信息概念、性质、计算 互信息、条件互信息概念、性质、计算 互信息的三种表达方式（输入端、输出端、系统总体） ② 熵 信息熵的概念、性质、计算 无条件熵、条件熵（信道疑义度、噪声熵） 平均互信息概念、性质、计算 平均互信息的三种表达方式 平均互信息的凸函数性 I(X;Y)是p(xi)的上凸函数 I(X;Y)是p(yj/xi)的上凸函数 ③ 数据处理定理概念 ④ 理解各种熵之间的关系 * * (2) 多符号离散信源 ① 离散平稳无记忆信源概念、计算 ② 离散平稳有记忆信源概念、简单计算 条件熵、极限熵概念、简单计算 ③ 马尔可夫信源概念、极限熵计算 ④ 信源冗余度概念、通信效率与可靠性的关系 (3) 连续信源 ① 概念、与离散信源的比较和区别、简单计算 ② 理解最大连续熵定理 ③ 熵功率的概念 (4) 离散无失真信源编码定理 ① 定长编码定理 ② 变长编码定理 * * 作业题1 2.1.设有12枚同值硬币，其中有一枚为假币，且只知道假币的重量与真币的重量不同，但不知究竟是重还是轻。现采用天平比较左右两边轻重的方法来测量（因无砝码）。为了在天平上称出哪一枚是假币，试问至少必须称多少次？ * *