应用信息论第二章.pdfVIP

  1. 1、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
应用信息论第二章.pdf

第2 章习题 2-3 同时掷两个正常的骰子,也就是各面呈现的概率都是l/6,求: (1) “3 和5 同时出现”事件的自信息量; (2) “两个1 同时出现”事件的自信息量; (3)两个点数的各种组合(无序对)的熵或平均信息量; (4) 两个点数之和(即 2 ,3,„,12 构成的子集)的熵; (5)两个点数中至少有一个是1 的自信息。 解:(1)P (3、5 或5、3)=P (3、5)+P (5、3)=1/18 I =log2 (18)= 4.1699bit 。 (2 )P (1、1)=l/36 。I =log2 (36 )=5.1699bit 。 (3 )相同点出现时(11、22 、33、44 、55、66 )有6 种,概率1/36。 不同点出现时有15 种,概率1/18。 H (i,j )=6*1/36*log2 (36 )+15*1/18*log2 (18)=4.3366bit/事件。 (4 ) i+j 2 3 4 5 6 7 8 9 10 11 12 P(i+j) 1/36 2/36 3/36 4/36 5/36 6/36 5/36 4/36 3/36 2/36 1/36 H(i+j)=H(1/36 2/36 3/36 4/36 5/36 6/36 5/36 4/36 3/36 2/36 1/36) =3.2744bit/事件。 (5 )P (1、1or1、j or i 、1)=1/36+5/36+5/36=11/36。 I =log2 (36/11 )=1.7105bit/ 2-5 居住某地区的女孩中有25 %是大学生,在女大学生中有75 %身高为1.6m 以 上,而女孩中身高1.6m 以上的占总数一半。假如得知“身高1.6m 以上的某女孩是大学 生”的消息,问获得多少信息量?、 解:P (女大学生)=1/4;P (身高1.6m / 女大学生)=3/4 ;P (身高1.6m)=1/2; P (女大学生/ 身高1.6m)=P (身高1.6m、女大学生)/P (身高1.6m ) =3/4*1/4*2 =3/8 I =log2 (8/3 )=1.4150bit 。 2-7 两个实验X {x ,x ,x }和Y {y , y , y } ,联合概率p (x y ) p 为 1 2 3 1 2 3 i j ij p 11 p 12 p 13  7 / 24 1/ 24 0      p 21 p 22 p 23  1/ 24 1/ 4 1/ 24 p 31 p 32 p 33   0 1/ 24 7 / 24     (1)如果有人告诉你 和 的实验结果,你得到的平均信息量是多少? X Y (2 )如果有人告诉你 的实验结果,你得到的平均信息量是多少? Y (3 )在已知 的实验结果的情况下,告诉你 的实验结果,你得到的平均信息量是多少? Y X 解: Y P(x,y) .x y1 y2 y3 x1 7/24 1/24 0 1/3

文档评论(0)

zhoubingchina + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档