信息论与编码实验报告.doc

求信息量的流程图： 求信息量关键代码： float pX[2]={0.5,0.5},pY_X[2][2]={{0.98,0.02},{0.2,0.8}}; float pXY[2][2],pY[2],pX_Y[2][2]; float hX,hY,hXY=0.0,hY_X=0.0,hX_Y=0.0; float iXY=0.0,iYX=0.0; int i,j; //计算联合概率 for(i=0;i2;i++) for(j=0;j2;j++) pXY[i][j]=pX[i]*pY_X[i][j]; //计算Y的概率 for(i=0;i2;i++) pY[i]=pXY[0][i]+pXY[1][i]; //计算X的后验概率 for(i=0;i2;i++) for(j=0;j2;j++) pX_Y[j][i]=pXY[i][j]/pY[j]; //求信源熵 hX=-(pX[0]*(log(pX[0])/log(2))+pX[1]*(log(pX[1])/log(2))); cout信源熵H(X)=hXendl; hY=-(pY[0]*(log(pY[0])/log(2))+pY[1]*(log(pY[1])/log(2))); cout信源熵H(Y)=hYendl; //求条件熵 for(i=0;i2;i++) for(j=0;j2;j++) hY_X+=-(pXY[i][j]*log(pY_X[i][j])/log(2)); cout条件熵H(Y/X)=hY_Xendl; for(i=0;i2;i++) for(j=0;j2;j++) hX_Y+=-(pXY[i][j]*log(pX_Y[j][i])/log(2)); cout条件熵H(X/Y)=hX_Yendl; //求联合熵 for(i=0;i2;i++) for(j=0;j2;j++) hXY+=-(pXY[i][j]*log(pXY[i][j])/log(2)); cout联合熵H(XY)=hXYendl; //交互熵 iXY=hX+hY-hXY; cout交互熵I(X;Y)=I(Y;X)=iXYendl; float beta[2],C;香农编码流程图： 香农编码关键源代码： int main() { int N; cout请输入信源符号个数：;cinN; cout请输入各符号的概率：endl; double *X=new double[N]; //离散无记忆信源 int i,j; for(i=0;iN;i++) { coutX[i+1]=; cinX[i]; } //由大到小排序 for(i=0;iN-1;i++) for(j=i+1;jN;j++) if(X[i]X[j]) { double temp=X[i];X[i]=X[j];X[j]=temp; } int *K=new int[N]; //确定码长 for(i=0;iN;i++) { K[i]=int(-(log(X[i])/log(2)))+1; //默认码长为1-log2(p(xi)) if(K[i]==(-(log(X[i])/log(2))+1)) //当K[i]=-log2(p(xi))时，K[i]-- K[i]--; } //累加概率 double *Pa=new double[N]; Pa[0]=0.0; for(i=1;iN;i++) Pa[i]=Pa[i-1]+X[i-1]; //将累加概率转换为二进制 string *code=new string[N]; for(i=0;iN;i++) for(j=0;jN;j++) //这里默认最大码长不超过信源符号个数 { double temp=Pa[i]*2; if(temp=1) //累加概率乘2大于1时，对应码字加1，累加概率自身取余 { code[i]+=1; Pa[i]=Pa[i]*2-1; } else //累加概率乘2小于1时，对应码字加0，累加概率自身取余 { code[i]+=0; Pa[i]*=2; } } for(i=0;iN;i++) code[i]=code[i].substr(0,K[i]); //求码字 //输出码字 coutsetw(12)信源setw(12)概率p(x)setw(12)累加概率Pa(x)setw(8)码长Ksetw(8)码字endl; for(i=0;iN;i++) coutsetw(12)i+1setw