信息论测试题及答案

一、设X、Y是两个相互统计独立的二元随机变量，其取-1或1的概率相等。定义另一个二元随机变量Z，取Z=YX（一般乘积）。试计算：

1.H（Y）、H（Z）； 2.H（YZ）； 3.I（X;Y）、I（Y;Z）； 二、如图所示为一个三状态马尔科夫信源的转移概率矩阵

1. 绘制状态转移图； 2. 求该马尔科夫信源的稳态分布；

3. 求极限熵；

三、在干扰离散对称信道上传输符号1和0，已知P（0）=1/4,P(1)=3/4,试求：

1. 信道转移概率矩阵P 2.信道疑义度 3.信道容量以及其输入概率分布 四、某信道的转移矩阵P???0.60.30.10?，求信道容量，最佳输入概率分布。 ??0.30.600.1?五、求下列各离散信道的容量（其条件概率P(Y/X)如下：）

六、求以下各信道矩阵代表的信道的容量

答案

一、设X、Y是两个相互统计独立的二元随机变量，其取-1或1的概率相等。定义另一个二元随机变量Z，取Z=YX（一般乘积）。试计算：

1.H（Y）、H（Z）； 2.H（XY）、H（YZ）； 3.I（X;Y）、I（Y;Z）； 解：1. H（Y）=-111??1=1bit/符号 P（y）logP（y）??log?log?ii??222??2i?12?Z=YX而且X和Y相互独立

（Z1=1）=P(Y=1)?P(X?1)?P(Y??1)?P(X??1)= ? P11111???? 2222211111P（Z2=-1）=P(Y=1)?P(X??1)?P(Y??1)?P(X?1)= ????

22222故H(Z)= ?

?P(z)logP(z)=1bit/符号

i?1i2i2.从上式可以看出:Y与X的联合概率分布为:

P(Y,Z) Z=1 Z=-1 Y=1 0.25 0.25 Y=-1 0.25 0.25 H(YZ)=H(X)+H(Y)=1+1=2bit/符号

3.?X与Y相互独立，故H(X|Y)=H(X)=1bit/符号 ?I（X;Y）=H(X)-H(X|Y)=1-1=0bit/符号

I(Y;Z)=H(Y)-H(Y|Z)=H(Y)-[H(YZ)-H(Z)]=0 bit/符号

二、如图所示为一个三状态马尔科夫信源的转移概率矩阵

2. 绘制状态转移图； 2. 求该马尔科夫信源的稳态分布； 解：1.状态转移图如右图 2.由公式p(Ej)?3. 求极限熵；

?P(E)P(Eii?13j|Ei),可得其三个状态的稳态概率为：

111?P(E)?P(E)?P(E)?P(E3)?3112?P(E)?2241??711??2??P(E2)?P(E2)?P(E3)?P(E)? 22??27??112??P(E3)?P(E1)?P(E3)P(E)?243??7???P(E1)?P(E2)?P(E3)?1

3.其极限熵:

3112112111H?= -?P（Ei）（HX|Ei）=?H（，0，）+?H（，，0）+?H（，，）7227227424i?1

3228=?1+?1+?1.5=bit/符号7777

3

三、在干扰离散对称信道上传输符号1和0，已知P（0）=1/4,P(1)=3/4,试求：

2. 信道转移概率矩阵P 2.信道疑义度 3.信道容量以及其输入概率分布

0 0.9 0.1 0.1 0 1 0.9 1 解：1.该转移概率矩阵为 P=??0.90.1? ??0.10.9? 2.根据P（XY）=P（Y|X）?P（X），可得联合概率

P（XY） X=0 X=1 P(Y=i) Y 9/40 3/40 12/40 Y 1/40 27/40 28/40 由P（X|Y）=P(X|Y)/P(Y)可得

P(X|Y) X=0 X=1 H(X|Y)=-

Y=0 3/4 1/4 Y=1 1/28 27/28 （x|y）=0.09+0.12+0.15+0.035=0.4bit/符号 ?P(xy)logPijiji，j 3.该信道是对称信道，其容量为：

C=logs-H=log2-H（0.9,0.1）=1-0.469=0.531bit/符号

?01??X???11? 这时，输入符号服从等概率分布，即????P(X)???22?四、某信道的转移矩阵P???0.60.30.10??，求信道容量，最佳输入概率分布。

0.30.600.1?? 解：该信道是准对称信道，分解为两个互不相交的子信道矩阵 ??0.60.3? ??0.30.6?N1?0.9 N2?0.1?0.10? 这里 ?00.?1M1?0.9M2?0.1???C=logr-H(P的行矢量)

-

?Nk?12KlogMK?1?H(0.6，0.3，0.1)?0.9?log0.9-0.1?log0.1

=0.174bit/符号

?01??X??? 这时，输入端符号服从等概率分布，即??=?11?

P(X)???22?五、求下列各离散信道的容量（其条件概率P(Y/X)如下：）

百度搜索“77cn”或“免费范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读，免费范文网，提供经典小说综合文库信息论测试题及答案在线全文阅读。