信息论与编码姜丹第三版答案(8)

2002 Copyright EE Lab508

1101 1110 1111 13PP 213PP 214P 21613PP 813PP 8122PP 813PP 813PP 8122PP 813PP 413PP 414P 4F(1101)=1111 F(1110)=1111 F(1111)=1111 ?Pe?Pemin?1??P(bj)P(a*bj)j?1111111111 ?1?(P4?PP3?PP3?P4?PP3?P2P2?P2P2?PP3?PP3

2228222421111111 ?P2P2?P2P2?PP3?P4?PP3?PP3?P4)2248444 ?1?P4?3PP3?2P2P27.7设一离散无记忆信道，其信道矩阵为：

?1?2??0??0???0?1??2121200001212000012120?0??0??0? ?1??2?1?2?(1) 计算信道容量C；

(2) 找出一个长度为二的码，其信息传输率为0.5log5（即五个字符），如果按最大似然译码

准则设计译码器，求译码器输出端平均错误译码的概率Pe（输入字符等概）；

(3) 有无可能存在一个长度为2的码而使每个码字的平均误译概率Pe(i)＝0（i=1,2,3,4,5），也

即使平均错译概率Pe＝0？如存在的话请找出来。 解：

(1)?r?s?5，且[P]为非奇异矩阵?由?p(bj/ai)?j??p(bj/ai)logp(bj/ai)(i?1,2,3,4,5)得j?1j?155

??1??2??2??1??1??????2????1232??55???j??3??4??2???3??1?C?log?2?log?1.322bit/symble2j?1??????2????15?4?4????5??1??1??5??2(2)(3)

?H.F.

2002 Copyright EE Lab508

7.8设有二个等概信息A和B，对它们进行信道编码，分别以w1=000，w2=111表示。若二进制对称信道的正确传递概率p`>>错误传递概率p。试选择译码函数，并使平均错误概率Pe=Pemin，写出Pemin的表达式。 解：

000 001 010 100 011 101 110 111

000?P3?P???3111?PP2PP2PP2PP2PP2PP2PP2PP2PP2PP3??

P2PP2PP2PP3?因为正确传递概率p`>>错误传递概率p，所以选择译码函数如下： F(000)=F(010)=F(100) =F(001)=000

F(111)=F(011)=F(101) =F(110)=F(111)=111

1Pe?Pemin???P(wi)P(bjwi)?(6P2P?2P3)?3P2P?P3

2j?1i?*7.9设离散无记忆信道的输入符号集X：{0，1}，输出符号集Y：{0，1，2}，信道矩阵为：

8 0 1 2 0?12?P????11??414121?4? 1??4?若某信源输出两个等概消息s1和s2，现在用信道输入符号集中的符号对s1和s2进行信道编码，以w1=00代表s1，w2=11代表s2。试写出能使平均错误译码概率Pe=Pemin的译码规则，并计算Pemin。 解：

由题意可得转移矩阵： 00 01 02 10 11 12 20 21 22 ?111111111?00?4888161681616?[P]???11?111111111?

?816816??1681684??取译码规则F(00)?F(01)?F(02)?F(10)?F(20)?00 F(11)?F(12)?F(21)?F(22)?11 又输入等概?Pe?Pemin???P(wi)P(bjwi)?j?1r?**911327.10设某信道的信道矩阵为：

?0.50.30.2?[P]??0.20.30.5?

????0.30.30.4??其输入符号等概分布，在最大似然译码准则下，有三种不同的译码规则，试求之，并计算出

它们对应的平均错误概率。

?H.F.

2002 Copyright EE Lab508

解：输入符号等概分布，在最大似然译码准则下，有三种不同的译码规则: (1) F(b1)=?1，F(b2)=?1，F(b3)=?2 (2) F(b1)=?1，F(b2)=?2，F(b3)=?2

(3) F(b1)=?1，F(b2)=?3，F(b3)=?2

?P(b2a1)?P(b2a2)?P(b2a3)3?Pe?Pemin?Pemin1?Pemin2?Pemin3???P(ai)P(bjai)?0.5667

j?1i?**

第八章 限失真信源编码

8.1设信源X的概率分布P(X):{p(?1), p(?2), ?,p(?r) },失真度为d (?i, ?j)≥0,其中(i=1,2,?,r;j=1,2,?,s).试证明:

rDmin??p(ai){mind(ai,bj)}

i?1j并写出取得Dmin的试验信道的传输概率选取的原则,其中

minjd(ai,bj)?minj{p(b1/ai),p(b2/ai),?,p(bS/ai))}

(证明详见:p468-p470)

8.2设信源X的概率分布P(X):{p(?1), p(?2), ?,p(?r) },失真度为d(?i, ?j)≥0,其中 (i=1,2,?,r;j=1,2,?,s).试证明:

rDmax?minj{?p(ai)d(ai,bj)}

i?1并写出取得Dmax的试验信道传递概率的选取原则. (证明详见:p477-p478)

8.5设二元信源X的信源空间为:

[X?P]:??X 0 1 ?P(X) ? 1-?

令ω≤1/2,设信道输出符号集Y:{0,1},并选定汉明失真度.试求: (1) Dmin,R(Dmin); (2) Dmax,R(Dmax);

(3) 信源X在汉明失真度下的信息率失真函数R(D),并画出R(D)的曲线; (4) 计算R(1/8). 解：

?H.F.

2002 Copyright EE Lab508

(1)最小允许失真度：Dmin??p(ai)?minjd(ai,bj)??p(0)?0?p(1)?0＝0i?12则满足保真度D?Dmin?0的信道矩阵 0 1 [P]?0?10??1??01?p(bj/ai)?0或p(bj/ai)?1(i?1,2),故此时H(X/Y)?0?R(Dmin)?R(0)?min?I(X;Y)??min?H(X)?H(X/Y)??H(X)?H(?)?2?(2)Dmax?Dmin?min??p(ai)d(ai,bj)??min?p(0)d(0,0)?p(1)d(1,0);p(0)d(0,1)?p(1)d(1,1)?jj?i?1? ?min{p(1);p(0)}?p(1)??j?此时I(X;Y)?0?R(Dmax)?R(?)?0(3)离散信源在汉明失真度下,R(D)?H(X)?H(D)?Dlog(r?1)?对此信源R(D)?H(X)?H(D)?H(?)?H(D)?H(?)?H(D) 0?D??即R(D)???0 D??由上，可得R(D)曲线如下:

R(D) H(ω) D

0

(4)R(1/8)=H(ω)-H(1/8)= H(ω)-0.5436 bit/symble 8.6一个四进展等概信源

Dmax=ω

?U 0 1 2 3 ?[U?P]:?1111

P(U) ?4444?接收符号集V:{0,1,2,3},其失真矩阵为:

?0?1[D]???1??1(1) Dmin,R(Dmin); (2) Dmax,R(Dmax);

111?011??

101??110??H.F.

2002 Copyright EE Lab508

(3) 试求R(D), 并画出R(D)的曲线(去4到5个点). 解:

(1)设输出符号集Y:{b1,b2}最小允许失真度：Dmin??p(ui)?minjd(ui,bj)??p(0)?0?p(1)?0?p(2)?0?p(3)?0＝0i?14则满足保真度D?Dmin?0的信道矩阵?1000??0100??[P]???0010???0001??p(bj/ui)?0或p(bj/ui)?1(i?1,2,3,4),故此时H(U/Y)?01111?R(Dmin)?R(0)?min?I(U;Y)??min?H(U)?H(U/Y)??H(U)?H(,,,)?2bit/symble4444

?4??3333?3(2)Dmax?Dmin?min??p(ui)d(ui,bj)??min?,,,??jj?4444?4?i?1?此时U、Y相互独立,故I(X;Y)?0?R(Dmax)?R(?)?0(3)离散信源在汉明失真度下,R(D)?H(X)?H(D)?Dlog(r?1)?对此信源R(D)?H(U)?H(D)?Dlog3?2?H(D)?Dlog33?2?H(D)?Dlog3 0?D???4即R(D)???0 D?3?4?可计算得:D?0,R(0)?2bit/symble;11 D?,R()?1.258bit/symble;8811 D?,R()?0.792bit/symble;4411 D?,R()?0.208bit/symble;2233 D?,R()?0bit/symble44?可得R(D)曲线如下:

2 1.258 0.792 0.208 0

8.7某二进制信源:

R(D) (bit/bymble) D

1/8 1/4 1/2 3/4

?H.F.

百度搜索“77cn”或“免费范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读，免费范文网，提供经典小说综合文库信息论与编码姜丹第三版答案(8)在线全文阅读。