某离散无记忆信源S的符号集A={a1,a2,a3,a4,a5,a6,a7,a8},各符号的概率分别为:0.1,0.2,0.2,0.3,0.05,0.05,0.
某离散无记忆信源S的符号集A={a1,a2,a3,a4,a5,a6,a7,a8},各符号的概率分别为:0.1,0.2,0.2,0.3,0.05,0.05,0.05,0.05;
某离散无记忆信源S的符号集A={a1,a2,a3,a4,a5,a6,a7,a8},各符号的概率分别为:0.1,0.2,0.2,0.3,0.05,0.05,0.05,0.05;
设S为一离散无记忆信源,其符号集合为{0,1},概率分布为p(0)=0.995,p(1)=0.005。令信源符号序列的长度为n=100,假定对所有只包含3个以下符号“1”的序列编制长度为k的非奇异二进制码。求:
设离散无记忆信源其发出的消息为(202120130213001203210110321010021032011223210),求
(1)此消息的自信息是多少?
(2)在此消息中平均每个符号携带的信息量是多少?
设一离散无记忆信源的输出由四种不同的符号组成,它们出现的概率分别为1/2、1/4、1/8、1/8。
(1)此信源平均每个符号包含的信息熵多大?
(2)若信源每隔10毫秒发出一个符号,那么此信源平均每秒输出的信息量为多少?
有离散无记忆信源,其失真度为汉明失真度。
(1)求Dmin和R(Dmin),并写出相应试验信道的信道矩阵;
(2)求Dmax和R(Dmax),并写出相应试验信道的信道矩阵;
(3)若允许平均失真度D=1/3,试问信源的每一个信源符号平均最少由几个二进制码符号表示?
2.若某无记忆信源u为,接收符号,其失真矩阵为。求信源的最大平均失真度Dmax和最小平均失真度Dmin,并求选择何种信道会达到该Dmax和Dmin的失真。
4.设一离散无记忆信道的输入符号集为{a1,…,aK},输出符号集为{b1,…,bJ},信道转移概率为p(bj|ak),k=1,…,K;j=1,…,J。若译码器以概率γkj(k=1,…,K;j=1,…,J)对收到的bj判决为ak。试证明对于给定的输入分布,任何随机判决方法得到的错误概率不低于最大后验概率译码时的平均译码错误概率。
19.设某离散平稳信源X,概率空间为
并设信源发出的符号只与前一个相邻符号有关,其联合概率为p(aiaj)如下表所示。
联合概率p(aiaj) | ||||
p(aiaj) | ai | |||
0 | 1 | 2 | ||
aj | 0 | 1/4 | 1/18 | 0 |
1 | 1/18 | 1/3 | 1/18 | |
2 | 0 | 1/18 | 7/36 |
求信源的信息熵、条件熵与联合熵,并比较信息熵与条件熵的大小。
19.设某离散平稳信源X,概率空间为
并设信源发出的符号只与前一个相邻符号有关,其联合概率为p(aiaj)如下表所示。
联合概率p(aiaj) | ||||
p(aiaj) | ai | |||
0 | 1 | 2 | ||
aj | 0 | 1/4 | 1/18 | 0 |
1 | 1/18 | 1/3 | 1/18 | |
2 | 0 | 1/18 | 7/36 |
求信源的信息熵、条件熵与联合熵,并比较信息熵与条件熵的大小。
A、0.418
B、1.121
C、2.212
D、0.812