![](https://static.youtibao.com/asksite/comm/h5/images/m_q_title.png)
设DMS的概率空间为 对其单个符号进行二进制编码,即码元集合为X={0,1}。 定义编码f为 f(u1)=w1=0,l1=1
设DMS的概率空间为
对其单个符号进行二进制编码,即码元集合为X={0,1}。
定义编码f为
f(u1)=w1=0,l1=1
f(u2)=w2=10,l2=2
f(u3)=w3=110,l3=3
f(u4)=w4=111,l4=3
试计算:(1)该信源的熵H(U);(2)由码字构成的新信源W的熵H(W);(3)由码元{0,1}构成的新信源X的熵H(X);(4)信息率R
![](https://static.youtibao.com/asksite/comm/h5/images/solist_ts.png)
设DMS的概率空间为
对其单个符号进行二进制编码,即码元集合为X={0,1}。
定义编码f为
f(u1)=w1=0,l1=1
f(u2)=w2=10,l2=2
f(u3)=w3=110,l3=3
f(u4)=w4=111,l4=3
试计算:(1)该信源的熵H(U);(2)由码字构成的新信源W的熵H(W);(3)由码元{0,1}构成的新信源X的熵H(X);(4)信息率R
19.设某离散平稳信源X,概率空间为
并设信源发出的符号只与前一个相邻符号有关,其联合概率为p(aiaj)如下表所示。
联合概率p(aiaj) | ||||
p(aiaj) | ai | |||
0 | 1 | 2 | ||
aj | 0 | 1/4 | 1/18 | 0 |
1 | 1/18 | 1/3 | 1/18 | |
2 | 0 | 1/18 | 7/36 |
求信源的信息熵、条件熵与联合熵,并比较信息熵与条件熵的大小。
设S为一离散无记忆信源,其符号集合为{0,1},概率分布为p(0)=0.995,p(1)=0.005。令信源符号序列的长度为n=100,假定对所有只包含3个以下符号“1”的序列编制长度为k的非奇异二进制码。求:
设信源U={0,1,2,3}无记忆,各符号等概率分布,信宿V={0,1,2,3,4,5,6}。失真函数定义为
证明其率失真函数R(D)如图所示。
设{X(n),n≥0}为一齐次马尔可夫链,其状态空间E={0,1,2},初始状态的概率分布为,一步转移概率矩阵为
设一个二元信道如图4.1所示,其输入概率空间为,试计算I(X=0;Y=1),I(X=1;Y)和I(X;Y)。
4.设一离散无记忆信道的输入符号集为{a1,…,aK},输出符号集为{b1,…,bJ},信道转移概率为p(bj|ak),k=1,…,K;j=1,…,J。若译码器以概率γkj(k=1,…,K;j=1,…,J)对收到的bj判决为ak。试证明对于给定的输入分布,任何随机判决方法得到的错误概率不低于最大后验概率译码时的平均译码错误概率。
设某信息源以每秒3000个符号的速率发送消息,信息源由A,B,C,D,E 5个信息符号组成,发送A的概率为1/2,发送其余符号的概率相同,且设每一符号出现是相互独立的,则每一符号的平均信息量为______,信息源的平均信息速率为______,可能的最大信息速率为______。
设一离散无记忆信源的输出由四种不同的符号组成,它们出现的概率分别为1/2、1/4、1/8、1/8。
(1)此信源平均每个符号包含的信息熵多大?
(2)若信源每隔10毫秒发出一个符号,那么此信源平均每秒输出的信息量为多少?
A.1/2,25
B.1/2,50
C.1/2,5
D.1/4,25
E.1/4,5
水溶液pH可通过公式______进行计算,标准溶液常用浓度为______。