![](https://static.youtibao.com/asksite/comm/h5/images/m_q_title.png)
设一离散无记忆信源的输出由4种不同的符号组成,它们的出现概率分别为1/2、1/4、1/8、1/8,则此信源平
![](https://static.youtibao.com/asksite/comm/h5/images/solist_ts.png)
设一离散无记忆信源的输出由四种不同的符号组成,它们出现的概率分别为1/2、1/4、1/8、1/8。
(1)此信源平均每个符号包含的信息熵多大?
(2)若信源每隔10毫秒发出一个符号,那么此信源平均每秒输出的信息量为多少?
设S为一离散无记忆信源,其符号集合为{0,1},概率分布为p(0)=0.995,p(1)=0.005。令信源符号序列的长度为n=100,假定对所有只包含3个以下符号“1”的序列编制长度为k的非奇异二进制码。求:
设离散无记忆信源其发出的消息为(202120130213001203210110321010021032011223210),求
(1)此消息的自信息是多少?
(2)在此消息中平均每个符号携带的信息量是多少?
有离散无记忆信源,其失真度为汉明失真度。
(1)求Dmin和R(Dmin),并写出相应试验信道的信道矩阵;
(2)求Dmax和R(Dmax),并写出相应试验信道的信道矩阵;
(3)若允许平均失真度D=1/3,试问信源的每一个信源符号平均最少由几个二进制码符号表示?
设信源U={0,1,2,3}无记忆,各符号等概率分布,信宿V={0,1,2,3,4,5,6}。失真函数定义为
证明其率失真函数R(D)如图所示。
若有一信源
每秒钟发出3个信源符号。将此信源的输出符号送入某二元无噪无损信道中进行传输,而信道每秒钟只能传递两个二元符号,试问信源能否在此信道中进行无差错的传输。
19.设某离散平稳信源X,概率空间为
并设信源发出的符号只与前一个相邻符号有关,其联合概率为p(aiaj)如下表所示。
联合概率p(aiaj) | ||||
p(aiaj) | ai | |||
0 | 1 | 2 | ||
aj | 0 | 1/4 | 1/18 | 0 |
1 | 1/18 | 1/3 | 1/18 | |
2 | 0 | 1/18 | 7/36 |
求信源的信息熵、条件熵与联合熵,并比较信息熵与条件熵的大小。
组,用与其汉明距离最近的汉明码码字所对应的4位信息符号来代表,通过无噪声信道进行传输:在接收端,用接收的4位信息符号所对应的码字表示信源分组。
(1)求编码器的码率和编码系统的平均失真。
(2)将(1) 的结果与R(D)比较(设失真测度为汉明失真)。
(3)对于任意1,应用(2-1,2 -l-1)汉明编码,求码率和平均失真。
有一个二元对称信道,其信道矩阵为。设该信源以1500 bit/s的速度传输输入符号。现有一消息序列共有14000个二元符号,并设p(0)=(1)= 1/2,问从信息传输的角度来考虑,10s内能否将这消息序列无失真地传递完?
4.设一离散无记忆信道的输入符号集为{a1,…,aK},输出符号集为{b1,…,bJ},信道转移概率为p(bj|ak),k=1,…,K;j=1,…,J。若译码器以概率γkj(k=1,…,K;j=1,…,J)对收到的bj判决为ak。试证明对于给定的输入分布,任何随机判决方法得到的错误概率不低于最大后验概率译码时的平均译码错误概率。
2.若某无记忆信源u为,接收符号
,其失真矩阵为
。求信源的最大平均失真度Dmax和最小平均失真度Dmin,并求选择何种信道会达到该Dmax和Dmin的失真。