平均互信息量I(X;Y)与信源熵和条件熵之间的关系是()。

题目
填空题
平均互信息量I(X;Y)与信源熵和条件熵之间的关系是()。
如果没有搜索结果或未解决您的问题,请直接 联系老师 获取答案。
相似问题和答案

第1题:

信息熵是表示信源输出后,每个消息所提供的()。

A、总信息量

B、平均信息量

C、个别信息量

D、绝对平均信息量


参考答案:B

第2题:

互信息I(X;Y)与信息熵H(Y)的关系为:I(X;Y)()(大于、小于或者等于)H(Y)。


正确答案:小于

第3题:

如果有两个信源X、Y,在事件X或Y产生的情况下,另一事件Y或X的产生还保留着平均不确定性或疑义度,这可以用()来表示。

A、条件熵

B、信息熵

C、联合熵

D、互信息熵


参考答案:A

第4题:

简述离散信源和连续信源的最大熵定理。


正确答案: 离散无记忆信源,等概率分布时熵最大。连续信源,峰值功率受限时,均匀分布的熵最大。平均功率受限时,高斯分布的熵最大。均值受限时,指数分布的熵最大。

第5题:

设信源X包含4个不同离散消息,当且仅当X中各个消息出现的概率为()时,信源熵达到最大值,为(),此时各个消息的自信息量为()。


正确答案:1/4;2; 2

第6题:

熵压缩法中的熵定义为()。

A.冗余

B.数据

C.平均信息量

D.信息量


参考答案:C

第7题:

如果符号集中任一符号出现的概率为1,则其他符号出现的概率必然为零,信源的平均信息量(熵)则为()


正确答案:

第8题:

信息熵即信源的()自信息量。

A、平均

B、固定的

C、不变的

D、随机


参考答案:A

第9题:

对于均值为0,平均功率受限的连续信源,信源的冗余度决定于平均功率的限定值P和信源的熵功率()。


正确答案:之比

第10题:

离散无记忆序列信源中平均每个符号的符号熵等于单个符号信源的符号熵。


正确答案:正确