离散无记忆信源所产生的符号序列的熵等于各符号熵之和。
第1题：
第2题：
如果符号集中任一符号出现的概率为1，则其他符号出现的概率必然为零，信源的平均信息量（熵）则为（）
第3题：
设一离散无记忆信源的输出由四种不同的符号组成，它们出现的概率分别为1/2、1/4、1/8、1/8。
（1）此信源平均每个符号包含的信息熵多大？
（2）若信源每隔10毫秒发出一个符号，那么此信源平均每秒输出的信息量为多少？
参考答案：（1）此信源平均每个符号包含的信息熵为：
（2）若信源每隔10ms发出一个符号，则每秒能否发送100个符号，此信源平均每秒输出的信息量为175bps。
第4题：
离散无记忆序列信源中平均每个符号的符号熵等于单个符号信源的符号熵。
第5题：
设有一个无记忆信源发出符号A和B，已知，发出二重符号序列消息的信源，无记忆信源熵为（）。
第6题：
第7题：
简述离散信源和连续信源的最大熵定理。
第8题：
假设信源是由q个离散符号S1，S2,…，Si，…Sq所组成的符号集合，集合中的每个符号是独立的,其中任一个符号出现的概率为P(Si),并满足∑P(Si)＝1。那么符号Si含有的信息量I(Si)等于（ ），单位是（ ）
A. –logq P(Si)
B. logq P(Si)
C. -log2 P(Si)
D. log2 P(Si)@@@SXB@@@A.比特
B.信息熵
C. dB
D.无单位
第9题：
单符号离散信源的自信息和信源熵都是一个确定值。
第10题：
离散平稳有记忆信源符号序列的平均符号熵随着序列长度L的增大而增大。