為了傳輸一個由字母A、B、C、D組成的符號集，把每個字母編碼成兩個二元碼脈沖序列，以00代表A，01代表B，10代表C，11代表D。每個二元碼脈沖寬度為5ms。
（1） 不同字母等概率出現時，計算傳輸的平均信息速率？
（2） 若每個字母出現的概率分別為p_A=1/5，p_B=1/4，p_C=1/4，p_D=3/10，試計算傳輸的平均信息速率？

有一信源輸出X∈{0,1,2}，其概率為p₀=1/4，p₁=1/4，p₂=1/2。設計兩個獨立實驗去觀察它，其結果為Y₁∈{0,1}和Y₂∈{0,1}。已知條件概率為

求：
1) I(X;Y₁)和I(X;Y₂)，并判斷哪一個實驗好些。
2) I(X;Y₁,Y₂)，并計算做Y₁和Y₂兩個實驗比做Y₁或Y₂中的一個實驗各可多得多少關于X的信息。
3) I(X;Y₁/Y₂)和I(X;Y₂/Y₁)，并解釋它們的含義。

設離散無記憶信源，其發(fā)出的消息為（202120130213001203210110321010021032011223210），求
（1）求每個符號的自信息量；
（2）若信源發(fā)出一消息符號序列為(202 120 130 213 001 203 210 110 321 010 021 032 011 223 210)，求該消息序列的自信息量及平均每個符號攜帶的信息量。