某信源發(fā)送端有2個(gè)符號(hào)，x_i，i＝1，2；p（x_i）=a，每秒發(fā)出一個(gè)符號(hào)。接受端有3種符號(hào)y_i，j＝1，2，3，轉(zhuǎn)移概率矩陣為。
（1）計(jì)算接受端的平均不確定度； 
（2）計(jì)算由于噪聲產(chǎn)生的不確定度H（Y|X）； 

（3）計(jì)算信道容量。

設(shè)二元對(duì)稱信道的傳遞矩陣為

（1）若P（0）=3/4， P（1）=1/4，求H（X），H（X/Y），H（Y/X）和I（X；Y）； 
（2）求該信道的信道容量及其達(dá)到信道容量時(shí)的輸入概率分布。

有一離散無記憶信源，其輸出為X∈{0，1，2}，相應(yīng)的概率為p₀=1/4，p₁=1/4，p₂=1/2，設(shè)計(jì)兩個(gè)獨(dú)立的實(shí)驗(yàn)去觀察它，其結(jié)果分別為Y₁∈{0，1}，Y₂∈{0，1}，已知條件概率：

（1）求I（X；Y₁）和I（X；Y₂），并判斷哪一個(gè)實(shí)驗(yàn)好些
（2）求I（X；Y₁Y₂），并計(jì)算做Y₁和Y₂兩個(gè)實(shí)驗(yàn)比做Y₁和Y₂中的一個(gè)實(shí)驗(yàn)可多得多少關(guān)于X的信息
（3）求I（X；Y₁|Y₂）和I（X；Y₂|Y₁），并解釋它們的含義

一階馬爾可夫信源的狀態(tài)圖如圖所示，信源X的符號(hào)集為（0，1，2）。

（1）求信源平穩(wěn)后的概率分布P（0），P（1），P（2） 
（2）求此信源的熵 
（3）近似認(rèn)為此信源為無記憶時(shí)，符號(hào)的概率分布為平穩(wěn)分布。求近似信源的熵H（X）并與H_∞進(jìn)行比較