設(shè)有二個(gè)離散信道，其分別輸入為X₁和X₂，輸出為Y₁和Y₂，對(duì)應(yīng)這二個(gè)信道的傳遞概率為p₁(y/x)和p₂(y/x)，如圖所示。其X₁和X₂的概率分布分別為P₁(x) 和P₂(x)。

黑白氣象傳真圖的消息只有黑色和白色兩種，即信源X={黑，白}，設(shè)黑色出現(xiàn)的概率P（黑）=0.3，白色出現(xiàn)的概率P（白）=0.7。
（1）設(shè)圖上黑白消息出現(xiàn)前后沒(méi)有聯(lián)系，求熵H（X）；
（2）假設(shè)消息出現(xiàn)前后有關(guān)聯(lián)，其依賴(lài)關(guān)系為P（白/白）=0.9，P（黑/白）=0.1，P（白/黑）=0.2，P（黑/黑）=0.8，求此一階馬爾可夫信源的熵H₂；
（3）分別求上述兩種信源的剩余度，并比較H（X）和H₂的大小，并說(shuō)明其物理意義。

設(shè)有一個(gè)馬爾可夫信源，它的狀態(tài)集為{s₁，s₂，s₃}，符號(hào)集為{a₁，a₂，a₃}，及在某狀態(tài)下發(fā)符號(hào)的概率為P（a_k/s_i）（i，k=1，2，3），如圖所示。

（1）求出圖中馬爾可夫信源的狀態(tài)極限概率并找出符號(hào)的極限概率。
（2）計(jì)算信源處在某一狀態(tài)下輸出符號(hào)的條件熵H(X/S=j)(j=s₁,s₂,s₃)。
（3）求出馬爾可夫信源熵H。

有一個(gè)一階平穩(wěn)馬爾可夫鏈X₁，X₂，……X_r……，各X_r取值于集合A={a₁，a₂，a₃}。已知起始概率p（X_r）為p₁=1/2，p₂=p₃=1/4，轉(zhuǎn)移概率如下。

（1）求（X₁，X2，X3）的聯(lián)合熵和平均符號(hào)熵。
（2）求這個(gè)鏈的極限平均符號(hào)熵。
（3）求H₀，H₁，H₂和它們所對(duì)應(yīng)的冗余度。