你可能感興趣的試題

設有一個馬爾可夫信源，它的狀態(tài)集為{s₁，s₂，s₃}，符號集為{a₁，a₂，a₃}，及在某狀態(tài)下發(fā)符號的概率為P（a_k/s_i）（i，k=1，2，3），如圖所示。

（1）求出圖中馬爾可夫信源的狀態(tài)極限概率并找出符號的極限概率。
（2）計算信源處在某一狀態(tài)下輸出符號的條件熵H(X/S=j)(j=s₁,s₂,s₃)。
（3）求出馬爾可夫信源熵H。

有一個一階平穩(wěn)馬爾可夫鏈X₁，X₂，……X_r……，各X_r取值于集合A={a₁，a₂，a₃}。已知起始概率p（X_r）為p₁=1/2，p₂=p₃=1/4，轉移概率如下。

（1）求（X₁，X2，X3）的聯(lián)合熵和平均符號熵。
（2）求這個鏈的極限平均符號熵。
（3）求H₀，H₁，H₂和它們所對應的冗余度。

若有二個串接的離散信道，它們的信道矩陣都是

設第一個信道的輸入符號Xє{a₁,a₂,a₃,a₄}是等概率分布，輸出符號用Z表示。第二個信道輸出用Y表示。求I(X;Z)和I(X;Y)，并加以比較。

設兩連續(xù)隨機變量X和Y，它們的聯(lián)合概率密度是均值為零，協(xié)方差矩陣為C的正態(tài)分布，，在下列幾種情況下，計算I(X;Y)：
（1）ρ＝1；
（2）ρ＝0；
（3）ρ＝－1。

給定語聲樣值X的概率密度為，求H_C(X)，并證明它小于同樣方差的正態(tài)變量的微分熵。

設有一個信源，它產(chǎn)生0、1序列的消息。它在任意時間而且不論以前發(fā)生過什么符號，均按P（0）=0.4，P（1）=0.6概率發(fā)出符號。
（1）試問這個信源是否平穩(wěn)的？
（2）試計算
（3）試計算H(X⁴)并寫出X⁴信源中可能有的所有符號。

（1）為了使電視圖像獲得良好的清晰度和規(guī)定的適當?shù)膶Ρ榷?，需要?×10⁵個像素和10個不同亮度電平，設每秒要傳送30幀圖像，所有像素是獨立變化的，且所有亮度電平等概率出現(xiàn)，求傳送此圖像所需的信息率（bit/s）。
（2）設某彩電系統(tǒng)，除了滿足對于黑白電視系統(tǒng)的上述要求外，還必須有30個不同的色彩度，試證明傳輸這彩色系統(tǒng)的信息率要比黑白系統(tǒng)的信息率大約2.5倍。

為了傳輸一個由字母A、B、C、D組成的符號集，把每個字母編碼成兩個二元碼脈沖序列，以00代表A，01代表B，10代表C，11代表D。每個二元碼脈沖寬度為5ms。
（1） 不同字母等概率出現(xiàn)時，計算傳輸?shù)钠骄畔⑺俾剩?
（2） 若每個字母出現(xiàn)的概率分別為p_A=1/5，p_B=1/4，p_C=1/4，p_D=3/10，試計算傳輸?shù)钠骄畔⑺俾剩?/p>

有一信源輸出X∈{0,1,2}，其概率為p₀=1/4，p₁=1/4，p₂=1/2。設計兩個獨立實驗去觀察它，其結果為Y₁∈{0,1}和Y₂∈{0,1}。已知條件概率為

求：
1) I(X;Y₁)和I(X;Y₂)，并判斷哪一個實驗好些。
2) I(X;Y₁,Y₂)，并計算做Y₁和Y₂兩個實驗比做Y₁或Y₂中的一個實驗各可多得多少關于X的信息。
3) I(X;Y₁/Y₂)和I(X;Y₂/Y₁)，并解釋它們的含義。

設離散無記憶信源，其發(fā)出的消息為（202120130213001203210110321010021032011223210），求
（1）求每個符號的自信息量；
（2）若信源發(fā)出一消息符號序列為(202 120 130 213 001 203 210 110 321 010 021 032 011 223 210)，求該消息序列的自信息量及平均每個符號攜帶的信息量。