第一次作業

1—1 資料壓縮的乙個基本問題是「我們要壓縮什麼」，對此你是怎樣理解的？

答: 所謂訊號空間即被壓縮物件，是指物理空間，時間區間，電池頻段。也就是指某訊號集合所佔的空域、時域、和頻域空間。訊號空間的這幾種形式是相互關聯的，儲存空間的減少也意味著傳輸效率的提高與占用寬頻的節省，也就是說，只有採用某種方法來減少某一種訊號空間，就能壓縮資料。

1—2 資料壓縮的另乙個基本問題是「為什麼進行壓縮」，對此你又是怎樣理解的？

答：資料壓縮能較快的傳輸各種信源——時間域的壓縮；在現有通訊幹線上開通更多的並行業務——頻率域的壓縮；降低發射功率——能量域的壓縮；緊縮資料儲存容量— —空間域的壓縮。這些將使社會效益、經濟效益、將越來越明顯，相反，若不進行資料壓縮，則無論傳輸或儲存都很難實用化。

1—6 資料壓縮技術是如何分類的？

答：資料壓縮分為可逆壓縮和不可逆壓縮。可逆壓縮也叫做無失真、無差錯編碼或無雜訊編碼。不可壓縮就是失真編碼。有冗餘度的就可以壓縮，壓縮只能在一定限度內可逆，超過此限度，必然帶來失真，允許的失真越大，壓縮的比例也可以越多。

3、給定符號集a=,求一下條件下的一階熵：

(a)p(a1)=p(a2)=p(a3)=p(a4)=1/4

(b)p(a1)=1/2 , p(a2)=1/4 , p(a3)=p(a4)=1/8

(c)p(a1)=0.505 , p(a2)=1/4 , p(a3)=1/4 , p(a4)=0.12

(a)解:p(a1)=p(a2)=p(a3)=p(a4)=1/4

h=-log21/4*1/4*4

=2bit

(b)p(a1)=1/2 , p(a2)=1/4 , p(a3)=p(a4)=1/8

h=-log21/2*1/2-log21/4*1/4-log21/8*1/8*2

=1.75bit

(c)p(a1)=0.505 , p(a2)=1/4 , p(a3)=1/4 , p(a4)=0.12

h=-log20.505*0.505-log21/4*1/4*2-log20.12*0.12

=1-log20.505*0.505-log20.12*0.12(bit)

5、考慮以下序列：

atgcttaacgtgcttaacctgaagcttccgctgaagaacctg

ctgaacccgcttaagcttaagctgaaccttctgaacctgctt

（a）根據此序列估計個概率值，並計算這一串行的一階、二階、三階和四階熵。

a的個數為21，t的個數為23，g的個數為16，c的個數為24.

p(a)=1/4, p(t)=23/84, p(g)=4/21, p(c)=2/7

一階熵為：-log21/4*1/4*21-log223/84*23/84*23-log24/21*4/21*16-log22/7*2/7*24

=21/2-log223/84*23/84*23-log24/21*4/21*16-log22/7*2/7*24(bit)

二階熵為：

（b）根據這些熵，能否推斷此序列具有什麼樣的結構？

7、做乙個實驗，看看乙個模型能夠多麼準確地描述乙個信源。

(a)編寫一段程式，從包括26個字母的符號集中隨機選擇字母，組成100個四字母單詞，這些單詞中有多少是有意義的？