(1)信源編碼：質量一定，如何提高資訊傳輸速度(編碼效率，壓縮比)
(2)通道編碼：通道傳輸速度一定，如何提高資訊傳輸質量(抗干擾能力)
信源編碼：以提高通訊有效性為目的的編碼。通常通過壓縮信源的冗餘度來實現，採用的一半方法是壓縮每個信源符號的平均位元數或信源的位元速率(bit/符號)，即同樣多的資訊用較少的位元速率傳送，使單位時間內傳送的平困資訊量增加，從而提高通訊的有效性。
通道編碼：是以提高資訊傳輸的可靠性位目的的編碼。通常通過增加信源的冗餘度實現。採用的一半方法是增大位元速率/頻寬。與信源編碼正好相反。
信源編碼理論是資訊理論的乙個重要分支，其理論基礎是信源編碼的兩個定理：
1.無失真信源編碼定理
2.限失真信源編碼定理
等長信源編碼定理：
乙個熵為 h（s） 的離散無記憶信源，若對信源長為n的符號串行進行等長編碼，設碼字是從r個符號集中選取l個符號組成。
kraft不等式：對於字符集x
=x=\left \
x=，將其編碼成r進製碼(即碼符號集有r個，如二進位製碼就是碼符號集有0和1)，對應的碼字集長度為
\left \
，必滿足不等式，
∑ i=
1mr−
li≤1
\sum_^r^\leq 1
i=1∑m
r−li
≤1這表明：1.異字首碼必定滿足kraft不等式。2.若一組數
\left \
滿足kraft不等式，則必定存在相應碼長的異字首碼。
單義可譯定理：信源u存在單義可解碼的充分必要條件是滿足kraft不等式。
非奇異碼：每個信源符號對應的碼字都不同
唯一可解碼：任意信源符號穿編出的碼字都不同
位元速率：碼的資訊傳輸率
r =h
(s)n
‾=h(
x)
r=\frac}=h(x)
r=nh(s
)=h
(x)h(s)是信源符號的熵，即平均乙個符號含有的資訊量(bit)；n
‾\overline
n是是平均碼長；x是碼符號集
平均碼長界限定理：若乙個離散無記憶信源s有熵h(s)，編成r進製碼，則總可以找到一種無失真編碼，構成單義可解碼，使平均碼長l
‾\overline
l滿足：
h (s
)log
r≤l‾
s)lo gr+1 \frac\leq \overline< \frac+1 logrh( s)≤ lgrh( s)+ 1無失真(變長)信源編碼定理，夏農第一定理:離散無記憶信源s的熵為h(s)，對其進行n次擴充套件，構成擴充套件信源sns^ sn，其熵h(s n)=n h(s) h(s^n)=nh(s) h(sn)= nh(s )對其進行r進製編碼。總可以找到一種無失真編碼方法，構成單義可解碼，使得信源s中每個符號s is_i si所需要的平均碼長l ‾\overline l滿足（1）h(s )log r≤l‾ s)lo gr+1 n\frac\leq \overline< \frac+\frac logrh( s)≤ lgrh( s)+ n1且，當n->+ ∞+\infty +∞時，有lim n− >+∞ l‾=h (s )\underset\overline=h_(s) n−>+∞ lim l=h( s)推導：設l為擴充套件信源sns^ sn的平均碼長，l‾= l‾ n\overline=\frac} l=nl 為單個信源s的平均碼長,根據平均碼長界限定理有： h (s n)lo gr≤l ‾ sn)l ogr+ 1\frac\leq \overline< \frac+1 logrh( sn) ≤lgrh( sn) +1n h( s)lo gr≤l ‾ (s)l ogr+ 1\frac\leq \overline< \frac+1 logrnh (s) ≤lgrnh (s) +1h (s )log r≤l‾ s)lo gr+1 n\frac\leq \overline< \frac+\frac logrh( s)≤ lgrh( s)+ n1（2）定義變長碼編碼速率r=l ‾∗lo gr r=\overline*logr r=l∗lo gr,編碼效率η=h (s)r =h(s )n‾l og r\eta=\frac=\fraclogr} η=rh(s )=n logr h(s) 1.對omaha.img sensin.img以及sena.img三個檔案先使用matlab程式設計求相鄰畫素之差，對差值進行huffman編碼以及解碼。得到以下的的結果。可以看出，用huffman編碼進行壓縮時,符號概率分布越不均勻，信源壓縮效果越好。進行差分處理後，各個檔案的信源符號分布概率成拉... 1.利用程式 huff enc 和huff dec 進行以下操作 在每種情況下，利用由被壓縮影象生成的碼本 a 對sena sensin 和omaha 影象進行編碼。b 編寫一段程式，得到相鄰畫素之差，然後利用 huffman 對差值影象進行編碼。給出以上每一次試驗得出的檔案大小，並解釋其差別。a ... 1 trvqsp img 獲得影象向量量化的碼書 呼叫引數格式 trvqsp img ts img codefile b cb size t block height w block width x row size y col size h ts img 是訓練影象，也即待量化壓縮的影象，假定為8...信源編碼 huffman編碼
信源編碼作業二
信源編碼作業五