1,資訊理論是應用數學的乙個分支
還有電子工程，涉及到量化
的資訊。起源是夏農的一片**「a mathematical theory of communication 」
2。資訊理論的發展 訊號加工操作，比如資料壓縮，可靠的儲存和資料交流。
3.資訊是可以被測量的，就像密度和質量一樣，傳輸的符號對於接受者來說是不確定的
4.資訊理論的作用，訊號**的電源 訊號傳輸的資訊通道的頻寬或頻率範圍;
還有通道的雜訊，它會改變訊號
5.夏農的資訊理論還告訴工程師，在乙個理想的系統中，可以傳輸多少資訊。
6.shannon還在數學上詳細闡述了「資料壓縮」的原理，它認識到這句話的結尾「只有理解必須傳遞的資訊」才會顯示出來。
他展示了我們如何通過雜訊通道傳輸資訊，我們可以控制出錯率。
7. 資訊理論的重要性
（1）在很大程度上，多虧了夏農的洞察力，數字系統已經在通訊和資訊處理領域佔據了主導地位。 數據機 衛星通訊 資料儲存 無線通訊技術
（2）shannon激發了一種創造性的方法來壓縮位元(只提取「真實」資訊)，將它們編碼以傳送到乙個通道上，並在以後或其他地方以任何期望的精確度來解釋它們。
（3）隨著夏農的洞察力，工程師和其他人繼續開發方法以最大化另一種通訊突破——電晶體的發明。
8 資訊理論的應用
交流 統計學的推論 自然語言處理（nlp） 密碼學 量子論計算 神經生物學
9 .數字通訊系統框架
10 密碼學
密碼的詳細操作由演算法控制，每個例項由乙個「鍵」控制
對稱加密 des aes 公用一把私鑰
非對稱加密 rsa diffie-hellman 公鑰私鑰
11 信源編碼 = 資料壓縮
（1）刪除原始資訊源中自然發生的不受控制的冗餘
（2）為源輸出提供有效的表示
（3）頻寬利用率最大化
（4）提高資料傳輸速度
12 信源編碼的例項 jpeg編碼
原始資料，切分8*8畫素，再通過fdct變換，然後再量化，熵編碼，壓縮的影象
13 通道編碼
（1）格式化傳輸的資訊，增強其對噪音的免疫力。
（2）提供一種有效的方法來交換另一種通訊資源(例如，減少電能消耗的**頻寬。
通道編碼是通過將受控冗餘插入到傳輸資訊流中來實現的
任何額外的位元，如漢明碼，bch碼，reed - solomon碼，卷積碼，turbo碼，或
作為一種擴充套件的通道訊號集，如在trelliscoded調製的情況下。
14 通道編碼應用
漢明碼 crc碼 gsm 卷積碼
15 調製解調
將通道編碼器輸出轉換為模擬訊號，該訊號適用於通過雜訊通道進行有效傳輸。
•調製器的工作方式是將正弦載波的振幅、頻率或相移到通道編碼器輸出上。
振幅鍵控(ask)
頻移鍵控(fsk)
相移鍵控(psk）
16 通訊系統設計準則
（1）有效利用通道頻寬和傳輸訊號功率等通訊資源
（2）減少模擬通訊中的逼真度損失
（3）儘量減少數字通訊中出現錯誤的概率
（4）降低系統實現的複雜性(成本)
換句話說，乙個人必須在頻寬、權力、可靠性和複雜性之間找到平衡。
17 通道模型
——**通道
——同軸電纜
——光纖
——微波無線電頻道
——衛星頻道
從數學的角度來說，上面的大部分通道可以被建模為乙個過濾器加上附加的雜訊，如下所示。
18 簡單的通道模型的例子
r(t) = s(t) * h（t) + n(t)
假設濾波器是乙個具有脈衝響應h(t)的確定性線性定常濾波器。
進一步假設雜訊是乙個加性的高斯白雜訊(awgn)處理n(t)。
系統結構期末複習（第一章）
1.第一種說法 計算機系統由運算器，控制器，儲存器，輸入裝置，輸出裝置五個部件組成。2.第二種說法 由硬體和軟體組成。3.第三種說法 由人員，資料，裝置，程式，規程五部分組成。1.基於對語言廣義的理解，可以把計算機系統看成是由多級虛擬計算機組成的。從內向外，層層巢狀，形成洋蔥式的功能模型。2.計算機...
資料結構期末複習第一章緒論
前言 最近快期末了，複習下資料結構，下列習題和答案解析，大部分 於網路，如有不對之處還請指出。在這裡，星雲祝各位考生期末考試順利，新年快樂！第一章緒論 1.資料結構是一門研究非數值計算的程式設計問題中計算機的 操作物件 以及它們之間的 關係 和 操作 的學科。2.下列關於資料結構的基本概念中，敘述正...
軟體工程導論期末複習 第一章
第一章 軟體工程學概述 重點小節 軟體工程 軟體生命週期 軟體過程 重點考點 軟體生命週期各個階段的定義 目標 任務 步驟 軟體工程七條本質特徵 瀑布模型 一 軟體危機 全部略寫 軟體開發的三個發展時期 個體化軟體開發時期 軟體作坊式開發時期 軟體危機出現，1986年正式提出並使用 軟體工程 這一名...