資訊的定義
資訊，指音訊、訊息、通訊系統傳輸和處理的物件，泛指人類社會傳播的一切內容。
資訊熵的定義及其計算公式
資訊中排除了冗餘後的平均資訊量稱為「資訊熵」，
計算公式：h(x) = e[i(xi)] = e[ log(2,1/p(xi)) ] = -∑p(xi)log(2,p(xi)) (i=1,2,…n)
其中，x表示隨機變數，與之相對應的是所有可能輸出的集合，定義為符號集,隨機變數的輸出用x表示。p(x)表示輸出概率函式。變數的不確定性越大，熵也就越大，把它搞清楚所需要的資訊量也就越大.
個人感悟
在學習了這兩節課後，我才注意到生活中隨處可見的「資訊」，竟蘊含著如此之大的能量，更是認識學習到資訊理論這門有趣而深奧的學科。夏農資訊理論的偉大貢獻在於，可以用數學公式嚴格定義資訊的量，反映了資訊表達形式在統計方面的性質。通過學習，我才了解到資訊理論的偉大之處，了解到生活中隨處可見的資訊是怎麼被數位化，平時完全沒想過這習以為常的事是如何辦到的。在上網搜尋相關資料時，我搜到了這麼一段話。不禁在心中對這些鑄就我們習以為常的生活的偉人肅然起敬。
「在我看來，兩三百年之後，當人們回過頭來看我們的時候，他們可能不會記得誰曾是美國的**。他們也不會記得誰曾是影星或搖滾歌星。但是仍然會知曉夏農的名字。學校裡仍然會教授資訊理論。」（ dr. richard blahut, oct. 6, 2000, gaylord,michigan）
計算機導論課後總結
計算機導論課後總結 注 本總結以前兩周周四晚計算機導論課程的內容為框架，自行蒐集資料而成。1.資訊 1 資訊的定義資訊，指音訊 訊息 通訊系統傳輸和處理的物件，泛指人類社會傳播的一切內容。人通過獲得 識別自然界和社會的不同資訊來區別不同事物，得以認識和改造世界。在一切通訊和控制系統中，資訊是一種普遍...
計算機導論課後總結
走進軟體 1.軟體的定義 軟體是使用者和硬體之間的介面，使用者主要是通過軟體與計算機進行交流的。軟體是計算機系統設計的重要依據。2.軟體的分類 軟體分類主要有兩種，分別是按軟體的功能分類 按軟體的規模分類和按軟體的工作方式分類 按照軟體的功能主要分為系統軟體和應用軟體。按照軟體的規模分類主要是參考所...
計算機導論課後總結 1
本章對資訊理論做了簡單介紹，同時對計算機與資訊的關係進行了 總之一切客觀存在的都是資訊。按照產生資訊物體的性質 自然資訊 生物資訊 機器資訊 社會資訊等 按照人類活動區域 科技資訊 經濟資訊 政治資訊 軍事資訊 文化資訊等 按照資訊依附的載體 文獻資訊 口頭資訊 電子資訊 生物資訊等 按照攜帶資訊的...