置信區間
估計引數真值所在的範圍通常以區間的形式給出,同時還給出此區間包含引數真值的可信程度,這種形式的估計稱為區間估計,這樣的區間稱為置信區間。
對於任意引數θ在可能的取值範圍內,p≥1-α,則稱隨機區間(θ1,θ2)是引數θ的置信水平為1-α的置信區間,θ1和θ2分別稱為置信水平為1-α的雙側置信區間的置信下限和置信上限,1-α稱為置信水平。
對於特殊問題,我們關心的是重點在於引數θ的上限或下限,比如對於裝置的使用壽命,關心平均壽命的「下限」;對於藥品中雜質含量,關心平均含量的「上限」。對於任意引數θ在可能的取值範圍內,p≥1-α或p≥1-α,則稱隨機區間(-∞,θ2)或(θ1,∞)是引數θ的置信水平為1-α的單側置信區間,θ1和θ2分別稱為置信水平為1-α的單側置信下限和單側置信上限。
顯著性檢驗
統計推斷(statistical inference),是根據帶隨機性的觀測資料(樣本)以及問題的條件和假定(模型),而對未知事物,作出的以概率形式表述的推斷。主要包括引數估計和假設檢驗。
引數估計包括點估計和區間估計。點估計包括矩估計法和最大似然估計法。
假設檢驗:在總體的分布函式完全未知或只知其形式、但不知其引數的情況,為了推斷總體的某些未知特性,提出某些關於總體的假設。再根據樣本,對所提出的假設作出是接受,還是拒絕的決策。假設檢驗是作出這一決策的過程。
對兩者有無顯著性差異的判斷是在顯著性水平α之下作出的。顯著性水平α為滿足原假設時,發生不可能事件的概率的上限。如果樣本發生的概率小於顯著性水平α,證明小概率事件(不可能事件)發生了,樣本與假設的差異是顯著的,故拒絕原假設;否則,接受原假設。顯著性水平α即為拒絕原假設的標準。p值和sig值表示在原假設的條件下,樣本發生的概率,也是拒絕原假設的依據。
由於檢驗法則是根據樣本作出的,總有可能作出錯誤的決策。在原假設為真時,可能犯拒絕原假設的錯誤,稱這類「棄真」的錯誤為第一類錯誤;在原假設為不真時,有可能接受原假設,稱這類「取偽」的錯誤為第二類錯誤。
一般來說,我們總是控制第一類錯誤的概率,使它不大於顯著性水平α。α的大小視具體情況而定,通常取0.1,0.05,0.01,0.005 等值。只對第一類錯誤的概率加以控制,而不考慮第二類錯誤的概率的檢驗,稱為顯著性檢驗。區分雙邊假設檢驗和單邊假設檢驗。
無論是顯著性相關,還是顯著性差異,顯著性表示的意義為出現該情況的概率大於1-α。
z檢驗:單個總體,方差已知,關於均值的檢驗。
t檢驗:單個總體,方差未知,關於均值的檢驗;兩個總體,方差相同,關於均值差的檢驗;兩個總體,方差未知,配對出現,關於均值差的檢驗(配對t檢驗:配對求差值,構成單個總體)。
卡方檢驗:單個總體,均值未知,關於方差的檢驗。
f檢驗:兩個總體,均值未知,關於方差的檢驗。
t檢驗、f檢驗和統計學意義(p值或sig值)
1. t檢驗和f檢驗的由來
一般而言,為了確定從樣本(sample)統計結果推論至總體時所犯錯的概率,我們會利用統計學家所開發的一些統計方法,進行統計檢定。
通過把所得到的統計檢定值,與統計學家建立了一些隨機變數的概率分布(probability distribution)進行比較,我們可以知道在多少%的機會下會得到目前的結果。倘若經比較後發現,出現這結果的機率很少,亦即是說,是在機會很少、很罕有的情況下才出現;那我們便可以有信心的說,這不是巧合,是具有統計學上的意義的(用統計學的話講,就是能夠拒絕虛無假設null hypothesis,ho)。相反,若比較後發現,出現的機率很高,並不罕見;那我們便不能很有信心的直指這不是巧合,也許是巧合,也許不是,但我們沒能確定。
f值和t值就是這些統計檢定值,與它們相對應的概率分布,就是f分布和t分布。統計顯著性(sig)就是出現目前樣本這結果的機率。
2.統計學意義(p值或sig值)
19樓空間eo-{y"k8w%p~;u結果的統計學意義是結果真實程度(能夠代表總體)的一種估計方法。專業上,p值為結果可信程度的乙個遞減指標,p值越大,我們越不能認為樣本中變數的關聯是總體中各變數關聯的可靠指標。p值是將觀察結果認為有效即具有總體代表性的犯錯概率。如p=0.05提示樣本中變數關聯有5%的可能是由於偶然性造成的。即假設總體中任意變數間均無關聯,我們重複類似實驗,會發現約20個實驗中有乙個實驗,我們所研究的變數關聯將等於或強於我們的實驗結果。(這並不是說如果變數間存在關聯,我們可得到5%或95%次數的相同結果,當總體中的變數存在關聯,重複研究和發現關聯的可能性與設計的統計學效力有關。)在許多研究領域,0.05的p值通常被認為是可接受錯誤的邊界水平。
通常,原假設為無差別,若p值小於邊界水平(比如0.05),小概率事件發生了,推翻原假設,認為差別是顯著的。
所有的檢驗統計都是正態分佈的嗎
並不完全如此,但大多數檢驗都直接或間接與之有關,可以從正態分佈中推導出來,如t檢驗、f檢驗或卡方檢驗。這些檢驗一般都要求:所分析變數在總體中呈正態分佈,即滿足所謂的正態假設。許多觀察變數的確是呈正態分佈的,這也是正態分佈是現實世界的基本特徵的原因。當人們用在正態分佈基礎上建立的檢驗分析非正態分佈變數的資料時問題就產生了,(參閱非引數和方差分析的正態性檢驗)。這種條件下有兩種方法:一是用替代的非引數檢驗(即無分布性檢驗),但這種方法不方便,因為從它所提供的結論形式看,這種方法統計效率低下、不靈活。另一種方法是:當確定樣本量足夠大的情況下,通常還是可以使用基於正態分佈前提下的檢驗。後一種方法是基於乙個相當重要的原則產生的,該原則對正態方程基礎上的總體檢驗有極其重要的作用。即,隨著樣本量的增加,樣本分佈形狀趨於正態,即使所研究的變數分布並不呈正態。
統計學 置信區間
假設我們想直到1000個人的平均身高。但是對1000人分別進行身高測量太麻煩。所以我們選擇100人樣本進行估計。估計可以是點估計 估計確切身高數 也可以是區間估計 估計確切身高的範圍 區間估計更為科學,所以這裡我們選擇區間估計。要估計就要考慮估計的準確度,我們實現確定95 的估計準確度。95 準確度...
假設檢驗 顯著性水平 P值 置信區間
統計學有兩個推斷統計方法,乙個是引數估計,另乙個是假設檢驗。1 提出原假設 假設分為原假設h0和備選假設h1 2 選擇假設檢驗方法,計算檢驗統計量 3 判斷臨界值,得出結論 根據檢驗統計量或p值 一般情況下,當p值小於0.05則可以拒絕原假設 當我們做判斷的時候就會面臨著兩種假設檢驗的錯誤 這也可以...
統計學筆記1 置信區間
作為資料科學的重要基礎學科,我開始share統計學的學習筆記。單個正態總體,總體方差已知,均值的置信區間,基於中心極限定理 標準正態分佈,適用於樣本量大的情況 n 100 單個正態總體,總體方差未知,均值的置信區間,基於t分布,適用於樣本量較小的情況 bootstrap,通過數值模擬求置信區間 bo...