- 說“方差是有偏估計量”是什麼意思。
- 通過一個簡單的公式將有偏估計值轉換為無偏估計值是什麼意思。這種轉換究竟能做什麼?
- 此外,此轉換的實際用途是什麼?使用某些統計信息時,您會轉換這些分數嗎?
您可以在此處找到所有內容。但是,這裡有一個簡短的答案。
讓$ \ mu $和$ \ sigma ^ 2 $為均值和利息方差;您希望根據大小為$ n $的樣本估算$ \ sigma ^ 2 $。
現在,假設您使用以下估算器:
$ S ^ 2 = \ frac {1} {n} \ sum_ {i = 1} ^ n(X_ {i}-\ bar {X})^ 2 $,
其中$ \ bar {X} = \ frac {1} {n} \ sum_ {i = 1} ^ n X_i $是$ \ mu $的估計量。
看到$ E [S ^ 2] = \ frac {n-1} {n} \ sigma ^ 2 $。
由於$ E [S ^ 2] \ neq \ sigma ^ 2 $,估算器$ S ^ 2 $為
但是,請注意,$ E [\ frac {n} {n-1} S ^ 2] = \ sigma ^ 2 $。因此,$ \ tilde {S} ^ 2 = \ frac {n} {n-1} S ^ 2 $是$ \ sigma ^ 2 $的無偏估計量。
腳註
首先編寫$(X_i-\ bar {X})^ 2 =((X_i-\ mu)+(\ mu- \ bar {X}))^ 2 $,然後展開產品...
編輯以考慮您的評論
期望值$ S ^ 2 $不會給出$ \ sigma ^ 2 $(因此$ S ^ 2 $是有偏差的),但事實證明您可以將$ S ^ 2 $轉換為$ \ tilde {S} ^ 2 $,以便得到期望值確實給出$ \ sigma ^ 2 $。
在實踐中,人們通常更喜歡使用$ \ tilde {S} ^ 2 $而不是$ S ^ 2 $。但是,如果$ n $足夠大,這並不是大問題,因為$ \ frac {n} {n-1} \約1 $。
備註無偏是估計量的屬性,而不是您所寫的期望。
此答复闡明了ocram的答案。 $ E [S ^ 2] \ neq \ sigma ^ 2 $的主要原因(和常見的誤解)是$ S ^ 2 $使用估計$ \ bar {X} $本身是根據數據估計的。
如果進行推導,您將看到此估計$ E [(\ bar {X}-\ mu)^ 2] $的方差恰好是額外的$-\ frac {\ sigma ^ 2} {n} $條款
@Ocram給出的解釋很棒。解釋一下他的話:如果我們僅用$ n $除以計算s ^ 2 $,(這很直觀),我們對s ^ 2 $的估計將被低估。為了補償,我們除以$ n-1 $。
這裡是一個練習:用2個結果組成一個離散概率,例如$ P(2)= .25 $和$ P(6)= .75 $。查找此分佈的$ \ mu $和$ \ sigma $。當$ n = 3 $時,為樣本均值計算$ \ mu $和$ \ sigma $。計算大小為$ n = 3 $的所有可能樣本。計算這些樣本的s ^ 2 $,並應用適當的頻率。
有時候,您必須弄髒手。
通常在分母中使用“ n”給出的值要小於我們要估計的總體方差。如果採集少量樣本,尤其會發生這種情況。用統計的語言來說,我們說樣本方差提供了總體方差的“有偏”估計,需要“無偏”。
該視頻將充分回答您問題的每個部分。 / p>