偏誤-變異數分解

本頁導覽
  1. 數學敘述
  2. 代表公式(精確 TeX)
  3. 成立條件
  4. 符號作用域
  5. 直觀、定義與常見誤解
  6. 已採用的推導導讀
  7. 前置知識
  8. 驗證界線
  9. 下一個義務
  10. 同源結構化資料

逐參數theta,scalar estimator的MSE等於其variance加上bias平方。

mko-bias-variance-decomposition · theorem · v0.10.0

數學敘述

每個theta須給完整finite sampling law,主端分別直接計算mean、bias=E_theta[T]-theta、variance=E_theta[(T-E_theta[T])^2]與MSE=E_theta[(T-theta)^2]。展開T-theta=(T-E[T])+bias後,cross term以E[T-E[T]]=0消失,得到MSE=variance+bias^2。多theta逐law核對。unbiased只推出MSE=variance,不推出zero MSE或consistency;單一observed squared error不是MSE。

代表公式(精確 TeX)

M(T,t)=V(T,t)+B(T,t)^2

成立條件

  • theta、support與probabilities皆為exact rationals,law完整且正規化。
  • 本輪限scalar estimator與finite sampling law。

符號作用域

  • M — 均方誤差
  • T — 純量估計量
  • t — 目標參數
  • V — 估計量變異數
  • B — 估計量偏誤

直觀、定義與常見誤解

四個量由同一完整law獨立計算。

cross term消失需明示centering identity。

biased與unbiased界線不等於zero error。

把單一sample error當MSE,或把unbiased誤解成沒有變異。

已採用的推導導讀

展開cross term的bias-variance推導

原始 MKO 保留;導讀有自己的追加式修訂與驗證界線,不代表新 Lean 證明。

前置知識

驗證界線

每個theta需獨立核對;不由有限表推出consistency或asymptotic optimality。

not_formalized

這不表示內容錯誤;只表示尚未登錄可重播的計算或形式證據。

下一個義務

加入有限模型風險與估計量比較。

同源結構化資料

本頁與互動版共用同一個物件與既有語言 edition;未新增證明或人工審定。

原始 MKO JSON · 純文字 Markdown