偏誤-變異數分解
逐參數theta,scalar estimator的MSE等於其variance加上bias平方。
mko-bias-variance-decomposition · theorem · v0.10.0
數學敘述
每個theta須給完整finite sampling law,主端分別直接計算mean、bias=E_theta[T]-theta、variance=E_theta[(T-E_theta[T])^2]與MSE=E_theta[(T-theta)^2]。展開T-theta=(T-E[T])+bias後,cross term以E[T-E[T]]=0消失,得到MSE=variance+bias^2。多theta逐law核對。unbiased只推出MSE=variance,不推出zero MSE或consistency;單一observed squared error不是MSE。
代表公式(精確 TeX)
M(T,t)=V(T,t)+B(T,t)^2
成立條件
- theta、support與probabilities皆為exact rationals,law完整且正規化。
- 本輪限scalar estimator與finite sampling law。
符號作用域
M— 均方誤差T— 純量估計量t— 目標參數V— 估計量變異數B— 估計量偏誤
直觀、定義與常見誤解
四個量由同一完整law獨立計算。
cross term消失需明示centering identity。
biased與unbiased界線不等於zero error。
把單一sample error當MSE,或把unbiased誤解成沒有變異。
已採用的推導導讀
展開cross term的bias-variance推導原始 MKO 保留;導讀有自己的追加式修訂與驗證界線,不代表新 Lean 證明。
前置知識
驗證界線
每個theta需獨立核對;不由有限表推出consistency或asymptotic optimality。
not_formalized
這不表示內容錯誤;只表示尚未登錄可重播的計算或形式證據。
下一個義務
加入有限模型風險與估計量比較。
同源結構化資料
本頁與互動版共用同一個物件與既有語言 edition;未新增證明或人工審定。
原始 MKO JSON · 純文字 Markdown