作者iinlovekimo (iinlovekimo)
看板Statistics
標題Re: [問題] 用最大概似法證明
時間Wed May 24 14:41:10 2006
※ 引述《davidlhs (小信)》之銘言：
: ※ 引述《ysean (天佑 )》之銘言：
: : 已知Y=βX+εi i=1,2,3,...,n
: : 試最大概似法
: : 證明
: : β的估計量不偏
: : 希望各位大大看的懂我的意思
: : 謝謝各位大大
: : Hint:Y為具有expect value BiXi 且具有alpha^2的常態分配
: Y=βX+εi, E(Y)=βX, 且V(Y)=α^2 (你確定是α, 不是σ? 當然啦, 那只是個代號...)
: 令γ=α^2, 則Y~N(βX,α^2), YN(βX,γ)
: 1 - (Y-βX)^2
: 其p.d.f. ──── exp{ ─────── }
: √(2πγ) 2γ
: 1 - (Y-βX)^2
: 概似函數L(β,γ)=Π ───── exp{ ─────── }
: √(2πγ) 2γ
: - Σ(Y-βX)^2
: = [ (2πγ)^(-n/2) ] * exp{ ──────── }
: 2γ
: n 1
: 則 ln L(β,γ) = - ── ln (2πγ) - ── Σ(Y-βX)^2
: 2 2γ
: 對參數 β 與 γ 偏微分, 並令其結果為0, 則: (本題沒有截距項)
: 2
: - ── Σ [ -X (Y-βX) ] = 0
: 2γ
: n*2π 1
: - ───── + ─── Σ(Y-βX)^2
: 2*2πγ 2γ^2
: ^ ΣXY
: ΣXY=Σβ X^2 → β = ────
: ΣX^2
: ^ ΣX (βX+εi) β ΣX^2
: E(β) =E [ ─────── ] = E [ ───── ] =β
: ΣX^2 ΣX^2
出題者可能要再說明一下是否誤差項有符合常態分佈
如果沒有常態分佈是不可以利用MLE找估計量
所以請利用最小平方法找估計量
但利用最小平方法所找出來的估計量會剛好與MLE相同
Let Q=Σ(Yi-βXi)^2
dQ
─ = -2Σ(Yi-βXi)Xi
dβ
dQ
─ = 0
dβ
-2Σ(Yi-βXi)Xi=0
Σ(Yi-βXi)Xi=0
ΣXiYi
→ b = ─────
ΣXi^2
ΣXi (βXi+εi) (β ΣXi^2)+(ΣXiεi)
E(b) =E [ ──────── ] = E [ ─────────── ] =β
ΣXi^2 ΣXi^2
where E(εi)=0
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 140.120.6.209