作者iinlovekimo (iinlovekimo)
看板Statistics
标题Re: [问题] 用最大概似法证明
时间Wed May 24 14:41:10 2006
※ 引述《davidlhs (小信)》之铭言：
: ※ 引述《ysean (天佑 )》之铭言：
: : 已知Y=βX+εi i=1,2,3,...,n
: : 试最大概似法
: : 证明
: : β的估计量不偏
: : 希望各位大大看的懂我的意思
: : 谢谢各位大大
: : Hint:Y为具有expect value BiXi 且具有alpha^2的常态分配
: Y=βX+εi, E(Y)=βX, 且V(Y)=α^2 (你确定是α, 不是σ? 当然啦, 那只是个代号...)
: 令γ=α^2, 则Y~N(βX,α^2), YN(βX,γ)
: 1 - (Y-βX)^2
: 其p.d.f. ──── exp{ ─────── }
: √(2πγ) 2γ
: 1 - (Y-βX)^2
: 概似函数L(β,γ)=Π ───── exp{ ─────── }
: √(2πγ) 2γ
: - Σ(Y-βX)^2
: = [ (2πγ)^(-n/2) ] * exp{ ──────── }
: 2γ
: n 1
: 则 ln L(β,γ) = - ── ln (2πγ) - ── Σ(Y-βX)^2
: 2 2γ
: 对参数 β 与 γ 偏微分, 并令其结果为0, 则: (本题没有截距项)
: 2
: - ── Σ [ -X (Y-βX) ] = 0
: 2γ
: n*2π 1
: - ───── + ─── Σ(Y-βX)^2
: 2*2πγ 2γ^2
: ^ ΣXY
: ΣXY=Σβ X^2 → β = ────
: ΣX^2
: ^ ΣX (βX+εi) β ΣX^2
: E(β) =E [ ─────── ] = E [ ───── ] =β
: ΣX^2 ΣX^2
出题者可能要再说明一下是否误差项有符合常态分布
如果没有常态分布是不可以利用MLE找估计量
所以请利用最小平方法找估计量
但利用最小平方法所找出来的估计量会刚好与MLE相同
Let Q=Σ(Yi-βXi)^2
dQ
─ = -2Σ(Yi-βXi)Xi
dβ
dQ
─ = 0
dβ
-2Σ(Yi-βXi)Xi=0
Σ(Yi-βXi)Xi=0
ΣXiYi
→ b = ─────
ΣXi^2
ΣXi (βXi+εi) (β ΣXi^2)+(ΣXiεi)
E(b) =E [ ──────── ] = E [ ─────────── ] =β
ΣXi^2 ΣXi^2
where E(εi)=0
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 140.120.6.209