作者piyu (毓)
看板Statistics
标题[问题] E(SSE) 过程推导
时间Sat Nov 21 00:21:13 2009
iid
Y=b0+b1X1+....+b_(k-1)X_(k-1)+ε ,ε ~ N(0,σ^2)
indep
Yi ~ N(μi ,σ^2)
Y：由k-1个解释变数组成的复回归
E(SSE)=E(Σ（Y_i-Y_i(hat)）^2)
=ΣE[（Y_i-μ_i）-（Y_i(hat)-E（Y_i(hat)））+（μ_i-E（Y_i(hat)））]^2
?
=ΣE（Y_i-μ_i）^2 -ΣE（Y_i(hat)-E（Y_i(hat)））^2
+Σ（μ_i-E（Y_i(hat)）^2
请问这个等号怎麽来的？
将第二个等号中间展开後，我只能推出下列式子
ΣE（Y_i-μ_i）^2 +ΣE（Y_i(hat)-E（Y_i(hat)））^2 +Σ（μ_i-E（Y_i(hat)）^2
-2ΣE（Y_i-μ_i）（Y_i(hat)-E（Y_i(hat)））
+2ΣE（Y_i-μ_i）（μ_i-E（Y_i(hat)）
~~~~~~~~~~~~~~~~~~~~~~~~~
||
0
-2ΣE（Y_i(hat)-E（Y_i(hat)））（μ_i-E（Y_i(hat)）
~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
||
0
从结果来看 应该是
E（Y_i-μ_i）（Y_i(hat)-E（Y_i(hat)）） = E（Y_i(hat)-E（Y_i(hat)））^2
所以得到一开始第三个等号的式子，请问这是怎麽来的呀？
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 118.165.177.145
1F：推 selient:怎会这麽复杂？这在算什麽 11/21 01:09
2F：→ Angesi:我记得这应该是个美好的结果才对 11/21 01:11
3F：→ yhliu:哪来 μ? E[Y_i] = E[Y_i(hat)] = μ_i 11/21 07:38
4F：→ yhliu:用矩阵才好做. 11/21 07:38
5F：→ yhliu:Σ(y_i-μ_i)(y_i(hat)-μ_i) = 11/21 07:42
6F：→ yhliu: Σ(y_i-y_i(hat))(y_i(hat)-μ_i) + Σ(y_i(hat)-μ_i)^2 11/21 07:43
7F：→ yhliu:第一项期望值是 0. 11/21 07:44
8F：→ yhliu:因此 E[SSE] = E[Σ(y_i-μ_i)^2] - E[Σ(y_i(hat)-μ_i)^2] 11/21 07:46
※ 编辑: piyu 来自: 118.165.171.111 (11/21 10:33)
9F：→ piyu:我需要利用这个式子来证Mallow's Cp 所以看起来很复杂..>"< 11/21 10:35
10F：→ piyu:谢谢y大的解释 11/21 10:36
11F：→ yhliu:更正: 既然是 Cp 的问题, model 不一定正确, E[y_i(hat)] 不 11/21 21:31
12F：→ yhliu:一定等於 μ_i, 也就是 Σ(y_i-y_i(hat))(y_i(hat)-μ_i) 的 11/21 21:33
13F：→ yhliu:期望值不一定是 0, 而是 -Σ(μ_i-E[y_i(hat)])μ_i 11/21 21:34
14F：→ yhliu:你的最後一式 E（Y_i-μ_i）（Y_i(hat)-E（Y_i(hat)））= 11/21 21:41
15F：→ yhliu:E[(Y_i-Y_i(hat)+Y_i(hat)-E[Y_i(hat)]+E[Y_i(hat)]-μ_i)* 11/21 21:44
16F：→ yhliu: (Y_i(hat)-E[Y_i(hat)])] 11/21 21:45
17F：→ yhliu:分三项, E[(E[Y_i(hat)]-μ_i)*(Y_i(hat)-E[Y_i(hat)])] 显 11/21 21:47
18F：→ yhliu:然是 0.....sorry! 上面都漏了总和号! 11/21 21:48
19F：→ yhliu:Σ(y_i-y_i(hat))y_i(hat)=0. 故第一项 11/21 21:49
20F：→ yhliu:E[Σ(Y_i-Y_i(hat))(Y_i(hat)-E[Y_i(hat)]) = 11/21 21:54
21F：→ yhliu: - E[Σ(Y_i-Y_i(hat))E[Y_i(hat)] 也应易得证为 0 11/21 21:56
22F：→ yhliu:方法如证 Σ(y_i-y_i(hat))y_i(hat)=0, 都来自 normal eqs. 11/21 21:57
23F：→ piyu:谢谢y大解释 总算完全懂了 ^^ 11/22 13:14