作者yayayoyi (阿骏)
看板Statistics
标题[问题] 残差标准差的自由度:n-2 ?
时间Fri Oct 24 20:18:29 2014
第一次po伤眼莫怪+请求协助 感激不尽
先假装€是summation 哈哈不会打
请问
残差标准差=√€(Yi-Yhat)平方/n-2
为何分母是n-2呢?
我知道在SSE,SSR,SST那个F表里面
简单回归k=2所以n-k就是n-2
但这让人感觉是从残差标准差=√MSE=√SSE/n-2来的
但如果只从 √€(Yi-Yhat)平方/n-2看
真的不懂为何是n-2
2是哪来的呢?
--
Sent from my Android
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 27.241.9.252
※ 文章网址: http://webptt.com/cn.aspx?n=bbs/Statistics/M.1414153112.A.B83.html
※ 编辑: yayayoyi (27.241.9.252), 10/24/2014 20:20:36
1F：推 folksuite: 话若欲讲透基，目屎道掰未离...10/24 20:53
2F：→ folksuite: 商科说法：因为有简单回归有两个母数要估计，所以-2...10/24 20:55
我知道简单回归有两个母数也就是“SSR”和“SSE”，但直接从残差看就看不出母数是哪
两个，让我一直很茫然～
3F：推 kerwinhui: r_i=y_i-yhat_i, Cov(r)=Cov(y-Py)=(I-P)cov(y)(I-P)10/25 00:45
4F：→ kerwinhui: P=X(X^TX)^{-1}X^T, X=(1 x_i) (nx2矩阵)10/25 00:48
5F：→ kerwinhui: Cov(y)=sigma^2 I，所以 var(r_i)=sigma^2 (1-P_ii)10/25 00:49
6F：推 goshfju: 回归分析的书有吧~10/25 00:58
我会再去查查看，谢啦<3
7F：→ kerwinhui: sum P_ii=tr P=tr X^TX(X^TX)^{-1}=tr I_2=2，所以得证10/25 00:59
kerwinhui大，感谢您精辟的证明但，小的看不是很懂耶，您的 _、r、ii、P、tr. 代表
的是什麽呢？
抱歉小的只修过3学分生物统计，基础尚浅，谢谢大家教导如果真是我太烂了我会去翻翻
书的><
8F：→ goshfju: Syy = b1^2*Sxx + Σei^210/25 01:00
请问Syy. Sxx. 各代表什麽呢？所以 Syy. Sxx.就是ei的两个母数吗？
感觉我好愚昧…请教教我plz
※ 编辑: yayayoyi (110.27.12.197), 10/25/2014 11:38:53
9F：→ yhliu: 简单直线回归的残差 e(i), i=1,...,n, 满足两个条件:10/25 18:20
10F：→ yhliu: (1) Σe(i) = 0, (2) Σe(i)x(i) = 0. 事实上这两个条件也 10/25 18:21
11F：→ yhliu: 就是最小平方法的两个 "标准方程式" (或译 "法线方程式").10/25 18:22
12F：→ yhliu: 因此, n 个残差自由度只有 n-2. 10/25 18:23
13F：→ yhliu: 如果是复回归, 残差自由度更少. 10/25 18:23
嗯嗯知道最小平方法的两个标准方程式，那所以对ei来说，他所估计(或说满足?)的两个
母数，就是两个标准方程式，是这样解释的吗?
感觉一知半解呀!
※ 编辑: yayayoyi (111.251.116.170), 10/25/2014 20:20:13
14F：→ yhliu: 估计的参数是常数项及回归系数. 10/27 12:46
15F：→ yhliu: 事实上 "自由度" 的减项是缘於有几个限制式而非参数个数; 10/27 12:46
16F：→ yhliu: 只是刚好是要估计几个参数就需要几个方程式, 从而引发几个10/27 12:47
17F：→ yhliu: 限制式, 所以在例如卡方配适度检定时以需要估计几个参数决 10/27 12:49
18F：→ yhliu: 定自由度的减项. 10/27 12:49
原来是这样啊！
感激不尽 <3
※ 编辑: yayayoyi (110.27.139.244), 10/28/2014 18:22:43