看板Statistics
标 题Re: [问题] 回归的基本假设
发信站无名小站 (Sun Oct 7 09:45:06 2007)
转信站ptt!Group.NCTU!grouppost!Group.NCTU!wretch
※ 引述《[email protected] (为什麽 )》之铭言:
> 在一般线性模型中
> y=b0+b1X+e_i
> 而我们对於误差项(e_i)都会有一些基本假设
> 也就是
> 1.常数变异
> 2.期望值为0
> 3.彼此之间独立
> 4.分配为常态分配
> 我的问题是,为什麽我们需要这些假设呢?假如没有这些假设会怎麽样?
> 以下是我的想法,不知道对不对
> 想要在这边请教大家。
> 1.常数变异
> 在我们使用最小平方法估计回归线时,对於某些给定的x值,y的变异可能会非常大。
> 为了要控制此种状况,我们必须要作加权(weight)的动作,对於变异大的加权少一些
> 而变异小的加权多一些,但是这些动作都会增加模型估计上的复杂度,为了让模型估计
> 不要那麽复杂,我们通常都会假设误差项是常数变异的,也就是说观察点会合理的在回归
> 线附近一定的宽度内。
(1) 若误差项有 "无相关" 加上 "变异数一致" 条件, 那
麽, 对於误差项我们只需估计那共同变异数. 这样推
导回归系数的估计量, 例如最小平方法或动差法, 比
较简单.
(2) 若误差项的上述假设不符, 仍然可以用普通最小平方
法估计回归系数, 但至少有两个问题:
a) 这不是最好的估计: 不太贪心, 最小平方法希望在
回归系数的所有 "线性估计量" 中其结果是最好的;
但若上列假设不满足, 用普通最小平方法得到的就
不是最好的.
b) 更严重的是: 我们对误差的评估会错误, 对回归系
数更不能正确估计其误差.
(3) 如果误差项变异数不一致, 甚至误差项间有相关, 必
须看究竟不一致或相关的型式而决定修正最小平方法,
如加权最小平方法, 一般化最小平方法, 或反覆重加
权等方式.
(以上 2005 的回答文字)
> 假如缺乏这个假设,在每个给定的\,$x$\,值之下,我们可能都要估计一个变异数,这样
> 子所估计出来的模型可能既复杂又不准,在进行回归分析时将会非常困难。
误差项变异数不一致不表示误差项变异数一定随 x 而变.
在相同 x 值的两个 Y 的变异数可以不同.
> 2.期望值为0
> 会有这个假设的原因是因为我们希望没有误差,在重复进行测量并进行估计时,所得到
> 的点都会非常的接近回归线。
"没有误差" 是误植吧? 应是 "没有偏误".
事实上, 若不假设 E[e_i]=0, 模型还有意义吗?
> 3.彼此之间独立
> 是为了避免资料之间彼此是互相影响的。ex:时间序列
"假设" 是对未确知之事实的假设,不可能用假设去限定事
实. 因此 "为了避免资料之间彼此是互相影响的" 说不通.
如所举时间数列为例,难道能 "为了..." 而 "限定" 各期
资料相互独立?
> 4.分配为常态分配
> 为了要求信赖区间
为了做统计推论 (不只 "求信赖区间"), 必须知道统计量
的分布. 因此需先知道资料的分布. 常态性假设是最好处
理, 而且在许多情况 (但非所有情况) 是合理的假设.
> 想请问各位,不知道我的想法是否有错误的地方。
> 感谢
--
夫兵者不祥之器物或恶之故有道者不处君子居则贵左用兵则贵右兵者不祥之器非君子
之器不得已而用之恬淡为上胜而不美而美之者是乐杀人夫乐杀人者则不可得志於天下
矣吉事尚左凶事尚右偏将军居左上将军居右言以丧礼处之杀人之众以哀悲泣之战胜以
丧礼处之道常无名朴虽小天下莫能臣侯王若能守之万物将自宾天地相合以降甘露民莫
之令而自均始制有名名亦既有夫亦将知止知止可以不殆譬道之在天 163.15.188.87海