看板Statistics
标 题[请益] 对於统计量与充份性的整理
发信站无名小站 (Tue Aug 8 02:08:23 2006)
转信站ptt!Group.NCTU!grouppost!Group.NCTU!wretch
稍微整理上一篇的东西并加了一些充份性的东西
因为是自修所以想了解一下观念是否正确或者有其他要加强的地方
希望大家指正或补充
首先我们先假设资料集是一组来自机率空间中的未知母体P,
记做X(随机向量)
T(X)为X的可测函数,称之为统计量,
当X的值已知则就可以知道T(X)的值,
也就是说T为一个已知的函数,
统计分析是对於不同的目的建立不同的统计量,
显而易见的X本身就是一个统计量,
而统计量T(X)的值域通常比X的值域简单,
举例来说,X为一个n维的随机向量,T(X)可能为一p维的随机向量,且p<n
这是因为希望透过T(X)来简化原始资料.
这只是一个例子, 一般而言统计量并不一定有维度浓缩的现象.
虽然,确实我们希望能尽量浓缩.
从机率的观点来看,
在T(X)中关於X的未知分布的"资讯"被包含在σ(T(X))中.
为了了解这点,
假设S为其他的统计量,且σ(S(X))=σ(T(X)),
由上述假设可证明出S为T的可测函数,而T也为S的可测函数.
也就是在 σ(S(X))=σ(T(X)),
统计量 S 与 T 是等价的 (equivalent).
当已知S或T任一个统计量的值,则另一个的值就可以知道.
因此,包含群体讯息的是统计量决定的 σ-field 而非统计量的值;
但统计量的值在其他理由上可能是重要的(如点估计).
也就是说: 如果目的在分辨群体特性 (如检定、辨别、分类),
所需耍的不是统计量的值,而是它所决定的σ-field.
例如在群体标准差已知情况下, 做常态群体平均数检定,
X-bar, Z 与 p-value 都是一样的
回过来看, 注意到σ(T(X))被包含於σ(X),
且σ(T(X))=σ(X) 若且为若 T为1-1.
统计分析的开始是
从样本空间中收集来自机率空间中未知母体P的一组随机观测值X,
通常可以证明资料的某一部分对於未知分布是不带有资讯的,
因为X可以藉由某个统计量T(X)所取代而不会失去资讯
首先我们定义什麽是充份统计量:
假设X为来自分布族P={P_θ:θ属於Θ}中的某个分布,
统计量T(X)称之为θ或P的充份统计量,
若且为若X给定T=t的条件分布与θ或P无关.
T(X)是θ的充份统计量可视为:
"在某种意义下T(X)包括了X所含有关θ的全部讯息"
以下则明确地说明上述这件事,
假设研究者执行一随机实验的到资料X,
但研究者却只报告了T(X)的结果而把原始资料X丢掉了.
研究者可以透过随机生成的方式,
产生一组观测值X'(在T(X)=t给定的情况之下)其分布於X给定t的分布相同
可以证明对所有的A, P_θ(X'属於A)=P_θ(X属於A),
也就是说只需要透过T的了解,
经由这样的方式所得到的X'和X具有相同的分布,
并且所包括对於θ的讯息也相同.
因此在这样的意义下T(X)包括了X所含有关θ的全部讯息.
在建构X'中,我们需要透过一个独立的(与θ无关)的随机生成的方式产生,
因此一个决策δ(X')不仅与T有关也与随机生成的方式有关.
所以可以知道δ(X')并非一个非随机的决策规则,而是随机决策规则.
对於任何建立在X上的决策规则,
是可以建构一个建立在X'上的决策规则(为一随机决策规则仅与T有关),
且两个决策规则的风险是一样的(对於所有的θ属於Θ下).
因此倘若随机决策规则是可接受的,
则可不失一般性的限制考虑在充分统计量上.
有以下定理:
假设决策空间Α是R^k的子集. 令T(X)为θ的充份统计量,
且δ0(x,·)为任意的随机决策规则, R(θ,δ0)<∞(对於所有的θ属於Θ下).
则δ1(t,A)=E[δ0(x,·)(X,A)|T=t],
为一个仅於T(x)有关的随机决策规则,
且δ0与δ1两个决策规则的风险是一样的(对於所有的θ属於Θ下).
注意到上述定理并没有说到δ0是indmissible.
并且若δ0为一非随机决策规则,
则δ1(t,A)=E[I_A(δ0(X))|T=t]=P(δ0(X)属於 A|T=t),A属於Α,
仍为一个随机决策规则
但必须排除一种情况就是当δ0(X)=h(T(X)) a.s. (h为一Borel函数).
因为上述定理并不能应用在随机决策规则是不可接受的.
在Rao-Blackwell定理中则说明了,当非随机决策规则为所有我们所需的,
且若决策规则非充份统计量的函数则为indimissible.
--
夫兵者不祥之器物或恶之故有道者不处君子居则贵左用兵则贵右兵者不祥之器非君子
之器不得已而用之恬淡为上胜而不美而美之者是乐杀人夫乐杀人者则不可得志於天下
矣吉事尚左凶事尚右偏将军居左上将军居右言以丧礼处之杀人之众以哀悲泣之战胜以
丧礼处之道常无名朴虽小天下莫能臣侯王若能守之万物将自宾天地相合以降甘露民莫
之令而自均始制有名名亦既有夫亦将知止知 220-133-64-250.HINET-IP.hinet.net海
clairehsupo:因(此)X可以藉由某个统计量T(X)所取代而不会失去资讯08/08 02:08