作者sxskr1001 (sxskr)
站内Statistics
标题[问题] 正规条件其中一条的解释
时间Mon Sep 3 16:59:21 2012
在正规条件中其中一条看不懂,因为统计和数学薄弱无法正确翻译
问题网址如下
http://ppt.cc/kI1B
在第二页传统正规条件的第三条,
有问过人是说"可能"与MLE估出的边点所造成的问题有关,
可以问一下各位知道的大大帮忙解惑一下该正规条件到底目的为何?(证明什麽性质之类)
不需要证明过程(太数学会消受不了)
如有比较直觉的例子解说就更好了!
为答谢解答者,小弟愿把家产奉上(约三千,不过要教我怎麽转P币)
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 140.112.4.182
1F:→ yhliu:在推导/证明时需考虑 log-likelihood 在 θ0 之偏导数, 或 09/03 21:09
2F:→ yhliu:做 Taylor's expansion, 因此 θ0 必须是参数空间的一个 "内 09/03 21:10
3F:→ yhliu:点", 也就是说可以以 θ0 为中心构造一个 ball 或一个矩形体 09/03 21:11
4F:→ yhliu:整个包含於参数空间. 有时为了单纯化, 就规定参数空间是一个 09/03 21:13
5F:→ yhliu:open set. ("内点", "open set", "ball" 等名词的详细说明, 09/03 21:13
6F:→ yhliu:如初微找不到(通常是找不到), 请参考高微教本, 或网路搜寻. 09/03 21:15
已寄信询问相关细节,先谢谢这位热心的大大
※ 编辑: sxskr1001 来自: 140.112.4.182 (09/03 21:53)
7F:→ yhliu:你不该寄 email! 09/04 02:26
8F:→ yhliu:你 email 所问的, 和你这里问的没差别. 而上面已给了回答. 09/04 02:27
9F:→ yhliu:请回忆微积分中关於 "微分" 的东西. 在边界点并没有 "可微" 09/04 02:28
10F:→ yhliu:或 "微分" 的概念. 09/04 02:28
11F:→ yhliu:又: 我不需要你的 p 币. 以前或许 p 币还有一丁点用, 现在根 09/04 02:30
12F:→ yhliu:本是毫无用处的数字. 09/04 02:30
那是否可以将这个条件"简单的理解"为:
为了处理用微分法求MLE落在边点不可微的情况下,假设其参数空间为开放集合使之可微,
因为没有学过高微,数理和统计方面能力不足,误解大大的意思很抱歉!
不过还是非常谢谢大大您热心地回答!
※ 编辑: sxskr1001 来自: 140.112.4.182 (09/04 12:18)
13F:→ yhliu:并不是把参数空间 "假设" 为开集合就能使概似函数可微. 09/04 17:50
14F:→ yhliu:不是学没学过高微的问题, 初微就有的概念. 09/04 17:50
15F:→ yhliu:所谓 "假设" 并不是任意假设的, 那是指 "条件", 是定理、公 09/04 17:51
16F:→ yhliu:式要成立, f(x;θ) 及参数空间必须满足的条件. 09/04 17:52
谢谢这位大大您!受教了!
初微的确太久没碰让您见笑了,用词上很多不精准和观念的误解不好意思,
不过您方便的话还是想问,看了您的解释小弟的理解是,这是参数空间必须满足此条件,
才能使概似函数可微,但是这和您所说的估计值落在"边界点"的关系还是搞不太清楚,
若方便的话还想请您教导一下,您真的很热心,非常感谢!
※ 编辑: sxskr1001 来自: 114.24.30.14 (09/04 19:16)
17F:→ yhliu:为了便於理解, 假设是单参数分布族, 即 θ 是实数. 09/04 19:08
18F:→ yhliu:在讨论 MLE, likelihood ratio test 这些所谓 likelihood 09/04 19:09
19F:→ yhliu:based 的统计程序时, 或者需要 f(x;θ) 在 θ=θ0 可微分的 09/04 19:10
20F:→ yhliu:条件, 或者需要在每一点 θ 都可微分. 就前者而言, 当然需保 09/04 19:11
21F:→ yhliu:证 f(x;θ) 在 θ0 左右一个范围都有定义, 也就是对某 h>0, 09/04 19:11
22F:→ yhliu:(θ0-h,θ0+h) 都在参数空间之内. 就後者而言, 对每一个 θ, 09/04 19:12
23F:→ yhliu:都存在 h>0 使 (θ-h,θ+h) 都在参数空间 Θ 之内. 换言之, 09/04 19:13
24F:→ yhliu:就是说 Θ 必须是一个 open set. 09/04 19:14
虽然无法像大大您用这麽精准的语言表示和完全理解,
但是也让小弟对这个条件有一定的理解了,
十分谢谢您的帮助!
※ 编辑: sxskr1001 来自: 114.24.30.14 (09/04 19:26)
25F:→ yhliu:关键是 likelihood L(θ;x)=f(x;θ) 对 θ 要可微分, 而可微 09/04 19:49
26F:→ yhliu:分的先决条件是 f(x;θ) 在考虑微分的那一点周围都要有定义. 09/04 19:50
27F:→ yhliu:因此, 当然不考虑边界点, 甚至排除边界点. 所谓 Θ 是 open 09/04 19:52
28F:→ yhliu:就是说参数空间Θ不包含任一个边界点. 09/04 19:52
再次谢谢您用相对浅白的语言教学,让小弟对这问题有更深的认识,十分感激!!
※ 编辑: sxskr1001 来自: 114.24.30.14 (09/04 21:18)