作者sxskr1001 (sxskr)
站內Statistics
標題[問題] 正規條件其中一條的解釋
時間Mon Sep 3 16:59:21 2012
在正規條件中其中一條看不懂,因為統計和數學薄弱無法正確翻譯
問題網址如下
http://ppt.cc/kI1B
在第二頁傳統正規條件的第三條,
有問過人是說"可能"與MLE估出的邊點所造成的問題有關,
可以問一下各位知道的大大幫忙解惑一下該正規條件到底目的為何?(證明什麼性質之類)
不需要證明過程(太數學會消受不了)
如有比較直覺的例子解說就更好了!
為答謝解答者,小弟願把家產奉上(約三千,不過要教我怎麼轉P幣)
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 140.112.4.182
1F：→ yhliu:在推導/證明時需考慮 log-likelihood 在 θ0 之偏導數, 或 09/03 21:09
2F：→ yhliu:做 Taylor's expansion, 因此 θ0 必須是參數空間的一個 "內 09/03 21:10
3F：→ yhliu:點", 也就是說可以以 θ0 為中心構造一個 ball 或一個矩形體 09/03 21:11
4F：→ yhliu:整個包含於參數空間. 有時為了單純化, 就規定參數空間是一個 09/03 21:13
5F：→ yhliu:open set. ("內點", "open set", "ball" 等名詞的詳細說明, 09/03 21:13
6F：→ yhliu:如初微找不到(通常是找不到), 請參考高微教本, 或網路搜尋. 09/03 21:15
已寄信詢問相關細節,先謝謝這位熱心的大大
※ 編輯: sxskr1001 來自: 140.112.4.182 (09/03 21:53)
7F：→ yhliu:你不該寄 email! 09/04 02:26
8F：→ yhliu:你 email 所問的, 和你這裡問的沒差別. 而上面已給了回答. 09/04 02:27
9F：→ yhliu:請回憶微積分中關於 "微分" 的東西. 在邊界點並沒有 "可微" 09/04 02:28
10F：→ yhliu:或 "微分" 的概念. 09/04 02:28
11F：→ yhliu:又: 我不需要你的 p 幣. 以前或許 p 幣還有一丁點用, 現在根 09/04 02:30
12F：→ yhliu:本是毫無用處的數字. 09/04 02:30
那是否可以將這個條件"簡單的理解"為:
為了處理用微分法求MLE落在邊點不可微的情況下,假設其參數空間為開放集合使之可微,
因為沒有學過高微,數理和統計方面能力不足,誤解大大的意思很抱歉!
不過還是非常謝謝大大您熱心地回答!
※ 編輯: sxskr1001 來自: 140.112.4.182 (09/04 12:18)
13F：→ yhliu:並不是把參數空間 "假設" 為開集合就能使概似函數可微. 09/04 17:50
14F：→ yhliu:不是學沒學過高微的問題, 初微就有的概念. 09/04 17:50
15F：→ yhliu:所謂 "假設" 並不是任意假設的, 那是指 "條件", 是定理、公 09/04 17:51
16F：→ yhliu:式要成立, f(x;θ) 及參數空間必須滿足的條件. 09/04 17:52
謝謝這位大大您!受教了!
初微的確太久沒碰讓您見笑了,用詞上很多不精準和觀念的誤解不好意思,
不過您方便的話還是想問,看了您的解釋小弟的理解是,這是參數空間必須滿足此條件,
才能使概似函數可微,但是這和您所說的估計值落在"邊界點"的關係還是搞不太清楚,
若方便的話還想請您教導一下,您真的很熱心,非常感謝!
※ 編輯: sxskr1001 來自: 114.24.30.14 (09/04 19:16)
17F：→ yhliu:為了便於理解, 假設是單參數分布族, 即 θ 是實數. 09/04 19:08
18F：→ yhliu:在討論 MLE, likelihood ratio test 這些所謂 likelihood 09/04 19:09
19F：→ yhliu:based 的統計程序時, 或者需要 f(x;θ) 在 θ=θ0 可微分的 09/04 19:10
20F：→ yhliu:條件, 或者需要在每一點 θ 都可微分. 就前者而言, 當然需保 09/04 19:11
21F：→ yhliu:證 f(x;θ) 在 θ0 左右一個範圍都有定義, 也就是對某 h>0, 09/04 19:11
22F：→ yhliu:(θ0-h,θ0+h) 都在參數空間之內. 就後者而言, 對每一個 θ, 09/04 19:12
23F：→ yhliu:都存在 h>0 使 (θ-h,θ+h) 都在參數空間 Θ 之內. 換言之, 09/04 19:13
24F：→ yhliu:就是說 Θ 必須是一個 open set. 09/04 19:14
雖然無法像大大您用這麼精準的語言表示和完全理解,
但是也讓小弟對這個條件有一定的理解了,
十分謝謝您的幫助!
※ 編輯: sxskr1001 來自: 114.24.30.14 (09/04 19:26)
25F：→ yhliu:關鍵是 likelihood L(θ;x)=f(x;θ) 對 θ 要可微分, 而可微 09/04 19:49
26F：→ yhliu:分的先決條件是 f(x;θ) 在考慮微分的那一點周圍都要有定義. 09/04 19:50
27F：→ yhliu:因此, 當然不考慮邊界點, 甚至排除邊界點. 所謂 Θ 是 open 09/04 19:52
28F：→ yhliu:就是說參數空間Θ不包含任一個邊界點. 09/04 19:52
再次謝謝您用相對淺白的語言教學,讓小弟對這問題有更深的認識,十分感激!!
※ 編輯: sxskr1001 來自: 114.24.30.14 (09/04 21:18)