※ 引述《taioceans (海洋)》之铭言： > 这是什麽阿 > 我不太懂这个名词，请教大家这到底是什麽？ 就 K-L information number 啊! 请查网路或机率概论或数统教本, "entropy" 关键字. 或查专门谈 information theory 的书. > Let f and g be two probablity density functions. > The Kullback-Leibler information number is defined as > f(X) f(x) > K(f,g)=E[㏒---------]=∫㏒-------f(x)dx > g(X) g(x) > 而且我该如何知道K(f,g)≧0？ 利用 Jensen's inequality. 因 -log(x) 是 convex, 故 E[-log(g(X)/f(X)] ≧ - log{E[g(X)/f(X)]} = 0. -- 嗨!  你好! 祝事事如意, 天天 happy! 统计专业版, 需要你的支持! :) 无名小站 telnet://wretch.twbbs.org Statistics (统计方法讨论区) 盈月与繁星 telnet://ms.twbbs.org Statistics (统计：让数字说话) 成大计中站 telnet://bbs.ncku.edu.tw Statistics (统计方法及学理讨论区) 交大资讯次世代 telnet://bs2.twbbs.org Statistics (统计与机率) ★本文未经本人同意请勿转载; 回覆请勿全文引用, 请仅留下直接涉及部分。 -- 夫兵者不祥之器物或恶之故有道者不处君子居则贵左用兵则贵右兵者不祥之器非君子 之器不得已而用之恬淡为上胜而不美而美之者是乐杀人夫乐杀人者则不可得志於天下 矣吉事尚左凶事尚右偏将军居左上将军居右言以丧礼处之杀人之众以哀悲泣之战胜以 丧礼处之道常无名朴虽小天下莫能臣侯王若能守之万物将自宾天地相合以降甘露民莫 之令而自均始制有名名亦既有夫亦将知止知止可以不殆譬道之在天 163.15.188.87海