我试着简单的说. 我也只会简单的说, 因为我不是专门做贝式的. 那如果有错请指正我, 我很乐意讨论. 我从最前面说. 所谓做 Bayesian, 就是觉得那些 parameters 有他们的随机性 (是 random variables, 有 probabiliy distributions). 所以比如一个两层的 hierachical model, 假设 y 是 data, theta 是我们有兴趣的 parameter. y|theta~ f theta|tau~ g 我们知道 f 和 g 是什麽, 然後可以合并起来得到对 theta 的 inference. 所谓 empirical bayes, 就是它还是想考虑 parameters 的随机性. 但是我们不知道它的随机性到底是什麽. 也就是说, 我们不知道 g 是什麽. 这个时候, empirical bayes 的做法就是去 estimate g. 比如可以用 non-parametric 的方法去估计 empirical distribution of theta, 也就是 g 的 empirical estimate. 或是用 parametric 的方法, 假设 g=N(mu, sig2) 好了, 可以用 MLE 去估计 mu 和 sig2. 可是有些人就不高兴啦. 因为 empirical bayes 他们觉得根本不是 bayesian 好吗. 在估计 g 的那个阶段, 阿不就又用的是从前的 frequentist approach? 因为这样, 所以就出现了 bayes empirical bayes. Bayes empirical bayes 这个名字的意义, 就是 "用 standard bayesian 的方法, 来处理 empirical bayes 的问题". 而他们的做法就是, 比如在上面的例子, parametric 的情况下, 我们不知道 mu 和 sig2. 那不要用 MLE, 我们再把 mu 和 sig2 给 prior distributions. mu~h1 sig2~h2 所以这时候整个 hierachical model 变成了三层. 但是之所以变三层, 不是因为我们的 data 和我们有兴趣的问题有关三层. 其实有兴趣还是只有两层, 而第三层之所以存在是为了解决我们不知道第二层的 priors 的问题. 最主要的观念应该就是这样罗. 如果还有疑问欢迎继续讨论. ※ 引述《iwiki (.. )》之铭言： : 最近在看hierarchical Bayesian inference : 其中有提到这两种不算正统贝氏估计的差别， : 文章中有提一些差别，我也参考了相当多篇的paper，但还不算很懂 : 我知道这不是三言两语可以解释清楚，我想问板上有做贝氏统计的前辈 : 是否曾看过有比较清楚介绍这两个方法差别的文献，或是可以用直观一点的叙述 : 来解释....... : 还有.....蛮想知道会看这个版的人，大概都哪个年级的人...... : 应该有人看得懂我在问什麽吧.......... : 谢谢~~~~!!!! ※ 编辑: statbaby 来自: 68.109.19.47 (05/10 03:11)