Bayesian无信息先验分布（non - informative prior）

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

高手们，有个问题想请教：对于无信息先验分布（non - informative prior）是怎么定义的？我看了一些材料，多处都是按照以下方式定义的。但是对于无信息先验分布，方差不是应该足够大吗（In case of non-informative priors, the variances should have been specified as very large or instead uniform distributions covering the entire range of plausible values should have been used. ）？能否帮我解释下？Thanks.model
{
  for (i in 1:N)
   {   
      pred<-a*pow(d,b)
   
     h~dnorm(pred,prec)
  }
  # Priors
  a   ~ dnorm(0,1.0E-6)  # Is non-informative prior for a?
  b   ~ dnorm(0,1.0E-6)
  prec~dgamma(0.001,0.001)

}

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏1 回帖

关键词：Formative informat Bayesian informa inform 信息 specified instead entire

当无先验分布时一般有两种选取方法，一是同等无知即我们参数去所有值得可能性相同，故采用均匀分布作为先验分布，二是共轭先验分布，即选取的先验分布使先验分布与后验分布有相同的形式，这个lz可以看看共轭分布族。
希望对你有用。

谢谢楼上的回答。我现在想知道我例子中的是不是也属于无信息先验分布。对于方差大的问题该怎么解释？

你的例子有点奇怪吧， variance都这么小，怎么会是non-informative呢？
variance越大，就意味着你的分布分散的越广，所以，你能确定的关于随机变量的信息就越少。variance越小，分布越集中，就越有助于判断变量的位置。这就是information。
比如你算一个confidence interval，同样的probability或置信度下，variance越大，得到的CI就越宽，即要确定变量的具体位置就越难。
所以，non-informative prior应该用variance很大的分布，例子里面的normal应改为s.d.=1e6吧，gamma也应该改为shape=1000吧，第二个参数不知道你是用的rate还是scale，rate和scale是互为倒数的。如果rate=0.001倒是很好，scale的话，也该为1000。好像大部分统计教材都用scale，不过R的默认是把rate放在前面的。

IntheRed 发表于 2013-4-8 10:15
你的例子有点奇怪吧， variance都这么小，怎么会是non-informative呢？
variance越大，就意味着你的分布分 ...

谢谢你的回答。那我是否可以用均匀分布来表示无信息先验分布？

bridog 发表于 2013-4-8 11:21
谢谢你的回答。那我是否可以用均匀分布来表示无信息先验分布？

uniform可以啊，不过是有限制的。比如你的support是(-inf,inf), 或者[0,inf), 用uniform的话，你没有办法写出pdf的表达式。你可以就假定用常数1做概率密度，但是这样全概率积分为inf。这是一个improper distribution。用来做理论分析，可以的。做simulation，有时候会有问题的。
所以用normal和gamma这样的分布，只要variance很大，是一样的。
Bayesian analysis如果结论对于prior依赖性很大，或者对prior变化很敏感，说明有问题。所以，理想的情况下，prior的具体函数形式选择不应该有多大影响。

IntheRed 发表于 2013-4-8 11:32
uniform可以啊，不过是有限制的。比如你的support是(-inf,inf), 或者[0,inf), 用uniform的话，你没有办法 ...

明白了！非常感谢啊！还有一个关于DIC的问题。我用Winbugs14软件计算的时候，在Inference菜单下，DIC按钮式灰白的，不能点击，没法输出DIC值，请问是什么原因呢？谢谢！

bridog 发表于 2013-4-8 11:38
明白了！非常感谢啊！还有一个关于DIC的问题。我用Winbugs14软件计算的时候，在Inference菜单下，DIC按钮 ...

BUGS只用过一点，不太清楚WINBugs的问题。不过，DIC是有公式可以自己算的吧。
有simulation的posterior sample，自己算deviance的posterior mean D.bar 和 deviance 在参数的posterior mean的函数值D(theta.bar)，然后不就可以算DIC了吗？

IntheRed 发表于 2013-4-8 11:32
uniform可以啊，不过是有限制的。比如你的support是(-inf,inf), 或者[0,inf), 用uniform的话，你没有办法 ...

你好!我用正态分布和均匀分布作为先验信息分布时，结果差别挺大的，说明什么问题呢？

嗯，BUGS里面用uniform在(-inf,inf)应该要避免吧。。。试一下其他的正常分布，variance很大，和normal的结果比较一下。