请问OLS 和MCMC的适用场合

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

如题，我看了一些文献中提供了一些实证数据，如几个月的交易数据，然后建模，用MCMC来估计参数，问题是OLS好像可以直接就估计出来了，为啥还要要用MCMC产生那么多的数据呢?本人初学，请各位大侠赐教，不胜感激！！

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏1 回帖

关键词：mcmc CMC OLS 不胜感激 各位大侠 不胜感激

有没有高手帮忙解释一下呢

我的理解是，OLS应用范围有限（有很多条件限制），而MCMC是个强大的工具，例如其可用在贝叶斯(bayes)分析，不仅可以估计许多模型（比OLS应用范围广很多）的参数，其估计值是个置信区间（可以知道被估计的参数的分布，期望、方差、各分位点等）。例如，有1组（100个数），已知符合GAMMA(alpha,beta)分布，请问你能用OLS估计参数alpha和beta吗？MCMC就可以。

MCMC是一种SAMPLING的方法，只在特殊情况下才会去用，一般情形下，GIBBS SAMPLING会有效的多。MCMC是BAYESIAN特有的方法，频数学派对应的方法是BOOTSTRAP。。。。

OLS是一种估计方法，受残差上假设限制，前沿应用机会很少，IV是OLS同样的思路……

两者完全不是一套概念里的……灌水完毕

TaskShare 发表于 2012-11-9 21:52
我的理解是，OLS应用范围有限（有很多条件限制），而MCMC是个强大的工具，例如其可用在贝叶斯(bayes)分析， ...

对于你这个问题，那这1组中的100个原始数据，在MCMC中有啥用，一般的解释是不是：通过这100个原始数据来估计大概是服从GAMMA分布，然后用MCMC去模拟？

mac1220 发表于 2012-11-10 05:49
MCMC是一种SAMPLING的方法，只在特殊情况下才会去用，一般情形下，GIBBS SAMPLING会有效的多。MCMC是BAYESI ...

MCMC虽然是SAMPLING ,实际上它的目的通过抽样出一个马尔科夫链，最后还是对未知参数进行估计的吧！

qcy_qin 发表于 2012-11-10 08:49
对于你这个问题，那这1组中的100个原始数据，在MCMC中有啥用，一般的解释是不是：通过这100个原始数据来估 ...

抱歉，没说的很清楚。我的意思是：已知那100个数据~Gamma分布，可以用贝叶斯(Bayes)的方法去估计参数，在使用贝叶斯方法估计参数时，尤其是复杂的问题，就得用MCMC这方法去计算（简单的BAYES问题不一定要用MCMC来算）。通过MCMC可以计算出要估计的参数的期望、置信区间、和方差（注意：BAYES方法是假设参数也是随机变量）。不知我说清楚了没？如果没有说清楚，你可以（用某软件）生成100个符合GAMMA分布的数据（而不告诉我参数alpha和beta），我可以通过MCMC的计算告诉你，用于生产这组数据的alpha和beta是大概在什么范围内。数据量越大，估计的精度就会越高。也不一定要GAMMA分布，也可以是其他的分布，要估计的参数量也可以不是2个而是更多。

mac1220说“GIBBS SAMPLING会有效的多”，其实，我的理解是，GIBBS SAMPLING是MCMC的一种方法，MH (metropolis hastings)是另一种流行的MCMC方法。

TaskShare 发表于 2012-11-10 13:12
抱歉，没说的很清楚。我的意思是：已知那100个数据~Gamma分布，可以用贝叶斯(Bayes)的方法去估计参数，在 ...

谢谢你啊，感激你这方面的造诣确实比较深。我面临的问题是这样：现在已经收集到几个月的交易数据，建立了1个多元（大概4个自变量）Logistic模型，就是要估计这4个变量的系数，当然还有截距和残差。有的文献用MCMC来模拟，我不知道还有没有别的方法解决，相比之下，用MCMC的好处在哪里（MCMC好像要假设先验分布）？能否帮解答下

qcy_qin 发表于 2012-11-10 14:46
谢谢你啊，感激你这方面的造诣确实比较深。我面临的问题是这样：现在已经收集到几个月的交易数据，建立 ...

MCMC的缺点是计算量大（所以影响计算速度），优点是万能（别的方法算不出的，但它行）。很多model只能用MCMC来运算。
是，BAYES数据分析是需要先验分布。不过在数据量充分大时，先验分布不重要，直接可以是“non-informative”的，就是可以随意设定，就是你如果觉得某个参数是个非负数，再大大不过100，那么你就可以假设为：以0为下限，100为上限的均匀分布。这样的“粗糙”的假设，在数据量大时，对后验分布影响会很小。

TaskShare 发表于 2012-11-10 13:12
抱歉，没说的很清楚。我的意思是：已知那100个数据~Gamma分布，可以用贝叶斯(Bayes)的方法去估计参数，在 ...

GIBBS只能说是广义的MCMC，他不需要从通过条件概率迭代的……但是前提是你必须能写出CANDIDATE DISTRIBUTION