基于MATLAB操作的马尔可夫链蒙特卡罗方法(MCMC)-经管之家官网！

免费学术公开课,扫码加入

目录

1 Sampling from Random Variables 4
1.1 Standard distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.2 Sampling from non-standard distributions . . . . . . . . . . . . . . . . . . . 7
1.2.1 Inverse transform sampling with discrete variables . . . . . . . . . . . 8
1.2.2 Inverse transform sampling with continuous variables . . . . . . . . . 11
1.2.3 Rejection sampling . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
2 Markov Chain Monte Carlo 15
2.1 Monte Carlo integration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
2.2 Markov Chains . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
2.3 Putting it together: Markov chain Monte Carlo . . . . . . . . . . . . . . . . 18
2.4 Metropolis Sampling . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
2.5 Metropolis-Hastings Sampling . . . . . . . . . . . . . . . . . . . . . . . . . . 22
2.6 Metropolis-Hastings for Multivariate Distributions . . . . . . . . . . . . . . . 26
2.6.1 Blockwise updating . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
2.6.2 Componentwise updating . . . . . . . . . . . . . . . . . . . . . . . . . 31
2.7 Gibbs Sampling . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
3 Basic concepts in Bayesian Data Analysis 39
3.1 Parameter Estimation Approaches . . . . . . . . . . . . . . . . . . . . . . . . 40
3.1.1 Maximum Likelihood . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
3.1.2 Maximum a posteriori . . . . . . . . . . . . . . . . . . . . . . . . . . 40
3.1.3 Posterior Sampling . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
3.2 Example: Estimating a Weibull distribution . . . . . . . . . . . . . . . . . . 42
3.3 Example: Logistic Regression . . . . . . . . . . . . . . . . . . . . . . . . . . 45
3.4 Example: Mallows Model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
4 Directed Graphical Models 46
4.1 A Short Review of Probability Theory . . . . . . . . . . . . . . . . . . . . . 46
4.2 The Burglar Alarm Example . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
4.2.1 Conditional probability tables . . . . . . . . . . . . . . . . . . . . . . 49
4.2.2 Explaining away . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
4.2.3 Joint distributions and independence relationships. . . . . . . . . . . 52
4.3 Graphical Model Notation . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
4.3.1 Example: Consensus Modeling with Gaussian variables . . . . . . . . 54
5 Approximate Inference in Graphical Models 57
5.1 Prior predictive distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
5.2 Posterior distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
5.2.1 Rejection Sampling . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
5.2.2 MCMC Sampling . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
5.2.3 Example: Posterior Inference for the consensus modelwith normally
distributed variables . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
5.2.4 Example: Posterior Inference for the consensus modelwith contaminants 66
6 Sequential Monte Carlo 69
6.1 Hidden Markov Models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
6.1.1 Example HMM with discrete outcomes and states . . . . . . . . . . . 71
6.1.2 Viterbi Algorithm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72
6.2 Bayesian Filtering . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73
6.3 Particle Filters . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74
6.3.1 Sampling Importance Resampling (SIR) . . . . . . . . . . . . . . . . 74
6.3.2 Direct Simulation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76

「经管之家」APP：经管人学习、答疑、交友，就上经管之家！
免流量费下载资料----在经管之家app可以下载论坛上的所有资源，并且不额外收取下载高峰期的论坛币。
涵盖所有经管领域的优秀内容----覆盖经济、管理、金融投资、计量统计、数据分析、国贸、财会等专业的学习宝库，各类资料应有尽有。
来自五湖四海的经管达人----已经有上千万的经管人来到这里，你可以找到任何学科方向、有共同话题的朋友。
经管之家（原人大经济论坛），跨越高校的围墙，带你走进经管知识的新世界。
扫描下方二维码下载并注册APP