马尔可夫链蒙特卡洛法 MCMC

蒙特卡洛法

随机抽样

统计学的目的是基于数据对概率分布的特征进行推断。

蒙特卡洛法要解决的问题：假设概率分布的定义已知，通过抽样获得概率分布的随机样本，通过得到的随机样本对概率分布的特征进行分析。

几种抽样：直接抽样，接受 - 拒绝抽样（先按照建议分布的概率密度函数 $q (x)$ 抽样，建议分布需要满足对任一 $x$ 满足 $cq (x) \geq p (x)$，再按照 $\frac {p (x^{\star})}{cq (x^{\star})}$ 的比例随机决定是否接受 $x^{\star}$），重要性抽样

数学期望：蒙特卡洛法先按照概率分布 $p (x)$ 独立地抽取 n 个样本，$x_1,x_2,x_3..x_n$ ，之后计算函数

Reference

1，《统计学习方法》