伯努利分布与极大似然估计-经管之家官网！

扫码加入统计交流群

伯努利分布是一种离散概率分布，适用于只有两个可能结果的随机试验，例如抛硬币实验。在伯努利分布中，事件成功的概率为 $p$p，失败的概率为 $1-p$1p。其概率质量函数可以表示为：

$P(X = x | p) = p^x (1-p)^{1-x}$P(X=x∣p)=px(1p)1x

其中 $x$x 可以取值为 0 或 1，分别表示事件不发生和发生的情况。

极大似然估计（Maximum Likelihood Estimation, MLE）是一种用于估计统计模型参数的方法。其基本思想是通过最大化观测数据出现的概率（即似然函数）来找到最合适的参数值。对于伯努利分布，假设我们有一组独立同分布的观测数据 $x_1, x_2, \ldots, x_n$x1,x2,…,xn，其中每个 $x_i$xi 只能取 0 或 1，那么这些数据的似然函数可以表示为：

$L(p | x_1, x_2, \ldots, x_n) = \prod_{i=1}^n p^{x_i} (1-p)^{1-x_i}$L(p∣x1,x2,…,xn)=∏i=1npxi(1p)1xi

为了简化计算，通常取对数似然函数：

$\ell(p) = \sum_{i=1}^n \left( x_i \log p + (1 - x_i) \log (1 - p) \right)$(p)=∑i=1n(xilogp+(1xi)log(1p))

接下来，我们对对数似然函数 $\ell(p)$(p) 求导，并令导数等于零，以找到 $p$p 的极大似然估计值：

$\frac{d\ell(p)}{dp} = \sum_{i=1}^n \left( \frac{x_i}{p} - \frac{1 - x_i}{1 - p} \right) = 0$dpd(p)=∑i=1n(pxi1p1xi)=0

通过整理方程，可以得到：

$\frac{\sum_{i=1}^n x_i}{p} = \frac{\sum_{i=1}^n (1 - x_i)}{1 - p}$p∑i=1nxi=1p∑i=1n(1xi)

进一步解得：

$p = \frac{\sum_{i=1}^n x_i}{n}$p=n∑i=1nxi

这意味着，伯努利分布的极大似然估计值 $\hat{p}$p^ 等于样本中事件发生的频率，即正面朝上的次数除以总次数。例如，如果在 10 次抛硬币实验中，有 8 次正面朝上，则极大似然估计值为 $\hat{p} = 0.8$p^=0.8 。

这种估计方法的优点在于其简单性和直观性，但也有局限性，比如对异常值敏感和假设模型的准确性依赖性。此外，在实际应用中，极大似然估计常与其他统计方法结合使用，以提高估计的准确性和鲁棒性 。

「经管之家」APP：经管人学习、答疑、交友，就上经管之家！
免流量费下载资料----在经管之家app可以下载论坛上的所有资源，并且不额外收取下载高峰期的论坛币。
涵盖所有经管领域的优秀内容----覆盖经济、管理、金融投资、计量统计、数据分析、国贸、财会等专业的学习宝库，各类资料应有尽有。
来自五湖四海的经管达人----已经有上千万的经管人来到这里，你可以找到任何学科方向、有共同话题的朋友。
经管之家（原人大经济论坛），跨越高校的围墙，带你走进经管知识的新世界。
扫描下方二维码下载并注册APP