Machine Learning

贝叶斯公式

贝叶斯公式是由英国数学家Thomas Bayes在18世纪提出的一种用于计算概率的方法。它的核心思想是基于已知的先验概率和新的证据，来更新事件发生的后验概率。

具体来说，假设我们有一个事件A和一个观测B，我们想要求解在已知B的情况下，事件A发生的概率。根据贝叶斯公式，这个后验概率可以表示为：

$$ P(A|B) = P(B|A) * P(A) / P(B) $$

其中，P(A)表示A事件的先验概率，即在没有观测到B的情况下，A事件发生的概率；P(B|A)表示在A事件发生的条件下，观测到B的概率，也称为似然度；P(B)表示观测到B的概率，也称为边缘概率。

现在，假设有一个城市在过去的十年中共下过10次雪，每年刮风的概率为20%。如果今天刮风了，那么在这种情况下，下雪的后验概率可以根据贝叶斯公式计算如下：

$$ P(下雪|刮风) = P(刮风|下雪) * P(下雪) / P(刮风) $$

其中，P(下雪)表示先验概率，即在没有观测到刮风的情况下，下雪的概率为10%；P(刮风|下雪)表示在下雪的条件下，刮风的概率为50%；P(刮风)表示观测到刮风的概率，可以通过全概率公式计算：

$$ P(刮风) = P(刮风|下雪) * P(下雪) + P(刮风|不下雪) * P(不下雪) $$

其中，P(刮风|不下雪)表示在不下雪的条件下，刮风的概率为20%，P(不下雪)表示在没有观测到刮风的情况下，不下雪的概率为90%。将以上数据代入贝叶斯公式，我们可以得到：

$$ P(下雪|刮风) = 0.5 * 0.1 / (0.5 * 0.1 + 0.2 * 0.9) = 0.357 $$

也就是说，在刮风的情况下，这个城市下雪的概率为35.7%。