贝叶斯推断
简述:
一种统计学算法,用来估计统计量的某种性质。
它建立在转关判断的基础上,不需要客观证据,先估计一个值,然后根据实际结果不断修正。
贝叶斯定理
公式:
p(A|B) =
P
(
B
|
A
)
P
(
A
)
P
(
B
)
解释:
p(A|B) 是事件B发生的情况下,事件A发生的概率
推导:
P(A|B)P(B) =
P
(
A
⋂
B
)
p(A|B)P(B) = P(B|A)P(A)
P(A|B) =
P
(
B
|
A
)
P
(
A
)
P
(
B
)
全概率公式
公式:
P(A|B) =
P
(
A
)
P
(
B
|
A
)
P
(
B
)
解释:
p(A) 为先验概率 ,即在B事件未发生时,我们对A事件概率的一个判断 。P(A|B)称为“后验概率”,即在B事件发生之后,我们对A事件的重新评估。
P
(
B
|
A
)
P
(
B
)
称为可能性函数,这是一个调整因子。
所以可得 : 后验概率 = 先验概率
×
调整因子
这就是贝叶斯推断的含义。我们先预估一个“先验概率”,然后加入实验结果,看这个实验到底是增强还是消弱了“先验概率”,由此得到更近事实的“后验概率”
若p(A|B)>P(A)即增强,反之则消弱。
推导:
P(B) =
P
(
B
⋂
A
)
+
P
(
B
⋂
A
′
)
P(B) = P(B|A)P(A) + P(B|A’)P(A’)
将上一节公式 p(A|B) =
P
(
B
|
A
)
P
(
A
)
P
(
B
)
带入得
P(B) = P(A|B)P(B) + P(B|A’)P(A’)
P(A|B)P(B) = P(B) – P(B|A’)P(A)
P(A|B)P(B) = P(B|A)P(A)
P(A|B) = P(A)
P
(
B
|
A
)
P
(
B
)