2.1 贝叶斯公式
定义2.1[3] 设 为 的一个分割,即 互不相容,且 ,如果 , ,则有
(2.1)
(2.1)可以作如下解释:假定有 个两两互斥的“原因” 可引起同一种“现象” 的发生,若该现象已发生,利用贝叶斯公式可以算出由某一原因 ( )所引起的可能性有多大,如果能找到某个 ,使得
, ,
则 就是引起“现象” 最大可能的“原因”. 生活中经常会遇到这样的情况,事件 已发生,我们需要判断引起 发生的“原因”,这就需要用到公式(2.1)来判断引起 发生的“原因”的概率.贝叶斯决策是在不完全情况的条件下,对仍未知道的一部分状态用主观概率进行估计,然后再利用贝叶斯公式对发生概率进行修正运算,最后根据期望值和修正概率来做出最优的决策.
2.2 贝叶斯公式的密度函数形式
上面的贝叶斯公式(2.1)是用事件的概率形式给出的,下面给出在贝叶斯统计学中同样具有广泛应用的贝叶斯公式的密度函数形式.
设 是一个连续型随机变量,密度函数为 ,其中 是一个参数,不同的 对应不同的密度函数.
贝叶斯认为, 在 给定后是个条件密度函数,因此记为 更恰当一些.我们对参数 已经积累了很多资料,经过分析、整理和加工,可以获得一些有关 的有用信息,这种信息就是先验信息.
根据参数 的先验信息可了解先验分布 .再从总体 中随机抽取一个样本 ,得到样本 的联合密度函数