博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
贝叶斯公式的共轭分布
阅读量:5799 次
发布时间:2019-06-18

本文共 753 字,大约阅读时间需要 2 分钟。

   共轭分布是一种极大简化贝叶斯分析的方法。其作用是,在贝叶斯公式包括多种概率分布的情况下。使这些分布的未知參数在试验前被赋予的物理意义,延续到试验后,便于分析。

1. 贝叶斯公式

贝叶斯公式例如以下:
当中。表示模型中的未知參数。表示样本。

这里有三个重要的概念:先验分布似然函数,以及后验分布

是先验分布,表示在观察样本之前,依照经验觉得符合某种概率分布。

比方说在抛硬币之前,我们觉得正反两面出现的概率各为1/2。

是似然函数,表示在给定模型參数的条件下,样本数据服从这一概率模型的相似程度。
是后验分布。表示在观察一系列样本数据后。模型參数服从的概率分布。

即。对先验分布进行了修正。更接近真实情况。

另外。由于是样本。所以是一个确定的值。

2. 共轭分布的定义

    在贝叶斯公式中,假设先验分布和似然函数使得后验分布具有和先验分布同样的形式,那么就称先验分布和似然函数是共轭的

3. 举例说明

3.1 Beta分布与二项分布共轭
Beta概率函数例如以下:
当中,是一个常系数。除去常系数不看,Beta函数与二项分布函数具有同样的形式。即

假设把Beta分布当做先验分布,二项分布函数当做似然函数,那么通过贝叶斯公式计算得到的后验分布与先验分布具有同样的形式。所以,Beta分布和二项分布共轭。

3.2  Dirichlet分布与多项分布共轭
Beta分布扩展到多维是 Dirichlet分布(狄利克雷分布)。二项分布扩展到多维就是多项分布。Dirichlet分布函数例如以下:
多项分布函数例如以下:
当中,K是指K维。都是常系数。不看常系数,Dirichlet函数与多项分布函数具有同样的形式。因此计算得到的后验分布也与先验分布有同样的形式。

即。Dirichlet分布和多项分布式是共轭的。

你可能感兴趣的文章
Java中的split函数的用法
查看>>
js 小练习之indexOf
查看>>
[20]CSS3 动画效果
查看>>
迭代器和生成器
查看>>
dokcer常用命令
查看>>
Windows环境下Git环境的搭建
查看>>
汇编语言入门(在debug中编辑和调试程序)
查看>>
Spring-Boot:Profile简单示例
查看>>
java编程思想--查缺补漏(一)
查看>>
敏捷落地的会议和工具
查看>>
前端页面的性能优化
查看>>
(转)mysql百万级以上查询优化
查看>>
以太网帧格式
查看>>
小组的成立
查看>>
用递归和回溯法实现八皇后问题
查看>>
PS2键盘
查看>>
Linux机器相互登录
查看>>
POJ 1274 / POJ 1469 / POJ 2239 二分图最大匹配
查看>>
【转】这个讲简单验证码识别的,原理讲得很清楚
查看>>
[LeetCode]Sort Colors
查看>>