贝叶斯统计中常见的分布简介及其用法
4,186 阅读
在贝叶斯统计中,有几类分布非常常见。在这里我们列举出来并做简单介绍。
一、卡方分布(Chi-Square Distribution)
卡方分布,一般用$\chi^2$表示。它是一组独立的标准正态分布的平方和。它是Gamma分布的特例。卡方分布一个最重要的运用是用来描述样本的方差(参考如何抽取样本方差的分布)的。
卡方分布定义如下:如果$Z_1,\cdots,Z_k$是$k$个相互独立的标准正态随机变量,那么它们的平方和服从自由度为$k$(它的意思就是有$k$个这样的随即变量)卡方分布:
Q = \sum_{i=1}^k Z_i^2 \sim \chi^2(k)
上述分布也称为中心卡方分布,我们可以将其泛化得到非中心卡方分布。即不要求那些独立变量是标准正态分布,只要是正态分布即可。
二、逆-卡方分布(Inverse-Chi-Square Distribution)
逆-卡方分布和卡方分布很像,它的定义是当某个随机变量的逆服从卡方分布的时候,这个随机变量本身就服从逆-卡方分布了。即如果有:
X \sim \chi^2(k)
那么:
\frac{1}{X} \sim \text{inverse} - \chi^2(k)
逆卡方分布最重要的应用是作为一元正态分布中,未知方差的先验分布,同时也是其后验分布。
三、缩放-逆-卡方分布(Scaled Inverse-Chi-Square Distribution)
四、伽马分布(Gamma Distribution)
伽马分布是一个两参数的分布,通常用$\Gamma(\alpha,\beta)$表示。在统计中,指数分布族、欧拉分布、卡方分布都是Gamma分布的特殊情况。Gamma分布是很多似然分布的共轭先验,例如泊松分布、指数分布、均值已知的正态分布,形状参数已知的逆-伽马分布等。
五、逆-伽马分布(Inverse Gamma Distribution)
逆伽马分布与伽马分布是互为倒数的。如果$X\sim \Gamma(\alpha,\beta)$,那么$1/X \sim IG(\alpha,1\beta)$
