【ベイズ統計】共役事前分布とは?わかりやすく解説

[公開日]2017/06/25[更新日]2017/07/03 [カテゴリー]ベイズ統計 Written by  masa

このページでは、ベイズ統計によく扱われる共役事前分布について解説していきます。

共役事前分布とは、ベイズ統計を扱う際に、複雑な計算を回避するために考えられた事前分布です。共役事前分布に尤度をかけて事後分布を求めると、その関数形が同じ分布になります。つまり、共役事前分布を使えば、事前分布と事後分布は同じ形になります。

共役事前分布母数が規定する確率分布事後分布
ベータ分布ベルヌーイ分布ベータ分布
ベータ分布二項分布ベータ分布
正規分布正規分布(\(σ^2\)既知)正規分布
逆ガンマ分布正規分布(\(σ^2\)未知)逆ガンマ分布
ガンマ分布ポアソン分布ガンマ分布
ディリクレ分布多項分布ディリクレ分布
 
 

共役事前分布とは?

ここからは具体例を交えつつ、わかりやすく説明していきます。さて、我々が『ベイズ統計で解析しよう!』と考えたとき、必ず事前分布を設定しなければなりません。事前分布は事前情報を元に設定されます。ではみなさんなら、どういう風に事前分布を設定するでしょうか?

例えば、二項分布に従う母集団からデータを取ってくるとします。ここで事前の情報から、事前分布を指数分布の形でおいたとします。このときの事後分布の平均は

\(E(\theta|x)=\frac{\int_{0}^{1}\theta×\theta^x(1-\theta)^{n-x}e^{-\lambda\theta}d\theta}{\int_{0}^{1}\theta^x(1-\theta)^{n-x}e^{-\lambda\theta}d\theta}\)

となります(参考:ベイズの定理)。さて、ではこれを求めてください。

・・・ほぼ無理ですね、計算が複雑すぎます。こういう複雑な計算はできれば回避したいところです。
そうして考えられた、事前分布の設定の手法の一つが共役事前分布という概念です。

共役事前分布は、尤度をかけて事後分布を求めると、その関数形が同じになるような事前分布のことです。つまり、事前分布が共役事前分布である場合、事前分布と事後分布は同じ形の確率分布になります。

共役事前分布がどのような形の分布になるかは、データを取ってくる母集団の確率分布(これを以下『母数が規定する確率分布』とする)によって決定されます。例えば、母数の規定する確率分布が二項分布の場合、事前分布をベータ分布に設定すれば、事後分布もベータ分布になります。このように、母数が規定する確率分布に対して、適切な事前分布を持ってくれば、事後分布は事前分布と同じ形の分布になります

共役事前分布に事前分布を設定すると、計算が容易になります。また、ベイズの更新も容易になります。これは更新する際、事後分布が次の計算の事前分布となりますが、これも当然共役事前分布になるからです。

様々な分布に対する共役事前分布一覧

先ほどは、二項分布に対してベータ分布という例をあげましたが、他の分布にも共役事前分布が存在します。それを以下にまとめました。

共役事前分布母数が規定する確率分布事後分布
ベータ分布ベルヌーイ分布ベータ分布
ベータ分布二項分布ベータ分布
正規分布正規分布(\(σ^2\)既知)正規分布
逆ガンマ分布正規分布(\(σ^2\)未知)逆ガンマ分布
ガンマ分布ポアソン分布ガンマ分布
ディリクレ分布多項分布ディリクレ分布

一般に、母数が規定する確率分布が指数型分布族であるならば、共役事前分布が存在することが知られています。

  • スポンサーリンク

  • コメントを残す

    メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

    CAPTCHA