ベイズの定理：確率の更新とベイズ推論

定式化と簡単な導出

定理は、P(A|B) = P(B|A) P(A) / P(B) と簡潔に書ける。ここでP(A|B)は、Bが与えられたときのAの条件付き確率を表す。この式は、同時確率の対称性、すなわち P(AかつB) = P(A)P(B|A) = P(B)P(A|B) から導かれる。これらの式を変形するとベイズの公式が得られる。これは離散事象に対して成り立ち、連続変数の場合には密度へと一般化される。

主要な要素と解釈

• 事前確率 P(A)：新しいデータを見る前に仮説へ割り当てられる確率。
• 尤度 P(B|A)：仮説Aが真である場合に、観測された証拠が得られる確からしさ。
• 証拠 P(B)：考慮するすべての仮説の下で証拠が観測される全体的な確率。周辺尤度とも呼ばれる。
• 事後確率 P(A|B)：証拠を考慮した後の、更新された仮説の確率。

これらの要素は、情報がどのように結合されるかを示している。尤度は事前確率に重みを付け直し、証拠は結果を正規化するため、相互排他的な仮説全体で事後確率の和は1となる。

例とよくある誤り

典型的な説明例には、診断検査がある。ある疾患が集団内でまれで、検査がかなり正確だとする。感度と特異度が高くても、有病率が低ければ、陽性結果の大半が偽陽性となることがある。具体的には、ある疾患を持つ人がおよそ1%で、検査が症例を99%の割合で正しく特定する一方、数パーセントの偽陽性も生じる場合、陽性となった人が実際に疾患を持つ確率はなおかなり低いことがある。これは、事前の有病率を無視すると誤解を招く結論に至るベースレートの誤謬の一例である。

歴史、応用と区別

この定理は18世紀の統計学者であり牧師でもあったトーマス・ベイズにちなんで名付けられたが、その後の数学者たちがベイズ的な考え方を発展させ、広めた。ベイズの定理は、未知のものを確率変数として扱い、データにより信念を更新する統計的推論の枠組みであるベイズ推論の基盤となっている。機械学習、医療診断、自然言語処理、スパムフィルタリング、不確実性下の意思決定で広く用いられる。証拠を厳密に計算することが難しい場合、実用上はサンプリングや近似法などの計算手法を必要とすることが多い。

ベイズ的方法は、主として確率の役割に関して頻度主義的アプローチと哲学的に異なる。ベイズ主義者は事前確率を通じて仮説についての確率的な記述を認めるのに対し、頻度主義者は確率を長期的な頻度として解釈する。事前確率の選択、計算コスト、解釈上の相違は、応用における実践と議論で一般的な論点である。

確率の基礎については確率論を、仮説を評価する考え方については仮説を参照。