幾何分布(きかぶんぷ、)は、確率論および統計学における離散確率分布の一つであり、互いに独立なベルヌーイ試行を一定の成功確率で繰り返したとき、最初の成功が得られるまでの待ち時間を表す確率分布である。
幾何分布には、最初の成功を含めた試行回数を数える定義と、最初の成功より前に起こった失敗回数を数える定義の2つの慣習がある。前者の台は
後者の台は
であり、両者は1だけ平行移動した同一の分布族である。文献やソフトウェアによってどちらを「幾何分布」と呼ぶかが異なるため、定義や台を明記することが重要である。
確率質量が
と等比数列をなすことが「幾何分布」という名称の由来である。
定義 成功確率 ()の独立なベルヌーイ試行
を考え、成功を 、失敗を とする。また
とおく。
最初の成功までの試行回数 最初の成功が得られる試行の番号を
とする。このとき は
に値をとり、その確率質量関数は
である。すなわち、最初の 回が失敗し、 回目に初めて成功する確率である。
累積分布関数は、整数 に対して
であり、尾確率は
となる。
最初の成功までの失敗回数 一方、
とおけば、 は最初の成功より前に起こった失敗の回数を表し、
に値をとる。その確率質量関数は
である。
累積分布関数および尾確率は
である。
したがって2つの慣習は
という単なる位置の違いであり、分散、歪度、尖度、エントロピーなど平行移動に不変な量は両者で一致する。
の場合はすべての試行が成功するため、 または に確率1で集中する退化分布となる。以下、歪度や尖度など分散が正であることを必要とする量については とする。
分位点 とし、 とする。累積分布関数の逆から、最小の 分位点は
および
と書ける。
性質
平均と分散 と の期待値はそれぞれ
である。一方、平行移動は分散を変えないので、
となる。
例えば、成功確率 の試行を成功するまで繰り返すと、最初の成功までに必要な平均試行回数は
回であり、それまでの平均失敗回数は
回である。
確率母関数とモーメント母関数 の確率母関数は
である。したがって より
のとき、モーメント母関数は
であり、キュムラント母関数は
となる。
では 、 に確率1で集中するため、 であり、定義域はすべての実数 である。
確率母関数を微分すれば、 の下降階乗モーメント
について
が得られる。
歪度と尖度 のとき、歪度は
である。通常の定義による尖度は
であり、正規分布の尖度3を差し引いた超過尖度は
となる。
最頻値と中央値 では確率質量 または は とともに単調に減少するため、最頻値は では1、 では0である。
中央値について
とおく。 の中央値となる整数 は
を満たす。したがって が整数でなければ中央値は一意で
である。 が整数なら と の両方が中央値となる。
同様に については
であり、 が整数でなければ
が一意な中央値、 が整数なら と の両方が中央値となる。
例えば の場合は であり、試行回数型 では1と2の双方が中央値である。
無記憶性 幾何分布の最も重要な特徴の一つは無記憶性である。
とする。試行回数型 について、任意の非負整数 に対して
が成立する。
これは、すでに 回失敗したという情報を得ても、その時点から先に必要となる追加の試行回数の分布が最初と変わらないことを意味する。
失敗回数型 では同じ性質を
と書くことができる。
また、この条件の下では各時点での離散的なハザードは一定であり、
である。これは各試行での成功確率が、それ以前の失敗回数によらず常に であることに対応する。
無記憶性による特徴付け 無記憶性は単に幾何分布が持つ性質というだけでなく、整数値分布の中で幾何分布を特徴付ける。
実際、非負整数値確率変数 に対して
とおき、
がすべての非負整数 について成立するとする。このとき
とおけば
でなければならない。したがって
となり、 は成功確率 の幾何分布に従う。
この意味で、幾何分布は離散時間における無記憶分布であり、連続時間における対応物は指数分布である。
情報量に関する性質
エントロピー とする。 と は平行移動の関係にあるため、シャノンエントロピーは等しい。ビットを単位とすると
となる。
では分布が一点に集中するため である。
また、非負整数上の確率分布のうち平均を一定に固定した場合、幾何分布はシャノンエントロピーを最大にする分布である。平均を とすれば対応する成功確率は
である。
フィッシャー情報量 とする。1個の観測値 に対する対数尤度は
である。その2階微分から、1観測当たりのフィッシャー情報量は
となる。 という平行移動はパラメータに依存しないため、試行回数型でも同じ値である。
独立な 個の観測では情報量は
となる。
他の確率分布との関係
ベルヌーイ分布・ベルヌーイ過程 幾何分布はベルヌーイ分布を繰り返すことによって生じる待ち時間分布である。一定の成功確率 を持つベルヌーイ過程では、連続する成功の間に必要となる試行回数は独立かつ同一の幾何分布に従う。
負の二項分布 幾何分布は負の二項分布の特殊な場合である。
を互いに独立な試行回数型の幾何分布
に従う確率変数とすると、
は 回目の成功が得られるまでの総試行回数を表す。したがって
は 回目の成功までに生じる失敗回数であり、
という負の二項分布に従う。
特に とすれば幾何分布が得られる。
指数分布 指数分布は幾何分布の連続時間における対応物である。両者は待ち時間を表し、いずれも無記憶性によって特徴付けられる。
率 の指数分布に従う確率変数 に対して
とおくと、
である。したがって は成功確率
の0始まりの幾何分布に従う。
逆に、 とし、 を満たす整数 ごとに、 を成功確率
の1始まりの幾何分布に従う確率変数とする。このとき、任意の に対して
であるから、
となる。すなわち、試行間隔を細かくしつつ成功確率を比例して小さくする極限で、幾何分布は指数分布へ収束する。
最小値に対する閉性 が互いに独立で、それぞれ成功確率
の1始まりの幾何分布に従うとする。このとき
も幾何分布に従う。実際、
なので、その成功確率は
である。
複合ポアソン分布と無限分解可能性 とする。このとき、0始まりの幾何分布はであり、として表すことができる。
の確率母関数について
であり、 を用いると
と書ける。
したがって は強度
のポアソン分布に従う個数の独立なジャンプの和として表せる。各ジャンプ は
というに従う。この複合ポアソン表示から幾何分布の無限分解可能性が従う。
ゼータ分布 幾何分布との間には、整数の素因数分解とオイラー積を介した関係がある。
とし、
によってゼータ分布に従う確率変数 を定める。素数 の における指数、すなわち
を考えると、異なる素数に対応する
は互いに独立であり、
となる。したがって
は成功確率
の0始まりの幾何分布に従う。
逆に、それぞれの素数 について独立な幾何確率変数
をとれば、
はゼータ分布に従う。この構成は
というリーマンゼータ関数のオイラー積に対応している。
パラメータの推定 とし、同一の幾何分布から独立に得られた標本を考える。幾何分布のパラメータは、標本平均からモーメント法または最尤法によって推定できる。
モーメント法 試行回数型
について
であるから、標本平均 を期待値に等置すると
を得る。
失敗回数型
では
なので
となる。
最尤推定 試行回数型の観測値を
とすると、尤度関数は
である。対数尤度を微分して最大化すれば
を得る。
失敗回数型では
なので、
となる。したがって、このパラメータ化ではモーメント推定量と最尤推定量が一致する。
の内部パラメータについて、1観測当たりのフィッシャー情報量が
であることから、通常の正則性条件の下で
という漸近正規性が得られる。
ベイズ推定 0始まりの標本
について、 とし、 の事前分布を
とすると、ベータ分布は幾何尤度に対する共役事前分布となる。 事後分布は
である。
1始まりの を用いる場合は なので、
となる。
乱数生成 幾何分布に従う乱数は、ベルヌーイ試行を成功するまで逐次生成することで直接得られる。しかし が小さいと必要な試行回数の期待値が となるため、この方法は非効率になり得る。
逆関数法を用いれば、一つの一様乱数から直接生成できる。 とし、 を 上の一様分布に従う確率変数とする。このとき
は1始まりの幾何分布に従う。また
とすれば0始まりの幾何分布に従う。
これは幾何分布の分位点関数を一様乱数に適用したものに相当する。
応用
待ち時間モデル 幾何分布は、各時点において一定の確率 で事象が起こり、各時点の結果が独立である場合の離散的な待ち時間を表す。例えば、最初の成功、最初の故障、最初の到着などまでの時間を離散時間でモデル化する際に用いられる。
一定のハザード確率という仮定は無記憶性と同値であり、過去にどれだけ長く事象が発生しなかったかによって将来の発生確率が変化しない状況に適している。
待ち行列 M/M/1 待ち行列では、到着率を 、サービス率を とし、
とすると、定常状態における系内人数 は
という0始まりの幾何分布に従う。 この場合、幾何分布の成功確率に相当する量は である。
情報源符号化 確率が等比的に減少する整数値情報源に対しては、ゴロム符号など幾何分布の構造を利用した可変長符号が用いられる。幾何分布に従う整数アルファベットに対する最適な接頭語符号の構成は、情報源符号化における古典的な問題の一つである。
ソフトウェアにおける定義 幾何分布の2つの慣習は統計ソフトウェアでも統一されていない。
R の標準関数 dgeom、pgeom、qgeom、rgeom は、最初の成功より前の失敗回数を確率変数とし、
という0始まりの定義を採用している。
一方、Python の科学計算ライブラリ SciPy の scipy.stats.geom は、最初の成功を含む試行回数を確率変数とし、
という1始まりの定義を採用している。
このため、文献・数式・プログラムの間で幾何分布を比較する際には、確率変数が「試行回数」を表しているのか「失敗回数」を表しているのかを確認する必要がある。
関連項目 ベルヌーイ分布 ベルヌーイ試行 負の二項分布 指数分布 無記憶性 離散確率分布 待ち行列理論 ゴロム符号
脚注
参考文献