大数の法則
大数の法則（たいすうのほうそく、英: Law of Large Numbers, LLN、仏: Loi des grands nombres[1]）とは、確率論・統計学における基本定理のひとつ。極限定理と呼ばれる定理の一種。
たとえばサイコロを振り、出た目を記録することを考える。このような試行を厖大に繰り返せば、出た目の平均（標本平均）が出る目の平均である 3.5 の近傍から外れる確率をいくらでも小さくできる。これは大数の法則から導かれる帰結の典型例である。より一般に、大数の法則は「独立同分布に従う可積分な確率変数列の標本平均は平均に収束する」と述べている。
厳密には、大数の法則はどのような意味で収束を考えるかに応じて、ヤコブ・ベルヌーイによる大数の弱法則 (WLLN: Weak Law of Large Numbers) と、エミール・ボレルやアンドレイ・コルモゴロフによる大数の強法則 (SLLN: Strong Law of Large Numbers) のふたつに大別される。単に「大数の法則」と言った場合、どちらを指しているのかは文脈により判断する必要がある。
具体例
ある試行において特定の事象が起こる確率（数学的確率あるいは理論的確率）を p とする。さらに、そのような試行を繰り返したとき、得られる結果が他の結果に影響を及ぼすことがないものとする[2]。このような前提条件のもとで、厖大な数の試行を重ねたとき、その事象が起きた相対頻度が収束した値（統計的確率あるいは経験的確率）はほとんど確実に p である。つまり、「ある試行において特定の事象の起こる確率」が「何度も繰り返し行った試行において特定の事象が起きた相対頻度の極限」とほとんど確実に一致する。これは大数の法則から導かれる重要な帰結のひとつであり、上のような前提条件のもとで経験的確率が理論的確率とほとんど確実に一致することの数学的な根拠を与える。
たとえばコイン投げ、つまりゆがみも偏りもない〈理想的なコイン〉を投げて出る表裏を当てるゲームを行うとする。ここで、〈理想的なコイン〉とは「それを投げるとき、各回の試行において表が出る確率も裏が出る確率もともに 1/2 である」という確率モデルそのもののことである。このとき、コイン投げの試行回数を限りなく増やせば、表が出る回数と裏が出る回数の比率はどちらも 1/2 に近づく。実際にコイン投げをしたとき、（微視的に）一部分だけ見たときには出方が偏って見えることがあったとしても、全体として（巨視的に）見れば、試行結果というものは各事象の起きる確率によって支配されているのだ、ということもできる。
試行の回数を時刻と見たとき、時刻無限大の極限において時間平均が相平均に一致するという意味で、エルゴード理論の最も単純な数学的定式化（エルゴード定理）のうちのひとつであると言える。
数学的定式化
独立同分布に従う可積分な確率変数の無限列 X1, X2, … が与えられたとき、その平均を μ とおく。標本平均
- [math] \bar{X}_n = \frac{1}{n}(X_1 + X_2 + \cdots + X_n) \quad (n \ge 1)[/math]
のとる値が平均 μ の近傍から外れる確率は、十分大きな n を取れば、いくらでも小さくできる[3]：
- [math]\lim_{n\to\infty}P(\vert \bar{X}_n - \mu\vert \gt \varepsilon) = 0 \quad (\forall \varepsilon \gt 0).[/math]
これを大数の弱法則という。また同じ条件下で、n → ∞ とするとき、 [math]\bar{X}_n[/math] は μ にほとんど確実に（almost surely, 確率 1 で）収束する[4]：
- [math]P(\lim_{n\to\infty}\bar{X}_n = \mu) = 1.[/math]
これを大数の強法則という。
強法則の方が弱法則より強い主張をしているが、そのぶん証明が難しい。
証明
この節では確率変数が有限の分散 σ2 をもつ場合に限って、大数の弱法則の証明を与える。
確率変数列は独立同分布に従っているので、確率変数 [math]\bar{X}_n[/math] の平均と分散はそれぞれ μ と σ2/n になる。よってチェビシェフの不等式から
- [math] 0 \le P(\left\vert \bar{X}_n - \mu \right\vert \gt \varepsilon) \le \frac{1}{\varepsilon^2} V(\bar{X}_n) = \frac{1}{\varepsilon^2}\frac{\sigma^2}{n} \to 0 \quad (n \to \infty) [/math]
となり、定理の主張が得られる。
仮定を満たさない例
大数の法則は期待値の存在を前提としている。そのため、期待値の存在しない場合に大数の法則を適用することは適切ではない。例えば安定分布において特性指数が α ≦ 1 の場合（例：コーシー分布）、期待値は存在しない。
脚注
- ↑ この名前はシメオン・ドニ・ポアソンに由来する。
- ↑ つまり、独立にベルヌーイ分布に従う確率変数列が与えられた場合を例として考える。
- ↑ つまり [math]\bar{X}_n[/math] が μ に確率収束する：[math]\bar{X}_n \overset{P}{\longrightarrow} \mu \ (n \to \infty).[/math]
- ↑ つまり [math]\bar{X}_n[/math] が μ に概収束する：[math]\bar{X}_n \overset{\text{a.s.}}{\longrightarrow} \mu \ (n \to \infty).[/math]
参考文献
- 伊藤, 雄二 『確率論』 朝倉書店、2002年。ISBN 978-4254114409。
関連項目
- チェビシェフの不等式
- 中心極限定理
- エルゴード理論、エルゴード定理
- ポアソン分布 - 少数の法則
外部リンク
- {{#invoke:citation/CS1|citation
|CitationClass=citation }}
- 中嶋, 眞澄 (2004-06-20), “大数の強法則の初等的証明”, 鹿児島経済論集 45 (1): 1–5, NAID 110004671025（強法則のみ。分散の有限性を仮定しない。）