大数の法則

サイコロを何度も繰り返し振り続けると、出た目の標本平均は平均に収束する。

大数の法則（たいすうのほうそく、英: Law of Large Numbers, LLN、仏: Loi des grands nombres^[1]）とは、確率論・統計学における基本定理の一つ。極限定理と呼ばれる定理の一種。

たとえばサイコロを振り、出た目を記録することを考える。このような試行を厖大に繰り返せば、出た目の平均（標本平均）が出る目の平均である $3.5$ の近傍から外れる確率をいくらでも小さくできる。これは大数の法則から導かれる帰結の典型例である。より一般に、大数の法則は「独立同分布に従う可積分な確率変数列の標本平均は平均に収束する」と述べている。

厳密には、大数の法則はどのような意味で収束を考えるかに応じて、ヤコブ・ベルヌーイによる大数の弱法則 (WLLN: Weak Law of Large Numbers) と、エミール・ボレルやアンドレイ・コルモゴロフによる大数の強法則 (SLLN: Strong Law of Large Numbers) の2つに大別される。単に「大数の法則」と言った場合、どちらを指しているのかは文脈により判断する必要がある。

具体例[編集]

多数のコインを投げたときの表（赤）と裏（青）の出た頻度（左）と円グラフで表した比率（右）。

ある試行において特定の事象が起こる確率（数学的確率あるいは理論的確率）を $p$ とする。さらに、そのような試行を繰り返したとき、得られる結果が他の結果に影響を及ぼすことがないものとする^[2]。このような前提条件の下で、厖大な回数の試行を重ねたとき、その事象が起きた相対頻度が収束した値（統計的確率あるいは経験的確率）はほとんど確実に $p$ である。つまり、「ある試行において特定の事象の起こる確率」が「何度も繰り返し行った試行において特定の事象が起きた相対頻度の極限」とほとんど確実に一致する。これは大数の法則から導かれる重要な帰結の一つであり、上のような前提条件の下で経験的確率が理論的確率とほとんど確実に一致することの数学的な根拠を与える。

たとえばコイン投げ、つまりゆがみも偏りもない〈理想的なコイン〉を投げて出る表裏を当てるゲームを行うとする。ここで、〈理想的なコイン〉とは「それを投げるとき、各回の試行において表が出る確率も裏が出る確率もともに $1 / 2$ である」という確率モデルそのもののことである。このとき、コイン投げの試行回数を限りなく増やせば、表が出る回数と裏が出る回数の比率はどちらも $1 / 2$ に近づく。実際にコイン投げをしたとき、（微視的に）一部分だけ見たときには出方が偏って見えることがあったとしても、全体として（巨視的に）見れば、試行結果というものは各事象の起きる確率によって支配されているのだ、ということもできる。

試行の回数を時刻と見たとき、時刻無限大の極限において時間平均が相平均に一致するという意味で、エルゴード理論の最も単純な数学的定式化（エルゴード定理）のうちの一つであるといえる。

数学的定式化[編集]

独立同分布に従う可積分な確率変数の無限列 $X 1, X 2, \dots$ が与えられたとき、その平均を $μ$ とおく。標本平均

{\bar {X}}_{n}={\frac {1}{n}}(X_{1}+X_{2}+\cdots +X_{n})\quad (n\geq 1)

のとる値が平均 $μ$ の近傍から外れる確率は、十分大きな $n$ を取れば、いくらでも小さくできる^[3]：

\lim _{n\to \infty }P(\vert {\bar {X}}_{n}-\mu \vert >\varepsilon )=0\quad (\forall \varepsilon >0).

これを大数の弱法則という。また同じ条件下で、 $n \to \infty$ とするとき、 ${\bar {X}}_{n}$ は $μ$ にほとんど確実に（almost surely, 確率 $1$ で）収束する^[4]：

P(\lim _{n\to \infty }{\bar {X}}_{n}=\mu )=1.

これを大数の強法則という。

強法則の方が弱法則より強い主張をしているが、その分証明が難しい。

証明[編集]

この節では確率変数が有限の分散 $σ 2$ をもつ場合に限って、大数の弱法則の証明を与える。

確率変数列は独立同分布に従っているので、確率変数 ${\bar {X}}_{n}$ の平均と分散はそれぞれ $μ$ と $σ 2 / n$ になる。よってチェビシェフの不等式から

0\leq P(\left\vert {\bar {X}}_{n}-\mu \right\vert >\varepsilon )\leq {\frac {1}{\varepsilon ^{2}}}V({\bar {X}}_{n})={\frac {1}{\varepsilon ^{2}}}{\frac {\sigma ^{2}}{n}}\to 0\quad (n\to \infty )

となり、定理の主張が得られる。

仮定を満たさない例[編集]

標準コーシー分布に従う独立な標本の平均が取る値の推移例。

大数の法則は期待値の存在を前提としている。そのため、期待値の存在しない場合に大数の法則を適用することは適切ではない。例えば安定分布において特性指数が $α ≦ 1$ の場合（例：コーシー分布）、期待値は存在しない。また、この法則が成立するためには事象の独立性が保証されなければならない。

脚注[編集]

^ この名前はシメオン・ドニ・ポアソンに由来する。
^ つまり、独立にベルヌーイ分布に従う確率変数列が与えられた場合を例として考える。
^ つまり ${\bar {X}}_{n}$ が $μ$ に確率収束する： ${\bar {X}}_{n}{\overset {P}{\longrightarrow }}\mu \ (n\to \infty ).$
^ つまり ${\bar {X}}_{n}$ が $μ$ に概収束する： ${\bar {X}}_{n}{\overset {\text{a.s.}}{\longrightarrow }}\mu \ (n\to \infty ).$

参考文献[編集]

伊藤雄二『確率論』朝倉書店、2002年。ISBN 978-4254114409。

外部リンク[編集]

『大数の法則』 - コトバンク
Hazewinkel, Michiel, ed. (2001), "Law of large numbers", Encyclopaedia of Mathematics, Springer, ISBN 978-1-55608-010-4。
中嶋眞澄 (2004-06-20), “大数の強法則の初等的証明”, 鹿児島経済論集 45 (1): 1–5, NAID 110004671025（強法則のみ。分散の有限性を仮定しない。）

[1] この名前はシメオン・ドニ・ポアソンに由来する。

[2] つまり、独立にベルヌーイ分布に従う確率変数列が与えられた場合を例として考える。

[3] つまり ${\bar {X}}_{n}$ が $μ$ に確率収束する： ${\bar {X}}_{n}{\overset {P}{\longrightarrow }}\mu \ (n\to \infty ).$

[4] つまり ${\bar {X}}_{n}$ が $μ$ に概収束する： ${\bar {X}}_{n}{\overset {\text{a.s.}}{\longrightarrow }}\mu \ (n\to \infty ).$

[1]

[2]

[3]

[4]

大数の法則

出典: フリー百科事典『ウィキペディア（Wikipedia）』

目次

具体例[編集]

数学的定式化[編集]

証明[編集]

仮定を満たさない例[編集]

脚注[編集]

参考文献[編集]

関連項目[編集]

外部リンク[編集]

話題の記事6時更新

今日は何の日（2月25日）

「大数の法則」のＱ＆Ａ

確率論

確率の公理
確率空間標本空間根元事象事象確率変数確率測度
余事象結合確立周辺確率条件付確率
独立条件付き独立全確率の法則大数の法則ベイズの定理ブールの不等式
ベン図ツリーダイアグラム
表話編歴