第5章 確率変数と確率分布¶
この章で学ぶこと
- 確率変数とは「偶然によって値が決まる変数」であり、数学的には標本空間上の関数であること
- 離散型確率変数と 確率関数
- 連続型確率変数と 確率密度関数(ヒストグラムの極限としての理解)
- 累積分布関数 と 分位点
第4章では「事象」の確率を考えました。しかし統計学で扱うのは、ほとんどの場合「表が何枚出たか」「身長は何 cm か」といった 数値 です。 この章では、偶然の結果を数値で表す 確率変数 と、その値がどのように散らばるかを表す 確率分布 を学びます。 これは推測統計の最も基本的な道具です。
5.1 確率変数とは¶
コインを3回投げる試行を考えます。標本空間は
の8通りで、どれも確率 \(1/8\) です。ここで「表が出た枚数」を \(X\) とすると、\(X\) は結果ごとに 0, 1, 2, 3 のいずれかの値をとります。
定義 5.1(確率変数)
標本空間 \(\Omega\) の各要素 \(\omega\) に実数 \(X(\omega)\) を1つ対応させる関数 \(X\) を 確率変数(random variable)という。
確率変数は大文字 \(X, Y, Z\) で表し、それが実際にとった値(実現値)は小文字 \(x, y, z\) で表す。
「変数」という名前ですが、正体は 関数 です。ただし普段は \(\omega\) を意識せず、「偶然によって値が決まる変数」と考えて差し支えありません。
\(X = 2\) という書き方は、「\(X(\omega) = 2\) となる結果 \(\omega\) の集まり」という 事象 を表します。図5.1では \(\{X = 2\} = \{\text{表表裏}, \text{表裏表}, \text{裏表表}\}\) なので
です。このように、確率変数の各値にどれだけの確率が割り当てられているかを 確率分布(probability distribution)といいます。
確率変数は、とりうる値の種類によって2つに分かれます。
- 離散型確率変数:とりうる値が 0, 1, 2, … のようにとびとびで、数え上げられるもの(コインの表の枚数、1日の事故件数など)
- 連続型確率変数:とりうる値がある区間全体にわたる実数であるもの(身長、待ち時間、測定誤差など)
5.2 離散型確率変数と確率関数¶
定義 5.2(確率関数)
離散型確率変数 \(X\) のとりうる値を \(x_1, x_2, \dots\) とするとき
を \(X\) の 確率関数(probability mass function, pmf)という。確率関数は次の2つを満たす。
コイン3回の例では、確率関数は次の表のようになります。
| \(x\) | 0 | 1 | 2 | 3 | 合計 |
|---|---|---|---|---|---|
| \(P(X = x)\) | \(1/8\) | \(3/8\) | \(3/8\) | \(1/8\) | \(1\) |
確率関数のグラフは、第1章の相対度数のヒストグラムによく似ています。実際、コイン3回の試行を何万回もくり返して表の枚数の相対度数を求めれば、このグラフに近づいていきます。 確率分布は「無限回くり返したときの相対度数分布」の理想像 と考えるとわかりやすいでしょう。
例:2つのサイコロの目の和¶
2つのサイコロを振り、目の和を \(X\) とします。36通りの結果はどれも同様に確からしいので、和ごとに数えれば確率関数が求まります。
1つのサイコロの目は1〜6が等確率(平らな分布)なのに、2つの和は真ん中が高い山型になりました。 「独立な確率変数を足し合わせると山型に近づく」というこの現象は、第12章の 中心極限定理 で一般的に説明されます。
5.3 累積分布関数¶
定義 5.3(累積分布関数)
確率変数 \(X\) に対して
を \(X\) の 累積分布関数(cumulative distribution function, cdf)または単に 分布関数 という。
累積分布関数は、第1章の累積相対度数を確率に置き換えたものです。離散型でも連続型でも同じ形で定義できるのが利点です。
コイン3回の例では、\(F(x)\) は次の図のような 階段状 の関数になります。
たとえば \(F(1.5) = P(X \le 1.5) = P(X = 0) + P(X = 1) = 4/8\) です。
定理 5.1(累積分布関数の性質)
- \(F(x)\) は単調非減少:\(x < y\) ならば \(F(x) \le F(y)\)
- \(\displaystyle\lim_{x \to -\infty} F(x) = 0\)、\(\displaystyle\lim_{x \to \infty} F(x) = 1\)
- 右連続:\(\displaystyle\lim_{h \downarrow 0} F(x + h) = F(x)\)
- \(a < b\) のとき \(P(a < X \le b) = F(b) - F(a)\)
証明(1と4)
\(a < b\) のとき、事象 \(\{X \le b\}\) は排反な2つの事象 \(\{X \le a\}\) と \(\{a < X \le b\}\) に分けられます。確率の公理(加法性)より
これを移項すると4が得られます。また \(P(a < X \le b) \ge 0\) なので \(F(a) \le F(b)\)、つまり1も示されました。 (2と3の証明には「確率の連続性」という性質が必要なので、ここでは省略します。)
5.4 連続型確率変数と確率密度関数¶
「ちょうど170 cm」の確率は 0¶
身長のような連続的な量では、「ちょうど 170 cm である確率」を考えても意味がありません。 本当に「ちょうど」なら 170.000000… cm で、小数点以下がどこまでも 0 でなければならず、そのような人がいる確率は 0 だからです。 連続型確率変数では、どんな値 \(x\) についても \(P(X = x) = 0\) になります。
意味があるのは「169.5 cm 以上 170.5 cm 未満である確率」のように、区間 に入る確率です。
ヒストグラムから密度関数へ¶
第1章で、ヒストグラムは 面積 で度数を表すこと、そして縦軸を「相対度数 ÷ 階級幅」(密度)にすると柱の面積の合計が1になることを学びました。 この形のヒストグラムで、データの数を限りなく増やし、階級幅を限りなく細かくしていくと、柱の上端はなめらかな曲線に近づきます。
この極限の曲線が 確率密度関数 です。ヒストグラムで「面積 = 相対度数」だったのと同様に、密度関数では「面積 = 確率」となります。
定義 5.4(確率密度関数)
関数 \(f(x)\) が、任意の \(a \le b\) について
を満たすとき、\(f(x)\) を \(X\) の 確率密度関数(probability density function, pdf)という。確率密度関数は次の2つを満たす。
このような \(f\) をもつ確率変数を 連続型確率変数 という。
密度関数と累積分布関数の関係¶
累積分布関数は、密度関数を左端から \(x\) まで積分したもの(\(x\) より左の面積)です。逆に、累積分布関数を微分すると密度関数に戻ります。
(微分積分学の基本定理。付録A を参照。)
密度の値は確率ではない¶
密度関数の値 \(f(x)\) そのものは確率ではありません。小さな幅 \(\Delta x\) について
となる、つまり 「幅をかけてはじめて確率になる」量 です。物理でいえば「密度 × 体積 = 質量」の密度にあたります。
そのため、密度の値は1を超えてもかまいません。たとえば区間 \([0, 0.5]\) 上で一定の値をとる密度関数は、面積が1になるように高さ2でなければなりません。
例題¶
\(X\) の密度関数が
であるとします。
- 密度関数であることの確認:\(f(x) \ge 0\) で、\(\int_0^1 2x\, dx = \left[x^2\right]_0^1 = 1\)。
- 累積分布関数:\(0 \le x \le 1\) のとき \(F(x) = \int_0^x 2t\, dt = x^2\)。\(x < 0\) なら \(F(x) = 0\)、\(x > 1\) なら \(F(x) = 1\)。
- 確率:\(P(X \le 1/2) = F(1/2) = 1/4\)。区間の幅は半分なのに、確率は 1/4 しかありません。密度が右ほど高いからです。
5.5 分位点¶
累積分布関数は「値 \(x\) → その値以下である確率」を与えます。逆に「確率 \(p\) → その確率に対応する値」を考えたものが分位点です。
定義 5.5(分位点)
\(0 < p < 1\) に対して \(F(x) = p\) となる \(x\) を、\(X\) の \(p\) 分位点(\(100p\) パーセント点)という。 特に \(p = 0.5\) のときを 中央値、\(p = 0.25, 0.75\) のときを 四分位点 という。
(離散型のように \(F(x) = p\) となる \(x\) がちょうど存在しない場合は、\(F(x) \ge p\) となる最小の \(x\) と定める。)
上の例題 \(f(x) = 2x\) の中央値は、\(F(m) = m^2 = 1/2\) を解いて \(m = 1/\sqrt{2} \approx 0.707\) です。
分位点は推測統計の至るところで使います。たとえば「標準正規分布の上側 2.5% 点(0.975 分位点)は 1.96」という事実は、第15章の信頼区間や第16章の検定で何度も登場します。
5.6 離散型と連続型のまとめ¶
| 離散型 | 連続型 | |
|---|---|---|
| 分布を表す関数 | 確率関数 \(p(x) = P(X = x)\) | 確率密度関数 \(f(x)\) |
| 1点の確率 | \(P(X = x) = p(x)\) | \(P(X = x) = 0\) |
| 区間の確率 | \(\sum_{a \le x_i \le b} p(x_i)\) | \(\int_a^b f(x)\,dx\) |
| 全体 | \(\sum p(x_i) = 1\) | \(\int_{-\infty}^{\infty} f(x)\,dx = 1\) |
| 値の上限 | \(p(x) \le 1\) | \(f(x)\) は1を超えてもよい |
| 累積分布関数 | 階段状 | 連続、\(F'(x) = f(x)\) |
離散型の「和 \(\sum\)」が、連続型では「積分 \(\int\)」に置き換わる、と覚えておきましょう。この対応は次章以降でもずっと続きます。
まとめ¶
- 確率変数 は偶然によって値が決まる変数で、数学的には標本空間から実数への関数。その値の確率の割り当て方が 確率分布。
- 離散型は 確率関数 \(p(x) = P(X = x)\) で、連続型は 確率密度関数 \(f(x)\) で分布を表す。
- 連続型では1点の確率は0で、区間の確率は密度関数の 面積(積分)。密度は「幅をかけて確率になる量」。
- 累積分布関数 \(F(x) = P(X \le x)\) は離散・連続に共通の表し方で、\(P(a < X \le b) = F(b) - F(a)\)。
- 分位点 は累積分布関数の逆。中央値は 0.5 分位点。
練習問題¶
問題 5.1(大きい方の目)
2つのサイコロを振り、大きい方の目(同じなら その目)を \(X\) とします。\(X\) の確率関数を求めてください。
解答
\(P(X \le k) = P(\text{2つとも } k \text{ 以下}) = (k/6)^2 = k^2/36\) です。累積分布関数の差をとって
つまり \(1/36, 3/36, 5/36, 7/36, 9/36, 11/36\) です。合計は \(36/36 = 1\) で確かに確率関数になっています。
問題 5.2(確率関数の定数)
確率変数 \(X\) の確率関数が \(p(x) = cx\)(\(x = 1, 2, 3, 4\))で与えられています。定数 \(c\) と \(P(X \ge 3)\) を求めてください。
解答
\(c(1 + 2 + 3 + 4) = 10c = 1\) より \(c = 1/10\)。\(P(X \ge 3) = 3/10 + 4/10 = 7/10\)。
問題 5.3(密度関数の計算)
\(X\) の密度関数が \(f(x) = cx^2\)(\(0 \le x \le 3\))、それ以外では 0 とします。
(1) 定数 \(c\) を求めてください。 (2) 累積分布関数 \(F(x)\) を求めてください。 (3) \(P(1 \le X \le 2)\) を求めてください。 (4) 中央値を求めてください。
解答
(1) \(\int_0^3 cx^2\,dx = c\left[\frac{x^3}{3}\right]_0^3 = 9c = 1\) より \(c = 1/9\)。
(2) \(0 \le x \le 3\) で \(F(x) = \int_0^x \frac{t^2}{9}\,dt = \frac{x^3}{27}\)。\(x < 0\) で 0、\(x > 3\) で 1。
(3) \(F(2) - F(1) = \frac{8}{27} - \frac{1}{27} = \frac{7}{27} \approx 0.259\)。
(4) \(\frac{m^3}{27} = \frac{1}{2}\) より \(m = \frac{3}{\sqrt[3]{2}} \approx 2.38\)。
問題 5.4(分布関数から密度関数へ)
\(X\) の累積分布関数が \(F(x) = 1 - e^{-2x}\)(\(x \ge 0\))、\(F(x) = 0\)(\(x < 0\))で与えられています。密度関数と \(P(X > 1)\) を求めてください。
解答
\(x > 0\) で \(f(x) = F'(x) = 2e^{-2x}\)(\(x < 0\) では 0)。\(P(X > 1) = 1 - F(1) = e^{-2} \approx 0.135\)。 これは第8章で学ぶ 指数分布 です。
問題 5.5(考察)
確率関数の値 \(p(x)\) は必ず1以下なのに、密度関数の値 \(f(x)\) は1を超えることがあります。その理由を説明してください。
解答
\(p(x) = P(X = x)\) は確率そのものなので、確率の性質から1以下です。 一方 \(f(x)\) は確率ではなく「単位幅あたりの確率」です。確率になるのは \(f(x)\Delta x\) や \(\int_a^b f(x)\,dx\) のように 幅をかけたもの なので、 値が狭い範囲に集中していれば、面積を1に保つために高さ \(f(x)\) は1より大きくなります(例:\([0, 0.1]\) 上の一様分布の密度は10)。