我們所要講的機率論和大家在大學時期上課所學到的機率論可能有些不同. 機率論是一門建立在測度論上的數學分支, 而大家平時所學習的極有可能是初等機率論. 因此, 這個系列的文章要求大家具備一定的數學分析基礎

基本事件空間

定義 1. 我們把只涉及有限個事件機率的那一部分機率論稱為初等機率論

考慮某項試驗, 其結果在某一組條件下可以由有限個不同的結局 w_{1}, w_{2}, ..., w_{n} 來描繪. 關於這些結局的實際本性我們並不關心, 或者不太重要, 重要的是不同結局的個數 n 是一個有限數. 我們把這些結局 w_{1}, w_{2}, ..., w_{n} 稱作基本事件. 而把一切結局的全體

\Omega = \left \{ w_{1}, w_{2}, ..., w_{n} \right \}

稱作有限基本事件空間或樣本空間

引入基本事件空間的概念, 是形成不同試驗的機率模型的第一步

例題 1. 對於 "擲一枚硬幣", 不考慮 "硬幣在棱上立著" 和 "硬幣丟失" 等特殊情況, 那麼其基本事件空間由兩個點構成 :

\Omega = \left \{H, T \right \}

其中, H 表示正面 (Head), T 表示反面 (Tail)

例題 2. 將一枚硬幣重複擲 n 次, 其基本事件空間為

\Omega = \left \{ \omega : \omega = (a_{1}, a_{2}, ..., a_{n}) \right \}

其中, a_{i} \in \left \{ H, T \right \} (i = 1, 2, ..., n). 其基本事件總數 card\Omega = 2^{n}

例題 3. 首先擲一枚硬幣, 若硬幣擲出正面, 則擲一枚六面分別刻有 1, 2, 3, 4, 56 的骰子; 否則, 再擲一次硬幣. 那麼, 該試驗的基本空間為

\Omega = \left \{H1, H2, H3, H4, H5, H6, TH, TT \right \}

一般來說, 我們不提試驗在某個條件下進行, 而是預設這樣的條件存在. 例如在上述試驗中, 我們假定了 "硬幣不會丟失" 這樣的情況. 然而, 對於初等機率論來說, 條件同樣是重要的, 因為不同的條件對同一試驗也可能導致其結果的不同, 也就是產生完全不同的機率模型和理論

隨機抽樣

例題 4. (放回抽樣) 從含有 n 個球的箱子中, 抽取 m 個球. 如果每次將抽到的球在下一次抽球之前放回箱子中, 那麼試驗稱為放回抽樣. 這時, 由 m 個球形成的每一個樣本可以表示為向量 (a_{1}, a_{2}, ..., a_{m}). 其中, a_{i} (i = 1, 2, ..., m) 是第 i 次抽到球的編號. 顯然地, 對於放回抽樣, 每個 a_{i} 可以是 1, 2, ..., n 中任意一個數. 習慣上, 我們將抽樣分為兩種情況 : 有序抽樣和無序抽樣. 在前一種情形上, 由同一些元素組成的兩個樣本, 只要其中存在元素前後順序有所不同, 即視為不同樣本; 在後一種情形下, 不管元素是以什麼順序排放, 只要由相同元素組成, 都視為同一樣本. 對於有序樣本, 我們將使用記號 (a_{1}, a_{2}, ..., a_{m}); 對於無需樣本, 我們記作 [a_{1}, a_{2}, ..., a_{m}]. 於是, 放回有序抽樣的基本事件空間具有如下構造 :

\Omega  = \left \{ \omega : \omega = (a_{1}, a_{2}, ..., a_{m}), a_{i} = 1, 2, ..., n\ (i = 1, 2, ..., m) \right \}

除此之外, card\Omega = n^{m}, 即組合分析中的自 n 個元素中選 m 個元素且允許重複置換的總數. 放回無需樣本的基本事件空間為

\Omega  = \left \{ \omega : \omega = [a_{1}, a_{2}, ..., a_{m}], a_{i} = 1, 2, ..., n\ (i = 1, 2, ..., m) \right \}

即排列組合中的自 n 個元素選 m 個切允許重複的組合

引理 1. 對於放回無需樣本的基本事件空間 \Omega, 有 card\Omega = \begin {pmatrix} m \\ n + m - 1 \end {pmatrix}. 其中, \begin {pmatrix} l \\ k \end {pmatrix} 是自 k 個元素中取 l 個元素的組合數 :

\begin {pmatrix} k \\ l \end {pmatrix} = \frac {k!}{l!(k - l)!}

:

我們使用歸納法進行證明. 首先記 N(n, m) 表示從 n 個元素中選 m 個且允許重複的結局個數, 即 card\Omega = N(n, m)

n = 1 時, card\Omega = \begin {pmatrix} 1 \\ n \end {pmatrix} = n = N(n, 1). 此時, 引理成立

不妨假設當 n \leq k 時, card\Omega = \begin {pmatrix} m \\ n + m - 1 \end {pmatrix}

n = k + 1 時, 不是一般性, 對於無序樣本 [a_{1}, a_{2}, ..., a_{n}], 我們假設其順序為廣義單調增加的 : a_{1} \leq a_{2} \leq ... \leq a_{k} \leq a_{k + 1}. 考慮 N(n, m) : 當第一個元素被選中的時候, 則必有 a_{1} = 1; 當第一個元素未被選中但是第二個元素被選中的時候, 則必有 a_{1} = 2; ...; 當僅有最後一個元素被選中的時候, 則 a_{1} = n. 那麼, N(n, m) 是上述所有可能之和. 故有

\begin {aligned} N(n, k + 1) &= N(n, k) + N(n - 1, k) + ... + N(1, k) \\ &= \begin {pmatrix} k \\ n + k - 1 \end {pmatrix} + \begin {pmatrix} k \\ n + k - 2 \end {pmatrix} + ... + \begin {pmatrix} k \\ k \end {pmatrix} \end {aligned}

根據 \begin {pmatrix} l - 1 \\ k \end {pmatrix} + \begin {pmatrix}l \\ k \end {pmatrix} = \begin {pmatrix} l \\ k + 1 \end {pmatrix}, 於是有

\begin {aligned} N(n, k + 1) = &\left( \begin {pmatrix} k + 1 \\ n + k \end {pmatrix} - \begin {pmatrix} k + 1 \\ m + k - 1 \end {pmatrix} \right) + \\ &\left( \begin {pmatrix} k + 1 \\ m + k - 1 \end {pmatrix} - \begin {pmatrix} k + 1 \\ m + k - 2 \end {pmatrix} \right) + \\ &... + \\ &\left( \begin {pmatrix} k + 1 \\ k + 1 \end {pmatrix} - \begin {pmatrix} k \\ k \end {pmatrix} \right) + \begin {pmatrix} k \\ k \end {pmatrix} = \begin {pmatrix} k + 1 \\ n + k \end {pmatrix} \end {aligned}

而根據假設, card\Omega = \begin {pmatrix} k + 1 \\ n + k \end {pmatrix} = N(n, k + 1), 故當 n = k + 1 時, 結論仍然成立

綜上所述, 引理成立

\blacksquare

例題 5. (不放回抽樣) 從含有 n 個不同球的箱子中, 抽取 m 個球 (n \leq m). 若將抽到的球保留下來而不放回, 則稱試驗為不放回抽樣. 我們同樣將抽法分為有序抽樣和無序抽樣. 對於不放回有序抽樣, 即組合分析中的從 n 個元素中選 m 個有序無重複排列, 其基本事件空間為

\Omega = \left \{ \omega : \omega = (a_{1}, a_{2}, ..., a_{m}), a_{k} \neq a_{l}, k \neq l, a_{i} = 1, 2, ..., n\ (i = 1, 2, ..., m) \right \}

而 \Omega 中的元素數量 card\Omega = n(n - 1)...(n - m + 1). 我們記 (n)_{m} = n(n - 1)...(n - m + 1)A^{m}_{n} = n(n - 1)...(n - m + 1), 並稱 (n)_{m}A^{m}_{n} 為自 n 個元素中選 m 個的排列數. 對於不放回無序抽樣, 即組合分析中的從 n 個元素中選取 m 個無重複的置換, 其基本事件空間為

\Omega = \left \{ \omega : \omega = [a_{1}, a_{2}, ..., a_{m}], a_{k} \neq a_{l}, k \neq l, a_{i} = 1, 2, ..., n\ (i = 1, 2, ..., m) \right \}

其中, card\Omega = \begin {pmatrix}m \\ n \end {pmatrix}

事實上, 由 m 個不同元素組成的無序陣列 [a_{1}, a_{2}, ..., a_{m}] 恰好可以得到 m! 個有序陣列, 從而有

(n)_{m} = card\Omega \times m! \Rightarrow card\Omega = \frac {(n)_{m}}{m!} = \begin {pmatrix} m \\ n \end {pmatrix}

如果自含有 n 個球的箱子中選擇 m 個球, 那麼可以將不同結局的個數歸納為

抽樣方式 不同抽法總數
放回 有序 n^{m}
無序 \begin {pmatrix} m \\ n + m - 1 \end {pmatrix}
不放回 有序 (n)_{m}
無序 \begin {pmatrix}m \\ n \end {pmatrix}

在試驗的結果中, 試驗者一般不關心究竟出現了哪種具體的結局, 而關心出現的結局屬於一切結局集合的哪一個子集. 滿足試驗條件的一切子集 A \subseteq \Omega, 分為兩種類型 : "結局 \omega \in A" 或 "結局 \omega \notin A". 我們稱這樣的子集 A 為事件. 若某一組條件使得部分試驗結果確定, 那麼此時子集 A 不能再稱為事件, 因為對於試驗的具體結局 \omega 是否屬於 A 不能再確定

事件的關係與運算

從給定的事件的某一組集合出發, 經過變換可以形成一些新事件. 這些變換可以使用邏輯語言中的 "或"、"與" 和 "非" 來表述, 也可以使用集合論中的 "聯"、"交" 和 "補" 來表述

對於兩個集合 AB, 稱

A \cup B = A + B = \left \{ \omega \in \Omega : \omega \in A\ 或\ \omega \in B \right \}

為集合 AB 的聯集, 表示屬於集合 AB 的點形成的集合. 用機率論的語言, A + B 表示事件 \left \{ 事件\ A\ 與\ B\ 至少發生一個 \right \}

對於兩個集合 AB, 稱

A \cap B = A \times B = AB = \left \{ \omega \in \Omega : \omega \in A\ 且\ \omega \in B \right \}

為集合 AB 的交集, 表示既屬於集合 A 同時又屬於集合 B 的點形成的集合. 用機率論的語言, AB 表示事件 \left \{ 事件\ A\ 與\ B\ 同時發生 \right \}

如果集合 A\Omega 的子集, 則稱 A^{C} = \left \{ \omega \in \Omega : \omega \notin A \right \} 為集合 A 的補集, 表示 \Omega 中不屬於集合 A 的點的集合

屬於集合 B 但不屬於集合 A 的點的集合稱作集合 BA 的差, 記作 B\ \backslash\ A. 那麼, A^{C} = \Omega\ \backslash\ A. 用機率論的語言, A^{C} 表示事件 \left \{ A\ 不發生 \right \}

一般, 我們使用 \emptyset 來表示空集. 在機率論中, 它被稱作不可能事件, 集合 \Omega 自然稱作必然事件. 集合 A 與集合 A^{C} 沒有共同點, 故有 A \times A^{C} = \emptyset

事件代數

考慮集合 A \subseteq \Omega 的某個集族 (集合的集合) \mathscr {A}_{0}, 通過集合運算, 我們可以由 \mathscr {A}_{0} 來構造新的集族, 其中的元素同樣是事件. 給這些事件補充上必然事件 \Omega 和不可能事件 \emptyset, 得到新的集族 \mathscr {A}. 我們稱集族 \mathscr {A} 為代數或事件代數. 根據上述描述, 一個代數 \mathscr {A}, 滿足

  • 必然事件 \Omega \in \mathscr {A}
  • 若集合 A \in \mathscr {A} 且集合 B \in \mathscr {A}, 那麼A + B \in \mathscr {A}, A \times B \in \mathscr {A}A\ \backslash\ B \in \mathscr {A}

其中, 對於不可能事件 \emptyset, 隱含地, 有 \emptyset \in \mathscr {A}

我們稱由必然事件 \Omega 和不可能事件 \emptyset 兩者所構成的集族

\mathscr {A} = \left \{ \Omega, \emptyset \right \}

為平凡代數

對於集族

\mathscr {D} = \left \{ D_{1}, D_{2}, ..., D_{n} \right \}

若有

  1. D_{i} \neq \emptyset\ (i = 1, 2, ..., n)
  2. D_{i}D_{j} = \emptyset\ (i, j = 1, 2, ..., n, i \neq j)
  3. D_{1} + D_{2} + ... + D_{n} = \Omega

那麼稱集族 \mathscr {D} 構成集合 \Omega 的一個分割, D_{i}\ (i = 1, 2, ..., n) 為該分割的一個原子

如果考慮 \mathscr {D} 中的一切集合的聯連同空集, 根據代數的定義, 得到的這個集族是一個代數, 稱這個代數是由 \mathscr {D} 產生的, 記作 \alpha(\mathscr {D}). 於是, 代數 \alpha(\mathscr {D}) 的元素由空集 \emptyset 與分割 \mathscr {D} 的原子中集合之和組成. 即對於分割 \mathscr {D} = \left \{ D_{1}, D_{2}, ..., D_{n} \right \}, 有

\begin {aligned} \alpha(\mathscr {D}) = \{ &D_{1}, D_{2}, ..., D_{n}, \Omega, \emptyset, \\ &D_{i} + D_{j}\ (i, j = 1, 2, ..., n, i \neq j), \\ &D_{i} + D_{j} + D_{k}\ (i, j, k = 1, 2, ..., n, i \neq j \neq k), \\ &..., \\ &D_{i_{1}} + D_{i_{2}} + ... + D_{i_{n - 1}}\ (i_{1}, i_{2}, ..., i_{n - 1} = 1, 2, ..., n, i_{1} \neq i_{2} \neq ... \neq i_{n - 1}) \} \end {aligned}

總結上述描述, 我們可以得到 :

定理 1. 如果 \mathscr {D}\Omega 的某一分割, 則它與代數 \mathscr {B} = \alpha(\mathscr {D}) 一一對應

其逆命題同樣正確 :

定理 1'.\mathscr {B} 是有限空間 \Omega 的子集的代數, 則存在唯一分割 \mathscr {D}, 其原子是代數 \mathscr {B} 的分割, 並且 \mathscr {B} = \alpha(\mathscr {D})

:

假設集合 D \in \mathscr {B}, 且對任意 B \in \mathscr {B}, 有

D \times B = DD \times B = \emptyset

那麼, 這樣的集合 D 的全體組成了分割 \mathscr {D}, 且

\mathscr {B} = \alpha(\mathscr {D})

\blacksquare

對於兩個分割 \mathscr {D}_{1}\mathscr {D}_{2}, 若 \alpha(\mathscr {D}_{1}) \subset \alpha(\mathscr {D}_{2}), 那麼我們說分割 \mathscr {D}_{1}\mathscr {D}_{2} 更細緻, 記作 \mathscr {D}_{1} \preccurlyeq \mathscr {D}_{2}

定理 2. 設空間 \Omega = \left \{ \omega_{1}, \omega_{2}, ..., \omega_{n} \right \}, \mathscr {A} = \left \{ A : A \subseteq \Omega \right \}, 則 card\mathscr {A} = 2^{n}

:

對於任意 A \in \mathscr {A}, 我們可以將其表示為 A = \left \{ \omega_{i_{1}}, \omega_{i_{2}}, ..., \omega_{i_{k}} \right \}. 其中, 1 \leq k \leq n, w_{i_{j}} \in \Omega\ (j = 1, 2, ..., k), 現構造一個關於集合 A 的序列

(\mu(\omega_{1}), \mu(\omega_{2}), ..., \mu(\omega_{n}))

其中, \mu(x) 是集合 A 的特徵函數. 那麼序列可以表示為

(0, 0, ..., 0, 1, 0, 0, ..., 0, 1, ...)

對於固定的 k, 形如 A = \left \{ \omega_{i_{1}}, \omega_{i_{2}}, ..., \omega_{i_{k}} \right \} (1 \leq k \leq n) 這樣不同的集合 A 的總數, 等同於將 k1 放入 n 個位置, 即不放回的無序抽樣. 那麼有

card\mathscr {A} = \sum \limits_{k = 1}^{n} \begin {pmatrix} k \\ n \end {pmatrix} + 1 = 1 + \begin {pmatrix} 1 \\ n \end {pmatrix} + \begin {pmatrix} 2 \\ n \end {pmatrix} + ... + \begin {pmatrix} n \\ n \end {pmatrix} = 2^{n}

其中, 多出來的一個為空集 \emptyset

\blacksquare

機率空間

目前, 我們引入了基本事件空間 \Omega, 並對 \Omega 的子集建立了代數體系 \mathscr {A}, 其中的子集稱作事件. 有時, 我們將 \mathscr {C} = (\Omega, \mathscr {A}) 等同於試驗. 現賦予每一個基本事件 \omega_{i} \in \Omega 某種權, 記作 p(\omega_{i})p_{i}, 我們稱這種權為基本事件 \omega 的機率. 對於基本事件空間 \Omega = \left \{ \omega_{1}, \omega_{2}, ..., \omega_{n} \right \}, 假設 p(\omega_{i})\ (i = 1, 2, ..., n) 滿足條件 :

  • 0 \leq p(\omega_{i}) \leq 1 (非負性)
  • p(\omega_{1}) + p(\omega_{2}) + ... + p(\omega_{n}) = \sum \limits_{i = 1}^{n}p(\omega_{i}) = 1 (規範性)

從給定的基本事件 \omega_{i} 的機率 p(\omega_{i}) 出發 (i = 1, 2, ..., n), 按

P(A) = \sum \limits_{\left \{ i\ :\ \omega_{i} \in A \right \}} p(\omega_{i})

定義任意事件 A \in \mathscr {A} 的機率

定義 1. 通常稱

(\Omega, \mathscr {A}, P)

為機率空間. 其中, \Omega = \left \{ \omega_{1}, \omega_{2}, ..., \omega_{n} \right \}, \mathscr {A}\Omega 的子集的代數, 而 P = \left \{ P(A) : A \in \mathscr {A} \right \}

機率空間定義了只有有限種可能基本事件的隨機試驗的機率模型. 根據機率空間的定義, 我們顯然可以得到 :

  1. P(\left \{ \omega_{i} \right \}) = p(\omega_{i}) (i = 1, 2, ..., n)
  2. P(\emptyset) = 0
  3. P(\Omega) = 1
  4. P(A + B) = P(A) + P(B) - P(AB). 特別地, 若 A \times B = \emptyset, 那麼有

    P(A + B) = P(A) + P(B)

  5. P(A^{C}) = 1 - P(A)

古典的機率

在一些具體的情形下建立機率模型時, 給出基本事件空間 \Omega 和代數 \mathscr {A} 一般不太不複雜. 在初等機率論中, 我們一般用 \Omega 的全體子集的代數當作代數 \mathscr {A}. 苦難的是定義基本事件的機率, 但是這已經超出了機率論的範疇. 我們的基本任務並不是去賦予每一個試驗基本事件的機率, 而是根據基本事件的機率去計算合成事件 (仍在 \mathscr {A} 中) 的機率

鑒於賦予試驗基本事件以機率值的困難, 我們指出, 存在許多實際情形, 在這些情形下由於對稱性或者均衡性, 那麼把一切可能出現的基本事件視為等可能事件是合理的. 根據上述描述, 設基本事件空間 \Omega = \left \{ \omega_{1}, \omega_{2}, ..., \omega_{n} \right \}, 則有

p(\omega_{1}) = p(\omega_{2}) = ... = p(\omega_{n}) = \frac {1}{n}

從而針對任意事件 A \in \mathscr {A}, 有

P(A) = \frac {cardA}{n}

這時, 求機率 P(A) 歸結為計算導致事件 A 的基本事件的個數. 這種求機率的方法, 我們稱作古典的機率方法

例題 6. (重合問題) 假設有 n 個球, 編號分別為 1, 2, ..., n. 進行 m 次放回抽樣, 並且認為樣本是有序的. 此時, 基本事件空間

\Omega  = \left \{ \omega : \omega = (a_{1}, a_{2}, ..., a_{m}), a_{i} = 1, 2, ..., n\ (i = 1, 2, ..., m) \right \}

card\Omega = n^{m}

根據古典的機率方法, 我們認為所有 n^{m} 個結局都是等可能的. 那麼事件 A = \{ \omega : \omega = (a_{1}, a_{2}, ..., a_{k}), a_{k} = 1, 2, ..., n\ (k = 1, 2, ..., n), a_{i} \neq a_{j}, i, j = 1, 2, ..., m, i \neq j \} 發生的機率如何?

:

顯然, cardA = (n)_{m} = n \cdot (n - 1) \cdot ... \cdot (n - m + 1), 故

P(A) = \frac {cardA}{n^{m}} = \frac {n \cdot (n - 1) \cdot ... \cdot (n - m + 1)}{n^{m}}

\blacksquare

例題 6'. 假設某一班中有 n 名學生, 每個學生的生日在一年的 365 天當中任意一天是等可能的. 那麼 n 個學生中至少有兩個人的生日在同一天的機率如何?

:

P_{365}(n)n 名學生中至少有兩個人的生日在同一天的機率, 事件 A 表示在這 n 名學生中, 每個人的生日都不在同一天, 則

P_{365}(n) = 1 - P(A) = P(A^{C}) = 1 - \frac {(365)_{n}}{365^{n}}

\blacksquare

為了計算例題 6 中的 P(A), 我們一般進行近似. 首先

\begin {aligned} \lim \limits_{n \to \infty} \left(-cn\ln {(1 - \frac {c}{n})} \right ) &= \lim \limits_{n \to \infty} \frac {\ln {(1 - \frac {c}{n})}}{-\frac {c}{n}} \\ &= \lim \limits_{t \to 0}\frac {\ln {(1 - ct)}}{-ct}\ (令\ t = \frac {1}{n}) \\ &= \lim \limits_{u \to 0}\frac {\ln {(1 + u)}}{u}\ (令\ u = -ct) = 1 \end {aligned}

P(A) 兩側取自然對數, 可得

\ln {P(A)} = \ln {\prod \limits_{i = 1}^{m - 1}(1 - \frac {i}{n})} = \sum \limits_{i = 1}^{m - 1}\ln(1 - \frac {i}{n})

由於

\begin {aligned} \lim \limits_{n \to \infty}(-cn\ln {(1 - \frac {c}{n})}) &= \lim \limits_{n \to \infty} \frac {\ln {(1 - \frac {c}{n})}}{-\frac {c}{n}} \\ &= \lim \limits_{t \to 0}\frac {\ln {(1 - ct)}}{-ct}\ (令\ t = \frac {1}{n}) \\ &= \lim \limits_{u \to 0}\frac {\ln {(1 + u)}}{u}\ (令\ u = -ct) = 1 \end {aligned}

\lim \limits_{n \to \infty} \frac {\sum \limits_{i = 1}^{m - 1}\ln {(1 - \frac {i}{n})}}{-\frac {1}{n}\sum \limits_{i = 1}^{m - 1}i} = 1

對於充分大的 n, 有

\ln {P(A)} \doteq -\frac {1}{n} \sum \limits_{i = 1}^{m - 1}i = -\frac {m(m - 1)}{2n}

P(A) = \frac {(n)_{m}}{n^{m}} \doteq e^{-\frac {m(m - 1)}{2n}}

通過計算, 我們發現一個與期望相反的有趣事實, 在例題 6' 中, 當 n = 23 時, n 名學生中至少有兩個人的生日在同一天的機率就已經達到了 \frac {1}{2}

例題 7. (抽彩問題) 假設總共有 n 張編號為 1, 2, ..., n 的彩票, 其中編號為 1, 2, ..., m (n \geq 2m) 的中彩. 一人買 m 張彩票, 問至少有一張中獎的機率如何?

:

由描述可知, 抽彩問題的基本事件空間為

\Omega = \{ \omega : \omega = [a_{1}, a_{2}, ..., a_{m}], a_{k} \neq a_{l}, k, l = 1, 2, ..., m, k \neq l, a_{i} = 1, 2, ..., n\ (i = 1, 2, ..., m) \}

card\Omega = \begin {pmatrix} m \\ n \end {pmatrix}

設事件 A 表示 m 張彩票沒有一張中獎, 則事件 A^{C} 表示至少有一張中獎, 即

A = \{ \omega : \omega = [a_{1}, a_{2}, ..., a_{m}], a_{k} \neq a_{l}, k, l = 1, 2, ..., m, k \neq l, a_{i} = m + 1, m + 2, ..., n\ (i = 1, 2, ..., m) \}

於是有 cardA = \begin {pmatrix} m \\ n - m \end {pmatrix}

綜上所述,

P(A^{C}) = 1 - P(A) = 1 - \frac {\begin {pmatrix} m \\ n - m \end {pmatrix}}{\begin {pmatrix} m \\ n \end {pmatrix}} = 1 - \frac {(n - m)_{m}}{(n)_{m}}

\blacksquare

例題 7 中, 如果 n = m^{2}n \to \infty, 則 P(A^{C}) \to 1 - \frac {1}{e}. 其收斂的速度相當快 : 當 n = 10 的時候, 機率已經達到了 0.670

練習

習題 1. (機率的半可加性) 證明 : 對於任意有限集族 A_{1}, A_{2}, ..., A_{n}, 有

P(A_{1} + A_{2} + ... + A_{n}) \leq P(A_{1}) + P(A_{2}) + ... + P(A_{n})

:

我們使用歸納法進行證明. 當 n = 1 時, P(A_{1}) \leq P(A_{1})

n = 2 時, 根據機率空間的定義, 有 P(A_{1} + A_{2}) = P(A_{1}) + P(A_{2}) - P(A_{1}A_{2}). 由於 P(A_{1}A_{2}) \geq 0, 故有 P(A_{1} + A_{2}) \leq P(A_{1}) + P(A_{2})

不妨設當 n \leq k 時, 有 P(A_{1} + A_{2} + ... + A_{k}) \leq P(A_{1}) + P(A_{2}) + ... + P(A_{k}) 成立

n = k + 1 時,

\begin {aligned} P(A_{1} + A_{2} + ... + A_{k} + A_{k + 1}) &= P(A_{1} + A_{2} + ... + A_{k}) + P(A_{k + 1}) - \\ &\ \ \ \ \ P((A_{1} + A_{2} + ... + A_{k})A_{k + 1}) \\ &\leq P(A_{1} + A_{2} + ... + A_{k}) + P(A_{k + 1}) \\ &\leq P(A_{1} + A_{2} + ... + A_{k - 1}) + P(A_{k}) + P(A_{k + 1}) \\ &\leq ... \\ &\leq P(A_{1}) + P(A_{2}) + ... + P(A_{k}) + P(A_{k + 1})\end {aligned}

綜上所述, 對於任意有限集族 A_{1}, A_{2}, ..., A_{n}, 有

P(A_{1} + A_{2} + ... + A_{n}) \leq P(A_{1}) + P(A_{2}) + ... + P(A_{n})

\blacksquare

習題 2. 證明 : 對於有限集族 A_{1}, A_{2}, ..., A_{n}, 有

P(A_{1}A_{2}...A_{n}) \geq P(A_{1}) + P(A_{2}) + ... + P(A_{n}) - (n - 1)

:

我們使用歸納法進行證明. 當 n = 1 時, P(A_{1}) \geq P(A_{1})

n = 2 時, 根據機率空間的定義, 有 P(A_{1}A_{2}) = P(A_{1}) + P(A_{2}) - P(A_{1} + A_{2}), 而 P(A_{1} + A_{2}) \leq 1, 故 P(A_{1}A_{2}) \geq P(A_{1}) + P(A_{2}) - 1)

不妨設當 n < k 時, 有 P(A_{1}A_{2}...A_{k}) \geq P(A_{1}) + P(A_{2}) + ... + P(A_{k}) - (k - 1)

n = k 時,

\begin {aligned} P(A_{1}A_{2}...A_{k}) &= P(A_{1}A_{2}...A_{k - 1}) + P(A_{k}) - P(A_{1}A_{2}...A_{k - 1} + A_{k}) \\ &\geq P(A_{1}A_{2}...A_{k - 1}) + P(A_{k}) - 1 \\ &\geq P(A_{1}A_{2}...A_{k - 2}) + P(A_{k - 1}) + P(A_{k}) - 2 \\ &\geq ... \\ &\geq P(A_{1}) + P(A_{2}) + ... + P(A_{k}) - (k - 1) \end {aligned}

因此當 n = k 時, 仍然有 P(A_{1}A_{2}...A_{n}) \geq P(A_{1}) + P(A_{2}) + ... + P(A_{n}) - (n - 1) 成立

綜上所述, 對於有限集族 A_{1}, A_{2}, ..., A_{n}, 有

P(A_{1}A_{2}...A_{n}) \geq P(A_{1}) + P(A_{2}) + ... + P(A_{n}) - (n - 1)

\blacksquare

自主習題 : 設有 A_{1}, A_{2}, ..., A_{n}, 而 S_{0}, S_{1}, S_{2}, ..., S_{n} 取決於

S_{r} = \begin {cases} 1 & {r = 0} \\ \sum \limits_{J_{r}}P(A_{k_{1}}A_{k_{2}}...A_{k_{r}}) & {1 \leq r \leq n} \end {cases}

其中, 求和是針對集合 \left \{ 1, 2, ..., n \right \} 的無序子集 J_{r} = [k_{1}, k_{2}, ..., k_{r}]\ (k_{i} \neq k_{j}, i, j = 1, 2, ..., r, i \neq j) 進行的

  1. B_{m} 表示事件 \left \{ 在\ A_{1}, A_{2}, ..., A_{n}\ 中必出現一個且只出現一個 \right \}. 證明 :

    P(B_{m}) = \sum \limits_{r = m}^{n}(-1)^{r - m} \begin {pmatrix} m \\ r \end {pmatrix}S_{r}

    特別地, 對於 m = 0,

    P(B_{0}) = 1 - S_{1} + S_{2} - ... \pm S_{n}

  2. 證明 : 事件 \left \{ A_{1}, A_{2}, ..., A_{n}\ 中有\ m\ 個同時出現\right \} 的機率為

    P(B_{m}) + P(B_{m + 1}) + ... + P(B_{n}) = \sum \limits_{r = m}^{n}(-1)^{r - m} \begin {pmatrix} m - 1 \\ r - 1 \end {pmatrix}S_{r}

    特別地, 事件 \left \{ A_{1}, A_{2}, ..., A_{n}\ 中至少出現一個 \right \} 的機率等於

    P(B_{1}) + P(B_{2}) + ... + P(B_{n}) = S_{1} - S_{2} + ... \mp S_{n}

  3. 證明下列性質 :
    1. Bonferroni 不等式 : 對於任意 k = 1, 2, ...\ (2k \leq n), 有

      S_{1} - S_{2} + ... - S_{2k} \leq P(\bigcup \limits_{i = 1}^{n}A_{i}) = S_{1} - S_{2} + ... + S_{2k - 1}

    2. J.H. Poincare 恆等式 : P(\bigcup \limits_{r = 1}^{n}A_{r}) = \sum \limits_{r = m}^{n}(-1)^{r - 1}S_{r}
    3. M. Fréshet 不等式 :

      \frac {S_{r + 1}}{\begin {pmatrix} r + 1 \\ n \end {pmatrix}} \leq \frac {S_{r}}{\begin {pmatrix} r \\ n \end {pmatrix}}

      其中, r = 0, 1, 2, ..., n - 1

    4. E.J. Gumbel 不等式 :

      \frac {\begin {pmatrix} r + 1 \\ n \end {pmatrix} - S_{r + 1}}{\begin {pmatrix} r \\ n - 1 \end {pmatrix}} \leq \frac {\begin {pmatrix} r \\ n \end {pmatrix} - S_{r}}{\begin {pmatrix} r - 1 \\ n - 1 \end {pmatrix}}

      其中, r = 1, 2, ..., n - 1