摘要訊息 : 有限種結局試驗的機率模型.
0. 前言
機率論是建立在測度論上的一個數學分支. 嚴格來說, 我們會將機率論分成初等機率論和現代機率論. 初等機率論是建立在分析有限個事件的機率之上的, 而現代機率論才是建立在測度論上的. 然而, 初等機率論和現代機率論是不可分的, 現代機率論同樣需要初等機率論的支持. 在機率論的文章中, 我們將循序漸進, 從初等機率論開始向現代機率論過渡.
更新紀錄 :
- 2022 年 6 月 4 日進行第一次更新和修正.
1. 基本事件空間
定義 1. 考慮某項試驗, 其結果在某一組條件下可以由有限個不同的結局 w_{1}, w_{2}, ..., w_{n} 來描繪. 關於這些結局的實際本性我們並不關心, 或者不太重要, 重要的是不同結局的個數 n 是一個有限數. 我們把這些結局 w_{1}, w_{2}, ..., w_{n} 稱作基本事件 (elementary events). 而把一切結局的全體 \displaystyle {\Omega = \left \{ w_{1}, w_{2}, ..., w_{n} \right \}} 稱作有限基本事件空間 (finite space of elementary events) 或樣本空間 (sample space).
引入基本事件空間的概念, 是建立不同試驗的機率模型的第一步.
例題 1. 對於 "擲一枚硬幣", 不考慮 "硬幣在棱上立著" 和 "硬幣丟失" 等特殊情況, 那麼其基本事件空間由兩個點構成 \displaystyle {\Omega = \left \{\mathrm {H}, \mathrm {T} \right \}}. 其中, \mathrm {H} 表示正面 (Head), \mathrm {T} 表示反面 (Tail).
例題 2. 將一枚硬幣重複擲 n 次, 其基本事件空間為 \displaystyle {\Omega = \left \{ \omega : \omega = (a_{1}, a_{2}, ..., a_{n}) \right \}}. 其中, a_{i} \in \left \{ \mathrm {H}, \mathrm {T} \right \} (i = 1, 2, ..., n). 其基本事件總數 \mathop {\mathrm {card}}{\Omega} = 2^{n}.
例題 3. 首先擲一枚硬幣, 若硬幣擲出正面, 則擲一枚六面分別刻有 1, 2, 3, 4, 5 和 6 的骰子; 否則, 再擲一次硬幣. 那麼, 該試驗的基本空間為 \displaystyle {\Omega = \left \{ \mathrm {H1}, \mathrm {H2}, \mathrm {H3}, \mathrm {H4}, \mathrm {H5}, \mathrm {H6}, \mathrm {TH}, \mathrm {TT} \right \}}.
一般來說, 我們不提試驗在某個條件下進行, 而是預設這樣的條件存在. 例如在上述試驗中, 我們假定了 "硬幣不會丟失" 和 "硬幣不會立起來" 這樣的情況. 然而, 對於初等機率論來說, 條件同樣是重要的, 因為不同的條件對同一試驗也可能導致其結果的不同, 也就是產生完全不同的機率模型和理論.
2. 隨機抽樣
例題 4. (放回抽樣) 從含有 n 個球的箱子中, 抽取 m 個球. 如果每次將抽到的球在下一次抽球之前放回箱子中, 那麼試驗稱為放回抽樣. 這時, 由 m 個球形成的每一個樣本可以表示為向量 (a_{1}, a_{2}, ..., a_{m}). 其中, a_{i} (i = 1, 2, ..., m) 是第 i 次抽到球的編號. 顯然地, 對於放回抽樣, 每個 a_{i} 可以是 1, 2, ..., n 中任意一個數. 習慣上, 我們將抽樣分為兩種情況 : 有序抽樣和無序抽樣. 在前一種情形上, 由同一些元素組成的兩個樣本, 只要其中存在元素前後順序有所不同, 即視為不同樣本; 在後一種情形下, 不管元素是以什麼順序排放, 只要由相同元素組成, 都視為同一樣本. 對於有序樣本, 我們將使用記號 (a_{1}, a_{2}, ..., a_{m}); 對於無需樣本, 我們記作 [a_{1}, a_{2}, ..., a_{m}]. 於是, 放回有序抽樣的基本事件空間具有如下構造 \displaystyle {\Omega = \left \{ \omega : \omega = (a_{1}, a_{2}, ..., a_{m}), a_{i} = 1, 2, ..., n \ (i = 1, 2, ..., m) \right \}}. 除此之外, \mathop {\mathrm {card}}{\Omega} = n^{m}, 即組合分析中的自 n 個元素中選 m 個元素且允許重複置換的總數. 放回無需樣本的基本事件空間為 \displaystyle {\Omega = \left \{ \omega : \omega = [a_{1}, a_{2}, ..., a_{m}], a_{i} = 1, 2, ..., n \ (i = 1, 2, ..., m) \right \}}, 即排列組合中的自 n 個元素選 m 個切允許重複的組合.
引理 1. 對於放回無需樣本的基本事件空間 \Omega, 有 \mathop {\mathrm {card}}{\Omega} = \binom {m}{n + m - 1}. 其中, \binom {l}{k} 是自 k 個元素中取 l 個元素的組合數 \displaystyle {\binom {k}{l} = \frac {k!}{l!(k - l)!}}.
證明 :我們使用歸納法進行證明. 首先記 N(n, m) 表示從 n 個元素中選 m 個且允許重複的結局個數, 即 \mathop {\mathrm {card}}{\Omega} = N(n, m).
當 n = 1 時, \mathop {\mathrm {card}}{\Omega} = \binom {1}{n} = n = N(n, 1). 此時, 引理成立.
不妨假設當 n \leq k 時, 有 \mathop {\mathrm {card}}{\Omega} = \binom {m}{n + m - 1} 成立.
當 n = k + 1 時, 不失一般性, 對於無序樣本 [a_{1}, a_{2}, ..., a_{n}], 我們假設其順序為廣義單調增加的, 即 a_{1} \leq a_{2} \leq ... \leq a_{k} \leq a_{k + 1}. 考慮 N(n, m). 當第一個元素被選中的時候, 則必有 a_{1} = 1; 當第一個元素未被選中但是第二個元素被選中的時候, 則必有 a_{1} = 2; ...; 當僅有最後一個元素被選中的時候, 則 a_{1} = n. 那麼, N(n, m) 是上述所有可能之和. 故有 \displaystyle {\begin {aligned} N(n, k + 1) &= N(n, k) + N(n - 1, k) + ... + N(1, k) \\ &= \binom {k}{n + k - 1} + \binom {k}{n + k - 2} + ... + \binom {k}{k}. \end {aligned}} 根據 \binom {l - 1}{k} + \binom {l}{k} = \binom {l}{k + 1}, 於是有 \displaystyle {\begin {aligned} N(n, k + 1) &= \left ( \binom {k + 1}{n + k} - \binom {k + 1}{m + k - 1} \right ) + \left ( \binom {k + 1}{m + k - 1} - \binom {k + 1}{m + k - 2} \right ) + \\ &\ \ \ \ \ \ \ ... + \left ( \binom {k + 1}{k + 1} - \binom {k}{k} \right ) + \binom {k}{k} \\ &= \binom {k + 1}{n + k}. \end {aligned}} 而根據假設, \mathop {\mathrm {card}}{\Omega} = \binom {k + 1}{n + k} = N(n, k + 1). 故當 n = k + 1 時, 仍然有 \mathop {\mathrm {card}}{\Omega} = \binom {m}{n + m - 1} 成立.
綜上所述, 對於放回無需樣本的基本事件空間 \Omega, 有 \mathop {\mathrm {card}}{\Omega} = \binom {m}{n + m - 1}.
\blacksquare
例題 5. (不放回抽樣) 從含有 n 個不同球的箱子中, 抽取 m 個球 (n \leq m). 若將抽到的球保留下來而不放回, 則稱試驗為不放回抽樣. 我們同樣將抽法分為有序抽樣和無序抽樣. 對於不放回有序抽樣, 即組合分析中的從 n 個元素中選 m 個有序無重複排列, 其基本事件空間為 \displaystyle {\Omega = \left \{ \omega : \omega = (a_{1}, a_{2}, ..., a_{m}), a_{k} \neq a_{l}, k \neq l, a_{i} = 1, 2, ..., n \ (i = 1, 2, ..., m) \right \}}. 而 \Omega 中的元素數量 \mathop {\mathrm {card}}{\Omega} = n(n - 1)...(n - m + 1). 我們記 (n)_{m} = n(n - 1)...(n - m + 1) 或 A^{m}_{n} = n(n - 1)...(n - m + 1), 並稱 (n)_{m} 或 A^{m}_{n} 為自 n 個元素中選 m 個的排列數 (the number of arrangements). 對於不放回無序抽樣, 即組合分析中的從 n 個元素中選取 m 個無重複的置換, 其基本事件空間為 \displaystyle {\Omega = \left \{ \omega : \omega = [a_{1}, a_{2}, ..., a_{m}], a_{k} \neq a_{l}, k \neq l, a_{i} = 1, 2, ..., n \ (i = 1, 2, ..., m) \right \}}. 其中, \mathop {\mathrm {card}} = \binom {m}{n}.
事實上, 由 m 個不同元素組成的無序陣列 [a_{1}, a_{2}, ..., a_{m}] 恰好可以得到 m! 個有序陣列, 從而有 \displaystyle {(n)_{m} = \mathop {\mathrm {card}}{\Omega} \times m! \Rightarrow \mathop {\mathrm {card}}{\Omega} = \frac {(n)_{m}}{m!} = \binom {m}{n}}.
如果自含有 n 個球的箱子中選擇 m 個球, 那麼可以將不同結局的個數歸納為
抽樣方式 | 不同抽法總數 | |
放回 | 有序 | n^{m} |
無序 | \binom {m}{n + m - 1} | |
不放回 | 有序 | (n)_{m} |
無序 | \binom {m}{n} |
3. 事件的關係與運算
在試驗的結果中, 試驗者一般不關心究竟出現了哪種具體的結局, 而關心出現的結局屬於一切結局集合的哪一個子集. 滿足試驗條件的一切子集 A \subseteq \Omega, 分為兩種類型 : "結局 \omega \in A" 或 "結局 \omega \notin A". 我們稱這樣的子集 A 為事件 (event). 若某一組條件使得部分試驗結果確定, 那麼此時子集 A 不能再稱為事件, 因為對於試驗的具體結局 \omega 是否屬於 A 不能再確定.
對於兩個集合 A 和 B, 稱 \displaystyle {A \cup B = A + B = \left \{ \omega \in \Omega : \omega \in A \text { 或 } \omega \in B \right \}} 為集合 A 與 B 的聯集 (union), 表示屬於集合 A 或 B 的點形成的集合. 用機率論的語言, A + B 表示事件 \left \{ \text {事件 } A \text { 與 } B \text { 至少發生一個} \right \}.
對於兩個集合 A 和 B, 稱 \displaystyle {A \cap B = A \times B = AB = \left \{ \omega \in \Omega : \omega \in A \text { 且 } \omega \in B \right \}} 為集合 A 與 B 的交集 (intersection), 表示既屬於集合 A 同時又屬於集合 B 的點形成的集合. 用機率論的語言, AB 表示事件 \left \{ \text {事件 } A \text { 與 } B \text { 同時發生} \right \}.
如果集合 A 是 \Omega 的子集, 則稱 A^{C} = \left \{ \omega \in \Omega : \omega \notin A \right \} 為集合 A 的補集 (complement), 表示 \Omega 中不屬於集合 A 的點的集合.
屬於集合 B 但不屬於集合 A 的點的集合稱作集合 B 與 A 的差 (difference), 記作 B \backslash A. 那麼, A^{C} = \Omega \backslash A. 用機率論的語言, A^{C} 表示事件 \left \{ A \text { 不發生 } \right \}.
一般, 我們使用 \emptyset 來表示空集. 在機率論中, 它被稱作不可能事件 (impossible event), 集合 \Omega 自然稱作必然事件 (certain event). 集合 A 與集合 A^{C} 沒有共同點, 故有 A \times A^{C} = \emptyset.
4. 事件代數
考慮集合 A \subseteq \Omega 的某個集族 (collections of sets, 集合的集合) \mathscr {A}_{0}, 通過集合運算, 我們可以由 \mathscr {A}_{0} 來構造新的集族, 其中的元素同樣是事件. 給這些事件補充上必然事件 \Omega 和不可能事件 \emptyset, 得到新的集族 \mathscr {A}. 我們稱集族 \mathscr {A} 為代數 (algebra) 或事件代數 (event algebra). 根據上述描述, 一個代數 \mathscr {A}, 滿足
- 必然事件 \Omega \in \mathscr {A};
- 若集合 A \in \mathscr {A} 且集合 B \in \mathscr {A}, 那麼A + B \in \mathscr {A}, A \times B \in \mathscr {A} 且 A \backslash B \in \mathscr {A}.
其中, 對於不可能事件 \emptyset, 隱含地有 \emptyset \in \mathscr {A}.
我們稱由必然事件 \Omega 和不可能事件 \emptyset 兩者所構成的集族 \displaystyle {\mathscr {A} = \left \{ \Omega, \emptyset \right \}} 為平凡代數 (trivial algebra).
對於集族 \mathscr {D} = \left \{ D_{1}, D_{2}, ..., D_{n} \right \}, 若有
- D_{i} \neq \emptyset (i = 1, 2, ..., n);
- D_{i}D_{j} = \emptyset (i, j = 1, 2, ..., n, i \neq j);
- D_{1} + D_{2} + ... + D_{n} = \Omega;
那麼稱集族 \mathscr {D} 構成集合 \Omega 的一個分割 (decomposition), D_{i} 為該分割的一個原子 (atom). 其中, i = 1, 2, ..., n.
如果考慮 \mathscr {D} 中的一切集合的聯連同空集, 根據代數的定義, 得到的這個集族是一個代數, 稱這個代數是由 \mathscr {D} 產生的, 記作 \alpha(\mathscr {D}). 於是, 代數 \alpha(\mathscr {D}) 的元素由空集 \emptyset 與分割 \mathscr {D} 的原子中集合之和組成. 即對於分割 \mathscr {D} = \left \{ D_{1}, D_{2}, ..., D_{n} \right \}, 有 \displaystyle {\begin {aligned} \alpha(\mathscr {D}) = \{ &D_{1}, D_{2}, …, D_{n}, \Omega, \emptyset, \\ &D_{i} + D_{j} \ (i, j = 1, 2, …, n, i \neq j), \\ &D_{i} + D_{j} + D_{k} \ (i, j, k = 1, 2, …, n, i \neq j \neq k), \\ &…, \\ &D_{i_{1}} + D_{i_{2}} + … + D_{i_{n - 1}} \ (i_{1}, i_{2}, …, i_{n - 1} = 1, 2, …, n, i_{1} \neq i_{2} \neq … \neq i_{n - 1}) \}. \end {aligned}}
定理 1. 如果 \mathscr {D} 是 \Omega 的某一分割, 則它與代數 \mathscr {B} = \alpha(\mathscr {D}) 一一對應.
定理 1'. 設 \mathscr {B} 是有限空間 \Omega 的子集的代數, 則存在唯一分割 \mathscr {D}, 其原子是代數 \mathscr {B} 的分割, 並且 \mathscr {B} = \alpha(\mathscr {D})
證明 :假設集合 D \in \mathscr {B}, 且對任意 B \in \mathscr {B}, 有 \displaystyle {D \times B = D \text { 或 } D \times B = \emptyset}. 那麼, 這樣的集合 D 的全體組成了分割 \mathscr {D}, 且 \mathscr {B} = \alpha(\mathscr {D}).
\blacksquare
對於兩個分割 \mathscr {D}_{1} 和 \mathscr {D}_{2}, 若 \alpha(\mathscr {D}_{1}) \subset \alpha(\mathscr {D}_{2}), 那麼我們說分割 \mathscr {D}_{1} 比 \mathscr {D}_{2} 更細緻 (finer), 記作 \mathscr {D}_{1} \preccurlyeq \mathscr {D}_{2}.
定理 2. 設空間 \Omega = \left \{ \omega_{1}, \omega_{2}, ..., \omega_{n} \right \}, \mathscr {A} = \left \{ A : A \subseteq \Omega \right \}, 則 \mathop {\mathrm {card}}{\mathscr {A}} = 2^{n}.
證明 :對於任意 A \in \mathscr {A}, 我們可以將其表示為 A = \left \{ \omega_{i_{1}}, \omega_{i_{2}}, ..., \omega_{i_{k}} \right \}. 其中, 1 \leq k \leq n, w_{i_{j}} \in \Omega\ (j = 1, 2, ..., k), 現構造一個關於集合 A 的序列 (\mu(\omega_{1}), \mu(\omega_{2}), ..., \mu(\omega_{n})). 其中, \mu(x) 是集合 A 的特徵函數. 那麼序列可以表示為 \displaystyle {(0, 0, ..., 0, 1, 0, 0, ..., 0, 1, ...)}. 對於固定的 k, 形如 A = \left \{ \omega_{i_{1}}, \omega_{i_{2}}, ..., \omega_{i_{k}} \right \} (1 \leq k \leq n) 這樣不同的集合 A 的總數, 等同於將 k 個 1 放入 n 個位置, 即不放回的無序抽樣. 那麼有 \displaystyle {\mathop {\mathrm {card}}{\mathscr {A}} = \sum \limits_{k = 1}^{n} \binom {k}{n} + 1 = 1 +\binom {1}{n} + \binom {2}{n} + ... + \binom {n}{n} = 2^{n}} 其中, 多出來的一個為空集 \emptyset.
\blacksquare
5. 機率空間
目前, 我們引入了基本事件空間 \Omega, 並對 \Omega 的子集建立了代數體系 \mathscr {A}, 其中的子集稱作事件. 有時, 我們將 \mathscr {C} = (\Omega, \mathscr {A}) 等同於試驗. 現賦予每一個基本事件 \omega_{i} \in \Omega 某種權, 記作 p(\omega_{i}) 或 p_{i}, 我們稱這種權為基本事件 \omega 的機率 (probability). 對於基本事件空間 \Omega = \left \{ \omega_{1}, \omega_{2}, ..., \omega_{n} \right \}, 假設 p(\omega_{i}) (i = 1, 2, ..., n) 滿足條件
- 0 \leq p(\omega_{i}) \leq 1 (非負性);
- p(\omega_{1}) + p(\omega_{2}) + ... + p(\omega_{n}) = \sum \limits_{i = 1}^{n}p(\omega_{i}) = 1 (規範性).
從給定的基本事件 \omega_{i} 的機率 p(\omega_{i}) 出發 (i = 1, 2, ..., n), 按 \displaystyle {\mathop {\mathbf {P}}(A) = \sum \limits_{\left \{ i : \omega_{i} \in A \right \}} p(\omega_{i})} 定義任意事件 A \in \mathscr {A} 的機率.
定義 2. 通常稱 \displaystyle {(\Omega, \mathscr {A}, P)} 為機率空間 (probability space). 其中, \Omega = \left \{ \omega_{1}, \omega_{2}, ..., \omega_{n} \right \}, \mathscr {A} 是 \Omega 的子集的代數, 而 \mathop {\mathbf {P}} = \left \{ \mathop {\mathbf {P}}(A) : A \in \mathscr {A} \right \}.
機率空間定義了只有有限種可能基本事件的隨機試驗的機率模型. 根據機率空間的定義, 我們顯然可以得到 :
- \mathop {\mathbf {P}}(\left \{ \omega_{i} \right \}) = p(\omega_{i}) (i = 1, 2, ..., n);
- \mathop {\mathbf {P}}(\emptyset) = 0;
- \mathop {\mathbf {P}}(\Omega) = 1;
- \mathop {\mathbf {P}}(A + B) = \mathop {\mathbf {P}}(A) + \mathop {\mathbf {P}}(B) - \mathop {\mathbf {P}}(AB). 特別地, 若 A \times B = \emptyset, 那麼有 \mathop {\mathbf {P}}(A + B) = \mathop {\mathbf {P}}(A) + \mathop {\mathbf {P}}(B);
- \mathop {\mathbf {P}}(A^{C}) = 1 - \mathop {\mathbf {P}}(A).
6. 古典的機率
在一些具體的情形下建立機率模型時, 給出基本事件空間 \Omega 和代數 \mathscr {A} 一般不太不複雜. 在初等機率論中, 我們一般用 \Omega 的全體子集的代數當作代數 \mathscr {A}. 困難的是定義基本事件的機率, 但是這已經超出了機率論的範疇. 我們的基本任務並不是去賦予每一個試驗基本事件的機率, 而是根據基本事件的機率去計算合成事件 (仍在 \mathscr {A} 中) 的機率.
鑒於賦予試驗基本事件以機率值的困難, 我們指出, 存在許多實際情形, 在這些情形下由於對稱性或者均衡性, 那麼把一切可能出現的基本事件視為等可能事件是合理的. 根據上述描述, 設基本事件空間 \Omega = \left \{ \omega_{1}, \omega_{2}, ..., \omega_{n} \right \}, 則有 \displaystyle {p(\omega_{1}) = p(\omega_{2}) = ... = p(\omega_{n}) = \frac {1}{n}}. 從而針對任意事件 A \in \mathscr {A}, 有 \displaystyle {\mathop {\mathbf {P}}(A) = \frac {\mathop {\mathrm {card}}{A}}{n}}. 這時, 求機率 \mathop {\mathbf {P}}(A) 歸結為計算導致事件 A 的基本事件的個數. 這種求機率的方法, 我們稱作古典的機率方法 (classical method of assigning probabilities).
例題 6. (重合問題) 假設有 n 個球, 編號分別為 1, 2, ..., n. 進行 m 次放回抽樣, 並且認為樣本是有序的. 此時, 基本事件空間 \displaystyle {\Omega = \left \{ \omega : \omega = (a_{1}, a_{2}, ..., a_{m}), a_{i} = 1, 2, ..., n \ (i = 1, 2, ..., m) \right \}} 且 \mathop {\mathrm {card}}{\Omega} = n^{m}. 根據古典的機率方法, 我們認為所有 n^{m} 個結局都是等可能的. 那麼事件 A = \left \{ \omega : \omega = (a_{1}, a_{2}, ..., a_{k}), a_{k} = 1, 2, ..., n \ (k = 1, 2, ..., n), a_{i} \neq a_{j}, i, j = 1, 2, ..., m, i \neq j \right \} 發生的機率如何?
解 :顯然, \mathop {\mathrm {card}}{A} = (n)_{m} = n \cdot (n - 1) \cdot ... \cdot (n - m + 1), 故 \displaystyle {\mathop {\mathbf {P}}(A) = \frac {\mathop {\mathrm {card}}{A}}{n^{m}} = \frac {n \cdot (n - 1) \cdot ... \cdot (n - m + 1)}{n^{m}}}.
\blacksquare
例題 6'. 假設某一班中有 n 名學生, 每個學生的生日在一年的 365 天當中任意一天是等可能的. 那麼 n 個學生中至少有兩個人的生日在同一天的機率如何?
解 :記 P_{365}(n) 為 n 名學生中至少有兩個人的生日在同一天的機率, 事件 A 表示在這 n 名學生中, 每個人的生日都不在同一天, 則 \displaystyle {P_{365}(n) = 1 - \mathop {\mathbf {P}}(A) = \mathop {\mathbf {P}}(A^{C}) = 1 - \frac {(365)_{n}}{365^{n}}}.
\blacksquare
為了計算例題 6 中的 \mathop {\mathbf {P}}(A), 我們一般進行近似. 首先 \displaystyle {\begin {aligned} \lim \limits_{n \to \infty} \left ( -cn\ln {\left ( 1 - \frac {c}{n} \right )} \right ) &= \lim \limits_{n \to \infty} \frac {\ln {\left ( 1 - \frac {c}{n} \right )}}{-\frac {c}{n}} \\ &= \lim \limits_{t \to 0}\frac {\ln {(1 - ct)}}{-ct}\ (\text {令 } t = \frac {1}{n}) \\ &= \lim \limits_{u \to 0}\frac {\ln {(1 + u)}}{u}\ (\text {令 } u = -ct) = 1. \end {aligned}} 對 \mathop {\mathbf {P}}(A) 兩側取自然對數, 可得 \displaystyle {\ln {\mathop {\mathbf {P}}(A)} = \ln {\prod \limits_{i = 1}^{m - 1}\left ( 1 - \frac {i}{n} \right )} = \sum \limits_{i = 1}^{m - 1}\ln {\left ( 1 - \frac {i}{n} \right )}}. 由於 \displaystyle {\begin {aligned} \lim \limits_{n \to \infty}(-cn\ln {\left ( 1 - \frac {c}{n} \right )}) &= \lim \limits_{n \to \infty} \frac {\ln {\left ( 1 - \frac {c}{n} \right )}}{-\frac {c}{n}} \\ &= \lim \limits_{t \to 0}\frac {\ln {(1 - ct)}}{-ct}\ (\text {令 } t = \frac {1}{n}) \\ &= \lim \limits_{u \to 0}\frac {\ln {(1 + u)}}{u}\ (\text {令 } u = -ct) \\ &= 1, \end {aligned}} 故 \displaystyle {\lim \limits_{n \to \infty} \frac {\sum \limits_{i = 1}^{m - 1}\ln {\left ( 1 - \frac {i}{n} \right )}}{-\frac {1}{n}\sum \limits_{i = 1}^{m - 1}i} = 1}. 對於充分大的 n, 有 \displaystyle {\ln {\mathop {\mathbf {P}}(A)} \doteq -\frac {1}{n} \sum \limits_{i = 1}^{m - 1}i = -\frac {m(m - 1)}{2n}}, 即 \displaystyle {\mathop {\mathbf {P}}(A) = \frac {(n)_{m}}{n^{m}} \doteq \mathrm {e}^{-\frac {m(m - 1)}{2n}}}. 通過計算, 我們發現一個與期望相反的有趣事實, 在例題 6' 中, 當 n = 23 時, n 名學生中至少有兩個人的生日在同一天的機率就已經達到了 \frac {1}{2}.
例題 7. (抽彩問題) 假設總共有 n 張編號為 1, 2, ..., n 的彩票, 其中編號為 1, 2, ..., m \ (n \geq 2m) 的中彩. 一人買 m 張彩票, 問至少有一張中獎的機率如何?
解 :由描述可知, 抽彩問題的基本事件空間為 \displaystyle {\begin {aligned} \Omega = \{ &\omega : \omega = [a_{1}, a_{2}, ..., a_{m}], a_{k} \neq a_{l}, k, l = 1, 2, ..., m, k \neq l, \\ &a_{i} = 1, 2, ..., n \ (i = 1, 2, ..., m) \}, \end {aligned}} 故 \mathop {\mathrm {card}}{\Omega} = \binom {m}{n}. 設事件 A 表示 m 張彩票沒有一張中獎, 則事件 A^{C} 表示至少有一張中獎, 即 \displaystyle {\begin {aligned} A = \{ &\omega : \omega = [a_{1}, a_{2}, ..., a_{m}], a_{k} \neq a_{l}, k, l = 1, 2, ..., m, k \neq l, \\ &a_{i} = m + 1, m + 2, ..., n \ (i = 1, 2, ..., m) \}. \end {aligned}} 於是有 \mathop {\mathrm {card}}{A} = \binom {m}{n - m}.
綜上所述, \displaystyle {\mathop {\mathbf {P}}(A^{C}) = 1 - \mathop {\mathbf {P}}(A) = 1 - \frac {\binom {m}{n - m}}{\binom {m}{n}} = 1 - \frac {(n - m)_{m}}{(n)_{m}}}.
\blacksquare
在例題 7 中, 如果 n = m^{2} 且 n \to \infty, 則 \mathop {\mathbf {P}}(A^{C}) \to 1 - \frac {1}{e}. 其收斂的速度相當快. 當 n = 10 的時候, 機率已經達到了 0.670.
7. 練習
習題 1. (機率的半可加性) 證明 : 對於任意有限集族 A_{1}, A_{2}, ..., A_{n}, 有 \mathop {\mathbf {P}}(A_{1} + A_{2} + ... + A_{n}) \leq \mathop {\mathbf {P}}(A_{1}) + \mathop {\mathbf {P}}(A_{2}) + ... + \mathop {\mathbf {P}}(A_{n}).
證明 :我們使用歸納法進行證明.
當 n = 1 時, \mathop {\mathbf {P}}(A_{1}) \leq \mathop {\mathbf {P}}(A_{1}) 成立; 當 n = 2 時, 根據機率空間的定義, 有 \mathop {\mathbf {P}}(A_{1} + A_{2}) = \mathop {\mathbf {P}}(A_{1}) + \mathop {\mathbf {P}}(A_{2}) - \mathop {\mathbf {P}}(A_{1}A_{2}). 由於 \mathop {\mathbf {P}}(A_{1}A_{2}) \geq 0, 故有 \mathop {\mathbf {P}}(A_{1} + A_{2}) \leq \mathop {\mathbf {P}}(A_{1}) + \mathop {\mathbf {P}}(A_{2}); 不妨設當 n \leq k 時, 有 \mathop {\mathbf {P}}(A_{1} + A_{2} + ... + A_{k}) \leq \mathop {\mathbf {P}}(A_{1}) + \mathop {\mathbf {P}}(A_{2}) + ... + \mathop {\mathbf {P}}(A_{k}) 成立; 當 n = k + 1 時, \displaystyle {\begin {aligned} \mathop {\mathbf {P}}(A_{1} + A_{2} + ... + A_{k} + A_{k + 1}) &= \mathop {\mathbf {P}}(A_{1} + A_{2} + ... + A_{k}) + \mathop {\mathbf {P}}(A_{k + 1}) - \\ &\ \ \ \ \ \mathop {\mathbf {P}}\big ( (A_{1} + A_{2} + ... + A_{k})A_{k + 1} \big ) \\ &\leq \mathop {\mathbf {P}}(A_{1} + A_{2} + ... + A_{k}) + \mathop {\mathbf {P}}(A_{k + 1}) \\ &\leq \mathop {\mathbf {P}}(A_{1} + A_{2} + ... + A_{k - 1}) + \mathop {\mathbf {P}}(A_{k}) + \mathop {\mathbf {P}}(A_{k + 1}) \\ &\leq ... \\ &\leq \mathop {\mathbf {P}}(A_{1}) + \mathop {\mathbf {P}}(A_{2}) + ... + \mathop {\mathbf {P}}(A_{k}) + \mathop {\mathbf {P}}(A_{k + 1}). \end {aligned}}
綜上所述, 對於任意有限集族 A_{1}, A_{2}, ..., A_{n}, 有 \mathop {\mathbf {P}}(A_{1} + A_{2} + ... + A_{n}) \leq \mathop {\mathbf {P}}(A_{1}) + \mathop {\mathbf {P}}(A_{2}) + ... + \mathop {\mathbf {P}}(A_{n}).
\blacksquare
習題 2. 證明 : 對於有限集族 A_{1}, A_{2}, ..., A_{n}, 有 \mathop {\mathbf {P}}(A_{1}A_{2}...A_{n}) \geq \mathop {\mathbf {P}}(A_{1}) + \mathop {\mathbf {P}}(A_{2}) + ... + \mathop {\mathbf {P}}(A_{n}) - (n - 1).
證明 :我們使用歸納法進行證明.
當 n = 1 時, \mathop {\mathbf {P}}(A_{1}) \geq \mathop {\mathbf {P}}(A_{1}) 成立; 當 n = 2 時, 根據機率空間的定義, 有 \mathop {\mathbf {P}}(A_{1}A_{2}) = \mathop {\mathbf {P}}(A_{1}) + \mathop {\mathbf {P}}(A_{2}) - \mathop {\mathbf {P}}(A_{1} + A_{2}), 而 \mathop {\mathbf {P}}(A_{1} + A_{2}) \leq 1, 故 \mathop {\mathbf {P}}(A_{1}A_{2}) \geq \mathop {\mathbf {P}}(A_{1}) + \mathop {\mathbf {P}}(A_{2}) - 1); 不妨設當 n < k 時, 有 \mathop {\mathbf {P}}(A_{1}A_{2}...A_{k}) \geq \mathop {\mathbf {P}}(A_{1}) + \mathop {\mathbf {P}}(A_{2}) + ... + \mathop {\mathbf {P}}(A_{k}) - (k - 1) 成立; 當 n = k 時, \displaystyle {\begin {aligned} \mathop {\mathbf {P}}(A_{1}A_{2}...A_{k}) &= \mathop {\mathbf {P}}(A_{1}A_{2}...A_{k - 1}) + \mathop {\mathbf {P}}(A_{k}) - \mathop {\mathbf {P}}(A_{1}A_{2}...A_{k - 1} + A_{k}) \\ &\geq \mathop {\mathbf {P}}(A_{1}A_{2}...A_{k - 1}) + \mathop {\mathbf {P}}(A_{k}) - 1 \\ &\geq \mathop {\mathbf {P}}(A_{1}A_{2}...A_{k - 2}) + \mathop {\mathbf {P}}(A_{k - 1}) + \mathop {\mathbf {P}}(A_{k}) - 2 \\ &\geq ... \\ &\geq \mathop {\mathbf {P}}(A_{1}) + \mathop {\mathbf {P}}(A_{2}) + ... + \mathop {\mathbf {P}}(A_{k}) - (k - 1). \end {aligned}} 因此當 n = k 時, 仍然有 \mathop {\mathbf {P}}(A_{1}A_{2}...A_{n}) \geq \mathop {\mathbf {P}}(A_{1}) + \mathop {\mathbf {P}}(A_{2}) + ... + \mathop {\mathbf {P}}(A_{n}) - (n - 1) 成立.
綜上所述, 對於有限集族 A_{1}, A_{2}, ..., A_{n}, 有 \mathop {\mathbf {P}}(A_{1}A_{2}...A_{n}) \geq \mathop {\mathbf {P}}(A_{1}) + \mathop {\mathbf {P}}(A_{2}) + ... + \mathop {\mathbf {P}}(A_{n}) - (n - 1).
\blacksquare
自主練習 1. 設有 A_{1}, A_{2}, ..., A_{n}, 而 S_{0}, S_{1}, S_{2}, ..., S_{n} 取決於 \displaystyle {S_{r} = \begin {cases} 1 & {r = 0} \\ \sum \limits_{J_{r}}\mathop {\mathbf {P}}(A_{k_{1}}A_{k_{2}}...A_{k_{r}}) & {1 \leq r \leq n}. \end {cases}} 其中, 求和是針對集合 \left \{ 1, 2, ..., n \right \} 的無序子集 J_{r} = [k_{1}, k_{2}, ..., k_{r}]\ (k_{i} \neq k_{j}, i, j = 1, 2, ..., r, i \neq j) 進行的.
- 設 B_{m} 表示事件 \left \{ 在\ A_{1}, A_{2}, ..., A_{n}\ 中必出現一個且只出現一個 \right \}. 證明 \displaystyle {\mathop {\mathbf {P}}(B_{m}) = \sum \limits_{r = m}^{n}(-1)^{r - m}\binom {m}{r}S_{r}} 成立. 特別地, 對於 m = 0, 有 \mathop {\mathbf {P}}(B_{0}) = 1 - S_{1} + S_{2} - ... \pm S_{n}.
- 證明 : 事件 \left \{ A_{1}, A_{2}, ..., A_{n} \text { 中有 } m \text { 個同時出現} \right \} 的機率為 \displaystyle {\mathop {\mathbf {P}}(B_{m}) + \mathop {\mathbf {P}}(B_{m + 1}) + ... + \mathop {\mathbf {P}}(B_{n}) = \sum \limits_{r = m}^{n}(-1)^{r - m} \binom {m - 1}{r - 1}S_{r}}. 特別地, 事件 \left \{ A_{1}, A_{2}, ..., A_{n} \text { 中至少出現一個} \right \} 的機率等於 \mathop {\mathbf {P}}(B_{1}) + \mathop {\mathbf {P}}(B_{2}) + ... + \mathop {\mathbf {P}}(B_{n}) = S_{1} - S_{2} + ... \mp S_{n}.
- 證明 :
- (Bonferroni 不等式) 對於任意 k = 1, 2, ...\ (2k \leq n), 有 \displaystyle {S_{1} - S_{2} + ... - S_{2k} \leq \mathop {\mathbf {P}} \left ( \bigcup \limits_{i = 1}^{n}A_{i} \right ) = S_{1} - S_{2} + ... + S_{2k - 1}}.
- (J.H. Poincare 恆等式) \mathop {\mathbf {P}} \left ( \bigcup \limits_{r = 1}^{n}A_{r} \right ) = \sum \limits_{r = m}^{n}(-1)^{r - 1}S_{r}.
- (M. Fréshet 不等式) \frac {S_{r + 1}}{\binom {r + 1}{n}} \leq \frac {S_{r}}{\binom {r}{n}}. 其中, r = 0, 1, 2, ..., n - 1.
- (E.J. Gumbel 不等式) \frac {\binom {r + 1}{n} - S_{r + 1}}{\binom {r}{n - 1}} \leq \frac {\binom {r}{n} - S_{r}}{\binom {r - 1}{n - 1}}. 其中, r = 1, 2, ..., n - 1.
自創文章, 原著 : Jonny. 如若閣下需要轉發, 在已經授權的情況下請註明本文出處 :