概率論中幾個有趣的例子

1、轉(zhuǎn)載】概率論中幾個有趣的例子 2007-6-3 13:06:00 | By: Byron 推薦作者: ni1985 (妮子|從東方席地卷來一團野火), 原發(fā)新水木Mathematics已經(jīng)醞釀很長時間的本文終于出場了。寫本文的主要目的：1 很多人看了我前面大量的歷史日志后，對我的數(shù)學水平產(chǎn)生了懷疑；2 有高中的校友師妹咨詢關(guān)于大學數(shù)學學習的問題；3 概率論是數(shù)學中一個重要而美的分支，可惜多數(shù)同學尚沒有機會看到其冰山一角。本文的讀者適用范圍：最低標準是學過工科專業(yè)的高等數(shù)學和概率論，最高標準不清楚（也許水平比我高的人就不屑于讀了）當我跟皇上提到要寫這篇文章的想法時，我提到：試圖用比較短的篇幅讓只

2、要有初等概率論基礎(chǔ)的人，也能看懂，從而對較深的概率論的研究對象和有趣的結(jié)論有一個初步的了解，激發(fā)其進一步深入學習概率論的興趣?；噬险f：那可不容易，相當于一個畢業(yè)設(shè)計了。我覺得，確實如此，本文是基本失敗還是基本成功，還要看讀者的評價。要想引入本文的內(nèi)容，首先從數(shù)學美的定義說起。關(guān)于數(shù)學美，我比較欣賞的有兩種觀點，一是Birkhoff的觀點，數(shù)學美=邏輯的復雜程度/表述的復雜程度；二是Von Neumann的觀點，數(shù)學的活力依賴于與它有聯(lián)系的科學分支的多寡與分支的活力。也許做應(yīng)用的人更喜歡后者，但我是比較喜歡前者的。因此，我下面的主要內(nèi)容就是介紹一些概率論中的基本例子，這些例子的表述是相當簡單的，

3、但得到這些例子的手段卻比較復雜。我將試圖把每個例子表述清楚，讓只要有初等概率論基礎(chǔ)的讀者就知道在說什么，但對得到這些結(jié)果的證明過程則一律省略，只簡要提出涉及的基本工具，但其中有些比較簡單的細節(jié)會給大家留為習題。這些例子一律來自偉大的Durrett的著作：Probability theory and examples我認為最優(yōu)秀的概率論教材。例1. Coupon collector問題：X1,X2,是獨立同分布，均勻的取自集合1，n的隨機變量序列。大家把集合1，n想象為若干張撲克牌，每次我們等概率的取一張撲克牌，取完放回。，意思就是手中取過k種不同的撲克牌所需的次數(shù)。T(n)=t(n,n)表示取

4、過所有撲克牌所需的次數(shù)。X(n,k)=t(n,k)-t(n,k-1)，則X(n,k)服從參數(shù)是1-(k-1)/n的幾何分布（思考題?。?，它的期望和方差可求，且容易發(fā)現(xiàn)X(n,1),X(n,n)相互獨立，從而可以求出ET(n),Var T(n)（習題！)。且去證明依概率趨近于0.（數(shù)學基礎(chǔ)稍微深一些的同學都知道，L2收斂蘊含依概率收斂）最終得到一個漂亮的結(jié)論：依概率收斂于1.數(shù)學基礎(chǔ)比較少的同學可以直接看這一行，我把這一行的實際意義說清楚：就是假設(shè)我們要收集的郵票有n張，而每次別人給我們提供的郵票恰恰是等概率的，那么要想把n張收集全，需要的時間依概率趨近于 nlogn。 所以大家就可以發(fā)現(xiàn)，為什

5、么我們想集齊比較少的郵票要比集齊多的郵票容易的多。作為更為深層次的讀者，我要說的是，在隨機變量收斂性問題的研究中，獨立性和矩總是常見的關(guān)注對象。為什么我們非常喜歡方差這個概念呢？我想一個重要的性質(zhì)就是：對于獨立的隨機變量，方差對和有分配律。于是二階中心矩才會成為最重要的矩。通過對矩的估計把隨機變量的收斂性問題，轉(zhuǎn)化為實數(shù)序列的收斂性問題，最后完全是數(shù)學分析的東西，這種手段是屢屢使用的。例2 非對稱的簡單隨機游動問題：, 獨立同分布，. , 對于數(shù)學基礎(chǔ)不太好的同學，我簡單介紹一下這個問題的背景，其實很好理解。設(shè)有一個點在0時刻位于實軸的原點0處，它在每個時刻以概率p向右跳躍一個單位長度，以概率

6、q向左跳躍一個單位長度，且跳躍的方向與以前每次跳躍的情況是獨立的。我們有如下非常精彩的結(jié)論： 表示的是：n時刻這個點所在的位置。1 , 的直觀意思就是，這個點首次跳到x的位置的時刻。那么對于任意的，這里函數(shù)。上面的這個等式的直觀意義：a是負半軸上一點，b是正半軸上一點，點沒到b之前先到a的概率被計算了出來。得到這個結(jié)論最快的方法就是用鞅論。鞅實在是一個漂亮的東西，而它的漂亮之處就在于它與停時結(jié)合在一起后的巨大威力。用N表示和中的較小值，則N是停時。首先要說明的是N小于無窮大。要得到這個結(jié)論，我掌握的有三種方法：（1）通過EN小于無窮大，得到這個結(jié)論，這事實上是通過一個強的多的結(jié)論說明的，具體見

7、Durrett書181頁。（2）通過鞅收斂定理，見Durrett書275頁。其中用了一個重要結(jié)論：一致有界的鞅序列必然一致可積（應(yīng)該是很顯然的吧，呵呵）。（3）通過馬氏鏈的性質(zhì)：對于一個有可列狀態(tài)，不可約的馬氏鏈，用F表示狀態(tài)空間的一個有限子集，設(shè)初始狀態(tài)屬于F,用T表示鏈首次離開F的時間，則一定有T小于無窮大。（可以作為本科生三年級應(yīng)用隨機過程的習題，證之！） 2 即首次到達b點的平均時間是。處理方法還是用鞅論，這里不再多說。關(guān)于用鞅論解決馬氏鏈問題的例子，我還推薦數(shù)學基礎(chǔ)比較高的同學閱讀Durrett書上的（1）M/G/1排隊（282頁，298頁，309頁） （2）生滅過程（295頁，30

8、1頁）本來我認為這兩個例子是更加漂亮的，但考慮到數(shù)學基礎(chǔ)一般的同學的閱讀水平，就不寫了。 例3 遍歷定理的一個應(yīng)用（Benford定律）首先提一個問題：隨機選取一個正整數(shù)，它的第一位數(shù)字是1 的概率是多少？很多同學會武斷的回答：1/9.可是你忘記了問我一個問題：你是如何隨機選取的？也許你會說：這還用問？就是等概率的選取唄?？墒遣灰?，對于可列狀態(tài)的狀態(tài)空間，不存在一個概率測度，使得它在任意兩個單點集上的概率相同?。ㄋ伎碱}！）其實一個直觀的想法是：我們考慮前n個正整數(shù)中（均勻分布是可能的），首位數(shù)字是1的概率記為f(n),然后把f(n)的極限作為我上面所提問題的答案?？墒请S后會不幸的發(fā)現(xiàn)，極限

9、是不存在的！于是作為習題，設(shè)前個正整數(shù)中，首位數(shù)字是的概率記為是1/9，且對于任意屬于區(qū)間1/9,5/9的實數(shù)a，都存在前n個正整數(shù)中，首位數(shù)字是2的概率是題?。?,則的上極限是5/9,下極限的子序列，它的極限就是a。類似的，記,其上極限是10/27,下極限是1/18.（作為數(shù)學分析的習但是，當我們轉(zhuǎn)而思考這樣的等比序列，1，2，4，8，16，記這個序列的前n項中首位數(shù)字是1的概率為,則是有極限的，且極限是.一般地，對于任意一個非10的整數(shù)次冪的正整數(shù)q，,則的極考慮以1為首項，以q為公比的等比數(shù)列，它的前n項中首位數(shù)字是k的概率為限是. （證明不可能在這里給出了，大家只管從結(jié)論中去欣賞概率論之美吧?。?這個結(jié)論是非常漂亮的！敘述是非常簡單的，意義是非常直觀的，但并不是容易猜到的，證明所需的背景遍歷定理又是極其深刻的。讀來暢快淋漓！今年春天，陳大岳教授（陳大岳教授的書目和學習指南）對我說，在現(xiàn)代概率論的研究中，遍歷定理顯現(xiàn)的