決策分析之貝葉斯分析(doc 18頁).doc

第四章 貝葉斯分析Bayesean Analysis4.0引言一、決策問題的表格表示損失矩陣 對無觀察(No-data)問題 a= 可用表格(損失矩陣)替代決策樹來描述決策問題的后果(損失): ()()()或 ()()()損失矩陣直觀、運(yùn)算方便 二、決策原則 通常，要根據(jù)某種原則來選擇決策規(guī)則，使結(jié)果最優(yōu)(或滿意)，這種原則就叫決策原則，貝葉斯分析的決策原則是使期望效用極大。本章在介紹貝葉斯分析以前先介紹芙他決策原則。三、決策問題的分類：1.不確定型(非確定型) 自然狀態(tài)不確定,且各種狀態(tài)的概率無法估計(jì).2.風(fēng)險(xiǎn)型 自然狀態(tài)不確定,但各種狀態(tài)的概率可以估計(jì).四、按狀態(tài)優(yōu)于： I, 且至少對某個(gè)i嚴(yán)格不等式成立, 則稱行動按狀態(tài)優(yōu)于4.1 不確定型決策問題一、極小化極大(wald)原則(法則、準(zhǔn)則) l ( , ) 或 例:1087941921316121469810 各行動最大損失: 13 16 12 14 其中損失最小的損失對應(yīng)于行動. 采用該原則者極端保守, 是悲觀主義者, 認(rèn)為老天總跟自己作對.二、極小化極小 l ( , ) 或 例:1087941921316121469810 各行動最小損失: 4 1 7 2 其中損失最小的是行動. 采用該原則者極端冒險(xiǎn)，是樂觀主義者，認(rèn)為總能撞大運(yùn)。三、Hurwitz準(zhǔn)則上兩法的折衷，取樂觀系數(shù)入 l ( , )（1 l ( , )例如 =0.5時(shí) : 2 0.5 3.5 1 （1: 6.5 8 6 7 兩者之和： 8.5 8.5 9.5 8其中損失最小的是：行動四、等概率準(zhǔn)則(Laplace) 用 來評價(jià)行動 的優(yōu)劣 選 上例： : 33 34 36 35 其中行動 的損失最小五、后梅值極小化極大準(zhǔn)則(svage-Niehans)定義后梅值 =- 其中為自然狀態(tài)為 時(shí)采取不同行動時(shí)的最小損失.構(gòu)成后梅值(機(jī)會成本)矩陣 S= ,使后梅值極小化極大,即: 例:損失矩陣同上, 后梅值矩陣為: 3 1 0 2 3 0 8 1 1 4 0 2 0 3 2 4各種行動的最大后梅值為: 3 4 8 4 其中行動a1 的最大后梅值最小,所以按后梅值極小化極大準(zhǔn)則應(yīng)采取行動1.六、Krelle準(zhǔn)則：使損失是效用的負(fù)數(shù)(后果的效用化),再用等概率(Laplace)準(zhǔn)則.七、莫爾諾(Molnor)對理想決策準(zhǔn)則的要求 (1954) 1.能把方案或行動排居完全序； 2.優(yōu)劣次序與行動及狀態(tài)的編號無關(guān)； 3.若行動 按狀態(tài)優(yōu)于，則應(yīng)有 優(yōu)于 ； 4.無關(guān)方案獨(dú)立性：已經(jīng)考慮過的若干行動的優(yōu)劣不因增加新的行動而改變； 5.在損失矩陣的任一行中各元素加同一常數(shù)時(shí)，各行動間的優(yōu)劣次序不變； 6.在損失矩陣中添加一行，這一行與原矩陣中的某行相同，則各行動的優(yōu)劣次序不變。4.2 風(fēng)險(xiǎn)型決策問題的決策原則一、最大可能值準(zhǔn)則 令 ()=max() 選 使 l(,)=l(,)例：()0.276.560.53450.3410 () 概率最大, 各行動損失為 3 4 5 應(yīng)選行動二、貝葉斯原則使期望損失極?。?l( , ) () 上例中,各行動的期望損失分別為 4.1 3.6 3.7, 對應(yīng)于的期望損失3.6最小應(yīng)選.三、貝努利原則損失函數(shù)取后果效用的負(fù)值,再用Bayes原則求最優(yōu)行動.四、EV(均值方差)準(zhǔn)則 若 且 則優(yōu)于通常不存在這樣的 上例中: E 4.1 3.6 3.7 V() 2.29 3.79 5.967不存在符合EV準(zhǔn)則的行動, 這時(shí)可采用f(,)的值來判斷(為效益型后果的期望) - f( ，)= - -(+) f越大越優(yōu).五、不完全信息情況下的決策原則(Hodges-Lehmann原則) 狀態(tài)概率分布不可靠時(shí), 可采用: ()= + i=1,2, ,m j=1,2,n 越大越優(yōu).4.3貝葉斯定理一、條件概率1.A、B為隨機(jī)試驗(yàn)E中的兩個(gè)事件 P(AB)=P(AB)/P(B)由全概率公式: j=1,2,n 是樣本空間的一個(gè)劃分, P(B)=P(B|)P()得Bayes公式 P(|B)=P(B|)P()/P(B) = P(B|)P()/P(B|)P()2. 對,兩個(gè)隨機(jī)變量條件概率密度 f(| x)=f(x |)f()/f(x) 在主觀概率論中 (| x)=f(x |)()/m(x)其中：()是的先驗(yàn)概率密度函數(shù) f(x)是出現(xiàn)時(shí)，x的條件概率密度,又稱似然函數(shù). m(x)是x的邊緣密度, 或稱預(yù)測密度. m(x)= f(x |)() d 或 p(x|)() (x)是觀察值為x的后驗(yàn)概率密度。例：A 壇中白球30%黑球70% B 壇中白球70%黑球30%兩壇外形相同，從中任取一壇，作放回摸球12次,其中白球4次，黑球8次，求所取為A壇的概率.解：設(shè)觀察值4白8黑事件為x，記取A壇為 , 取B壇為 在未作觀察時(shí)，先驗(yàn)概率p()=p()=0.5 則在作觀察后，后驗(yàn)概率 P(|x)=p(x|)p()p(x|)p()+p(x|)p() =0.5(0.5+0.5) =() =0.24010.2482 =0.967 顯然, 通過試驗(yàn)、觀察、可修正先驗(yàn)分布.4.4 貝葉斯分析的正規(guī)型與擴(kuò)展型一、正規(guī)型分析由Baysean原則：先驗(yàn)分布為()時(shí)，最優(yōu)的決策規(guī)則是貝葉斯規(guī)則,使貝葉斯風(fēng)險(xiǎn) r(, )= r(,(x)其中：r(,(x)= R(,(x) = l(,(x) = l(,(x) f(x |)dx() d (1) 據(jù)(1)式，選使r(，)達(dá)到極小，這就是正規(guī)型的貝葉斯分析。 在解實(shí)際問題時(shí)，求使(1)式極小的(x)往往十分困難，尤其在狀態(tài)和觀察值比較復(fù)雜時(shí)，集中的策略數(shù)目很大，窮舉所有的(x)有困難，且計(jì)算量頗大。實(shí)際上可用下法：二、擴(kuò)展型貝葉斯分析(Extensive Form Analysis)在(1)式中因l(,)-，f(x)，()均為有限值。由Fubini定理，積分次序可換即r(,(x)= l(,(x) f(x |)dx() d = l(,(x) f(x |)() ddx (2)顯然，要使(2)式達(dá)到極小，應(yīng)當(dāng)對每個(gè)xX，選擇，使 l(,(x) f(x |)() d （2）為極小(x)=a 若對給定的x,選a，使 l(,(x) f(x |)() d 為極小亦即，使 l(,a) f(x |)() d =l(,a) (|x) d 或 l(,a)p(|x) (3) 達(dá)極小，即可使(1)式為極小.結(jié)論： 對每個(gè)x，選擇行動a，使之對給定x時(shí)的后驗(yàn)分布(x)的期望損失為極小，即可求得貝葉斯規(guī)則。 這種方法叫貝葉斯分析的擴(kuò)展型，由此確定的貝葉斯規(guī)則叫formal Bayesean Rule Raiffa Sehlaifer,1961年提出。Note使(3)式達(dá)極小的行動可能不只一個(gè)，即可能有多個(gè)貝葉斯規(guī)則；擴(kuò)展型比正規(guī)型更直觀，也容易計(jì)算，故更常用；許多分析人員只承認(rèn)擴(kuò)型，理由是： i，(x)描述了試驗(yàn)后的的分布，比()更客觀，因此，只要損失函數(shù)是由效用理論導(dǎo)出的(即考慮了DMer的價(jià)值判斷、風(fēng)險(xiǎn)偏好)，在評價(jià)行動a的優(yōu)劣時(shí)就應(yīng)當(dāng)用后驗(yàn)期望損失。 ii, r(，)是根據(jù)()求出的，而用先驗(yàn)分布()來確定行動a并不一定適當(dāng)。 從根本上講，這種觀點(diǎn)是正確的。無論從何種觀點(diǎn)來進(jìn)行貝葉斯分析，從理論上講，結(jié)果是一樣的，所以采用何種方法可視具體問題，據(jù)計(jì)算方便而定。已經(jīng)證明，形式貝葉斯分析對一類非隨機(jī)性決策規(guī)則是成立的，也可以證明它對隨機(jī)性決策規(guī)則同樣成立。使所有x上后驗(yàn)期望損失極小的貝葉斯規(guī)則也是隨機(jī)性規(guī)則集*中的Bayes規(guī)則，因此，總可以找到一驗(yàn)期望損失極小的非隨機(jī)性規(guī)則。三、例(先看無觀察問題)農(nóng)民選擇作物問題，設(shè)某地旱年占60%，正常年景占40%; 種植耐旱作物種不耐旱作物，后果矩陣為: 20 0 60 100決策人的效用函數(shù) u(y)=(1-)解：i令：l(y)=1-u(y) ii,作決策樹：iii, 在無觀察時(shí), R=l, r= l(,a)() r(, )=l(,)()+l(,)() =0.62 0.6+0.19 0.4 =0.448 r(, )= l(,)()+l(,)() =1.0 0.6+0 0.4 =0.6風(fēng)險(xiǎn)r小者優(yōu), =，是貝葉斯規(guī)則, 即貝葉斯行動.即應(yīng)選擇耐旱作物。四、例(續(xù)上)設(shè)氣象預(yù)報(bào)的準(zhǔn)確性是0.8，即p(|)=0.8 p(|)=0.8其中，預(yù)報(bào)干旱 預(yù)報(bào)正常年景則 m()=p(|)()+p(|)() =0.8 0.6+0.2 0.4=0.56 m()=0.44 (|)=p(|)()m() =0.8 0.60.56=0.86 (|)=p(|)()m() =0.2 0.60.44=0.27 (|)=0.14 (|)=0.731. 正規(guī)型分析策略: = () =()r(, )=l (,()p(|)()4-7 = l (,)p(|)()+l (,)p(|)() + l (,)p(|)()+l (,)p(|)() =0.620.80.6+1.0 0.20.6+0.19 0.20.4+0.0 0.80.4 =0.4328策略: =() =() r(, )=l (, ()p(|)() = l (,)p(|)()+l (,)p(|)() + l (,)p(|)()+l (,)p(|)() = 0.620.20.6+1.00.80.6+0.190.8 0.4+0.00.8 0.4 =0.6152策略: = () =() r(, )=0.45策略： =（） =（） r(, )=0.6r(, ) r(, ) r(, ) r(, ) fff 是貝葉斯行動。 482.擴(kuò)展型之一：據(jù)(2) : l(,(x) f(x |)() d 記作r給定(預(yù)報(bào)干旱):采用 r=l (,)p(|)() = l (,)p(|)() + l (,)p(|)() = 0.620.80.6+0.19 0.20.4 =0.3128采用 r= l (,)p(|)() + l (,)p(|)() =0.48 風(fēng)險(xiǎn)小者優(yōu) 給定應(yīng)選給定(預(yù)報(bào)天氣正常) 采用 r= l (,)p(|)() + l (,)p(|)() =0.620.20.6 + 0.19 0.8 0.4 =0.135 采用 r= l (,)p(|)() + l (,)p(|)() =1.00.20.6 + 0 =0.12 給定應(yīng)選由此得形式Bayes規(guī)則 : = () =() 3.擴(kuò)展型之二：據(jù)(3)式 即l(,a) (|x) d 或 l(,a)(|x)(記作r”)給定, 采用 r”= l(,)(|) = l(,)(|) + l(,)(|) =0.62 0.86 + 0.19 0.14 =0.56 采用 r”= l(,)(|) + l(,)(|) = 1.0 0.86 + 0 0.14 =0.86給定，應(yīng)選行動.給定 采用 r”= l(,)(|) = l(,)(|) + l(,)(|) =0.62 0.27 + 0.19 0.73 = 0.3061 采用 r”= l(,)(|) = l(,)(|) + l(,)(|) =1.0 0.27 + 0 0.73 =0.27給定 應(yīng)選擇行動.形式Bayes規(guī)則: = () =()4.5 非正常先驗(yàn)與廣義貝葉斯規(guī)則一、非正常先驗(yàn)(Improper Prior)概率測度的三個(gè)條件：i,規(guī)范性：P()=1ii,非負(fù)性：0P(A)1iii,可列可加性在設(shè)定先驗(yàn)分布時(shí)，若不滿足規(guī)范性，則稱為非正常先驗(yàn).二、廣義貝葉斯規(guī)則(General Bayesean Rule)1.定義：決策問題的損失函數(shù)為l(,a)，()為非正常先驗(yàn)分布，對給定的，使i, l(,(x) f(x |)() d 為極小，或者ii, 0m(x)時(shí),使 l(,a) (|x) d 為極小的策略(行動)，構(gòu)成廣義貝葉斯規(guī)則.2.Nole：在許多重要場合，所有允許的都是GBR 在無法得到正常先驗(yàn)時(shí)，除此別無良策； GBR不一定是最好的決策規(guī)則4.6 一種具有部分先驗(yàn)信息的貝葉斯分析法一、概述1.思路：在部分先驗(yàn)信息難以唯一地確定()時(shí)，拋開唯一性要求，轉(zhuǎn)而確定與已知先驗(yàn)信息相符的先驗(yàn)分布的集。2.符號i, 和A為有限集：=, A=, 損失矩陣L= =l (,)ii,根據(jù)貝葉斯分析的擴(kuò)展型 給定x，應(yīng)從集合A中選一行動 ，使 q(a)= l (,a) p(|)() 為極小,亦即 = arg q(a) 或 q()q() j=1,2,m (4) 則 為貝葉斯行動.記p(|)為(x) , () 為L=, =,則 l (,a) p(|)()=Ldiag(x) (4)式可表示成 Ldiag(x)Ldiag(x) i=1,2, ,n (5) j=1,2, ,m(5)式即 (L-1 L) diag(x) 0 (5)記 (L-1 L) diag(x) 為D(x), 式(5)可表示為: D(x) 0 (5”)3. (5”)式的含義(1)給定x，先驗(yàn)分布為時(shí)，應(yīng)選 使5(即5, 亦即5”)式成立。(2) 對給定的x，要使 成為貝葉斯行動,應(yīng)滿足 5(即5, 亦即5”)式. 由(2)可以定義 (x)= | D(x) 0 ;, 0 式中, 是先驗(yàn)分布的所有可能的集, (x) 是的一個(gè)子集，它能i,使 對給定x為Bayes行動 ii,滿足規(guī)范性和非負(fù)性二、分析步驟1. 確定(x)2. 確定先驗(yàn)信息對先驗(yàn)分布()的約束： Q= | A0, , 0 式中, A0是先驗(yàn)信息對先驗(yàn)分布()的約束.3.結(jié)論：當(dāng) (x) 與Q有非空交集時(shí)，為Bayes行動.三、例已知：i, Q= | 0.5, , , ii,由已往的統(tǒng)計(jì)資料，三種病患者的白血球計(jì)數(shù)： f(x| )= N( 3000, 1000 ) f(x