平穩(wěn)時間序列預(yù)測法講義(PPT 83頁).ppt

7平穩(wěn)時間序列預(yù)測法 7 1概述7 2時間序列的自相關(guān)分析7 3單位根檢驗和協(xié)整檢驗7 4ARMA模型的建模 7 1概述 時間序列取自某一個隨機過程 則稱 一 平穩(wěn)時間序列 過程是平穩(wěn)的 隨機過程的隨機特征不隨時間變化而變化 過程是非平穩(wěn)的 隨機過程的隨機特征隨時間變化而變化 寬平穩(wěn)時間序列的定義 設(shè)時間序列 對于任意的t k和m 滿足 則稱寬平穩(wěn) 嚴(yán)平穩(wěn)時間序列的定義 所有的統(tǒng)計特性不隨時間的平移而變化 Box Jenkins基本思想 用數(shù)學(xué)模型描述時間序列自身的相關(guān)性 并假定這種自相關(guān)性一直延續(xù) 用該模型預(yù)測未來的值 ARMA模型是描述平穩(wěn)隨機序列的最常用的一種模型 Box Jenkins方法提供了對時間序列進(jìn)行分析 預(yù)測 以及對ARMA模型識別 估計和診斷的系統(tǒng)方法 ARMA模型的三種基本形式 自回歸模型 AR Auto regressive 移動平均模型 MA Moving Average 混合模型 ARMA Auto regressiveMoving Average 如果時間序列滿足其中是獨立同分布的隨機變量序列 且滿足 則稱時間序列服從p階自回歸模型 二 自回歸模型 滯后算子多項式 的根均在單位圓外 即 的根大于1 自回歸模型的平穩(wěn)條件 例1AR 1 模型的平穩(wěn)性條件 對1階自回歸模型AR 1 方程兩邊平方再求數(shù)學(xué)期望 得到Xt的方差 由于Xt僅與 t相關(guān) 因此 E Xt 1 t 0 如果該模型穩(wěn)定 則有E Xt2 E Xt 12 從而上式可變換為 在穩(wěn)定條件下 該方差是一非負(fù)的常數(shù) 從而有 1 而AR 1 的特征方程 的根為z 1 AR 1 穩(wěn)定 即 1 意味著特征根大于1 對高階自回模型AR p 來說 多數(shù)情況下沒有必要直接計算其特征方程的特征根 但有一些有用的規(guī)則可用來檢驗高階自回歸模型的穩(wěn)定性 1 AR p 模型穩(wěn)定的必要條件是 1 2 p 1 2 由于 i i 1 2 p 可正可負(fù) AR p 模型穩(wěn)定的充分條件是 1 2 p 1 如果時間序列滿足則稱時間序列服從q階移動平均模型 或者記為 三 移動平均模型MA q 平穩(wěn)條件 任何條件下都平穩(wěn) 對于移動平均模型MR q Xt t 1 t 1 2 t 2 q t q其中 t是一個白噪聲 于是 MA q 模型的平穩(wěn)性 當(dāng)滯后期大于q時 Xt的自協(xié)方差系數(shù)為0 因此 有限階移動平均模型總是平穩(wěn)的 通常希望AR過程與 過程能相互表出 即過程可逆 如移動平均模型MA 可逆條件 的根均在單位圓外 可逆條件 四 ARMA p q 模型 如果時間序列 滿足 則稱時間序列服從 p q 階自回歸移動平均模型 或者記為 平穩(wěn)條件 的根均在單位圓外可逆條件 的根均在單位圓外 將純AR p 與純MA q 結(jié)合 得到一個一般的自回歸移動平均 autoregressivemovingaverage 過程ARMA 該式表明 1 一個隨機時間序列可以通過一個自回歸移動平均過程生成 即該序列可以由其自身的過去或滯后值以及隨機擾動項來解釋 2 如果該序列是平穩(wěn)的 即它的行為并不會隨著時間的推移而變化 那么我們就可以通過該序列過去的行為來預(yù)測未來 這也正是隨機時間序列分析模型的優(yōu)勢所在 例題分析 設(shè) 其中A與B 為兩個獨立的零均值隨機變量 方差為1 為一常數(shù) 試證明 寬平穩(wěn) 證明 均值為0 只與t s有關(guān) 所以寬平穩(wěn) 建立時間序列模型 首先應(yīng)判斷時間序列的特性 判斷是否滿足建模條件 法建模主要解決兩個問題 分析時間序列的隨機性 平穩(wěn)性和季節(jié)性 找出生成它的合適的隨機過程或模型 即判斷該時間序列是遵循一純AR過程 還是遵循一純MA過程或ARMA過程 所使用的工具主要是時間序列的自相關(guān)函數(shù) autocorrelationfunction ACF 及偏自相關(guān)函數(shù) partialautocorrelationfunction PACF 7 2時間序列的自相關(guān)分析 自相關(guān)分析法是進(jìn)行時間序列分析的有效方法 它簡單易行 較為直觀 根據(jù)繪制的自相關(guān)分析圖和偏自相關(guān)分析圖 我們可以初步地識別平穩(wěn)序列的模型類型和模型階數(shù) 利用自相關(guān)分析法可以測定時間序列的隨機性和平穩(wěn)性 以及時間序列的季節(jié)性 一 自相關(guān)分析 1 自相關(guān)函數(shù)的定義 滯后期為k的自協(xié)方差函數(shù)為 則自相關(guān)函數(shù)為 其中 當(dāng)序列平穩(wěn)時 自相關(guān)函數(shù)可寫為 2 樣本自相關(guān)函數(shù) 其中 樣本自相關(guān)函數(shù)可以說明不同時期的數(shù)據(jù)之間的相關(guān)程度 其取值范圍在 1到1之間 值越接近于1 說明時間序列的自相關(guān)程度越高 3 樣本的偏自相關(guān)函數(shù) 在給定了 的條件下 與滯后k期時間序列之間的條件相關(guān) 換句話說 偏自相關(guān)是對之間未被所解釋的相關(guān)度量 從 t中去掉 t 1的影響 則只剩下隨機擾動項 t 顯然它與 t 2無關(guān) 因此我們說 t與 t 2的偏自相關(guān)系數(shù)為零 在AR 1 中 同樣地 在AR p 過程中 對所有的k p t與 t k間的偏自相關(guān)系數(shù)為零 樣本的偏自相關(guān)函數(shù)的計算 其中 1 時間序列的隨機性 是指時間序列各項之間沒有相關(guān)關(guān)系的特征 使用自相關(guān)分析圖判斷時間序列的隨機性 一般給出如下準(zhǔn)則 若時間序列的自相關(guān)函數(shù)基本上都落入置信區(qū)間 則該時間序列具有隨機性 若較多自相關(guān)函數(shù)落在置信區(qū)間之外 則認(rèn)為該時間序列不具有隨機性 時間序列特性分析 注 在B J方法中 測定時間序列的隨機性 多用于模型殘差 以評價模型優(yōu)劣 2 判斷時間序列是否平穩(wěn) 是一項很重要的工作 運用自相關(guān)分析圖判定時間序列平穩(wěn)性的準(zhǔn)則是 若時間序列的自相關(guān)函數(shù)在k 3時都落入置信區(qū)間 且逐漸趨于零 則該時間序列具有平穩(wěn)性 若時間序列的自相關(guān)函數(shù)更多地落在置信區(qū)間外面 則該時間序列不具有平穩(wěn)性 注 在B J方法中 只有平穩(wěn)的時間序列才能建立ARMA模型 否則必須經(jīng)過適當(dāng)?shù)奶幚硎剐蛄袧M足平穩(wěn)性要求 例對某種趨勢的時間序列進(jìn)行差分處理 但很多序列不能通過差分達(dá)到平穩(wěn) 而且差分雖然消除了序列的趨勢易于建模 但也消除了序列的長期特征 實際的經(jīng)濟序列差分一般不超過兩次 3 時間序列的季節(jié)性判定準(zhǔn)則 月度數(shù)據(jù) 考察k 12 24 36 時的自相關(guān)系數(shù)是否與0有顯著差異 季度數(shù)據(jù) 考察k 4 8 12 時的自相關(guān)系數(shù)是否與0有顯著差異 注1 實際問題中常遇到季節(jié)性和趨勢性同時存在的情況 應(yīng)先剔除序列趨勢性 在識別季節(jié)性 注2 包含季節(jié)性的時間序列也不能直接建模 應(yīng)先進(jìn)行季節(jié)差分消除 季節(jié)差分一般不超過一階 三 ARMA模型的自相關(guān)分析 AR p 模型的偏自相關(guān)函數(shù)是以p步截尾的 自相關(guān)函數(shù)拖尾 MA q 模型的自相關(guān)函數(shù)具有q步截尾性 偏自相關(guān)函數(shù)拖尾 可用以上兩個性質(zhì)來識別AR和MA模型的階數(shù) ARMA p q 模型的自相關(guān)函數(shù)和偏相關(guān)函數(shù)都是拖尾的 7 4ARMA模型的建模 一 模型階數(shù)的確定 1 基于自相關(guān)函數(shù)和偏相關(guān)函數(shù)的定階方法 對于ARMA p q 模型 可以利用其樣本的自相關(guān)函數(shù)和樣本偏自相關(guān)函數(shù)的截尾性判定模型的階數(shù) 如果樣本的偏自相關(guān)函數(shù)是以p步截尾的 模型為AR p 如果樣本的自相關(guān)函數(shù)具有q步截尾性 模型為MA q 如果樣本的自相關(guān)函數(shù)和偏相關(guān)函數(shù)都是拖尾的 模型為ARMA p q 1 自相關(guān)函數(shù)的截尾性統(tǒng)計檢驗 對于每一個q 計算 M取 為或者 對于MA q 模型 當(dāng)k q時 考察其中滿足的個數(shù)是否占M個的68 3 或者95 5 以上 2 偏自相關(guān)函數(shù)的截尾性統(tǒng)計檢驗 對于每一個p 計算 M取 為或者 對于AR p 模型 當(dāng)k p時 考察其中滿足的個數(shù)是否占M個的68 3 或者95 5 以上 如果對于序列 和 截尾 即不存在上述的 來說 均不 和 判定平穩(wěn)時間序列 則可以 為ARMA模型 一般地 對ARMA 模型 它們均值為0 可遞推得到殘量估計 現(xiàn)作假設(shè)檢驗 是來自白噪聲的樣本 令 3 殘差項的白噪聲檢驗 Q統(tǒng)計量檢驗 其中 取 左右 則當(dāng) 成立時 服從 的 分布 對給定的顯著性水平 若 則拒絕 即模型與原隨機序列之間擬合得不好 則認(rèn)為模型與原隨機序列之間擬合 需重新考慮 得較好 模型檢驗被通過 建模 若 自由度為 注 上機操作時 一般看Q統(tǒng)計檢驗的相伴概率 1 用AR 1 擬合時間序列 考察其殘差樣本的自相關(guān)函數(shù)是否q1步截尾 則模型為ARMA 1 q1 否則 2 用AR 2 擬合時間序列 考察其殘差樣本的自相關(guān)函數(shù)是否q2步截尾 則模型為ARMA 1 q2 否則 3 繼續(xù)增大p 重復(fù)上述做法 直至殘差序列的樣本自相關(guān)函數(shù)截尾為止 4 Tasy和TiaoARMA模型定階法 1950年 1998年北京城鄉(xiāng)居民定期儲蓄比例 選擇合適的ARMA模型擬合可以考慮擬合模型為AR 1 ARMA 1 3 連續(xù)讀取70個化學(xué)反應(yīng)數(shù)據(jù) 可以嘗試使用AR 1 MA 1 和ARMA 1 1 模型擬合該序列 2 基于F檢驗確定階數(shù) 3 利用信息準(zhǔn)則法定階 AIC準(zhǔn)則和BIC準(zhǔn)則 此外 常用的方法還有 1967年 瑞典控制論專家K J Astr m教授將F檢驗準(zhǔn)則用于對時間序列模型的定階 原理 模型階數(shù)簡約原則parsimonyprinciple 設(shè)yt 1 t n 是零均值平穩(wěn)序列 用模型AR模型擬合檢驗統(tǒng)計量 結(jié)論若F F 則拒絕原假設(shè) 認(rèn)為AR p 合適 若F F 則接受原假設(shè) 認(rèn)為AR p 1 合適 AR p 模型定階的F準(zhǔn)則 檢驗統(tǒng)計量 結(jié)論若F F 則拒絕原假設(shè) 模型階數(shù)仍有上升的可能 若F F 則接受原假設(shè) 認(rèn)為ARMA p 1 q 1 合適 ARMA p q 模型定階的F準(zhǔn)則 另外一個遇到的問題是 在實際識別ARMA p q 模型時 需多次反復(fù)償試 有可能存在不止一組 p q 值都能通過識別檢驗 顯然 增加p與q的階數(shù) 可增加擬合優(yōu)度 但卻同時降低了自由度 因此 對可能的適當(dāng)?shù)哪Ｐ?存在著模型的 簡潔性 與模型的擬合優(yōu)度的權(quán)衡選擇問題 信息準(zhǔn)則法 AIC準(zhǔn)則 背景 AIC準(zhǔn)則是日本統(tǒng)計學(xué)家赤池Akaike于1973年提出的 全稱為最小信息量準(zhǔn)則 或AIC準(zhǔn)則 Akaikeinformationcriterion 該準(zhǔn)則既考慮擬合模型對原始數(shù)據(jù)的接近程度 也考慮模型中所含待定參數(shù)的個數(shù) 適用于ARMA模型的檢驗 AIC準(zhǔn)則確定模型的階數(shù) AIC定階準(zhǔn)則 是模型的未知參數(shù)的總數(shù) 是用某種方法得到的方差 的估計 為樣本大小 則定義AIC準(zhǔn)則函數(shù) 用AIC準(zhǔn)則定階是指在 的一定變化范圍內(nèi) 尋求使得 最小的點 作為 的估計 AR 模型 ARMA 模型 BIC準(zhǔn)則 AIC準(zhǔn)則是樣本容量N的線性函數(shù) 在N 時不收斂于真實模型 它通常比真實模型所含的未知參數(shù)要多 是過相容的 為了彌補AIC準(zhǔn)則的不足 Akaike于1976年提出BIC準(zhǔn)則 而Schwartz在1978年根據(jù)Bayes理論也得出同樣的判別標(biāo)準(zhǔn) 稱為SBC準(zhǔn)則 理論上已證明 SBC準(zhǔn)則是最優(yōu)模型的真實階數(shù)的相合估計 AR p 模型的YuleWalker方程估計 在AR p 模型的識別中 曾得到 利用 k k 得到如下方程組 此方程組被稱為YuleWalker方程組 該方程組建立了AR p 模型的模型參數(shù) 1 2 p與自相關(guān)函數(shù) 1 2 p的關(guān)系 二 模型的參數(shù)估計 AR p 模型參數(shù)的Yule Walker估計 特例 一階自回歸模型AR 1 二階自回歸模型AR 2 MA q 模型參數(shù)估計 特例 一階移動平均模型MA 1 二階移動平均模型MA 2 可以用直接法或迭代法求解 ARMA p q 模型的參數(shù)估計 由于模型結(jié)構(gòu)的復(fù)雜性 參數(shù)估計比較困難 有幾種方法可以進(jìn)行 一般利用統(tǒng)計分析軟件包完成 2 精估計 ARMA p q 模型參數(shù)的精估計 一般采用極大似然估計 由于模型結(jié)構(gòu)的復(fù)雜性 無法直接給出參數(shù)的極大似然估計 只能通過迭代方法來完成 這時 迭代初值常常利用初估計得到的值 用公式表示如下 三 ARMA p q 序列預(yù)報 用條件期望進(jìn)行預(yù)測 1 AR 1 模型的條件期望預(yù)測設(shè)yt適合如下AR 1 模型 1 以t為原點 向前一步預(yù)測公式 L 1 2 向前二步預(yù)測公式 L 2 3 向前L步預(yù)測公式 L 2 2 MA 1 模型的條件期望預(yù)測 設(shè) 1 向前一步預(yù)測 L 1 2 向前二步預(yù)測 L 2 3 向前l(fā)步預(yù)測公式 L 2 3 ARMA 1 1 模型的條件期望預(yù)測 設(shè) 1 向前一步預(yù)測 L 1 2 向前二步預(yù)測 L 2 可見 當(dāng)L 1時 ARMA 1 1 預(yù)測值也是由如下差分方程決定的 3 向前L步預(yù)測公式 L 2 三 預(yù)測誤差 由于預(yù)測只能建立在到t時刻為止的可用信息的基礎(chǔ)上 因此 根據(jù)最小均方誤預(yù)測的第二個準(zhǔn)則 以及平穩(wěn)可逆序列可以表示成傳遞函數(shù)形式的論斷 可以將預(yù)測值表示成能夠估計的項 t t 1 的加權(quán)和的形式 由上得以t為原點 向前L步的預(yù)測誤差為 由于 t是白噪聲 故有 誤差方差為 注 預(yù)測誤差的估算是 1 p算和 1 q估計都為正確的假設(shè) 實際中參數(shù)通過估計得到的 且估計量是隨機變量 有均值和方差 因而實際誤差大于理論估計誤差 五 預(yù)測誤差的置信區(qū)間 對于正態(tài)過程 預(yù)測誤差的分布為 所以 對yt l預(yù)測的95 的置信區(qū)間為 因此 設(shè) 為一AR 2 序列 其中 求 的自協(xié)方差函數(shù) 例1 解答 Yule Walker方程為 且 聯(lián)合上面三個方程 解出 例2 考慮如下AR 2 序列 若已知觀測值 1 試預(yù)報 2 給出 1 預(yù)報的置信度為95 的預(yù)報區(qū)間 解答 1 2 預(yù)報的置信度為95 的預(yù)報區(qū)間分別為 7 3單位根檢驗和協(xié)整檢驗 一 平穩(wěn)性的檢驗 引言 前面我們討論的是平穩(wěn)時間序列的建模和預(yù)測方法 即所討論的時間序列都是寬平穩(wěn)的 一個寬平穩(wěn)的時間序列的均值和方差都是常數(shù) 并且它的協(xié)方差有時間上的不變性 但是許多經(jīng)濟領(lǐng)域產(chǎn)生的時間序列都是非平穩(wěn)的 呈現(xiàn)出明顯得趨勢性和周期性 序列不平穩(wěn) 導(dǎo)致預(yù)測無效 產(chǎn)生謬誤回歸等問題 1 通過時間序列的趨勢圖來判斷 這種方法通過觀察時間序列的趨勢圖來判斷時間序列是否存在趨勢性或周期性 優(yōu)點 簡便 直觀 對于那些明顯為非平穩(wěn)的時間序列 可以采用這種方法 缺點 對于一般的時間序列是否平穩(wěn) 不易用這種方法判斷出來 2 通過自相關(guān)函數(shù) ACF 判斷 平穩(wěn)時間序列的自相關(guān)函數(shù) ACF 要么是截尾的 要么是拖尾的 因此我們可以根據(jù)這個特性來判斷時間序列是否為平穩(wěn)序列 若時間序列具有上升或下降的趨勢 那么對于所有短時滯來說 自相關(guān)系數(shù)大且為正 而且隨著時滯k的增加而緩慢地下降 若序列無趨勢 但是具有季節(jié)性 那末對于按月采集的數(shù)據(jù) 時滯12 24 36 的自相關(guān)系數(shù)達(dá)到最大 如果數(shù)據(jù)是按季度采集 則最大自相關(guān)系數(shù)出現(xiàn)在4 8 12 并且隨著時滯的增加變得較小 若序列是有趨勢的 且具有季節(jié)性 其自相關(guān)函數(shù)特性類似于有趨勢序列 但它們是擺動的 對于按月數(shù)據(jù) 在時滯12 24 36 等處具有峰態(tài) 如果