平穩(wěn)時間序列預測法講義(PPT 83頁).ppt

7平穩(wěn)時間序列預測法 7 1概述7 2時間序列的自相關分析7 3單位根檢驗和協(xié)整檢驗7 4ARMA模型的建模 7 1概述 時間序列取自某一個隨機過程 則稱 一 平穩(wěn)時間序列 過程是平穩(wěn)的 隨機過程的隨機特征不隨時間變化而變化 過程是非平穩(wěn)的 隨機過程的隨機特征隨時間變化而變化 寬平穩(wěn)時間序列的定義 設時間序列 對于任意的t k和m 滿足 則稱寬平穩(wěn) 嚴平穩(wěn)時間序列的定義 所有的統(tǒng)計特性不隨時間的平移而變化 Box Jenkins基本思想 用數(shù)學模型描述時間序列自身的相關性 并假定這種自相關性一直延續(xù) 用該模型預測未來的值 ARMA模型是描述平穩(wěn)隨機序列的最常用的一種模型 Box Jenkins方法提供了對時間序列進行分析 預測 以及對ARMA模型識別 估計和診斷的系統(tǒng)方法 ARMA模型的三種基本形式 自回歸模型 AR Auto regressive 移動平均模型 MA Moving Average 混合模型 ARMA Auto regressiveMoving Average 如果時間序列滿足其中是獨立同分布的隨機變量序列 且滿足 則稱時間序列服從p階自回歸模型 二 自回歸模型 滯后算子多項式 的根均在單位圓外 即 的根大于1 自回歸模型的平穩(wěn)條件 例1AR 1 模型的平穩(wěn)性條件 對1階自回歸模型AR 1 方程兩邊平方再求數(shù)學期望 得到Xt的方差 由于Xt僅與 t相關 因此 E Xt 1 t 0 如果該模型穩(wěn)定 則有E Xt2 E Xt 12 從而上式可變換為 在穩(wěn)定條件下 該方差是一非負的常數(shù) 從而有 1 而AR 1 的特征方程 的根為z 1 AR 1 穩(wěn)定 即 1 意味著特征根大于1 對高階自回模型AR p 來說 多數(shù)情況下沒有必要直接計算其特征方程的特征根 但有一些有用的規(guī)則可用來檢驗高階自回歸模型的穩(wěn)定性 1 AR p 模型穩(wěn)定的必要條件是 1 2 p 1 2 由于 i i 1 2 p 可正可負 AR p 模型穩(wěn)定的充分條件是 1 2 p 1 如果時間序列滿足則稱時間序列服從q階移動平均模型 或者記為 三 移動平均模型MA q 平穩(wěn)條件 任何條件下都平穩(wěn) 對于移動平均模型MR q Xt t 1 t 1 2 t 2 q t q其中 t是一個白噪聲 于是 MA q 模型的平穩(wěn)性 當滯后期大于q時 Xt的自協(xié)方差系數(shù)為0 因此 有限階移動平均模型總是平穩(wěn)的 通常希望AR過程與 過程能相互表出 即過程可逆 如移動平均模型MA 可逆條件 的根均在單位圓外 可逆條件 四 ARMA p q 模型 如果時間序列 滿足 則稱時間序列服從 p q 階自回歸移動平均模型 或者記為 平穩(wěn)條件 的根均在單位圓外可逆條件 的根均在單位圓外 將純AR p 與純MA q 結合 得到一個一般的自回歸移動平均 autoregressivemovingaverage 過程ARMA 該式表明 1 一個隨機時間序列可以通過一個自回歸移動平均過程生成 即該序列可以由其自身的過去或滯后值以及隨機擾動項來解釋 2 如果該序列是平穩(wěn)的 即它的行為并不會隨著時間的推移而變化 那么我們就可以通過該序列過去的行為來預測未來 這也正是隨機時間序列分析模型的優(yōu)勢所在 例題分析 設 其中A與B 為兩個獨立的零均值隨機變量 方差為1 為一常數(shù) 試證明 寬平穩(wěn) 證明 均值為0 只與t s有關 所以寬平穩(wěn) 建立時間序列模型 首先應判斷時間序列的特性 判斷是否滿足建模條件 法建模主要解決兩個問題 分析時間序列的隨機性 平穩(wěn)性和季節(jié)性 找出生成它的合適的隨機過程或模型 即判斷該時間序列是遵循一純AR過程 還是遵循一純MA過程或ARMA過程 所使用的工具主要是時間序列的自相關函數(shù) autocorrelationfunction ACF 及偏自相關函數(shù) partialautocorrelationfunction PACF 7 2時間序列的自相關分析 自相關分析法是進行時間序列分析的有效方法 它簡單易行 較為直觀 根據(jù)繪制的自相關分析圖和偏自相關分析圖 我們可以初步地識別平穩(wěn)序列的模型類型和模型階數(shù) 利用自相關分析法可以測定時間序列的隨機性和平穩(wěn)性 以及時間序列的季節(jié)性 一 自相關分析 1 自相關函數(shù)的定義 滯后期為k的自協(xié)方差函數(shù)為 則自相關函數(shù)為 其中 當序列平穩(wěn)時 自相關函數(shù)可寫為 2 樣本自相關函數(shù) 其中 樣本自相關函數(shù)可以說明不同時期的數(shù)據(jù)之間的相關程度 其取值范圍在 1到1之間 值越接近于1 說明時間序列的自相關程度越高 3 樣本的偏自相關函數(shù) 在給定了 的條件下 與滯后k期時間序列之間的條件相關 換句話說 偏自相關是對之間未被所解釋的相關度量 從 t中去掉 t 1的影響 則只剩下隨機擾動項 t 顯然它與 t 2無關 因此我們說 t與 t 2的偏自相關系數(shù)為零 在AR 1 中 同樣地 在AR p 過程中 對所有的k p t與 t k間的偏自相關系數(shù)為零 樣本的偏自相關函數(shù)的計算 其中 1 時間序列的隨機性 是指時間序列各項之間沒有相關關系的特征 使用自相關分析圖判斷時間序列的隨機性 一般給出如下準則 若時間序列的自相關函數(shù)基本上都落入置信區(qū)間 則該時間序列具有隨機性 若較多自相關函數(shù)落在置信區(qū)間之外 則認為該時間序列不具有隨機性 時間序列特性分析 注 在B J方法中 測定時間序列的隨機性 多用于模型殘差 以評價模型優(yōu)劣 2 判斷時間序列是否平穩(wěn) 是一項很重要的工作 運用自相關分析圖判定時間序列平穩(wěn)性的準則是 若時間序列的自相關函數(shù)在k 3時都落入置信區(qū)間 且逐漸趨于零 則該時間序列具有平穩(wěn)性 若時間序列的自相關函數(shù)更多地落在置信區(qū)間外面 則該時間序列不具有平穩(wěn)性 注 在B J方法中 只有平穩(wěn)的時間序列才能建立ARMA模型 否則必須經(jīng)過適當?shù)奶幚硎剐蛄袧M足平穩(wěn)性要求 例對某種趨勢的時間序列進行差分處理 但很多序列不能通過差分達到平穩(wěn) 而且差分雖然消除了序列的趨勢易于建模 但也消除了序列的長期特征 實際的經(jīng)濟序列差分一般不超過兩次 3 時間序列的季節(jié)性判定準則 月度數(shù)據(jù) 考察k 12 24 36 時的自相關系數(shù)是否與0有顯著差異 季度數(shù)據(jù) 考察k 4 8 12 時的自相關系數(shù)是否與0有顯著差異 注1 實際問題中常遇到季節(jié)性和趨勢性同時存在的情況 應先剔除序列趨勢性 在識別季節(jié)性 注2 包含季節(jié)性的時間序列也不能直接建模 應先進行季節(jié)差分消除 季節(jié)差分一般不超過一階 三 ARMA模型的自相關分析 AR p 模型的偏自相關函數(shù)是以p步截尾的 自相關函數(shù)拖尾 MA q 模型的自相關函數(shù)具有q步截尾性 偏自相關函數(shù)拖尾 可用以上兩個性質(zhì)來識別AR和MA模型的階數(shù) ARMA p q 模型的自相關函數(shù)和偏相關函數(shù)都是拖尾的 7 4ARMA模型的建模 一 模型階數(shù)的確定 1 基于自相關函數(shù)和偏相關函數(shù)的定階方法 對于ARMA p q 模型 可以利用其樣本的自相關函數(shù)和樣本偏自相關函數(shù)的截尾性判定模型的階數(shù) 如果樣本的偏自相關函數(shù)是以p步截尾的 模型為AR p 如果樣本的自相關函數(shù)具有q步截尾性 模型為MA q 如果樣本的自相關函數(shù)和偏相關函數(shù)都是拖尾的 模型為ARMA p q 1 自相關函數(shù)的截尾性統(tǒng)計檢驗 對于每一個q 計算 M取 為或者 對于MA q 模型 當k q時 考察其中滿足的個數(shù)是否占M個的68 3 或者95 5 以上 2 偏自相關函數(shù)的截尾性統(tǒng)計檢驗 對于每一個p 計算 M取 為或者 對于AR p 模型 當k p時 考察其中滿足的個數(shù)是否占M個的68 3 或者95 5 以上 如果對于序列 和 截尾 即不存在上述的 來說 均不 和 判定平穩(wěn)時間序列 則可以 為ARMA模型 一般地 對ARMA 模型 它們均值為0 可遞推得到殘量估計 現(xiàn)作假設檢驗 是來自白噪聲的樣本 令 3 殘差項的白噪聲檢驗 Q統(tǒng)計量檢驗 其中 取 左右 則當 成立時 服從 的 分布 對給定的顯著性水平 若 則拒絕 即模型與原隨機序列之間擬合得不好 則認為模型與原隨機序列之間擬合 需重新考慮 得較好 模型檢驗被通過 建模 若 自由度為 注 上機操作時 一般看Q統(tǒng)計檢驗的相伴概率 1 用AR 1 擬合時間序列 考察其殘差樣本的自相關函數(shù)是否q1步截尾 則模型為ARMA 1 q1 否則 2 用AR 2 擬合時間序列 考察其殘差樣本的自相關函數(shù)是否q2步截尾 則模型為ARMA 1 q2 否則 3 繼續(xù)增大p 重復上述做法 直至殘差序列的樣本自相關函數(shù)截尾為止 4 Tasy和TiaoARMA模型定階法 1950年 1998年北京城鄉(xiāng)居民定期儲蓄比例 選擇合適的ARMA模型擬合可以考慮擬合模型為AR 1 ARMA 1 3 連續(xù)讀取70個化學反應數(shù)據(jù) 可以嘗試使用AR 1 MA 1 和ARMA 1 1 模型擬合該序列 2 基于F檢驗確定階數(shù) 3 利用信息準則法定階 AIC準則和BIC準則 此外 常用的方法還有 1967年 瑞典控制論專家K J Astr m教授將F檢驗準則用于對時間序列模型的定階 原理 模型階數(shù)簡約原則parsimonyprinciple 設yt 1 t n 是零均值平穩(wěn)序列 用模型AR模型擬合檢驗統(tǒng)計量 結論若F F 則拒絕原假設 認為AR p 合適 若F F 則接受原假設 認為AR p 1 合適 AR p 模型定階的F準則 檢驗統(tǒng)計量 結論若F F 則拒絕原假設 模型階數(shù)仍有上升的可能 若F F 則接受原假設 認為ARMA p 1 q 1 合適 ARMA p q 模型定階的F準則 另外一個遇到的問題是 在實際識別ARMA p q 模型時 需多次反復償試 有可能存在不止一組 p q 值都能通過識別檢驗 顯然 增加p與q的階數(shù) 可增加擬合優(yōu)度 但卻同時降低了自由度 因此 對可能的適當?shù)哪Ｐ?存在著模型的 簡潔性 與模型的擬合優(yōu)度的權衡選擇問題 信息準則法 AIC準則 背景 AIC準則是日本統(tǒng)計學家赤池Akaike于1973年提出的 全稱為最小信息量準則 或AIC準則 Akaikeinformationcriterion 該準則既考慮擬合模型對原始數(shù)據(jù)的接近程度 也考慮模型中所含待定參數(shù)的個數(shù) 適用于ARMA模型的檢驗 AIC準則確定模型的階數(shù) AIC定階準則 是模型的未知參數(shù)的總數(shù) 是用某種方法得到的方差 的估計 為樣本大小 則定義AIC準則函數(shù) 用AIC準則定階是指在 的一定變化范圍內(nèi) 尋求使得 最小的點 作為 的估計 AR 模型 ARMA 模型 BIC準則 AIC準則是樣本容量N的線性函數(shù) 在N 時不收斂于真實模型 它通常比真實模型所含的未知參數(shù)要多 是過相容的 為了彌補AIC準則的不足 Akaike于1976年提出BIC準則 而Schwartz在1978年根據(jù)Bayes理論也得出同樣的判別標準 稱為SBC準則 理論上已證明 SBC準則是最優(yōu)模型的真實階數(shù)的相合估計 AR p 模型的YuleWalker方程估計 在AR p 模型的識別中 曾得到 利用 k k 得到如下方程組 此方程組被稱為YuleWalker方程組 該方程組建立了AR p 模型的模型參數(shù) 1 2 p與自相關函數(shù) 1 2 p的關系 二 模型的參數(shù)估計 AR p 模型參數(shù)的Yule Walker估計 特例 一階自回歸模型AR 1 二階自回歸模型AR 2 MA q 模型參數(shù)估計 特例 一階移動平均模型MA 1 二階移動平均模型MA 2 可以用直接法或迭代法求解 ARMA p q 模型的參數(shù)估計 由于模型結構的復雜性 參數(shù)估計比較困難 有幾種方法可以進行 一般利用統(tǒng)計分析軟件包完成 2 精估計 ARMA p q 模型參數(shù)的精估計 一般采用極大似然估計 由于模型結構的復雜性 無法直接給出參數(shù)的極大似然估計 只能通過迭代方法來完成 這時 迭代初值常常利用初估計得到的值 用公式表示如下 三 ARMA p q 序列預報 用條件期望進行預測 1 AR 1 模型的條件期望預測設yt適合如下AR 1 模型 1 以t為原點 向前一步預測公式 L 1 2 向前二步預測公式 L 2 3 向前L步預測公式 L 2 2 MA 1 模型的條件期望預測 設 1 向前一步預測 L 1 2 向前二步預測 L 2 3 向前l(fā)步預測公式 L 2 3 ARMA 1 1 模型的條件期望預測 設 1 向前一步預測 L 1 2 向前二步預測 L 2 可見 當L 1時 ARMA 1 1 預測值也是由如下差分方程決定的 3 向前L步預測公式 L 2 三 預測誤差 由于預測只能建立在到t時刻為止的可用信息的基礎上 因此 根據(jù)最小均方誤預測的第二個準則 以及平穩(wěn)可逆序列可以表示成傳遞函數(shù)形式的論斷 可以將預測值表示成能夠估計的項 t t 1 的加權和的形式 由上得以t為原點 向前L步的預測誤差為 由于 t是白噪聲 故有 誤差方差為 注 預測誤差的估算是 1 p算和 1 q估計都為正確的假設 實際中參數(shù)通過估計得到的 且估計量是隨機變量 有均值和方差 因而實際誤差大于理論估計誤差 五 預測誤差的置信區(qū)間 對于正態(tài)過程 預測誤差的分布為 所以 對yt l預測的95 的置信區(qū)間為 因此 設 為一AR 2 序列 其中 求 的自協(xié)方差函數(shù) 例1 解答 Yule Walker方程為 且 聯(lián)合上面三個方程 解出 例2 考慮如下AR 2 序列 若已知觀測值 1 試預報 2 給出 1 預報的置信度為95 的預報區(qū)間 解答 1 2 預報的置信度為95 的預報區(qū)間分別為 7 3單位根檢驗和協(xié)整檢驗 一 平穩(wěn)性的檢驗 引言 前面我們討論的是平穩(wěn)時間序列的建模和預測方法 即所討論的時間序列都是寬平穩(wěn)的 一個寬平穩(wěn)的時間序列的均值和方差都是常數(shù) 并且它的協(xié)方差有時間上的不變性 但是許多經(jīng)濟領域產(chǎn)生的時間序列都是非平穩(wěn)的 呈現(xiàn)出明顯得趨勢性和周期性 序列不平穩(wěn) 導致預測無效 產(chǎn)生謬誤回歸等問題 1 通過時間序列的趨勢圖來判斷 這種方法通過觀察時間序列的趨勢圖來判斷時間序列是否存在趨勢性或周期性 優(yōu)點 簡便 直觀 對于那些明顯為非平穩(wěn)的時間序列 可以采用這種方法 缺點 對于一般的時間序列是否平穩(wěn) 不易用這種方法判斷出來 2 通過自相關函數(shù) ACF 判斷 平穩(wěn)時間序列的自相關函數(shù) ACF 要么是截尾的 要么是拖尾的 因此我們可以根據(jù)這個特性來判斷時間序列是否為平穩(wěn)序列 若時間序列具有上升或下降的趨勢 那么對于所有短時滯來說 自相關系數(shù)大且為正 而且隨著時滯k的增加而緩慢地下降 若序列無趨勢 但是具有季節(jié)性 那末對于按月采集的數(shù)據(jù) 時滯12 24 36 的自相關系數(shù)達到最大 如果數(shù)據(jù)是按季度采集 則最大自相關系數(shù)出現(xiàn)在4 8 12 并且隨著時滯的增加變得較小 若序列是有趨勢的 且具有季節(jié)性 其自相關函數(shù)特性類似于有趨勢序列 但它們是擺動的 對于按月數(shù)據(jù) 在時滯12 24 36 等處具有峰態(tài) 如果