3.9 Fungsi Autokovariansi Proses Linear Stasioner

Transkripsi

1 3.9. FUNGSI AUTOKOVARIANSI PROSES LINEAR STASIONER jika D(z) = a z kausal maka z = a > a < maka a j 0; j sehingga akan berhingga X t = h jε t j stasioner. 3.9 Fungsi Autokovariansi Proses Linear Stasioner Jika {ε t } adalah proses stasioner dengan fungsi autokovariansi γ( ) dan semua t Z, deret/series C(B)ε t = c j B j ε t = c j ε t j konvergen (dalam m.s.) Definisikan X t = C(B)ε t. Maka X t stasioner dengan fungsi autokovariansi Bukti : γ X (h) = E(X t ) = lim j,k= n j=n c j c k γ(h j + k) n c j ε t j = ( j= c j < maka untuk c j )E(ε t ) (3.) E(X t+h X t ) = lim E( n n c j ε t+h j )( c k ε t k ) n j= n k= n = c j c k {γ(h j + k) + (Eε t ) } (3.) j.k= yang berhingga dan independen terhadap waktu t. Baris terakhir diperoleh dari fakta karen fungsi kovariansi untuk ε t adalah γ(.) dan ε t stasioner, maka Subsitusi (3.) ke (3.) diperoleh γ ε (h) = E(ε t+h ε t ) E(ε t+h )E(ε t ) = E(ε t+h ε t ) (E(ε t )), dari E(ε t+h ε t ) = γ ε (h) + (E(ε t )) γ X (h) = E(X t+h X t ) E(X t+h )E(X t ) = c j c k γ(h j + k) j,k= 3.0 Fungsi Autokorelasi Parsial Fungsi Autokorelasi parsial (PACF) pada lag-k adalah korelasi di antara X t dan X t+k setelah dependensi linear antara X t dan X t+k variabel antara X t+, X t+,...,x t+k dihapus. Ada beberapa prosedur untuk menentukan bentuk PACF yang salah satunya akan dijelaskan sebagai berikut. Misalkan {X t } adalah suatu proses stasioner dengan mean nol. Misalkan X t+k dapat ditulis sebagai model liner. X t+k = a k X t+k + a k X t+k a kk X t + e t+k (3.3)

2 CHAPTER 3. MODEL RUNTUN WAKTU STASIONER Dengan a ki adalah parameter ke-i dari persamaan regresi, dan e t+k adalah komponen error yang tidak berkorelasi dengan X t+k j untuk j. Kalikan dengan X t+k j pada kedua sisi () dan ambil nilai ekspektasinya, maka diperoleh γ(j) = a k γ(j ) + a k γ(j ) a kk γ(j k) dengan demikian didapat (bagi kedua sisi dengan γ(0)). ρ(j) = a k ρ (j ) + a k ρ(j ) a kk ρ(j k) Untuk j =,,..., k diperoleh sistem persamaan ρ() = a k ρ(0) + a k ρ()... a kk ρ(k ) ρ() = a k ρ() + a k ρ(0)... a kk ρ(k ). ρ(k) = a k ρ(k ) + a k ρ(k )... a kk ρ(0) (substitusi ρ( k) = ρ(k)) menggunakan metode Cramer diperoleh untuk k =,,... a = ρ() a = ρ() ρ() ρ() ρ() ρ(), a 33 = ρ() ρ() ρ() ρ() ρ() ρ() ρ() ρ() ρ() ρ() ρ() ρ(). a kk = ρ() ρ()... ρ(k )ρ() ρ() ρ()... ρ(k 3)ρ() ρ(k ) ρ(k ) ρ(k 3)... ρ()ρ(k) ρ() ρ()... ρ(k )ρ(k ) ρ() ρ()... ρ(k 3)ρ(k ).. ρ(k ) ρ(k ) ρ(k 3)... ρ() Contoh:. WN(0, σ ) dan PACF { σ k = 0 γ(k) = 0 k 0 { k = 0 ρ(k) = 0 k 0 { k = 0 a kk = 0 k 0 Secara definisi, a 00 = ρ(0) = untuk semua proses stasioner. Biasanya kita hanya mengamati kasus k 0.. AR() X t a X t = ε t, ε t WN(0, σ ) - proses AR()selalu invertible

3 3.0. FUNGSI AUTOKORELASI PARSIAL 3 - Proses AR() kausal jika akar atau z > atau a <. Untuk keadaan kausal berlaku. E(X t k X t ) = a E(X t k X t ) + E (X t+k ε t ) γ(k) = a γ(k ) k sehingga diperoleh ACF : ρ(k) = a ρ(k ) k Dari ρ(0) = diperoleh dengan substitusi berulang ρ(k) = a k, k, fungsi yang meluruh menuju 0 untuk k. PACF : a = ρ() = a a = ρ() ρ() ρ() ρ() ρ() = a a a a a = 0 dengan cara yang sama berlaku a kk = 0 k Rangkuman: Untuk proses AR() berlaku fungsi ACF meluruh secara eksponensial untuk lag k sedangkan untuk PACF hanya memiliki satu nilai tidak nol pada lag k =, nilainya + atau - tergantung pada tanda a. 3. AR() ACF X t = a X t + a X t + ε t, ε t WN(0, σ ) Kalikan kedua sisi dengan X t k E(X t k X t ) = a E(X t k X t ) + a E(X t k X t ) + E(X t k ε t ) atau γ (k) = a γ(k ) + a γ(k ), k dan ρ(k) = a ρ(k ) + a ρ(k ), k ( ) k = ρ() = a + a ρ() ρ () = a a k = ρ() = a + a = a a + a = a + a a a untuk k 3 diperoleh secara rekursif dengan persamaan (**) di atas.

4 4 CHAPTER 3. MODEL RUNTUN WAKTU STASIONER PACF a = ρ() = a a ρ ρ ρ a = ρ ρ ( ) a +a a a = = ρ ρ ρ ( a a ) ( a a ) substitusi = ( a )(a + a a ) a ( a ) a = a ( a ) + a a a ( a ) a = a (( a ) a ) ( a ) a = a ρ ρ ρ ρ ρ ρ ρ3 a 33 = secara ekuivalen untuk a kk = 0, k 3 4.PACF AR(p) ρ ρ ρ ρ ρ ρ ρ a + a ρ ρ a ρ + a ρ ρ a ρ + a ρ ρ ρ ρ ρ ρ ρ Dengan menggunakan ρk = a ρ(k ) + a ρ(k ) +... a ρ ρ(k ρ) untuk k > 0, maka jika k > ρ, kolom terakhir dari matriks pembilang dari a kk pada rumus persamaan matriks untuk a kk dapat ditunjukkan merupakan kombinasi linear dari kolom-kolom lainnya. Dengan demikian PACF a kk akan bernilai 0 untuk lag k > p. Sifat ini dapat digunakan untuk identifikasi model AR, yakni pada model AR berlaku ACF akan meluruh secara eksponensial menuju nol, sedangkan nilai PACF a kk = 0.k > ρ. 5.MA() X t = ε t + b ε t, ε t WN(0, σ ) diamati untuk k positif k 0 untuk k negatif berlaku ρ( k) = ρ( k). Dimuka telah diperoleh σε( + b ) k = 0 γ(k) = b σε k = 0 k > sehingga b ρ(k) = + b k = 0 k >

5 3.0. FUNGSI AUTOKORELASI PARSIAL 5 Sifat-sifat: MA() dan MA(q) selalu kausal sehingga merupakan proses yang stasioner. Dapat pula ditunjukkan karena + b < Syarat invertible adalah akar-akar dari polinomial + b z nilai mutlaknya >, yakni z = b > atau b < PACF dari MA() a = ρ = b + b = b ( b ) ( b b )( + b ) a = ρ ρ ρ = ρ ρ = b ( + b. ) b b = + b + = b ( b ) b4 b 6 ρ ρ ρ ρ = 0 ρ = 0 ρ ρ3 = 0 a 33 = ρ ρ = 0 ρ ρ ρ = 0 ρ = ρ3 ρ b 3 = + b + b4 + b6 = b3 ( b ) ( b 8 ) (+b ) ( b 4 )( + b + b 4 ) secara umum a kk = bk ( b ) b (k+) k a kk <, meluruh secara exponensial, nilai bergantung. 6. MA() x t = ε t + b ε t + b ε t, ε t WN(0, σ ε ) γ(0) = σ ε( + b + b ) γ() = σ ε( + b )b γ(3) = σ ε b γ(k) = 0 k 3 b ( + b ) + b + k = b ρ(k) = b + b + k = b 0 k >

6 6 CHAPTER 3. MODEL RUNTUN WAKTU STASIONER PACF a = ρ a = ρ ρ ρ a 33 = ρ3 ρρ( ρ) ρ ρ ( ρ) Dengan subtitusi ρ k = 0, k > 3 dapat ditunjukkan bahwa PACF bersifat meluruh secara eksponensial atau fungsi cosinus yang meluruh tergantung dari akar-akar polinomial + b z + b z = 0 apakah senantiasa real atau semuanya kompleks. 7. MA(q) Fungsi kovariansi ACF q γ 0 = σε b j { σ ε (b k + b b k b q k b ε ) k =,,...q γ = 0 k > q b k + b b k b q k b q ρ(k) = + b k =,,...,q b q 0 k > q PACF: merupakan gabungan dari fungsi yang meluruh secara eksponensial dan/atau fungsi sinus yang meluruh, tergantung kepada akar-akar dari C(z) = + b z + b z b q z q 8.ARMA (p, q) Gabungan dari model AR(ρ) dan MA(q) maka fungsi ACFnya akan sama dengan sifat dari model autorregresive, sedangkan bentuk PACFnya akan mengikuti sifat dari model moving average. 3. Menentukan Fungsi kovariansi proses ARMA-kausal Metode : Menggunakan koefisien-koefisien h j Diberikan model ARMA (p, q) D(B)X t = C(B)ε t, ε t WN(0, σ ) maka penyelesaian kausal X t = h j ε t j memiliki fungsi kovariansi dimana h(z) = Contoh : ARMA(,) h j z j = C(z) D(z), z < γ(k) = σ h j h j+ k, k z D(z) = a z... a p z p C(z) = + b z b q z q ( B + 4 B )X t = ( + B)ε t

7 3.. MENENTUKAN FUNGSI KOVARIANSI PROSES ARMA-KAUSAL 7 Dari contoh dimuka diperoleh h n = ( + 3n) n n 0. Untuk k 0 berlaku γ(k) = σ h j h j+k = σ ( + 3j) j ( + 3(jk)) (j+k) = σ ( + 3j)( + 3j + 3k) j k = σ k ( + 3j + 3k + 3j + 9j + 9j ) }{{}}{{} j (3k+)+6j+9jk+9j 4 j (3+)+3j(3k+)+9j 4 j = 4 = 3 4 Dist. geometrik j.4 j = 4 9 dari x = 0 x( - p) x = p p ( p) = 4 p = 4 = 3 4 j.4 j 0 7 dari x = 0 x ( - p) x = ( p)( p) p 3 maka γ(k) = σ k [ 4 (3k + )] + 3(3k + ) ] = σ k [ k] Metode : menggunakan persamaan untuk fungsi kovariansi Proses ARMA(p, q) a 0 X t a X t... a p X t p = b 0 ε t + b ε t b q ε t q ε t WN(0, σ ) Kalikan dengan X t k dan gunakan ekspektasi, diperoleh (dengan substitusi γ( k) = γ(k)) γ(k) a γ(k ) a γ(k )... a p γ(k p) b 0 E(ε t X t k ) + b E(ε t X t k b ε E(ε X t k q t q ) Selanjutnya substitusikan penyelesaian kausal X t = c jε t j maka diperoleh E(ε t i X t k ) = E( ε t j k ε t i )

8 8 CHAPTER 3. MODEL RUNTUN WAKTU STASIONER Karena ε t white noise maka E(ε t i X t k ) = 0.k > Pada sisi kanan diperoleh : k = 0 b 0 σ + b c σ b q c q σ k = b c 0 σ b q c q σ. k = q b q c 0 σ + b ε c σ k = q b q c 0 σ k q + 0 Secara umum dapat ditulis. γ(k) a γ(k )... a p γ(k p) = σ k j q b j c j k untuk 0 k < max (p, q + ). γ(k) a γ(k )... a p γ(k p) = 0 untuk k max (p, q + ) Penyelesaian umum dari persaaan () berbentuk γ(h) = k r i i 0 β ij h j ξ h i, h max(p, q + ) p dengan konstanta-kostanta β ij (p buah), nilai-nilai kovariansi γ(j) 0 j < max(p, q + ) p ditentukan dari syarat batas () dengan pertama-tama mencari nilai koefisien c 0, c,...,c k dari penyelesaian kausal. Contoh : ARMA(,) diperoleh h j = a j (a + b ), j ( a L)X t = ( + b L)ε t X t a X t = ε t + b ε t ( ) Kalikan dengan X t k dan ambil nilai ekspektasinya diperoleh k = 0 γ(k) a γ(k ) = E(ε t X t k ) + b E(X t k ε t ) substitusi X t = c jε t j dan (**) di atas γ(0) = a γ() = E(ε t X t ) + b E(X t ε t ) E(X t ε t ) = σ ε E(X t ε t ) = a E(X t ε t ) + E(ε t ε t ) + b E(ε t ) = a σ ε + b σ ε = (a + b )σ ε sehingga diperoleh k = diperoleh γ(0) = a γ() + σ ε + b (a + b )σ ε γ() a γ(0) = E(X t ε t ) + b E(X t ε t ) dari Disini E(X t ε t ) = 0 dari X t = c jε t j sehingga γ() = a γ(0) + b σ ε

9 3.. MENENTUKAN FUNGSI KOVARIANSI PROSES ARMA-KAUSAL 9 substitusikan γ() ke persamaan untuk γ(0) di atas diperoleh γ(0) = a γ(0) + a b σ ε + σ ε + b (a + b )σ ε γ(0) = ( + b + a b )σ ε a dan γ() = a γ(0) + b σ ε = ( ( + b ) + a b ) a a + b σε = a + a b + a b + b a b a σε = a + b + a b + a b a σε = (a + b )( + a b ) a σε Untuk k diperoleh γ(k) a γ(k ) = 0 γ(k) = a γ(k ) maka diperoleh k = 0 (a + b )( + a b ) ρ(k) = + a + a k = b a ρ(k ) k merupakan bentuk kombinasi dari ACF untuk AR dan MA. Contoh : ARMA(,) ( L + 4 L )X t = ( + L)ε t diperoleh: b 0 =, b =, c 0 =, c =, c = 4 Dapat ditunjukkan (lihat contoh-contoh sebelumnya) h 0 =, h =, h n = ( + 3n) n n 0 Dari boundary condition () k = 0 γ(0) γ() + 4 γ() = σ (h 0 + h ) Dari boundary condition () k = γ() γ(0) + 4 γ() = σ h 0 γ(k) γ(k ) + γ(k ) = 0, k 4 (3) dengan penyelesaian umum yakni didapat γ(n) = (β 0 + β n) n, n 0 γ(0) = β 0 γ() = (β 0 + β ) γ() = (β 0 + β.).

10 30 CHAPTER 3. MODEL RUNTUN WAKTU STASIONER substitusi γ(0), γ(), γ(), h 0 =, h = ke persamaan (3) diperoleh: (3.) : β 0 β 0 β (β 0 + β ) = σ.3 ( + ) ( β ) β = 3σ 9 6 β β = 3σ 3β 0 β = 6σ (3.) : 5 4 (β 0 + β ) = σ 3 8 β β = σ 3β 0 + 5β = 8σ Penyelesaian: β = 8σ dan β 0 = 3 σ 3. Maka diperoleh penyelesaian umum ( ) 3 γ(k) = σ k 3 + 8k k 0 Contoh 3: Dimiliki proses AR(p): D(B)X t = ε t ε t WN(0, σ ). Dengan menggunakan bentuk penyelesaian γ(h) untuk model ARMA diperoleh untuk model AR(p) γ(h) = k r i i= β ij h j ε h i, h 0 εi, i =,,...,k adalah akar-akar (yang mungkin bernilai kompleks) dari D(z), dan r i adalah multiplikasi dari ε i. Konstanta β ij dihitung dengan bantuan boundary condition (). Tugas : Dimiliki model kausal AR() ( ξ B)( ξ B)X t = ε t, ξ, ξ >, ξ ξ ( a B a B )X t = ε t dengan b 0 =, a = ξ + ξ, a = ξ ξ. Hitung γ(h) untuk akar-akar (ξ = re iθ, ξ = re iθ 0 < θ < π) Metode 3: Metode perhitungan numerik langsung Tentukan γ(k), k = 0,,..., p menggunakan boundary condition () dan () dari metode, kemudian gunakan nilai-nilai ini untuk menghitung γ(p + ), γ(p + ),... menggunakan boundary condition () secara rekursif. Metode ini lebih mudah secara numerik. Contoh : Dari model ARMA(,) sebelumnya diperoleh dari boundary condition persamaanpersamaan γ(0) γ() + γ() = 3σ 4 γ() γ(0) + γ() = σ 4 γ() γ() + 4 γ(0) = 0

11 3.. HUBUNGAN ANTARA AR(P) DAN MA(Q) 3 Proses Sifat ACF Sifat PACF. WN semua ρ(k) = 0, k 0 semua a kk = 0, k 0. AR(): a > 0 ρ(k) = a k, exp. delay a = ρ(), a ss = 0, s 3. AR(): a < 0 ρ(k) = a k a = ρ(), a kk = 0, k meluruh exp. nilai bergantian tanda 4. AR(p) meluruh menuju nol, nonzero untuk lag sd p nilai mungkin a kk = 0, k > p bergantian tanda 5. MA(): b > 0 nonzero dan positif pada lag- meluruh menuju nol ρ(s) = 0 untuk s nilai bergantian tanda a > 0 6. MA(): b < 0 nonzero dan negatif pada lag- meluruh menuju nol ρ(s) = 0 untuk s secara geometris a < 0 7. MA(q) nonzero pada lag meluruh menuju nol,,...,p ρ(k) = 0 untuk k > q nilai mungkin bergantian tanda 8. ARMA(,), a > 0 meluruh menuju 0 secara meluruh menuju nol eksponensial mulai lag nilai bergantian tanda tanda (sign) ρ() = a = ρ() tanda(sign) (a + b ) 9. ARMA(,), a < 0 s.d.a meluruh secara ekponensial sign ρ() = sign (a + b ) a = ρ() sign a kk = sign (a )k 0. ARMA(p, q) meluruh menuju nol meluruh menuju nol (langsung atau bergantian tanda) mulai lag q (langsung atau bergantian tanda ) setelah lag p Table 3.: Rangkuman sifat teoritis ACF dan PACF dari model-model stasioner Penyelesaian:γ(0) = 3 3 σ, γ() = 8 3 σ, γ() = 0 3 σ. Untuk lag k > dapat digunakan persamaan γ(k) γ(k ) + γ(k ) = 0, k = 3, 4,... 4 γ(k) = γ(k ) + γ(k ) 4 3. Hubungan antara AR(p) dan MA(q) Untuk model AR(p) yang stasioner (kausal) maka X t dapat ditulis sebagai proses MA( ), dan disisi lain jika model MA(q) bersifat invertible maka ε t dapat dipandang sebagai proses AR( ). Hal ini menunjukan bahwa proses AR(p) stasioner dapat didekati dengan MA(k), untuk k yang cukup besar dan proses MA(q) invertible dapat didekati dengan AR(k), untuk suatu k yang cukup besar. Dengan kata lain, proses AR(p) dan MA(q) sebenarnya merupakan dua proses yang ekuivalen. Pada praktisnya selalu dipilih model yang paling parsimony (sederhana) yakni model yang memiliki jumlah parameter yang paling sedikit. Sebagai ilustrasi daripada mengestimasi model MA(00) (yang merupakan model ekuivalen untuk AR()), akan jauh lebih mudah mengestimasi satu parameter a dalam model AR().

12 3 CHAPTER 3. MODEL RUNTUN WAKTU STASIONER 3.3 Algoritma Durbin Levinson untuk PACF Jika {x t } adalah proses yang stasioner dengan mean 0 dan memiliki kovariansi γ( ) dan ACF ρ( ) s.h. γ(0) > 0 dan γ(h) 0 jika h maka PACF dapat dihitung secara rekursif sebagai a n+,n+ = dengan nilai awal a = ρ() ρ(n + ) n a nj ρ(n + j) j= n a nj ρ(j) j= a n+,j = a nj a n+,n+ a n,n+ j, j =,,...,n