Model Runtun Waktu Stasioner

Chapter 3 Model Runtun Waktu Stasioner Proses-proses stasioner (W-S) yang penting adalah sebagai berikut: White Noise Moving Average: MA(), MA(q), MA( ) Autoregressive: AR(), AR(p), AR( ) Autoregressive Moving Average: ARMA(p, q) Pada sub bab berikut, proses-proses diatas akan dibahas lebih detail. 3. Proses White Noise Proses white noise {X t } adalah barisan variabel random tidak berkorelasi dengan mean µ = 0 dan variansi σ 2 yakni { σ cov(x t+h, X t ) = 2, h = 0 0, h 0 { σ cor(x t+h, X t ) = 2, h = 0 0, h 0 Dapat ditunjukan proses white noise bersifat stasioner. Proses ini merupakan buliding block bagi proses stasioner lainnya. Sering ditulis X t WN(0, σ 2 ). Perhatikan dari definisi diatas diperoleh bahwa cov(x t, X s ) = σ 2 jika dan hanya jika t = s, dan bernilai 0 jika t s. 3.2 Proses MA() Proses moving average orde dapat dituliskan sebagai X t = ε t + θ ε t, t Z, ε t WN(0, σ 2 ), θ R Dengan demikian E(X t ) = 0, E(Xt 2) = σ2 ( + θ 2 ) < dan ( + θ 2 )σz 2 h = 0 γ X (t + h, t) = θσz 2 h = ± 0 h > 9

0 CHAPTER 3. MODEL RUNTUN WAKTU STASIONER yang tidak bergantung pada t. Terlihat proses MA() merupakan proses yang stasioner. Selanjutnya disini diperoleh h = 0 θ ρ X (h) = (+θ 2 ) h = ± 0 h > 3.3 Proses MA(q) {X t } disebut proses moving average orde q, dapat dituliskan sebagai X t = b 0 ε t + b ε t + + b q ε t q = dimana b 0 =, b, b 2,, b q R. Diperoleh b j ε t j, ε t WN(µ, σ 2 ) Mean m(t) = EX t = (b 0 + b +... + b ε )µ, merupakan suatu konstanta Kovariansi Definisikan maka diperoleh X t = X t m(t), ε t = ε t µ X t = ε t + b ε t + + b q ε t q Dengan demikian diperoleh X 2 t = sehingga dari sifat proses white noise didapat E( X 2 t ) = i=0 i=0 b i b j ε t i ε t j b i b j E( ε t i ε t j ) = σ 2 Yakni disimpulkan var( X t ) = var(x t ) tidak bergantung pada t. Selanjutnya, definisikan Asumsikan s t, maka diperoleh X t Xs = γ(t, s) = E X t Xs = hanya bergantung pada jarak s t = h, yakni i=0 b i b j ε t i ε s j σ 2 q s+t i=0 b i b i t+s b 2 i t s q 0 t s > t dan γ(h) = σ 2 q h i=0 b i b i+h h q 0 h > t

3.4. PROSES AR() (SKEMA MARKOV) γ(h) = q h b ib i+h i=0 b 2 i h q 0 h > t Catatan: Secara equivalen dapat ditunjukkan bahwa γ(t, s) = σ 2 q i=t s b ib i t+s, 0 t s q Dari analisa diatas, terlihat bahwa M A(q) adalah proses (W S) stasioner karena memenuhi aksioma proses stasioner. 3.4 Proses AR() (skema Markov) Proses AR() didefinisikan sebagai Definisikan X t = ax t + ε t, ε t WN(µ, σ 2 ), a R X t = X t E(X t ) ε t = ε t E(ε t ) E( ε t ) = 0 Anggap sistem mulai dari t = 0, X 0 konstanta atau non stokastik. Diperoleh dengan substitusi sederhana X t = X t E(X t ) = ax t + ε t E(aX t + ε t ) = ax t + ε t ae(x t ) + E(ε t ) = a(x t E(X t )) + (ε t E(ε t )) = a X t + ε t Selanjutnya dengan substitusi berulang diperoleh Disini diperoleh t X t = a t X0 + a j ε t j E( X t ) = a t X0, yakni E( X 0 ) = X 0 diasumsikan konstanta Var ( X t t ) = a 2j σ 2 cov( X t+h, X t+h t ) = E( a j ε t t+h j a i ε t t i ) = a h+2i σ 2 i=0 i=0 Diperoleh beberapa keadaan. a = 0 = X t = ε t proses stasioner. 2. a < = E( X t ) 0, t dan var( X t ) a 2 σ 2, t. Keadaan ini seringkali disebut kasus stable atau BIBO (Bounded input gives Bounded Output), bersifat stasioner secara asimtotik

2 CHAPTER 3. MODEL RUNTUN WAKTU STASIONER 3. a > = E X t = a t X 0, t var( X t ) = a2t a 2 σ2, t = bersifat tidak stable secara eksponensial (exponentially unstable) 4. a = = E( X t ) = X 0 dan var( X t ) = σ 2 t. Terlihat variansi akan menuju tak hingga tetapi tidak secara exponentially unstable. Untuk a = diperoleh proses random walk t X t = ε t j + X 0 Proses ini sering digunakan untuk menggambarkan pergerakan harga saham. Sekarang misalkan sistem tidak dimulai dari waktu t = 0 dengan X 0, tetapi dimulai pada waktu dengan t = T dengan nilai awal X T maka untuk kasus stable dalam limit untuk T diperoleh penyelesaian berbentuk X t = a j ε t j Penyelesaian berbentuk demikian sering disebut penyelesaian steady state karena merupakan penyelesaian untuk stable yang dimulai dari waktu lampau yang tidak berhingga. Penyelesaian steady-state juga merupakan penyelesaian stasioner secara asimtotik. 3.5 Proses MA( ) Proses ini dapat dinyatakan sebagai X t = b j ε t j, ε t WN(0, σ 2 ) Interpretasi dari jumlahan/sum diatas adalah nilai limit dalam mean square dari N j= N b jε t j, N N yakni berlaku N E(X t b j ε t j ) 2 0, N j= N Definisi 3.5.. Misalkan {X k, k N} adalah barisan variabel random {X k, k N} konvergen ke X 0 dalam mean-square jika dan E(X 2 0 ) < dan Ditulis X 0 = l.i.m. k X k lim E(X k X 0 ) 2 = 0 k Catatan : var(x k X 0 ) 0 untuk X 0 = E(X k ) Teorema 3.5.2. (Riesz-Fischer) Diberikan barisan variabel random X k dengan E(X 2 k ) <. Maka terdapat variabel random X 0 sedemikian hingga X 0 = l.i.m. X k jika dan hanya jika untuk k, l lim E(X k X l ) 2 = 0 k

3.6. PROSES AR(P) 3 Terlihat dari teorema diatas, X k memenuhi sifat Cauchy Convergence Kondisi untuk Cauchy Convergence : b 2 j < Proses MA( ) dengan b 2 j j= < adalah proses stasioner Bukti : Karena fungsi ekspektasi adalah fungsi kontinu, maka dengan mengaplikasikan Monotone Convergence Theorem dan Lemma Fatou diperoleh Selanjutnya, didapatkan E(X t ) = E( lim n n j= n cov(x t, X s ) = E(X t X s ) = E( = = i, b j ε t j ) = lim E( n b j ε t j ) n j= n n = lim = 0 b i b j E(ε t i ε s j ) b i b t s+i σ 2 Definisikan jarak antar waktu h = t s maka diperoleh cov(x t, X s ) = cov(x t+h, X t ) = n j= n b j ε t j )( i= b j E(ε t j ) i= b i b i+h σ 2 b j ε s i ) merupakan suatu fungsi yang hanya bergantung kepada jarak h, independen terhadap t.dapat disimpulkan X t proses stasioner. Contoh 3.5.3. Pandang proses AR() dengan a <. Didepan telah ditunjukkan bahwa proses ini stasioner dengan penyelesaian steady-state berbentuk X t = a j ε t j, ε t WN(0, σ 2 ). Dengan memandang bentuk untuk proses MA( ) diatas, diperoleh b j = a j, j > 0 dan b j = 0 untuk j < 0. Dengan demikian didapat b2 j = a2j = a <, sehingga dapat disimpulkan 2 bahwa penyelesaian steady-state untuk proses AR() diatas stasioner. Hasil ini juga dapat diperoleh dari fakta bahwa E(X t ) = 0 dan cov(x t, X t+h ) = σ 2 aj a j+h = σ 2 a h a, suatu fungsi 2 dari jarak h, bukan merupakan fungsi dari t. 3.6 Proses AR(p) Proses autoregressive orde p dapat ditulis sebagai X t = a X t + a 2 X t 2 +... + a p X t p + ε t, t Z dengan a, a 2,..., a p R, ε t WN(0, σ 2 ). Dengan mendefinisikan operator backward-shift (lag operator) untuk proses {X t } sebagai (B j X) t = X t j j, t Z

4 CHAPTER 3. MODEL RUNTUN WAKTU STASIONER maka proses AR(p) dapat dituliskan sebagai berikut: X t a X t a 2 X t 2... a p X t p = ε t X t a (BX) t a 2 (B 2 X) t... a p (B p X) t = ε t ( a B a 2 B 2... a p B p )X t = ε t D(B)X t = ε t dengan polinomial D(z) = ( a n z...a p z p ). Jika polinomial D(z) memiliki sifat tertentu maka proses AR(p) akan bersifat stasioner (dibahas lebih lanjut pada subbagian kausalitas dan invertible. 3.7 Proses ARMA(p, q) Proses X t adalah suatu proses ARMA(p, q) dapat ditulis sebagai X t a X t... a p X t p = ε t + b ε t +... + b q ε t q dengan a, a 2,..., a p, b, b 2,..., b q R, ε t WN(0, σ 2 ). Dengan menggunakan operator lag maka proses ARMA(p, q) dapat ditulis menjadi dengan D(B)X t = C(B)ε t D(z) = a z... a p z p C(z) = + b z + b 2 z 2 +... + b q z q Jika polinomial D(z) memiliki sifat tertentu maka proses AR(p) akan stasioner (dibahas lebih lanjut pada bagian kausalitas dan invertible ). Kasus khusus dari proses ARMA(p, q). AR(p) jika C(z) =, D(z) = a z... a p z p 2. MA(q) jika D(z) =, C(z) = + b z + b 2 z 2 +... + b q z q 3.8 Kausalitas dan Invertibilitas Definisi 3.8.. (Kausalitas)Jika proses linear X t = b jε t j berlaku b j = 0, j < 0 dan b 2 j <, maka X t disebut fungsi kausal (dari ε t ) Catatan:. Proses X t = b jε t j merupakan kelas proses stasioner yang penting, yang disebut proses linear (atau seringkali disebut sebagai proses Wold) 2. Untuk proses linear yang kausal berlaku X t = b j ε t j, yakni proses X t hanya bergantung kepada nilai-nilai ε s, s t (yakni nilai-nilai proses ε t di nasa lampau). 3. Agar proses linear memenuhi kondisi l.i.m. maka dibutuhkan kondisi yang lebih umum untuk mean square convergence adalah: b 2 j <. Kondisi b j < dan limsupe X t 2 <

3.8. KAUSALITAS DAN INVERTIBILITAS 5 3.8. Kausalitas dari proses ARMA (p, q) Misalkan {X t } adalah ARMA (p, q) berbentuk D(B)X t = C(B)ε t, dengan polinomial D( ) dan C( ) tidak memiliki akar-akar yang sama. Maka {X t } akan bersifat kausal jika dan hanya jika D(z) 0 untuk z, z C. Dengan kata lain-polinomial D(z) (dari polinomial autoregresi) tidak memiliki akar-akar dalam unit circle z, yakni jika z i, i =,...,r adalah akar-akar berbeda dari D(z) maka berlaku z i >. Jika X t bersifat kausal maka kondisi b 2 j < akan dipenuhi, yakni X t akan stasioner. Pada kasus kausal, penyelesaian untuk X t dapat ditulis sebagai dengan ε t WN(0, σ 2 ) X t = C(B) D(B) ε t = b j B j ε t = b j ε t j Penyelesaian steady-state Jika polinomial D(z) 0 untuk z = (yakni akar-akar dari polinomial D(z) memiliki nilai mutlak ), maka terdapat penyelesaian yang bersifat steady state untuk X t. X t = C(B) D(B) ε t = b j B j ε t = b j ε t j Penyelesaian yang diperoleh tidak selalu bersifat stasioner, stasioner hanya apabila c j <. Ekspansi dari D(z) Penyelesaian untuk proses ARMA, D(B)X t = C(B)ε t, dapat diperoleh dengan ekspansi dari polinomial D(B) dalam persamaan X t = C(B) D(B) ε t (yakni ingin ditentukan deret berupa proses MA( ) yang ekuivalen sebagai hasil ekspansi D(B) dikalikan polinomial C(B)). Untuk menentukan bentuk ekspansi dari D(z) = dapat dituliskan sebagai h j z j = H(z) untuk r < z < r 2, r, r 2, C maka polinomial D(z) D(z) = c(z z )(z z 2 )...(z z r ) dimana z, z 2,...,z r adalah akar-akar dari D(z) dan c suatu konstanta yang harus ditentukan. Dengan demikian diperoleh D(z) = c.... z z z z 2 z z r Ekspansi D(z) selanjutnya dapat diperoleh dengan melakukan ekspansi dari setiap faktor ke dalam deret geometri berikut. Kasus z i > = z z i z i z i z = z i (z j i )z j, z < z i

6 CHAPTER 3. MODEL RUNTUN WAKTU STASIONER 2. Kasus z i < = = z z i z zi z z = z i z (j+) ( zi ) j z = z + z i z 2 + zi 2 z 3 +... = z j i z j = j= = z i z j i z j, z > z i (z i ) j z j Catatan: Untuk proses yang kausal, penyelesaian dapat diperoleh dengan metode lain, lihat bagian (3.8.3). Contoh 3.8.2.. AR() (Skema Markov) X t = ax t + ε t X t ax t = ε t ( ab)x t = ε t D(z) = az = a(z a ) c = a, z = a H(z) = D(z) = c(z z i ) = a z a Akar-akar dari D(z) = 0 az = 0 z = a jika a > atau a < maka X t kausal Misalkan a < atau a > maka Maka diperoleh penyelesaian kausal 2. AR(2) (Proses Yule) = (z j z z z )zj = a a j z j H(z) = D(z) = a. a a j z j = a j z j X t = H(B)ε t = a j B j ε t = a j ε t j X t = a X t + a 2 X t 2 + ε t Agar stasioner (kausal) maka akar-akar dari polinomial D(z) = a z a z z 2 harus berada di luar unit circle, yakni z i >, i =, 2. Sebagai contoh :

3.8. KAUSALITAS DAN INVERTIBILITAS 7 a D(z) = (.5z + 0.56z 2 ) = ( 0.7z)( 0.8z) z = 0.7, z 2 = 0.8, z i >, i =, 2 proses stasioner b D(z) = ( 0.2z 0.8z 2 ) = ( z)( + 0.2z) z =, z 2 = 0.2 z = bersifat non kausal, non steady state sehingga non stasioner. Kondisi stasioner dari AR(2) dapat dinyatakan dengan parameter-parameternya a, a 2. Akar-akar dari D(z) = a z a 2 z 2 adalah z = a + a 2 + 4a 2, z 2 = a a 2 + 4a 2 2a 2 2a 2 Jika z, z 2 akar-akar dari persamaan D(z) maka D(z) = ( z z)( z 2 z) = 0 = ( + )z z z }{{ 2 } a + ( ) = 0 z z }{{ 2 } a 2 z + z 2 = 2a 2 a + 2a 2 a 2 + 4a + 2 a a 2 + 4a 2 = a z. z 2 = 4a2 2 4a 2 = a 2 Kondisi untuk stasioner: z i > z i <, i =, 2 maka a 2 = z z 2 < < a 2 < a = z + z 2 < 2 2 < a < 2 Untuk akar-akar real: a 2 + 4a 2 2 0 < 2a 2 2a 2 = z a + a 2 + 4a a 2 a 2 + 4a 2 }{{} 0 2a 2 < a + a 2 + 4a < 2 2a 2 + a < a 2 + 4a 2, kuadratkan = z 2 < 4a 2 2 + 4a 2a + a 2 < a2 + 4a 2 4a 2 2 + 4a 2 a 4a 2 < 0 4a 2 (a 2 + a ) < 0 (a 2 + a ) <

8 CHAPTER 3. MODEL RUNTUN WAKTU STASIONER 2a 2 a + a 2 + 4a 2 > 2a 2 a > a 2 + 4a 2 a 2a 2 < a 2 + 4a 2 4a 2 (a a 2 + ) < 0 a a 2 < 3.8.2 Invertibilitas Definisi 3.8.3. (Invertible) Suatu proses ARMA (p, q) didefinisikan dengan persamaan dengan D(B)X t = C(B)ε t D(z) = a z... a p z p C(z) = + b z +... + b q z q disebut invertible jika terdapat barisan konstanta {h j } sedemikian hingga h2 j < dan ε t = h j X t j, t Z, h 0 = (proses AR( )) Terlihat bahwa sifat kausalitas dan invertible menunjukan hubungan antara {X t } dan {ε t } Teorema 3.8.4. Diberikan {X t } suatu proses ARMA(p, q) dengan polinomial D( ) dan C( ) tidak memiliki akar-akar yang sama. Maka {X t } invertible jika dan hanya jika C(z) 0 untuk semua z C sedemikian hingga z. Dengan kata lain, akar-akar berbeda dari C(z), yakni z,...,z k, akan memiliki sifat z i >, i =, 2,..., k. Contoh :. Tentukan apakah proses berikut proses yang kausal dan/atau invertible X t = Y t 0.4Y t W t = Y t 2.5Y t dengan Y t adalah suatu proses stasioner yang memiliki mean 0 Jawab : X t dan W t adalah proses MA(), maka menurut definisi, proses MA orde q selalu merupakan proses kausal (yakni memenuhi definisi kausal, X t = c jε t j, c j = 0 untuk j < 0, c j < dan mengambil nilai c j = 0, j 2). Untuk proses X t, polinomial C(z) = 0, 4z yakni akarnya adalah z = 0,4, sehingga z = 2, 5 > maka bersifat invertible. Untuk proses W t, polinomial C(z) = 2, 5z sehingga akar-akarnya z = 2.5 = 0.4 <, maka bersifat tidak invertible. Catatan : Berdasarkan definisi dapat ditunjukkan bahwa proses MA(q), q < selalu bersifat kausal, sedangkan proses AR(p), q < selalu bersifat invertible, sedangkan untuk proses ARMA(p, q) bergantung kepada akar-akar dari polinomial-polinomialnya.

3.8. KAUSALITAS DAN INVERTIBILITAS 9 2. Dimiliki proses ARMA(2,) berbentuk X t = 0.9X t 0.04X t 2 + ε t + 0.25ε t dengan ε t WN(0, σ 2 ). Diperoleh maka dimiliki X t 0.9X t + 0.04X t 2 = ε t + 0.25ε t D(z) = 0.5z + 0.04z 2 = ( 0.4z)( 0..z) C(z) = + 0.25z Karena akar-akar D(z) adalah z = 0.4, z 2 = 0. maka X t proses kausal dan stasioner! Karena akar-akar dari C(z) adalah z = 0.25 maka x t adalah proses yang invertible. 3.8.3 Menentukan koefisien-koefisien dari penyelesaian Kausal Diberikan proses ARMA(p, q) yang kausal maka penyelesaian kausal akan berbentuk D(B)X t = C(B)ε t X t = H(B) ε t = = h j ε t j h j B j ε t Polinomial H(z) = C(z) D(z), z diperoleh dengan ekspansi dari polinomial D(z) yang memiliki akar-akar dengan nilai absolut >. Disini diperoleh Sehingga diperoleh dari H(z) = C(z) D(z) berlaku D(z) = a z... a p z p C(z) = + b z +... + b q z q H(z)D(z) = B(z) (h 0 + h z + h 2 z 2 + h 3 z 3 +...)( a z a 2 z 2... a p z p ) = ( + b z +... + b q z q ) Dengan menyamakan koefisien diperoleh z 0 : h 0 = b 0 = z : h h 0 a = b h = b + h 0 a = b + a z 2 = h 2 h 0 a 2 h a = b 2. h 2 = b 2 + h 0 a 2 + h a = h 2 + a 2 + c b + a 2 Bentuk Umum : ( ) h j a k h j k = b j, 0 j < max(p, ε + ) ( ) h j 0<k j 0<k p a k c j k = 0, j > max(p, q + )

20 CHAPTER 3. MODEL RUNTUN WAKTU STASIONER dengan b 0 =, b j = 0 untuk j > q, a j = 0 untuk j > p. Penyelesaian umum akan berbentuk h n = k r i i= α ij n j ξ n i, n max(p, q + ) p dengan ξ i, i =, 2,...k menunjukkan akar-akar yang berbeda dari polinomial D(z), r i = multiplikasi dari ξ i (banyaknya ξ i yang sama), k i= r i = p. Konstanta α ij (p buah) dan koefisien h j, 0 j < max(p, q + ) p diperoleh dari syarat batas (*) Contoh : ARMA(2,), p = 2; q = ( B + 4 B2 )X t = ( + B)ε t A(z) = z + 4 z2 z = 2, z 2 = 2 ( 2 z)( 2 z) = 0 z = 2, k =, r = 2 a =, a = a 2 = 4, b 0 =, b = Dari persamaan (*) Dari persamaan (**) h j a k h j k = b j 0 j < max(p, q + ) 0<k j j = 0 h 0 = b 0 = j = h a h 0 = b h = a + b = + = 2 h j a k h j k = 0 j max(p, ε + ) 0<k j j 2 h j a h j a 2 h j 2 = 0 h j h j + 4 h j 2 = 0 ri= Penyelesaian umum : h n = k i= α ijn j ε i. Masukkan nilai-nilai yang diperoleh di depan, didapat h n = (α 0 + nα )2 n, n max(p, q + ) p n 0 Dari boundary condition: h 0 =, h = 2 diperoleh dari persamaan untuk h n. Untuk, n = 0 = α 0 = h 0 = n = = (α 0 + α )2 = h = 2 α = 4 α 0 = 3 yakni h n = ( + 3n)2, n = 0,, 2,... Contoh : ARMA (,) ( a B)X t = ( + b B)ε t z 0 = h 0 = z : h h 0 a = b h = a + b z 2 = h 2 h a = 0 h 2 = a 2 + a b = a (a + b ) z 3 = h 3 h 2 a = 0 h 3 = h 2 a = a 2 (a + b ). z j = h j = a j (a + b ) j

3.9. FUNGSI AUTOKOVARIANSI PROSES LINEAR STASIONER 2 jika D(z) = a z kausal maka z = a > a < maka a j 0; j sehingga akan berhingga X t = h jε t j stasioner. 3.9 Fungsi Autokovariansi Proses Linear Stasioner Jika {ε t } adalah proses stasioner dengan fungsi autokovariansi γ( ) dan semua t Z, deret/series C(B)ε t = c j B j ε t = c j ε t j konvergen (dalam m.s.) Definisikan X t = C(B)ε t. Maka X t stasioner dengan fungsi autokovariansi Bukti : γ X (h) = E(X t ) = lim j,k= n j=n c j c k γ(h j + k) n c j ε t j = ( c2 j < maka untuk c j )E(ε t ) (3.) E(X t+h X t ) = lim E( n n c j ε t+h j )( c k ε t k ) n j= n k= n = c j c k {γ(h j + k) + (Eε t ) 2 } (3.2) j.k= yang berhingga dan independen terhadap waktu t. Baris terakhir diperoleh dari fakta karen fungsi kovariansi untuk ε t adalah γ(.) dan ε t stasioner, maka Subsitusi (3.) ke (3.2) diperoleh γ ε (h) = E(ε t+h ε t ) E(ε t+h )E(ε t ) = E(ε t+h ε t ) (E(ε t )) 2, dari E(ε t+h ε t ) = γ ε (h) + (E(ε t )) 2 γ X (h) = E(X t+h X t ) E(X t+h )E(X t ) = c j c k γ(h j + k) j,k= 3.0 Fungsi Autokorelasi Parsial Fungsi Autokorelasi parsial (PACF) pada lag-k adalah korelasi di antara X t dan X t+k setelah dependensi linear antara X t dan X t+k variabel antara X t+, X t+2,...,x t+k dihapus. Ada beberapa prosedur untuk menentukan bentuk PACF yang salah satunya akan dijelaskan sebagai berikut. Misalkan {X t } adalah suatu proses stasioner dengan mean nol. Misalkan X t+k dapat ditulis sebagai model liner. X t+k = a k X t+k + a k2 X t+k 2 +... + a kk X t + e t+k (3.3)