Diktat - Time Series Analysis. Siana Halim

Transkripsi

1 Diktat - Time Series Analysis Siana Halim 19th January 2006

2 Prakata Diktat Time series ini merupakan rangkuman dari buku Box, G.E.P, Jenkins, G.M, Time Series Analysis, forecasting and Control, Revised Edition, Holden Day,1976. Tujuan dari diktat ini adalah sebagai alat bantu dalam proses mengajar pada mata kuliah Teknik Peramalan yang diberikan sebagai mata kuliah pilihan di Jurusan Teknik Industri - UK. Petra - Surabaya. Ditujukan untuk komunitas mahasiswa dan pengajar di Indonesia yang tertarik untuk menggunakan diktat ini sebagai bahan perkuliahan dan tidak untuk diperjual belikan. Surabaya, January 2006 Siana Halim i

3 Daftar Isi Prakata i Daftar Isi ii 1 Pendahuluan dan Ringkasan Peramalan dengan Time Series Model-model Matematika untuk Permasalahan Stokastik dan Deterministik Dinamik Model-model Stokastik Stasioner dan Tak Stasioner untuk Peramalan Stasioneritas Model Filter Linear Model Autoregressive (AR(p)) Model Moving Average (MA(q)) Model Autoregressive Moving Average (ARMA(p,q)) Model-Model Tak Stasioner Fungsi Autokorelasi Proses Stokastik Stasioner Mean dan Varians dari Proses Stokastik Koefisien-koefisien dari Autokovarians dan Autokorelasi Stasioneritas pada Fungsi Linear ii

4 Daftar Isi iii 2.2 Matriks Positive Definit dan Matriks Autokovarians Fungsi-fungsi Autokovarians dan Autokorelasi Estimasi dari Fungsi-Fungsi Autokovarians dan Autokorelasi Standar Error dari Estimasi Autokorelasi Model-Model Linear Stasioner Proses Linear Umum Dua bentuk yang ekuivalen dari proses linear Fungsi Pembangkit Autokovarians dari Proses Linear Kondisi-kondisi stasioner dan dapat diinverskan pada proses linear Autoregresive dan Moving Average Proses Proses-Proses Autoregresif Kondisi-kondisi stasioner untuk proses - AR Fungsi Autokorelasi dari proses AR Proses AR(1) - Proses Markov Proses AR(2) Fungsi Autokorelasi Parsial (Partial Autocorrelation Function, PACF ) Estimasi dari PACF Error Baku dari Estimasi PACF Proses-proses Moving Average Kondisi-kondisi untuk proses MA(q) agar dapat diinverskan Fungsi Autokorelasi MA(1) MA(2) Dualitas Antara Proses AR dan Proses MA Mixed Autoregressive - Moving Average Processes Sifat-sifat Stasioneritas dan Dapat Diinverskan

5 iv Daftar Isi Fungsi Autokorelasi ARMA(1,1) Model-Model Linear Tak - Stasioner Proses-Proses ARIMA Proses AR(1) Tak Stasioner Model Umum Untuk Proses Tak Stasioner yang Homogen Bentuk Umum dari proses ARIMA Tiga Bentuk Eksplisit dari Model ARIMA Bentuk Persamaan Beda dari Model Bentuk Random Shock dari Model Bentuk Invers dari Model Proses Integrated Moving Average IMA(0,1,1) IMA(0,2,2)

6 Bab 1 Pendahuluan dan Ringkasan 1.1 Peramalan dengan Time Series Definisi 1.1. Time series adalah suatu himpunan pengamatan yang dibangun secara berurutan dalam waktu. Waktu atau periode yang dibutuhkan untuk melakukan suatu peramalan itu biasanya disebut sebagai lead time yang bervariasi pada tiap persoalan. Berdasarkan himpunan pengamatan yang tersedia maka time series dikatakan kontinu jika himpunan pengamatan tersebut adalah kontinu dan dikatakan diskrit bila himpunan pengatamatan tersebut juga diskrit. Notasi 1.1. Dalam diktat ini akan digunakan notasi sebagai berikut : Ẑt(l) adalah peramalan yang dibuat dari awal pengamatan t dari misalnya data penjualan, Z t+l yang terjadi pada lead time l. fungsi Ẑt(l), l = 1, 2, 3,... disebut sebagai fungsi peramalan pada awal pengamatan. Tujuan yang hendak dicapai adalah min E(Z t+l Ẑt(l)) 2 untuk setiap l = 1, 2,... Pembangunan data untuk time series diskrit dapat dilakukan dengan cara 2 macam, yaitu 1. Melalui sampling dari time series kontinu, artinya data yang kontinu diambil sampelnya dalam interval waktu yang sama. 1

7 2 Bab 1. Pendahuluan dan Ringkasan 2. Melalui akumulasi suatu peubah dalam suatu waktu tertentu. Misalnya curah hujan yang biasanya diakumulasikan melalui suatu periode waktu tertentu (hari, bulan, dst) 1.2 Model-model Matematika untuk Permasalahan Stokastik dan Deterministik Dinamik Definisi 1.2. (Deterministik dan Stokastik Time Series) 1. Jika nilai suatu masa depan (future value ) dari suatu time series dengan tepat dapat ditentukan oleh suatu fungsi matematika, misalnya : Z t = cos(2πft) maka time series dikatakan sebagai deterministik 2. Jika nilai suatu masa depan (future value) hanya dapat digambarkan dalam suatu distribusi probabilitas maka time series dikatakan sebagai stokastik time series Model-model Stokastik Stasioner dan Tak Stasioner untuk Peramalan Definisi 1.3. Proses Stokastik 1. Proses stokastik adalah suatu famili dari peubah acak {Z t, t T } yang didefinisikan pada suatu ruang probabilitas (Ω, A, P ) 2. Realisasi adalah fungsi-fungsi {Z(ω), ω Ω} pada T, disebut juga jejak cuplikan (sample path) dari proses {Z t, t T } Stasioneritas Suatu kelas yang penting dalam model-model stokastik untuk menggambarkan suatu time series adalah apa yang disebut sebagai model-model stasioner yang mengasumsikan bahwa

8 1.2. Model-model Matematika untuk Permasalahan Stokastik dan Deterministik Dinamik3 proses tetap berada dalam keseimbangan (equilibrium) disekitar konstan mean level. Namun pada kenyataannya time series lebih baik direpresentasikan dalam kelas tak stasioner dan umumnya tak memiliki mean yang alamiah (natural mean). Model stokastik yang digunakan untuk peramalan dengan pembobotan secara eksponensial terhadap rerata bergerak (moving average) adalah optimal dan merupakan anggota dari kelas proses tak stasioner yang dinamakan ARIMA (Auto Regressive Integrated Moving Average). Definisi 1.4. Beberapa Operator Sederhana Untuk menganalisa suatu time series secara matematik dibutuhkan beberapa operator sederhana sebagai berikut: 1. Operator geser mundur ( Backward Shift) B := BZ t = Z t 1 B m Z t = Z t m 2. Operator geser maju ( Forward Shift) F := F Z t = Z t+1 F m Z t = Z t+m F = B 1 3. Operator beda mundur ( Forward Shift) := Z t = Z t Z t 1 = (1 B)Z t F = B 1 Invers dari adalah 1 := S 1 Z t = SZ t = j+0 Z t j

9 4 Bab 1. Pendahuluan dan Ringkasan Bukti: 1 Z t = (1 B) 1 Z t = (1 + B + B )Z t = Z t + Z t 1 + Z t = j=0 Z t j Model Filter Linear Model dengan filter linear didefinisikan sebagai berikut : Z t = µ + a 0 + ψ 1 a 1 + ψ 2 a = µ + Ψ(B)a t (1.1) µ adalah parameter yang menentukan level dari proses a t adalah independent shock, shock adalah suatu bilangan random yang diambil dari suatu distribusi tertentu, biasanya diasumsikan sebagai N (0, σa) 2 deret a t, a t 1, a t 2,... disebut sebagai white noise Ψ(B) = 1 + ψ 1 B + ψ 2 B adalah operator linear yang mentransformasikan a t ke Z t dan disebut sebagai fungsi transfer dari filter ψ(β) White Noise a t Filter Linear Z t Gambar 1.1: Ilustrasi dari Filter Linear dari (1.1)

10 1.2. Model-model Matematika untuk Permasalahan Stokastik dan Deterministik Dinamik5 Deret ψ 1, ψ 2,... adalah bobot, yang secara teoritikal dapat berhingga (finite) atau tak berhingga (infinite). Jika deret ini berhingga, atau tak berhingga dan konvergen maka filter ini dikatakan stabil dan proses Z t dikatakan stasioner, sedangkan parameter µ berarti rata-rata dari variasi proses ini. Namun jika deret ini tidak konvergen maka Z t dikatakan tak stasioner dan µ tidak mempunyai arti, kecuali hanya sebagai titik acuan untuk mengetahui level dari proses Model Autoregressive (AR(p)) Model autoregresif didefinisikan sebagai Z t = φ 1 Zt 1 + φ 2 Zt φ p Zt p + a t (1.2) Z t = Z t µ Model ini diberi nama autoregresif karena : Ingat model linear : Z t = φ 1 X1 + φ 2 X φ p Xp + a model ini menyatakan hubungan antara peubah tak bebas Z terhadap himpunan peubah bebas X 1, X 2,..., X p ditambah sebuah suku yang menyatakan error a, model ini sering kali dinyatakan sebagai model regresi dan dikatakan Z diregresikan terhadap X 1, X 2,..., X p. Pada (1.2) Z diregresikan terhadap nilai-nilai sebelumnya dari peubah Z itu sendiri, karena itulah model ini dikatakan sebagai model autoregresif. Definisi 1.5. (Operator Autoregressive order p) Φ(B) = 1 φ 1 B φ 2 B 2... φ p B p maka (1.2) dapat dituliskan menjadi : Φ(B) Z t = a t Model ini terdiri dari p+2 parameter tak diketahui yaitu µ, φ 1, φ 2,..., φ p, σ 2 a. Dalam praktek nilai-nilai ini diestimasi dari data.

11 6 Bab 1. Pendahuluan dan Ringkasan Dari model (1.2) di atas dapat dilihat dengan mudah bahwa sebenarnya model AR(p) adalah kasus khusus dari model dengan filter linear (1.1). Penjelasan : Z t 1 = φ 1 Zt 2 + φ 2 Zt φ p Zt p 1 + a t 1 Z t 2 = φ 1 Zt 3 + φ 2 Zt φ p Zt p 2 + a t 2 (1.3). Substitusikan (1.3) ke (1.2) maka kita akan dapatkan deret tak berhingga (infinite series) dalam a, sehingga akhirnya akan didapat: Φ(B) Z t = a t ekuivalen dengan Z = Ψ(B)a t dengan Ψ(B) = Φ 1 (B) Proses autoregresif bisa saja stasioner ataupun tak stasioner. Agar proses ini stasioner maka nilai-nilai Φ harus dipilih sedemikian hingga ψ 1, ψ 2,... pada Ψ(B) = Φ 1 (B) membentuk deret yang konvergen Model Moving Average (MA(q)) Model Moving Average didefinisikan sebagai : Z t = a t θ 1 a t 1 θ 2 a t 2... θ q a t q (1.4) Z t tak bebas linear pada jumlahan berhingga q dari nilai-nilai a sebelumnya. Definisi 1.6. Operator Moving Average dengan order q Θ(B) = 1 θ 1 B θ 2 B 2... θ q B q Dengan menggunakan operator ini maka (1.4) dapat dituliskan menjadi : Z t = Θ(B)a t Model ini terdiri dari q+2 parameter tak diketahui yaitu, µ, θ 1, θ 2,..., θ q, σ 2 a, Dalam praktek parameter-parameter ini harus diestimasi dari data.

12 1.2. Model-model Matematika untuk Permasalahan Stokastik dan Deterministik Dinamik Model Autoregressive Moving Average (ARMA(p,q)) Model Autoregressive Moving Average didefinisikan sebagai berikut : Z t = φ 1 Zt 1 + φ 2 Zt φ p Zt p + a t θ 1 a t 1 θ 2 a t 2... θ q a t q (1.5) atau Φ(B) Z t = Θ(B)a t Model ini terdiri dari p + q + 2 parameter tak diketahui yang harus diestimasi dari data. Dalam kenyataan, seringkali suatu time series stasioner dapat direpresentasikan dengan AR, MA atau ARMA dengan p,q tak lebih dari Model-Model Tak Stasioner Dalam dunia industri dan bisnis kebanyakan time series bersifat tak stasioner dan secara khusus tidak bervariasi di sekitar mean yang tetap. Jika sifat dari series ini masih tampak homogen dalam arti fluktuasi yang terjadi di sekitar level tertentu mungkin berbeda pada waktu yang berbeda pula, maka jika difference pada level dilakukan maka fluktuasi satu dengan yang lain akan tampak mirip. Definisi 1.7. Operator Autoregresif secara umum ϕ(b) = Φ(B)(1 B) d merupakan model umum yang mencerminkan sifat-sifat non-stasioner homogen ϕ(b)z t = Φ(B)(1 B) d Z t = Θ(B)a t atau Φ(B)W t = Θ(B)a t dimana W t = d Z t Model ini disebut sebagai ARIMA(p,d,q). Dalam praktek umumnya nilai d biasanya 0,1, atau sebanyak-banyaknya 2. Model ARIMA dapat dibangun dari white noise a t melalui 3 filter operator.

13 8 Bab 1. Pendahuluan dan Ringkasan θ(β) Φ 1 (B) S d White Noise Filter MA Filter Staioner Filter Jumlahan Time Series a e AR W Nonstasioner Z t t t t Gambar 1.2: Model ARIMA dibangun dari white noise a t melalui 3 filter operator. e t = a t θ 1 a t 1 θ 2 a t 2... θ q a t q = Θ(B)a t W t = φ 1 W t 1 + φ 2 W t φ p W t p + e t = Φ 1 (B)e t Z t = S d W t = (1 B) d W t

14 Bab 2 Fungsi Autokorelasi 2.1 Proses Stokastik Stasioner Definisi 2.1. Stasioner kuat Suatu proses stokastik dikatakan sebagai stasioner kuat jika sifat-sifatnya tidak dipengaruhi oleh perubahan titik awal dari observasi t L(Z t1, Z t2,..., Z tm ) = L(Z t1 +k, Z t2 +k,..., Z tm+k) k 1 dengan kata lain distribusi-distribusi yang berlaku invarian terhadap pergeseran waktu Mean dan Varians dari Proses Stokastik Jika m = 1, asumsi stasioner berarti distribusi probabilitas p(z t ) adalah sama untuk seluruh waktu t dan dapat dituliskan sebagai p(z), hal ini berarti proses stokastik memiliki mean konstan µ = E[Z t ] = Zp(Z)dZ yang mendefinisikan level dari fluktuasi proses tersebut dan varians terbatas (bounded) σ 2 Z = E[(Z t µ) 2 ] = yang mengukur penyebaran di sekitar levelnya. 9 (Z t µ) 2 p(z)dz

15 10 Bab 2. Fungsi Autokorelasi Nilai estimasi dari kedua statistik di atas adalah : ˆµ = Z = 1 N ˆσ 2 = 1 N N t=1 Z t N (Z t Z) 2 t= Koefisien-koefisien dari Autokovarians dan Autokorelasi Asumsi stasioneritas berarti juga distribusi probabilitas gabungan (joint probability distribution) p(z t1, Z t2 ) adalah sama untuk setiap t 1, t 2 dengan interval konstan. Hal ini berarti jika scatter diagram dari time series ini di plot, maka nilai-nilai sekitar (neighbourhood points) dari time series tersebut akan berkorelasi. Contoh 2.1. Dari suatu data tertentu didapat plot scatter diagram sebagai berikut Z t+1 Z t+2 Z t Z t Gambar 2.1: Scatter Plot Diagram Definisi 2.2. Autokovarians, Autokorelasi Kovarians antara Z t dan Z t+k yang dipisahkan oleh k interval waktu disebut sebagai auto kovarians pada lag k dan didefinisikan sebagai barikut: γ k = cov[z t, Z t+k ] = E[(Z t µ)(z t+k µ)] Secara sama, autokorelasi pada lag k didefinisikan sebagai berikut:

16 2.1. Proses Stokastik Stasioner 11 ρ k = E[(Z t µ)(z t+k µ)] E[(Zt µ) 2 ]E[(Z t+k µ) 2 ] = E[(Z t µ)(z t+k µ)] σ 2 Z Karena prose stasioner, maka varians σ 2 Z = γ 0 pada waktu t adalah sama untuk waktu t + k, maka autokorelasi pada lag k adalah : ρ k = γ k γ 0 maka ρ 0 = Stasioneritas pada Fungsi Linear Definisi 2.3. Proses Gaussian Suatu proses {Z t, t Z} dikatakan Gaussian jika (Z t1,..., Z tm ) berdistribusi normal. Definisi 2.4. Stasioner Lemah Suatu time series {Z t, t Z} dikatakan stasioner lemah jika: 1. EZ 2 t < 2. EZ t = µ yang berarti bahwa nilai rata-ratanya tidak tergantung pada waktu, konstan sepanjang waktu. 3. Cov(Z t, Z t+s ) = γ s adalah kovarians Catatan 2.1. Kadangkala Z t tidak stasioner tetapi dapat dibuat stasioner dengan melakukan transformasi sederhana. Contoh 2.2. Y t = αt + X t, X t stasioner Z t = Y t Y t 1 = αt + X t (α(t 1) + X t 1 ) = X t X t 1 + α adalah stasioner

17 12 Bab 2. Fungsi Autokorelasi Proposisi 2.1. Misalkan {Z t, t Z} adalah proses Gaussian lemah dengan µ = EZ t, γ s = Cov(Z t, Z t+s ) maka: 1. (Z t1,..., Z tn ) N n ( µ, Γ n ) dimana µ = µ. µ 2. {Z t, t Z} stasioner kuat Bukti: Jika {Z t, t Z} adalah suatu proses Gaussian stasioner maka {Z t } adalah stasioner kuat karena untuk setiap n {1, 2,...} dan h, t 1, t 2,..., Z, peubah acak {Z t1,..., Z tn } dan {Z t1 +h,..., Z tn+h} memiliki mean dan matriks autokovarians yang sama, hal ini berarti memiliki distribusi yang sama. 2.2 Matriks Positive Definit dan Matriks Autokovarians Matriks autokovarians yang bersesuaian dengan proses stasioner untuk sebuah observasi (Z 1, Z 2,..., Z n ) yang dibuat pada n waktu secara berturutan adalah γ 0 γ 1 γ 2... γ n 1 γ 1 γ 0 γ 1... γ n 2 Γ n = γ 2 γ 1 γ 0... γ n γ n 1 γ n 2 γ n 3... γ 0 adalah matriks autokovarians, matriks ini simetrik dengan elemen-elemen konstan pada sebarang diagonalnya. 1 ρ 1 ρ 2... ρ n 1 ρ 1 1 ρ 1... ρ n 2 Γ n = σz 2 ρ 2 ρ ρ n ρ n 1 ρ n 2 ρ n = σnϱ 2 n

18 2.3. Fungsi-fungsi Autokovarians dan Autokorelasi 13 ϱ n adalah matriks autokorelasi. Ambil sebarang fungsi linear dari peubah acak Z t, Z t 1,..., Z t n+1 L t = l 0 Z t + l 1 Z t l n Z t n+1 karena Cov[Z i, Z j ] = γ [i j] untuk proses stasioner, maka V ar[l t ] = n n l i l j γ [j i] > 0 i=1 j=1 jika tak semuanya nol. Berarti Γ n, ϱ n adalah matriks positif definit untuk sebarang proses stasioner. Perlu diingat juga bahwa pada matriks positif definit, determinan dari seluruh minor-minor utamanya lebih besar dari nol. Dengan menggunakan sifat nilai-nilai ρ pada ϱ n secara khusus dapat diamati nilai-nilai determinan sebagai berikut: Untuk n = 2 1 ρ 1 ρ 1 1 > 0 Hal ini berarti : 1 ρ 2 1 > 0, 1 < ρ 1 < 1 Untuk n = 3 1 ρ 1 ρ 1 1 > 0; 1 ρ 2 ρ 2 1 > 0; 1 ρ 1 ρ 2 ρ 1 1 ρ 2 ρ 1 ρ 2 1 > 0; Hal ini berarti : 1 < ρ 1 < 1, 1 < ρ 2 < 1, 1 < ρ 2 ρ ρ 2 1 < Fungsi-fungsi Autokovarians dan Autokorelasi Telah diketahui bahwa koefisien autokovarians γ k pada lag k, mengukur kovarians antara 2 nilai Z t dan Z t+k, pada jarak k. Plot antara γ k vs k disebut sebagai fungsi autokovarians {γ k } dari proses. Catatan fungsi autokorelasi tak berdimensi, berarti terbebas dari skala pengukuran dari time series

19 14 Bab 2. Fungsi Autokorelasi Gambar 2.2: Illustrasi dari fungsi autokovarians 2. karena γ k = ρ k σ 2 z berarti jika fungsi autokorelasi {ρ k } diketahui dan varians dari proses σ 2 z maka fungsi autokovariansnya diketahui juga. karena ρ k = ρ k maka {ρ k } simetri di sekitar nol, dalam praktek kita hanya perlu mengambarkan fungsi positifnya saja Gambar 2.3: Illustrasi dari fungsi autokorelasi, kadang disebut juga sebagai korelogram

20 2.4. Estimasi dari Fungsi-Fungsi Autokovarians dan Autokorelasi Estimasi dari Fungsi-Fungsi Autokovarians dan Autokorelasi Diberikan Z 1, Z 2,..., Z N adalah N data hasil observasi. Estimasi yang paling memuaskan untuk k lag autokorelasi ρ k adalah : ˆρ k = r k = C k C k = 1 N C 0 N k (Z t Z)(Z t+k Z); k = 0, 1, 2,..., K t=1 dimana C k = ˆγ k merupakan estimasi dari autokovarians, dan Z adalah estimasi dari mean dari autokovarians. Dalam praktek untuk mendapatkan estimasi fungsi autokorelasi yang berguna diperlukan sedikitnya 50 observasi dan estimasi dari autokorelasi r k k = 0, 1,..., K dimana K tak lebih kecil dari katakanlah N/4 akan dihitung untuk 2.5 Standar Error dari Estimasi Autokorelasi Perlu untuk menguji apakah ρ k secara efektif akan sama dengan nol setelah lag tertentu V ar(r n ) 1 N {ρ 2 v + ρ v+kρ v k 4ρ k ρ v k + 2ρ 2 v ρ2 k } (2.1) v= adalah varians dari estimasi autokorelasi koefisien dari stationer normal jika ρ k = φ k, ( 1 < φ < 1) maka fungsi autokorelasi akan damps out secara eksponensial dan (2.1) akan menjadi: V ar(r n ) 1 N [ ] (1 + φ 2 )(1 φ 2k ) 2kφ 2k 1 φ 2 (2.2) Secara khusus V ar(r 1 ) 1 N (1 φ2 )

21 16 Bab 2. Fungsi Autokorelasi Untuk sebarang proses dimana autokorelasi ρ v = 0 untuk v > q maka jika k, φ 1 V ar(r k ) 1 {ρ 2 v N + ρ v+kρ v k 4ρ k ρ v k + 2ρ 2 v ρ2 k } v= = 0 k > q 1 q N {1 + 2 ρ 2 v (2.3) v=1 lim k V ar(r k) 1 N [ ] 1 + φ 2 1 φ 2 dalam praktek gantilah ρ k dengan r k dan var(r k ) pada lag yang besar merupakan standard error. Secara sama akan didapat: Cov[r k, r k+s ] 1 N ρ v ρ v+s (2.4) v=

22 Bab 3 Model-Model Linear Stasioner Asumsi yang digunakan pada model linear stokastik adalah Time Series dibangun dari kumpulan linear dari random shock. Pada masalah-masalah praktis, digunakan modelmodel dengan jumlah parameter yang sangat hemat dan ini diwujudkan dalam jumlah suku dari model autoregresive ataupun moving average yang pendek. 3.1 Proses Linear Umum Dua bentuk yang ekuivalen dari proses linear Pada sub bab telah didiskusikan representasi dari proses stokastik sebagai output dari filter linear, dengan inputnya adalah white noise a t, yaitu: Z t = a t + ψ 1 a t 1 + ψ 2 a t = a t + ψ j a t j (3.1) j=1 dimana Z t = Z t µ adalah deviasi proses dari nilai awalnya atau dari meannya, jika proses stasioner. Proses white noise a t dapat dianggap sebagai deret dari shocks yang mengendalikan sistem, yang terdiri dari barisan-barisan peubah acak yang tak berkorelasi dengan mean nol dan varians konstan, yaitu µ = E[a t ] = 0 V ar[a t ] = σa 2 17

23 18 Bab 3. Model-Model Linear Stasioner karena peubah acak a t tak berkorelasi, maka fungsi autokovariansnya adalah: { σa 2 γ k = E[a t a t+k ] =, k = 0 0 k 0 sedangkan fungsi autokorelasinya adalah: ρ k = { 1, k = 0 0 k 0 Model (3.1) menunjukkan bahwa, pada kondisi yang sesuai, Zt merupakan jumlahan berbobot dari nilai-nilai Z sebelumnya ditambah shock a t, yaitu: Z t = π 1 Zt 1 + π 2 Zt a t = π j Zt j + a t (3.2) j=1 Relasi antara bobot ψ dan bobot π Dengan menggunakan operator geser mundur B j Z t = Z t j maka model (3.1) dapat dituliskan menjadi : ( ) Z t = 1 + ψ j B j a t j=1 = Ψ(B)a t dimana Ψ(B) = 1 + ψ j B j = j=1 ψ j B j dengan Ψ 0 = 1 j=0 Ψ(B) disebut sebagai fungsi transfer dari filter linear Z t terhadap a t atau dapat pula dianggap sebagai fungsi pembangkit bobot Ψ.

24 3.1. Proses Linear Umum 19 Secara sama (3.2) dapat dituliskan sebagai: ( ) 1 π j B j j=1 Z t = a t Π(B) Z t = a t dengan Π(B) = 1 j=1 π jb j adalah fungsi pembangkit dari bobot π. Jika kedua sisi dikalikan dengan Ψ(B), akan didapat Ψ(B)Π(B) Z t = Ψ(B)a t berarti: Ψ(B)Π(B) = 1 Π(B) = Ψ 1 (B) Contoh 3.1. Lihat MA(1) : Z t = a t θa t 1 = (1 θb)a t berarti ψ 1 = θ; ψ j = 0 untuk j > 1 (1 θb) 1 Zt = a t untuk θ < 1 (1 + θb + θ 2 B 2 + θ 3 B ) Z t = a t Z t = θ Z t 1 θ 2 Zt 2 θ 3 Zt a t untuk model ini π j = θ j Fungsi Pembangkit Autokovarians dari Proses Linear Perangkat analisa data yang digunakan untuk menganalisa model adalah fungsi autokorelasi, untuk itulah fungsi autokorelasi ini sangatlah perlu untuk diketahui. Fungsi Autokovarians dari proses linear (3.1) diberikan sebagai berikut : γ k = σa 2 ψ j ψ j+k j=0

25 20 Bab 3. Model-Model Linear Stasioner bila k = 0 γ 0 = σ 2 z = σ2 a ψj 2 (3.3) j=0 adalah varians dari proses. Berarti bila proses ini memiliki σ 2 z < (varians yang finit) maka bobot ψ j haruslah merupakan nilai-nilai yang menurun dengan cukup cepat sedemikian hingga deret j=0 ψ2 j konvergen. Autokovarians dari proses linear dapat pula diperoleh melalui fungsi pembangkit autokovarians (autocovariance generating function) γ(b) = k= γ k B k (3.4) perlu dicatat bahwa γ 0, varians dari proses adalah koefisien dari B 0 = 1, sedangkan γ k, autokovarians pada lag k adalah koefisien dari B j dan B j = F j. Dengan suatu perhitungan didapat: Contoh 3.2. Misalkan : γ(b) = σa 2 Ψ(B)Ψ(B 1 ) = σa 2 Ψ(B)Ψ(F ) (3.5) Z t = a t θa t 1 = (1 θb)a t Ψ(B) = 1 θb substitusika ken (3.5) akan didapat : γ(b) = σa 2 (1 θb)(1 θb 1 ) = σa 2 { θb 1 + (1 + θ 2 ) θb} dengan melakukan perbandingan dengan (1.4) didapat : γ 1 B 1 + γ 0 + γ 1 B + γ 2 B = σa{ θb (1 + θ 2 ) θb}

26 3.1. Proses Linear Umum 21 berarti: γ 0 = (1 + θ 2 )σa 2 γ 1 = θσa 2 γ k = 0 k Kondisi-kondisi stasioner dan dapat diinverskan pada proses linear Definisi 3.1. Stationeritas: Jika deret pada persamaan (3.3) konvergen proses memiliki varians yang finit. Autokovarians dan autokorelasi harus memenuhi kondisi-kondisi tertentu (lihat subbab 2.2) Untuk proses linear kondisi ini dapat dirangkum dalam suatu kondisi yaitu deret Ψ(B), fungsi pembangkit dari bobot harus konvergen untuk B 1 (yaitu berada di dalam unit lingkaran) Definisi 3.2. Dapat diinverskan ( invertibility) : Kondisi dapat diinverskan independen terhadap kondisi stasioneritas dan dapat digunakan juga pada model-model yang tak stasioner. Ide dasar dari invertibility adalah: Misalkan: berarti: Z t = (1 θb)a t a t = (1 θb) 1 Zt = (1 + θb + θ 2 B θ k B k )(1 θ k+1 B k+1 ) 1 Zt Z t = θ Z t 1 θ 2 Zt 2... θ k Zt k + a t θ k+1 Zt k 1 (3.6) Jika θ 1 maka deviasi pada persamaan (3.6) bergantung pada Z t 1, Z t 2,..., Z t k dengan nilai bobot θ meningkat bila k meningkat, untuk menghindari hal ini maka perlu disyaratkan bahwa θ < 1 sehingga dapat dikatakan bahwa deret tersebut dapat diinverskan.

27 22 Bab 3. Model-Model Linear Stasioner Autoregresive dan Moving Average Proses AR(p) Z t = φ 1 Zt 1 + φ 2 Zt φ p Zt p + a t (3.7) dalam praktek seringkali dijumpai Z t = φ 1 Zt 1 + a t Z t = φ 1 Zt 1 + φ 2 Zt 2 + a t Jika (3.7) ditulis ulang, maka persamaan ini dapat ditulis dalam bentuk: (1 φ 1 B φ 2 B 2... φ p B p ) Z t = a t atau Φ(B) Z t = a t berarti (3.8) Z t = Φ 1 (B)a t AR proses dapat dipikirkan sebagai output dari Z t dari proses linear dengan fungsi transfer Φ 1 (B), bila inputnya adalah white noise a t. MA(q) Z t = a t θ 1 a t 1 θ 2 a t 2... θ q a t q (3.9) dalam praktek seringkali dijumpai Z t = a t θ 1 a t 1 Z t = a t θ 1 a t 1 θ 2 a t 2 Jika (3.9) ditulis ulang, maka persamaan ini dapat ditulis dalam bentuk: Z t = (1 θ 1 B θ 2 B 2... θ q B q )a t Z t = Θ(B)a t (3.10)

28 3.1. Proses Linear Umum 23 Proses MA dapat dipikirkan sebagai output Z t dari filter linear dengan fungsi transfer Θ(B), bila inputnya adalah white noise a t ARMA(p,q) Telah diketahui bahwa proses MA yang berhingga(finite) adalah Z t = a t θ 1 a t 1 = (1 θ 1 B)a t, θ 1 < 1 dapat dituliskan sebagai proses AR yang tak berhingga (infinite): Z t = θ 1 Zt 1 θ 2 1 Z t a t karena itu, jika suatu proses adalah MA(1) maka akan didapat model AR yang tak hemat (tidak parsimoni) dalah hal jumlah parameternya. Sebaliknya AR(1) tak dapat secara hemat direpresentasikan dengan menggunakan proses MA. Secara praktis untuk mendapatkan jumlah parameter yang hemat, kadangkala diperlukan penggunaan kedua buah model secara bersamaan yaitu: Z t = φ 1 Zt φ p Zt p + a t θ 1 a t 1 θ 2 a t 2... θ q a t q atau (3.11) Φ(B) Z t = Θ(B)a t (3.12) Contoh 3.3. ARMA(1,1) dapat dituliskan sebagai: Z t φ 1 Zt 1 = a t θ 1 a t 1 pada model ini (3.12) dapat dituliskan sebagai: Z t = Φ 1 (B)Θ(B)a t Berarti proses ARMA dapat dipikirkan sebagai output dari Zt dari filter linear, dengan fungsi transfer adalah rasio dari kedua polinomial Θ(B) dan Φ(B), bila inputnya adalah white noise a t.

29 24 Bab 3. Model-Model Linear Stasioner 3.2 Proses-Proses Autoregresif Kondisi-kondisi stasioner untuk proses - AR Diketahui proses AR(p) adalah : Z t = φ 1 Zt φ p Zt p + a t atau (1 φ 1 B... φ p B p ) Z t = Φ(B) Z t = a t harus memenuhi suatu kondisi tertentu untuk dapat dikatakan sebagai proses stasioner. Ilustrasi : AR(1) berarti (1 φ 1 B) Z t = a t Z t = (1 φ 1 B) 1 a t = φ j 1a t j j=0 Ψ(B) = (1 φ 1 B) 1 = φ j 1 Bj (3.13) j=0 telah diketahui pada sub-bab agar sifat stasioneritas terpenuhi maka Ψ(B) harus konvergen untuk B 1 yang berarti parameter φ 1 pada proses AR(1) harus memenuhi kondisi φ 1 < 1 untuk menjamin stasioneritasnya. Karena akar-akar dari 1 φ 1 B = 0 adalah B = φ 1 1, maka kondisi ini ekivalen dengan menyatakan akar-akar dari 1 φ 1 B = 0 harus terletak di luar lingkaran satuan. Secara umum: proses AR(p) dapat dinyatakan sebagai Z t = Φ 1 (B)a t Secara teoritik Φ(B) dapat difaktorkan menjadi : Φ(B) = (1 G 1 B)(1 G 2 B)(1 G 3 B)...(1 G p B)

30 3.2. Proses-Proses Autoregresif Gambar 3.1: Akar-akar persamaan 1 φ 1 B = 0 harus terletak di luar lingkaran satuan berarti Z t = Φ 1 (B)a t = p i=1 K i 1 G i B a t Persamaan Ψ(B) = Φ 1 B akan merupakan deret yang konvergen bila B < 1, berarti G i < 1 i = 1, 2,..., p. Secara ekivalen berarti akar-akar Φ(B) = 0 harus terletak di luar lingkaran satuan. Persamaan Φ(B) = 0 dikatakan sebagai persamaan karakteristik dari proses. Karena deret Φ(B) = 1 φ 1 B φ 2 B 2... φ p B p adalah finit, maka kita tidak memerlukan lagi persyaratan pada parameter-parameter dari proses AR untuk menjamin invertibility Fungsi Autokorelasi dari proses AR Fungsi Autokovarians dari proses AR stasioner adalah: Z t = φ 1 Zt 1 + φ 2 Zt φ p Zt p + a t (3.14) kalikan persamaan (3.14) dengan Z t k lalu ambillah nilai ekspektasinya, maka: E Z t k Zt = Eφ 1 Zt k Zt 1 + Eφ 2 Zt k Zt Eφ p Zt k Zt p + Z t k a t (3.15)

31 26 Bab 3. Model-Model Linear Stasioner Perhatikan bahwa E Z t k a t = 0 karena a t adalah peubah random yang tidak berkorelasi, berarti (3.15) dapat dituliskan menjadi : γ k = φ 1 γ k 1 + φ 2 γ k φ p γ k p k > 0 (3.16) Jika (3.16) dibagi dengan γ 0 maka akan didapat fungsi autokorelasi, yaitu : ρ k = φ 1 ρ k 1 + φ 2 ρ k φ p ρ k p k > 0 Substitusikan k = 1, 2,..., p sehingga didapat: ρ 1 = φ 1 + φ 2 ρ φ p ρ p 1 ρ 2 = φ 1 ρ 1 + φ φ p ρ p 2. (3.17) ρ p = φ 1 ρ p 1 + φ 2 ρ p φ p Sistem persamaan (3.17) ini disebut sebagai sistem persamaan Yule Walker Jika φ 1 ρ 1 1 ρ 1 ρ 2... ρ p 1 φ 2 Φ =. ϱ ρ 2 p =. P ρ 1 1 ρ 1... ρ p 2 p =. ρ p 1 ρ p 2 ρ p φ p ρ p maka (3.17) dapat dituliskan menjadi : berarti ϱ p = P p Φ Φ = P 1 p ϱ p ˆΦ = 1 ˆP p ˆϱ p ˆΦ = R 1 p r p adalah estimasi dari parameter-parameter dari proses AR.

32 3.2. Proses-Proses Autoregresif 27 Varians Bila k = 0 berarti γ 0 = φ 1 γ 1 + φ 2 γ φ P γ p + σ 2 a E( Z t k a t ) = E( Z t a t ) = E(a 2 t ) = σ2 a γ 0 = σ 2 Z γ k = γ k Berarti σ 2 Z = ˆσ 2 Z = σ 2 a 1 φ 1 ρ 1 φ 2 ρ 2... φ p ρ p ˆσ 2 a 1 φ 1 r 1 φ 2 r 2... φ p r p adalah estimasi dari varians proses Proses AR(1) - Proses Markov ρ k = φ 1 ρ k 1 k > 0 ρ 0 = 1 ρ k = φ k 1 k 0 adalah fungsi autokorelasi dari proses AR(1) Catatan 3.1. Fungsi autokorelasi ini akan menuju 0 secara eksponensial bila φ 1 > 0 Tetapi ia akan menuju 0 dan berosilasi bila φ 1 < 0 Secara khusus ρ 1 = φ 1 berarti autokorelasi dapat ditunjukkan dari nilai parameter φ 1 Varians Proses: Proses AR(2) σ 2 z = σ 2 a 1 ρ 1 φ 1 = σ2 a 1 φ 2 1 Z t = φ 1 Zt 1 + φ 2 Zt 2 + a t

33 28 Bab 3. Model-Model Linear Stasioner untuk proses stasioner, akar-akarnya : Φ(B) = 1 φ 1 (B) φ 2 B 2 = 0 harus terletak di luar lingkaran satuan. Hal ini berarti pula bahwa parameter φ 1 dan φ 2 harus terletak di daerah segitiga yaitu : φ 1 + φ 2 < 1 φ 1 φ 2 < 1 1 < φ 2 < 1 Gambar 3.2: Akar-akar persamaan 1 φ 1 B φ 2 B 2 = 0 harus terletak di luar lingkaran satuan Fungsi Autokorelasi Pada Subbab fungsi autokorelasi dapat dituliskan sebagai berikut: ρ k = φ 1 ρ k 1 + φ 2 ρ k φ p ρ k p k > 0 (3.18) Untuk AR(2) ρ k = φ 1 ρ k 1 + φ 2 ρ k 2 k > 0

34 3.2. Proses-Proses Autoregresif 29 dengan nilai awal ρ 0 = 1 dan ρ 1 = φ 1 (1 φ 2 ) Analisis Andaikan (3.18) dapat ditulis dalam bentuk Φ(B)ρ k = 0 dimana Φ(B) = 1 φ 1 B... φ p B p (dalam hal ini B dioperasikan terhadap k, bukan terhadap t) maka penyelesaian umum (3.18) adalah: Φ(B) = Π p i=1 (1 G ib) ρ k = A 1 G k 1 + A 2 G k A p G k p (3.19) Dimana G 1 1, G 1 2,..., G 1 p adalah akar-akar dari persamaan karakteristik : agar stasioner maka G i < 1. Φ(B) = 1 φ 1 B φ 1 B 2... φ p B p = 0 Dengan asumsi akar-akar G i adalah berbeda, (dalam kenyataan memang demikian) maka akan terjadi dua situasi yaitu: 1. G i R maka A i G k i pada (3.19) akan menuju ke nol secara geometrik bila k (damped exponential) ρ k Gambar 3.3: Illustration of damp exponential effect K

35 30 Bab 3. Model-Model Linear Stasioner 2. Pasangan G i, G j adalah bilangan kompleks, maka kedua nilai ini akan memiliki konstribusi terhadap d k sin(2πfk + F ) berarti fungsi autokorelasi (3.19) akan damp sine wave ρ k k Gambar 3.4: Illustration of damp Sine Wave effect Untuk AR(2) ρ k = A 1 G k 1 + A 2G k dimana G 1 1 dan G 1 2 adalah akar-akar dari persamaan karakteristik Φ(B) = 1 φ 1 B φ 1 B 2 = 0 Jika akar-akar real : φ φ2 2 0 (pada daerah 1,2) maka fungsi autokorelasinya merupakan campuran dari damped exponential Daerah(1) ρ k > 0 damp out, bersesuaian dengan akar-akar yang dominan dari (3.18) Daerah(2) ρ k berganti-ganti tanda (+) ( ), alternatif damps out bersesuaian dengan akar-akar dominan ( ) Jika akar-akarnya imajiner berarti φ 2 1+4φ 2 2 < 0 dan merupakan pseudo periodic behaviour

36 3.2. Proses-Proses Autoregresif 31 Persamaan Yule-Walker Dari persamaan Yule Walker secara umum, substitusikan p = 2 ρ 1 = φ 1 + φ 2 ρ 1 ρ 2 = φ 1 ρ 1 + φ 2 berarti φ 1 = ρ 1(1 ρ 2 ) 1 ρ 2 1 φ 2 = ρ 2 ρ ρ 2 1 ρ 1 = φ 1 1 φ 2 ρ 2 = φ 2 + φ2 1 1 φ 2 agar AR(2) stasioner maka: 1 < ρ 1 < 1 1 < ρ 2 < 1 ρ 2 1 < 1/2(ρ 2 + 1) Varians σ 2 a σz 2 = 1 ρ 1 φ 1 ρ 2 φ ( ) 2 1 φ1 σa 2 = 1 + φ 2 (1 φ 2 ) 2 φ Fungsi Autokorelasi Parsial (Partial Autocorrelation Function, PACF ) Pada awalnya order dari AR proses yang cocok dengan time series yang diamati tidak diketahui. Masalah ini analog dengan menentukan jumlah peubah bebas yang akan digunakan pada regresi ganda. PACF adalah alat deteksi yang diperlukan untuk menjawab masalah ini. Dalam hal ini PACF merupakan fungsi tak-nol dari autokorelasi notation φ kj adalah koefisien ke-j pada proses AR order k, φ kk adalah koefisien terakhirnya

37 32 Bab 3. Model-Model Linear Stasioner Gambar 3.5: Daerah yang dapat diterima untuk φ 1, φ 2, ρ 1, ρ 2 pada AR(2) yang stasioner Dari (3.18) ρ j = φ k1 ρ j φ k(k 1) ρ j k+1 + φ kk ρ j k, j = 1, 2,..., k YWE : 1 ρ 1 ρ 2... ρ k 1 ρ 1 1 ρ 1... ρ k 2. ρ k 1 ρ k 2 ρ k φ k1 φ k2 φ kk ρ k1 ρ k2 ρ kk. =. P k Φ k = ϱ k Penyelesaian dari persamaan ini untuk k = 1, 2, 3,... akan didapat sebagai berikut: 1 ρ 1 ρ 1 ρ 2 1 ρ 1 ρ 2 φ 11 = ρ 1 ; φ 22 = 1 ρ = ρ ρ 1 1 ρ 2 2 ρ 2 1 ρ 2 ρ 1 ρ 3 ; φ 1 1 ρ 2 33 = 1 1 ρ 1 ρ 2 ρ 1 1 ρ 1 1 ρ 1 ρ 2 ρ 1 1

38 3.3. Proses-proses Moving Average 33 φ kk adalah fungsi pada lag k, dan disebut PACF. Untuk AR(p) PACF φ kk 0 untuk k p dan φ kk = 0 untuk k > p dengan kata lain PACF dari AR(p) memiliki cut off setelah lag p Estimasi dari PACF Gantikan ρ k dengan r k sebagai estimasi dari fungsi autokorelasi maka didapat ˆφ kk (estimasi dari PACF) Error Baku dari Estimasi PACF Telah dibuktikan oleh Quenouville bahwa hipotesa pada proses AR(p), estimasi PACF order > p+1 kira-kira akan merupakan distribusi yang independen. Jika n buah observasi digunakan untuk fitting: V ar[ ˆφ kk ] 1 k p + 1 n SE[ ˆφ kk ] ˆσ[ ˆφ kk ] = 1 k p + 1 n 3.3 Proses-proses Moving Average Kondisi-kondisi untuk proses MA(q) agar dapat diinverskan MA(q) Z t = a t θ 1 a t 1... θ q a t q = (1 θ 1 B... θ q B q )a t = Θ(B)a t Diketahui bahwa MA(1) : Zt = (1 θ 1 B)a t dapat diinverskan bila θ 1 < 1, yaitu π(b) = (1 Θ 1 B) 1 = θ1b j j j=0

39 34 Bab 3. Model-Model Linear Stasioner konvergen bila akar-akar dari B = θ 1 1 dari (1 θ 1 B) = 0 terletak di luar unit lingkaran. Untuk MA(q) : jika: Θ(B) = a t = Θ 1 (B) Z t q (1 H j B) j=1 π(b) = Θ 1 (B) = q j=1 M j 1 H j B akan konvergen jika H j < 1 j = 1, 2,..., q. Karena akar-akar θ(b) = 0 adalah H 1 j berarti kondisi dapat diinverskan untuk MA(q) proses adalah : akar-akar dari persamaan karakteristik: terletak di luar unit lingkaran. Θ(B) = 1 θ 1 B θ 2 B 2... θ q B q = 0 Catatan 3.2. Karena deret : Ψ(B) = Θ(B) = 1 θ 1 B θ 2 B 2... θ q B q adalah berhingga (finite), maka batasan-batasan pada parameter-parameter MA(q) tidak diperlukan untuk menjamin stasioneritas Fungsi Autokorelasi Fungsi Autokorelasi dari proses MA(q) adalah: γ k = E [(a t θ 1 a t 1... θ q a t q )(a t k θ 1 a t k 1... θ q a t k q )] Maka varians dari proses adalah: γ 0 = (1 + θ1 2 + θ θ2 q )σ2 a { dan ( θ k + θ 1 θ k θ q k θ q )σa 2 k = 1, 2,..., q γ k = 0 k > q (3.20)

40 3.3. Proses-proses Moving Average 35 Fungsi autokorelasi ρ k = { θk +θ 1 θ k θ q k θ q 1+θ θ2 q 0 k > q k = 1, 2,..., q (3.21) Hal ini berarti bahwa fungsi autokorelasi dari proses MA memiliki cut off pada lag ke-q Parameter-parameter pada MA dalam bentuk Autokorelasi Jika ρ 1, ρ 2,..., ρ q diketahui maka q buah persamaan pada (3.21) dapat diselesaikan dan parameter-parameter θ 1, θ 2,..., θ q dapat diperoleh. Namun demikian, tidak seperti halnya pada persamaan YWE, untuk mendapatkan proses AR yang linear, maka persamaan (3.21) di atas tidak linear, karena itu kecuali untuk q = 1, persamaan (3.21) di atas hanya dapat diselesaikan secara iteratif. Akibatnya: hasil estimasinya kasar dan tidak memiliki efisiensi statistik yang tinggi. Catatan 3.3. Untuk mengatasi estimasi yang kasar ini, diperlukan sebuah estimasi tangguh, salah satu cara adalah dengan menggunakan bootstrapping MA(1) Z t = a t θ 1 a t 1 = (1 θ 1 B)a t agar dapat diinverskan maka 1 < θ 1 < 1, dan proses akan stasioner untuk setiap θ. Proses Autokorelasi Jika k = 1 maka : γ 0 = (1 + θ 2 1 )σ2 a ρ k = { θ1 1+θ 2 1 k = 1 0 k 2 θ θ 1 ρ = 0 (3.22)

41 36 Bab 3. Model-Model Linear Stasioner Karena itu hasil dari akar-akar ini adalah satuan (unity), terlihat bahwa jika θ 1 adalah suatu solusi, maka demikian pula dengan θ 1 1. Lebih lanjut lagi, jika θ 1 memenuhi kondisi dapat diinverskan θ 1 < 1, maka akar yang lain θ 1 1 > 1, tidak memenuhi kondisi tersebut. Contoh 3.4. Jika ρ 1 = 0.4, maka (3.22) memenuhi dua penyelesaian yaitu θ 1 = 1/2 dan θ 1 = 2, tetapi hanya θ 1 = 1/2 saja yang memenuhi kondisi dapat diinverskan. Fungsi Autokorelasi Partial (Partial Autocorrelation Function, PACF ) Dengan menggunakan didapat : P k φ k = ρ k dan ρ 1 = θ 1, ρ 1 + θ1 2 k = 0 untuk k > 1 φ kk = φk 1 (1 φ2 1 ) 1 φ 2(k+1) 1 Jadi φ kk < φ k 1 Jika dan PACF didominasi oleh damped exponential ρ 1 > 0 maka φ 1 < 0 dan PACF akan berubah-ubah tanda (alternate in sign) ρ 1 < 0 maka φ 1 < 0 dan PACF akan negatif Catatan 3.4. Dualitas pada AR(1) dan MA(1): Ma(1) AR(1) - Fungsi Autokorelasi memiliki - Fungsi Autokorelasi berekor cut off setelah lag 1 secara eksponensial - PACF bersifat tail off dan - PACF memiliki cut off didominasi secara damped exponential setelah lag MA(2) Kondisi dapat diinverskan: Z t = a t θ 1 a t 1 θ 2 a t 2

42 3.3. Proses-proses Moving Average 37 stasioner untuk semua nilai θ 1 dan θ 2, tetapi proses ini hanya akan dapat diinverskan jika akar-akar dari persamaan karakteristik yaitu terletak di luar unit lingkaran, yaitu : 1 θ 1 B θ 2 B 2 = 0 θ 1 + θ 2 < 1; θ 2 θ 1 < 1 dan 1 < θ 2 < 1 (3.23) kondisi ini paralel dengan syarat stasioneritas dari AR(2) Fungsi Autokorelasi Varians : Fungsi Autokorelasinya ρ 1 = θ 1(1 θ 2 ) ; ρ 1 + θ1 2 + θ2 2 2 = γ 0 = σ 2 a (1 + θ2 1 + θ2 2 ) θ 2 ; ρ 1 + θ1 2 + θ2 2 k = 0 untuk k 3 (3.24) Berarti, fungsi autokorelasinya memiliki cut off setelah lag 2 Dari persamaan (3.23) dan (3.24). Dua autokorelasi pertama dari proses MA harus terletak dalam daerah yang dibatasi oleh kurva-kurva : PACF ρ 1 + ρ 2 = 1/2; ρ 2 ρ 1 = 1/2; ρ 2 1 = 4ρ 2 (1 2ρ 2 ) (3.25) Formulasi PACF dari proses MA(2) ini terlalu rumit, tetapi PACF ini didominasi oleh fungsi eksponensial Dualitas Antara Proses AR dan Proses MA Dualitas ini memiliki konsekuensi - konsekuensi berikut : 1. Pada proses AR(p) stasioner, a t dapat direpresentasikan sebagai jumlahan berbobot berhingga (finite) dari nilai-nilai Z sebelumnya, atau Z t sebagai jumlahan berbobot tak berhingga dari nilai-nilai a sebelumnya. Z t = Φ 1 (B)a t

43 38 Bab 3. Model-Model Linear Stasioner Demikian pula pada MA(q) yang dapat diinverskan. Zt dapat direpresentasikan sebagai jumlahan berbobot berhingga dari nilai-nilai a sebelumnya, atau jumlahan berbobot tak berhingga dari nilai-nilai Z sebelumnya. Θ 1 (B) Z t = a t 2. Proses MA (finite) memiliki fungsi autokorelasi yang sama dengan nol setelah suatu titik tertentu, tetapi karena proses ini ekuivalen dengan proses AR (infinite) maka PACF-nya infinite dan didominasi oleh damped exponential atau damp sine waves. Selainnya proses AR memiliki PACF yang sama dengan nol setelah suatu titik tertentu, tetapi fungsi autokorelasinya tak berhingga dan terdiri dari campuran damped exponential dan atau damp sine waves. 3. Pada proses AR(p) parameter-parameternya tak perlu memenuhi kondisi-kondisi tertentu untuk memenuhi syarat dapat diinverskan. Tetapi untuk stasioneritas akarakar dari Φ(B) = 0 harus terletak di luar unit lingkaran. 4. Pada proses MA(q) parameter-parameternya tidak perlu memenuhi kondisi-kondisi tertentu untuk memenuhi syarat-syarat stasioneritas tetapi untuk dapat diinverskan, akar-akar dari Θ(B) = 0 harus terletak di luar unit lingkaran. 3.4 Mixed Autoregressive - Moving Average Processes Sifat-sifat Stasioneritas dan Dapat Diinverskan ARMA (p,q) Z t = φ 1 Zt φ p Zt p + a t θ 1 a t 1... θ q a t q (3.26) (1 φ 1 B φ 2 B 2... φ p B p ) Z t = (1 θ 1 B θ 2 B 2... θ q B q )a t Φ(B) Z t = Θ(B)a t Model ini dapat didekati dengan 2 cara, yaitu :

44 3.4. Mixed Autoregressive - Moving Average Processes 39 (a) Proses AR(p) Φ(B) Z t = e t dimana e t = θ(b)a t (b) Proses MA(q) Z t = Θ(B)b t dimana b t adalah AR(p), Θ(B)b t + a t sedemikian hingga Φ(B) Z t = Θ(B)Φ(B)b t = Θ(B)a t Jadi pada proses Φ(B) Z t = Θ(B)a t akan merupakan proses yang stasioner bila akar-akar dari persamaan karakteristik Φ(B) = 0 terletak di luar unit lingkaran, dan merupakan proses yang dapat diinverskan bila akar-akar dari Θ(B) = 0 terletak di luar unit lingkaran Fungsi Autokorelasi (lihat sub.bab 3.2.2) Autokovarians γ k = φ 1 γ k φ p γ k p + γ za θ 1 γ za (k 1)... θ q γ za (k q) (3.27) dimana γ za (k) adalah fungsi kovarians silang (cross covarians function) antara z dan a, dan didefinisikan sebagai berikut : γ za (k) = E[ Z t k a t ] karena Z t k hanya tergantung pada shock yang hanya terjadi sampai t k, maka : γ za (k) = 0 bila k > 0 γ za (k) 0 bila k 0 berarti persamaan (3.27) dapat dituliskan menjadi: γ k = φ 1 γ k φ p γ k p bila k q + 1 ρ k = φ 1 ρ k φ p ρ k p bila k q + 1

45 40 Bab 3. Model-Model Linear Stasioner atau Φ(B)ρ k = 0 bila k q + 1 Catatan Pada proses ARMA(p,q) akan terdapat q autokorelasi ρ q, ρ q 1,..., ρ q p+1 yang nilainya tergantung secara langsung pada pilihan q parameter pada MA, yaitu θ. (Dan tentunya, juga terhadap pilihan p parameter pada AR yaitu φ) Berarti p buah nilai-nilai ρ q, ρ q 1,..., ρ q p+1 menyelesaikan Φ(B)ρ k = 0, k q + 1 diperlukan sebagai nilai awal untuk Jika q p < 0 atau damped sine waves ρ j, j = 0, 1, 2,... akan terjadi mixture damped exponential dan Jika q p 0 akan terdapat q p + 1 nilai awal ρ 0, ρ 1,..., ρ q p yang tidak mengikuti pola umum ini Varians Untuk k = 0 γ 0 = φ 1 γ φ p γ p + σ 2 a + θ 1 γ za ( 1)... θ q γ za ( q) (3.28) Jika (3.27) dan (3.28) ini diselesaikan untuk k = 1, 2,..., p maka akan terdapat p buah persamaan dan akhirnya akan didapat γ 0, γ 1,..., γ p PACF Dari persamaan (3.26) didapat: a t = Θ 1 1 (B)Φ(B) Z t, jika Θ 1 (B) merupakan deret tak berhingga dari PACF dari proses ini juga tak berhingga. PACF pada ARMA akan berperilaku sama dengan PACF pada proses MA(q) murni, yaitu didominasi oleh mixture damped exponential dan atau damped sine waves, tergantung pada derajad dari MA dan nilai dari parameter-parameternya.

46 3.4. Mixed Autoregressive - Moving Average Processes ARMA(1,1) Z t φ 1 Zt 1 = a t θ 1 a t 1 (3.29) (1 φ 1 B) Z t = (1 θ 1 B)a t Kondisi stasioner dan dapat diinverskan: Stasioner jika 1 < φ 1 < 1 Dapat diinverskan jika 1 < θ 1 < 1 1 φ Gambar 3.6: Daerah yang invertible dan stasioner pada proses ARMA(1,1) θ 1 Fungsi Autokorelasi Dari (3.27) dan (3.28) didapat: γ 0 = φ 1 γ 1 + σa 2 θ 1γ za ( 1) γ 1 = φ 1 γ 0 θ 1 σa 2 γ k = φ 1 γ k 1 untuk k 2 Kalikan persamaan (3.29) dengan a t 1 dan ambil nilai ekspekstasinya: E Z t a t 1 φ 1 E Z t 1 a t 1 = Ea t a t 1 θ 1 Ea t 1 a t 1 γ za ( 1) φ 1 σa 2 = 0 θ 1σa 2 γ za ( 1) = (φ 1 θ 1 )σa 2

47 42 Bab 3. Model-Model Linear Stasioner dari sini didapat : γ 0 = 1 + θ2 1 2φ 1 θ 1 σ 1 φ 2 a 2 1 γ 1 = (1 φ 1θ 1 )(φ 1 θ 1 ) σ 1 φ 2 a 2 (3.30) 1 γ k = φ 1 γ k 1 untuk k 2 (3.31) Berarti : Fungsi autokorelasi menurun secara eksponensial dari nilai awal ρ 1, dan hal ini tergantung pada θ 1 dan φ 1 Jika φ 1 > 0 maka fungsi ini akan menurun secara eksponensial dengan mulus jika φ 1 < 0 maka fungsi ini akan menurun secara eksponensial dengan berganti-ganti tanda (alternate) Lebih lanjut tanda(+ atau -) dari ρ 1 ditentukan oleh tanda dari (φ 1 θ 1 ) Jika (3.30) dibagi dengan γ 0 maka didapat: ρ 1 = (1 φ 1 θ 1 )(φ 1 θ 1 ){1 + θ1 2 2φ 1θ 1 }; ρ 2 = φ 1 ρ 1 (3.32) Nilai-nilai ρ k dengan k > 2 dapat dicari dengan substitusi. Dengan menggunakan (3.32) dan kondisi stasioneritas serta dapat diinverskan, maka ρ 1 dan ρ 2 harus terletak di daerah: ρ 2 < ρ 1 ρ 2 > ρ 1 (2ρ 1 + 1) and ρ 1 < 0 (3.33) ρ 2 > ρ 1 (2ρ 1 1) and ρ 1 > 0 PACF PACF dari ARMA(1,1) terdiri dari nilai awal tunggal φ 11 = ρ 1 Berperilaku seperti pada PACF MA(1) dan didominasi oleh damped exponential

48 3.4. Mixed Autoregressive - Moving Average Processes 43 Gambar 3.7: Gambar 3.8: Perhatikan gambar di bawah ini Jika θ 1 > 0 maka akan terjadi smooth damped exponential (decay) mulai dari ρ 1 dan tandanya ditentukan oleh tanda (φ 1 θ 1 ) Jika θ 1 < 0 maka akan terjadi exponential berosilasi, decay mulai dari nilai ρ 1 dan tandanya ditentukan oleh tanda (φ 1 θ 1 )

49 44 Bab 3. Model-Model Linear Stasioner Ringkasan AR(p) MA(q) ARMA(p,q) - Model dalam bentuk Φ(B) Z t = a t Θ 1 (B) Z t = a t Θ 1 (B)Φ(B) Z t = a t nilai-nilai Z sebelumnya - Model dalam bentuk Zt = Φ 1 (B)a t Zt = Θ(B)a t Zt = Φ 1 (B)Θ(B)a t nilai-nilai a sebelumnya - Bobot φ finite series infinite series infinite series - Bobot ψ infinite series finite series infinite series - Kondisi stasioner akar-akar dari selalu stasioner Mengikuti syarat Φ(B) = 0 terletak untuk proses AR(p) di luar unit lingkaran - Kondisi dapat selalu dapat akar-akar dari Mengikuti syarat diinverskan diinverskan Θ(B) = 0 untuk proses MA(q) terletak di luar unit lingkaran - ACF -infinite - finite Mengikuti pola (damped exponential - cut off pada proses AR(p), dan atau damped setelah lag ke q p sine wave pertama - Tail off - PACF -finite -infinite Mengikuti pola -cut off (damped exponential pada proses MA(q), dan atau damped setelah lag ke p q sine wave pertama - Tail off

50 Bab 4 Model-Model Linear Tak - Stasioner Pada data-data industri dan ekonomi, banyak sekali dijumpai time series yang tidak memiliki mean yang tetap, misalnya harga-harga stok di bursa saham. Namun demikian jika pada tiap bagian dari level lokal, atau pada trend lokal berperilaku mirip dengan bagian yang lain, maka dapat dikatakan bahwa time series tersebut menunjukkan prilaku homogenitas. Prilaku homogenitas di atas dapat dijadikan stasioner dengan mengambil beberapa beda (difference) dari proses yang bersesuaian. Pada Bab ini akan dibahas sifat-sifat dari kelas-kelas mode, dimana difference ke-d nya adalah ARMA, dan model ini disebut sebagai proses ARIMA. 4.1 Proses-Proses ARIMA Proses AR(1) Tak Stasioner Pada Bab 3, diketahui bahwa proses ARMA(p,q) Φ(B) Z t = Θ(B)a t untuk menjamin stasioneritas akar-akar dari Φ(B) = 0 harus terletak di luar unit lingkaran. Salah satu cara untuk mendapatkan proses tak stasioner adalah dengan merelaksasikan batasan ini. 45

51 46 Bab 4. Model-Model Linear Tak - Stasioner Gambar 4.1: Data-data yang tidak stationer Contoh 4.1. Proses AR(1) (1 φb) Z t = a t stasioner bila φ < 1, pelajari proses ini untuk φ = 2, nilai di luar daerah stasioneritas. Misalnya Z 0 = 0.7, a t berdistribusi Normal t a t Z t Model Umum Untuk Proses Tak Stasioner yang Homogen Model ARIMA Perhatikan model Ψ(B) Z t = Θ(B)a t (4.1) Dimana Ψ(B) adalah operator autoregressive tak stasioner, sedemikian hingga d dari akar-akar Ψ(B) = 0 adalah unity dan sisanya terletak di luar unit lingkaran.

52 4.1. Proses-Proses ARIMA 47 ~ Z t Gambar 4.2: Plot waktu terhadap Z t, menunjukkan nilai Z t bergerak secara eksponensial t Model(4.1) dapat ditulis dalam bentuk: Ψ(B) Z t = Φ(B)(1 B) d Zt = Θ(B)a t (4.2) dimana Φ(B) adalah operator autoregressive stasioner. Karena d Zt = d Z t untuk d 1, maka model(4.2) dapat ditulis menjadi Φ(B) d Z t = Θ(B)a t (4.3) secara ekivalen, proses ini dapat didefinisikan melalui 2 persamaan, yaitu: Φ(B)W t = Θ(B)a t dan W t = d Z t (4.4) Terlihat bahwa model di atas berkorespondensi dengan asumsi bahwa beda (difference) ke-d dari suatu series dapat direpresentasikan melalui proses ARMA yang stasioner, dan dapat diinverskan. Untuk mendapatkan data mula-mula: Z t = S d W t (4.5) dimana S adalah operator jumlahan tak berhingga yang didefinisikan sebagai berikut: t SX t = n= X n = (1 + B + B )X t = 1 X t

53 48 Bab 4. Model-Model Linear Tak - Stasioner Jadi S = (1 B) 1 = 1 Secara sama operator S 2 X didefinisikan sebagai: S 2 X t = SX t + SX t 1 + SX t t i = t S 3 X t = i= h= j X h i j= i= h= Persamaan(4.5) menunjukkan bahwa proses (4.3) dapat dicapai dengan menjumlahkan (atau mengintegrasikan) proses stasioner (4.4) sebanyak d kali, karena itulah proses (4.3) disebut sebagai proses Autoregressive Integrated Moving Average (ARIMA) Lihat Bab 1, model (4.3) ekuivalen dengan representasi proses Z t sebagi output dari filter linear (kecuali d = 0, ini adalah filter linear yang tidak stabil), yang inputnya adalah white noise a t. Berarti filter yang ada tersebut merupakan perangkat untuk mentransformasikan suatu proses Z t yang sangat dependen dan berkemungkinan tak stasioner atau dengan kata lain mentransformasikan proses ke white noise. Jika pada model(4.3), operator autoregressive Φ(B) berorder p, diambil difference ked dan operator moving average Θ(B) berorder q, maka model yang didapat adalah ARIMA(p,d,q) Dua Interpretasi dari Model ARIMA Perhatikan bahwa karakteristik dasar dari AR(1); (1 φb) Z t = a t untuk φ > 1; adalah prilaku lokal dari series yang dibangun dari model sangatlah tergantung pada level dari Z t. Lihat Gambar.4.1.1,perhatikan bahwa prilaku lokal dari series yang muncul independen dari levelnya. Untuk mencerminkan prilaku proses yang independen terhadap levelnya, harus digunakan operator autoregregressive Ψ(B) sedemikian hingga: X h Ψ(B)( Z t + c) = Ψ(B) Z t

54 4.1. Proses-Proses ARIMA 49 dimana c adalah konstan, Ψ(B) pasti dalam bentuk Ψ(B) = Φ 1 (B)(1 B) = Φ 1 (B) Karena itu, klas dari proses-proses yang memiliki sifat yang diinginkan akan berbentuk Φ(B) 1 W t = Θ(B)a t dimana W t = Z t Syarat homogenitas akan menghilangkan kemungkinan bahwa W t akan meningkat secara eksponensial. Hal ini berarti Φ 1 (B) adalah operator AR-stasioner, atau Φ 1 (B) = Φ 2 (B)(1 B) sedemikian hingga Φ 2 (B)W t = Θ(B)a t dengan W t = 2 Z t order dari operator beda yang diambil akan menunjukkan sifat dari time series tak stasioner. Model: Φ(B) Z t = Θ(B)a t akan dapat merepresentasikan time series pada tiap difference-nya adalah stasioner dengan mean nol, tetapi levelnya bebas Model: Φ(B) 2 Z t = Θ(B)a t dapat merepresentasikan time series yang tidak memiliki level yang tetap ataupun slope yang tetap, tetapi tetap bersifat homogen jika diambil nilai difference-nya Bentuk Umum dari proses ARIMA Kadangkala ada gunanya untuk menambahkan suatu konstanta θ 0 pada model ARIMA, sehingga didapat model umum: Ψ(B)Z t = Φ(B) d Z t = θ 0 + Θ(B)a t (4.6) Dimana : Φ(B) = 1 φ 1 B φ 2 B 2... φ p B p Θ(B) = 1 θ 1 B θ 2 B 2... θ q B q Dalam hal ini: