Application of ARIMA Models We have learned how to model using ARIMA Stages: 1. Verify whether the data we are analyzing is a stationary data using ACF or other methods 2. If the data is not stationer, make them stationer by differencing up to d times until stationer. 3. If the data is stasioner determine p, order of AR, and q, order of MA, using PACF and ACF, respectively. Spike on PACF indicates order of p; while spike on ACF indicates order of q
4. Estimate ARIMA (p,d,q). 5. Diagnostic Test: check whether the residual is a white noise. 6. Make a forecast based on a verified model.
Tes Diagnostik dengan Statistik Q Pada intinya, tes diagnostik ingin menguji apakah residual dari ARIMA (p,d,q) merupakan white noise atau tidak. Untuk melihat residual ini ada beberapa cara. Salah satu cara yang digunakan pada diskusi yang lalu adalah melalui korelogram ACF dan PACF. Bila ACF dan PACF semuanya kecil dan terletak diantara interval yang telah ditentukan, dapat dikatakan bahwa residualnya merupakan white noise. Cara lain untuk menentukan apakah residual dari suatu model merupakan white noise adalah dengan menggunakan statistik Q yang ditawarkan oleh Box dan Pierce sebagai berikut: Q = T Σ r 2 k χ2 k-p-q
Pada intinya, bila Q terhitung lebih besar dari χ 2 k-p-q, 5% kita yakin dengan 95% bahwa tidak semua ρ k = 0. Bila ini terjadi; berarti residualnya tidak merupakan white noise. Komentar (i). r k N(0, 1/T) (ii). Q χ 2 k-p-q ; k: banyaknya residual p: orde AR, q: orde MA
Ilustrasi Misalkan series yang sudah stasioner, w t, di identifikasi sebagai ARMA (1,1). Bila Q dihitung sebesar 31.5 dengan K = 20 maka berdasarkan tabel χ 2 dengan kepercayaan 95% dan degrees of freedom 18 (=20-1-1) diperoleh angka 28.9. Dengan demikian, Q terhitung > χ 2 18. Akibatnya, hipotesis yang mengatakan bahwa semua ρ k = 0 ditolak yang berarti residualnya tidak berupa white noise. Karena residual dari ARMA (1,1) tidak merupakan white noise, modelnya dicoba lagi dengan ARMA (2,2) yaitu model dengan orde yang lebih tinggi Dengan tes Q dicoba dihitung dan besarnya 22.0 dengan K=20. Berdasarkan tabel χ 2 16 dengan kepercayaan 95% dan degrees of freedom 20-2-2=16 diperoleh angka sebesar 23.5. Tes ini menunjukkan bahwa tidak ada alasan untuk menolak hipotesis yang mengatakan bahwa semua ρ k = 0. Dengan perkataan lain, residual dari ARMA (2,2) sudah merupakan white noise yang berarti kita tak perlu mencoba mencari model ARIMA yang lain.
Komentar 1. Dalam menentukan model ARIMA, adakalanya, ada beberapa model yang berbeda yang semuanya lolos tes diagnostik. 2. Bila hal ini terjadi, model yang terbaik dapat dipilih dengan membandingkan data simulasi (yang dibentuk dari model) dengan data asli. Model yang menghasilkan RMS terkecil yang dipilih RMS = { Σ (y ts -y ta ) 2 / T} 1/2 T: banyaknya periode; y ts : nilai ramalan y t ; y ta : nilai aktual.
Model ARIMA Interest Rate AS:1960-1996 Ingat data Interest Rate AS yang dibahas pada kuliah terdahulu. Data tersebut tidak stasioner berdasarkan fluktuasi interest rate yang tergambar pada Gambar 16.7 dan berdasarkan korelogram ACF pada Gambar 16.8. Setelah dilakukan pembedaan satu kali, datanya sudah stasioner seperti yang terlihat pada Gambar 16.9 dan korelogram pada Gambar 16.10. Oleh karenanya, model ARIMA yang dapat ditawarkan adalah ARIMA (p,1,q). Tahap berikutnya adalah mencoba menduga berapa besar p dan q dengan bantuan ACF. Dari gambar ACF, tidak begitu jelas berapa besar p dan q. Tetapi ada indikasi bahwa ACF tidak segera menuju nol meskipun pada lag/jeda yang agak besar. Akan dicoba memodel data tersebut dengan ARIMA (2,1,2), ARIMA (4,1,4), ARIMA (8,1,2), ARIMA (8,1,4) dan ARIMA (8,1,6)?.
Pendekatan dengan ARIMA (2,1,2): Model umum: (1 - φ 1 B - φ 2 B 2 ) Δy t = δ + (1 - θ 1 B - θ 2 B 2 ) e t Setelah diestimasi, diperoleh: (1-0.5590B -0.1366B 2 ) Δy t = 0.00446 + (1-0.2338B 0.4721B 2 )e t R 2 = 0.120, χ 2 36-2-2 = 120.36 (terhitung). Sedangkan berdasarkan tabel χ 2 32 dengan 95% kepercayaan, angkanya sekitar 46; dengan demikian hipotesis yang mengatakan bahwa residual dari ARIMA (2,1,2) berupa white noise ditolak. Berarti kita perlu coba lagi dengan ARIMA dengan orde yang lebih tinggi lagi.
Komentar R 2 sangat kecil. Apakah ini merupakan indikasi model yang kurang bagus? R 2 menggambarkan kedekatan antara regresor dan regresand. Dalam hal ini, regresor merupakan perubahan interest rate tiga bulanan. Pendekatan dengan ARIMA (4,1,4): Modelnya setelah diestimasi diperoleh: (1-0.6648 B + 0.5871 B 2-0.3981 B 3-0.4365 B 4 ) Δy t = 0.00360 + (1-0.3453 B + 0.2755 B 2 0.1833 B 3 0.7130 B 4 ) e t R 2 = 1.81; χ 2 36-4-4 = 80.42 ( terhitung)
Sedangkan berdasarkan tabel χ 2 28 dengan 95% kepercayaan, sekitar 41; dengan demikian hipotesis yang mengatakan bahwa residual dari ARIMA (4,1,4) berupa white noise ditolak. Berarti kita perlu mencoba lagi dengan ARIMA yang ordenya lebih tinggi lagi. Pendekatan dengan ARIMA (8,1,2): (1-0.8370 B + 0.7152 B 2 0.2286 B 3 + 0.1830 B 4 0.1972 B 5 + 0.3275 B 6 0.0867 B 7 0.0635 B 8 ) Δy t = 0.00133 + (1-0.5106 B + 0.3764 B 2 )e t R 2 =0.205 ; χ 2 36-8-2 =57.22 (terhitung). Berdasarkan tabel χ 2 26 dengan 95% kepercayaan, sekitar 39. Ini berarti hipotesis yang mengatakan residualnya merupakan white noise masih ditolak. Artinya, masih harus mencari model dengan orde yang lebih tinggi lagi.
Pendekatan dengan ARIMA (8,1,4) (1-0.4564 B + 0.7676 B 2 0.3146 B 3 + 0.7932 B 4-0.3351 B 5 + 0.3661 B 6 + 0.0172 B 7 0.0367 B 8 ) Δy t = 0.00167 + (1 0.1142 B + 0.5613 B 2-0.1381 B 3 + 0.6309 B 4 ) e t R 2 = 0.228; χ 2 36-8-4 = 47.18 (terhitung). Tabel χ 2 24 = 36.42. Sekali lagi, hipotesisnya masih ditolak. Maka masih harus mencari model yang lebih baik. Pendekatan dengan ARIMA (8,1,6) R 2 = 0.231; χ 2 36-8-6 = 46.87 (terhitung) Tabel χ 2 22 = 34. Hipotesis masih ditolak, Cari model yang lebih baik lagi. Sampai kapan?
Komentar 1. Dengan menambah orde MA dari 4 ke 6 tidak menambah statistik Q atau χ 2 terhitung secara signifikan. Tetapi, degrees of freedom turun dua. Dapat dikatakan dengan menambah orde MA dua tingkat, tidak memperbaiki model. 2. Meskipun pada ARIMA (8,1,4) residualnya belum merupakan white noise, tetapi dengan peningkatan orde MA tidak menjadi lebih baik, kita berhenti mengeksplorasi model ARIMA dan mendekati model tersebut dengan ARIMA (8,1,4). Dengan kata lain, ARIMA (8,1,4) merupakan model yang terbaik yang tereksplorasi.
Model ARIMA data musiman Bila data time series bulanan y t menunjukkan adanya pola musiman tahunan, series tersebut dicurigai adanya suatu korelasi pada lag/jeda tertentu. Dicurigai antara y t dan y t-12 berkorelasi; begitu juga antara y dan y t t-24 dan seterusnya. Autokorelasi ini bisa ditangkap pada korelogram ACF. Bila memang ada pola musiman tahunan pada suatu data time series, ACF akan menunjukkan adanya gejolak pada lag k = 12, 24, 36, 48 dan seterusnya. Bagaimana menghilangkan efek musiman ini? Data berikut ini merupakan data suatu produksi pertanian di AS yang dikumpulkan secara bulanan dari Januari 1962 sampai dengan Desember 1971. Pergerakan tingkat produksi bulanan ini dapat terlihat pada Gambar 16.14. Setelah melihat pola dari korelogram ACF, terlihat bahwa data tersebut menunjukkan adanya pola musiman tahunan. Gambar 16.15 memperlihatkan bahwa lag k =12, 24 dan 36 terdapat gejolak yang berarti ada korelasi antara y t dan y t-12 ; y t dan y t-24 serta antara y t dan y t-36.
Korelasi tahunan ini dapat dihilangkan dengan melakukan transformasi z t = y t -y t-12. Series z t akan tidak menunjukkan adanya pola musiman lagi seperti yang terlihat pada korelogram ACF pada Gambar 16.16. Apakah z t sudah stasioner? Dari korelogrammya, kelihatannya datanya belum stasioner. Oleh karenanya perlu di stasionerkan dengan pembedaan satu kali dengan cara w t = Δz t = Δ(y t -y t-12 ). Dari Gambar 16.17 tampak bahwa ACF turun secara cepat dan nilainya tetap kecil. Dengan demikian, series w t sudah stasioner dan sudah tidak mencerminkan adanya pola musiman. Bagaimana menentukan p,d,q dari model ARIMA (p,d,q) untuk data tersebut?
Perhatikan kembali proses penghilangan pola musiman: z t = y t y t-12 = y t B 12 y t = (1 B 12 ) y t Sedangkan proses stasioneritasnya adalah: w t = Δz t = z t -z t-1 = z t -Bz t = (1-B) z t = (1-B)(1-B 12 ) y t Dengan demikian, hubungan antara series yang stasioner dengan series aslinya (yang masih ada pola musimannya) adalah: w t = (1-B)(1-B 12 )y t. Permasalahannya yang tinggal sekarang adalah menentukan p dan q dari series w t yang dimodel dengan ARMA (p,q).
Dengan mencermati korelogram dari w t yang ada pada Gambar 16.17 diduga (dengan suatu educated guess) bahwa pola ACF mengikuti AR(3) sehingga model yang ditawarkan adalah sebagai berikut: (1 - φ 1 B - φ 2 B 2 - φ 3 B 3 ) (1-B)(1-B 12 ) y t = e t Setelah model tersebut diestimasi, diperoleh: (1 + 0.6681 B + 0.2015 B 2 0.1298 B 3 ) (1-B)(1-B 12 ) y t = 0.0014 + e t R 2 = 0.365; χ 2 20-3 = 12.83 (terhitung) Berdasarkan tabel χ 2 17 dengan 95% kepercayaan, nilainya sekitar 28. Dengan demikian, tidak ada alasan untuk menolak hipotesis bahwa residualnya merupakan white noise yang artinya modelnya sudah cocok dengan datanya.
Jika suatu data time series dicoba dengan suatu model ARIMA dan ternyata cocok; apakah tidak mungkin ada model ARIMA lain yang juga cocok? Cocok dalam artian residual dari model ARIMA terpilih merupakan white noise. Bagaimana kalau data tersebut dicoba didekati dengan model ARIMA yang ada pengaruh MA nya. Misalnya saja didekati dengan ARIMA (3,1,2) dengan efek musiman tahunan dengan model berikut: (1 - φ 1 B - φ 2 B 2 - φ 3 B 3 ) (1-B)(1-B 12 ) y t = δ + (1 - θ 1 B - θ 2 B 2 ) e t
Setelah diestimasi, diperoleh persamaan: (1 + 0.6626 B + 0.3945 B 2-0.179 B 3 ) (1-B) (1-B 12 ) y t = 0.0015 + (1 + 0.0168 B 0.2191 B 2 )e t R 2 = 0.349 dan χ 2 20-5 = 13.03 ( terhitung) Dari tabel χ 2 15 dengan kepercayaan 95% diperoleh angka 25. Berdasarkan tes Box-Pierce, tidak ada alasan untuk menolak hipotesis yang menyatakan bahwa residualnya berupa white noise. Akibatnya, model ini juga cocok untuk memodel produksi bulanan tersebut yang mempunyai pola musiman tahunan. Pertanyaannya sekarang adalah dari dua model yang cocok tersebut mana yang kita pilih dan yang mana yang lebih baik?
The end of the lesson Created by Nachrowi D. Nachrowi