ESTIMASI MAKSIMUM LIKELIHOOD PADA MODEL ARIMA SKRIPSI IRMA WAHNI SINAGA 080823040 DEPARTEMEN MATEMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA MEDAN 2011 1
ESTIMASI MAKSIMUM LIKELIHOOD PADA MODEL ARIMA SKRIPSI Diajukan untuk melengkapi tugas dan memenuhi syarat mencapai gelar Sarjana Sains IRMA WAHNI SINAGA 080823040 DEPARTEMEN MATEMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA MEDAN 2011 2
PERSETUJUAN Judul : ESTIMASI MAKSIMUM LIKELIHOOD PADA MODEL ARIMA Kategori : SKRIPSI Nama : IRMA WAHNI SINAGA Nomor Induk Mahasiswa : 080823040 Program Studi : SARJANA (S1) MATEMATIKA Departemen : MATEMATIKA Fakultas : MATEMATIKA DAN ILMU PENGETAHUAN ALAM (FMIPA) UNIVERSITAS SUMATERA UTARA Diluluskan di Medan, 05 Januari 2011 Komisi Pembimbing : Pembimbing 2 Pembimbing 1 Drs. H. Haluddin Panjaitan Drs. Pangeran Sianipar, MS NIP 19460309 197902 1 001 NIP 19470208 197403 1 001 Diketahui/Disetujui oleh Departemen Matematika FMIPA USU Prof. Dr. Tulus, M.Si NIP 19620901 198803 1 002 3
PERNYATAAN ESTIMASI MAKSIMUM LIKELIHOOD PADA MODEL ARIMA SKRIPSI Saya mengakui bahwa skripsi ini adalah hasil kerja saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing disebutkan sumbernya. Medan, 05 Januari 2011 IRMA WAHNI SINAGA 080823040 4
PENGHARGAAN Puji dan syukur penulis ucapkan kepada Bapa yang di Surga, Allah yang begitu baik yang memberikan pertolongan sehingga penulis dapat menyelesaikan Skripsi ini, Ucapan terima kasih saya sampaikan kepada Drs. Pangeran Sianipar, MS dan Drs. H. Haluddin Panjaitan selaku pembimbing pada penyelesaian skripsi ini yang telah memberikan panduan dan penuh kepercayaan kepada saya untuk menyempurnakan kajian ini. Ucapan terima kasih juga ditujukan kepada Ketua dan Sekretaris Departemen Prof. Dr. Tulus, M.Si. dan Drs. Henri rani Sitepu, M.Si., Dekan dan Pembantu Dekan Fakultas Matematika dan Ilmu Pengetahuan Alam, semua dosen pada Departemen Matematika FMIPA USU, pegawai di FMIPA USU, dan rekan-rekan kuliah.terima kasih juga penulis ucapkan kepada seluruh keluarga, terkhusus my Lovely Family Bapa B. Sinaga, Mama S. Saragih, Kel. Kakakku Ramen Wirawati, Adik-adikku May Friska Sol Marito, Selfi, Hartono yang telah mendukung penulis di dalam doa, memberikan bantuan dan dorongan yang saya perlukan, teman-teman sepelayanan di KMKS, Saudara PA-ku Grace (b Harles, B David, B Sandro, K Lina, Ucia, Sabeth), Adikadik PA-ku MDP-Geboren (Lungguk, Dages, Eva) Ekk. Marvelous (K Epa, Dosma, Hansen, Rico), Abang dan Adikku (B Fe n Vincent) dan Saudaraku di ALC (Tuti, Sondang, Pesta, Pratiwina, Novalina, Jelita, Romasta, Selfi, Ani, Wina, Wita, Peni, Tina, Ririz, Tata, Uly, Sabeth, Elisabeth, Maria, Dina) yang selalu setia memberikan dukungan n semangat. Akhir kata, semoga Skripsi ini berguna bagi semua pihak yang membutuhkan. 5
ABSTRAK Runtun waktu adalah himpunan observasi berurutan dalam waktu (atau dalam satuan yang lain). Runtun waktu dibedakan menjadi 2 yaitu runtun waktu stasioner dan runtun waktu nonstasioner. Runtun waktu nonstasioner yang telah distasionerkan dengan metode pembeda (diferensi) disebut proses ARIMA. Salah satu model ARIMA adalah ARIMA (1, 1, 0). Langkah selanjutnya setelah ditentukan model adalah mengestimasikan parameternya. Berdasarkan uraian diatas permasalahan yang akan dibahas adalah bagaimana bentuk fungsi Likelihood ARIMA (1, 1, 0) dan menentukan estimator parameterparameter yang ada pada model ARIMA (1, 1, 0). Tujuannya adalah mempelajari cara mengkontruksi fungsi Likelihood model ARIMA (1, 1, 0) Box Jenkins, selanjutnya menentukan estimator parameter-parameter yang ada pada model tersebut dengan metode estimasi maksimum Likelihood (EML). Sedangkan manfaatnya adalah menambah pengetahuan tentang estimasi maksimum Likelihood pada model ARIMA(1, 1, 0). Penerapan estimasi maksimum Likelihood dilakukan dengan cara meminimumkan fungsi jumlah kuadrat S(Φ) dari log fungsi Likelihood model ARIMA (1, 1, 0) Box Jenkins. Menentukan estimator untuk parameter dengan estimasi maksimum Likelihood (EML) menjumpai kesulitan karena bentuk M j = 1 2 ln M (1) j φ j adalah fungsi dari φ yang cukup rumit. Untuk mengatasi kesulitan ini di gunakan metode estimasi kuadrat terkecil. 6
ESTIMASI MAKSIMUM LIKELIHOOD PADA MODEL ARIMA ABSTRACT Time series is the set of sequential observations in time (or in another unit). Time series is divided into two stationary time series and economic time series nonstasioner. Nonstasioner time series that has been distasionerkan with distinctive method (diferensi) is called ARIMA process. One of the ARIMA model is ARIMA (1, 1, 0). The next step after the specified model is estimating the parameters. Based on the description above issues to be discussed is how to form Likelihood function ARIMA (1, 1, 0) and determine the parameters estimator on the model ARIMA (1, 1, 0). The goal is to learn how to construct Likelihood function ARIMA model (1, 1, 0) Box - Jenkins, then determine the parameters estimator on the model by Maximum Likelihood estimation method (EML). While the benefits are increasing knowledge about the maximum Likelihood estimation of ARIMA models (1, 1, 0). Application of Maximum Likelihood estimation was done by minimizing the sum of squares function S (Φ) of the log Likelihood function ARIMA model (1, 1, 0) Box - Jenkins. Define the estimator for the parameters with estimated maximum Likelihood (EML), encounter difficulties due to the shape M j = 1 2 ln M j function of φ is quite complicated. To overcome this difficulty in using the least square estimation method. φ j (1) is a 7
DAFTAR ISI 8 Halaman Persetujuan... ii Pernyataan... iii Penghargaan... iv Abstrak... v Abstract... vi Daftar Isi... vii Arti lambang dan singkatan... x Bab 1 Pendahuluan... 1 1.1 Latar Belakang Masalah... 1 1.1.1 Perumusan Masalah... 3 1.1.2 Tujuan Penelitian... 4 1.1.3 Kontribusi Penelitian... 4 1.1.4 Metode Penelitian... 4 Bab 2 Landasan Teori... 5 2.1 Konsep Dasar Analisis Runrun Waktu... 5 2.1.1 Stasioner dan Takstasioner... 6 2.1.2 Fungsi Autokovariansi... 7 2.1.3 Autokorelasi... 8 2.1.4 Autokorelasi Parsial... 9 2.1.5 Metode Box-Jenkins... 10 2.2 Model Runtun Waktu... 12 2.2.1 Model Runtun Waktu Stasioner... 13 2.2.1.1 Proses-proses Autoregresif 2.2.1.1.1 Proses autoregresif Orde 1 [AR(1)]... 13 2.2.1.1.2 Proses Autoregresif Orde 2 [AR(2)]... 13 2.2.1.1.3 Proses Autoregresif Orde p [AR(p)]... 14 2.2.1.2 Autokorelasi Proses-proses Autoregresif... 14 2.2.1.2.1 Autokorelasi Proses-proses AR(1)... 14 2.2.1.2.2 Autokorelasi Proses AR(2)... 15 2.2.1.2.3 Autokorelasi Prosses AR(p)... 17 2.2.1.3 Autokorelasi Parsial Proses Autoregresif... 18 2.2.1.4 Proses Moving Average q [MA(q)]... 19 2.3 Model Runtun Waktu Nonstasioner... 21 2.3.1 Proses Autoregressive Integrated Moving Average (model ARIMA)... 21 2.3.2 Proses ARIMA (p, d, 0)... 22 2.3.2.1 Model ARIMA (p, d, 0) jika d = 0... 22 2.3.2.2 Model ARIMA (p, d, 0) jika d > 0... 23 2.4 Tinjauan Distribusi Normal Multivariate... 24 2.4.1 Fungsi Densitas Normal Multivariate Bersama, distribusi
Marginal dan Distribusi Bersyarat... 24 2.4.2 Fungsi Likelihood dan Estimasi Maksimum Likelihood... 24 Bab 3 Pembahasan... 28 3.1 Inferensi Proses Autoreagresif Klasik Box-Jenkins... 28 3.1.1 Menentukan selisih (diffrensi) pertama runtun waktu... 28 3.1.1.1 Fungsi Likelihood ARIMA (1, 1, 0) atau ARI(1,1)... 32 3.1.2 Estimasi Maksimum Likelihood pada Model ARIMA (1,1,0)... 33 Bab 4 Kesimpulan dan saran... 37 Daftar Pustaka... 38 9
ARTI LAMBANG DAN SINGKATAN AR (p) : Autoregresif orde p MA (q) : Moving Average orde q ARMA (p, q) : Campuran antara AR (p) dan MA (q) ARIMA (p, d, q) : Autoregresif Integreted Moving Average process, yaitu model runtun waktu stasioner (p, d, q) setelah dilakukan differensi. Z t : Runtun waktu stasioner a t : Unsur galat yang menyebar normal dan independen W t = Z t Z t 1 : Runtun waktu stasioner setelah dilakukan differensi E (Z t ) = μ z : Nilai tengah dari runtun Z t Cov (Z t, Z t k ) : Kovariansi Z t dan Z t k 2 σ z = V (Z t ) : Variansi dari runtun Z t γ k, (k = 0, 1, 2, ) : Fungsi autokovariansi ρ k : autokorelasi dari runtun Z t pada lag k ρ k = r k : estimasi fungsi autokorelasi γ k = C k : estimasi fungsi autokovariansi W : Barisan atau vektor yang stasioner dan merupakan selisih observasi P (Z t ) : Suatu realisasi dari suatu variabel random Z t yang mempunyai distribusi dan fungsi densitas probabilitas (fdp) tertentu Ф kk, (k = 1, 2, ) : Fungsi autokorelasi parsial (fakp) BZ t = Z t 1 : Operator backshift (B) Z t = Z t Z t 1 : Operator diffrensi Ψ (B) : Operator Linier yang mentransformasikan a t ke Z t S (Ф) : Fungsi jumlah kuadrat untuk Ф 10