ESTIMASI MODEL UNTUK DATA DEPENDEN DENGAN METODE CROSS VALIDATION. Oleh: Tarno Program Studi Statistika FMIPA UNDIP Semarang

Transkripsi

1 ESTIMASI MODEL UNTUK DATA DEPENDEN DENGAN METODE CROSS VALIDATION Oleh: Tarno Program Sudi Saisika FMIPA UNDIP Semarang Absrac This paper discuss abou applicaion of cross-validaion mehod for modeling of dependen daa. One of he daa ha caegorized ino dependen daa is a ime series. To consruc he mahemaical model for a ime series daa, we mus have a leas 50 series. In pracices we ofen have some problem as long as we collec he ime series daa. So we don ge ideal daa relaed o number of sample. To solve his problem, we can generae observaion daa. There are several mehods ha can be used o generae daa such as cross-validaion and boosrap. Applicaion of cross-validaion mehod o generae ime series daa can be done randomly, bu we mus generae he daa based on balanced incomplee block design. The basic principle of cross-validaion mehod is he daa divided ino wo pars hose are consrucion daa and validaion daa. Consrucion daa are drawn from observaion daa based on moving block and hen we consruc he model wih Box-Jenkins mehod and verify he model wih validaion daa. Do his process for differen blocks as replicaion samples of cross-validaion mehod, such ha we can consruc he bes model ha minimized loss funcion for predicion errors. Key words: ime series daa, esimae model, cross-validaion 1. PENDAHULUAN Model runun waku dibangun memiliki alasan uama yaiu unuk prediksi beberapa waku ke depan yang mempunyai nilai sraegis dan ekonomis. Unuk mendapakan nilai prediksi yang akura diperlukan sejumlah daa hisoris masa lampau yang cukup panjang. Panjang runun waku yang ideal unuk membua model prediksi yang akura dibuuhkan minimal 50 dere observasi []. Namun dalam prakeknya, idak jarang diemui kendala unuk mendapakan sederean daa observasi yang panjangnya ideal. Unuk mengaasi hal iu, idak perlu dilakukan pengumpulan daa ke lapangan karena banyak membuuhkan enaga, waku dan biaya, eapi cukup dilakukan dengan cara pembangkian daa observasi secara acak dengan banuan kompuer. Salah sau meode yang dapa digunakan unuk membangkiakan daa ersebu adalah meode validasisilang [1],[]. Meode validasi-silang biasanya banyak dierapkan pada daa independen dan berdisribusi idenik. Namun dalam prakek, daa yang dikumpulkan idak selalu memiliki sifa independen dan berdisribusi idenik. Hal inilah yang mendorong perlunya dilakukan kajian enang penerapan meode validasi-silang pada daa runun waku aau daa dependen yang lain. Suau runun waku merupakan barisan observasi yang diindekkan dengan waku dan biasanya berkorelasi. Daa dependen lainnya ermasuk m-dependen daa, Markov chains, sera proses sokhasik sasioner lainnya idak diindekkan dengan waku [1]. Meode validasi-silang elah banyak dierapkan pada daa independen dan berdisribusi idenik, namun memiliki keerbaasan dalam hal penerapannya pada masalah daa dependen. Secara umum, penerapan meode validasi-silang unuk daa dependen, seringkali gagal unuk menangkap srukur keerganungan daa ersebu dan diperlukan adanya modifikasi nonrivial dalam hal menghasilkan esimaor variansi yang valid dan prosedur inferensi lainnya [1]. 75

2 Media Saisika, Vol. 1, No., Desember 008: 75-8 Kendala yang dihadapi pada saa penerapan meode validasi-silang unuk pemodelan daa runun waku adalah dalam hal proses pembangkian daa unuk konsruksi model, karena prinsip dasar pembangkian daa dengan validasi-silang didasarkan pada sampel acak sederhana. Sedangkan pembangkian daa unuk pemodelan runun waku harus berdasarkan prosedur rancangan acak blok ak lengkap berimbang [1]. Unuk menyusun model dari sekumpulan daa observasi dengan meode validasisilang, prosedur uama yang harus dilakukan adalah mengelompokkan daa observasi menjadi dua bagian yaiu: daa konruksi dan daa validasi. Apabila daa observasi berukuran n, dan daa konruksi yang dibangkikan berukuran d (d<n) maka daa validasi berukuran (n-d). Daa konsruksi berukuran d digunakan unuk menyusun model, sedangkan sisanya digunakan unuk validasi, sehingga nilai residual (error prediksi) dapa diesimasi []. Berdasarkan argumen ersebu, muncul suau permasalahan erkai dengan pemodelan daa dependen khususnya daa runun waku, yaiu bagaimana prosedur pembangkian daa konsruksi model berdasarkan rancangan acak blok ak lengkap berimbang sera proses validasi modelnya, sehingga dihasilkan model yang akura dengan menimalkan fungsi kerugian unuk error prediksi.. RUNTUN WAKTU DAN m-dependent DATA Barisan variabel random {Z, = 0, ±1, ±, ±3,.} dikaakan sasioner kua, apabila unuk sebarang bilangan bula q dan p > 0, {Z 1, Z,,Z p } mempunyai disribusi yang sama dengan {Z 1+q, Z +q,,z p+q }. Semua barisan variabel random yang sedang dibicarakan diasumsikan sasioner. m-depende adalah srukur keerganungan yang paling sederhana dalam aplikasi saisik. Barisan variabel random {Z, = 0, ±1, ±, ±3,.} dikaakan sebagai m-dependen jika erdapa bilangan bula nonnegaive m sedemikian hingga unuk seiap bilangan bula, {, Z -1, Z } dan {Z +m+1, Z +m+, } saling independen. Dari definisi ersebu, Z i adalah independen dan berdisribusi idenik apabila m=0. Jika m 1, maka Z i dependen. Sebagai conoh, model moving average. Suau model moving average (MA) adalah suau model runun waku, dimana daa {y, = 0, ±1, ±, ±3,.} dapa dinyaakan sebagai y = μ + ε θ1ε 1 θε θmε m (1) dengan m bilangan bula posiif, μ dan θ j, j = 1,,... m adalah parameer yang idak dikeahui sera ε merupakan variabel random independen dan berdisribusi idenik dengan mean 0 dan variansi σ. Hal ini dapa diunjukkan bahwa {y, = 0, ±1, ±, ±3,.} merupakan suau dere m-dependen, yaiu: m cov(y, y+ p) = σ θ jθ j p unuk 1 p m ( θ 0 = 1 j= p cov(y, y+ p) = 0 unuk p > m. ) dan Barisan variabel random dependen {y, = 0, ±1, ±, ±3,.} sering disebu sebagai suau runun waku (ime series), walaupun variabel random ersebu idak diindekkan dengan waku. Dalam prakek banyak runun waku yang dinyaakan sebagai kombinasi linier dari variable random independen. Salah sau conohnya adalah model moving average pada conoh 1 di aas. Type runun waku yang sanga pening dan sering dibicarakan adalah model Auoregresive (AR). 76

3 Esimasi Model Unuk Daa Dependen... (Tarno) Suau runun waku {y, = 0, ±1, ±, ±3,.} disebu sebagai suau runun waku auoregressive order p apabila y = μ + ε + φ 1y 1 + φy φpy p () dengan p suau bilangan bula nonnegaip μ danφj, j = 1,,... p adalah parameer yang idak dikeahui sera ε merupakan variabel random independen dan berdisribusi idenik dengan mean 0 dan variansi σ. Suau runun waku auoregressive dikaakan sasioner apabila: p akar-akar dari: 1+ φ 1 B + φb φpb = 0 erleak di luar lingkaran sauan. Model runun waku yang merupakan model campuran anara model auoregressive dan model average disebu model auoregresive moving average (ARMA). Suau barisan variable random {y, = 0, ±1, ±, ±3,.} disebu sebagai suau runun waku Auoregressive Moving Average order (p,q) dinyaakan sebagai ARMA(p,q) apabila: y = μ + φ 1y 1 + φy φpy p + ε θ1ε 1 θε θqε q (3) dengan p dan q suau bilangan bula nonnegaip, μ, φ i, θ j ; i = 1,,... p; j = 1,,..., q adalah parameer yang idak dikeahui sera ε merupakan variabel random independen dan berdisribusi idenik dengan mean 0 dan variansi σ. Suau runun waku auoregressive moving average ARMA(p,q) dikaakan sasioner apabila: p akar-akar dari: 1+ φ 1 B + φb φpb = 0 dan q akar-akar dari: 1 θ 1 B θb θqb = 0 erleak di luar lingkaran sauan. Secara umum model runun waku AR, MA dan ARMA ersebu merupakan model sasioner, sedangkan model runun waku nonsasioner dinyaakan sebagai model Auoregresive Inegried Moving Average (ARIMA). Jika didefinisikan w sebagai barisan selisih w = y - y -1 maka proses umum ARMA w = μ + φ 1w 1 + φw φpw p + ε θ1ε 1 θε θqε q (4) dapa diulis sebagai y = μ + y-1 + φ1(y 1 y ) + φ(y y 3) φp(y p y p 1) + ε (5) θ1ε 1 θε θqε q Dari w = y - y -1 maka y = y -1 + w y -1 = y - + w -1 y - = y -3 + w - dan seerusnya, sehingga diperoleh bahwa y = w + w -1 +w - +. Ini berari bahwa y dapa dipandang sebagai inegrasi runun waku w dan model runun waku (4) dipandang sebagai model proses ARIMA. 3. ESTIMASI MODEL DENGAN METODE BOX-JENKINS Prosedur esimasi model AR, MA aau ARMA dengan meode Box-Jenkins, secara umum dapa dilakukan dengan langkah-langkah sebagai beriku. 1. Idenifikasi Model Sebelum melakukan idenifikasi model, berdasarkan daa observasi erlebih dahulu dilakukan pengujian erhadap sasionerias daa. Apabila syara sasionerias dipenuhi maka dapa dilanjukan dengan menenukan fungsi auokorelasi dan 77

4 Media Saisika, Vol. 1, No., Desember 008: 75-8 fungsi auokorelasi parsial. Berdasarkan nilai auokorelasi dan auokorelasi parsial ersebu dapa dilakukan idenifikasi model berdasarkan ciri-ciri model AR(p), MA(q) aau ARMA(p,q) seperi yang ercanum dalam abel 1 beriku. Tabel 1. Ciri-ciri eoriis F.a.k dan F.a.k.p unuk proses sasioner 3 Model AR(p) Fungsi Auokorelasi (F.a.k) Turun secara eksponensial aau berbenuk sinusoida Fungsi Auokorelasi Parsial (F.a.k.p) Terpoong seelah lag p MA(q) Terpoong seelah lag q ARMA(p,q) Terpoong seelah lag (q-p) Turun secara eksponensial aau berbenuk sinusoida Terpoong seelah lag (p-q). Esimasi parameer Apabila idenifikasi model elah dilakukan, maka ahapan berikunya adalah esimasi awal parameer model. Unuk menguji apakah parameer erkai dengan model yang elah diidenifikasi ersebu signifikan aau idak, maka dilakukan langkah-langkah pengujian hipoesis sebagai beriku. Sebagai conoh, apabila model yang diidenifikasi adalah model AR maka langkah-langkah pengujian sigifikansi parameer modelnya adalah sebagai beriku: a. Perumusan hipoesis H 0 : parameer ( φ j ) = 0 H 1 : parameer ( φ j ) 0 b. Tingka signifikansi α c. Saisik uji ˆ φ j = berdisribusi dengan deraja bebas (n-k-1) se( ˆ φ j ) d. Krieria penolakan Dengan menggunakan ingka signifikansi α, maka H 0 akan diolak apabila hiung α/;(n-k-1) e. Kesimpulan Apabila H 0 diolak maka dapa disimpulkan bahwa parameer model φ signifikan. j 3. Verifikasi model Verifikasi model dilakukan unuk memasikan apakah model yang elah diesimasi pada langkah ersebu merupakan model erbaik aau bukan dengan cara melakukan underfi aau overfi. Model erbaik dipilih berdasarkan nilai fungsi kerugian yang minimal. Disamping iu juga dilakukan pengujian erhadap independensi nilai residual dengan uji chi-square (Box-Pierce). 78

5 Esimasi Model Unuk Daa Dependen... (Tarno) 4. Prediksi (forecasing) Model erbaik yang dipilih pada langkah ke-3 dapa digunakan unuk prediksi beberapa langkah ke depan. 4. ESTIMASI MODEL DENGAN VALIDASI SILANG Prosedur esimasi model runun waku dengan menggunakan meode validasi-silang dapa dilakukan dengan langkah-langkah sebagai beriku. 1. Daa observasi {y 1, y,, y -1,, y n ) yang berukuran n dikelompokkan menjadi dua bagian yaiu: daa konsruksi (DK) dan daa validasi (DV). Pengambilan daa konsruksi dilakukan dengan prinsip rancangan acak blok ak lengkap berimbang dengan ukuran sampel kaakanlah d (1<d<n), sehingga sisanya merupakan daa validasi berukuran α = (n-d). Dengan demikian jika A sebagai himpunan validasi alernaive maka A={α}.. Berdasarkan daa konsruksi ersebu, lakukan esimasi model dengan meode ARIMA dari Box-Jenkins. 3. Lakukan validasi model yang diperoleh pada langkah ke- dengan membenuk fungsi kerugian (loss funcion) L( ŷ,y ). Fungsi kerugian yang dapa dibenuk berupa: L( ŷ,y ) = ( ŷ -y ) yang disebu error kuadra aau raa-raa error kuadra. 4. Ulangi langkah 1 sampai dengan 3 ersebu, kemudian enukan model erbaik berdasarkan nilai fungsi kerugian yang minimal. 5. Ulangi langkah 1 sampai dengan 4 dengan cara memvariasikan ukuran sampel d unuk daa konsruksi, sehingga diperoleh esimasi model yang opimal yaiu yang meminimalkan fungsi kerugian unuk berbagai nilai d yang mungkin. 6. Teapkan model erbaik yang dapa digunakan unuk prediksi beberapa langkah ke depan. Jika diberikan daa runun waku hasil observasi: {y 1, y,, y -1,, y n ), dan DK: Ey ={y 1, y,, y -1 } daa observasi hingga -1, sera DV:{α, α A}: himpunan validasi alernaif, maka proses validasi model dapa digambarkan seperi bagan singka beriku. Ey ={y 1, y,, y -1 } A= alernaive validasi α ŷ (α, Ey ) y - L( ŷ,y ) Gambar 1. Skema proses validasi model ŷ (α, Ey ): prediksi dari y unuk alernaive esimasi α pada Ey. L( ŷ,y ) : fungsi kerugian unuk error prediksi 79

6 Media Saisika, Vol. 1, No., Desember 008: 75-8 SIMULASI Unuk memberikan ilusrasi enang implemenasi secara prakis esimasi model runun waku dengan meode validasi silang, Tabel beriku memperlihakan hasil simulasi erhadap sekumpulan daa raa-raa jumlah produk caca harian dari sebuah pabrik yang dicaa selama 45 hari [3]. Tabel. Hasil simulasi esimasi model AR dengan validasi-silang Ukuran sampel Esimasi Parameer Model AR(1) Loss Funcion DK DV Parameer (φˆ ) Konsan ( μˆ ) (MSE) Dari Tabel. erliha bahwa unuk daa observasi berukuran 45, dengan memvariasikan daa konsruksi (DK) sera daa validasi (DV) unuk berbagai ukuran diperoleh fungsi kerugian (MSE) minimal 0, , sehingga esimasi modelnya adalah: y = y KESIMPULAN Dalam proses pembangkian daa runun waku (daa dependen) dengan meode validasi-silang idak dapa dilakukan secara random erhadap daa observasi, namun harus dilakukan dengan prinsip rancangan blok ak lengkap berimbang (balanced incomplee block design). Prinsip dasar dari meode validasi-silang adalah membagi daa menjadi dua bagian yaiu daa konsruksi dan daa validasi. Daa konsruksi diambil dari sekumpulan daa secara blok kemudian dilakukan esimasi model dengan meode ARIMA Box-Jenkins. Seelah diperoleh esimasi model, dilakukan validasi model erhadap sisa daa (daa validasi). Proses ersebu diulang-ulang unuk blok yang berbeda sehingga diperoleh esimasi model yang erbaik dengan meminimalkan fungsi kerugian (loss funcion) unuk error prediksi. DAFTAR PUSTAKA 1. Shao, J. & Tu, D, The Jackknife and Boosrap, Springer-Verlag, New York, Urban Hjorh, Compuer Inensive Saisical Mehods: Validaion Model Selecion and Boosrap, Chapman & Hall, London, Wei, Time Series Analysis: Univariae and Mulivariae Mehods, Addison-Wesley Publishing Company-Inc. USA,

7 Esimasi Model Unuk Daa Dependen... (Tarno) LAMPIRAN Daa raa-raa jumlah produk caca dari suau pabrik selama 45 hari [3]. No y No y No y

8 Media Saisika, Vol. 1, No., Desember 008: