FUNGSI-FUNGSI KERNEL PADA METODE REGRESI NONPARAMETRIK DAN APLIKASINYA PADA PRIEST RIVER EXPERIMENTAL FOREST S DATA

Transkripsi

1 FUNGSI-FUNGSI KERNEL PADA METODE REGRESI NONPARAMETRIK DAN APLIKASINYA (Siaa Halim, et al.) FUNGSI-FUNGSI KERNEL PADA METODE REGRESI NONPARAMETRIK DAN APLIKASINYA PADA PRIEST RIVER EXPERIMENTAL FOREST S DATA Siaa Halim, Idriati Bisoo Fakultas Tekologi Idustri, Jurusa Tekik Idustri, Uiversitas Kriste Petra, Surabaya {halim,mlidri@petra.ac.id ABSTRAK Dalam paper ii aka diberika beberapa model utuk megestimasi fugsi regresi bila sebuah data Y diberika. Pembuata fugsi fugsi estimasti tersebut uga diberika dega megguaka freeware statistik R da uga diberika beberapa trik dalam pemrograma. Model-model ii diaplikasika pada Priest River Experimetal Forest s data. Kata kuci: regresi oparametrik, smoothig, kerel, R. ABSTRACT I this paper we discuss some models for estimatig the regressio fuctio, provided the data Y is give. The programmig of these fuctio are preseted as well as the tricks i the R- programmig, a statistical freeware. We applied these models to The Priest River Experimetal Forest s data. Keywords: oparametric regressio, smoothig, kerel, R.. PENDAHULUAN Tuua dasar dalam sebuah aalisa regresi adalah utuk mempelaari bagaimaa respo sebuah peubah Y terhadap perubaha yag teradi pada peubah lai yaitu X. Hubuga atara X da Y dapat dituliska sebagai berikut: Y = r(x) +ε () dimaa r adalah fugsi matematik, yag disebut sebagai fugsi regresi da ε adalah error yag megiika teradiya deviasi dari hubuga yag muri determiistik. Pada aplikasi, kita megumpulaka data (X,Y ),,(X,Y ) yag berisi iformasi tetag fugsi r. Dari data-data ii kita dapat meduga ataupu megestimasi fugsi r tersebut. Jika pegetahua kita tetag fugsi r ii miim, maka estimasi terhadap fugsi r ii dapat didekati secara oparametrik. Agar pedekata oparametrik ii meghasilka estimasi terhadap r yag masuk akal, maka hal yag harus diperhatika adalah asumsi bahwa r memiliki deraat kemulusa. Biasaya kotiuitas dari r merupaka syarat yag cukup utuk meami sebuah estimator aka koverge pada r yag sesugguhya bila umlah data bertambah tapa batas. Sebagai badiga dari metode oparametrik tetuya adalah metode parametrik, yag medomiasi statistika klasik. Adaika peubah X diketahui berada pada selag [,]. Cotoh sederhaa dari model parametrik utuk r pada Persamaa (), adalah persamaa garis lurus, r(x) = θ + θx, x 73

2 JURNAL TEKNIK INDUSTRI VOL. 8, NO., JUNI 6: 73-8 dimaa θ da θadalah kostata yag tidak diketahui. Lebih umum lagi r dapat diyataka sebagai kombiasi liear sebagai berikut, p r( x) = θ r ( x) x i= i i di maa r,...,rp adalah fugsi-fugsi yag diketahui da θ,...,θ p adalah kostata yag tidak diketahui. Jika asumsi kita terhadap sebuah model parametrik dibearka, fugsi regresi dapat diestimasi dega cara yag lebih efisie daripada dega megguaka sebuah metode oparametric. Namu demikia ika asumsi terhadap model parametric ii salah, maka hasilya aka memberika kesimpula yag salah terhadap fugsi regresi. Dalam paper ii aka dipresetasika, beberapa model dari regresi oparametrik, beserta aplikasiya pada data Priest River Experimetal Forest s dega megguaka software R.. IDE DASAR DARI SMOOTHING Tuua dari smoothig adalah utuk membuag variabilitas dari data yag tidak memiliki effek sehigga ciri-ciri dari data aka tampak lebih elas. Smoothig telah meadi sioim dega metode-metode oparametrik yag diguaka utuk megestimasi fugsi-fugsi. Beberapa metode smothig dalam bermacam-macam koteks dapat diumpai di Priestley (98), Silverma(986), Eubak (988), Haerdle (99), Hart(997). Jika diberika data observasi Y,...,Y pada titik-titik desai yag tetap (fixed desig poits) x,,x, secara berturuta (agar lebih mudah, kita adaika saa <x <... < x < ). Asumsika data memiliki model sebagai berikut: Y = r(x ) + ε, =,, () dimaa r adalah sebuah fugsi yag didefiisika pada selag [,] da ε,...,ε adalah peubah acak yag merepresetasika error. Biasaya kita megasumsika E( ε ) = da Var ( ε i ) = σ, i =,..,. Tuua dari data aalist adalah meduga fugsi regresi r pada tiap x di [,]. Utuk itu dalam subbab ii aka diberika beberapa metode utuk megestimasi fugsi regresi ii da cara meuliskaya dalam program R.. Rata-rata lokal (Local Averagig) Rata-rata local merupaka cara yag palig sederhaa. Misalka kita igi megestimasi fugsi r(x) utuk beberapa x [,]. Jika r adalah fugsi yag kotiu, maka ilai-ilai fugsi pada x i yag dekat dega x seharusya aka cukup dekat dega r(x). Hal ii memberika usula bahwa merata-rata ilai Y i yag bersesuaia dega x i yag dekat dega x aka meghasilka estimator tak bias utuk fugsi r(x). i Program haya aka diberika pada beberapa metode saa, utuk metode yag aalog aka diberika satu program saa. 74

3 FUNGSI-FUNGSI KERNEL PADA METODE REGRESI NONPARAMETRIK DAN APLIKASINYA (Siaa Halim, et al.) Cotoh Misalka kita memiliki 5 data titik, yag disimulasika sebagai berikut Y = r(x ) + ε, =,,5 di maa r(x ) = (-(x-) ), x x =(-.5)/5, =,,5, da ε ~ N(,(.5) ). Utuk tiap x, perhatika selag [x-h,x+h], dimaa h adalah bilaga positif yag cukup kecil ilaiya. Rata-ratalah pasaga (x, Y ) yag berada pada selag tersebut, da hitug rata-rata utuk seluruh Y yag lai. Nilai rata-rata ii merupaka estimasi dari r(x). Program dega megguaka R dapat dilihat pada Lampira. Gambar. Estimasi dega rata-rata lokal, dega ilai h dari atas ke bawah adalah h =.4, h =.88 da h =.6. Garis lurus adalah r(x) yag sebearya, titik-titik adalah ilai Y da garis terputus-putus adalah estimasi dega megguaka rata-rata lokal. Dari Gambar, dapat kita lihat bila ilai h terlalu kecil maka estimasi yag didapat aka sama dega Y, tetapi bila h terlalu besar maka estimasi yag kita peroleh terlalu mulus. Tetu saa dalam keyataa, metode ii tidak perah diguaka. Diberika di sii haya utuk memberika gambara sederhaa tetag regresi oparametrik. Kerel Smoothig Pada kerel smoothig rerata sederhaa di atas digatika dega umlaha berbobot, biasaya bobot yag lebih besar diberika pada Y yag ilai x ya medekati titik estimasi x. Di sii aka diberika tiga macam kerel smoothig, yaitu 75

4 JURNAL TEKNIK INDUSTRI VOL. 8, NO., JUNI 6: Nadaraya Watso estimate ^ NW = ) / h) r h ( x) =, x (3) K(( x x ) / h) Y K(( x x = di maa K adalah fugsi yag disebut sebagai kerel, sedagka h adalah kuatitas yag disebut sebagai badwidth atau smoothig parameter, da yag megkotrol kemulusa (smoothess) dari NW r^ h. Beberapa tipe dari fugsi kerel K K R adalah: K R ( u) = I (,) ( u) dimaa I A merupaka fugsi idikator utuk himpua A, yaitu,, x A I A ( x) =, x A Kerel K R disebut sebagai rectagular kerel. Piliha K yag umum adalah kerel Gaussia, yaitu u K G ( u) = exp π Tipe kerel lai yag uga serig diguaka adalah kerel Epaechikov, ( u) =.75( u ), u < K E.. Priestley Chao estimate ^ PC x xi r ( x) = ( xi xi Yi K h ) (4) h i= h..3 Gasser Muller estimate ^ GM si x u r ( x) = Y h i K du (5) h i= s h i di maa s =, s i = (x i +x i+ )/, i=,,- da s =..3 Badwidth Optimum Telah diketahui secara umum, bahwa permasalaha utama pada kerel smoothig buka terletak pada pemiliha kerel tetapi pada pemiliha badwidth (lihat Tabel. Silverma, B.W (986). Pemiliha badwidth optimum lebih ditekaka pada peyeimbaga atara bias da variace, seperti terlihat pada Gambar. Satu perumusa masalah yag dapat memperlihatka hubuga atara bias da variace adalah mea square error MSE (lihat pada Lemma ), karea itu dega memiimumka MSE maka permasalah atara bias da variace di atas dapat dimiimumka uga. 76

5 FUNGSI-FUNGSI KERNEL PADA METODE REGRESI NONPARAMETRIK DAN APLIKASINYA (Siaa Halim, et al.) Lemma : MSE f(x) dapat diuraika sebagai umlaha atara bias kuadrat da variace dari f(x) Bukti MSE f(x) = E[ f ( x) f ( x)] ^ = E[ f ( x) Ef ( x) + Ef ( x) f ( x)] ^ = E[ f ( x) Ef ( x)] + E[ f ( x) Ef ( x)][ Ef ( x) f ( x)] + E[ Ef ( x) f ( x)] = Variace(f(x)) + Bias(f(x)) : Badwidth optimum utuk Kerel Gasser Muller adalah dimaa J k = K ( u) du, k = h / 5 σ J k = 4 ( )[ ''( )] f x r x σ k / 5 σ u k( u) du adalah kostata yag tergatug ilai dari K. Peurua persamaa di atas dapat dilihat pada (Haerdle, 99). ^ ^ (6) 3. DATA Priest River Experimetal Forest s data (Pref data) adalah data peelitia huta di Norther Idaho, USA yag dilaksaaka pada Juli-Agustus. Huta seluas 53 hektar tersebut dibagi meadi 9 strata yag terdiri atas 3 level ketiggia da 3 level solar isolatio. Pada setiap strata ditetuka 4 cluster yag dipilih secara acak. Observasi dilakuka pada setiap cluster dega memilih beberapa poho secara acak da megukur diameter poho di ketiggia.3m. Haya 85% dari poho yag terpilih yag uga diukur tiggiya. Selai itu dicatat pula species dari masig-masig poho. Jelas bahwa Pref data ii mempuyai struktur hirarkis, yaki poho terletak di dalam cluster yag terletak didalam strata tertetu. Namu dalam tulisa ii faktor cluster da strata tidak diperhatika. Grafik dari tiggi versus diameter dari poho yag di-sample memperlihatka relasi liier atara tiggi da diameter (lihat Gambar ). Dari aalisa data awal teryata ada variabel (fixed effect) yag berpegaruh pada pemodela tiggi poho; yaki diameter da species. Namu, pemodela dega metode oparametrik di atas diguaka utuk data dega satu variabel saa. Oleh karea itu, metode-metode di atas diaplikasika pada data dari salah satu species saa. 4. PENGOLAHAN DATA DAN ANALISA Fugsi kerel yag dipakai adalah Epaechikov kerel, dega alasa ilai itegralya dapat dihitug secara aalitik. Namu demikia kita harus memperhatika bahwa support dari kerel ii berada pada selag [-,], sehigga pada program kita harus memisahka apakah sebuah ilai s i berada pada (-,], [-,], [-, ), (-,-) atau (, ). Dalam makalah ii aka dituukka tiga metode, yaitu metode liear regressi klasik, da metode oparametrik dega megguka dua kerel, Nadaraya-Watso da Gasser-Mueller. Plot dari ketiga metode ii dapat dilihat pada Gambar Gambar 5. Sedagka aalisa pemiliha metode yag terbaik, dilakuka dega cara sederhaa, yaitu pada pegukura stadard error, lihat pada Tabel. Metode Gasser 77

6 JURNAL TEKNIK INDUSTRI VOL. 8, NO., JUNI 6: 73-8 Mueller memberika stadard error yag terkecil. Stadard error ii dihitug dega megabaika satu alai terakhir, hal ii karea adaya kelemaha pada metode Gasser Mueller ii pada boudary. Pada boudary, ilai x i yag bisa dihitug pada Persamaa (5) lebih sedikit dibadigka bila x i tersebut berada di tegah (Hart, 997). Gambar. Plot Tiggi (m) Versus Diameter (cm) Poho dari Pref Data Diameter vs Fitted Fitted Values (height, m.) Diameter(cm.) Gambar 3. Liear Regressi 78

7 FUNGSI-FUNGSI KERNEL PADA METODE REGRESI NONPARAMETRIK DAN APLIKASINYA (Siaa Halim, et al.) y Gambar 4. Nadaraya Watso dega Megguaka h Optimum x y Gambar 5. Gasser Mueller dega Megguaka h Optimum, Tapa Perbaika x 79

8 JURNAL TEKNIK INDUSTRI VOL. 8, NO., JUNI 6: 73-8 Tabel. Perbadiga Metode berdasarkaa pada ilai stadard error Metode Stadard error Least Square method 3.83 Nadaraya Watso Gassermuller KESIMPULAN DAN CATATAN Pada tulisa di atas telah dielaska beberapa macam kerel, da cara meuliskaya dega megguaka Program R, amu demikia beberapa hal belum diawab, yaitu masalah pada boudary. Hal ii terlihat elas pada Gambar 5, pada bagia uug kurva yag dibagu dega pedekata Gasser Mueller, kurva meadi terlalu bias. Utuk itu biasaya diguaka koreksi pada regresi Noparametrik ii. Pedekata yag diguaka utuk memperbaiki masalah di boudary dapat dilihat, misalya, Gasser da Mueller (979), Mueller (987). DAFTAR PUSTAKA Eubak, R.L., 988, Splie smoothig ad Noparametric Regressio, Marcel Dekker, New York.. Gasser, T. ad Mueller, H. G., 979, Kerel estimatio of regressio fuctios, i Gasser ad Roseblatt (eds), Smoothig Techiques for Curve Estimatio, Spriger Verlag, Heidelberg. Haerdle, W, 99, Itroductio to Noparametric Regressio, Hart, J.D, 997, Noparametric Smoothig ad Lack-of-Fit Test, Spiger, New York. Mueller, H. G., 987, Weighted local regressio ad kerel methods for oparametric curve_ttig, Joural of the America Statistical Associatio 8: 3{8. Silverma, B.W., 986, Desity Estimatio for statistics ad Data Aalysis, Chapma & Hall, Lodo. 8

9 FUNGSI-FUNGSI KERNEL PADA METODE REGRESI NONPARAMETRIK DAN APLIKASINYA (Siaa Halim, et al.) LAMPIRAN: Program widow <- fuctio(h,x,y) { <- legth(x) f <- c() for(i i :) { cout <- cout <- for( i :) { if(x[i]-h<= [] & x[] <= x[i]+h) { cout <- cout + cout <- cout + y[] if (cout == ) temp <- y[] if (cout!= ) f <- apped(f,cout/cout) else f <- apped(f,temp) retur(f) Program NW <- fuctio(h,x,y) { <- legth(x) f <- c() for(i i :) { x <- (x-x[i])/h K <- sum(kg(x)) K <- t(y)%*% KG(x) f <- apped(f,k/k) retur(f) KG <- fuctio(x) { ker <- exp(-.5*x^)/sqrt(*pi) retur(ker) KEpach <- fuctio(x) { if (abs(x) < sqrt(5)) KEpach <-.75*(-.*x^)/sqrt(5) else KEpach <- retur(kepach) Program 3 GM <- fuctio(h,x,y) { <- legth(x) f <- c() s <- x x[+] <- (7-.5)/ for (i i :) s[i] <- (x[i] + x[i+])/ for(i i :) { cout <- for( i :) { if ((-)!=) a <- (x[i]- s[-])/h else a <- x[i]/h b <- (x[i]-s[])/h if (abs(a) <= & abs(b) <= ) cout<-cout+ y[]*(itepach(a)- ItEpach(b)) else if (abs(a) <= & b < -) cout <- cout + y[]*(itepach(a)- ItEpach(-)) else if (abs(b) <= & a > ) cout<-cout+ y[]*(itepach()- ItEpach(b)) else if (b < - & a > ) cout <- cout + y[] f <- apped(f,cout) retur(f) ItEpach <- fuctio(x) { if (abs(x) <= ) KEit <-.75*x -.5*x^3 else KEit <- retur(keit) 8