PROSEDUR ESTIMASI PARAMETER MODEL REGRESI MENGGUNAKAN RESAMPLING BOOTSTRAP DAN JACKKNIFE

Transkripsi

1 PROSEDUR ESTIMASI PARAMETER MODEL REGRESI MENGGUNAKAN RESAMPLING BOOTSTRAP DAN JACKKNIFE ESTIMATION OF PARAMETER REGRESION MODEL USING BOOTSTRAP AND JACKKNIFE Hed (Staf Pegajar UP MKU Poltekk Neger Badug) ABSTRAK Peelta meerapka metode resamplg pada pasaga data pegamata utuk medapatka estmas parameter model regres dega metode resamplg bootstrap da jackkfe. Metode bootstrap ddasarka tekk pegambla sampel dega pegembala, sedagka Jackkfe ddasarka peghapusa satu sampel pada setap pegambla sampel dega pegembala. Berdasarka data smulas, dtetuka bas estmas parameter da pajag terval dega tgkat kepercayaa 95% serta stadard error. Selajutya, dbadgka relabltas yag dterapka pada kedua metode tersebut. Berdasarka bas, pajag terval, da stadard error estmas parameter model regres, metode resamplg bootstrap lebh kecl darpada metode resamplg jackkfe. Kata Kuc: resamplg bootstrap da jackkfe, bas, stadard error, da pajag terval. ABSTRACT Ths research estmates parameters regreso model par observato data usg bootsrtap ad jackkfe resamplg methods. Bootstrap approach was based o the resamplg observato ad Jackkfe was based o the delete oe resamplg observato. Based o the smulato data, parameters estmato bas, the legth of terval wth 95% trust level, ad stadard error were determed. The, the relablty appled to the two methods was compared. Based o the bas, terval legth, ad stadard error of the parameters regreso model estmato, t was obtaed that resamplg method usg bootstrap was less tha usg jackkfe. Keywords: bootstrap ad jackkfe resamplg methods, bas, stadard errors, terval legth.

2 Sgma-Mu Vol.4 No. September 0 PENDAHULUAN Model persamaa regres lear Y = X β + ε () dega ε dasumska berdstrbus ormal dega rata-rata 0 da varas,, ˆ sebaga peaksr tak bas dar β dperoleh dega megguaka ordary least square. Dalam mplemetasya, kta serg dhadapka pada permasalaha dega haya medapatka jumlah sampel yag kecl dalam suatu pemodela. Hal dapat berakbat pada parameter yag dperoleh bas, uderestmate, atau overestmate. Masalah la yag serg mucul yatu dstrbus samplg tdak selalu memeuh dstrbus ormal. Basaya dperluka peurua formulas aalts yag sult dlakuka sehgga dapat meyebabka akuras estmatorya tdak vald. Metode resamplg dapat dguaka utuk megatas permasalaha tersebut. Dalam metode resamplg, sampel daggap sebaga populas. Metode resamplg Bootstrap da Jackfe adalah tekk resamplg parametrk da oparametrk yag bertujua utuk megestmas stadard error da cofdece terval dar parameter populas sepert rata-rata, meda, propors, odds raso, koefse korelas, atau perhtuga koefse regres tapa asums-asums dstrbus (Efro, 98). Berdasarka uraa tersebut, detfkas masalah pada peelta adalah bagamaa meetuka estmas parameter model regres dega tdak dpeuhya asums dstrbus ormal pada resdual da bagamaa resamplg yag terbak pada pasaga data pegamata. Peelta bertujua meetuka estmas parameter model regres dega meerapka resamplg bootstrap da jackkfe pada pasaga data pegamata da membadgka metode resamplg bootstrap da jackkfe dega megguaka data smulas. TINJAUAN PUSTAKA. Aalss Regres Bergada dega Predktor Radom Dberka varabel radom dalam betuk vector Z = (Z,..., Z r) t, da output varabel acak Y dega (r+) varabel tersebut berdstrbus gabuga P(Z, Y ) dega mea E(Z) = μ Z da E(Y) = μ Y Jka predks Y dyataka sebaga fugs dar Z yak f(z), peympaga dberka oleh L(Y,f(Z)) da ekspektasya dsebut sebaga fugs rsko R(f) R(f) = E(L(Y,f(Z)) = E((Y- f(z)) ) R(f) = E X (E Y X (Y- f(z)) Z) () Selajutya dega meerapka dettas Y f(z) = Y - µ(z) + µ(z) f(z) (3) Dperoleh E Y Z {(Y f(z)) Z = z}= E Y Z {(Y μ(z)) Z = z}+(μ(z) f(z)) (4) da persamaa 4 mmum jka f(z) = μ(z) = E Y z {Y Z = z}, dega f * adalah fugs dar z sedemka sehga R(f) mmum, fugs rsko utuk f = f *, R(f * ) dsebut rsko bayes.

3 Prosedur Estmas Parameter Model Regres 3 Megguaka Resamplg Bootstrap da Jackkfe R(f * ) = m R(f) = E{(Y μ(z)) } (5) Dega demka, predks terbak Y d Z = z, megguaka mea kuadrat error yag dberka oleh μ(z). Jka persamaa, dasumska ε tdak berkorelas dega Z,...,Z r maka fugs regres dega Z ler dberka oleh μ(x) = X t β (6) dega β = (β 0,..., β r ) t adalah vector koefse regres ukura (r + ),da X = (, Z t ) t adalah vector ukura (r+). Selajutya, dplh β 0, β,... β r yag memmumka rsko Bayes. Dega memperhatka persamaa berkut S(β) = E{(Y-X t β) } (7) la mmum s(β) dapat terjad, jka la β= β *, dega β * = [E(XX t )] - E(XY) (8) sehgga dega metode Least square, estmas β yak ˆ = (9). Prosedur Estmas Parameter Model Regres dega Resamplg Bootstrap Jka regresor radom, metode bootstrap yag dperguaka yak melakuka resamplg pada pasaga data pegamata (observas) dega probabltas yag terambl sebesar / utuk setap observas. Resamplg dlakuka sebayak B kal dega jumlah B dsyaratka cukup besar= hgga dperoleh estmas parameter yag koverge atau bahka sampa sejumlah sampel. Dega jumlah B yag cukup besar, dharapka estmas parameter regres yag dhaslka aka lebh kuat (robust). Dega ketetua bahwa Vektor w Y, X ' j dega Y y, y,..., y ' da X j x j x j x j,,..., '. Dalam metode, vektor w, w,..., w sebaga observas. Berdasarka resamplg observas, lagkah-lagkah bootstrap dyataka sebaga berkut.. Dambl sampel bootstrap berukura b b b w, w,..., w dega b b b w Y, X ', j dega b b b b Y y, y,..., y ', da b b b b X x, x,..., x ' j j j j. Estmas parameter βdega OLS dar sampel bootstrap ˆ ' ' X X X Y b b b b b 3. Dulag lagkah da sebayak r=,,,b dega B adalah bayakya pegulaga 4. Dar lagkah 3 dperoleh estmas ˆ b ˆ b ˆ bb,,...,. Meurut Fox (997), estmas bootstrap utuk koefse regres adalah rata-rata dar la ˆ b, ˆ b,..., ˆ bb dega B b b b ˆ ˆ r / B ˆ b r

4 4 Sgma-Mu Vol.4 No. September 0 Persamaa regres bootstrap ˆ ˆ b Y X dega ˆ b adalah peaksr tak bas dar β (Shao,995) 3. Bas, Varas, Iterval cofdece, da Persetle bootstrap Peaksr bas utuk regres bootstrap ˆb bas ˆ ˆ b Peaksr varas regres bootstrap Selag kepercayaa regres bootstrap : Jka 30, da tgkat kepercayaa α Z %, dguaka la dstrbus dalam megestmas cofdece terval (Dccco ad Tbshra, 987). Iterval persetl bootstrap dapat dbagu dar quatle dstrbus samplg bootstrap ˆ b. Iterval persetl B / % adalah ˆbr ˆ ˆ r ' B ˆ b ˆ br var ˆ b ˆ br ˆ b / r ˆ t ˆ ˆ ˆ p, / * Se tp, / * Se b b b b lower b / % da r upper dega b adalah peaksr koefse regres bootstrap dar persamaa sebelumya dega batas bawah /B da batas atas / B. 4. Prosedur Estmas Parameter Model Regres dega Resamplg Jackkfe Resamplg Jackfe pada pasaga data pegamata (observas), ddasarka peghapusa satu sampel atau sekelompok sampel dar sampel awal yag daggap sebaga populas. Pada satu tahap da pada tahap selajutya, sampel yag telah dhapus tersebut dkembalka da dlakuka peghapusa satu atau sekelompok sampel da seterusya sampa semua sampel dar populas medapat kesempata utuk dhapus. Lagkah-lagkah metode resamplg Jackfe hapus-satu sebaga berkut.. Dambl sampel berukura dar populas secara acak da ber ama dega vektor w Y X j Y y, y,..., y ' da X x, x,..., x ' j j j j, ' utuk dega j=,,...,k da =,,...,. Dhapus bars pertama dar vector w Y, X ' da merupaka j vector dega ukura sampel (-) sehgga vector y mejad j j j j Y y, y,..., y ' da 3 j j j j X x, x,..., x ' j j j3 j sebaga sampel dega jackkfe, hapus satu regres ˆ j w j dar da taksr koefse w j. Selajautya, hapus bars kedua dar vector w Y, X ' da kemuda ber j label ukura sampel - dega hmpua observas j j j j Y y, y,..., y ' da 3 j j j j X x, x,..., x ' j j j3 j sebaga j w da taksr koefse regres ˆ j. Hapus satu per satu sampel dar observas da taksr

5 Prosedur Estmas Parameter Model Regres 5 Megguaka Resamplg Bootstrap da Jackkfe ˆ j koefse regres dega la ˆ j adalah koefse regres Jackkfe. Setelah peghapusa pegamata ke- dar w, dperoleh la taksr koefse regres Jackkfe ˆ ˆ ˆ j, j,..., j 3. Dhtug koefse regres Jackfe yag merupaka rata-rata dar ˆ ˆ ˆ j j j,,..., ˆ ˆ / ˆ j j j sehgga model persamaa regres utuk regres Jackfe hapus satu sebaga berkut ˆ ˆ j Y X 5. Bas, Varas, Iterval cofdece, da persetle jackkfe Peaksr bas utuk regres jackkfe var ˆ ˆ j ˆ bas ˆ j ˆ j ˆ j ˆ j ˆ j ˆ j ' Peaksr varas regres jackkfe Cofdece terval regres jackkfe ˆ t ˆ ˆ ˆ p, / * Se tp, / * Se Iterval persetl jackkfe dapat dsusu dar quatle dstrbus samplg jackkfe ˆ j. Iterval persetl / % da / % adalah dega ˆ ˆ j ˆ j lower j upper adalah peaksr koefse regres jackkfe dega batas bawah / da batas atas /. HASIL DAN PEMBAHASAN Hasl smulas yag dbagktka oleh persamaa Y 0,X 0, 5X j j j j dega =,, 3,..., 00, da berdstrbus ormal dega rata-rata 0 da varas dsajka pada Tabel. Tabel Data Hasl Smulas No X X Y No X X Y No X X Y 0,4 3, 0, ,9 8,83 73,9,9 4,0 3,3 3,, ,6 8, ,67 4,09 3 7,9 4,3, ,6, ,9 3,89 7,5 4 5,9 4,5 3, ,5 8, ,95 4,75 5 9,7 5, 0, ,6 5, ,67 4,8 6, 5 4,9 4 5,7 4, ,6 8,60 7 3,5 3 4,7 43 5,7, ,78 5, , ,8 3,8 80 6,89 6, , ,7 4, ,98 4, , ,6 5, ,5 6,48

6 6 Sgma-Mu Vol.4 No. September 0,6 7 6, ,9 9, ,8 8,5 8, , ,7 9, ,9 6, ,8 49 9,8 5,7 6, ,8 8, 4 4 4,5, ,8, ,89 4, ,34 4,54 5 6,9 4,7 87 0,6,95, ,6 4,83 5,9 6,96 4, ,9 4,87 3, , 7, ,34 5, 89 8,9 6,48 7, ,9 8, ,99 8, ,5 3,78 7,04 9 7,4 5,3 55 8,5 6, ,7 8,98 0, ,3 6, ,3 6,97 9 8,9 8,3 5,34 6,33 6, ,3 7,4 93 0,5 8, 4, , 6, ,8 7,3 94 9,5 7,5,5 3 4,77 4, , 6, ,5 5,4,0 4 7,9 6, ,5 5,0 96,5 5,76 4, , 0, , 6,5 97 7,5 4,67 6,9 6,7 6, , 8,7 98 8,6 6,78 6,56 7 6,7 5, , 5, ,8 7,88 9,84 8,3 8,7 64 9,05 7, ,5 6,99 7,59 9 7,9 4, ,3 3, ,4 6,7 6, ,9 3,6 3,4, 6, ,3 8, ,0 68 5,8 8,5 5,3 33 0,9 5,4 4, ,9 9,07 5,8 34 9,8 9,5 6, ,8 0,5 7, ,9 9,44 4, ,34 6, ,5,7 3,58 7 9,8,8 5,88 Prosedur resamplg bootstrap, pada pasaga data pegamata (Tabel ). Sebayak B = 000 kal dega pegembala utuk medapatka sampel bootstrap yag masg-masg berukura N=00. Selajutya lagkah megestmas parameter model regres berdasarka sampel bootstrap dyataka dalam betuk flowchart pada Gambar. Berdasarka prosedur resamplg Jackkfe, pada pasaga data pegamata sebayak N = 00 kal dega pegembala, ddapat sampel Jackkfe yag masg-masg berukura N=99. Selajutya, lagkah megestmas parameter model regres berdasarka sampel jackkfe dtujukka dalam flowchart pada Gambar.

7 Prosedur Estmas Parameter Model Regres 7 Megguaka Resamplg Bootstrap da Jackkfe MULAI MULAI N =00, S = 3, B = 000, β(b), X(N,4), Y(N), Data(N,3), RadomNumber(N) N =00, S = 3, βj(n), X(N,4), Y(N) Xj(N,4), Yj(N), Data(N,S), RadomNumber(N) jf =,N bst =,B =,N k RadomNumber() =,N 3 j =,S k RadomNumber() 3 3 j =,S- 3 4 jk =,N- Tdak jf=jk Ya 5 j =,S 6 j =,S β(bst) X'X X' Y 5 β(bst) 6 4 βj(jf) Xj' Xj Xj' Yj Selesa Gambar Flowchart Estmas Koefse Regres Dega Resamplg Bootstrap βj(n) Selesa Gambar FlowchartEstmas Koefse Regres dega Resamplg Jackkfe

8 8 Sgma-Mu Vol.4 No. September 0 Berdasarka smulas yag telah dlakuka, dperoleh la-la estmas parameter, bas, selag kepercayaa, da stadard error metode resamplg bootstrap da jackkfe yag dtujukka pada Tabel da Tabel 3. Berdasarka tabel tersebut, dperoleh data bahwa bas estmas parameter regres metode resamplg bootstrap lebh kecl dbadgka dega megguaka metode jackkfe. Begtu juga utuk selag kepercayaa, dega megguaka metode bootstrap selag kepercayaa mejad lebh pedek. Tabel. Estmas Parameter Model Regres dega Resamplg Bootstrap 95% Selag Kepercayaa Persetl Varabel Rata-rata Bas Bawah Atas 5% 95% SE β 0 -,6603 -,663-0, ,6696 -, ,855 -, ,0 β 0,9855 0,9864 0,000 0,9843 0,9886 0,9339 0,0476 0, β 0,5089 0,5084-0, ,508 0,5035 0,4857 0,5 0,00648 Tabel 3. Estmas Parameter Model Regres dega Resamplg Jackkfe 95% Selag Kepercayaa Persetl Varabel Rata-rata Bas Bawah Atas 5% 95% SE β 0 -,6603 -,6639-0, ,686 -, ,849 -,4834 0,549 β 0,9855 0,9876 0,000 0,980 0,9949 0,93 0,0539 0, β 0,5089 0,5095-0, ,5009 0, , ,5038 0,008 SIMPULAN DAN SARAN SIMPULAN Resamplg Bootstrap, pada model regres bergada yag regresorya radom, dterapka melalu resamplg pada pasaga data pegamata. Dar N pasaga data pegamata, dambl sampel berukura secara acak dega pegembala. Selajutya, dlakuka pegulaga sebayak B kal yag dlajutka dega estmas parameter regres sebayak B kal sehgga ddapat estmas parameter regres masg-masg bayakya B. Dega demka, dapat dhtug bas, stadar error, da pajag terval dar estmas parameter regres. Metode Resamplg Jackkfe ddasarka peghapusa satu sampel setap kal melakuka pegambla sampel da sampel yag dhapus tersebut dkembalka. Dar sampel, dplh - sampel da dlakuka pegulaga sebayak kal sehgga dperoleh estmas parameter regres masg-masg bayakya. Peghapusa sampel dar suatu hmpua data, yag aka daalss, dlakuka dega fx secara bergata;

9 Prosedur Estmas Parameter Model Regres 9 Megguaka Resamplg Bootstrap da Jackkfe tdak dajurka utuk ukura sampel yag kecl. Berdasarka la bas estmas parameter regres, stadard error, da pajag terval, kasus meujukka bahwa metode resamplg bootstrap lebh kecl dbadgka dega resamplg jackkfe. I berart metode bootstrap lebh bak darpada metode jackkfe. SARAN Hogg.Mckea Crag Itroducto to Mathematcal Statstcs, Ed ke 6. New Jersey. Suat Sahler ad Dervs Topuz Bootstrap ad Jackkfe Resamplg Algorthms for Estmato of Regresso Parameters, Joural of Appled Quattatve Method.Vol,No Shao, J., Tu, D.995. The Jackkfe ad Bootstrap. New York: Sprger. Tdak ada stadar yag jelas tetag berapa kal sebakya dlakuka pegulaga (berapa B yag deal). Jumlah maksmum pegulaga B yag mugk dlakuka adalah hgga mecapa kal dar sampel ukura. Oleh karea tu, perlu dlakuka peelta lebh lajut. DAFTAR PUSTAKA Ala J. Izema 008. Moder Multvarate Statstcal Techques. Sprger, pp 09-,New York DCcco, T., Tbshra, R.977. Bootstrap Cofıdece Itervals ad Bootstrap Approxmatos, J. Amer. Statst. Assoc., 8, pp. 6-69, 987 DamodarN.Gujarat Basc Ecoometrcs. The McGraw- Hll Compaes. Efro, B da Robert, T A Itroducto to The Bootstrap. New York: Chapma & Hall, Ic.