RIDGE-MM SEBAGAI SALAH SATU METODE REGRESI RIDGE YANG ROBUST TERHADAP DATA PENCILAN

Transkripsi

1 RIDGE-MM SEBAGAI SALAH SATU METODE REGRESI RIDGE YANG ROBUST TERHADAP DATA PENCILAN Sudartanto 1, Nono Suwarno 2, Ahmad Taofk 3 JurusanStatstka FMIPA-UNPAD, Fapet UNPAD, Jurusan Agrotek UIN emal : sudartanto@unpad.ac.d; nonosuwarno26@yahoo.com;taofkun@gmal.com ABSTRACT In regresson analyss, least squares method used adjuster, whch s used to estmate the regresson parameters, contans a lot of weaknesses, f there s data n the multkolnertas especally coupled wth the outlers. To overcome these weaknesses rdge-mmregresson method s used. Rdge-MM regresson method s a modfcaton of the rdge regresson method s based on the MM-estmator. Keywords:Multcollneartas, outlers, rdge regresson, robust regresson 1. PENDAHULUAN Analss regres merupakan analss yang mempelajar cara membangun sebuah model fungsonal dar data yang dgunakan untuk menggambarkan hubungan antara suatu varabel tak bebas dengan satu atau lebh varabel bebas. Dalam membangun sebuah model regres lner yang bak atau cocok ada beberapa asums model regres lner klask yang harus dpenuh, yatu nla yang dharapkan dar gangguan (r) adalah nol, nonautokorelas, homosedaststas, varabel bebas bersfat non-stokastk, non-multkolnertas, dan gangguan (r) mengkut dstrbus normal. Salah satu pelanggaran asums model regres lner klask adalah adanya multkolnertas. Pelanggaran asums n dsebabkan karena adanya hubungan lner sempurna atau hampr sempurna dantara varabel-varabel bebas dalam satu model regres. Multkolnertas sempurna dapat mengakbatkan taksran parameter regres dengan menggunakan metode kuadrat terkecl basa tdak dapat dtentukan dan varansnya tdak terdefns. Sedangkan, 37

2 multkolnertas hampr sempurna dapat mengakbatkan penaksran parameter regres dengan menggunakan metode kuadrat terkecl basa mash dapat dtentukan, tetap varansnya semakn membesar serng dengan menngkatnya multkolnertas. Salah satu metode yang dapat dgunakan untuk menanggulang adanya multkolnertas adalah metode regres rdge. Akan tetap, permasalahan yang ada menjad lebh rumt ketka penclan dan mutlkolnertas terdapat pada data yang sama.metode regres rdge akan menjad tdak robust ketka terdapat data penclan. Data penclan yang tmbul selalu berpengaruh terhadap penaksran yang dlakukan dengan menggunakan metode kuadrat terkecl basa dan regres rdge. Oleh karena tu, dperlukan suatu metode yang dapat menangan adanya pengaruh dar data penclan dan multkolnertas, metode tersebut tdak lan adalahmetode rdge-mm. Metode n merupakan modfkas dar metode regres rdge yang menerapkan estmator MM yang robust terhadap adanya data penclan. 2. TINJAUAN PUSTAKA 2.1 MetodeRegres Rdge Dalam analss regres ganda, metode kuadrat terkecl basa adalah suatu metode yang sangat popular yang menghaslkan sfat-sfat yang optmal dan mudah perhtungannya. Penaksr β dcar dengan memnmumkan fungs (1) dan estmator dar parameter β dnyatakan oleh OLS = X Y(2) Metoda n menghaslkan penaksr yang tak bas dan bervarans mnmum d antara semu apenaksr lner tak bas asalkan kekelruannya berdstrbus bebas, normal dan dentk. Akan tetap dengan adanya multkolnertas maka penaksrnya mash tetap tak bas, akan tetap sudah tdak effsen lag, karena varansnya sangat besar. Besarnya nla varans yang dsebabkan multkolnertas akan sangat membahayakan penggunaan regres sebaga dasar untuk pengujan hpotess, penaksran dan peramalan. Sebaga alternatve dar penggunaan OLS, kta bas menggunakan metode regres rdge karena dengan metode 38

3 n bas memperbak press dar koefsen regres. Metode regres rdge pertama kal dkemukakan oleh Hoerl [1962] dan kemudan dperluas lebh lanjut oleh Hoerl dan Kennard [1970a]. Penaksr koefsen regres rdge dnyatakan sebaga RIDGE = X Y(3) Dmana I adalah matrk sdenttas (p x p) dan k konstanta. Secara prakts nla optmal dar k tdak dketahu. Berbaga metode dalam menentukan k sudah muncul dalam banyak lterature sepert yang dkemukakan oleh Hoerldan Kennard [1970b] dan Gbbons [1981]. Penaksrk dkemukakan oleh Hoerlet al [1975] dberkan oleh (4) dmana = (5) Bla k = 0, RIDGE = OLS, bla k > 0, RIDGE adalah penaksr yang bas akan tetap lebh stabl dan lebh tepat darpada penaksr OLS dan bla k, RIDGE Hoerldan Kennard [1970a] sudah menunjukkan bahwa nla k akan selalu ada untuk k> 0 d mana lebh kecl darpada. 2.1 Penaksr Regres Robust Penaksran Parameter Regres dengan Metode MM- Estmator MM-estmator pertama kal dperkenalkan oleh Yoha [1985]. MM-estmator merupakan metode penaksr robust yang dapat mencapa nla maksmum breakdown dan efsens yang tngg metode n merupakan metode yang terbak dbandngkan dengan metode Least Absolute values (LAV), Least edan Squares (LMS), Least Trmmed Squares (LTS) dan penaksr-m menurut Md danzahar [2007]. Langkah-langkah penaksran parameter regres dengan metode MM-estmator adalah sebaga berkut : Penaksran Parameter Regres Awal dengan Metode Least Trmmed Square Least trmmed square merupakan metode yang dkembangkan oleh Rousseeuw dan Leroy[1987]. Prosedur dar metode n adalah memnmumkan h 2 r 1 39

4 n dar kombnas data dengan tap h kombnas terdr dar h pengamatan. Langkah-langkah dalam melakukan penaksran parameter regres dengan metode least trmmed square adalah Tentukan nla h dengan menggunakan rumus 3n p1 h 4 n Buat subset data sebanyak h Htung nla taksran koefsen regres dar tap subset yang terbentukdengan menggunakan metode kuadrat terkecl basa. Htung jumlah kuadrat resdu dar masng-masng subset. Taksr model regres dengan jumlah kuadrat resdu terkecl adalah yang cocok dengan data Penaksran Parameter Regres dengan Metode M- estmator M-estmator pertama kal dperkenalkan oleh Huber[1964]. Prosedur dar M-estmator adalah memnmumkan fungs resdual, yatu n mn ( r ). Langkah-langkah 1 dalam melakukan penaksran parameter regres dengan metode M- estmator adalah Htung nla taksran skala resdual M-estmator dengan menggunakan rumus : 1 S medan r ( ˆ ) ( ˆ LTS medan r LTS ) (6) dengan r( ˆ ) ˆ LTS Y X ' βlts ; = 1, 2,..., n. Htung nla elemen-elemen w pada matrks dagonal bobot Wdengan menggunakan rumus w ' [( Y ˆ XβLTS) / S] 1 ; f Y ˆ Xβ ' ( Y ˆ XβLTS) / S 1 1 ; f Y ˆ Xβ (7) dengan adalah fungs pengaruh. Fungs yang akan dgunakan adalah tpe fungs bsquare 2 2 z(1 ( z / c) ) ; z c ( z) 0 ; z c (8) dengan z ( Y ˆ X ' β LTS )/ S ; c = 4.685S. c adalah konstanta LTS LTS 40

5 tunnng S adalah taksran skala resdu M-estmator.. Taksran Parameter Regres MMestmator dapat dperoleh dengan menggunakan rumus : βˆ ( X'WX ) 1 X'Wy (9) MM tetapan k. Langkah-langkah dalam melakukan penaksran parameter regres dengan regres rdge-mm adalah Penentuan nla tetapan k pada rdge-mm adalah dengan menggunakan rumus : Htung varans resdu MMestmator dengan menggunakan rumus : 2 S MM dengan ( yxβˆ )'( ˆ MM y XβMM ) (1 n p 0) β ˆ MM adalah taksran parameter regres dengan menggunakan metode MMestmator dan p adalah banyaknya parameter regres RegresRdge-MM Pada metode rdge-mm prosedur perhtungan yang harus dlakukan tdak jauh berbeda dengan prosedur perhtungan yang dlakukan dengan menggunakan regres rdge basa. Perbedaan prosedur perhtungan antara rdge-mm dengan regres rdge hanya terletak pada rumus dalam menentukan nla ps k ˆ ˆMM ' (11) βmmβmm dengan p adalah banyaknya parameter regres. Penaksr rdge-mm ddefnskan βˆ ( X'X ki) -1 X'y (12) RMM dengan k adalah konstanta postf. 3. PENERAPAN 3.1 Data Data yang akan danalss dsn adalah data sekunder mengena data pengukuran komponen ndkator Indeks Pembangunan Manusa (IPM), yang melput Angka Harapan Hdup (AHH), Angka Melek Huruf (AMH), dan Rata-rata Lama Sekolah (RLS). Data dambl secara acak sederhana sebanyak 30 Kabupaten/ 2 41

6 Kota d Indonesa. Data n sepenuhnya menggunakan konsep dan defns dar varabel pengamatan yang dpaka oleh BPS. 3.2 Penaksran Parameter Regres dengan Metode Kuadrat Terkecl Basa untuk Data yang sudah dstandardsas Pada tahap awal n dgunakan rumus (2) sehngga dperoleh nla penaksr ˆβ, sebaga berkut : βˆ sehngga model regres taksrannya adalah Y ˆ X X X (13) * * * * Dengan mentransformaskan kembal pada setap varabel asal, maka dperoleh taksran model regres metode kuadrat terkecl basa adalah sebaga berkut: Y ˆ X X X (14) Berdasarkan taksran model regres lner multpel (14) dapat dperoleh nla resdu r dengan r Y Yˆ adalah 42

7 Tabel Nla Resdu Metode Kuadrat Terkecl Basa No r No r Berdasarkan hasl penaksran model regres dengan menggunakan metode kuadrat terkecl basa datas dapat dperoleh nla resdu sepert pada tabel d atas. Nla resdu n selanjutnya akan dgunakan untuk melakukan proses pengdentfkasan terhadap penclan dan multkolnertas. 3.3 Pengdentfkasan Penclan dan Multkolnertas Penclan Pendeteksan penclan dlakukan dengan menghtung nla Internal Studentzed Resdual, Deleted Studentzed Resdual, Leverage, Cook s Dstance, dan DFIT sehngga dperoleh hasl 43

8 Tabel Nla SRES, TRES, HI, COOK, dan DFIT No SRES TRES HI COOK DFIT Telah djelaskan sebelumnya bahwa suatu pengamatan dkatakan penclan jka memenuh beberapa ketentuan, yatu SRES 2 atau SRES 2 TRES t( / 2; n-( p1)-1) atau TRES t( / 2; n( p1) 1) ; dengan t (0.025;25) 2.06 HI (2( p 1)-1)/ n; dengan (2( p1)-1)/ n COOK F( ;( p 1), n ( p 1)) ; dengan F(0.05;4,26)

9 1 DFIT 2 p ; n dengan 2 p n Berdasarkan hasl perhtungan datas dapat dlhat bahwa terdapat beberapa pengamatan yang ddeteks sebaga penclan, yatu pengamatan ke-1, 8, 9, dan 17. Pengamatan ke-1 ddeteks sebaga outler, yatu pengamatan yang memlk studentzed resdual yang besar pada sekumpulan data. Pengamatan ke-8, 9, dan 17 ddeteks sebaga leverage value, yatu pengamatan yang memlk nla-nla X dan Y yang agak jauh dar data yang lan. Selan tu, pengamatan ke-9 juga ddeteks sebaga pengamatan berpengaruh, yatu pengamatan yang mempengaruh model regres. Pengamatan berpengaruh dapat membuat model regres dengan metode kuadrat terkecl basa menympang dar pola sebagan besar data Multkolnertas Pada tahap n multkolnertas ddeteks dengan menghtung nla blangan konds. Dar perhtungan dperoleh hasl egen Tabel Nla Egen dar Matrks X X Nla Egen λ λ λ Berdasarkan hasl perhtungan nla egen datas ddapat nla blangan konds sebesar Oleh karena tu, dapat dketahu bahwa terdapat pelanggaran asums regres lner klask, yakn multkolneartas. In artnya bahwa terdapat hubungan lner d antara varabel bebas. Dengan adanya pelanggaran asums model regres lner klask, yatu multkolneartas yang dkut adanya penclan, maka penaksran parameter regres tdak dapat dlakukan dengan metode kuadra 45

10 terkecl basa ataupun metode regres rdge karena taksran model yang dperoleh akan terpengaruh oleh adanya penclan. Oleh karena tu, penaksran parameter regres dlakukan dengan metode rdge-mm. 3.4 Penaksran Parameter Regresdengan Metode MMestmator Telah djelaskan bahwa penaksran parameter regres dengan metode MM-estmator dlakukan dengan beberapa langkah, yatu Penaksran Parameter Regres Awal dengan Metode Least Trmmed Square Pada tahap n hal pertama yang harus dlakukan adalah menentukan banyaknya subset yang terbentuk dan menentukan banyaknya pengamatan untuk setap subset yang terbentuk. Dar perhtungan dperoleh hasl bahwa banyaknya subset yang terbentuk adalah sebanyak dan setap subset terdr dar 23 pengamatan. Dengan menggunakan software dperoleh taksran parameter regres awal dengan nla jumlah kuadrat resdu sebesar adalah β ˆ LTS= Penaksran Parameter Regres dengan Metode M- Estmator Pada tahap n langkah pertama yang harus dlakukan adalah menghtung taksran skala resdual untuk M-estmator. Dengan menggunakan rumus (6) dperoleh nla taksran skala resdual untuk M- estmator adalah sebesar Kemudan dlakukan penaksran parameter regres dengan menggunakan rumus (9) dengan matrks dagonal W pada rumus (7) dan (8) sehngga dperoleh nla elemen-elemennya (w) adalah Tabel Nla Elemen-elemen Matrks Dagonal W No w No w

11 Berdasarkan hasl perhtungan datas dapat dperoleh nla taksran parameter regres MM-estmator dengan menggunakan software adalah β ˆ MM = Selan tu, dapat dperoleh juga nla varans resdu MMestmator dengan menggunakan rumus (10), yatu sebesar Penaksran Parameter Regres dengan Metode Rdge- MM Pada tahap n hal pertama yang harus dtentukan adalah besarnya nla k. Dengan menggunakan rumus (11) dperoleh besarnya nla k sebesar Berdasarkan nla k = dapat dperoleh nla β ˆ RΜΜ dengan menggunakan rumus (12), yatu sehngga dperoleh taksran model regres rdge-mm adalah sebaga berkut : βˆ RMM =

12 Y ˆ X X X (15) * * * * Dengan mentransformaskan kembal pada setap varabel asal, maka dperoleh taksran model regres rdge-mm adalah sebaga berkut: menganggap angka harapan hdup dan angka melek huruf bernla konstan, maka ndeks pembangunan manusa akan menngkat sebesar Berdasarkan hasl taksran model regres (15) dapat dperoleh Y ˆ X X2 nla X koefsen determnas sebesar 3 (16) 99.28%,artnya bahwa sebanyak Persamaan tersebut dapat dartkan sebaga berkut: 99,28% pembangunan varabel manusa ndeks dapat 1. Rata-rata ndeks pembangunan djelaskan oleh varabel angka manusa akan berkurang harapan hdup, angka melek huruf, apabla angka harapan hdup, dan rata-rata lama sekolah. angka melek huruf, dan rata-rata lama sekolah bernla nol. Sedangkan ssanya sebesar 0.72% djelaskan oleh varabel lan. 2. Jka setap angka harapan hdup bertambah 1 tahun dengan menganggap angka melek huruf 5. KESIMPULAN dan rata-rata lama sekolah Berdasarkan hasl bernla konstan, maka ndeks pembahasan yang telah dlakukan pembangunan manusa akan dapat dambl kesmpulan sebaga menngkat sebesar berkut : 3. Jka setap angka melek huruf 1. Setelah dlakukan bertambah 1 % dengan pendeteksan terhadap penclan dan menganggap angka harapan multkolnertas pada data hdup dan rata-rata lama sekolah ternyata terdapat multkolnertas bernla konstan, maka ndeks yang dkut adanya penclan pembangunan manusa akan sehngga metode penaksran menngkat sebesar Jka setap rata-rata lama sekolah parameter regres yang dgunakan adalah metode rdge-mm. bertambah 1 tahun dengan 48

13 2. Metode rdge-mm dgunakan untuk mengatas adanya multkolnertas tdak sempurna dan penclan yang merupakan pengamatan berpengaruh. 3. Model taksran regres rdge- MM yang dperoleh adalah sebaga berkut : Y ˆ X X X Persamaan tersebut dapat dartkan sebaga berkut: a. Rata-rata ndeks pembangunan manusa akan berkurang apabla angka harapan hdup, angka melek huruf, dan rata-rata lama sekolah bernla nol. b. Jka setap angka harapan hdup bertambah 1 tahun dengan menganggap angka melek huruf dan rata-rata lama sekolah bernla konstan, maka ndeks pembangunan manusa akan menngkat sebesar c. Jka setap angka melek huruf bertambah 1 % dengan menganggap angka harapan hdup dan rata-rata lama sekolah bernla konstan, maka ndeks pembangunan manusa akan menngkat sebesar d. Jka setap rata-rata lama sekolah bertambah 1 tahun dengan menganggap angka harapan hdup dan angka melek huruf bernla konstan, maka ndeks pembangunan manusa akan menngkat sebesar

14 DAFTAR PUSTAKA Gbbons, D. (1981). A Smulaton Study of Some Rdge Estmators. Journal of Amercan Statstcal Assocaton.76: Hoerl, A. E. (1962). Applcaton of Rdge Analyss to Regresson Problems. Chemcal Engneerng Progress.58: Hoerl, A. E. and R. W. Kennard.(1970a). Rdge Regresson: Iteratve Estmaton of the Basng Parameter.Communcatons n Statstcs: A. Theory Methods. 5: Hoerl, A. E. and R. W. Kennard.(1970b). Rdge Regresson: Applcatons to Nonorthogonal Problems.Technometrcs.12: Hoerl, A. E. and K. F. Baldwn.(1975). Rdge Regresson: Some Smulatons. Communcatons n Statstcs.4: Hoerl, A. E., R. W. Kennard and K. F. Baldwn.(1975). Rdge Regresson: Some Smulaton Commun.Stat. 4: Huber, P. J. (1973). Robust Regresson:Asymtotcs. Conjectures and Monte Carlo. The Annals of Statstcs.1: Rousseeuw, P. J. and A. M. Leroy.(1987). Robust Regresson and Outler Detecton.New York: John Wley Sons. Yoha, V.J.(1985). Hgh Breakdown- Pontand Hgh Effcency Robust Estmates for Regresson.TheAnnals of Statstcs.15 (20): Md, H. dan Zahar, M A Smulaton Study on Rdge Regresson Estmators n The Presence of Outlers and Multcolnerty. Unverst Teknolog Malaysa. Md, H., Nurulhuda F.M.A., dan Ismal, N.F The Performance of Clusterng Approach wth Robust MM-Estmator formultple Outler Detecton n Lnear Regresson. Unverst Teknolog Malaysa. Montgomery, Douglas C. dan Elzabeth A. Peck

15 Introducton to Lner Regresson Analyss. Penerbt : John Wley & Sons, Inc.Canada. Sen, Ashsh dan Mun Srvastava Regresson Analyss : Theory, Method, and Applcatons. Penerbt : Sprnger-Verlag. New York. Soemartn Penclan (Outler). Unverstas Padjadjaran. Soemartn Penyelesaan Multkolnertas melalu Metode Rdge Regresson. Unverstas Padjadjaran. 51