Regresi Komponen Utama, Regresi Ridge, dan Regresi Akar Laten dalam Mengatasi Masalah Multikolinieritas

Transkripsi

1 SEMINAR NASIONAL MATEMATIKA DAN PENDIDIKAN MATEMATIKA UNY 5 Reges Komponen Utama Reges Rdge dan Reges Aka Laten dalam Mengatas Masalah Multkolnetas Dan Agustna Juusan Matematka FMIPA Unvestas Bengkulu danagustna7@yahoo.com S - 8 Abstak U mengena multkolnetas meupakan salah satu tahapan yang haus dlewat pada analss eges. Vaabel-vaabel yang mengalam multkolnetas menyebabkan eges tdak efsen atau penympangannya besa. Peneltan n betuuan untuk melhat bagamana metode eges komponen utama eges dge dan eges aka laten mengatas masalah multkolnetas. Data yang dgunakan adalah data Hald dengan banyaknya tkalsum alumna banyaknya tkalsum slka banyaknya tetakalsum alumno bes() dan banyaknya dkalsum slka sebaga vaabel-vaabel bebas seta evolus panas dalam kalo pe gam semen sebaga vaabel tak bebasnya. Da ketga metode eges yang dgunakan pada data tesebut metode eges dge dan eges aka laten mempunya MSE yang lebh kecl dapada yang dhaslkan oleh metode eges komponen utama. Kata kunc: Reges Komponen Utama Reges Rdge Reges Aka Laten. I. PENDAHULUAN Analss eges meupakan salah satu teknk statstka yang dgunakan untuk menyeldk hubungan atau pengauh antaa suatu vaabel dengan vaabel lannya. Vaabel-vaabel eges yang behubungan secaa lne dsebut eges lne. Reges lne antaa satu vaabel espon dengan satu vaabel bebas dsebut eges lne sedehana sedangkan eges lne antaa satu vaabel espon dengan dua atau lebh vaabel bebas dsebut eges lne beganda []. Pada eges lne beganda yang mempunya banyak vaabel bebas seng muncul masalah kaena teadnya hubungan lne antaa dua atau lebh vaabel bebas. Vaabel bebas yang salng bekoelas dsebut kolnetas ganda (multkolnetas). Salah satu asums yang haus dpenuh dalam model eges lne beganda adalah tdak adanya multkolnetas d antaa vaabel bebas yang masuk ke dalam model. Multkolnetas meupakan suatu konds dmana tead koelas yang tngg anta vaabel-vaabel bebas yang mengakbatkan detemnan da matks XX akan mendekat sehngga menyebabkan matks tesebut hamp sngula yang mengakbatkan nla da penduga paametenya tdak dapat dtemukan []. Untuk mengetahu adanya multkolnetas dapat dlakukan dengan menghtung koefsen koelas sedehana antaa sesama vaabel bebas ka tedapat koelas sedehana yang hamp mendekat maka n menunukkan adanya masalah multkolnetas [3]. Selan tu untuk menguku adanya multkolnetas yatu dengan melhat nla VIF. VIF (Vaance Inflaton Facto) meupakan suatu fakto yang menguku sebeapa besa kenakan agam da koefsen penduga eges dbandngkan tehadap vaabel bebas yang othogonal ka dhubungkan secaa lne. Geala multkolnetas menmbulkan masalah dalam model eges. Koelas anta vaabel bebas yang sangat tngg menghaslkan penduga model eges yang bebas tdak stabl dan mungkn auh da nla pedksnya []. Bebeapa metode yang dapat dgunakan untuk mengatas masalah multkolnetas n dantaanya adalah Reges Komponen Utama Reges Rdge dan uga Reges Aka Laten. Dalam metode Reges Komponen Utama hasl tansfomas pesamaan eges komponen utama da komponen utama Z membekan pesamaan eges komponen utama yang tdak lag mengandung multkolnetas. Metode Reges Rdge akan menghaslkan penduga yang bas kaena adanya penambahan nla pada poses pehtungannya tetap mempunya vaan yang mnmum yang dtunukan da nla Kuadat Tengah Galat (Mean Squae Eo) yang mnmum. Sementaa metode eges aka laten meupakan peluasan da metode eges komponen utama yatu dengan menggabungkan matks data yang beasal da vaabel bebas dengan vaabel espon yang telah dbakukan [5]. 37

2 ISBN Bedasakan uaan d atas penuls tetak untuk melhat masalah multkolnetas dengan ketga metode tesebut d atas yang dapat mengatasnya. II. METODE PENELITIAN A. Reges Lne Bentuk umum da pesamaan eges lne dbekan oleh dmana n k Y X espon ke k Y X n () ntesep koefsen eges vaabel bebas ke vaabel bebas ke dan galat da pengamatan ke. Dengan notas matk () dapat dtulskan sebaga y x xk y x x k y x x n n kn k 3 Y X β ε ( n) ( n( k )) (( k ) ) ( n) () Reges lne beganda mempunya asums-asums yang haus dpenuh salah satunya alah multkolnetas. B. Multkolnetas Istlah multkolneatas petama kal dkemukakan oleh Ragna Fsch yang beat adanya hubungan lnea yang sempuna atau past dantaa bebeapa atau semua vaable bebas da model eges beganda. Multkolneatas bekenaan dengan tedapatnya lebh da satu hubungan lnea past. Multkolnetas menyebabkan eges tdak efsen atau penympangannya besa [6]. Salah satu caa untuk mendeteks multkolneatas dengan menggunkan Vaance Inflaton Facto (VIF) yang dbekan oleh VIF meupakan unsu-unsu dagonal utama matks koelas detemnas yang ddapat da vaabel bebas tdak bekoelas dengan vaabel bebas lan maka Sebalknya ka menad besa. Jka nla multkolneatas [7]. X mempunya koelas dengan vaabel bebas lan maka VIF (3) R C X X dengan R meupakan koefsen X degeskan tehadap p vaabel bebas lan. Jka X R akan benla kecl dan VIF mendekat. R akan mendekat dan VIF VIF lebh da maka n menunukkan data mengalam masalah 38

3 SEMINAR NASIONAL MATEMATIKA DAN PENDIDIKAN MATEMATIKA UNY 5 C. Reges Komponen Utama Reges komponen utama ddasakan pada analss komponen utama. Melalu analss komponen utama akan dhaslkan vaabel-vaabel bau (komponen utama) yang meupakan kombnas lne da vaabelvaabel bebas asal dan anta vaabel bebas bau n besfat salng bebas. Selanutnya vaabel bebas bau n degeskan dengan vaabel espon asal [5]. Pada awalnya bedasakan matk X pada () yang telah melalu posedu centeng dan escalng dpeoleh matk X yang tepusat dan teskalakan yang kemudan dsebut matk Z. Matk koelasnya ZZ dan aka c (dsebut uga aka laten atau nla egen) matk koelas n adalah solus da pesamaan detemnan ZZ I. Jumlah aka c matk koelas n sama dengan tace matk ZZ. Untuk setap aka c tedapat vekto c ZZ I. Vekto c solusnya yang memenuh sstem pesamaan homogen yang dplh da sekan banyak solus sebandng yang ada untuk setap meupakan solus yang tenomalkan sedemkan upa sehngga. Jka semua bebeda maka setap pasang vekto c akan otogonal sesamanya. Vekto dgunakan untuk mengucapkan kembal Z ke dalam suku-suku komponen utama dalam bentuk sehngga umlah kuadat setap peubah Dengan kata lan z z z () yang unsu-unsunya mengambl seumlah da keagaman totalnya. Yatu n kuadat totalnya sepet semula. Jad posedu n mencptakan vaabel-vaabel bau untuk n adalah. da vaabel-vaabel sehngga umlah Z melalu suatu tansfomas lne pada () sedemkan sehngga vekto-vekto tu otogonal sesamanya. Vaabel padanan nla yang tebesa dsebut komponen utama petama. Komponen n menelaskan bagan tebesa da keagaman yang dkandung oleh gugusan data yang telah dbakukan. Komponen-komponen yang lan menelaskan popos keagaman yang semakn lama semakn kecl sampa semua p keagaman datanya teelaskan ad. Basanya kta tdak menggunakan semua melankan mengkut suatu atuan tetentu. Sebagan penelt hanya mengambl aka c yang lebh besa da. Refeens [8] menyaankan komponen-komponen dapat dhtung sampa seumlah tetentu popos keagaman data yang cukup besa (mungkn 75 pesen atau lebh) telah teelaskan. Selanutnya posedu kuadat tekecl dgunakan untuk mempeoleh pesamaan peamalan bag Y sebaga fungs da vaabel-vaabel yang teplh tu. Uutan masuknya tdak ada pengauhnya dalam hal n sebab semuanya otogonal satu sama lan. Bla pesamaan eges dalam telah dpeoleh pesamaan n dapat dkembalkan menad fungs vaabel semula Z bla dkehendak atau dtafskan bedasakan vaabel-vaabel tad. D. Reges Rdgen Msalkan F adalah padanan matk X yang tepusat dan teskalakan. Jka model asal dbekan oleh Y Z Z Z (5) 39

4 ISBN Z u Z vaabel bebas tepusat dan teskalakan yang bau adalah f u dmana Z / adalah ata-ata S u n dan S Z Z. Jad u u Z u f f f F f u fu f u (6) f n fn f n Dan FF adalah matk koelas da Z yang beukuan model mempunya (+) paamete temasuk. Dalam eges dge basanya Y hanya dpusatkan tetap ka dngnkan dapat pula dskalakan. Jka Y tdak dskalakan model (5) dapat dtulskan sebaga Y Y f f f (7) u F u F u F u u dengan vekto estmas kuadat tekecl dtuls sebaga F b F F I FY (8) dmana blangan postf yang beada dalam entang (). Untuk mendapatkan kembal estmas paamete dalam (5) dgunakan dan bf b (9) / S b Y b Z () sehngga tedapat vekto b b b b yang beukuan b Plot. Jka maka meupakan estmas kuadat tekecl da paamete-paamete dalam (5). b atau plot F b tehadap untuk dsebut plot dge tace. Plot n dgambakan dalam unt-unt koelas dmaksudkan untuk memungknkan pebandngan langsung dantaa efek-efek elatf da bebaga koefsen dan untuk membuang efek-efek da penskalaan Z yang mempengauh ukuan estmas koefsen-koefsen n. yang menngkat mendekat menyebabkan estmas menad kecl dan akan cendeung menuu nol bla menuu tak hngga. Kemudan dplh sebuah nla sebut saa. Saat telah dplh (sama dengan b dgunakan dalam ) pesamaan peamalan. Pesamaan yang dhaslkan bukan da estmas kuadat tekecl dan bebas tetap lebh stabl dan membekan keseluuhan kuadat tengah galat yang lebh kecl penguangan keagaman galat yang dcapa metode n memlk nla lebh ketmbang bas yang ada [9]. Salah satu metode pemlhan daukan oleh [] yatu dengan menggunakan dmana s b F bf ()

5 SEMINAR NASIONAL MATEMATIKA DAN PENDIDIKAN MATEMATIKA UNY 5 s banyaknya paamete dalam model tanpa kuadat tengah esdual dalam tabel analss vaan yang dpeoleh bedasakan () atau bedasakan (6) haslnya sama b F bf bf bf S b S b S b E. Reges Aka Laten Pada efeens [] dlakukan peluasan eges komponen utama untuk pemeksaan pesamaan peamalan altenatf dan untuk pembuangan peubah peamal. Matk data yang beasal da vaabel bebas yang telah dbakukan dgandengkan dengan vaabel espon yang telah dbakukan dengan menempatkan vaabel espon yang telah dbakukan n d depan untuk mempeoleh dmana Z matk X yang telah dpusatkan dan dskalakan dbakukan y YY YY S / YY S Y Y Dengan demkan. Z y Z () Z Z meupakan matk koelas gandengannya (augmented coelaton matx). Sepet halnya dalam metode komponen utama aka laten dan vekto latennya kemudan dhtung namun d sn unsu petamanya yatu koefsen-y setap vekto laten dgunakan sebaga tolak uku keteamalan esponnya oleh vekto laten tesebut. Semakn besa unsu petama vekto laten tesebut semakn bemanfaatlah vekto tu d dalam meamalkan esponnya dan begtu pula sebalknya. Adanya aka laten yang kecl menandakan kemungknan adanya ketegantungan atau ketdakbebasan lne d antaa vaabel-vaabel bebas. Semakn kecl aka laten semakn kuat ketdakbebasan lne tesebut. Pesamaan kuadat tekecl untuk suatu model tetentu adalah kombnas lne tebak (dalam pengetan kuadat tekecl) da semua vekto laten tesebut. Dengan membuang vekto laten yang aka laten dan unsu petama vekto laten padanannya kecl maka akan dpeoleh pesamaan kuadat tekecl yang telah temodfkas. Posedu temodfkas n menghaslkan penduga yang bebas. Setelah pesamaan kuadat tekecl temodfkasnya dpeoleh posedu elmnas langkah mundu dapat dgunakan untuk mengeluakan vaabel bebas da pesamaan tu. F. Data dan teknk analss Data yang dgunakan adalah data yang mengandung multkolnetas dalam hal n dgunakan data Hald. Data Hald pada awalnya meupakan data da Junal Industal and Engneeng Chemsty tahun 93 dengan udul Effect of composton of Potland heat evolved dung hadenng. Dengan 3 sampel vaabel bebasnya adalah banyaknya tkalsum alumna banyaknya tkalsum slka banyaknya tetakalsum alumno bes() dan banyaknya dkalsum slka seta evolus panas dalam kalo pe gam semen sebaga vaabel tak bebasnya [9]. Posedu peneltan yang dlakukan adalah sebaga bekut:. Mengambl data contoh da efeens.. Mengu multkolnetas. 3. Meneapkan masng-masng metode eges pada data contoh dengan menggunakan bantuan softwae NCSS untuk eges komponen utama dan eges dge.. Meekaptulas hasl estmas. 5. Membuat kesmpulan bedasakan hasl estmas yang dpeoleh.

6 ISBN III. HASIL DAN PEMBAHASAN Dengan mengasumskan bahwa data yang dgunakan telah memenuh asums eges selan asums nonmultkolonetas bekut adalah hasl u asums nonmultkoletas. TABEL. NILAI VIF MASING-MASING VARIABEL BEBAS Vaabel bebas VIF X 3896 X 53 X X 6868 Tabel menunukkan nla VIF > untuk setap vaabel bebas. Atnya pada data n tedapat adanya multkolnetas. Adanya multkolnetas pada vaabel-vaabel bebas mengakbatkan model eges yang dpeoleh auh da akuat. Apabla tetap dlakukan analss eges lne akan dpeoleh estmas sepet pada Tabel dengan model Yˆ X 5 X X3 X dan R = 98. Dapat dlhat bahawa R besa namun da u-t tenyata vaabel-vaabel bebas tdak sgnfkan. TABEL. HASIL ANALISIS REGRESI LINIER Unstandadzed Coeffcents Standadzed Coeffcents Model B Std. Eo Beta t Sg. (Constant) x x x x Sehngga dpelukan caa yang dapat mengatas masalah multkolnetas. Sepet yang telah dtulskan d atas yang akan dgunakan untuk mengatas masalah multkolnetas n adalah Reges Komponen Utama Reges Rdge dan Reges Aka Laten. Da analss komponen utama sebaga langkah awal da eges komponen utama Tabel 3 membekan dua vaabel bau dan dengan total keagaman yang dapat delaskan oleh keduanya adalah sebesa 959%. TABEL 3. TOTAL KERAGAMAN Indvdual Cumulatve Komponen Egenvalue % % Sehngga dengan menggunakan kedua komponen utama n dpeoleh model eges komponen utama Yˆ Model eges n mempunya R = 98. Apabla model n dkembalkan ke vaabel asal maka dpeoleh model Ŷ= X +36X -37X 3-596X dengan R = 965 dan MSE = Sementaa tu dengan menggunakan 3 da () dpeoleh Tabel yang membekan hasl sebaga bekut.

7 SEMINAR NASIONAL MATEMATIKA DAN PENDIDIKAN MATEMATIKA UNY 5 Independent Vaable TABEL. KOEFISIEN REGRESI RIDGE Regesson Standad Coeffcent Eo Standadzed Regesson Coeffcent Intecept 838 X X X X VIF Semua vaabel bebas mempunya nla VIF < atnya sudah tdak tedapat masalah multkolnetas lag. Bedasakan tabel dapat dbuat model eges dgenya yatu adalah Yˆ X 99X 38 X3 X. Model n mempunya R = 975 dan MSE = Sedangkan metode eges aka laten dmula dengan langkah petama yatu membuat matk koelas gandengan Y Z Z Z Z 3 Y Z 737. Z Z Z Selanutnya menghtung aka laten da matk gandengan bekut vekto laten padanannya sebaga bekut. Aka Y Z Z Z Z 3 3 Laten Telhat bahwa 6 5 dan 8 atnya bahwa vekto bas n hendaknya dbuang saa. Aka laten bekutnya 7 5 menandakan adanya masalah kesngulaan namun 87 menandakan keteamalan tngg sehngga vekto bas n dpetahankan. Begtupun dengan lannya dan vekto laten padanannya dpetahankan. Langkah keempat bedasakan langkah sebelumnya telah dketahu vekto mana yang dpetahankan. Vekto koefsen kuadat tekecl temodfkas dbekan oleh b b c b b 3

8 ISBN / n dmana c adalah konstanta c Y Y. vekto yang dpetahankan. Sehngga ddapat c 9356 b 5989 menyatakan penumlahan untuk b b3 39 dan b 399. Jad modelnya Zy Z Z 39Z 3 399Z yang bla dkembalkan ke vaabel asal model akan mempunya R = 98 dengan MSE = 3756 dan bebentuk Yˆ X 38X 79 X3 8X. Apabla meneapkan langkah mundu pada tahap bekutnya akan menyebabkan keluanya vaabel X membekan pesamaan eges kuadat tekecl temodfkas sebaga Yˆ X 993 X 396 X3. IV. SIMPULAN DAN SARAN Metode eges komponen utama eges dge dan eges aka laten yang dteapkan pada data Hald untuk mengatas masalah multkolnetas membekan hasl yang tdak telalu auh bebeda. Reges kompone utama membekan model Yˆ X 36X - 37 X3-596 X dengan R = 965 dan MSE = Metode eges dge menghaslkan model Yˆ X 99X 38 X3 X dengan R = 975 dan MSE = Sedangkan model yang dpeoleh da metode eges aka laten mempunya R = 98 dengan MSE = 3756 dan dapat dtulskan sebaga Yˆ X 99X 38 X3 X. Tampak bahwa MSE yang tmbul da metode eges aka laten lebh kecl dbandngkan dengan yang dtmbulkan oleh dua metode lannya. DAFTAR PUSTAKA [] Kutne M. H. C. J Nachtshem. J. Nete dan. L Appled Lnea Statstcal Model Ffth Edton McGaw-Hll New Yok. [] Hoel A. E dan R.. Kennad 97 Rdge Regesson: Based Estmatonfo Non Othogonal Poblem Technometcs vol. No. Hal: [3] Sembng R. K Analss Reges ITB Bandung 3. [] Blfasah A Efektftas Metode Adtf Splne Kuadat Tekecl Pasal dalam Pendugaan Model Reges Makaa Sans Vol. 9 No. Hal: [5] Dape N. R dan H. Smth Analss Reges Teapan Eds Kedua Dteemahkan oleh Bambang Sumant Juusan Statstka FMIPA IPB Bogo 99. [6] Guaat D. N Basc Econometcs Fouth Edton McGaw-Hll Hghe Educaton New Yok 3. [7] Montgomey D. C. Peck E. A. Intoducton to Lnea Regesson Analyss John ley & Sons New Yok 99. [8] Moson D. F Multvaate Statstcal Methods Second Edton McGaw-Hll New Yok 976. [9] Dape N. R dan H. Smth Appled Regesson Analyss Thd Edton John ley and Son Inc. New Yok 998. [] Hoel A.E. Kennad R.. dan Baldwn K. F. Rdge Regesson: some smulatons Communcaton n Statstcs Theoy and Methods Hal: [] ebste J. T. Gunst R. F. dan Mason R. L. Latent oot egesson analyss Technometcs 6 Hal: