Partial Least Squares (PLS) Generalized Linear dalam Regresi Logistik

Transkripsi

1 Partial Last Squars (PLS) Gnralizd Linar dalam Rgrsi Logistik Rtno Subkti Jurusan Pndidikan Matmatika FMIPA UNY Abstrak Kasus multikoliniritas sringkali diumai dalam rgrsi yang mngakibatkan salah intrrtasi modl rgrsi yang trbntuk. Srti halnya dalam rgrsi linar, dalam rgrsi logistic kasus multikolinaritas uga daat mnadi masalah, karna adanya korlasi yang cuku tinggi antara variabl rdiktornya. Shingga untuk mngatasi masalah srti ini, akan digambarkan alikasi rosdur artial last squars trhada suatu kasus rgrsi logistic khususnya dalam contoh kasus makalah ini adalah rgrsi logistic ordinal. Kata kunci : Partial Last Squar gnralizd linir, multikoliniritas, rgrsi logistic. Pndahuluan Bbraa hal yang rlu dirhatikan ktika kita mlakukan analisis rgrsi linar antara lain adalah asumsi-asumsi srti normalitas, linaritas dan homoskdastisitas. Aabila diantara variabl rdiktor/indndnnya trnyata trdaat korlasi yang cuku tinggi, kita biasanya mnggangga adanya indikasi multikoliniritas yang cuku tinggi, bbraa sumbr mnybutkan ika korlasi yang ada mlbihi 80% maka kita rlu lbih srius mnangani masalah multikoliniritas yang tradi ada data shingga tidak mnimbulkan salah nafsiran saat mngintrrtasikan outut yang dihasilkan. Dmikian uga ada analisis rgrsi logistic, asumsi tidak adanya multikolinritas ini rlu dirhatikan. Shingga bbraa ndkatan untuk mngatasi masalah ini daat dicoba untuk mndaatkan ksimulan yang lbih bralasan, misalnya rgrsi stwis, PCR dan PLS. Srti ada [] sblumnya nulis mncoba mmaarkan bagaimana PLS dalam contoh kasus rgrsi brganda, kali ini akan kita lihat bagaimana ika masalah yang dihadai adalah rgrsi logistic. Scara ringkasnya algoritma PLS-GLR :. Komutasi m komonn PLS t h (h =,,, m). GLR dari y ada m komonn PLS yang digunakan 3. Transformasi komonn PLS k variabl aslinya. Tuuan Multikoliniritas adalah roblm yang sring diumai saat mlakukan rgrsi, shingga rlu dilakukan ndkatan lain agar tidak mnghasilkan intrrtasi modl Dirsntasikan dalam Sminar Nasional MIPA 007 dngan tma Pningkatan Krofsionalan Pnliti, Pndidik & Praktisi MIPA yang dislnggarakan olh Fakultas MIPA UNY Yogyakarta ada tanggal 5 Agustus 007

2 Rtno Subkti atauun kofisin rgrsi yang tidak tat dan mungkin saa ksalahan ngambilan kutusan. Karna umumnya kita akan mngambil tindakan mmbuang variabl yang saling brkorlasi cuku tinggi, adahal knyataannya variabl trsbut cuku brngaruh trhada variabl rsonnya. Slain karna adaya korlasi yang cuku tinggi antar variabl indndnnya, multikoliniritas daat uga disbabkan karna umlah obsrvasi yang rlatif kcil dngan variabl indndn yang cuku banyak. Jika ada makalah sblumnya nulis mncoba mngalikasikan rosdur PLS ada kasus rgrsi brganda, kali ini akan dicoba bagaimana ika masalah multikoliniritas tradi ada kasus rgrsi logistik. Rgrsi Partial Last Squar Scara Singkat Jika trdaat sumlah variabl indndn dan sbuah variabl dndn/rson, dalam ross PLS kita asumsikan smua variabl sudah dalam bntuk baku/standard. Modl rgrsi PLS dngan m komonn dirumuskan sbagai : m Y = c ( w x ) + sisa () h= h h Prhitungan komonn ls rtama, t = Xw didfinisikan sbagai t = cov( y, x ) cov( y, x ) x variabl x ini diilih yang brkorlasi tinggi dngan y dan cuku kuat variabilitasnya. Slanutnya untuk kofisin rgrsi a daat digunakan untuk mnaksir sbraa nting variabl x dalam mbntukan t. Rgrsi sdrhana y trhada x dirumuskan: Y = a x + sisa (3) Jika a tidak signifikan atau tidak brbda nyata dngan 0 maka dalam () stia kovariansi yang tidak signifikan daat diganti dngan 0 dan artinya kita daat mngabaikan hubungan variabl indndnnya. () Prhitungan komonn ls kdua, t Komonn ls kdua, t didfinisikan sbagai t = cov( y, x ) cov( y, x ) x (4) dimana sblumnya dilakukan dua hal yaitu :. rgrsi sdrhana y trhada stia x 94 Sminar Nasional MIPA 007

3 M 5 : Partial Last Squars (PLS) Gnralizd Linar. rgrsi x trhada t Y = c t + y (5) X = t + x (6) komonn ls kdua daat uga dituliskan sbagai t = cov( y, x t ) cov( y, x t ) x (7) Karna korlasi arsial antara y dan x ika diktahui t didfinisikan sbagai korlasi antara rsidual y dan x maka kovariansi arsial antara y dan x diktahui t uga didfinisikan sbagai kovariansi antara rsidu y dan x. Cov(y,x t ) = cov(y, x ) (8) untuk mlihat kontribusi x dalam mbntukan t, daat diktahui mlalui rgrsi y trhada t dan x. Y = c t + a x + rsidu (9) Sdangkan ui kofisin rgrsi a daat digunakan untuk mnaksir sbraa nting variabl x dalam mbntukan t. Jika tidak signifikan maka hubungan variabl indndnnya tidaklah nting dalam mbntukan komonn ls kdua trsbut. Prhitungan komonn PLS brikutnya dan aturan nghntiannya. Dngan rosdur yang sama srti mncari t, dicari komonn PLS k-h, t h = Xw h. Pncarian komonn baru brhnti ika smua kovariansi arsialnya tidak signifikan. Prsamaan Rgrsi Partial Last Squar Dalam () kofisin c h distimasi olh rgrsi brganda dari y trhada komonn PLS t h. Prsamaan rgrsi stimasinya slanutnya daat ditulis k dalam variabl x yang asli. m y ) = c h ( wh x ) = ( c hwh ) x = b x (0) h= Rgrsi logistic m m h= Srti halnya ada saat kita akan mlakukan analisis rgrsi, kita biasanya mlihat bagaimana ola sbaran datanya trlbih dahulu, aakah ada kcndrungan linir, kuadratik atau ola lainnya. Jika variabl dndn/rsonnya adalah data kuantitatif dan adanya ola linir maka analisis rgrsi linir dimungkinkan untuk digunakan dalam mngolah data trsbut. Ttai ika kita mnghadai kasus dimana Matmatika 95

4 Rtno Subkti variabl rson adalah data kualitatif (nominal, ordinal, katgorik), misalnya Y mmunyai dua nilai, kita angga 0 dan (Y dinamakan dikotomus) maka rgrsi linir biasa bukanlah alat yang tat untuk mngolah data trsbut mlainkan kita rlu mngubahnya mnadi rgrsi dalam bntuk luang atau rgrsi logistik. Y = 0 E(Y) = P (Y = ) = π Jadi modl rgrsi logistic π = P (Y = ) = + α + βx+ βk X k α + βx+ βk X k P (Y = ) = π maka P (Y = 0) = -π = + α + βx+ βk X k Transformasi dari π ini yang dinamakan logit transformation, yaitu Ln π = α + β X + β X k k Odds = P (Y = ) = P (Y = 0) π -π α + βx+ βk X k = α + βx+ β Log odds = log k X k = α + β X + βx + Lβ Sdangkan ika variabl rsondnnya adalah data ordinal (brtingkat) maka rgrsi logistic yang diilih adalah rgrsi logistic ordinal. Modl Rgrsi logistic Ordinal k X k P(y k) = α + k + βx+ α β k + βx+ k X k β k X k Contoh Kasus Rgrsi Logistic Dalam makalah ini digunakan data Bordaux Win dalam Bastin, P., Vinzi, VE., Tnnhaus, M., 004, (lamiran ) yang trnyata dngan bantuan softwar yang sudah banyak brdar srti SPSS 4 dan Minitab 4 kita daat mngalikasikan algoritma di atas untuk mndaatkan komonn PLS. Bahkan MINITAB 4 atau 5 sudah mnydiakan tambahan mnu untuk rgrsi brganda PLS dan rgrsi multivariat PLS. 96 Sminar Nasional MIPA 007

5 M 5 : Partial Last Squars (PLS) Gnralizd Linar Tabl. Korlasi Parson antara variabl indndnt TEMPERATURE SUNSHINE HEAT sunshin 0,7 0,000 hat 0,865 0,646 0,000 0,000 rain -0,40-0,473-0,40 0,06 0,005 0,09 Trlihat las adanya korlasi yang cuku rat antara variabl sunshin, tmratur dan hat, dngan masing-masing angka korlasinya > 0,5. Shingga mngindikasikan adanya multikoliniritas yang rlu dirhatikan. Dngan variabl indndnt distandardisasikan lbih dulu, maka modl rgrsi logistic ordinalnya adalah : Logistic Rgrssion Tabl Odds 95% CI Prdictor Cof SE Cof Z P Ratio Lowr Ur Const() -,6638 0, ,87 0,004 Const(),9406 0,97807,35 0,09 t 3,4677,8093,90 0,057 30,78 0,90 054,7 s,7468,0760,6 0,05 5,73 0,70 47,4 h -0,889079,9488-0,74 0,457 0,4 0,04 4,8 r -,36683,9 -,0 0,036 0,09 0,0 0,86 P(y = ) = P(y ) = +, ,468 t+,746 s 0,889 h,3668r +, ,468 t+,746 s 0,889 h,3668r,94+ 3,468 t+,746 s 0,889 h,3668r,94+ 3,468 t+,746 s 0,889 h,3668r Dimana hanya variabl tmratur dan rain yang signifikan, sdangkan variabl sunshin dan hat tidak signifikan karna -valunya > 0,05 adahal variabl sunshin dan hat cuku brran nting dalam mmngaruhi kualitas win. Ini yang mnadi salah satu akibat dari adanya multikoliniritas. Untuk mngtahui aakah mmang kdua variabl trsbut brngaruh signifikan trhada win daat dilihat dari tabl brikut, yaitu hubungan rgrsi logistik ordinal antara variabl win dngan masingmasing variabl indndnt. Matmatika 97

6 Rtno Subkti Tabl. Kofisin rgrsi PREDICTOR COEF SE COEF Z P t 3,069 0, ,78 0,000 s 3,3405 0, ,77 0,000 h,4457 0,6077 3,53 0,000 r -, , ,5 0,00 Jika modl rgrsi logistic ordinal digunakan maka nilai rdiksi dibandingkan obsrvasi untuk variabl rsonnya adalah : obsrvasi rdiksi good Avrag oor Good Avrag 8 Poor 0 Dari tabl di atas trlihat bahwa ada 7 rdiksi yang tidak ssuai dngan obsrvasi. Pmbntukan PLS rgrsi logistic ordinal ) Prhitungan komonn PLS rtama, t Untuk mmbangun t daat dilihat dari tabl, dimana smua variabl indndnt trnyata signifikan brngaruh trhada kualitas win, adi t dibangun olh kmat variabl trsbut. t = 3,07x 3,07 + 3,340x +,446x,7906x + 3,340 +, ,7906 = 0,5693 tmratur + 0,634 sunshin + 0,4054 hat - 0,3385 rain Ordinal Logistic Rgrssion: quality vrsus komonn PLS Logistic Rgrssion Tabl 4 Odds 95% CI Prdictor Cof SE Cof Z P Ratio Lowr Ur Const() -,650 0, ,6 0,009 Const(),99 0,848043,7 0,007 komonn PLS, ,7490 3,76 0,000 4,70 3,6 59,68 Log-Liklihood = -5,5 Tst that all slos ar zro: G = 44,45, DF =, P-Valu = 0,000 ) Prhitungan komonn PLS kdua, t Sblumnya rlu dilihat dulu aakah masih ada variabl indndnt yang mmbangun komonn PLS kdua ini. Untuk mngtahuinya kita lihat dari rgrsi logistic antara kualitas dngan t dan masing-masing variabl 98 Sminar Nasional MIPA 007

7 M 5 : Partial Last Squars (PLS) Gnralizd Linar indndnt. Brikut hasil outut masing-masing kofisin rgrsi dan nilai - valunya. Logistic Rgrssion Tabl Prdictor Cof SE Cof Z P t -0,63074,5-0,4 0,677 s 0,646,43 0,5 0,603 h -,94076,739 -,65 0,098 r -0, , ,4 0,54 karna -valu masing-masing variabl indndnt trnyata > 0,05 maka smua variabl indndnnya sudah tidak ada yang signifikan mmbangun komonn PLS yang kdua. Shingga tidak ada komonn PLS baru lagi atau komonn PLS yang trbntuk hanya satu. Ksimulan Jadi rgrsi logistic ordinal PLS nya P(y = ) = P(y ) = +, t +,65+,688 t, t,99+,688 t Jika diubah k bntuk variabl aslinya maka :,688 t =,5303 t +,697 s +,0897 h 0,9099 r P(y = ) = P(y ) = + +,65+,5303 t +,697 s +,0897 h 0,9099 r,65+,5303 t +,697 s +,0897 h,99+,5303 t +,697 s +,0897 h 0,9099 r,99+,5303 t +,697 s +,0897 h 0,9099 r 0,9099 r Daftar Pustaka Bastin, P., Vinzi, VE., Tnnhaus, M., 004. Partial Last Squar Gnralizd Linar Rgrssion. Comutational Statistics & Data Analysis 48 (005) 7-46 Hrv Abdi (003). Partial Last Squar (PLS) Rgrssion. Encyclodia of Social Scincs Rsarch Mthods. Myrs, R.H. (996). Classical and Modrn Rgrssion with Alications. Boston : PWS-KENT Publishing Comany Matmatika 99

8 Rtno Subkti Ntr, J., W. Wassrman, Kutnr, MH. (990). Alid Linar Statistical Modls Third Edition, Richard D. Irwin, Inc., Homwood, Illinois Hosmr,.D.W&Lmshow,S. (989). Alid Logistic Rgrssion. Nw York, NY : John Willy & Sons. Lamiran Lamiran. Data Bordaux Win tahun tmratur sunshin hat rain quality avrag oor oor oor good good oor oor oor avrag good oor oor good avrag avrag avrag oor avrag good avrag good avrag good avrag good avrag oor good good oor good oor oor Ktrangan Tmratur : sum of avrag day tmratur ( ) Sunshin : duration of sunshin (h) Hat : numbr of vry warm days Rain : rain hight (mm) Qulity : = good, = avrag, 3 = oor o C 00 Sminar Nasional MIPA 007