Perbandingan Metode Partial Least Square (PLS) dengan Regresi Komponen Utama untuk Mengatasi Multikolinearitas

Transkripsi

1 Statstka, Vol. No., 33 4 Me 0 Perbandngan Metode Partal Least Square (PLS) dengan Regres Komponen Utama untuk Mengatas Multkolneartas Nurasana, Muammad Subanto, Rka Ftran Jurusan Matematka FMIPA UNSYIAH Jl. Syec Abdul Rauf No.3 Darussalam, Banda Ace Emal : nurasana.mat@gmal.com ABSTRAK Dalam mengatas multkolneartas pada suatu data, ada beberapa metode yang dapat dgunakan, dantaranya yatu metode Partal Least Square (PLS) dan metode regres komponen utama (RKU). Data yang dgunakan dalam penulsan n adala data sekunder yang dperole dar Jurnal Tecnometrcs (Naes, 985). Haslnya menunukkan bawa metode PLS leb bak dar pada RKU berdasarkan nla koefsen determnas (R ) yang tngg, nla Mean Square Error Predcton (MSEP) dan nla Root Mean Square Error Predcton (RMSEP) yang mnmum. Kata kunc: multkolneartas, metode Partal Least Square (PLS), regres komponen utama (RKU), R, MSEP, RMSEP.. PENDAHULUAN Analss regres lnear berganda yang mempunya banyak varabel bebas, serng tmbul masala karena teradnya ubungan antara dua atau leb varabel bebasnya. Varabel bebas yang salng berkorelas dsebut multkolneartas (multcollnearty). Sala satu dar asums model regres lnear adala bawa tdak terdapat multkolneartas dantara varabel bebas yang termasuk dalam model. Multkolneartas terad apabla terdapat ubungan atau korelas dantara beberapa atau seluru varabel bebas (Gonst and Mason, 977 dalam Soemartn, 008). Untuk mengetau adanya multkolneartas yatu dengan mengtung koefsen korelas sederana antara sesama varabel bebas, ka terdapat koefsen korelas sederana yang ampr mendekat ± maka al tersebut menunukkan teradnya masala multkolneartas dalam regres (Walpole, 988). Selan tu, sala satu alat untuk mengukur adanya multkolneartas adala Varance Inflaton Factor (VIF). VIF adala suatu faktor yang mengukur seberapa besar kenakan ragam dar koefsen penduga regres dbandngkan teradap varabel bebas yang ortogonal ka dubungkan secara lnear. Nla VIF akan semakn besar ka terdapat korelas yang semakn besar dantara varabel bebas. Nla VIF > 0 dapat dgunakan sebaga petunuk adanya multkolneartas pada data. Geala multkolneartas menmbulkan masala dalam model regres. Korelas antar varabel bebas yang sangat tngg mengaslkan penduga model regres yang berbas, tdak stabl, dan mungkn au dar nla predksnya (Blfarsa, 005). Sala satu cara untuk mendapatkan koefsen regres pada persamaan regres lnear berganda adala melalu metode kuadrat terkecl. Metode n mengaslkan penaksr terbak (tak bas dan bervarans mnmum) ka saa tdak ada korelas antar varabel bebas. Namun ka al tu terad, ada beberapa cara atau metode yang dapat dgunakan untuk mengatas masala multkolneartas yatu regres komponen utama, regres rdge, metode kuadrat terkecl parsal (partal least square) dan bebrapa metode lannya. Dalam penulsan n anya membandngkan metode Partal Least Square (PLS) dan regres komponen utama. Metode Partal Least Square (PLS) merupakan proses pendugaan yang dlakukan secara teratf dengan melbatkan struktur keragaman varabel bebas dan varabel tak bebas. Metode kedua yang dka dalam peneltan n adala regres komponen utama yatu regres dengan mengambl komponen utama sebaga varabel bebas. Koefsen penduga dar metode n dperole melalu penyusutan dmens varabel penduga komponen utama, dmana subset komponen utama yang dpl arus tetap mempertaankan keragaman yang besar teradap varabel tak bebasnya (Herwndat, 997). 33

2 34 Nurasana, dkk. Dar pengkaan kedua metode tersebut akan dtung nla R, Mean Square Error Predcton (MSEP), dan Root Mean Square Error Predcton (RMSEP) dan kemudan ddapatkan metode mana yang leb bak dantara kedua metode tersebut dengan melat nla R yang leb tngg dan nla MSEP dan RMSEP yang leb renda.. TINJAUAN PUSTAKA Partal Least Square (PLS) Metode Partal Least Square (PLS) merupakan soft model yang dapat menelaskan struktur keragaman data. Partal Least Square (PLS) dapat dlat sebaga bentuk yang salng berkatan dengan Prnsp Component Regresson (PCR). Model yang daslkan ole metode Partal Least Square (PLS) mengoptmalkan ubungan antara dua kelompok varabel. Pendugaan model ubungan Y dengan X dan pendugaan nla Y tertentu menggunakan suatu algortma. Proses penentuan model dlakukan secara teras dengan melbatkan keragaman pada varabel X dan Y. Struktur ragam dalam Y mempengaru pertungan komponen kombnas lnear dalam X dan sebalknya, struktur ragam dalam X berpengaru teradap kombnas lnear dalam Y (Blfarsa, 005). Pada dasarnya Partal least square (PLS) memodelkan ubungan varabel Y dengan varabel X berdasarkan varabel nternal. Varabel X dbag ke dalam skor t dan loadng p, yang dnyatakan sebaga: dmana: X varabel bebas ' ' ' X t p + t p + t p + + t p + E ' 3 3 K (.) t vektor skor (score vector) varabel X p vektor muatan (loadng vector) varabel X E matrks ssaan varabel X Varabel Y uga dbag dalam skor dmana: Y varabel tak bebas u q u dan loadng ' ' ' Y u q + u q + u q + + u q + F q yang dnyatakan sebaga: ' 3 3 K (.) vektor skor (score vector) varabel Y vektor muatan (loadng vector) varabel Y F matrks ssaan varabel Y (Wgena dan Aunuddn, 998). u dan t yang Pemodelan Partal Least Square (PLS) dtempu melalu ubungan varabel konvergen. Jka proses konvergens dar skor varabel X ( t ) dan skor varabel tak bebas Y ( u ) dtung secara terpsa, maka model yang daslkan mempunya ubungan yang lema. Untuk memperbak konds tersebut, proses konvergens dar u dan t dlakukan secara bersamasama dengan cara melbatkan skor Y pada pertungan loadng X : u awal Y (.3) p u X u u (p sebaga fungs dar u) (.4) serta melbatkan skor X pada pertungan loadng Y : Statstka, Vol., No., Me 0

3 Perbandngan Metode Partal Least Square (PLS) q t Y t t (q sebaga fungs dar t) (.5) Melalu cara tersebut, akan mempercepat proses konvergens, tetap mas ada beberapa kelemaan antara lan skor X ( t ) yang daslkan ternyata tdak ortogonal. Jka t tdak ortogonal akan terad korelas yang cukup besar antara varabel bebas X. Untuk mengatas kendala tersebut, skor X perlu dskalakan lag dengan suatu pembobot w (loadng). Regres Komponen Utama Regres komponen utama merupakan metode yang cukup bak untuk memperole koefsen penduga pada persamaan regres yang mempunya masala multkolneartas. Varabel bebas pada regres komponen utama berupa asl kombnas lnear dar varabel asal Z, yang dsebut sebaga komponen utama. Koefsen penduga dar metode n dperole melalu penyusutan dmens komponen utama, dmana subset komponen utama yang dpl arus tetap mempertaankan keragaman yang sebesarbesarnya. Dmana Z adala asl normal baku dar varabel X. Adapun asl normal baku yang dmaksud adala dengan mengurangkan setap varabel bebas asal X dengan ratarata dan dbag dengan smpangan baku, dnotaskan: Z ( X X ) (.6) s Cara pengapusan komponen utama dmula dar prosedur seleks akar cr dar suatu persamaan: AX λ I 0 (.7) Jka akar cr λ durutkan dar nla terbesar sampa nla terkecl, maka pengaru komponen utama W berpadanan dengan pengaru λ. In berart bawa komponenkomponen tersebut menerangkan propors keragaman teradap varabel tak bebas Y yang semakn lama semakn kecl. Komponen utama W salng ortogonal sesamanya dan dbentuk melalu suatu ubungan: Vektor cr omogen: W v Z + v Z + v Z + K + v 3 3 p p (.8) v dperole dar setap akar cr λ dmana v ( v v, v,, v ), 3 K Z yang memenu suatu sstem persamaan AX λ I v 0 (.9) p Jka terdapat m subset komponen utama yang akan masuk dalam persamaan regres, maka persamaan tersebut dapat dtuls sebaga: Y ˆ β + ε (.0) W m m Pertungan koefsen penduga regres komponen utama βˆ dapat dlakukan secara analog dengan penduga metode kuadrat terkecl, yatu: ˆβ ( W W ) W y (.) Untuk mendapatkan nla t tung pada nla koefsen regres komponen utama dapat dlakukan dengan mengtung nla smpangan baku untuk masngmasng koefsen regres dengan menggunakan persamaan sebaga berkut: s ( ) var ( γ ),,,... γ (.) Statstka, Vol., No., Me 0

4 36 Nurasana, dkk. dmana: s ( ) a a a var γ L (.3) n λ λ λ ( y y) dmana: s varans y y a, varabel tak bebas nla ratarata dar varabel tak bebas, a, K a nla vektor cr yang terpl λ, λ, K, λ nla akar cr yang terpl Untuk mendapatkan nla t tung dar koefsen baku regres komponen utama dapat dtung dengan persamaan sebaga berkut: t tung koefsen penduga s ( γ ) (Jollfe, 986 dalam Herwndat, 997). ( γ ) (.4) Seleks Model Terbak Pemlan model terbak dapat dlakukan dengan melat nla determnas (R ). Model dkatakan bak ka nla R tngg, nla R berksar antara 0 sampa. Adapun cara untuk memperole nla R adala sebaga berkut: dmana: R ( y y) ( y y) ˆ R Koefsen determnas (.5) ŷ varabel tak bebas dugaan y nla ratarata dar varabel tak bebas (Sembrng, 995). Menurut (Andryanto dan Bast, 999), pemlan model terbak uga dapat dlakukan dengan melat nla Mean Square Error Predcton (MSEP) dan Root Mean Square Error Predcton (RMSEP). Metode terbak adala metode dengan nla MSEP dan nla RMSEP terkecl. Krtera MSEP dan RMSEP dapat dtentukan dengan cara: MSEP RMSEP dmana: ŷ varabel tak bebas dugaan n ( yˆ y ) n n ( yˆ y ) n (.6) (.7) Statstka, Vol., No., Me 0

5 Perbandngan Metode Partal Least Square (PLS) y varabel tak bebas sebenarnya n banyaknya data 3. HASIL DAN PEMBAHASAN Penyelesaan dengan Metode Partal Least Square (PLS) Pertungan vektor pembobot w, vektor skor (score vector) dar varabel X dan varabel Y serta vektor muatan (loadng vector) dar varabel X dan varabel Y merupakan nla nla yang dperlukan untuk menduga koefsen pada metode Partal Least Square (PLS). Selanutnya pertungan nla R, Mean Square Error Predcton (MSEP), dan Root Mean Square Error Predcton (RMSEP) pada setap komponen dar metode Partal Least Square (PLS) dsakan pada Tabel 3. berkut: Tabel 3.. Nla R, MSEP dan RMSEP pada Partal Least Square (PLS) Komponen ke R MSEP RMSEP Berdasarkan asl nla R, MSEP dan RMSEP yang tercantum pada Tabel 3. terlat bawa pada komponen kelma suda tercapa konds konvergen karena pada komponen tersebut nla R mula stabl, yang berart bawa pada komponen kelma sampa komponen kesemblan nla R nya suda relatf sama. Jad komponen yang dambl sebaga penduga model adala komponen kelma. Nla R, MSEP dan RMSEP pada komponen kelma yatu sebaga berkut: Tabel 3.. Nla R MSEP dan RMSEP pada Komponen Kelma Nla Komponen Ke R MSEP RMSEP Statstka, Vol., No., Me 0

6 38 Nurasana, dkk. Berdasarkan asl yang dperole, koefsen penduga dan nla t tung pada komponen kelma adala sebaga berkut: Tabel 3.3. Nla Koefsen Penduga dan t tung pada Komponen Kelma Varabel Koefsen Penduga Nla Koefsen Penduga X X X3 X4 X5 X6 X7 X8 X9 β β β3 β4 β5 β6 β7 β8 β Keterangan : * Sgnfkan pada α 5 % t tung * *.8396 * * * Berdasarkan Tabel 3.3 menunukkan bawa koefsen penduga pada metode Partal Least Square (PLS) tdak semuanya berpengaru nyata pada taraf nyata Varabelvarabel yang berpengaru nyata adala varabel X, X3, X4, X6, dan X8, sedangkan varabelvarabel lannya tdak berpengaru nyata. Hal n dtunukkan dengan melat nla t tung pada masngmasng varabel X, X3, X4, X6, dan X8 yang leb besar dar nla t tabel t (0.95,36).70. Berdasarkan penguan dsmpulkan bawa H0 dtolak karena nla t tung > t tabel sengga penguan nla statstk u t untuk regres adala nyata pada taraf nyata Penyelesaan dengan Metode Regres Komponen Utama Dalam analss regres komponen utama al yang terleb daulu dlakukan menormal bakukan varabelvarabel X menad Z, kemudan menentukan nla akar cr dan vektor cr dar matrks Z dapat dlat pada Tabel 3.4 dan Tabel 3.5 berkut: Tabel 3.4. Nla Akar Cr λ Akar Cr (λ) Propors Komulatf x x x x Statstka, Vol., No., Me 0

7 Perbandngan Metode Partal Least Square (PLS) Tabel 3.5. Nla Vektor Cr v v v3 v4 v5 v6 v7 v8 v9 Z Z Z3 Z4 Z5 Z6 Z7 Z8 Z x Berdasarkan Tabel 3.4 menunukkan bawa akar cr pertama menelaskan sektar 79.77% dar keragaman yang terad, dan akar cr yang kedua menelaskan 5.4% dan akar cr yang berkutnya anya menelaskan sektar 0.33% dan 0.% saa. Berdasarkan Tabel 3.5 menunukkan bawa dar semblan komponen utama yang dturunkan dar matrks korelas antar varabel bebas, ada dua komponen utama yang memegang peranan pentng dalam menerangkan keragaman total data, yatu komponen utama pertama dan kedua atau dlat dar nla akar cr yang leb besar dar. Dengan demkan komponen utama pertama (W) dan komponen utama kedua (W) yang merupakan kombnas lnear dar Z dapat dnyatakan dalam persamaan berkut: W Z Z Z Z Z Z Z Z Z9 W Z Z Z Z Z Z Z Z Z9 Matrks W bers skor komponen utama yang dperole dar persamaan W dan W. Selanutnya Y dregreskan teradap skor komponen utama W dan W, aslnya dapat dlat pada Tabel 3.6 berkut: Tabel 3.6. Penduga Parameter Regres Komponen Utama Varabel DB Pendugaan t tung P Value Nla VIF Konstanta W W x0 6.86x Tabel 3.7 Tabel Sdk Ragam Regres Komponen Utama Sumber Keragaman Model Galat Total DB R ad R 0.63 Jumla Kuadrat ,303 Kuadrat Tenga F tung P Value Statstka, Vol., No., Me 0

8 40 Nurasana, dkk. Berdasarkan Tabel 3.6 dan Tabel 3.7 terlat bawa nla R yang daslkan ole koefsen penduga model regres komponen utama sangat tngg yatu sebesar 64.9%, kemudan nla Ftung sebesar 9.7 dan Ftabel F0.05(9,33).7. Berdasarkan penguan dsmpulkan bawa H0 dtolak karena nla Ftung > Ftabel, sengga penguan nla statstk u F untuk regres adala nyata pada taraf nyata 0.05 dengan nla VIF sebesar. Model yang suda ddapat selanutnya dtransformaskan kembal ke varabel asal Z, sengga dperole persamaan regres dalam varabel baku sebaga berkut: Yˆ Yˆ W W Z Z Z Z Z Z Z Z Z Nla smpangan baku dan nla t tung untuk masngmasng koefsen regresdapat dlat pada Tabel 3.8 berkut: Tabel 3.8. Analss Sgnfkans Koefsen Regres Parsal Varabel Nla Koefsen Smpangan Baku t tung Z Z Z3 Z4 Z5 Z6 Z7 Z8 Z Keterangan : * Sgnfkan pada α 5 % * * * * * * * * * Analss sgnfkans koefsen parsal baku pada regres komponen utama dsakan dalam Tabel 3.8 yang menunukkan bawa semua koefsen regres nyata secara statstk pada taraf nyata Hal n dtunukkan dengan melat nla t tung pada masngmasng varabel dengan nla t tabel t (0.95,36).70. Berdasarkan penguan dsmpulkan bawa H0 dtolak karena nla t tung > t tabel sengga penguan nla statstk u t untuk regres adala nyata pada taraf nyata Untuk memperole persamaan penduga dengan menggunakan varabel asl, dtransformaskan kembal ke model regres Y ˆ f ( w) ke varabel asalnya Y ˆ f ( x), yatu: Yˆ Yˆ Z Z Z X X Z X Z X Z X Z X Z X X X Z Tabel 3.9 berkut n merupakan nla R, MSEP dan RMSEP dar regres komponen utama : (3.) (3.) (3.3) Tabel 3.9. Nla R, MSEP dan RMSEP dar Metode Regres Komponen Utama Nla Metode Analsa R MSEP RMSEP Regres Komponen Utama Statstka, Vol., No., Me 0

9 Perbandngan Metode Partal Least Square (PLS)... 4 Perbandngan Metode Dar asl seluru pembaasan, nla koefsen penduga dan nla t tung dar kedua metode dapat dlat pada Tabe 3.0 berkut: Tabel 3.0. Nla Koefsen Penduga dan Nla t tung dar Kedua Metode Koefsen Penduga Nla Koefsen Penduga Partal Least Square (PLS) Regres Komponen Utama Partal Least Square (PLS) Nla t tung Regres Komponen Utama β β β3 β4 β5 β6 β7 β8 β * *.8396 * * * * * * * * * * * * Keterangan : * Sgnfkan pada α 5 % Berdasarkan Tabel 3.0 menunukkan bawa koefsen penduga pada metode Partal Least Square (PLS) tdak semuanya berpengaru nyata pada taraf nyata Varabelvarabel yang berpengaru nyata adala varabel X, X3, X4, X6, dan X8, sedangkan varabelvarabel lannya tdak berpengaru nyata. Hal n dtunukkan dengan melat nla t tung pada masngmasng varabel X, X3, X4, X6, dan X8 yang leb besar dar nla t tabel t (0.95,36).70. Berdasarkan penguan dsmpulkan bawa H0 dtolak karena nla t tung > t tabel sengga penguan nla statstk u t untuk regres adala nyata pada taraf nyata Sedangkan pada regres komponen utama menunukkan bawa semua koefsen regres nyata secara statstk pada taraf nyata Hal n dtunukkan dengan melat nla t tung pada masngmasng varabel dengan nla t tabel t (0.95,36).70. Berdasarkan penguan dsmpulkan bawa H0 dtolak karena nla t tung > t tabel sengga penguan nla statstk u t untuk regres adala nyata pada taraf nyata Untuk mengetau metode mana yang leb bak, perlu dka nla R, MSEP dan RMSEP nya. Nla R, MSEP dan RMSEP yang dperole dar kedua metode dapat dlat pada Tabel 3. berkut n: Tabel 3.. Nla R, MSEP dan RMSEP dar Kedua Metode Metode Analsa Nla R MSEP RMSEP Partal Least Square (PLS) Regres Komponen Utama Berdasarkan Tabel 3., nla R dar metode Partal Least Square (PLS) memberkan nla yang leb besar dbandngkan dengan metode regres komponen utama. Hal n berart metode Partal Least Square (PLS) memberkan ketepatan model yang leb bak dar pada metode regres komponen utama. Begtu uga ka dtnau dar nla MSEP dan nla RMSEP, metode Partal Least Square (PLS) mempunya nla yang leb renda dar pada metode regres komponen utama sengga metode Partal Least Square (PLS) memberkan ketepatan model yang leb bak dar pada metode regres komponen utama. Statstka, Vol., No., Me 0

10 4 Nurasana, dkk. 4. KESIMPULAN DAN SARAN Berdasarkan asl peneltan yang dlakukan teradap kedua metode untuk mengatas multkolnear yatu metode Partal Least Square (PLS) dan metode regres komponen utama dapat dsmpulkan bawa: () Pada Metode Partal Least Square (PLS) nla koefsen penduga pada masngmasng varabel tdak semuanya berpengaru nyata pada taraf nyata 0.05, sedangkan pada regres komponen utama semua nla koefsen penduga pada masngmasng varabel semuanya berpengaru nyata pada taraf nyata 0.05; () Metode Partal Least Square (PLS) memberkan asl yang leb bak ka dbandngkan dengan metode regres komponen utama. Hal n dapat dsmpulkan dengan melat nla R, Mean Square Error Predcton (MSEP), dan Root Mean Square Error Predcton (RMSEP). Metode Partal Least Square (PLS) mempunya nla R yang leb tngg dan mempunya nla MSEP dan RMSEP yang leb renda ka dbandngkan teradap metode regres komponen utama. Penelt yang berkengnan melanutkan pengembangan tulsan n darapkan dapat menggunakan metode yang berbeda msalnya dengan menggunakan metode regres rdge sebaga metode pembandng serta menggunakan data rl. DAFTAR PUSTAKA []. Blfarsa, A Efektftas Metode Adtf Splne Kuadrat Terkecl Parsal Dalam Pendugaan Model Regres. Makara, Sans, 9 () : []. Herwndat, D.E Pengkaan Regres Komponen Utama, Regres Rdge, dan Regres Kuadrat Terkecl Parsal untuk Mengatas Kolneartas. Tess. Insttut pertanan Bogor. Bogor. [3]. Montgomery, D.C dan Peck, E.A. 99. Introducton to Lner Regresson Analyss. Jon Wlley & Sons. New York. [4]. Naes, T Multvarate Calbraton Wen Te Error Covarance Matrx s Structured. Tecnometrcs, 7 (3) : [5]. Noryant Pengaru Haslasl Uan d Sekola Teradap Hasl Uan Nasonal d SMU Neger Lmboto Kabupaten Gorontalo. Teknolog Tecnoscenta. (): [6]. Sembrng, R. K Analss Regres. ITB Bandung. Bandung. [7]. Soemartn Penyelesaan Multkolneartas Melalu Metode Rdge Regresson. Tess. Unverstas Padaaran. [8]. Wgena, A. H dan Aunuddn Metode PLS untuk Mengatas Kolneartas dalam Kalbras Ganda. Forum Statstka dan Komputas. 3 () : 79. Statstka, Vol., No., Me 0