Analisis Regresi 2. Multikolinier & penanganannya

Transkripsi

1 Analisis Regresi 2 Pokok Bahasan : Multikolinier & penanganannya TUJUAN INSTRUKSIONAL KHUSUS : Mahasiswa dapat menjelaskan adanya multikolinieritas pada regresi linier berganda serta prosedur penanganannya

2 Regresi linear berganda: Dalam notasi matriks Y = X β + ε Dengan Y = vektor peubah tak bebas (nx1) X = matriks peubah bebas (nxk) β = vektor penduga parameter (kx1) ε = vektor sisaan/galat (nx1)

3 Beberapa asumsi yang mendasari model tersebut adalah : ε i menyebar saling bebas mengikuti sebaran normal (0.σ 2 ) ε i memiliki ragam homogen Tidak adanya hubungan antar peubah X ( E(X i,x j ) = 0, untuk semua i j ) atau sering disebut tidak ada masalah kolinear ε i bebas terhadap peubah X

4 MULTIKOLINEARITAS Muncul ketika adanya korelasi diantara peubah bebas yang dapat mempengaruhi ragam dari penduga kuadrat terkecil dan pendugaan model yang dibuat. (Wetherhill,1986) Apabila terdapat masalah multikolinear pada model regresi berganda, maka matriks X X akan memiliki sifat kondisi buruk (ill-conditioned) atau hampir singular yang pada akhirnya akan menyebabkan dugaan bagi memiliki dugaan ragam yang menduga lebih (overestimate) walaupun tetap takbias.

5 Indikasi adanya multikolinearitas 1.Semua variabel dilibatkan dengan nilai VIF >10 2.Uji parsial-t mengindikasikan terima Ho (model tidak nyata) 3.Uji-F mengindikasikan tolak Ho (model nyata) 4.Rsq(adj) bernilai tinggi 5.Adanya korelasi antara peubah bebas Ketidaksesuaian hubungan antara peubah bebas dan peubah respon berdasarkan teori dan hasil.

6 Selain itu, cara mendeteksi adanya multikolinearitas melalui nilai: 1. Condition Index (CI) atau Indeks Kondisi Dilakukan dengan mengukur perubahan akar ciri yang umum, yaitu: n = ( λmax / λmin ) Jika n>30 maka menandakan derajat multikolinearitas yang tinggi

7 2. Multikolinearitas Index (MCI) (Thisted,1980) MCI = p x 1 m 1 2 Dengan: m = nilai eigen (akar ciri) minimal 1 = nilai eigen (akar ciri) dari matriks Bila MCI mendekati 1 Multikolinearitas tinggi Bila MCI mendekati 3 Peubah saling bebas

8 3. Variance Inflation Factor (VIF) dengan VIFi = 1/(1-Ri²) Ri² = koefisien determinasi ganda bila Xi diregresikan terhadap semua peubah bebas lainnya. Nilai VIF yang lebih besar dari 10 menunjukkan adanya kolinearitas(myers,1990).

9 Cara dan pendekatan yang dilakukan untuk mengatasi masalah multikolinearitas, seperti: Membuang peubah bebas yang mempunyai korelasi tinggi terhadap peubah bebas lainnya. Menambah data pengamatan/contoh. Melakukan transformasi terhadap peubah-peubah bebas yang mempunyai kolinearitas atau menggabungkan menjadi peubah-peubah bebas baru yang lebih berarti. Menggunakan regresi Gulud, regresi kuadrat terkecil parsial dan Regresi Komponen Utama (principal component regression).

10 REGRESI KOMPONEN UTAMA (PRINCIPAL COMPONENT REGRESSION)

11 Regresi Komponen Utama ( Principal Component Regression) Analisis komponen utama pada dasarnya mentransformasi peubah-peubah bebas yang berkorelasi menjadi peubah-peubah baru yang ortogonal dan tidak berkorelasi. Analisis ini bertujuan untuk menyederhanakan peubah-peubah yang diamati dengan cara mereduksi dimensinya. Hal ini dilakukan dengan menghilangkan korelasi di antara peubah melalui transformasi peubah asal ke peubah baru (komponen utama) yang tidak berkorelasi (Gesperz, 1995).

12 Tahapan-tahapan yang dilakukan dalam analisis regresi komponen utama adalah: 1.Membakukan peubah bebas asal yaitu X menjadi Z. 2.Mencari akar ciri dan vektor ciri dari matriks R. 3.Menentukan persamaan komponen utama dari vektor ciri. 4.Meregresikan peubah respon Y terhadap skor komponen utama W. 5.Transformasi balik.

13 Biasanya tidak semua W digunakan. Morrison (1978) menyarankan agar memilih komponenkomponen utama sampai komponen-komponen utama tersebut mempunyai keragaman kumulatif 75 %, namun sebagian ahli menyarankan agar memilih komponen utama yang mempunyai akar ciri lebih dari satu, karena jika akar ciri kurang dari satu, keragaman data yang dapat diterangkan kecil sekali.

14 contoh kasus Berdasarkan teori dan konsep ekonomi, variabel-variabel yang mempengaruhi penawaran ekspor TPT Indonesia adalah sebagai berikut: Y = Volume ekspor TPT (Tekstil dan Produk Tekstil) (kg) X1 = Pendapatan per kapita (dolar) X2 = Upah tenaga kerja (dolar) X3 = Harga ekspor TPT pada (dolar/kg) X4 = Indeks persepsi korupsi Indonesia (CPI) X5 = Nilai tengah kurs rupiah (rupiah/dolar) X6 = Suku bunga kredit investasi (%)

15 Y X1 X2 X3 X4 X5 X ,02 101, ,741 6,366 2, , ,35 107,148 95,819 7,296 2, , ,03 49, ,86 10,348 6, , ,79 64, ,191 12,192 4, , ,94 106,114 81,993 13,052 3, , ,6 159,541 69,089 14,347 3, , ,72 164,611 49,617 16,065 2, , ,76 139,723 53,641 17,447 3, ,135 1,01E ,34 140,651 51,051 18,329 3, ,193 1,28E ,18 87,752 52,635 17,247 4,2792 0,178 1,59E ,22 96,019 43,769 19,239 3, ,187 2,05E ,28 93,805 44,101 20,155 3,2182 0,196 2,48E ,93 78,978 41,936 21,008 4,0113 0,188 3,09E ,46 80,505 44,015 23,781 4, ,232 4,08E ,73 77,761 44,048 24,999 3, ,191 5,78E ,27 99,133 44,405 26,512 4, ,1819 6,9E ,733 36,717 29,096 3, ,1528 7,71E ,99 144,148 29,589 30,986 2,8298 0,1527 8,26E ,76 150,796 28,13 33,066 2, ,161 9,71E ,78 147,18 24,718 35,041 2, ,1741 8,58E ,63 56,405 18,54 37,813 2, ,1833 1,19E ,67 95,347 4,043 76,989 1, ,262 1,58E ,35 136,239 4,773 81,369 2, ,179 1,73E ,91 113,51 4,731 90,048 2, ,1686 1,73E ,66 126,703 3,957 97,379 2, ,179 1,76E ,356 3, , ,1782 1,65E ,11 223,453 3, ,37 2, ,1575 1,63E ,06 200,482 4, ,2 2, ,1391 1,8E ,45 183,482 3, ,39 2, ,1623 1,88E ,43 211,937 3, ,16 2, ,1542

16 Regression Analysis: Y versus X1, X2, X3, X4, X5, X6 The regression equation is Y = 1.36E X X X X X5-2.69E+09 X6 Predictor Coef SE Coef T P VIF Constant X X X X X X S = R-Sq = 96.1% R-Sq(adj) = 95.1% standardized residual

17 Analysis of Variance Source DF SS MS F P Regression E E Residual Error E E+16 Total E+19 Source DF Seq SS X E+18 X E+18 X E+18 X E+17 X E+16 X E+16 Unusual Observations Obs X1 Y Fit SE Fit Residual St Resid R R denotes an observation with a large

18 Correlations: X1, X2, X3, X4, X5, X6 X1 X2 X3 X4 X5 X X X X X Cell Contents: Pearson correlation P-Value

19 Hasil pembakuan dari peubah-peubah X i ke Zi Z1 Z2 Z3 Z4 Z5 Z

20 Nilai eigen dan vektor eigen: Principal Component Analysis: Z1, Z2, Z3, Z4, Z5, Z6 Eigen analysis of the Correlation Matrix Eigenvalue Proportion Cumulative Variable PC1 PC2 PC3 PC4 PC5 PC6 Z Z Z Z Z Z Hasil yang di dapat dari komponen utama pertama W1 dan W2 yang merupakan kombinasi linear dari Z dapat dinyatakan dalam persamaan berikut: W1 = Z Z Z Z Z Z6 W2 = Z Z Z Z Z Z6

21 Skor komponen utama W1 W2 W3 W4 W5 W

22 Meregresikan peubah tak bebas Y dengan skor komponen utama W1 dan W2 Regression Analysis: Y versus W1, W2 The regression equation is Y = 7.14E E+08 W W2 Predictor Coef SE Coef T P VIF Constant W W S = R-Sq = 87.2% R-Sq(adj) = 86.2% Analysis of Variance Source DF SS MS F P Regression E E Residual Error E E+16 Total E+19 Source DF Seq SS W E+19 W E+14 Unusual Observations Obs W1 Y Fit SE Fit Residual St Resid R

23 Transformasi peubah Z ke peubah asal (X) Y = 7.14E E+08 W W2 Y = 7.14E E+08 ( Z Z Z Z Z Z6) (0.332 Z Z Z Z Z Z6) Y = 7.14E Z Z Z Z Z Z6 Y = 7.14E Y = 7.67E X X2-5.63E+06 X X X X6 Jadi model akhir yang kita dapat adalah: Y = 7.67E X X2-5.63E+06 X X X X6

24 Analisis signifikansi koefesien regresi parsial Peubah (Zi) koefisien(γi) Simpangan baku s(γi) t-hitung Z ,52 7, ,48 Z ,8 8, ,02 Z ,7 8, ,12 Z , ,78 Z ,6 5, ,09 Z ,02 15, ,967 Karena nilai t-hitung >t-tabel maka setiap koefisien berpengaruh nyata. Penduga koefisien regresi pada model regresi yang diperoleh dengan menggunakan regresi komponen utama seringkali berbias, padahal sifat penduga yang baik adalah tak bias dengan ragam penduga minimum.

25 Kesimpulan Analisis komponen utama pada dasarnya mentransformasi peubah-peubah bebas yang berkorelasi menjadi peubah-peubah baru yang ortogonal dan tidak berkorelasi. Analisis ini bertujuan untuk menyederhanakan peubah-peubah yang diamati dengan cara mereduksi dimensi, sehingga masalah multikolinearitas dapat diatasi.