ANALISIS REGRESI KOMPONEN UTAMA UNTUK MENGATASI MASALAH MULTIKOLINIERITAS SKRIPSI LEONARDO SILALAHI 070803049 DEPARTEMEN MATEMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA MEDAN 2011
2 ANALISIS REGRESI KOMPONEN UTAMA UNTUK MENGATASI MASALAH MULTIKOLINIERITAS SKRIPSI Diajukan untuk melengkapi tugas dan memenuhi syarat mencapai gelar Sarjana Sains LEONARDO SILALAHI 070803049 DEPARTEMEN MATEMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA MEDAN 2011
3 PERSETUJUAN Judul : ANALISIS REGRESI KOMPONEN UTAMA UNTUK MENGATASI MASALAH MULTIKOLINIERITAS Kategori : SKRIPSI Nama : LEONARDO SILALAHI Nomor Induk Mahasiswa : 070803049 Program Studi : SARJANA (SI) MATEMATIKA Departemen : MATEMATIKA Fakultas : MATEMATIKA DAN ILMU PENGETAHUAN ALAM (FMIPA) UNIVERSITAS SUMATERA UTARA Diluluskan di Medan, Juni 2011 Komisi Pembimbing : Pembimbing 2 Pembimbing 1 Drs. Djakaria Sebayang, M.Si. Drs. Henry Rani Sitepu, M.Si. NIP. 195112271985031002 NIP. 195303031983031002 Diketahui/Disetujui oleh Departemen Matematika FMIPA USU Ketua, Prof. Dr. Tulus, M.Si. NIP: 196209011988031002
4 PERNYATAAN ANALISIS REGRESI KOMPONEN UTAMA UNTUK MENGATASI MASALAH MULTIKOLINIERITAS SKRIPSI Saya mengakui bahwa skripsi ini adalah hasil kerja saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing disebutkan sumbernya. Medan, Juni 2011 LEONARDO SILALAHI 070803049
5 PENGHARGAAN Puji dan syukur penulis panjatkan ke hadirat Tuhan Yang Maha Esa atas berkat dan anugrah yang dilimpahkannya sehingga skripsi ini dapat diselesaikan. Skripsi ini merupakan salah satu syarat yang harus dipenuhi dan diselesaikan oleh seluruh mahasiswa Fakultas FMIPA Departemen Matematika. Pada skripsi ini penulis mengambil judul skripsi tentang Analisis Regresi Komponen Utama Untuk Mengatasi Masalah Multikolinieritas. Dalam penyusunan skripsi ini banyak pihak yang membantu, sehingga dengan segala rasa hormat penulis mengucapkan terima kasih kepada: 1. Bapak Dr. Sutarman, M.Sc. selaku Dekan FMIPA USU. 2. Bapak Prof. Dr. Tulus M.Si dan Ibu Dra. Mardiningsih, M.Si selaku ketua dan sekretaris Departemen Matematika FMIPA USU. 3. Bapak Drs. Henry Rani Sitepu, M.Si. selaku dosen dan pembimbing I yang berkenan dan rela mengorbankan waktu, tenaga dan pikiran guna memberikan petunjuk dan bimbingannya dalam penulisan skripsi ini. 4. Drs. Djakaria Sebayang, M.Si. selaku dosen dan pembimbing II yang juga berkenan dan rela mengorbankan waktu, tenaga dan pikiran guna memberikan petunjuk dan bimbingannya dalam penulisan skripsi ini. 5. Bapak Prof. Dr. Tulus, M.Si dan Drs. Ujian Sinulingga selaku komisi penguji atas masukan dan saran yang telah diberikan demi perbaikan skripsi ini. 6. Seluruh Staf pengajar departemen matematika dan pegawai FMIPA USU 7. Alm Bapak U. Silalahi, Ibunda tercinta R.S. br Manurung yang penulis sayangi. Terima kasih atas segala pengertian, kesabaran, dan kasih sayang yang telah diberikan serta dukungan selama penulis masih dibangku perkuliahan hingga akhirnya menyelesaikan tugas ini. 8. Saudara-Saudara ku, K Lenni Silalahi, Amd, K Lestarina Silalahi, Spd, B Lamhot Silalahi, Sth, K Lusiana Silalahi, Spsi serta adik ku Lorencius Silalahi. Terima kasih buat kasih saying motivasi serta semangat yang selalu diberikan kepada penulis you are my spirit. 9. Terima kasih buat Opung ku Biv. R. br Gultom, buat doa serta kasih sayang yang setiap saat diberikan kepada penulis. Penulis juga mengucapkan terima kasih kepada teman-teman yang banyak membantu penulis dalam perkuliahan hingga pada penyelesaian skripsi ini. Buat Enrico, Erbin, Magdalena, Rolina, Dewi, Imelda, Desri, Riris, Jojor, Siska serta semua teman-teman satu satmbuk 2007, buat kawan-kawan pengurus HMM juga buat junior 2008, 2009, hingga adik kandung 2010 yang telah memberi semangat, penulis ucapkan terima kasih. Terima kasih juga kepada seluruh pihak yang tidak dapat penulis sebutkan satu persatu yang telah banyak membantu penulis dalam menyelesaikan tulisan ini.
6 Penulis juga menyadari masih banyak kekurangan dalam penulisan ini. Oleh karena itu, penulis meminta saran dari pembaca guna menyempurnakan tulisan ini. Demikian yang dapat penulis sampaikan, atas perhatian serta kerjasamanya penulis ucapkan terima kasih. Semoga tulisan ini bermanfaat bagi yang membutuhkan. Medan, Juni 2011 Penulis Leonardo Silalahi
7 ABSTRAK Multikolinieritas merupakan suatu masalah yang serius pada regresi linier berganda, dimana antar variable bebas saling berkorelasi. Masalah multikolinieritas menyebabkan penggunaan Metode Kuadrat Terkecil dalam menduga parameter terganggu, sehingga dalam pengujian hipotesis memberikan hasil yang tidak valid. Adanya masalah multikolinieritas dapat dideteksi dengan nilai korelasi dan faktor inflasi ragam. Pada penelitian ini digunakan analisis regresi komponen utama sebagai suatu metode untuk mengatasi masalah multikolinieritas pada regresi linier berganda. Berdasarkan hasil penelitian ini melalui metode analisis komponen utama dihasilkan dua variable baru (komponen utama) yang bersifat saling bebas atau tidak ada multikolinieritas, yang didasarkan pada nilai eigen lebih besar dari satu. Masingmasing komponen tersebut mempunyai nilai eigen 4.452 dan 1.049 serta menjelaskan 91.683% keragaman dari total keragaman variabel asal. Komponen utama tersebut kemudian diregresikan dengan peubah bebas melalui metode kuadrat terkecil yang disebut regresi komponen utama. Persamaan regresi dengan variable baku Z menunjukkan bahwa nilai T-hitung masing-masing variable lebih besar dari T-tabel. Berdasarkan pengujian koefisien regresi, analisis regresi komponen utama memberikan hasil yang lebih baik daripada analisis regresi linier berganda.
8 THE PRINCIPAL COMPONENT REGRESSION ANALYSIS FOR SOLVING MULTICOLLINEARITY ABSTRACT Multicolinearity is a seriously problem in multiple linear regression, that the dependent variable having correlation each other. Multicollinearity cause of using Ordinary Least Square Methods is not correct to estimate the parameter, so in test hypothesis give the result is not valid. Multicolinearity problem can be detected by correlation value and variance inflation factor. In this research the principal component regression analysis is used for solving multicolinearity in multiple linear regression. The result of this research, by principal component methods is gotten two new variables (principal component) that each other is dependent or not having multicolinearity based the eigen value more than one. Each component having the eigen value 4.452 and 1.049 and eksplain varians 91.683% from total varaians origin variable. The principal component then be regressed with dependent variable by Ordinary Least Square Methods that called principal component regression. Regression model with standart variable Z is showing that T-count value more than T- table. According test the regression coefficient, principal component regression analysis give the result better than multiple linier regression analysis.
9 DAFTAR ISI Persetujuan Pernyataan Penghargaan Abstrak Abstract Daftar Isi Daftar Tabel Halaman ii iii iv vi vii viii x Bab 1 Pendahuluan 1 1.1 Latar Belakang 1 1.2 Perumusan Masalah 3 1.3 Pembatasan Masalah 3 1.4 Tinjauan Pustaka 4 1.5 Tujuan Penelitian 4 1.6 Manfaat Penelitian 5 1.7 Metodologi Penelitian 5 Bab 2 Landasan Teori 6 2.1 Aljabar Matriks 6 2.1.1 Definisi 6 2.1.2 Jenis-jenis Matriks 8 2.1.3 Operasi Matriks 10 2.2 Nilai Eigen dan Vektor Eigen 13 2.3 Matriks Korelasi 15 2.4 Analisis Regresi Linier Berganda 18 2.4.1 Asumsi Regresi Linier Berganda 18 2.4.2 Metode Kuadrat Terkecil 19 2.4.3 Sifat Penduga Kuadrat Terkecil 21 2.5 Uji Regresi Linier 22 2.6 Koefisien Determinasi 23 2.7 Multikolinieritas 24 2.7.1 Pendeteksian Multikolinieritas 25 2.7.2 Pengaruh Multikolinieritas 26 2.8 Analisis Komponen Utama 27 2.8.1 Menentukan Komponen Utama 28 2.8.1.1 Komponen Utama Berdasarkan Matriks Kovariansi 28 2.8.1.2 Komponen Utama Berdasarkan Matriks Korelasi 32 2.8.2 Kriteria Pemilihan Komponen Utama 33 2.8.3 Kontribusi Komponen Utama 34 Bab 3 Pembahasan 35 2.1 Regresi Komponen Utama 35 2.2 Uji Koefisien Regresi Komponen Utama 36
10 2.3 Ilustrasi Regresi Komponen Utama Mengatasi Multikolinieritas 38 3.3.1 Analisis Dengan Regresi Linier Berganda 39 3.3.2 Pendeteksian Multikolinieritas 40 3.3.3 Analisis Dengan Regresi Komponen Utama 42 3.3.4 Uji Signifikansi Koefisien Regresi Variabel Baku 46 Bab 4 Kesimpulan dan Saran 4.1 Kesimpulan 47 4.2 Saran 48 Daftar Pustaka 49 Lampiran
11 DAFTAR TABEL Halaman Tabel 3.1 Data Gas Mileage pada 30 Mobil 38 Tabel 3.2 Uji Signifikansi Koefisien Regresi Linier Berganda 40 Tabel 3.3 Nilai Korelasi Data Gas Mileage 41 Tabel 3.4 Nilai Faktor Variansi Inflasi 41 Tabel 3.5 Nilai Eigen, Proporsi Total Variansi dan Proporsi Variansi Kumulatif 43 Tabel 3.6 Koefisien Komponen Utama (Vektor Eigen) 43 Tabel 3.7 Skor Faktor Komponen Utama 44 Tabel 3.8 UJi Signifikansi Koefisien Regresi Komponen Utama 45 Tabel 3.9 Nilai Varian dan T-Hitung Variabel Bebas Z 46