STUDI METODE REGRESI RIDGE DAN METODE ANALISIS KOMPONEN UTAMA DALAM MENYELESAIKAN MASALAH MULTIKOLINEARITAS SKRIPSI OCKTAVALANNI SIREGAR

Transkripsi

1 STUDI METODE REGRESI RIDGE DAN METODE ANALISIS KOMPONEN UTAMA DALAM MENYELESAIKAN MASALAH MULTIKOLINEARITAS SKRIPSI OCKTAVALANNI SIREGAR DEPARTEMEN MATEMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA MEDAN 2014

2 STUDI METODE REGRESI RIDGE DAN METODE ANALISIS KOMPONEN UTAMA DALAM MENYELESAIKAN MASALAH MULTIKOLINEARITAS SKRIPSI Diajukan untuk melengkapi tugas dan memenuhi syarat mencapai gelar Sarjana Sains OCKTAVALANNI SIREGAR DEPARTEMEN MATEMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA MEDAN 2014

3 PERSETUJUAN Judul : STUDI METODE REGRESI RIDGE DAN METODE ANALISIS KOMPONEN UTAMA DALAM MENYELESAIKAN MASALAH MULTIKOLINEARITAS Kategori : SKRIPSI Nama : OCKTAVALANNI SIREGAR Nomor Induk Mahasiswa : Program Studi : SARJANA (S1) MATEMATIKA Departemen : MATEMATIKA Fakultas : MATEMATIKA DAN ILMU PENGETAHUAN ALAM (FMIPA) UNIVERSITAS SUMATERA UTARA Komisi Pembimbing : Diluluskan di Medan, Juli 2014 Pembimbing 2 Pembimbing 1 Dr. Suwarno Ariswoyo, M.Si Drs. Pengarapen Bangun, M.Si NIP NIP Diketahui/Disetujui oleh Departemen Matematika FMIPA USU Ketua, Prof. Dr. Tulus, M.Si NIP

4 PERNYATAAN STUDI METODE REGRESI RIDGE DAN METODE ANALISIS KOMPONEN UTAMA DALAM MENYELESAIKAN MASALAH MULTIKOLINEARITAS SKRIPSI Saya mengakui bahwa skripsi ini adalah hasil kerja saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing disebutkan sumbernya. Medan, Juli 2014 OCKTAVALANNI SIREGAR

5 PENGHARGAAN Puji dan syukur penulis panjatkan kepada Tuhan Yang Maha Esa yang telah memberikan rahmat dan hidayah-nya sehingga penulis dapat menyelesaikan penyusunan skripsi ini dengan judul Studi Metode Ridge Dan Metode Analisis Komponen Utama Dalam Menyelesaikan Masalah Multikolinearitas. Terima kasih penulis sampaikan kepada Bapak Dr. Sutarman, M.Sc selaku Dekan FMIPA USU. Bapak Drs. Pengarapen Bangun, M.Si dan Bapak Dr. Suwarno Ariswoyo, M.Si selaku pembimbing yang telah memberikan panduan, petunjuk, dan bimbingan berharga kepada penulis untuk menyempurnakan skripsi ini. Penulis juga mengucapkan terima kasih kepada Bapak Prof. Dr. Tulus, M.Si, selaku ketua Departemen Matematika, Ibu Dra. Mardiningsih, M.Si selaku sekretasis Departemen Matematika, Bapak Drs. Henry Rani Sitepu, M.Si dan Bapak Drs. Gim Tarigan, M.Si selaku penguji skripsi, dan staf pengajar Matematika di FMIPA USU, beserta pegawai Administrasi. Penulis juga mengucapkan terima kasih kepada kedua orang tua yang tercinta Ibunda Robianna Harahap dan Ayahanda Dasrin Siregar serta adik penulis yang penulis sayangi Dasliana Siregar dan Arifin Siregar yang telah memberikan dorongan dan doa dalam menyelesaikan skripsi ini. Akhirnya penulis juga mengucapkan terima kasih kepada Dewi Harni Nst, Ida Husna, Fitriana, Tri ananda puteri, Nusaibah Kholilah, Ayu Widyani, Rika Listya Sari, kak Silvi dan teman-teman lain yang tidak dapat disebutkan satu persatu atas bantuannya dalam menyelesaikan skripsi ini. Semoga segala bentuk bantuan yang telah diberikan mendapat balasan yang jauh lebih baik dari Tuhan Yang Maha Esa. Sebagai seorang mahasiswa, penulis menyadari bahwa masih banyak kekurangan di dalam menyelesaikan skripsi ini. Untuk itu, kritik dan saran yang membangun sangat diharapkan demi perbaikan tulisan ini. Medan, Juli 2014 Ocktavalanni Siregar

6 ABSTRAK Multikolinearitas adalah suatu kondisi dalam regresi linear berganda dimana antar variabel bebas saling berkorelasi. Multikolinearitas mengakibatkan hasil koefisien regresi dari analisis regresi berganda menjadi sangat lemah atau tidak dapat memberikan hasil analisis yang mewakili sifat variabel bebas yang bersangkutan, dan mengakibatkan pengujian hipotesis parameter berdasarkan metode kuadrat terkecil memberikan hasil yang tidak valid. Indikasi masalah multikolinearitas dapat dideteksi dengan faktor inflasi ragam. Dua metode yang dapat digunakan untuk mengatasi multikolinearitas yaitu metode ridge dan analisis komponen utama. Metode ridge bertujuan untuk mengurangi multikolinearitas dengan menentukan penduga yang bias tetapi mempunyai varians yang lebih kecil dari varians penduga regresi linear berganda. Analisis komponen utama bertujuan menghasilkan variabel-variabel baru (komponen utama) yang saling ortogonal dan mereduksi dimensi data.

7 ABSTRACT Multicollinearity is a condition in multiple linear regression where between the independent variables are correlated. Multicollinearity resulted in the regression coefficients from multiple regression analysis to be very weak or can t provide analytical result that represent the characteristic of the relevant independent variables, and resulted the parameter hypothesis tests using the least square method gives result that are not valid. Indication of multicollinearity problems can be detected with variance inflation factor. Two methods can be used to overcome multicollinearity the method of ridge and principal component analysis. Ridge method aims to reduce multicollinearity by determining the bias estimator but has a smaller variance than the variance of multiple linear regression estimator. The principle component analysis aimed to yield new variables (principle component) which orthogonal to each other and reduce data dimension.

8 DAFTAR ISI Halaman Persetujuan Pernyataan Penghargaan Abstrak Abstract Daftar Isi Daftar Tabel i ii iii iv v vi viii Bab 1 Pendahuluan Latar Belakang Perumusan Masalah Pembatasan Masalah Tujuan Penelitian Kontribusi Penelitian Metodologi Penelitian 5 Bab 2 Tinjauan Pustaka Matrik Definisi Matriks Jenis-Jenis Matriks Penjumlahan Matriks dan Perkalian Skalar Matriks Determinan Invers Matriks Nilai Eigen dan Vektor Eigen Matriks Korelasi Multikolinearitas Konsekuensi Multikolinearitas Pendeteksian Multikolinearitas Regresi Linear Berganda Metode Regresi Ridge Ridge Trace Analisis Komponen Utama 22 Bab 3 Metode Penelitian Bidang Penelitian Metode dan Desain Penelitian Sumber Data 30

9 3.4. Variabel Penelitian Teknik Analisis Data 31 Bab 4 Pembahasan Metode Regresi Ridge Metode Regresi Linear Berganda Pendeteksian Multikolinearitas Metode Regresi Ridge Uji Keberartian Regresi Metode Analisis Komponen Utama 54 Bab 5 Kesimpulan dan Saran Kesimpulan Saran 68 Daftar Pustaka 69

10 DAFTAR TABEL Halaman Tabel 4.1: Data Banyaknya Serangan Virus Pada penggerek Batang 39 Padi Afrika di Pantai Gading Afrika Barat dan Faktor-faktor yang Mempengaruhinya Tabel 4.2: Penaksir Parameter Metode Kuadrat Terkecil 40 Tabel 4.3: ANAVA untuk Data Awal 41 Tabel 4.4: Nilai Toleransi dan VIF 41 Tabel 4.5: Nilai Korelasi Antar Variabel Bebas 42 Tabel 4.6: Hasil Pemusatan dan Penskalaan 43 Tabel 4.7: Nilai VIF β( c ) Dengan Berbagai Nilai c 44 Tabel 4.8: Nilai β ( c ) Dengan Berbagai Nilai c 45 Tabel 4.9: ANAVA Ridge 47 Tabel 5.0: Penaksir Parameter Regresi Ridge 48 Tabel 5.1: Matriks Korelasi 55 Tabel 5.2: Communalities 55 Tabel 5.3: Nilai Eigen Analisis Komponen Utama 56 Tabel 5.4: Matriks Komponen 57 Tabel 5.5: Koefisien Komponen Utama 57 Tabel 5.6: Skor Faktor Komponen Utama 59 Tabel 5.7: Koefisien Regresi Komponen Utama 60 Tabel 5.8: ANAVA Komponen Utama 60