PENERAPAN METODE GENERALIZED RIDGE REGRESSION DALAM MENGATASI MASALAH MULTIKOLINEARITAS

Transkripsi

1 PENERAPAN METODE GENERALIZED RIDGE REGRESSION DALAM MENGATASI MASALAH MULTIKOLINEARITAS KOMPETENSI STATISTIKA [SKRIPSI] NI KETUT TRI UTAMI JURUSAN MATEMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS UDAYANA BUKIT JIMBARAN 2012

2 Bila Anda berpikir Anda bisa,maka Anda benar. Bila Anda berpikir Anda tidak bisa, Anda pun benar. Karena itu ketika seseorang berpikir tidak bisa, maka sesungguhnya dia telah membuang kesempatan untuk menjadi bisa. ~ Henry Ford ~ Tulisan ini ku persembahkan untuk: Ida Sang Hyang Widhi Wasa Atas asung kerta wara nugraha-nya, skripsi ini dapat diselesaikan Orang Tua dan Kakak-kakak Tercinta Kasih sayang dan dukungan kalian adalah semangatku I Putu Sanna Yustiantara, S.Farm, M.Si You always know how to make me feel better ii

3 PENERAPAN METODE GENERALIZED RIDGE REGRESSION DALAM MENGATASI MASALAH MULTIKOLINEARITAS KOMPETENSI STATISTIKA [SKRIPSI] Sebagai syarat untuk memperoleh gelar Sarjana Sains bidang Matematika pada Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Udayana Tulisan ini merupakan hasil penelitian yang belum pernah dipublikasikan NI KETUT TRI UTAMI Pembimbing II Pembimbing I Ir. I Putu Eka Nila Kencana, MT NIP Ir. I Komang Gde Sukarsa, M.Si NIP iii

4 LEMBAR PENGESAHAN TUGAS AKHIR Judul : Penerapan Metode Generalized Ridge Regression dalam Mengatasi Masalah Multikolinearitas Nama : Ni Ketut Tri Utami NIM : Jurusan : Matematika Kompetensi : Statistika Tanggal Ujian : 16 Juli 2012 Disetujui oleh, Pembimbing II Pembimbing I Ir. I Putu Eka Nila Kencana, MT NIP Penguji III Penguji II Ir. I Komang Gde Sukarsa, M.Si NIP Penguji I Ni Made Asih, S.Pd., M.Si NIP IGA Made Srinadi, S.Si, M.Si NIP Mengetahui, Ketua Jurusan Matematika FMIPA UNUD Dra. NLP Suciptwati, M.Si NIP Ir. Komang Dharmawan, M.Math, Ph.D NIP iv

5 Judul : Penerapan Metode Generalized Ridge Regression dalam Mengatasi Masalah Multikolinearitas Nama : Ni Ketut Tri Utami (NIM : ) Pembimbing : 1. Ir. I Komang Gde Sukarsa, M.Si 2. Ir. I Putu Eka Nila Kencana, MT ABSTRAK Metode kuadrat terkecil merupakan metode pendugaan parameter persamaan regresi linear dengan meminimumkan jumlah kuadrat galat. Apabila salah satu asumsi regresi linear berganda yaitu asumsi multikolinearitas dilanggar, penduga yang bersifat tidak bias dan memiliki ragam minimum tidak dapat dihasilkan. Multikolinearitas adalah kondisi dimana terjadi korelasi yang kuat diantara peubah bebas. Salah satu metode alternatif untuk mengatasi multikolinearitas adalah Generalized Ridge Regression yang merupakan pengembangan dari Ordinary Ridge Regression. Pada metode Ordinary Ridge Regression ditambahkan konstanta bias yang sama (k 1 = k 2 = = k p = k) pada diagonal utama matriks X X dalam persamaan kuadrat terkecil, sedangkan pada Generalized Ridge Regression, ditambahkan konstanta bias yang ditambahkan berbeda untuk setiap peubah bebas (k = k 1, k 2,, k p ), setelah sebelumnya dilakukan proses orthogonalisasi terhadap peubah bebas. Hasil analisis menunjukkan bahwa metode Ordinary Ridge Regression dan Generalized Ridge Regression sama-sama dapat mengatasi multikolinearitas, dilihat dari nilai VIF dari setiap peubah bebas yang nilainya dibawah 5. Dilihat dari nilai MSE, model regresi linear dengan Generalized Ridge Regression memiliki galat atau error yang lebih kecil jika dibandingkan Ordinary Ridge Regression. Metode Generalized Ridge Regression juga menghasilkan R 2 yang lebih besar dari Ordinary Ridge Regression sehingga dapat disimpulkan pada model yang dihasilkan pada metode Generalized Ridge Regression lebih baik dibandingkan Ordinary Ridge Regression. Kata kunci: regresi linear berganda, pendugaan parameter, multikolinearitas, Ordinary Ridge Regression, Generalized Ridge Regression. v

6 Title : Application of Generalized Ridge Regression Method to Solve Multicollinearity Problem Name : Ni Ketut Tri Utami (NIM : ) Supervisor : 1. Ir. I Komang Gde Sukarsa, M.Si 2. Ir. I Putu Eka Nila Kencana, MT ABSTRACT Ordinary least square is parameter estimation method for a linier regression analysis by minimizing residual sum of squares. In the presence of multicollinearity, estimators which are unbiased and have a minimum variance can not be generated. Multicollinearity refers to a situation in which one or more regressor variables are highly correlated. One of the alternative methods to solve multicollinearity problem is Generalized Ridge Regression which is the development of the Ordinary Ridge Regression. In Ordinary Ridge Regression, the same biasing parameter (k 1 = k 2 = = k p = k)was added to the main diagonal of X'X matrix in the least squares equation, whereas in Generalized Ridge Regression, biasing parameter which different for each regressor variables (k = k 1, k 2,, k p ) was added to the least squares equation after transform the data to the space of orthogonal regressors. The analysis showed both of Ordinary Ridge Regression and Generalized Ridge Regression have a good perform for solve muticollinearity, seen from the VIF value is below 5. However, based on MSE, linear regression model using the Generalized Ridge Regression has a smaller error than Ordinary Ridge Regression. Moreover, Generalized Ridge Regression method produces a better R 2 than Ordinary Ridge Regression. It can be concluded that the model produced on the Generalized Ridge regression method is better than the Ordinary Ridge Regression. Keyword: multiple linear regression, parameter estimation, multicollinearity, Ordinary Ridge Regression, Generalized Ridge Regression. vi

7 KATA PENGANTAR Puji syukur penulis panjatkan kehadapan Ida Sang Hyang Widhi Wasa, Tuhan Yang Maha Esa atas perlindungan dan segala kemudahan yang diberikan-nya, sehingga penyusunan tugas akhir yang berjudul Penerapan Metode Generalized Ridge Regression dalam Mengatasi Kasus Multikolinearitas ini dapat terselesaikan dengan baik dan tepat waktu. Dalam penyusunan tugas akhir ini, penulis banyak mendapatkan bantuan, semangat, dan dorongan positif dari semua pihak baik secara langsung maupun tidak langsung. Pada kesempatan ini penulis mengucapkan rasa terima kasih yang sebesar-besarnya kepada : 1. Ir. Komang Dharmawan, M.Math, Ph.D, sebagai Ketua Jurusan Matematika FMIPA Universitas Udayana. 2. Ir. I Komang Gde Sukarsa, M.Si, sebagai pembimbing I, yang telah banyak memberikan bimbingan, saran dan nasihat yang sangat membantu bagi penulis dalam penulisan tugas akhir ini. 3. Ir. I Putu Eka Nila Kencana, M.T, sebagai pembimbing II yang senantiasa memberikan bimbingan, saran dan motivasi yang sangat membantu penulis dalam penyempurnaan penulisan tugas akhir ini. 4. Dra. Ni Luh Putu Suciptawati, M.Si, IGA Made Srinadi, S.Si, M.Si, Ni Made Asih, S.Pd., M.Si, sebagai dosen penguji yang senantiasa memberikan saran yang sangat membantu dalam penyempurnaan penulisan tugas akhir ini. vii

8 5. Drs. Ketut Jayanegara, M.Si sebagai pembimbing akademik yang telah memberikan masukan selama penulis menempuh perkuliahan di jurusan ini. 6. Para Dosen Jurusan Matematika atas ilmu yang diberikan selama perkuliahan. 7. Ni Luh Dewi Wulandari, S.Si atas dukungan serta buku-buku penunjang yang telah dipinjamkan kepada penulis. 8. Kedua orang tua beserta kakak-kakak tercinta yang senantiasa memberikan dukungan, perhatian, dan selalu memfasilitasi segala kebutuhan yang diperlukan penulis. 9. I Putu Sanna Yustiantara, S.Farm, M.Si yang selalu menemani dan tidak henti-hentinya memberi dukungan dan doa. 10. Sahabat-sahabatku, Queena, Suma, Septy, Nanik, Dayu Tamie, Arya, Puja, Gau, Arna serta semua teman-teman angkatan Terima kasih untuk untuk canda tawa, dukungan dan bantuan kalian selama ini. 11. Kakak-kakak dan adik-adik kelas di jurusan Matematika serta semua pihak yang telah memberikan dukungan dalam penyusunan tugas akhir ini. Penulis menyadari dalam penyusunan tugas akhir ini sangat jauh dari sempurna, saran dan kritik yang membangun sangat diharapkan agar penyusunan tugas akhir ini menjadi lebih baik. Bukit Jimbaran, Juli 2012 Penulis viii

9 BIODATA ALUMNI Nama Lengkap : Ni Ketut Tri Utami NIM : Jenis Kelamin : Perempuan Tempat/Tanggal Lahir : Denpasar/14 Agustus 1990 Alamat Asal : Jl. Raya Padang Luwih no.61b Dalung Kuta Utara Alamat Sekarang : Jl. Raya Padang Luwih no.61b Dalung Kuta Utara Agama : Hindu Tanggal Lulus : 16 Juli 2012 Tanggal Wisuda : 11 Agustus 2012 Kompetensi : Statistika IP Kumulatif : 3,40 Predikat Kelulusan : Sangat Memuaskan Nilai TOEFL Lokal : 507 Alamat ami_tara14@gmail.com Nomor HP : Nama Ayah : I Ketut Gita Duarsa Nama Ibu : Ni Luh Sunarsih Alamat Ayah/Ibu : Jl. Raya Padang Luwih no.61b Dalung Kuta Utara Telepon : (0361) ix

10 DAFTAR ISI HALAMAN JUDUL... i LEMBAR PERSEMBAHAN... ii LEMBAR PERNYATAAN... iii LEMBAR PENGESAHAN... iv ABSTRAK... v ABSTRACT... vi KATA PENGANTAR... vii BIODATA ALUMNI... ix DAFTAR ISI... x DAFTAR GAMBAR... xiii DAFTAR TABEL... xiv DAFTAR LAMPIRAN... xvii BAB I PENDAHULUAN 1.1 Latar Belakang Rumusan Masalah Batasan Masalah Tujuan Penelitian Manfaat Penelitian... 5 BAB II TINJAUAN PUSTAKA 2.1 Matriks Nilai Eigen dan Vektor Eigen Ukuran Pemusatan dan Penskalaan (Centering and Scaling) Regresi Linear Berganda Uji Regresi Linear Berganda Koefisien Determinasi Ganda Metode Kuadrat Terkecil Multikolinearitas Pengertian Multikolinearitas Konsekuensi Multikolinearitas x

11 2.6.3 Mendeteksi Adanya Multikolinearitas Ordinary Ridge Regression Generalized Ridge Regression BAB III METODE PENELITIAN Sumber Data Identifikasi Peubah Penelitian Metode Analisis Data BAB IV PEMBAHASAN Mendeteksi Adanya Multikolinearitas pada Model Regresi Pembakuan (Standardized) Peubah dengan Pemusatan dan Penskalaan (Centering and Scaling) Penyelesaian Masalah Multikolinearitas dengan Ordinary Ridge Regression Penyelesaian Masalah Multikolinearitas dengan Generalized Ridge Regression Perbandingan Pendugaan Koefisien Regresi dengan Metode Kuadrat Terkecil (Ordinary Least Square), Ordinary Ridge Regression dan Generalized Ridge Regression dalam Kasus Multikolinearitas BAB V PENUTUP Simpulan Saran DAFTAR PUSTAKA xi

12 DAFTAR GAMBAR Gambar Halaman 2.1 Ridge Trace Data Kebutuhan Tenaga Kerja di 17 Rumah Sakit Angkatan Laut U.S Plot VIF Data Kebutuhan Tenaga Kerja di 17 Rumah Sakit Angkatan Laut U.S xii

13 DAFTAR TABEL Tabel Halaman 2.1 Tabel ANOVA Model Linear Umum Penduga Koefisien Regresi Deskripsi Data Analisis Ragam (ANOVA) Nilai Koefisien Korelasi Antar Peubah Bebas Nilai VIF Peubah Bebas Analisis Ragam (ANOVA) Data Transformasi Centering dan Scaling Penduga Koefisien Regresi Data Transformasi Centering dan Scaling Penduga Koefisien Regresi untuk Ordinary Ridge Regression Analisis Ragam (ANOVA) Ordinary Ridge Regression Penduga Koefisien Regresi untuk Generalized Ridge Regression Analisis Ragam (ANOVA) Generalized Ridge Regression Perbandingan Metode Kuadrat Terkecil (Ordinary Least Square), Ordinary Ridge Regression dan Generalized Ridge Regression xiii

14 DAFTAR LAMPIRAN Lampiran 1. Data Kebutuhan akan Tenaga Kerja pada 17 Rumah Sakit Angkatan Laut U.S 2. Data Hasil Transformasi Centering & Scaling 3. Output Hasil Analisis Regresi Linear Berganda dengan Minitab pada Data Awal 4. Output Hasil Analisis Regresi Linear Berganda dengan Minitab pada Data Transformasi Centering & Scaling 5. Syntax Program Generalized Ridge Regression pada Data Transformasi Centering & Scaling dengan Software R i Syntax Program Menghitung Nilai MSE dan R 2 dari Model Generalized Ridge Regression pada Data Awal dengan Software R i Perhitungan Manual Tabel ANOVA pada Generalized Ridge Regression 8. Perhitungan Manual Uji t untuk Masing-Masing Penduga Koefisien Regresi pada Generalized Ridge Regression xiv