PERBANDINGAN REGRESI KOMPONEN UTAMA TERKOREKSI DENGAN REGRESI RIDGE DALAM MENGATASI MULTIKOLINEARITAS NURHASANAH

Transkripsi

1 PERBANDINGAN REGRESI KOMPONEN UTAMA TERKOREKSI DENGAN REGRESI RIDGE DALAM MENGATASI MULTIKOLINEARITAS NURHASANAH SEKOLAH PASCASARJANA INSTITUT PERTANIAN BOGOR BOGOR 2006

2 S U R A T P E R N Y A T A A N Saya menyatakan dengan sebenar-benarnya bahwa segala pernyataan dalam tesis saya yang berjudul : Perbandingan Regresi Komponen Utama Terkoreksi dengan Regresi Ridge dalam Mengatasi Multikolinearitas merupakan gagasan atau hasil penelitian tesis saya sendiri, dengan pembimbingan Komisi Pembimbing, kecuali yang dengan jelas ditunjukkan rujukannya. Tesis ini belum pernah diajukan untuk memperoleh gelar pada program sejenis di perguruan tinggi lain. Semua data dan informasi yang digunakan telah dinyatakan secara jelas dan da pat diperiksa kebenarannya. Bogor, Agustus 2006 NURHASANAH NRP: G

3 ABSTRAK NURHASANAH. Perbandingan Regresi Komponen Utama Terkoreksi dengan Regresi Ridge dalam Mengatasi Multikolinearitas. Dibimbing oleh BAMBANG JUANDA dan ANANG KURNIA. Regresi berganda dengan peubah bebas saling berkorelasi (multikolinear) merupakan masalah yang sering terjadi dalam melakukan analisis data. Salah satu akibat yang terjadi adalah ragam penduga parameter regresi yang besar sehingga dugaan koefisien regresi cenderung menjadi tidak signifikan. Salah satu pendekatan yang sering digunakan adalah regresi komponen utama. Penelitian ini mengkaji metode regresi komponen utama yang meminimumkan kuadrat tengah galat (mean square error-mse) penduga parameter regresi (dinamakan regresi komponen utama terkoreksi). Sebagai pembanding digunakan metode regresi ridge dengan iterasi HKB. Hasil penelitian menunjukkan bahwa untuk multikolinear rendah dan sedang regresi komponen utama terkoreksi selalu merupakan metode yang baik dengan nilai rataan ragam dugaan parameter dan MSE dugaan parameter yang kecil walaupun nilai rataan biasnya bukan merupakan nilai terkecil. Pada kondisi multikolinear tinggi regresi komponen utama terkoreksi selalu merupakan metode yang baik untuk ukuran contoh besar.

4 PERBANDINGAN REGRESI KOMPONEN UTAMA TERKOREKSI DENGAN REGRESI RIDGE DALAM MENGATASI MULTIKOLINEARITAS NURHASANAH T e s i s sebagai salah satu syarat untuk memperoleh gelar Magister Sains pada P r o g r a m S t u d i S t a t i s t i k a SEKOLAH PASCASARJANA INSTITUT PERTANIAN BOGOR BOGOR 2006

5 Judul Tesis Nama Mahasiswa Nomor Pokok Program Studi : Perbandingan Regresi Komponen Utama Terkoreksi dengan Regresi Ridge dalam Mengatasi Multikolinearitas : Nurhasanah : G : Statistika Disetujui Komisi Pembimbing Dr. Ir. Bambang Juanda, M.S Ketua Anang Kurnia, S.Si, M.Si Anggota Diketahui Ketua Program Studi Statistika Dekan Sekolah Pascasarjana Dr.Ir. Aji Hamim Wigena, MSc Dr.Ir. Khairil Anwar Notodiputro, M.S Tanggal Ujian : 23 Agustus 2006 Tanggal Lulus : 8 September 2006

6 Karena sesungguhnya sesudah kesulitan itu ada kemudahan Sesungguhnya sesudah kesulitan itu ada kemudahan Maka apabila kamu telah selesai dari sesuatu urusan, kerjakanlah dengan sungguh-sungguh urusan yang lain Amat rugilah manusia yang tidak memanfaatkan waktunya untuk berbakti (Qur an 94 : 5-7) Kupersembahkan Tulisan ini untuk orangtua, suami dan anak-anak tercinta

7 P R A K A T A Alhamdulillah, segala puji bagi Allah SWT atas limpahan rahmat dan karunia-nya sehingga karya ilmiah ini berhasil diselesaikan. Tulisan ini merupakan karya ilmiah yang disusun dalam rangka memenuhi salah satu persyaratan untuk memperoleh gelar Magister Sains (MSi) pada Program Studi Statistika, SPS IPB Bogor. Tema yang dipilih dalam penelitian ini adalah perbandingan metode, dengan judul Perbandingan Regresi Komponen Utama Terkoreksi dengan Regresi Ridge dalam Mengatasi Multikolinearitas. Ucapan terima kasih yang tak terhingga penulis sampaikan kepada Bapak Dr.Ir.H. Bambang Juanda, M.S selaku ketua komisi pembimbing dan kepada Bapak Anang Kurnia, S.Si, M.Si selaku anggota komisi pembimbing yang telah banyak mengoreksi dan mengarahkan penulis dengan penuh kesabaran dan pengertian dalam memberikan arahan dan bimbingan yang amat berarti. Juga kepada Ibu Dr.Ir. Erfiani, MS yang telah bersedia bertindak sebagai penguji luar komisi dan memberikan masukan-masukan yang berharga untuk penyempurnaan tulisan ini. Ucapan terima kasih penulis sampaikan juga kepada Bapak Aceng Komaruddin Mutaqin, S.Si, M.T, M.Si dari Unisba Bandung yang dengan penuh kesabaran dan ketulusan telah membantu dalam pembuatan program Matlab. Tak lupa ucapan terima kasih penulis sampaikan kepada staf pengajar dan pimpinan SPS IPB yang telah banyak memberikan ilmu dan fasilitas kepada penulis. Kepada orang tua H.Hasbullah,HZ dan Hj.Nursiah,HS, suami Amiruddin,M.Si, terima kasih atas segenap do a, kasih sayang, pengertian dan dukungan moril yang diberikan kepada penulis. Kakak dan adik-adikku terima kasih atas segenap do a serta anakku Muhammad Aqil Amir yang memberikan motivasi dan inspirasi untuk penulis dalam penyelesaian tulisan ini, semoga tulisan ini menjadi motivasi buat anakku untuk menuntut ilmu meraih masa depan yang lebih baik. Juga untuk kak Anisa, Nani, Tami, Fithri, Enceng, Yuli, dan Nita atas segala do a, perhatian, motivasi, diskusi, saran dan bantuannya dalam penulisan tesis ini. Terakhir, ucapan terima kasih penulis sampaikan kepada rekan-rekan STK terutama angkatan 2002 Tonah, Wiwin, Yenny dan mbak Alu, semua pihak yang telah membantu penyelesaian karya ilmiah ini. Terlepas dari segala kekurangan yang ada, semoga karya ilmiah ini dapat bermanfaat. Bogor, 2006 Nurhasanah

8 R I W A Y A T H I D U P Nurhasanah, dilahirkan di Panton Labu Aceh Utara, pada tanggal 19 Mei 1975, sebagai anak kedua dari enam bersaudara dari Bapak H.Hasbullah, HZ dan Ibu Hj.Nursiah, HS. Pendidikan sarjana ditempuh pada Jurusan Matematika FMIPA Universitas Syiah Kuala Nanggroe Aceh Darussalam. Pada tahun 2002 penulis diterima sebagai mahasiswa Program Studi Statistika pada Sekolah Pasca Sarjana IPB. Beasiswa pendidikan pasca sarjana diperoleh dari Direktorat Perguruan Tinggi (DIKTI) Departemen Pendidikan Nasional.

9 D A F T A R I S I Halaman DAFTAR TABEL... ix DAFTAR GAMBAR... xi DAFTAR LAMPIRAN... xii PENDAHULUAN... 1 Latar Belakang Masalah... 1 Tujuan Penelitian... 3 TINJAUAN PUSTAKA... 4 Regresi Linear Berganda... 4 Multikolinearitas... 6 Regresi Komponen Utama... 8 Regresi Komponen Utama Terkoreksi... 9 Regresi Ridge DATA DAN METODE Data Metode HASIL DAN PEMBAHASAN Kajian Data Simulasi Ilustrasi pada Data Sekunder SIMPULAN DAFTAR PUSTAKA LAMPIRAN... 44

10 D A F T A R T A B E L Halaman 1. Nilai R 2 berdasarkan σ 2 ditetapkan Output nilai rataan ragam, bias dan MSE dugaan parameter dari untuk ukuran contoh n =10, berserta urutannya Output nilai rataan ragam, bias dan MSE dugaan parameter dari untuk ukuran contoh n =20, berserta urutannya Output nilai rataan ragam, bias dan MSE dugaan parameter dari untuk ukuran contoh n =30, berserta urutannya Output nilai rataan ragam, bias dan MSE dugaan parameter dari untuk ukuran contoh n =50, berserta urutannya Output nilai rataan ragam, bias dan MSE dugaan parameter dari untuk ukuran contoh n =100, berserta urutannya Output nilai rataan ragam, bias dan MSE dugaan parameter dari untuk ukuran contoh n =1000, berserta urutannya Output nilai rataan ragam, bias dan MSE dugaan parameter dari untuk ukuran contoh n =1500, berserta urutannya Output nilai rataan ragam, bias dan MSE dugaan parameter dari tiga tingkat multikolinear (R 2 ) pada masing-masing metode untuk ukuran contoh n =10, berserta urutannya