STK511 Analisis Statistika. Pertemuan 11 Regresi Berganda

Transkripsi

1 STK511 Analisis Statistika Pertemuan 11 Regresi Berganda

2 SALDO 11. Analisis Regresi (2) Review: Regresi Linier Sederhana Regression Analysis: Saldo versus Jumlah Nasabah The regression equation is Saldo = Jumlah Nasabah Predictor Coef SE Coef T P Constant Jumlah Nasabah S = R-Sq = 67.9% R-Sq(adj) = 65.6% Analysis of Variance Source DF SS MS F P Regression Residual Error Total ,200 1, ,000 4,000 6,000 8,000 10,000 JMLNASABAH

3 11. Analisis Regresi (2) Pencilan dan Pengamatan Berpengaruh Ilustrasi: Pengamatan ini meliputi X yang berupa umur anak pada saat mengucapakan kata kata pertama kalinya (dalam bulan) dan Y berupa skor daya nalar dari masing-masing anak.

4 11. Analisis Regresi (2) Pencilan dan Pengamatan Berpengaruh Ilustrasi: Pengamatan ini meliputi X yang berupa umur anak pada saat mengucapakan kata kata pertama kalinya (dalam bulan) dan Y berupa skor daya nalar dari masing-masing anak. Pencilan dapat dilihat sebagai pengamatan dengan sisaan yang cukup besar (( r i >2 atau r i >3) Pengamatan berpengaruh lebih berkaitan dengan besarnya perubahan yang terjadi pada koefisien regresi jika pengamatan tersebut disisihkan

5 11. Analisis Regresi (2) Pencilan dan Pengamatan Berpengaruh Plot Sisaan Persamaan Regresi: Ŷi = Xi S = R-Sq = 41.1% t = -3.64

6 11. Analisis Regresi (2) Pencilan dan Pengamatan Berpengaruh Penyisihan pengamatan ke-2, ke-18 dan ke-19 Ŷi = Xi R² = 0.06 ; s = 8.55 dan t = Penyisihan pengamatan ke-18 dan ke-19 Ŷi = Xi R² = 0.35 ; s = dan t = Penyisihan pengamatan ke-2 Ŷi = Xi R² = 0.35 ; s = dan t = Penyisihan pengamatan ke-18 Ŷi = Xi R² = 0.11 ; s = dan t = Persamaan Regresi (full data): Ŷi = Xi S = R-Sq = 41.1% t = Penyisihan pengamatan ke-19 Ŷi = Xi R² = 0.57 ; s = 8.63 dan t = 4.90

7 11. Analisis Regresi (2) Pencilan dan Pengamatan Berpengaruh 2 1 xi -x xi -x hii ; hii p n x - x k Hoaglin dan Welsch( 1978): h ii > 2p/n Huber (1981) : h ii > 0.5 besar; h ii > 0.2 peringatan Pada dasarnya nilai h ii semakin besar menunjukkan semakin besar potensi sebagai pengamatan berpengaruh

8 11. Regresi Linier Berganda Regresi Linier Berganda Melibatkan lebih dari satu peubah penjelas Memodelkan hubungan antara jumlah nasabah dan lama operasi kantor cabang terhadap nilai total saldo pada suatu waktu tertentu Memodelkan hubungan antara luas bangunan, umur bangunan, kedekatan dengan jalan tol, dan banyaknya kamar mandi terhadap harga jual rumah Memodelkan hubungan intensitas cahaya dan suhu terhadap waktu kunang-kunang mulai bercahaya

9 11. Regresi Linier Berganda Ilustrasi Peubah Respon Harga (harga rumah dalam juta rupiah) Peubah Penjelas Luas bangunan (luas bangunan, dalam m 2 ) Dekat tol (jarak dengan jalan tol, dalam km) Umur (umur bangunan, dalam tahun)

10 11. Regresi Linier Berganda Ilustrasi Regression Analysis: harga versus luasbangunan, dekattol, umur The regression equation is harga = luasbangunan dekattol umur Predictor Coef SE Coef T P Constant luasbangunan dekattol umur S = R-Sq = 84.1% R-Sq(adj) = 83.3% Analysis of Variance Source DF SS MS F P Regression Residual Error Total

11 11. Regresi Linier Berganda Sedikit Teori.

12 11. Regresi Linier Berganda Sedikit Teori.

13 11. Regresi Linier Berganda Sedikit Teori.

14 11. Regresi Linier Berganda Pengujian Pengaruh Peubah Bebas Uji Simultan ANOVA digunakan untuk menguji secara simultan pengaruh seluruh X terhadap Y H 0 : semua b i = 0 (tidak ada X yang berpengaruh terhadap Y) H 1 : ada b i 0 (ada X yang berpengaruh terhadap Y) Uji Parsial Menguji pengaruh setiap peubah bebas satu persatu. Dilakukan jika uji simultan menyatakan tolak H0 (signifikan)

15 11. Regresi Linier Berganda Ilustrasi Regression Analysis: harga versus luasbangunan, dekattol, umur The regression equation is harga = luasbangunan dekattol umur Predictor Coef SE Coef T P Constant luasbangunan dekattol umur S = R-Sq = 84.1% R-Sq(adj) = 83.3% Analysis of Variance Source DF SS MS F P Regression Residual Error Total

16 11. Regresi Linier Berganda Multikolinearitas Sekelompok peubah bebas saling terkait linear Multikolinearitas sempurna menyebabkan pendugaan model tidak dapat dilakukan Matriks X X bersifat singular Penduga koefisien bersifat tidak stabil (standard error-nya besar).

17 11. Regresi Linier Berganda Pemeriksaan Multikolinearitas Sering dicirikan dengan kondisi model memiliki R 2 yang besar, tapi peubah bebasnya tidak signifikan Diindikasikan menggunakan nilai VIF (variance inflation factor). Nilai VIF ideal adalah 1. Jika ditemui nilai VIF yang besar, perlu diwaspadai keberadaan masalah multikolinearitas. R i 2 = koefisien determinasi model antara Xi dengan X yang lain

18 11. Regresi Linier Berganda Teknik Mengatasi Multikolinearitas Jika kita ingin memilih peubah X dimana hanya X yang signifikan akan memasuki model Gunakan prosedur penyeleksian peubah, seperti forward, backward, stepwise Jika kita ingin mempertahankan konfigurasi peubah X yang akan memasuki model Gunakan metoda estimasi diluar metoda kuadrat terkecil, seperti Ridge Regression, Principal Component Regression, Partial Least Square

19 Pengantar Pemodelan Regresi dengan Peubah Penjelas Bersifat Kategorik Regression with Dummy Variables

20 11. Regresi Linier Berganda Peubah Dummy (Boneka) Peubah penjelas di regresi bersifat numerik. Di beberapa kasus, perlu melibatkan peubah kategorik dalam model. Misal, dalam memprediksi harga rumah perlu memasukkan informasi mengenai lokasi (tepi jalan raya, kompleks perumahan, perkampungan) Peubah penjelas kategorik harus diubah menjadi peubah numerik. Peubah dummy, memerankan fungsi yang dimaksud di atas

21 11. Regresi Dummy Ilustrasi Andaikan ingin dimodelkan variabel harga rumah dengan variabel penjelas adalah luas bangunan dan lokasi. Terdapat tiga jenis lokasi yaitu: tepi jalan raya, kompleks perumahan, dan perkampungan Dibutuhkan dua peubah dummy Kategori D1 D2 Tepi jalan raya 1 0 Perumahan 0 1 Perkampungan 0 0 Selanjutnya, D1 dan D2 dimasukkan dalam model regresi menggantikan peran peubah lokasi.

22 11. Regresi Dummy Ilustrasi: Model 1 Harga = b 0 + b 1 Luas + b 2 D 1 + b 3 D 2 Model di atas dapat dipecah menjadi tiga model, yang menggambarkan hubungan luas terhadap harga di tiga lokasi berbeda Tepi jalan raya: D1 = 1, D2 = 0 Harga = b 0 + b 1 Luas + b 2 (1) + b 3 (0) = (b 0 + b 2 ) + b 1 Luas Perumahan: D1 = 0, D2 = 1 Harga = b 0 + b 1 Luas + b 2 (0) + b 3 (1) = (b 0 + b 3 ) + b 1 Luas Perkampungan D1 = 0, D2 = 0 Harga = b 0 + b 1 Luas + b 2 (0) + b 3 (0) = (b 0 ) + b 1 Luas Slope sama, intersep berbeda

23 11. Regresi Dummy Ilustrasi: Model 1 Harga Tepi jalan raya Perumahan Perkampungan Luas Bangunan

24 11. Regresi Dummy Ilustrasi: Model 1 The regression equation is harga = luasbangunan D D2 Predictor Coef SE Coef T P Constant luasbangunan D D S = R-Sq = 82.9% R-Sq(adj) = 82.0% Analysis of Variance Source DF SS MS F P Regression Residual Error Total

25 11. Regresi Dummy Ilustrasi: Model 2 Harga = b 0 + b 1 Luas + b 2 D 1 + b 3 D 2 + b 4 D 1 Luas + b 5 D 2 Luas Model di atas dapat dipecah menjadi tiga model yang menggambarkan hubungan luas terhadap harga di tiga lokasi berbeda Tepi jalan raya: D1 = 1, D2 = 0 Harga = (b 0 + b 2 )+ (b 1 + b 4 ) Luas Perumahan: D1 = 0, D2 = 1 Harga = (b 0 + b 3 )+ (b 1 + b 5 ) Luas Perkampungan D1 = 0, D2 = 0 Harga = (b 0 ) + b 1 Luas Slope dan intersep berbeda

26 11. Regresi Dummy Ilustrasi: Model 2 Harga Tepi jalan raya Perumahan Perkampungan Luas Bangunan

27 11. Regresi Dummy Ilustrasi: Model 2 The regression equation is harga = L D D D1L D2L Predictor Coef SE Coef T P Constant luasbangunan D D D1L D2L S = R-Sq = 83.9% R-Sq(adj) = 82.5% Analysis of Variance Source DF SS MS F P Regression Residual Error Total

28 Bersambung.