Analisa Regresi Berganda

Transkripsi

1 Analisa Regresi Berganda Tjipto Juwono, Ph.D. June 18, 2015 TJ (SU) Regresi Ganda May / 23

2 Data Home Cost Temp Ins Age ($) ( F) (In.) (y) Home Cost Temp Ins Age ($) ( F) (In.) (y) TJ (SU) Regresi Ganda May / 23

3 Data Ŷ = a+b 1 X 1 +b 2 X 2 +b 3 X 3 Ŷ: Biaya pemanasan rumah di daerah dingin (dalam $) X 1 : Suhu rata-rata di luar ( F) X 2 : Tebal rata-rata dinding insulator (inch) X 3 : Usia pemanas (Year) TJ (SU) Regresi Ganda May / 23

4 Ringkasan Output (Excel) TJ (SU) Regresi Ganda May / 23

5 Scatter Plots Scatter plot antara masing-masing variabel independen dan variabel dependen memberikan informasi awal yang berguna Dapat dilihat apakah ada korelasi negatif/positif Apakah ada korelasi yang cukup kuat TJ (SU) Regresi Ganda May / 23

6 Scatter Plots

7 Menguji Asumsi dari Regresi Ganda Linearitas. Ada hubungan dalam bentuk garis lurus antara variabel dependen dan variabel-variabel independen. Homoskedastisitas. Variasi residual sama untuk semua Y. Normalitas. Residu mengikuti distribusi normal. Multikolinearitas. Variabel-variabel independen tidak berkorelasi satu sama lain. TJ (SU) Regresi Ganda May / 23

8 Residuals: Linearitas dan Homoskedastisitas TJ (SU) Regresi Ganda May / 23

9 Residuals: Linearitas Nilai residual terdistribusi secara random baik secara positip maupun negatip dalam distribusi yang kurang lebih sama. Tidak ada pola apapun dalam distribusi nilai residual TJ (SU) Regresi Ganda May / 23

10 Residuals: Homoskedastisitas Nilai residual terdistribusi secara random baik secara positip maupun negatip dalam distribusi yang kurang lebih sama. Distribusi residual untuk nilai Y yang kecil sama dengan untuk Y yang besar. TJ (SU) Regresi Ganda May / 23

11 Normality TJ (SU) Regresi Ganda May / 23

12 Multikolinearitas Temp Ins Age Temp Ins Age Multikolinearitas tidak mempengaruhi kemampuan persamaan regresi dalam memprediksi Namun multikolinearitas yang kuat membuat variabel independen menjadi redundant dan bertingkah laku tidak seperti yang diharapkan (umpamanya kita mengharapkan kenaikan positip satu variabel independen berpengaruh positip pada variabel dependen, tetapi itu ternyata tidak terjadi) Multikolinearitas menyebabkan kekeliruan kesimpulan dalam pengujian hipotesa TJ (SU) Regresi Ganda May / 23

13 Multikolinearitas Batas Multikolinearitas Dianggap lemah jika pada interval 0.7 r 0.7 Beberapa petunjuk adanya problem multikolinearitas: Suatu variabel independen yang penting ternyata menjadi tidak signifikan Suatu koefisien regresi yang diharapkan positip, ternyata negatip, atau kebalikannya Ketika suatu variabel independen ditambahkan, atau dihilangkan, terjadi perubahan drastis pada koefisien regresi sisanya. TJ (SU) Regresi Ganda May / 23

14 Multikolinearitas Tes yang lebih tepat untuk multikolinearitas adalah Variance Inflation Factor 1 VIF = 1 Rj 2 (1) R 2 j dihitung dengan cara memilih salah satu variabel independen sebagai variabel dependen dan menjadikan variabel independen sisanya sebagai variabel independen. Jika diperoleh nilai VIF > 10, maka dianggap ada masalah kolinearitas dan variabel independennya harus dicoret dari analisa. TJ (SU) Regresi Ganda May / 23

15 Persamaan Regresi Persamaan Regresi Ŷ = X X X 3 (2) TJ (SU) Regresi Ganda May / 23

16 Tabel Anova Source df SS MS F Regression k SSR MSR=SSR/k MSR/MSE Residual n-(k+1) SSE MSE=SSE/(n-(k+1)) Total n-1 SS Total SSR = (Ŷ Ȳ) 2 (3) SSE = (Y Ŷ)2 (4) SS Total = (Y Ȳ) 2 (5) TJ (SU) Regresi Ganda May / 23

17 Multiple Standard Error of Estimate Misalkan diketahui: Biaya pemanasan 250$ Suhu di luar 35 F Ketebalan insulator 3 inches Usia pemanas 6 tahun Estimasi biaya pemanasan adalah: Ŷ = X X X 3 = (35) (3) (6) (6) = TJ (SU) Regresi Ganda May / 23

18 Multiple Standard Error of Estimate Residual (Y Ŷ)= = Residual ini merupakan error random untuk salah satu data Residual Kuadrat (Y Ŷ) 2 =79.21 Jika kita ulang perhitungan ini untuk 19 data lainnya, dan menjumlahkannya, maka kita memperoleh SSR pada tabel ANOVA. Dengan informasi ini kita dapat menghitung Multiple Standard Error of Estimate. s yx = MSE (7) = SSR n (k +1) (8) (Y Ŷ) 2 = n (k +1) (9) TJ (SU) Regresi Ganda May / 23

19 Coefficient of Determination Coefficient of Multiple Determination R 2 = SSR SS Total Adjusted Coefficient of Multiple Determination R 2 adj = 1 SSE/(n (k +1)) SS Total/(n 1) (10) (11) TJ (SU) Regresi Ganda May / 23

20 Ringkasan Output (Excel) TJ (SU) Regresi Ganda May / 23

21 Global Test Hipotesa H 0 : β 2 = β 3 = β 4 = 0 H 1 : Tidak semua β i sama dengan nol (12) Dari tabel ANOVA: F = MSR MSE = 21.9 (13) Dari Tabel-F: F(3,16) = 3.24 (14) TJ (SU) Regresi Ganda May / 23

22 Individual Test Temperature Insulator Usia Pemanas H 0 : β 2 = 0 H 0 : β 3 = 0 H 0 : β 4 = 0 H 1 : β 2 0 H 1 : β 3 0 H 1 : β 4 0 Menguji Koefisien Regresi Secara Individu t = b i 0 s bi (15) TJ (SU) Regresi Ganda May / 23

23 Individual Test Untuk temperature, diperoleh t = Untuk insulator, diperoleh t = Untuk usia pemanas, diperoleh t = Untuk α = 0.05, t critical = Kesimpulan: Koefisien regresi untuk temperature dan insulator tidak sama dengan nol. tetapi untuk usia pemanas koefisien regresinya dapat nol. Lebih lanjut lagi, p value untuk usia pemanas adalah lebih dari Variabel usia pemanas bukanlah prediktor yang signifikan dan dapat dicoret dari analisa. TJ (SU) Regresi Ganda May / 23