MASALAH-MASALAH DALAM MODEL REGRESI LINIER

Transkripsi

1 MASALAH-MASALAH DALAM MODEL REGRESI LINIER Pendahuluan Analisis model regresi linier memerlukan dipenuhinya berbagai asumsi agar model dapat digunakan sebagai alat prediksi yang baik. Namun tidak jarang peneliti menghadapi masalah dalam modelnya. Berbagai masalah yang sering dijumpai dalam analisis regresi adalah Multikolineritas, Heteroskedastisitas dan Autokorelasi. Multikolinearitas Salah satu asumsi yang digunakan dalam metode OLS adalah tidak ada hubungan linier antara variabel independen. Adanya hubungan antara variabel independen dalam satu regresi disebut dengan multikolinearitas. Multikolinearitas terjadi hanya pada persamaan regresi berganda. Ada kolinieritas antara X 1 dan X 2 : X 1 = γ X2 atau X 2 = γ -1 X 1 X 1 = X 2 + X 3 terjadi perfect multicollinearity X 2 = 4X 1 (perfect multicollinearity) X3 = 4X1 + bilangan random (tidak perfect multicollinearity) Jika dua variabel independen atau lebih saling mempengaruhi, masih bisa menggunakan metode OLS untuk mengestimasi koefisien persamaan regresi dalam mendapatkan estimator yang BLUE. Estimator yang BLUE tidak memerlukan asumsi terbebas dari masalah Multikolinearitas. Estimator BLUE hanya berhubungan dengan asumsi tentang variabel gangguan. Ada dua asumsi penting tentang variabel gangguan yang mempengaruhi sifat dari estimator yang BLUE. 1. Varian dari variabel gangguan adalah tetap atau konstan (homoskedastisitas) 2. TidaK adanya korelasi atau hubungan antara variable gangguan satu observasi dengan variable gangguan observasi yang lain atau sering disebut tidak ada masalah autokorelasi Jika variabel gangguan tidak memenuhi kedua asumsi variabel gangguan tersebut maka estimator yang kita dapatkan dalam metode OLS tidak lagi mengandung sifat BLUE.

2 Adanya Multikolinearitas masih menghasilkan estimator yang BLUE, tetapi menyebabkan suatu model mempunyai varian yang besar Sifat- sifat multikolinieritas secara statistik: 1. Sempurna => β tidak dapat ditentukan, β = ( X T X ) -1 X T Y 2. Tidak sempurna => β dapat ditentukan; tetapi standard error-nya besar, 3 kurang tepat. Tidak ada kolinieritas antara X 1 dan X 2 : X 1 = X 2 2 atau X 1 log X 2 Akibat multikolinieritas: 1. Variansi besar (dan taksiran OLS) 2. Interval kepercayaan lebar (variansi besar SE besar Interval kepercayaan lebar) 3. t rasio tidak signifikan, 4. R 2 tinggi tetapi tidak banyak variabel yang signifikan dari uji t. Cara mengatasi kolinieritas: 1. Melihat informasi sejenis yang ada Konsumsi = σ 0 + σ 1 Pendapatan + σ 2 Kekayaan + u Misalnya : σ 2 = 0,25 σ 1 2. Tidak mengikutsertakan salah satu variabel yang kolinier Dengan menghilangkan salah satu variabel yang kolinier dapat menghilangkan kolinieritas pada model. Akan tetapi, ada kalanya pembuangan salah satu variabel yang kolinier menimbulkan specification bias yaitu salah spesifikasi kalau variabel yang dibuang merupakan variabel yang sangat penting. 3. Mentransforinasikan variabel Y t = β 1 + β 2 X 2t + β 3 X 3t + u t Y t-1 = β 1 + β 2 X 2t-1 + β 3 X 3t-1 + u t-1 (Y t Y t-1) = β 2 (X 2t X 2t-1 ) + β 3 (X 3t X 3t-1) + (u t u t-1 ) Y t * = β 2 X 2t * + β 3 X 3t * + u t *

3 4. Mencari data tambahan Dengan tambahan data, kolineritas dapat berkurang, tetapi dalam praktek tidak mudah untuk mencari tambahan data. 5. Cara-cara lain: transformasi eksponensial dan logaritma APLIKASI EVIEWS Dependent Variable: IHSG Date: 07/10/11 Time: 22:38 Sample: 2009M M05 Included observations: 20 C DJIA SBI KURS INF R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic) Estimation Equation: ===================== IHSG = C(1) + C(2)*DJIA + C(3)*SBI + C(4)*KURS + C(5)*INF Substituted Coefficients: ===================== IHSG = *DJIA *SBI *KURS *INF

4 Correlation Matriks DJIA IHSG INF KURS SBI DJIA IHSG INF KURS SBI INF = F ( IHSG,..) Dependent Variable: INF Date: 07/10/11 Time: 22:52 Sample: 2009M M05 Included observations: 20 C IHSG DJIA SBI KURS R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic) Regresi Auxiliary DJIA = F(KURS, SBI, INF) Dependent Variable: DJIA Date: 07/11/11 Time: 22:18 Sample: 2009M M05 Included observations: 20 C KURS SBI INF

5 R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic) KURS = F(DJIA, SBI, INF) Dependent Variable: KURS Date: 07/11/11 Time: 22:20 Sample: 2009M M05 Included observations: 20 C DJIA SBI INF R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic) SBI = F(DJIA, KURS, INF) Dependent Variable: SBI Date: 07/11/11 Time: 22:21 Sample: 2009M M05 Included observations: 20 C DJIA KURS INF R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion

6 Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic) INF = F(DJIA, KURS, SBI) Dependent Variable: INF Date: 07/11/11 Time: 22:22 Sample: 2009M M05 Included observations: 20 C DJIA KURS SBI R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic) Heteroskedastisitas (Heteroscedasticity) Metode OLS baik model regresi sederhana maupun berganda mengasumsikan bahwa variabel gangguan (u i ) mempunyai rata-rata nol atau E(u i ) = 0, mempunyai varian yang konstan atau Var (u i ) = σ 2 dan variabel gangguan tidak saling berhubungan antara satu observasi dengan observasi lainnya atau Cov (u i, u j ) = 0.

7 Salah satu asumsi yang harus dipenuhi dalam model OLS adalah varian bersifat homoskedastisitas atau Var (u i ) = σ 2. Dalam kenyataannya seringkali varian variabel gangguan adalah tidak konstan atau disebut dengan heteroskedastisitas Catatan: Data cross-sectional cenderung untuk bersifat heteroscedastic karena pengamatan dilakukan pada individu yang berbeda pada saat yang sama. Dampak Heteroskedastisitas terhadap OLS 1. Estimator metode OLS masih linier 2. Estimator metode OLS masih tidak bias 3. Namun estimator metode OLS tidak lagi mempunyai varian yang menimum dan terbaik (no longer best) Cara mengatasi heteroskedastisitas dengan Metode GLS Y j = β 1 + β 2 X j + u j dengan Var (u j ) = σ j 2 masing-masing dikalikan 1 : Y j = β β 2 X j + u j σ j σ j σ j σ j σ j Maka diperoleh transformed model sebagai berikut: Y i * = β 1 * + β 2 X i * + u i * Kita periksa dulu apakah u i * homoskedastis? E (u i *) = E u i = 1 E(u i ) = 1 (σ i 2 ) = 1 konstan σ i σ i 2 σ i 2 Dengan demikian u i homoskedastis. Kita akan menaksir transformed model dengan OLS dan taksiran yang diperoleh akan BLUE, sedangkan model ash yang belum ditransformasikan (original model) bila

8 ditaksir dengan OLS, taksirannya tidak BLUE. Prosedur yang menaksir transformed model dengan OLS disebut metode Generalized Least Square (GLS). Dampak OLS bila ada heteroskedastisitas (i) variansi dan taksiran lebih besar (ii) uji t dan F kurang akurat (iii) interval kepercayaan sangat besar (iv) kesimpulan yang kita ambil dapat salah Cara mendeteksi adanya heteroskedastisitas tidak mudah mendeteksinya : intuisi, studi terdahulu, dugaan Bila kita menggunakan data cross-section yang sangat heterogen untuk melihat total penjualan dan perusahaan kecil, menengah dan sangat besar, sudah dapat diduga bahwa akan ada masalah heteroskedastisitas. Uji Park Lakukan langkah-langkah berikut: In u 2 i = σ + β In X i + vi; u i : error term regresi : Y i = σ 0 + β 0 X i + u i Bila β secara statistik signifikan, maka ada heteroskedastisitas Uji Goldfeld Quandt Metode Goldfeld Quandt sangat populer untuk digunakan, namun agak repot. Langkah-langkah pada metode ini adalah sebagai berikut: 1. Urutkan pengamatan berdasarkan nilai X dan kecil ke besar 2. Abaikan pengamatan sekitar median, katakanlah sebanyak c pengamatan 3. Sisanya, masih ada (N c) pengamatan 4. Lakukan regresi pada pengamatan ( N c ) yang pertama. Hitung RSS 1, Residual Sum of Squares pertama 2 5. Lakukan regresi pada pengamatan ( N c )yang kedua. Hitung RSS 2, Residual Sum of Squares yang kedua 2 6. Hitung λ = RSS 2 /df 2 RSS 1 /df 1

9 df= degrees of freedom = derajat bebas df = banyaknya pengamatan dikurangi banyaknya parameter yang ditaksir 7. Lakukan uji F Bila λ > F, kita tolak hipotesis yang mengatakan data mempunyai variansi yang homoskedastis Aplikasi Eviews White Heteroskedasticity Test: F-statistic Probability Obs*R-squared Probability Test Equation: Dependent Variable: RESID^2 Date: 07/10/11 Time: 23:30 Sample: 2005M M07 Included observations: 73 C DJIA DJIA^ DJIA*SBI DJIA*KURS SBI SBI^ SBI*KURS KURS KURS^ R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic)

10 Autokorelasi Secara harfiah autokorelasi berarti adanya korelasi antara anggota observasi satu dengan observasi yang lain yang berlainan waktu. Dalam kaitannya dengan asumsi metode OLS, autokorelasi merupakan korelasi antara satu variabel gangguan dengan variabel gangguan yang lain. Sedangkan salah satu asumsi penting metode OLS berkaitan dengan variabel gangguan adalah tidak adanya hubungan antara variabel gangguan satu dengan variabel gangguan yang lain. Tidak adanya serial korelasi antara variabel gangguan ini sebelumnya dinyatakan: Tidak ada korelasi bila E ( u i, u j ) = 0 ; i j Jika Ada autokorelasi bila E ( u i, u j ) 0 ; i j Autokorelasi dapat berbentuk autokorelasi positif dan autokorelasi negatif. Dalam analisis runtut waktu, lebih besar kemungkinan terjadi autokorelasi positif, karena variabel yang dianalisis biasanya mengandung kecenderungan meningkat, misalnya IHSG dan Kurs Autokorelasi terjadi karena beberapa sebab. Menurut Gujarati (2006), beberapa penyebab autokorelasi adalah: 1. Data mengandung pergerakan naik turun secara musiman, misalnya IHSG kadang menaikan dan kadang menurun 2. Kekeliruhan memanipulasi data, misalnya data tahunan dijadikan data kuartalan dengan membagi empat 3. Data runtut waktu, yang meskipun bila dianalis dengan model y t = a + b x t + e t karena datanya bersifat runtut, maka berlaku juga y t-1 = a + b x t-1 + e t-1. Dengan demikian akan terjadi hubungan antara data sekarang dan data periode sebelumnya 4. Data yang dianalisis tidak bersifat stasioner Pengaruh Autokorelasi Apabila data yang kita analisis mengandung autokorelasi, maka estimator yang kita dapatkan memiliki karakteristik berikut ini: a. Estimator metode kuadrat terkecil masih linier

11 b. Estimator metode kuadrat terkecil masih tidak bias c. Estimator metode kuadrat terkecil tidak mempunyai varian yang menimum (no longer best) Dengan demikian, seperti halnya pengaruh heteroskedastisitas, autokorelasi juga akan menyebabkan estimator hanya LUE, tidak lagi BLUE. Kasus ada autokorelasi (i) Jika pendapatan keluarga i meningkat, konsumsi keluarga i meningkat, dan konsumsi keluarga j ikut rneningkat pula; i j (ii) Fenomena Cob Web : Supply tergantung dan harga komoditas periode lalu (Supply)t = βi + β2 Pt-1 + Ut Estimasi OLS pada saat ada autokorelasi Y t = β 1 + β 2 X t + u t ; E (u t, u t+s ) 0, berarti u t dan u t+s berautokorelasi ; misalkan : U t = p U t-1 + ε t Apakah β 1 dan β 2 BLUE? (tidak, karena variansinya tidak minimum lagi) Oleh karena itu, gunakan GLS pada saat terjadi autokorelasi Mengindentifikasi Autokorelasi Uji Durbin-Watson (Uji D-W) Uji D-W merupakan salah satu uji yang banyak dipakai untuk mengetahui ada tidaknya autokorelasi. Hampir semua program statistic sudah menyediakan fasilitas untuk menghitung nilai d (yang menggambarkan koefisien DW). Nilai d akan berada di kisaran 0 hingga 4. Jika nilai d berada antara 0 sampai 1,10 Tolak H o, berarti ada autokorelasi positif Jika nilai d berada antara 1,10 sampai 1,54 Tidak dapat diputuskan Jika nilai d berada antara 1,54 sampai 2,46 Tidak menolak H o, berarti tidak ada autokorelasi Jika nilai d berada antara 2,46 sampai 2,90 Tidak dapat diputuskan Jika nilai d berada antara 2,90 sampai 4 Tolak H o, berarti ada autokorelasi negatif

12 p = koefisien autokorelasi. -1 p 1. Sehingga: 0 d 4 Pada saat p = 0, d = 2, artinya tidak ada korelasi Pada saat p = 1, d = 0, artinya ada korelasi positif Pada saat p = -1, d 4, artinya ada korelasi negatif Pengamatan kasar: Bila d dekat dengan 2, p akan dekat dengan nol, jadi tidak ada korelasi. Ada uji yang lebih spesifik, menggunakan Tabel Durbin-Watson dengan melihat nilai d L dan d U Meskipun Uji D-W ini relatif mudah, tetapi ada beberapa kelemahan yang harus diketahui. Kelemahan-kelemahan tersebut adalah sebagai berikut: a. Uji D-W hanya berlaku bila variabel independennya bersifat random (stokastik) b. Bila model yang dianalisis menyertakan data yang didiferensi, misalnya model auotoregressive AR(p), uji D-W hanya berlaku pada AR(1), sedang pada AR(2) dan seterusnya, uji D-W tidak dapat digunakan c. Uji D-W tidak dapat digunakan pada model rata-rata bergerak (moving average). Uji Breusch-Godfrey (Uji BG) Nama lain dari uji BG adalah Uji Lagrange-Multiplier. Dari nilai probability lebih kecil dari α = 5% yang mengindikasikan bahwa data mengandung masalah autokorelasi Breusch-Godfrey Serial Correlation LM Test: F-statistic Probability Obs*R-squared Probability Test Equation: Dependent Variable: RESID

13 Date: 10/03/10 Time: 07:34 Presample missing value lagged residuals set to zero. C KURS SBI RESID(-1) RESID(-2) R-squared Mean dependent var 1.07E-12 Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic) Cara pengobatan Autokorelasi Secara umum susah untuk mengatasinya. Transformasi logaritma dapat mengurangi korelasi. Hanya saja, kadang-kadang data-data yang dianalisis ada data yang negatif sehingga kita tidak dapat melakukan transformasi logaritma. Kalau kita tahu atau dapat menduga bahwa hubungan korelasinya adalah spesifik, misalnya u t = p u t-1 + ε t dan p dapat dihitung/dicari atau diketahui, maka kita dapat rnenggunahan GLS untuk mencari taksiran yang BLUE (Best Linear Unbiased Estimator).

14