Analisis Regresi Linier Wihandaru Sotya Pamungkas Pendahuluan 1
Pendahuluan A. Pengertian Regresi dan Korelasi Istilah regresi diperkenalkan oleh Francis Galton tahun 1886 diperkuat oleh Karl Pearson tahun 1903. Pengertian regresi secara umum adalah studi ketergantungan satu variabel tergantung (variabel dijelaskan atau variabel tak bebas) pada satu atau lebih variabel lain (variabel penjelas atau variabel bebas), dengan tujuan untuk menaksir atau memprediksi nilai rata-rata hitung (mean) atau rata-rata (populasi) variabel tak bebas, berdasarkan nilai yang diketahui atau tetap (dalam pengambilan sampel berulang-ulang) dari variabel penjelas (explanatory variable). Wihandaru Sotya Pamungkas Pendahuluan
Menurut Gujarati, tujuan analisis regresi: a. Untuk mengestimasi nilai rata-rata variabel tergantung dan nilai variabel penjelas tertentu. b. Untuk menguji hipotesis mengenai sifat alamiah ketergantungan (interdependentcy) sesuai dengan teori ekonomi. c. Untuk memprediksi atau meramalkan nilai rata-rata variabel tergantung dan nilai variabel penjelas tertentu. Analisis korelasi digunakan untuk mengukur kekuatan (strength) atau tingkat hubungan linier (degree of linear association) antara dua variabel. Dalam analisis korelasi baik variabel bebas (variabel penjelas) maupun variabel tergantung (variabel dijelaskan) diperlakukan secara simetris atau seimbang dimana tidak ada perbedaan antara variabel bebas (variabel penjelas) dengan variabel terikat (variabel dijelaskan). Dalam analisis regresi, variabel bebas (variabel penjelas) dengan variabel tergantung (variabel dijelaskan) diperlakukan secara asimetris. Wihandaru Sotya Pamungkas Pendahuluan 3
Hubungan antara X (variabel bebas) dengan Y (variabel tergantung) yang berbentuk fungsi Y= f(x), dikatakan pasti (deteriministik atau non-stokastik). Misal, hubungan nonstokastik: permintaan akan suatu barang A diasumsikan tergantung pada harga barang A itu saja, sementara faktor lain dianggap konstan (ceteris paribus). Q = f(p) = α + βp B. Pengertian Linier Istilah linier dapat diartikan dengan dua cara yang berbeda, yaitu (Gujarati): 1. Linieritas dalam Variabel Linieritas adalah nilai rata-rata harapan variabel tergatung (variabel dijelaskan) adalah fungsi linear dari variabel bebas (variabel penjelas). E(Y X i ) = β 0 + β 1 X 1. Secara geometrik, kurva regresi dalam kasus ini adalah suatu garis lurus. Dalam interpretasi, suatu fungsi regresi seperti E(Y X i ) = β 0 + β 1 X 1, adalah bukan fungsi regresi linier karena variabel X berpangkat dua (kuadrat). Wihandaru Sotya Pamungkas Pendahuluan 4
. Linieritas dalam Parameter Arti linieritas yang kedua adalah bahwa harapan bersyarat dari Y, E(Y X i ) adalah fungsi linier dari parameter β; fungsi tadi mungkin linear atau tidak linier dalam variabel X. Dalam interpretasi ini, E(Y X i ) = β 0 + β 1 X 1 adalah model regresi linier, tetapi E(Y X ) = β + β X bukan fungsi linier. i 0 Dari dua interpretasi di atas regresi linier selalu diartikan dengan suatu regresi dalam parameter (β); regresi tadi mungkin linier mungkin tidak linier dalam variabel penjelas. 1 1 Wihandaru Sotya Pamungkas Pendahuluan 5
C. Regresi Linier Bersyarat Berganda Untuk memahami regresi linier bersyarat berganda, digunakan model regresi (model estimasi): Y = b 0 + b 1 X 1 + b X + e Keterangan Y X 1 ; X b 0 ; b 1 ; b e Variabel tergantung Variabel bebas nilai parameter yang ditaksir menggunakan metode kuadrat terkecil dan menggunakan sampel sebanyak n Faktor gangguan b 1 = yx 1 x yx x 1 x ( x 1 x x ) 1 x 1 b = yx x 1 yx 1 x 1 x ( x 1 x x ) 1 x 1 Wihandaru Sotya Pamungkas Pendahuluan 6
_ b 0 = Y (b1 X 1 + b X ) e = Y ^ Y D. Sifat-sifat Metode Ordinary Least Square (OLS) dalam Regresi Linear Bersyarat Berganda _ Y 1 Sifat-sifat dan atau ciri-ciri fungsi regresi Y = b 0 + b 1 X 1 + b X + e a. Garis regresi linier bersyarat berganda melewati nilai ratarata:, X, X. b. Nilai rata-rata Y yang diestimasi ( = ^ Y ), sama dengan nilai rata-rata Y yang sebenarnya. _ = c. e = e 0 d. Faktor pengganggu, e, tidak berkorelasi dengan ^ Y, yaitu Wihandaru Sotya Pamungkas Pendahuluan 7
e ^. Y = 0 e. Faktor pengganggu, e, tidak berkorelasi dengan X 1 dan X, yaitu: e.x = e.x 1 = 0 f. Untuk tujuan pengujian hipotesis, maka diasumsikan faktor pengganggu, e, didistribusikan secara normal dengan nilai rata-rata 0 dan varian δ, sehingga penaksir-penaksir ^ ^ ^ 0,b1, b b dengan sendirinya didistribusikan secara normal 0, b1, b dengan rata-rata masing-masing dengan. g. Dengan asumsi kenormalan dapat ditunjukkan bahwa ^ ( N 3) δ / δ mengikuti distribusi X derajad bebas (n 3) n = jumlah data. b Wihandaru Sotya Pamungkas Pendahuluan 8
E. Memilih Model Empiris Secara umum dapat dikemukakan bahwa model yang baik adalah: a. Parsimony, model ekonometrika yang baik hanya memasukkan variabel-variabel yang dianggap penting dan dipilih berdasarkan teori ekonomi serta fenomena yang sesuai. b. Data admissibility, model ekonometrika yang baik hendaknya mampu memprediksi besaran-besaran ekonomi yang sesuai dengan teori ekonomi. c. Data coherency, model yang yang baik hendaknya mampu menjelaskan data yang ada. Biasanya kriteria ini menggunakan koefisien determinasi (R ), khususnya peneliti yang menggunakan analisis regresi linier (pelajari koefisien determinasi). d. Constant parameter, parameter yang diestimasi harus konstan dalam arti bahwa parameter dari model yang baik adalah besaran statistik yang deterministik (pasti) dan bukan Wihandaru Sotya Pamungkas Pendahuluan 9
stokastik. e. Theoritical consistency, model yang baik adalah model yang konsisten dengan teori ekonomi yang dipilih atau teori pesaingnya. Cara sederhana untuk mengidentifikasi apakah hasil estimasi mempunyai indikasi konsisten dengan teori adalah melihat tanda koefisien regresi. Misal harga saham berbanding terbalik dengan beta (risiko), semakin tinggi beta (risiko) semakin rendah harga saham, sehingga tanda [negatif]. f. Encompassing, model yang digunakan mampu mengungguli model pesaingnya (model yang lain). F. Asumsi Klasik Dalam buku ekonometrika ada beberapa asumsi klasik, yaitu (Gujarati, 1999): a. Model regresi adalah linier, yaitu linier di dalam parameter. b. Nilai X i (variabel penjelas) adalah tetap untuk sampel yang berulang-ulang. Wihandaru Sotya Pamungkas Pendahuluan 10
c. Conditional expected value dari residual tergatung pada X i adalah 0. d. Homoskedastisitas. e. Tidak otokorelasi pada residual. f. Kovarian antara e i dan X i adalah 0 g. Jumlah observasi harus lebih banyak dibanding banyaknya parameter yang akan diestimasi (n> X i ). h. Variabilitas pada X i, yaitu X i dalam sampel tertentu harus mempunyai nilai yang tidak sama. i. Spesifikasi dari model regresi (model estimasi) yang digunakan harus benar. j. Tidak ada multikolinieritas sempurna. k. Unsur pengganggu (e i ) berdistribusi normal. Wihandaru Sotya Pamungkas Pendahuluan 11
G. Keandalan Estimasi Keandalan estimasi parameter dapat dikaji melalui 3 kriteria: a. Kriteria ekonomi, kriteria ini didasarkan pada teori ekonomi dan berhubungan dengan tanda dan magnitude parameter. b. Kriteria statistika, kriteria ini didasarkan pada (a) uji F (uji signifikansi secara serentak), (b) uji t (uji signifikansi secara partial) dan (c) Koefisien determinasi (R ) atau goodness of fit. c. Kriteria penyimpangan terhadap asumsi klasik, kriteria ini antara lain: (a) normalitas, (b) linieritas, (c) nonmultikolinearitas, (d) homoskedastisitas dan (e) nonotokorelasi. Wihandaru Sotya Pamungkas Pendahuluan 1
H. Sifat BLU a. Best: sifat varian terkecil secara sendirian tidak dibutuhkan, karena suatu taksiran memiliki varian nol [0], namun memiliki penyimpangan yang besar (enormous bias). Sifat varian minimum dibutuhkan jika dikombinasikan dengan sifat tidak bias (un-biasedness). Sifat ini penting dalam uji statistik (uji signifikansi) baku terhadap konstanta (b 0 ) dan koefisien regresi (b 1.. b k ), serta membuat interval keyakinan taksiran-taksiran. b. Linear: sifat ini dibutuhkan untuk memudahkan perhitungan dalam penaksiran. c. Un-biasedness: secara sendirian sifat ini tidak bergunan, namun akan bergunan jika jumlah sampel sangat besar. Penaksir parameter diperoleh dari sampel besar diharapkan dapat lebih mendekati pada nilai parameter sebenarnya. Wihandaru Sotya Pamungkas Pendahuluan 13
Daftar Pustaka Ghozali, Imam (007), Edisi 4, Aplikasi Analisis Multivariate dengan Program SPSS, BP Universitas Diponegoro, Semarang. Gujarati, Damodar N. (1995), Third Edition, Basics Econometrics, McGraw-Hill, New York. Sumodiningrat, Gunawan (1998), Edisi I, Ekonometrika Pengantar, BPFE, Yogyakarta. Wihandaru Sotya Pamungkas Pendahuluan 14