Analisa Regresi Dua Variabel: Estimasi Tjipto Juwono, Ph.D. April 22, 2016 TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 1 / 26
PRF vs SRF Apa Perbedaan PRF dan SRF Population Regression Function Diperoleh dari populasi dengan dengan cara menghubungkan semua conditional mean. Sample Regression Function Diperoleh dari sample dengan cara metode least squares TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 2 / 26
PRF vs SRF Gambar 1: Populasi terdiri dari 60 keluarga terbagi atas 10 income groups TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 3 / 26
Mean Values Vs Fixed Values Gambar 2: Grafik E(Y X) vs X. Populasi terdiri dari 60 keluarga terbagi atas 10 income groups TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 4 / 26
Sampel Gambar 3: Sampel-1, dari data pada tabel Gbr (1) Gambar 4: Sampel-2, dari data pada tabel Gbr (1) TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 5 / 26
Sample Regression Function Gambar 5: SRF, diperoleh dari dua sample pada Gbr. (3,4) TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 6 / 26
PRF vs SRF Gambar 6: Perbandingan antara PRF dan SRF TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 7 / 26
Least Squares Principles Ingat kembali PRF: Y i = β 1 +β 2 X i +u i (1) Apa yang terjadi jika kita tidak mempunyai data populasi, dan hanya mempunyai data sampel? Artinya: PRF (Pers. (1)) tidak diketahui. Kita meng-estimasi PRF, dengan SRF: Y i = ˆβ 1 + ˆβ 2 X i +û i = Ŷi +û i (2) Pertanyaannya adalah: Bagaimana cara memperoleh SRF? TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 8 / 26
Least Squares Principles Meminimalisasi penjumlahan semua u i? Meminimalkan i u i? Gambar 7: Bagaimana memperoleh SRF TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 9 / 26
Least Squares Principles Bagaimana memperoleh SRF? Meminimalisasi penjumlahan semua u i? Meminimalkan i u i? Bukan langkah yang tepat. Walaupun sebenarnya u i mempunyai nilai absolut yang besar sehingga SRF jelas bukan yang terbaik, namun u i yang positip dan negatip dapat saling meniadakan sehingga diperoleh i u i minimum. Walaupun SRF yang diperoleh jauh dari SRF yang terbaik. TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 10 / 26
Least Squares Principles Meminimalisasi penjumlahan semua u 2 i? Meminimalkan i u2 i? TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 11 / 26
Least Squares Principles Bagaimana memperoleh SRF? Meminimalisasi penjumlahan semua u 2 i? Meminimalkan i u2 i? Langkah yang tepat! Dengan mengkuadratkan u i, maka kita memperoleh nilai yang positip semua. Meminimalisasi i u2 i akan menghasilkan SRF yang terbaik. Proses meminimalisasi i u2 i merupakan asal usul istilah least squares. Metode ini disebut metode least squares TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 12 / 26
Hasil minimalisasi u 2 i Ŷ i = ˆβ 1 + ˆβ 2 X i (3) ˆβ 2 = r s y s x (4) ˆβ 1 = Ȳ β 2 X (5) Dengan s x dan s y adalah Standard Deviasi Sample: (X X) 2 s x = n 1 (Y Ȳ) 2 (6) s y = n 1 Dan r adalah koefisien Korelasi: (X X)(Y Ȳ) r = (8) (n 1)s x s y TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 13 / 26 (7)
OLS: Ordinary Least Squares Untuk selanjutnya, metode yang kita gunakan akan kita sebut OLS: Ordinary Least Squares. (Selain OLS, ada juga GLS, Generalized Least Squares, yang akan kita bahas di Ekonometrika II). Beberapa catatan tentang OLS: 1 Estimator-estimator OLS dinyatakan hanya dalam observables X dan Y. Dengan demikian estimator-estimator itu (β 1 dan β 2 ) dapat dihitung dengan mudah. 2 Estimator-estimator itu adalah point estimators. Artinya, untuk setiap sampel yang diberikan, estimator itu hanya memberikan satu angka saja (bukan interval) untuk nilai parameter populasi yang relevan. 3 Setelah estimator-estimator itu diperoleh (melalui OLS), maka SRL, Sample Regression Line dapat diperoleh. TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 14 / 26
Sample Regression Line, SRL Sifat-sifat SRL 1 SRL melalui ( X,Ȳ) ˆβ1 = Ȳ ˆβ 2 X Ȳ = ˆβ 1 + ˆβ 2 X (9) Gambar 8: SRL melalui ( X,Ȳ) TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 15 / 26
SRL Sifat-sifat SRL 2 Harga rata-rata hasil estimasi Ȳ sama dengan harga rata-rata dari Y yang sesungguhnya. Ŷ = Ȳ (10) 3 Harga rata-rata residual adalah nol. û = 0 (11) TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 16 / 26
PRF,SRF,SRL Mengulang lagi: Apa bedanya PRF,SRF dan SRL? Perhatikan persamaan-persamaan berikut. PRF: SRF: SRL: Y i = β 1 +β 2 X i +u i (12) Y i = ˆβ 1 + ˆβ 2 X i +û i (13) Ŷ = ˆβ 1 + ˆβ 2 X i (14) TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 17 / 26
Bentuk Lain SRF Persamaan SRF: Dapat ditulis: Ŷ = ˆβ 1 + ˆβ 2 X i +û i (15) y i = ˆβ 2 x i +û i (16) Dengan y i = Y i Ȳ x i = X i X Pers. (16) disebut bentuk deviasi (deviation form) dari SRF. Dengan cara yang sama, SRL dapat ditulis dalam bentuk deviasi. ŷ i = ˆβ 2 x i (17) TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 18 / 26
Sifat û i Residu û i tidak berkorelasi dengan hasil prediksi y i ŷ i û i = 0 (18) i Residu û i tidak berkorelasi dengan X i X i û i = 0 (19) i TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 19 / 26
Presisi atau Standard Error dari Estimator OLS Nilai estimator (ˆβ 1, ˆβ2 ) berbeda-beda untuk sample yang berbeda yang diambil dari populasi yang sama. Karena itu kita perlu alat ukur untuk menentukan apakah estimator dari sampel yang satu lebih bagus daripada estimator dari sampel yang lain. Alat ukur itu adalah presisi atau standard error, yang rumusnya adalah: se( ˆβ 2 ) = ˆσ (X X) 2 ˆσ = (Y Ŷ) 2 n 2 (20) TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 20 / 26
Presisi atau Standard Error dari Estimator OLS se(ˆβ 1 ) = [ X 2 i n (X i X) 2 ] ˆσ (21) TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 21 / 26
BLUE BLUE Best Linear Unbiased Estimator 1 Linear 2 Unbiased: Nilai ekspektasi dari estimator sama dengan nilai sesungguhnya 3 Minimum variance dari estimator TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 22 / 26
Tugas Kelas
Tugas Kelas 1 Jelaskan apa perbedaan antara PRF dan SRF! 2 Jelaskan bagaimana cara memperoleh PRF! 3 Jelaskan bagaimana cara memperoleh SRF! 4 Mengapa dalam kita perlu meminimalisasi σu 2 i (sehingga disebut least squares? Mengapa kita tidak dapat meminimalisasi σu i saja? TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 24 / 26
Tugas Kelas 5 Perhatikan tabel berikut. Untuk setiap kelompok income, ambillah satu nilai yang paling kecil selisihnya dengan condition mean value, lalu gunakan untuk memperoleh SRF! TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 25 / 26
Tugas Kelas 6 Gunakan tabel pada soal no (5). Untuk setiap kelompok income ambillah satu nilai yang paling besar selisihnya dengan conditional mean value, lalu gunakan untuk memperoleh SRF! 7 Dari hasil no (4) dan (5), hitunglah masing-masing se(ˆβ 2 ), lalu bandingkan hasilnya. Jelaskan! TJ (SU) Analisa Regresi Dua Variabel: Estimasi April 2016 26 / 26