Analisa Regresi Dua Variabel: Estimasi

Transkripsi

1 Analisa Regresi Dua Variabel: Estimasi Tjipto Juwono, Ph.D. May 2018 TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

2 PRL vs SRL Apa Perbedaan PRL dan SRL Population Regression Line Diperoleh dari populasi dengan dengan cara menghubungkan semua conditional mean. Sample Regression Line Diperoleh dari sample dengan cara metode least squares TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

3 PRL vs SRL Gambar 1: Populasi terdiri dari 60 keluarga terbagi atas 10 income groups TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

4 Mean Values Vs Fixed Values Gambar 2: Grafik E(Y X) vs X. Populasi terdiri dari 60 keluarga terbagi atas 10 income groups TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

5 Sampel Gambar 3: Sampel-1, dari data pada tabel Gbr (1) Gambar 4: Sampel-2, dari data pada tabel Gbr (1) TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

6 Sample Regression Line Gambar 5: SRL, diperoleh dari dua sample pada Gbr. (3,4) TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

7 PRL vs SRL Gambar 6: Perbandingan antara PRL dan SRL TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

8 Least Squares Principles Ingat kembali PRF: Y i = β 1 +β 2 X i +u i (1) Apa yang terjadi jika kita tidak mempunyai data populasi, dan hanya mempunyai data sampel? Artinya: PRF (Pers. (1)) tidak diketahui. Kita meng-estimasi PRF, dengan SRF: Y i = ˆβ 1 + ˆβ 2 X i +û i = Ŷi +û i (2) Pertanyaannya adalah: Bagaimana cara memperoleh SRL? TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

9 Least Squares Principles Meminimalisasi penjumlahan semua u i? Meminimalkan i u i? Gambar 7: Bagaimana memperoleh SRF TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

10 Least Squares Principles Bagaimana memperoleh SRF? Meminimalisasi penjumlahan semua u i? Meminimalkan i u i? Bukan langkah yang tepat. Walaupun sebenarnya u i mempunyai nilai absolut yang besar sehingga SRF jelas bukan yang terbaik, namun u i yang positip dan negatip dapat saling meniadakan sehingga diperoleh i u i minimum. Walaupun SRF yang diperoleh jauh dari SRF yang terbaik. TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

11 Least Squares Principles Meminimalisasi penjumlahan semua u 2 i? Meminimalkan i u2 i? TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

12 Least Squares Principles Bagaimana memperoleh SRF? Meminimalisasi penjumlahan semua u 2 i? Meminimalkan i u2 i? Langkah yang tepat! Dengan mengkuadratkan u i, maka kita memperoleh nilai yang positip semua. Meminimalisasi i u2 i akan menghasilkan SRF yang terbaik. Proses meminimalisasi i u2 i merupakan asal usul istilah least squares. Metode ini disebut metode least squares TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

13 Hasil minimalisasi u 2 i Ŷ i = ˆβ 1 + ˆβ 2 X i (3) ˆβ 2 = r s y s x (4) ˆβ 1 = Ȳ β 2 X (5) Dengan s x dan s y adalah Standard Deviasi Sample: (X X) 2 s x = n 1 (Y Ȳ) 2 (6) s y = n 1 Dan r adalah koefisien Korelasi: (X X)(Y Ȳ) r = (8) (n 1)s x s y TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25 (7)

14 OLS: Ordinary Least Squares Untuk selanjutnya, metode yang kita gunakan akan kita sebut OLS: Ordinary Least Squares. (Selain OLS, ada juga GLS, Generalized Least Squares, yang akan kita bahas di Ekonometrika II). Beberapa catatan tentang OLS: 1 Estimator-estimator OLS dinyatakan hanya dalam observables X dan Y. Dengan demikian estimator-estimator itu (β 1 dan β 2 ) dapat dihitung dengan mudah. 2 Estimator-estimator itu adalah point estimators. Artinya, untuk setiap sampel yang diberikan, estimator itu hanya memberikan satu angka saja (bukan interval) untuk nilai parameter populasi yang relevan. 3 Setelah estimator-estimator itu diperoleh (melalui OLS), maka SRL, Sample Regression Line dapat diperoleh. TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

15 Sample Regression Line, SRL Sifat-sifat SRL 1 SRL melalui ( X,Ȳ) ˆβ1 = Ȳ ˆβ 2 X Ȳ = ˆβ 1 + ˆβ 2 X (9) Gambar 8: SRL melalui ( X,Ȳ) TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

16 SRL Sifat-sifat SRL 2 Harga rata-rata hasil estimasi Ȳ sama dengan harga rata-rata dari Y yang sesungguhnya. Ŷ = Ȳ (10) 3 Harga rata-rata residual adalah nol. û = 0 (11) TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

17 PRF,SRF,SRL Mengulang lagi: Apa bedanya PRF,SRF dan SRL? Perhatikan persamaan-persamaan berikut. PRF: SRF: SRL: Y i = β 1 +β 2 X i +u i (12) Y i = ˆβ 1 + ˆβ 2 X i +û i (13) Ŷ = ˆβ 1 + ˆβ 2 X i (14) TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

18 Bentuk Lain SRF Persamaan SRF: Dapat ditulis: Y i = ˆβ 1 + ˆβ 2 X i +û i (15) y i = ˆβ 2 x i +û i (16) Dengan y i = Y i Ȳ x i = X i X Pers. (16) disebut bentuk deviasi (deviation form) dari SRF. Dengan cara yang sama, SRL dapat ditulis dalam bentuk deviasi. ŷ i = ˆβ 2 x i (17) TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

19 Sifat û i Residu û i tidak berkorelasi dengan hasil prediksi y i ŷ i û i = 0 (18) i Residu û i tidak berkorelasi dengan X i X i û i = 0 (19) i TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

20 Presisi atau Standard Error dari Estimator OLS Nilai estimator (ˆβ 1, ˆβ2 ) berbeda-beda untuk sample yang berbeda yang diambil dari populasi yang sama. Karena itu kita perlu alat ukur untuk menentukan apakah estimator dari sampel yang satu lebih bagus daripada estimator dari sampel yang lain. Alat ukur itu adalah presisi atau standard error, yang rumusnya adalah: se( ˆβ 2 ) = ˆσ (X X) 2 ˆσ = (Y Ŷ) 2 n 2 (20) TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

21 Presisi atau Standard Error dari Estimator OLS se(ˆβ 1 ) = [ X 2 i n (X i X) 2 ] ˆσ (21) TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

22 BLUE BLUE Best Linear Unbiased Estimator 1 Linear 2 Unbiased: Nilai ekspektasi dari estimator sama dengan nilai sesungguhnya 3 Minimum variance dari estimator TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

23 Tugas Kelas

24 Tugas Kelas 1 Jelaskan apa perbedaan antara PRL dan SRL! 2 Jelaskan bagaimana cara memperoleh PRL! 3 Jelaskan bagaimana cara memperoleh SRL! 4 Mengapa dalam kita perlu meminimalisasi u 2 i (sehingga disebut least squares?) Mengapa kita tidak meminimalisasi u i saja? TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25

25 Tugas Kelas 5 Perhatikan tabel berikut. Untuk setiap kelompok income, ambillah satu nilai yang paling kecil selisihnya dengan condition mean value, lalu gunakan untuk memperoleh SRF! TJ (SU) Analisa Regresi Dua Variabel: Estimasi May / 25