Pengantar Statistika Matematika II

Transkripsi

1 Pegatar Statistika Matematika II Metode Evaluasi Atia Ahdika, S.Si., M.Si. Prodi Statistika FMIPA Uiversitas Islam Idoesia April 11, 2017 atiaahdika.com

2 Pegguaa metode estimasi yag berbeda dapat meghasilka estimator yag sama maupu berbeda Dari hasil estimator yag berbeda, bagaimaa cara memilih estimator terbaik? Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27

3 Defiisi Sebuah estimator dikataka memiliki sifat takbias jika E(ˆθ) = θ Catata: Jika suatu peaksir ˆθ bersifat bias, maka selisih ilai ekspektasi da ilai θ tidak ol, atau E(ˆθ θ) 0 Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27

4 Cotoh 1 Misalka X i Beroulli(θ), apakah ˆθ merupaka peaksir takbias utuk θ? Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27

5 Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27 Dega megguaka metode maksimum likelihood, telah diperoleh bahwa ˆθ = X, maka ( ) E(ˆθ MLE ) = E( X) X1 + X X = E = 1 (E(X 1) + E(X 2 ) E(X )) = 1 (θ) = θ Jadi, ˆθ = X merupaka peaksir takbias utuk θ.

6 Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27 Cotoh 2 Buktika bahwa estimator ˆσ 2 = S 2 = estimator takbias utuk σ 2. (X i X) 2 1 adalah

7 Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27 Aka dibuktika bahwa E(ˆσ 2 ) = σ 2, maka (X E(ˆσ 2 ) = E(S 2 i X) 2 ) = E 1 [ ] E(ˆσ 2 ) = 1 1 E (X i X) 2 [ ( 1)E(ˆσ 2 ( ) = E X 2 i 2 XX i + X 2)] ( 1)E(ˆσ 2 ) = E [ X 2 i ] [ ] [ E 2 XX i + E X 2 ]

8 Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27 ( 1)E(ˆσ 2 ) = E ( 1)E(ˆσ 2 ) = E [ [ X 2 i X 2 i ] ] E [ 2 X ] [ X i + E X 2 2E [ X2 ] + E [ X2 ] ( 1)E(ˆσ 2 ) = E [ Xi 2 ] [ ] E X2 1 E(ˆσ2 ) = E [ Xi 2 ] [ ] E X2 (1) Selajutya kita aka mecari E [ ] X2 ] 1

9 Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27 Misalka Y = X, maka E [ ] X2 = E(Y 2 ) = V ar(y ) + (E(Y )) 2 ( ) 1 = V ar X i + µ 2 ( ) = 1 2 V ar X i + µ 2 = 1 2 V ar(x i ) + µ 2 = 1 ( σ 2 ) 2 + µ 2 = 1 σ2 + µ 2

10 Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27 Kembali ke persamaa (1) 1 E(ˆσ2 ) = E [ Xi 2 ] [ ] E X2 1 E(ˆσ2 ) = V ar(x i ) + [E(X i )] 2 E [ ] X2 1 E(ˆσ2 ) = [ σ 2 + µ 2] [ ] 1 σ2 + µ 2 1 E(ˆσ2 ) = σ 2 1 σ2 E [ˆσ 2] = σ 2 Jadi, ˆσ 2 = S 2 = σ 2. (X i X) 2 1 adalah estimator takbias utuk

11 (Mea Square Error) Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27 Defiisi kuadrat rata-rata (MSE) dari estimator ˆθ = T ( x ) = T dari parameter θ adalah fugsi θ yag didefiisika dega MSE T (θ) = E(T θ) 2. MSE T (θ) = E(T θ) 2 = E(T µ T + µ T θ) 2 = E((T µ T ) + (µ T θ)) 2 = E ( (T µ T ) 2 + 2(T µ T )(µ T θ) + (µ T θ) 2) = E(T µ T ) 2 + (E(T ) θ) 2 = V ar(t ) + b 2 T dega b T adalah bias T.

12 Jadi, MSE mempuyai dua kompoe, variasi yag megukur variabilitas estimator (precisio) da bias yag megukur akurasi (accuracy) dari estimator. Jadi utuk estimator takbias, kita mempuyai MSE T (θ) = E(T θ) 2 = V ar(t ) Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27

13 Cotoh 3 Misalka X 1, X 2,..., X i.i.d N(µ, σ 2 ). ˆµ = X da ˆσ 2 = S 2 keduaya adalah estimator takbias dari µ da σ 2. Karea E(ˆµ) = E( X) = µ da E(ˆσ 2 ) = E(S 2 ) = σ 2 maka MSE dari kedua estimator adalah Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27

14 Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27 MSE µ, MSE µ = E ( ) 2 X µ = V ar( X) ( ) X1 + X X = V ar ( ) = 1 2 V ar X i = 1 2 (σ2 ) = σ2

15 MSE S 2, S 2 = 1 (X i 1 X) 2 ( 1)S 2 = (X i X) 2 1 σ 2 S 2 = 1 σ 2 (X i X) 2 χ 2 ( 1) ( 1)S 2 = σ 2 χ 2 ( 1) V ar [ ( 1)S 2] [ ] = V ar σ 2 χ 2 ( 1) ( 1) 2 V ar(s 2 ) = σ 4 2( 1) V ar(s 2 ) = 2σ4 1 Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27

16 Maka MSE S 2 = E [ S 2 σ 2] 2 = V ar(s 2 ) = 2σ4 1 Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27

17 Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27 Cotoh 4 alteratif utuk σ 2 adalah estimator maksimum likelihood ˆσ 2 = 1 (X i X) 2 = 1 S2. Dega mudah dapat dilihat bahwa ( 1 E(ˆσ 2 ) = E S2 ) = 1 σ2 sehigga ˆσ 2 = 1 σ 2. (X i X) 2 adalah estimator bias utuk

18 Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27 Variasi ˆσ 2 dapat dihitug sebagai V ar (ˆσ 2) ( ) 1 = V ar S2 ( ) 1 2 = V ar(s 2 ) = 2( 1)σ4 2

19 Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27 Oleh karea itu, MSEˆσ 2 = E (ˆσ 2 σ 2) 2 = V ar (ˆσ 2) + b 2ˆσ 2 = V ar (ˆσ 2) + (E(ˆσ 2 ) σ 2 ) 2 ( 2( 1)σ4 1 = 2 + σ2 σ 2 ( ) 2 1 = 2 σ 4 ) 2 Jadi kita mempuyai ( ) 2 1 MSEˆσ 2 = σ 4 < 2 ( ) 2 σ 4 = MSE 1 S 2

20 Pada cotoh sebelumya, meujukka bahwa Bias = 0 tidak mejami MSE lebih kecil MSE adalah fugsi dari parameter, sehigga tidak ada estimator "terbaik" utuk θ Salah satu cara utuk megatasi tidak adaya estimator "terbaik" adalah melalui pembatasa kelas estimator, salah satu pembatasa yag aka kita bahas adalah melalui kelas takbias Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27

21 Defiisi Misalka X 1, X 2,..., X adalah sampel acak berukura dari f(x; θ). Sebuah estimator T dari τ(θ) disebut sebagai estimator takbias variasi miimum seragam atau uiformly miimum variace ubiased estimator (UMVUE) dari τ(θ) jika 1 T adalah estimator takbias dari τ(θ) 2 Utuk sebarag estimator takbias lai T dari τ(θ), V ar(t ) V ar(t ) utuk semua θ Ω Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27

22 Masalah baru yag dihadapi adalah estimator tak bias jumlahya bisa tak higga. Utuk itu, utuk meetuka estimator UMVUE diperluka peagaa yag meyeluruh, salah satuya melalui batas bawah Cramer-Rao. Jika kita meemuka estimator T sedemikia sehigga V ar(t ) sama dega ilai batas bawah tersebut, maka kita medapatka estimator UMVUE. Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27

23 Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27 Defiisi Jika T adalah estimator takbias dari τ(θ), maka batas bawah Cramer-Rao atau Cramer-Rao Lower Boud (CRLB), berdasarka pada sebuah sampel acak, adalah V ar(t ) [τ (θ)] 2 E [ θ l f(x; θ)] 2

24 Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27 Cotoh 5 Misalka X i Eksp(θ). takbiasya adalah ˆθ = X. Karea [ ] 1 l f(x; θ) = l θ e x θ = x θ l θ θ l f(x; θ) = x θ 2 1 θ = x θ θ 2

25 Maka E [ ] 2 l f(x; θ) = E θ [ ] X θ 2 [ ] (X θ) 2 = E θ 2 = V ar(x) θ 4 = θ2 θ 4 = 1 θ 2 Dalam hal ii τ(θ) = θ, maka τ (θ) = 1, sehigga CRLB utuk τ(θ) adalah θ 4 [τ (θ)] 2 E [ θ l f(x; θ)] 2 = 1 [ ( 1 )] = θ2 θ 2 Karea V ar( X) = V ar ( X 1 +X X ) = 1 (θ 2 ) = θ2 2 da V ar( X) sama dega CRLB, maka ˆθ = X adalah estimator UMVUE utuk θ. Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27

26 Cotoh 6 Misalka X P OI(θ). Buktika X adalah UMVUE dari θ. Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27

27 Cotoh 7 Misalka X N(θ, σ 2 0 ). Buktika bahwa X adalah UMVUE dari θ. Atia Ahdika, S.Si., M.Si. Pegatar Statistika Matematika II April 11, /27