Pengantar Statistika Matematika II

Ukuran: px

Mulai penontonan dengan halaman:

Download "Pengantar Statistika Matematika II"

Widya Pranoto
6 tahun lalu
Tontonan:

1 Bab 4: Metode Evaluasi Estimator Statistika FMIPA Universitas Islam Indonesia

2 Penggunaan metode estimasi yang berbeda dapat menghasilkan estimator yang sama maupun berbeda Dari hasil estimator yang berbeda, bagaimana cara memilih estimator terbaik?

3 Definisi Sebuah estimator dikatakan memiliki sifat takbias jika E(ˆθ) = θ Catatan: Jika suatu penaksir ˆθ bersifat bias, maka selisih nilai ekspektasi dan nilai θ tidak nol, atau E(ˆθ θ) 0

4 Contoh 1 Misalkan X i Bernoulli(θ), apakah ˆθ merupakan penaksir takbias untuk θ?

5 Dengan menggunakan metode maksimum likelihood, telah diperoleh bahwa ˆθ = X, maka ( ) X1 + X X n E(ˆθ MLE ) = E( X ) = E n = 1 n (E(X 1) + E(X 2 ) E(X n )) = 1 n (nθ) = θ Jadi, ˆθ = X merupakan penaksir takbias untuk θ.

6 Contoh 2 Buktikan bahwa estimator ˆσ 2 = S 2 = takbias untuk σ 2. n (X i X ) 2 n 1 adalah estimator

7 Akan dibuktikan bahwa E(ˆσ 2 ) = σ 2, maka n (X E(ˆσ 2 ) = E(S 2 i X ) 2 ) = E n 1 [ n ] E(ˆσ 2 ) = 1 n 1 E (X i X ) 2 [ n ] (n 1)E(ˆσ 2 ) = E Xi 2 2 X X i + X 2 (n 1)E(ˆσ 2 ) = E (n 1)E(ˆσ 2 ) = E [ n [ n X 2 i X 2 i ] [ n ] [ n ] E 2 X X i + E X 2 ] E [ 2 X ] [ n X i + E X 2 ] n 1

8 (n 1)E(ˆσ 2 ) = E [ n X 2 i ] 2nE [ X 2] + ne [ X 2] (n 1)E(ˆσ 2 ) = ne [ Xi 2 ] [ ne X 2 ] n 1 n E(ˆσ2 ) = E [ Xi 2 ] [ E X 2] (1) Selanjutnya kita akan mencari E [ X 2]

9 Misalkan Y = X, maka E [ X 2] = E(Y 2 ) = Var(Y ) + E(Y ) 2 ( ) 1 n = Var X i + µ 2 n ( n ) = 1 n 2 Var X i + µ 2 = 1 n n 2 Var(X i ) + µ 2 = 1 n 2 ( nσ 2 ) + µ 2 = 1 n σ2 + µ 2

10 Kembali ke persamaan (1) n 1 n E(ˆσ2 ) = E [ Xi 2 ] [ E X 2] n 1 n E(ˆσ2 ) = Var(X i ) + [E(X i )] 2 E [ X 2] n 1 n E(ˆσ2 ) = [ σ 2 + µ 2] [ ] 1 n σ2 + µ 2 n 1 n E(ˆσ2 ) = σ 2 1 n σ2 E [ˆσ 2] = σ 2 Jadi, ˆσ 2 = S 2 = n (X i X ) 2 n 1 adalah estimator takbias untuk σ 2.

11 (Mean Square Error) Definisi Kesalahan kuadrat rata-rata (MSE) dari estimator ˆθ = T ( x ) = T dari parameter θ adalah fungsi θ yang didefinisikan dengan MSE T (θ) = E(T θ) 2. MSE T (θ) = E(T θ) 2 = E(T µ T + µ T θ) 2 = E((T µ T ) + (µ T θ)) 2 = E ( (T µ T ) 2 + 2(T µ T )(µ T θ) + (µ T θ) 2) = E(T µ T ) 2 + (E(T ) θ) 2 = Var(T ) + b 2 T dengan b T adalah bias T.

12 Jadi, MSE mempunyai dua komponen, variansi yang mengukur variabilitas estimator (precision) dan bias yang mengukur akurasi (accuracy) dari estimator. Jadi untuk estimator takbias, kita mempunyai MSE T (θ) = E(T θ) 2 = Var(T )

13 Contoh 3 Misalkan X 1, X 2,..., X n i.i.d N(µ, σ 2 ). ˆµ = X dan ˆσ 2 = S 2 keduanya adalah estimator takbias dari µ dan σ 2. Karena dan E(ˆµ) = E( X ) = µ E(ˆσ 2 ) = E(S 2 ) = σ 2 maka MSE dari kedua estimator adalah

14 MSE µ, MSE µ = E ( X µ ) 2 = Var( X ) ( ) X1 + X X n = Var n ( n ) = 1 n 2 Var X i = 1 n 2 (nσ2 ) = σ2 n

15 MSE S 2, S 2 = 1 n (X i n 1 X ) 2 n (n 1)S 2 = (X i X ) 2 n 1 σ 2 S 2 = 1 σ 2 n (X i X ) 2 χ 2 (n 1) (n 1)S 2 = σ 2 χ 2 (n 1) Var [ (n 1)S 2] [ ] = Var σ 2 χ 2 (n 1) (n 1) 2 Var(S 2 ) = σ 4 2(n 1) Var(S 2 ) = 2σ4 n 1

16 Maka MSE S 2 = E [ S 2 σ 2] 2 = Var(S 2 ) = 2σ4 n 1

17 Contoh 4 Estimator alternatif untuk σ 2 adalah estimator maksimum n likelihood ˆσ 2 = 1 n (X i X ) 2 = n 1 n S 2. Dengan mudah dapat dilihat bahwa sehingga ˆσ 2 = 1 n E(ˆσ 2 ) = E ( ) n 1 n S 2 = n 1 n σ2 n (X i X ) 2 adalah estimator bias untuk σ 2.

18 Variansi ˆσ 2 dapat dihitung sebagai Var (ˆσ 2) ( ) n 1 = Var n S 2 ( ) n 1 2 = Var(S 2 ) n = 2(n 1)σ4 n 2

19 Oleh karena itu, MSEˆσ 2 = E (ˆσ 2 σ 2) 2 = Var (ˆσ 2) + b 2ˆσ 2 = Var (ˆσ 2) + E (ˆσ 2 σ 2) 2 ( 2(n 1)σ4 n 1 = n 2 + n σ2 σ 2 ( ) 2n 1 = n 2 σ 4 Jadi kita mempunyai ( ) 2n 1 MSEˆσ 2 = σ 4 < n 2 ) 2 ( ) 2 σ 4 = MSE n 1 S 2

20 Pada contoh sebelumnya, menunjukkan bahwa Bias = 0 tidak menjamin MSE lebih kecil MSE adalah fungsi dari parameter, sehingga tidak ada estimator terbaik untuk θ Salah satu cara untuk mengatasi tidak adanya estimator terbaik adalah melalui pembatasan kelas estimator, salah satu pembatasan yang akan kita bahas adalah melalui kelas takbias

21 Definisi Misalkan X 1, X 2,..., X n adalah sampel acak berukuran n dari f (x; θ). Sebuah estimator T dari τ(θ) disebut sebagai estimator takbias variansi minimum seragam atau uniformly minimum variance unbiased estimator (UMVUE) dari τ(θ) jika 1 T adalah estimator takbias dari τ(θ) 2 Untuk sebarang estimator takbias lain T dari τ(θ), Var(T ) Var(T ) untuk semua θ Ω

22 Masalah baru yang dihadapi adalah estimator tak bias jumlahnya bisa tak hingga. Untuk itu, untuk menentukan estimator UMVUE diperlukan penanganan yang menyeluruh, salah satunya melalui batas bawah Cramer-Rao. Jika kita menemukan estimator T sedemikian sehingga Var(T ) sama dengan nilai batas bawah tersebut, maka kita mendapatkan estimator UMVUE.

23 Definisi Jika T adalah estimator takbias dari τ(θ), maka batas bawah Cramer-Rao atau Cramer-Rao Lower Bound (CRLB), berdasarkan pada sebuah sampel acak, adalah Var(T ) [τ (θ)] 2 n E [ θ ln f (X ; θ)] 2

24 Contoh 5 Misalkan X i Eksp(θ). Estimator takbiasnya adalah ˆθ = X. Karena [ ] 1 ln f (x; θ) = ln θ e x θ = x θ ln θ θ ln f (x; θ) = x θ 2 1 θ = x θ θ 2

25 Maka E [ ] 2 ln f (X ; θ) = E θ [ ] X θ 2 [ ] (X θ) 2 = E θ 2 = Var(X ) θ 4 = θ2 θ 4 = 1 θ 2 Dalam hal ini τ(θ) = θ, maka τ (θ) = 1, sehingga CRLB untuk τ(θ) adalah [τ (θ)] 2 n E [ θ ln f (X ; θ)] 2 = 1 [ ( n 1 )] = θ2 n θ 2 Karena Var( X ) = Var ( X1 +X X n n ) θ 4 = 1 n 2 (nθ 2 ) = θ2 n dan Var( X ) sama dengan CRLB, maka ˆθ = X adalah estimator UMVUE untuk θ.

26 Contoh 6 Misalkan X POI (θ). Buktikan X adalah UMVUE dari θ.

27 Contoh 7 Misalkan X N(θ, σ 2 0 ). Buktikan bahwa X adalah UMVUE dari θ.

dokumen-dokumen yang mirip

Pengantar Statistika Matematika II

Pengantar Statistika Matematika II Pegatar Statistika Matematika II Metode Evaluasi Atia Ahdika, S.Si., M.Si. Prodi Statistika FMIPA Uiversitas Islam Idoesia April 11, 2017 atiaahdika.com Pegguaa metode estimasi yag berbeda dapat meghasilka