Pengantar Statistika Matematika II

Transkripsi

1 Pengantar a Matematika II - Estimator Atina Ahdika, S.Si., M.Si. Prodi a FMIPA Universitas Islam Indonesia April 17, 2017 atinaahdika.com

2 Dalam kondisi real, kita tidak mengetahui parameter dari populasi data yang akan kita teliti Informasi dalam sampel X 1, X 2,..., X n akan digunakan untuk melakukan inferensi tentang parameter θ Bila ukuran sampel n besar, kita perlu meringkas daftar nilai sampel x 1, x 2,..., x n atau mencari sifat-sifat kuncinya agar data tersebut bisa lebih bermakna Hal ini biasanya dikerjakan dengan menghitung statistiknya, misalkan mean sampel, variansi sampel, nilai observasi terbesar, dan nilai observasi terkecil. Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

3 Untuk keperluan notasi, X = (X 1, X 2,..., X n ) menyatakan sampel random, sedangkan x = (x 1, x 2,..., x n ) menyatakan nilai sampelnya Setiap statistik T = t(x) selalu menghasilkan reduksi data Dalam melakukan inferensi, kita selalu menggunakan nilai terobservasi dari statistik yaitu T = t(x) bukan keseluruhan sampel terobservasi x dan memperlakukan dua sampel x dan y sama asalkan t(x) = t(y) meskipun nilai x dan y tidak sama Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

4 Terdapat tiga asas reduksi data, 1 Asas Kecukupan (Sufficiency) Asas kecukupan mengembangkan metode reduksi data yang tidak menghilangkan informasi tentang θ dengan meringkas data 2 Asas Likelihood Asas likelihood menggambarkan fungsi parameter yang ditentukan oleh sampel terobservasi yang memuat semua informasi tentang θ yang tersedia dari sampel 3 Asas Invarian Asas invarian adalah metode lain reduksi data yang mengawetkan beberapa sifat utama dari model Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

5 Asas Kecukupan cukup (sufficient statistics) untuk parameter θ adalah statistik yang dalam arti tertentu bisa menyerap semua informasi tentang θ yang termuat dalam sampel. Setiap informasi tambahan dalam sampel di samping harga statistik cukup, tidak memuat informasi tambahan tentang θ. Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

6 Bila T = t(x) adalah statistik cukup untuk θ, maka setiap inferensi tentang θ harus bergantung pada sampel X hanya melalui harga T = t(x). Bila x dan y adalah dua titik sampel sedemikian hingga t(x) = t(y), maka inferensi tentang θ harus sama, tidak tergantung apakah X = x atau Y = y yang terobservasi. Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

7 Definisi 1 T = t(x) disebut statistik cukup untuk suatu keluarga distribusi f X (x θ) jika dan hanya jika distribusi bersyarat dari X diberikan harga T tidak bergantung pada θ: f X T (x t, θ) = h(x) Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

8 Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33 Contoh 1 Misalkan X 1, X 2,..., X n adalah i.i.d sampel acak berdistribusi Bernoulli dengan parameter θ, 0 < θ < 1. Akan ditunjukkan bahwa T = n X i adalah statistik cukup untuk θ. Perhatikan bahwa T menjumlah harga-harga X i yang sama dengan 1 sehingga T berdistribusi Binomial(n, θ).

9 Bukti: f X T (x t, θ) = f X,T (x, t) = f X 1,X 2,...,X n,t (x 1, x 2,..., x n, t) f T (t) f T (t) n θ x i (1 θ) 1 x n n i x i(1 (1 x i ) θ θ) = ( ) = ( ) n n θ t t (1 θ) n t θ t t (1 θ) n t = θt (1 θ) n t ( ) = n θ t t (1 θ) n t 1 1 ) = n n ( n t x i Karena f X T (x t, θ) tidak bergantung pada θ, maka T = n X i adalah statistik cukup dari θ. Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

10 Contoh 2 Misalkan X 1, X 2,..., X n adalah i.i.d N(µ, σ 2 ) dengan σ 2 diketahui. Akan ditunjukkan bahwa mean sampel T = X = X 1+X X n n adalah statistik cukup untuk µ. Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

11 Bukti: Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

12 Definisi 2 Suatu statistik T = t(x) adalah cukup untuk suatu keluarga distribusi f X (x θ) jika dan hanya jika fungsi peluangnya dapat difaktorkan sebagai: f X (x θ) = g(t(x) θ) h(x) Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

13 Contoh 3 Misalkan X 1, X 2,..., X n adalah i.i.d berdistribusi Bernoulli dengan parameter θ, maka Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

14 Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33 n f X (x θ) = θ x i (1 θ) 1 x i n x i n n = θ (1 θ) ( n ) = g x i θ h(x) x i dengan h(x) = 1. Jadi, T = n X i merupakan statistik cukup untuk θ.

15 Contoh 4 Misalkan X 1, X 2,..., X n adalah i.i.d berdistribusi Normal dengan parameter (µ, σ 2 ) dengan σ 2 diketahui, maka Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

16 f X (x θ) = = n 1 e 1 (x i µ) 2 2 σ 2 2π σ 1 1 (2π) n 2 σ n e 2 = h(x) g( x µ) n (x i x) 2 σ 2 e n 2 ( x µ) 2 σ 2 Jadi, T = X adalah statistik cukup untuk µ. Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

17 Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33 Contoh 5 Misalkan X 1, X 2,..., X n adalah peubah acak dengan fungsi peluang f Xi (x i θ) = θ x θ 1, 0 < x < 1, θ > 0 Tunjukkan bahwa T = n X i adalah statistik cukup untuk θ

18 Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33 Bukti: f X (x θ) = n θ x θ 1 i ( n ) θ 1 = θ n x i ( n ) = g x i θ h(x) dengan h(x) = 1. Jadi, T = n X i adalah statistik cukup untuk θ.

19 Contoh 6 Misalkan X 1, X 2,..., X n adalah peubah acak i.i.d berdistribusi Uniform dengan parameter (0, θ), 0 < x < θ, akan ditunjukkan bahwa T = Max X i adalah statistik cukup untuk θ. Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

20 Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33 Bukti: f X (x θ) = n = 1 θ n, 1 θ, 0 < x i < θ 0 < max x i < θ = 1 θ n, I (0,θ)(max x i ) = g(max x i θ) h(x) dengan h(x) = 1. Jadi, T = Max X i adalah statistik cukup untuk θ.

21 Definisi f X (x θ) disebut keluarga eksponensial jika f X (x θ) bisa ditulis sebagai [ k ] f X (x θ) = h(x) c(θ) exp w i (θ) t i (x) Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

22 Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33 Contoh 7 Misalkan X Binomial(n, θ), maka ( ) n f X (x θ) = θ x (1 θ) n x x ( ) ( ) n θ x = (1 θ) n x 1 θ ( ) ( ( ) n θ x ) = (1 θ) n exp log x 1 θ ( ) ( ( )) n θ = (1 θ) n exp x log x 1 θ ( ) n dengan h(x) =, c(θ) = (1 θ) x n, t(x) = x, dan ( ) w(θ) = log θ 1 θ.

23 Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33 Contoh 8 Misalkan X Eksp(λ) dengan λ = 1 θ, maka f X (x θ) = 1 θ e 1 θ x = 1 [ θ exp x 1 ] θ dengan h(x) = 1, c(θ) = 1 θ, t(x) = x, dan w(θ) = 1 θ.

24 Contoh 9 Misalkan X N(µ, σ 2 ), maka Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

25 Jika T = t(x) adalah statistik cukup dan keluarga eksponensial, maka statistik tersebut masuk ke dalam keluarga lengkap. Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

26 Suatu statistik T = t(x) memiliki sifat lengkap jika E(g(t)) = 0 g(t) = 0 Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

27 adalah keluarga lengkap tetapi keluarga lengkap tidak identik dengan keluarga. Contoh: X U(0, θ) Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

28 Contoh 10 Misalkan X i U(0, θ). Akan dibuktikan bahwa T = Max X i adalah statistik lengkap. Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

29 Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33 Bukti: Pertama kali yang harus dilakukan adalah mencari fungsi peluang T = t(x). F T (t) = P (T t) = P (Max X i t) = P (X 1 t, X 2 t,..., X n t) n = P (X i t) (1) Diketahui X i U(0, θ), maka f Xi (x i ) = 1 θ, 0 x i θ

30 Sehingga P (X i t) = t Kembali ke persamaan (1), maka 0 1 θ dx i = t θ F T (t) = n P (X i t) = ( ) t n = tn θ θ n f T (t) = d dt F T (t) = n tn 1 θ n, 0 < t < θ Selanjutnya akan ditunjukkan bahwa E(g(t)) = 0 g(t) = 0 Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

31 Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33 E(g(t)) = θ 0 θ 0 θ n θ n 0 g(t) f T (t) dt = 0 g(t) n tn 1 θ n dt = 0 g(t) t n 1 dt = 0 Kemudian kedua ruas diturunkan terhadap θ, sehingga diperoleh

32 Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33 n( n) θ n+1 θ 0 d n dθ θ n g(t) t n 1 dt + n θ n d dθ θ n2 θ n+1 0 n n θ θ n θ 0 θ 0 g(t) t n 1 dt = 0 g(t) t n 1 dt = 0 g(t) t n 1 dt + n θ n g(θ) θn 1 = 0 θ 0 g(t) t n 1 dt + n g(θ) = 0 θ

33 0 + n g(θ) = 0 g(θ) = 0 θ Terbukti bahwa X i U(0, θ) adalah statistik lengkap, namun distribusi Uniform tidak termasuk keluarga. Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33

34 Atina Ahdika, S.Si., M.Si. Pengantar a Matematika II April 17, /33 1 Misalkan X 1, X 2,..., X n adalah peubah acak-peubah acak berdistribusi Gamma dengan α = 2 dan β = θ > 0. Buktikan definisi bahwa T = n X i adalah statistik cukup untuk θ menggunakan definisi 1 dan 2. 2 Buktikan bahwa keluarga distribusi Poisson dengan parameter θ termasuk dalam keluarga. 3 Diketahui X 1, X 2,..., X n adalah peubah acak dari distribusi dengan f Xi (x i θ) = θ 2 x e θx, 0 < x <, θ > 0 Buktikan T = n X i adalah statistik cukup lengkap untuk θ.