Teorema Newman Pearson

pengujian terbaik Andi Kresna Jaya andikresna@yahoo.com Jurusan Matematika October 6, 2014

Outline 1 Review 2 Uji dua sisi untuk mean 3 Teorema Neyman-Pearson Back

Sasaran pembelajaran: Mampu memahami teorema Neyman Pearson dan konsep pengujian hipotesis 1 Kemampuan melakukan pengujian hipotesis dua sisi 2 Kemampuan menjelaskan daerah kritis terbaik Metode: Kuliah dan Diskusi Text book: Hogg dan Craig, Introduction to Mathematical Statistics; Casella dan Berger, Statistical Inference

opening If your experiment needs a statistician, you need a better experiment. Ernest Rutherford

Pada materi sebelumnya, telah dipelajari uji statistik yang hanya satu sisi. Misalkan akan dilakukan uji terhadap H 0 : µ = 30.000 terhadap H 1 : µ > 30.000, dengan µ adalah mean distribusi normal dan standar deviasinya σ = 5.000. Ini adalah satu sisi saja. Jika H 1 : µ 30, 000, maka pengujian yang dilakukan disebut uji dua sisi. Materi ini akan didahului tentang uji statistik dua sisi ini.

large sample two-sided test for mean Misalkan X adalah peubah acak dengan mean µ dan variansi σ 2. Akan diuji hipotesi null H 0 : µ = µ 0 terhadap hipotesis alternatif H 1 : µ µ 0. Misalkan X 1, X 2,, X n sampel acak sehingga diperoleh X dan S 2 sebagai mean sampel dan variansi sampel. Jika terdapat suatu nilai h dan k sehingga X h atau X k, maka H 0 ditolak. Ini berarti untuk suatu nilai α α = P H0 ( X h atau X k) Karena ukuran sampel cukup besar, distribusi X berdistribusi secara simetri terhadap µ 0 dipengaruhi oleh H 0, sehingga secara intuisi α dibagi dua di sisi kiri dan kanan, yaitu P H0 ( X h) = α/2 dan P H0 ( X k) = α/2

Karena kekonsistenan dari S 2 ke σ 2, maka dibawah pengaruh H 0 diperoleh ( X µ 0 ) S/ n D N(0, 1). Maka bentuk itu akan memutuskan apakah H 0 ditolak atau tidak. H 0 ditolak (atau menerima H 1 ) jika ( X µ 0 ) S/ n z α/2. Aproksimasi fungsi kuasanya dinyatakan dalam bentuk ( K(µ) = P µ X µ 0 z α/2 σ/ n ) ( + P µ X µ 0 z α/2 σ/ n ) ( ) ( ) n(µ0 µ) n(µ0 µ) = Φ z σ α/2 + 1 Φ + z σ α/2

contoh 1 Misalkan X adalah lama pemakaian ban dalam 1000 mil berdistribusi normal dengan mean θ dan standar deviasi σ = 5. Pabrikan ban kemudian mengklaim bahwa produk ban milik mereka telah diproduksi menggunakan proses yang baru. Ujilah hipotesis H 0 : µ = 30 terhadap H 1 : µ 30 jika sampel ban yang diambil n = 20 dan taraf keberartiannya α = 0, 05. Tentukan aproksimasi fungsi kuasanya. Bandingkan jika taraf keberartiannya α = 0, 01. Aturan penolakan untuk kasus ini untuk α = 0, 05 adalah tolak H 0 jika ( X 30) S/ 20 1, 96. Nilai 1, 96 adalah nilai z 0,05/2 pada distribusi Normal standar sehingga 0, 975 = Φ(z 0,05/2 )

Aproksimasi fungsi kuasa untuk uji hipotesis ini adalah ( ) ( ) (30 µ) (30 µ) K 0,05 (µ) = Φ 1, 96 +1 Φ + 1, 96. 1, 118 1, 118 Sedangkan untuk α = 0, 01,aturan penolakan untuk kasus ini adalah tolak H 0 jika ( X 30) S/ 20 2, 575. Nilai 2, 575 adalah nilai z 0,01/2 pada distribusi Normal standar sehingga 0, 975 = Φ(z 0,05/2 ) Aproksimasi fungsi kuasa untuk uji hipotesis ini adalah ( ) ( ) (30 µ) (30 µ) K 0,01 (µ) = Φ 2, 575 +1 Φ + 2, 575. 1, 118 1, 118

Perhatikan bahwa kurva fungsi kuasa di atas didasarkan pada distribusi Normal dengan variansi yang diberikan (σ = 5). Fungsi kuasa (aproksimasi) berdasar pada aturan penolakan H 0 adalah tolak H 0 jika ( X µ 0 ) S/ 20 z α/2.

Sejatinya, jika X berdistribusi normal, maka aturan penolakan H 0 : µ = µ 0 terhadap H 1 : µ µ 0 adalah tolak H 0 jika ( X µ 0 ) S/ 20 t α/2,n 1. Maka fungsi kuasa untuk kasus di atas harusnya didasarkan pada distribusi T. Untuk α = 0, 05 tolak H 0 jika ( X 30) 5/ 20 t 0,025,19 jika ( X 30) S/ 20 2, 093.

Misalkan sampel acak diambil dari distribusi N(µ 1, σ 2 ) dan N(µ 2, σ 2 ). Jika ukuran sampel dari kedua distribusi adalah n 1 dan n 2. Mean dan variansi sampel pertama adalah X 1 dan S 2 1. Mean dan variansi sampel kedua adalah X 2 dan S 2 2. Perhatikan bahwa n = n 1 + n 2 adalah kombinasi ukuran sampel dan S 2 p = (n 1 1)S 2 1 + (n 2 1)S 2 2 n 1 + n 2 2 adalah bobot rata-rata variansi sampel S1 2 dengan S 2 2, yang merupakan penaksir tak bias untuk σ 2 Aturan penolakan H 0 : µ 1 = µ 2 terhadap H 1 : µ 1 µ 2 untuk taraf keberartian α, jika dan hanya jika ( X µ 0 ) S/ 20 t α/2,n 2.

Neyman-Pearson Pada materi ini akan dibahas pengujian hipotesis dengan daerah kritis terbaik. Misalkan X adalah peubah acak dengan fkp f (x; θ) di mana θ Ω. Jika Ω dapat dipartisi dalam 2 himpunan bagian ω 0 dan ω 1, sehingga nilai-nilai yang mungkin dari θ dapat terletak di salah satu himpunan bagian tersebut. Misalkan hipotesis H 0 : θ ω 0 dan H 1 : θ ω 1, pengujian hipotesis didasarkan pada sampel X 1, X 2,, X n yang diambil dari distribusi X. sebuah uji untuk hipotesis didasarkan pada sebuah daerah kritis, C sehingga aturan ujinya adalah Tolak H 0 jika (X 1, X 2,, X n ) C Terima H 0 jika (X 1, X 2,, X n ) C

Peluang terjadinya kesalahan tipe 1 adalah ukuran atau taraf keberartian untuk uji, α = max θ ω 0 P θ ((X 1,, X n ) C). Peluang ini menyatakan bahwa peluang bahwa (X 1,, X n ) C ketika θ ω 0 adalah parameter yang sebenarnya untuk distribusi. Peluang terjadinya kesalahan tipe 2 adalah peluang maksimum bahwa H 1 ditolak ketika θ C, K C (θ) = P θ ((X 1,, X n ) C), θ ω 1.

contoh 1 Misalkan X adalah peubah acak distribusi binomial dengan n = 5 dan p = θ. Jika hipotesis untuk nilai θ adalah H 0 : θ = 1 2 dan H 1 : θ = 3 4. Tentukan daerah kritis untuk α = 1/32. Untuk menjawab ini, pertama akan ditampilan tabel nilai f ( x; 1 ( ) ( ) ( 2), f x; 3 4 dan rasio f x; 1 2 /f x; 3 4) untuk semua nilai x yang mungkin dari distribusi. x 0 1 2 3 4 5 f ( x; 1 ) 1 5 10 10 5 2 32 32 32 32 32 f ( x; 3 ) 1 15 90 270 405 4 1024 1024 1024 1024 1024 1 32 243 1024 f (x; 1 2) f (x; 3 4) 32 32 3 32 9 32 27 32 81 32 243

Dari tabel,dapat dilihat bahwa untuk nilai α = 1/32 himpunan bagian dari nilai-nilai x yang mungkin hanya ada ada 2, yaitu A 1 = {x : x = 0} dan A 2 = {x : x = 5} sehingga P(A 1 ) = 1/32 dan P(A 2 ) = 1/32. Ini berarti hanya satu dari A 1 dari A 2 yang merupakan daerah kritis terbaik. Jika P(A 1 ; θ = 1/2) = 1 32 dan P(A 1 : θ = 3/4) = 1 1024. Sehingga dengan kondisi demikian, ketika A 1 dijadikan daerah kritis, maka peluang menolak H 0 ketika H 1 benar lebih kecil daripada peluang menolak H 0 ketika seharusnya H 0 benar. Jika P(A 2 ; θ = 1/2) = 1 32 dan P(A 2 : θ = 3/4) = 243 1024. Sehingga dengan kondisi demikian, ketika A 1 dijadikan daerah kritis, maka peluang menolak H 0 ketika H 1 benar lebih besar daripada peluang menolak H 0 ketika seharusnya H 0 benar. Maka daerah kritis terbaik adalah A 2.

contoh 2 Kasus yang sama di contoh 1, tentukan daerah kritisnya untuk α = 6/32. Misalkan bahwa H 0 benar, maka terdapat 4 himpunan bagian dari ruang sampel, yaitu B 1 = {x : x = 0, 1}, B 2 = {x : x = 0, 4}, B 3 = {x : x = 1, 5} dan B 4 = {x : x = 4, 5}, sehingga ukuran peluangnya 6 32. Jika H 1 benar, maka peluang untuk masing-masing himpunan tersebut adalah P(B 1 ) < P(B 2 ) < P(B 3 ) < P(B 4 ) = 648 1024. Maka daerah kritis yang dipilih adalah B 4 = {x : x = 4, 5}. Dari contoh 1 dan 2, dapat diberikan kriteria sebuah daerah kritis terbaik.

Definisi 1 Misalkan C adalah himpunan bagian dari ruang sampel A. C adalah daerah kritis terbaik dari ukuran α untuk uji hipotesis sederhana, H 0 : θ = θ 0 terhadap hipotesis alternatif (sederhana), H 1 : θ = θ 1, jika berlaku P θ0 ((X 1, X 2,, X n ) C) = α A A berlaku P θ0 ((X 1, X 2,, X n ) A) = α maka P θ1 ((X 1, X 2,, X n ) C) P θ1 ((X 1, X 2,, X n ) A). Misalkan X 1, X 2,, X n sampel acak berukuran n Z + dari distribusi peluang yang fkp-nya f (x; θ). Fungsi likelihood untuk X 1, X 2,, X n adalah L(θ; x 1,, x n ) = n f (x i ; θ) i=1

teorema Neyman-Pearson Teorema 1 Jika Ω = {θ 0, θ 1 }, k bilangan positif, dan C himpunan bagian dari ruang sampel sehingga L(θ 0 ;x 1,,x n) L(θ 1 ;x 1,,x n) k, (x 1,, x n ) C L(θ 0 ;x 1,,x n) L(θ 1 ;x 1,,x n) k, (x 1,, x n ) C α = P ((X 1, X 2,, X n ) C). Maka C adalah daerah kritis terbaik untuk taraf keberartian α dari uji hipotesis sederhana H 0 : θ = θ 0 dan H 1 : θ = θ 1.

contoh 3 Misalkan X 1, X 2,, X n sampel acak dari distribusi N(θ, 1). Jika hipotesis sederhana yang akan diuji adalah H 0 : θ = 0 vs H 1 : θ = 1. Tentukan daerah kritis terbaik untuk taraf keberartian α. Karena distribusinya normal dengan mean θ dan variansi σ 2 = 1, maka fkp-nya adalah f (x; θ) = 1 2π exp ( ) (x θ)2, < x <. 2 Bentuk fungsi likelihoodnya adalah ( ) 1 n ( L(θ; x 1, x 2,, x n ) = exp 2π untuk < x i <, i = 1, 2,, n. n i=1 (x i θ) 2 2 ),

Maka L(0; x 1, x 2,, x n ) L(1; x 1, x 2,, x n ) = ( exp ( exp ) n i=1 x2 i 2 n i=1 (x i 1) 2 atau dapat ditulis menjadi ( L(0; x 1, x 2,, x n ) n L(1; x 1, x 2,, x n ) = exp i=1 x i 2 + n 2 2 ) i=1 (x i 1) 2 Jika k > 0, sehingga untuk semua titik (x 1, x 2,, x n ) berlaku ( ) n exp x i + n k, 2 i=1 maka himpunan semua titik (x 1, x 2,, x n ) yang memenuhi bentuk tersebut adalah daerah kritis terbaik. ).

Bentuk exp ( x i + n 2) k ekuivalen dengan dengan x = x i /n. x 1 2 ln k n = c, Jadi daerah kritis terbaik untuk kasus ini dapat dinyatakan sebagai C = {(x 1, x 2,, x n ) : x c}. Uji hipotesisnya dapat didasarkan pada statistik X. Jika x > c, H 0 ditolak untuk taraf keberartian α. Peluang penolakan H 0, ketika H 0 benar adalah α. Jika x < c, H 0 diterima. Peluang menolak H 0 ketika H 0 salah adalah nilai kuasa untuk uji ketika θ = 1.

Peluang/nilai kuasa-nya dinyatakan P( X c; H 1 ) = c ) 1 n( x 1)2 exp ( d x. 2π/n 2 Sebagai contoh, jika n = 25 dan α = 0.05, maka diperoleh nilai c = z 0,05 1/25 = 1, 645/5 = 0, 329. Sehingga nilai kuasa untuk H 1 benar adalah ) 1 25( x 1)2 P( X 0, 329; H 1 ) = exp ( d x 0,329 2π/25 2 ( ) 0, 329 1 = 1 Φ 1/5 = 1 0, 000397 = 0, 999603.

Teorema Neyman-Pearson ini juga dapat diterapkan pada pengujian bentuk distribusi. Jika H 0 adalah hipotesis sederhana bahwa fkp bersama adalah g(x 1, x 2,, x n ) dan H 1 adalah fkp bersama h(x 1, x 2,, x n ), maka daerah kritis terbaik C untuk taraf keberartian α pada uji hipotesis H 0 dengan H 1 memenuhi syarat: g(x 1,x 2,,x n) h(x 1,x 2,,x n) k, (x 1,, x n ) C g(x 1,x 2,,x n) h(x 1,x 2,,x n) k, (x 1,, x n ) C α = P ((X 1, X 2,, X n ) C). Berikut adalah sebuah contoh.

contoh 4 Misalkan X 1, X 2,, X n sampel acak dari sebuah fkp f(x) yang positif untuk nilai-nilai x adalah bilangan bulat tak negatif. Jika hipotesis sederhana yang akan diuji adalah melawan hipotesis sederhana H 0 : f (x) = e 1, x = 0, 1, 2,, x! H 1 : f (x) = ( ) 1 x+1, x = 0, 1, 2,. 2 Tentukan daerah kritis terbaik untuk taraf keberartian α.

Misalkan kondisi H 0 benar, maka fkp bersama X 1, X 2,, X n adalah g(x 1,, x n ) = e n x 1!x 2! x n!, x i = 0, 1, 2,, i = 1, 2,, n Misalkan kondisi H 1 benar, maka fkp bersama X 1, X 2,, X n adalah ( ) 1 n+ xi h(x 1,, x n ) =, x i = 0, 1, 2,, i = 1, 2,, n. 2 Maka rasio fkp bersama dari dua kondisi adalah ( g 2e 1 ) n 2 xi h = x 1!x 2! x n! untuk x i = 0, 1, 2,, i = 1, 2,, n.

Jika k > 0, dan g/h k untuk (x 1, x 2,, x n ) C, maka ( n ) ( n ) x i log 2 log (x i )! log k n log 2e 1 = c. i=1 i=1 Maka daerah kritis terbaik C dapat dinyatakan { ( n ) ( n ) } C = (x 1, x 2,, x n ) : x i log 2 log (x i )! c. i=1 i=1 Jadi, misalkan untuk n = 1 dan k = 1, maka daerah kritis terbaiknya adalah C = {x : x = 0, 3, 4, 5, } Kuasa untuk uji ketika H 0 benar adalah P(X C : H 0 ) = 1 P(X = 1, 2 : H 0 ) = 1 (0, 368 + 0, 184) = 0, 448

Kuasa untuk uji ketika H 1 benar adalah P(X C : H 1 ) = 1 P(X = 1, 2 : H 1 ) = 1 ( 1 4 + 1 8) = 0, 625

Closing If your experiment needs a statistician, you need a better experiment. Ernest Rutherford