DIKTAT KULIAH STATISTIKA MATEMATIKA I

Transkripsi

1 DIKTAT KULIAH STATISTIKA MATEMATIKA I Disusun Oleh Dr.rer.nat. Wayan Somayasa, S.Si., M.Si. FMIPA UNHALU-KENDARI KENDARI 2008

2 Table of Contents Table of Contents 1 1 Statistik dan distribusi sampling Sampel random Statistik Distribusi sampling dari populasi normal Distribusi chi-kuadrat Distribusi t student Distribusi F Soal-soal Estimasi titik Metode momen Estimator dengan likelihood terbesar Kasus satu parameter (k = 1) Kasus k parameter Keriteria-keriteria memilih estimator Ketakbiasan Keterkonsentrasian dan UMVUE Soal-soal Statistik cukup, keluarga lengkap dan keluarga eksponensial Statistik cukup Keluarga lengkap Keluarga eksponensial Soal-soal

3 2 4 Estimasi interval Metode kuantitas pivot (pivotal quantity) Membandingkan dua populasi normal Metode umum Kasus h 1 dan h 2 monoton naik Kasus h 1 dan h 2 monoton turun Soal-soal Uji hipotesis Pendahuluan Menentukan daerah kritik Nilai p (p-value) Metode memilih tes terbaik Tes UMP untuk hipotesis sederhana Tes UMP untuk hipotesis komposit Keluarga monotone likelihood ratio (MLR) Tes dengan membandingkan fungsi likelihood Soal-soal Teori sampel besar 85 7 Teori Bayes 86 8 Estimasi dengan metode bootstrap 87

4 Chapter 1 Statistik dan distribusi sampling Pada bagian ini kita akan membahas konsep tentang statistik (engl.: statistic) dan distribusi sampling. Harap diperhatikan perbedaan antara statistik dan statistika (engl.: statistics). Sebelumnya kita akan mengajak pembaca untuk membahas pengertian sampel random dan peranannya dalam statistika. 1.1 Sampel random Misalkan seorang peneliti tertarik untuk mengamati proporsi ikan tuna yang tersebar di teluk Kendari. Tentu saja proporsi ini tidak diketahui kecuali kalau si peneliti tadi bisa menghitung semua ikan yang hidup di teluk Kendari dan kemudian menghitung berapa bagian dari total jumlah ikan tadi yang merupakan ikan tuna. Apakah ini mungkin dilakuan? Berapa banyak waktu, biaya dan tenaga yang perlu diinvestasikan kalau cara ini yang ditempuh? Sebagai statistikawan kita bisa membantu si peneliti tadi dengan statistika sebagai berikut. Kita misalkan populasi ikan di teluk Kendari sebagai ruang probabilitas 3

5 4 (Ω, F, P). Misalkan Ω T adalah himpunan semua ikan tuna, maka proporsi ikan tuna dalam populasi itu adalah P(Ω T ) = Ω T, yaitu jumlah ikan tuna dibagi jumlah ikan Ω keseluruhan. Kita misalkan konstanta yang tidak diketahui ini sebagai p 0. Misalkan X : Ω R adalah indikator dari Ω T, yaitu suatu fungsi yang didefinisikan sebagai berikut X(ω) : { 1 : jika ω ΩT 0 : jika ω Ω T. Maka X adalah sebuah variabel random (fungsi terukur) Bernoulli yang mengambil nilai pada ruang sampel (R, B, P X ), dimana untuk setiap himpunan bagian B B, P X (B) := P{ω Ω : X(ω) B}. Misalkan ambil kasus dimana B = {1}, maka P X ({1}) := P{ω Ω : X(ω) = 1} = P(Ω T ) = p. Selanjutnya P X disebut sebagai distribusi peluang dari X. Sebaliknya kalau B = {0}, maka P X ({0}) := P{ω Ω : X(ω) = 0} = P(Ω C T ) = 1 p, dimana ΩC T adalah komplemen dari Ω T. Jadi model distribusi peluang ikan tuna di teluk Kendari di gambarkan oleh model distribusi peluang dari X dengan fungsi densitas f X (x) := P X ({x}) = P{X = x} = p x (1 p) 1 x, x = 0, 1. Selanjutnya f X (x) disebut sebagai fungsi densitas populasi. Misalkan dari suatu eksperimen yang dilakukan misalkan dengan memancing ikan lalu mencatat hasilnya pada setiap pemancingan sebagi 1 jika yang didapat adalah tuna dan 0 jika hasilnya bukan ikan tuna. Andaikan pemancingan dilakukan n kali, maka data yang diperoleh adalah x 1,..., x n, dengan x i {0, 1}, i = 1,..., n. Dalam statistika kita memandang data sebagai realisasi (nilai) dari variabel random X 1,..., X n yang terdefinisi pada (Ω, F, P), yaitu X i (ω) = x i, untuk suatu ω Ω, i = 1,..., n. Kita nyatakan distribusi peluang bersama dari X 1,..., X n dengan n P X i yang terdefinisi pada (R n, B n ). Definisi Suatu himpunan random variable {X 1,..., X n } dikatakan sebagai

6 5 sampel random berukuran n dari suatu populasi X, jika dan hanya jika n P X i { n (, t i ]} = Π n P X i ((, t i ]) = Π n P X ((, t i ]), dimana n (, t i ] := (, t 1 ] (, t n ]. Jika populasi X mempunyai fungsi densitas f(x), maka {X 1,..., X n } dikatakan sebagai sampel random berukuran n dari suatu populasi X, jika dan hanya jika f X1,...,X n (x 1,..., x n ) = Π n f(x i ). Jadi suatu sampel random harus memenuhi kondisi dimana X 1,..., X n saling independen dan masing-masing mempunyai distribusi peluang yang sama dengan distribusi peluang populasinya (sering juga dikatakan i.i.d sebagai singkatan dari independent and identically distributed). Kembali ke kasus semula jika pada setiap pemancingan (trial) ikan dilepas lagi, maka hasil berikutnya tidak akan terpengaruh dari hasil sebelumnya (saling independen) dan masing-masing akan mengikuti distribusi yang sama yaitu Bernoulli dengan parameter p. Jadi eksperimen kita akan menghasilkan sampel random berukuran n dari populasi ikan tuna di teluk Kendari. Sebagai contoh lain, misalkan suatu pabrik lampu dalam setahun memproduksi lampu pijar dengan jenis yang sama, misalkan jenis A. Karena suatu hal, daya tahan lampu yang dihasilkan ternyata berbeda-beda. Andaikan produsen tertarik untuk menyelidiki proporsi lampu yang mempunyai daya tahan sesuai spesifikasi tertentu, misalkan daya tahannya melebihi t jam. Andaikan populasi lampu jenis A dimisalkan sebagai ruang (Ω, F, P) dan Y : (Ω, F, P) (R 0, B(R 0 ), P Y ) dengan

7 6 Y (ω) adalah daya tahan bola lampu ω Ω. Andaikan Y mengikuti distribusi exponensial dgn parameter θ > 0, maka proporsi bola lampu jenis A yang daya tahannya lebih dari atau sama dengan t jam adalah P Y ([t, )) = t 1 exp{ y/θ}dy = θ exp{ t/θ}, t 0. Andaikan Y 1,..., Y n adalah sampel random dari populasi Y, maka n P Y i ( n [t i, )) = Π n exp{ t i /θ} = exp{ 1 θ n t i}. 1.2 Statistik Pada subbab sebelumnya kita mengenal p dan θ sebagai konstanta-konstanta (parameterparameter) yang tidak diketahui nilainya. Tujuan dari statistika adalah merumuskan suatu konsep inferensi atau pendugaan terhadap parameter-parameter tersebut. Alat utama yang digunakan adalah apa yang disebut statistik. Definisi Misalkan {X 1,..., X n } adalah himpunan n N variabel random teramati dari suatu populasi tertentu. Statistik adalah sembarang fungsi T := t(x 1,..., X n ) yang tidak bergantung pada sembarang parameter yang tidak diketahui. Selanjutnya distribusi dari suatu statistik disebut distribusi sampling. Catatan: Pada Definisi kata teramati mengandung pengertian bahwa melalui suatu eksperimen n titik data yang diperoleh adalah realisasi dari X 1,..., X n. Variabel-variabel ini harus teramati, karena kalau tidak, maka fungsi t tidak bisa dihitung. Contoh Misalkan X 1,..., X n adalah sampel random dari suatu populasi dengan mean µ dan variansi σ 2 > 0. Mean sampel X := 1 n n X i and variansi sampel S 2 := 1 n 1 n (X i X) 2 merupakan statistik dengan sifat-sifat sebagai berikut:

8 7 1. E( X) = µ and V ar( X) = σ 2 /n. 2. E(S 2 ) = σ 2 and V ar(s 2 ) = 1 n (µ 4 n 3 n 1 σ4 ), dengan µ 4 := E(X 4 ). Untuk kasus penyelidikan ikan tuna di teluk Kendari, proporsi sampel adalah ˆp := 1 n n X i, dengan X i i.i.d. Bin(1, p). Maka E(ˆp) = p dan V ar(ˆp) = p(1 p). 1.3 Distribusi sampling dari populasi normal Pada bagian ini kita akan mempelajari distribusi dari beberapa statistik yang merupakan fungsi dari sampel random dari populasi normal. Kita batasi pembicaraan pada populasi normal saja karena selain secara matematika mudah diturunkan, juga karena model distribusi ini banyak dipakai di lapangan. Teorema Misalkan X 1,..., X n saling independen dan berdistribusi N(µ i, σ 2 i ). Maka Y := n a ix i N ( n a iµ i, n a2 i σ 2 i ), untuk a i R, i = 1,..., n. Proof. Hasil ini dapat dibuktikan dengan konvolusi dari variabel random normal. Yaitu jumlah dari beberapa variabel random normal adalah normal. Karena distribusi normal ditentukan secara tunggal hanya oleh mean dan variansinya, berarti kita hanya perlu menghitung mean dan variansi dari Y yang diberikan oleh n a iµ i dan n a2 i σ 2 i. Cara lain adalah dengan metode ketunggalan fungsi pembangkit momen (Moment Generating Functions/MGF). Secara umum jika X N(µ, σ 2 ), maka M X (t) = exp{tµ t2 σ 2 }, t R. (1.3.1) Karena X i saling independen, maka berlaku M Y (t) = Π n M Xi (a i t) = Π n exp{ta i µ i t2 a 2 i σ 2 i }

9 8 = exp{t n a i µ i t2 n a 2 i σi 2 }. (1.3.2) Selanjutnya dengan membandingkan (1.3.1) dan (1.3.2), teorema terbukti. Contoh Misalkan X 1,..., X n1 dan Y 1,..., Y n2 merupakan dua sampel random yang saling bebas masing-masing berukuran n 1 dan n 2. Jika X i N(µ 1, σ 2 1) dan Y j N(µ 2, σ 2 2), i = 1,..., n 1 dan j = 1,..., n 2, maka X Ȳ N(µ 1 µ 2, σ 2 1/n 1 + σ 2 2/n 2 ). Proof. Pernyataan ini dapat ditunjukan dengan menggunakan secara langsung hasil pada Teorema dan kenyataan X Ȳ = 1 n 1 X n 1 X n1 1 n 2 Y n 2 Y n2. Cara lain adalah dengan metode MGF sebagai berikut: M X Ȳ (t) = M X(t)M Ȳ ( t) (kedua sampel saling independen) = Π n 1 M X i (t/n 1 )Π n 2 { = Π n 1 t exp µ n 1 2 = exp j=1 M Y j ( t/n 2 ) t 2 σ n } Π n 2 exp { t { t(µ 1 µ 2 ) t2 (σ 2 1/n 1 + σ 2 2/n 2 ) µ n 2 2 }. Persamaan yang terakhir adalah MGF dari N(µ 1 µ 2, σ 2 1/n 1 + σ 2 2/n 2 ). t 2 σ n Contoh Dari hasil pada Contoh tentukan suatu konstanta c sedemikian hingga 95% dari populasinya mempunyai selisih mean sampel lebih dari c. Jawab: Dengan menggunakan transformasi variabel diperoleh P { X Ȳ c } { ( = 0, 95 P X } Ȳ ) (µ 1 µ 2 ) c (µ 1 µ 2 ) = 0, 95. σ 2 1 /n 1 + σ2/n 2 2 σ 2 1 /n 1 + σ2/n 2 2 Selanjutnya karena ( X Ȳ ) (µ 1 µ 2 ) σ1 2/n 1+σ2 2/n 2 dari persamaan N(0, 1), maka konstanta c adalah penyelesaian c (µ 1 µ 2 ) σ 2 1 /n 1 + σ 2 2/n 2 = z 0,05 c = (µ 1 µ 2 ) + z 0.05 σ 2 1/n 1 + σ 2 2/n 2. }

10 Distribusi chi-kuadrat Definisi Suatu variabel random X dikatakan berdistribusi chi-kuadrat dengan derajat bebas ν (X χ 2 (ν)), jika dan hanya jika X Gamma(2, ν/2). Remark Sifat-sifat distribusi chi-kuadrat dapat diturunkan langsung dari sifatsifat distribusi Gamma. Jika X χ 2 (ν), maka 1. M X (t) = (1 2t) ν/2, 2. E(X r ) = 2 r Γ(ν/2+r) Γ(ν/2), r Z, 3. E(X) = ν dan V ar(x) = 2ν. Teorema Jika X Gamma(θ, κ), maka 2X/θ χ 2 (2κ). Proof. Bukti yang paling sederhana adalah dengan metode ketunggalan MGF: ( M 2X (t) = M X (2t/θ) = 1 θ 2t ) κ = (1 2t) 2κ/2. θ θ Jadi terbukti 2X/θ χ 2 (2κ). Contoh Andaikan bahwa daya tahan batu batrai yang diproduksi oleh suatu pabrik mengikuti distribusi Gamma(θ, κ). Jika pabrik ingin memberikan suatu jaminan bahwa 90% dari produknya mempunyai daya tahan lebih dari t 0 tahun, maka tentukan t 0. Jawab: Andaikan X adalah daya tahan batu batrai dalam satuan tahun. Yang ingin ditentukan oleh pabrik adalah t 0 sedemikian hingga P{X t 0 } = 0, 90. Tetapi dari Teorema 1.3.6, P{2X/θ 2t 0 /θ} = 0, 90. Maka t 0 = χ 2 0,10(2κ)/2. Disini χ 2 α(2κ) adalah suatu konstanta yang memenuhi persamaan P{χ 2 (2κ) χ 2 α(2κ)} = α atau disebut juga pesensil ke alpha dari distribusi χ 2 (2κ).

11 10 Teorema berikut memberikan hasil yang sangat penting dari distribusi chi-kuadrat. Teorema Misalkan Y 1,..., Y n saling independen dan Y i χ 2 (ν i ). Maka V = n Y i χ 2 ( n ν i). Proof. Kita buktikan hasil ini dengan ketunggalan MGF. Dari asumsi bahwa Y i saling independen berlaku: M V (t) = Π n (1 2t) ν i/2 = (1 2t) n ν i/2 yang merupakan MGF dari χ 2 ( n ν i). Hasil berikut menjelaskan hubungan antara distribusi normal standar dan distribusi chi-kuadrat. Teorema Jika Z N(0, 1), maka Z 2 χ 2 (1). Proof. M Z 2(t) = E ( exp{tz 2 } ) = = yang merupakan MGF dari χ 2 (1). 1 2π exp{tz 2 z 2 /2}dz 1 1 2t = (1 2t) 1/2, 1 2t 2π exp{ z 2 (1 2t)/2}dz Akibat Jika X 1,..., X n adalah sampel random dari populasi N(µ, σ 2 ), maka berlaku: 1. n (X i µ) 2 σ 2 χ 2 (n), 2. n( X µ) 2 σ 2 χ 2 (1). Pada Contoh kita sudah menurunkan distribusi dari mean sampel. Teorema berikut memberikan distribusi dari variansi sampel S 2 yang didefinisikan pada Contoh

12 11 Teorema Jika X 1,..., X n menyatakan sampel random dari N(µ, σ 2 ), maka 1. Antara X dan (X i X), i = 1,..., n saling independen. 2. Antara X dan S 2 saling independen, 3. (n 1)S 2 /σ 2 χ 2 (n 1). Proof. Kita definisikan transformasi variabel berikut: y 1 = x dan y i = x i x, untuk i = 2,..., n, sehingga diperoleh: x i = y 1 + y i, i = 2,..., n dan x 1 = y 1 n i=2 y i. Jacobian dari transformasi ini adalah J = det(j) = n Selanjutnya dari x 1 x = n i=2 (x i x) = n i=2 y i diperoleh ( ) 2 n n n (x i x) 2 = (x 1 x) + (x i x) 2 = y i + i=2 i=2 n yi 2. (1.3.3) Karena saling bebas, fungsi densitas bersama dari X 1,..., X n adalah { } 1 f X1,...,X n (x 1,..., x n ) = (2π) n/2 σ exp 1 n (x n 2σ 2 i µ) 2 { ( n )} 1 = (2π) n/2 σ exp 1 (x n 2σ 2 i x) 2 + n( x µ) 2. Sehingga dari (1.3.3) fungsi densitas bersama dari variabel Y 1,..., Y n adalah ( ) g Y1,...,Y n (y 1,..., y n ) = det(j) (2π) n/2 σ exp n 1 2 n n y 2σ 2 i + yi 2 + n(y 1 µ) 2 i=2 i=2 { 1 = 2πσ2 /n exp 1 } 2σ 2 /n (y 1 µ) 2 i=2

13 12 n (2π) (n 1)/2 σ (n 1) exp ( 1 2σ 2 ) 2 n y i + i=2 n i=2 y 2 i. Persamaan yang terakhir menunjukan bahwa fungsi densitas bersama dari Y 1,..., Y n dapat difaktorkan sebagai hasil prgandaan antara fungsi densitas dari Y 1 dan fungsi densitas bersama dari Y 2,..., Y n. Jadi Y 1 = X independen terhadap Y i = X i X untuk i = 2,..., n. Selanjutnya karena X 1 X = n i=2 (X i X), berarti X juga independen terhadap X 1 X. Jadi pernyataan 1 terbukti. Karena S 2 merupakan fungsi dari X i X untuk i = 1,..., n, maka pernyataan 2 hanyalah merupakan akibat langsung dari pernyataan 1. Kita menggunakan metode ketunggalan MGF untuk membuktikan pernyataan 3 : Misalkan V 1 := n (X i µ) 2 χ 2 (n), V σ 2 2 := n( X µ) 2 σ 2 χ 2 (1) dan V 3 = (n 1)S2. Dari σ 2 definisi dari S 2 diperoleh: V 1 = V 3 + V 2 dan dari pernyataan 2 jelaslah V 2 dan V 3 saling independen, sehingga berlaku M V1 (t) = M V3 +V 2 (t) = M V3 (t)m V2 (t) M V3 (t) = M V 1 (t) M V2 (t) yang merupakan MGF dari χ 2 (n 1). = (1 2t) n/2 (1 2t) 1/2 = (1 2t) (n 1)/2, Contoh Misalkan sebaran nilai ujian akhir mata kuliah Kewiraan mahasiwa FMIPA Unhalu angkatan 2007/2008 diasumsikan berdistribusi N(60, 36). Untuk menguji kebenaran klaim bahwa σ 2 = 36, sebuah sampel random berukuran 25 diambil dari populasi ini. Asumsi akan ditolak jika S 2 54, 63 dan sebaliknya asumsi akan ditolak jika S 2 < 54, 63. Tentukan berapa peluang menolak asumsi ini jika benar bahwa populasinya N(60, 36). Jawab:

14 13 Dari Teorema pernyataan 3 kita peroleh: P { S 2 54, 63 } { 24S 2 = P 36 } 36, 42 = 1 P { χ 2 (24) < 36, 42 } = 0, Distribusi t student Teorema Misalkan Z N(0, 1) dan Y χ 2 (ν). Jika Z dan Y saling independen, maka T := Z Y/ν dikatakan berdistribusi t student dengan derajat bebas ν. Selanjutnya dituliskan sebagai T t(ν). Fungsi densitas dari T adalah: f T (t; ν) = Γ ( ) ν+1 ( ) (ν+1)/2 2 Γ ( 1 ) 1 + t2 (1.3.4) ν 2 νπ ν Proof. Kita definisikan transformasi T = Z dan W = Y yang berakibat Z = Y/ν T W/ν dan Y = W. Jakobian dari transformasi yariabel t = z y/ν dan w = y adalah J = w/ν t 2 w/ν 0 1 det(j) = w/ν. Karena Z dan Y saling independen, maka fungsi densitas bersamanya adalah: f Z,Y (z, y) = f Z (z)f Y (y) = e z2 /2 2π y ν/2 1 e y/2 2 ν/2 Γ(ν/2) = yν/2 1 e (y/2+z2/2) 2πΓ(ν/2)2 ν/2. f T,W (t, w) = f Z,Y (z, y)det(j) = wν/2 1 e w/2 e t2 w/2ν w/ν 2πΓ(ν/2)2 ν/2 = (w/2)ν/2 1/2 e w/2(1+t2 /ν) 4πνΓ(ν/2), < t <, 0 < w <. Maka fungsi densitas marginal dari T adalah f T (t) = 0 (w/2) ν/2 1/2 e w/2(1+t2 /ν) 4πνΓ(ν/2) dw.

15 14 Dengan memisalkan u := w/2(1 + t 2 /ν),maka integral ini dapat disederhanakan menjadi f T (t) = u (ν/2+1/2 1) e u du 0 πνγ(ν/2)(1 + t2 /ν) = Γ ( ) ν+1 2 (1 + t 2 /ν) (ν+1) (ν+1)/2 2 πνγ(ν/2) Gambar berikut adalah grafik fungsi densitas dari distribusi t(1). Secara umum bentuk grafiknya adalah bellshape serupa dengan grafik fungsi densitas distribusi normal standar yaitu simetris terhadap titik t = 0. f(t ; 1) t Gambar 1. Grafik fungsi densitas distribusi t(1). Teorema Jika X 1,..., X n merupakan sampel random dari N(µ, σ 2 ), maka X µ S/ t(n 1), dimana S = 1 n (X i n n 1 X) 2. Proof. Misalkan Z := ( X µ)/ σ 2 /n dan Y := (n 1)S 2 /σ 2, maka berlaku X µ S/ n = Z/ Y/(n 1), dengan Z N(0, 1) dan Y χ 2 (n 1) (lih. Teorema pernyataan 3). Selanjutnya karena Z dan Y saling independen (lih. Teorema pernyataan 2), maka dari Teorema , teorema terbukti.

16 15 Sebagai catatan, untuk melakukan inferensi terhadap µ dari populasi N(µ, σ 2 ), maka quantitas X µ σ 2 /n tidak bisa dipakai apabila σ2 tidak diketahui. Karena itu kita melakukan estimasi dahulu terhadap σ 2 dengan S 2. Jadi disinilah letak penggunaan dari distribusi t Distribusi F Salah satu alasan kenapa distribusi F penting untuk di pelajari adalah jika kita mempunyai 2 sampel random X 1,..., X n1 dari populasi N(µ 1, σ 2 1) dan Y 1,..., Y n2 dari populasi N(µ 2, σ 2 2) dan kita ingin melakukan inferensi terhadap rasio σ 2 1/σ 2 2. Teorema Misalkan U χ 2 (r 1 ) dan V χ 2 (r 2 ). Jika U dan V saling independen, maka X := U/r 1 V/r 2 distribusi ini kita tuliskan sebagai F (r 1, r 2 ). berdistribusi F dengan derajat bebas r 1 dan r 2. Selanjutnya Persensil f γ (r 1, r 2 ) adalah konstanta yang memenuhi persamaan P{X f γ (r 1, r 2 )} = γ. Fungsi densitas dari X adalah: ( ) r1 /2 ( r 1 r 2 Γ r1 ) +r 2 2 x (r 1 /2 1) f X (x; r 1, r 2 ) = Γ(r 1 /2)Γ(r 2 /2)(xr 1 /r 2 + 1) (r 1+r 2 (1.3.5) )/2 Proof. Kita definisikan transformasi variabel X = U/r 1 V/r 2 dan Y = V, maka U = XY r 1 /r 2 dan V = Y. Jacobian dari transformasi u = xyr 1 /r 2 dan v = y adalah: J = yr 1/r 2 xr 1 /r det(j) = yr 1 /r 2. Selanjutnya karena U dan V saling independen, fungsi densitas bersamanya adalah f U,V (u, v; r 1, r 2 ) = f U (u; r 1 )f V (v; r 2 ) = ur 1/2 1 v r 2/2 1 exp{ (u + v)/2} Γ(r 1 /2)Γ(r 2 /2)2 (r 1+r 2 )/2. Maka fungsi densitas bersama antara X adan Y adalah: f X,Y (x, y; r 1, r 2 ) = f U,V (u, v; r 1, r 2 ) det(j)

17 16 = = ( ) r1 (xy) r r 2 1 r 22 1 r 2 y 1 Γ(r 1 /2)Γ(r 2 /2)2 exp{ (xyr (r 1+r 2 )/2 1/r 2 )/2 y/2}yr 1 /r 2 ( ) r1 r 2 1 r 2 y (r 1+r 2 )/2 1 x r Γ(r 1 /2)Γ(r 2 /2)2 exp{ y (r 1+r 2 )/2 2 (xr 1/r 2 + 1)}. Fungsi densitas marginal dari X adalah f X (x; r 1, r 2 ) = 0 f X,Y (x, y; r 1, r 2 ) dy. Dengan menggunakan substitusi variabel w = y 2 (xr 1/r 2 + 1) atau y = 2w/(xr 1 /r 2 + 1) kita peroleh f X (x; r 1, r 2 ) = 0 ( r 1 r 2 ) r1 2 x r w (r 1+r 2 )/2 1 exp{ w} Γ(r 1 /2)Γ(r 2 /2)(xr 1 /r 2 + 1) (r 1 +r 2 ) 2 dw, yang menghasilkan (1.3.5). Teorema Jika X F (r 1, r 2 ), maka E(X r ) = ( r 1 ) r r 2 Γ (r1 /2 + r) Γ (r 2 /2 r), r 2 > 2r, (1.3.6) Γ (r 1 /2) Γ (r 2 /2) E(X) = r 2 r 2 2, r 2 > 2, (1.3.7) V ar(x) = 2r2 2(r 1 + r 2 2) r 1 (r 2 2) 2 (r 2 4), r 2 > 4 (1.3.8) Proof. Karena U dan V saling bebas, maka berlaku E(X r ) = E(U/r 1 ) r E(V/r 2 ) r = ( r1 r 2 ) r E(U r )E(V r ). Selanjutnya hasil di atas diperoleh dengan substitusi langsung terhadap E(U r ) dan E(V r ) untuk variabel chi kuadrat. Pernyataan yang lainnya adalah kejadian khusus dari pernyataan pertama. Contoh Misalkan X 1,..., X n1 dan Y 1,..., Y n2 merupakan dua sampel random yang saling independen dari populasi, dimana X i N(µ 1, σ 2 1) dan Y j N(µ 2, σ 2 2).

18 17 Dari Teorema , jelaslah (n 1 1) S2 X σ 2 1 χ 2 (n 1 1) dan (n 2 1) S2 Y σ 2 2 χ 2 (n 2 1), dan keduanya jelas saling independen, sehingga { S 2 P X σ2 2 SY 2 σ2 1 } { SX 2 f γ (n 1 1, n 2 1) = γ P SY 2 f γ(n 1 1, n 2 1) σ2 1 σ2 2 } = γ 1.4 Soal-soal 1. Misalkan Z 1,..., Z 16 adalah sampel random dari populasi N(0, 1). Dengan menggunakan tabel atau software S-PLUS tentukan peluang berikut: (a) P { 16 Z2 i < 32 } (b) P { 16 (Z i Z) 2 < 25 } 2. Jika T t(ν), tentukan distribusi dari T 2?

19 Chapter 2 Estimasi titik Pada chapter ini kita akan membahas beberapa metode estimasi yang penting, yaitu metode momen dan metode estimasi dengan likelihood terbesar. Seperti yang sudah dibahas pada Chapter 1, populasi atau phenomena yang menjadi perhatia, kita gambarkan dengan variabel random X : (Θ, F, P) (R, B, P X ). Secara umum populasi X diasumsikan mempunyai distribusi probabilitas dengan fungsi densitas merupakan anggota dari keluarga P X (θ 1,...,θ k ) := { f X ( ; θ 1,..., θ k ) : (θ 1,..., θ k ) Θ := Θ 1 Θ k R k}, dimana (θ 1,..., θ k ), k N adalah bilangan-bilangan yang tidak diketahui nilainya atau disebut juga parameter. Kita namakan Θ ruang parameter. Misalnya, { 1 P X (µ,σ 2 ) := exp{ 1 } 2πσ 2 2σ ( 2 µ)2 } : (µ, σ 2 ) (, ) (0, ) R 2, yang berarti populasi X termasuk anggota dari keluarga distribusi normal dimana setiap elemen dari keluarga ini diidentifikasi oleh suatu parameter µ dan σ 2 yang tidak diketahui nilainya. Tujuan dari estimasi titik adalah untuk menentukan nilai yang 18

20 19 sesuai dari parameter-parameter θ 1,..., θ k berdasarkan data hasil observasi terhadap populasinya. Data x 1,..., x n yang diperoleh dipandang secara matematik sebagai realisasi atau nilai dari n variabel random yang saling independen X 1,..., X n dengan X i : (Θ, F, P) (R, B, P X i ) dan X i f X ( ; θ 1,..., θ k ), (θ 1,..., θ k ) Θ. Fungsi densitas bersama dari sampel random ini yang dihitung pada titik data x 1,..., x n, yaitu f X1,...,X n (x 1,..., x n ; θ 1,..., θ k ) = Π n f X (x i ; θ 1,..., θ k ), (θ 1,..., θ k ) Θ, memberikan hubungan fungsional antara parameter-parameter yang tidak diketahui dan data. Dengan kata lain dari data yang diperoleh dapat diidentifikasi berapa nilai parameter yang sesuai. Definisi Statistik ˆθ 1 := t 1 (X 1,..., X n ),..., ˆθ k := t k (X 1,..., X n ) yang digunakan untuk mengestimasi θ 1,..., θ k disebut estimator. Sedangkan nilainya yang dihitung pada titik data, yaitu t 1 (x 1,..., x n ),..., t k (x 1,..., x n ) disebut estimasi untuk θ 1,..., θ k. Contoh Misalkan X 1,..., X 10 adalah sampel random dari populasi N(µ, σ 2 ), dengan (µ, σ 2 ) (, ) (0, ). Mean sampel X = 10 X i/10 sering dipakai sebagai suatu estimator untuk µ. Jika pada suatu eksperimen diperoleh data misalnya 10, 20, 15, 30, 25, 30, 20, 15, 25, 5, maka rata-ratanya merupakan estimasi untuk µ. Jadi suatu estimator jelas merupakan variabel random, sedangkan estimasi adalah suatu bilanagn real.

21 Metode momen Misalkan X f X ( ; θ 1,..., θ k ), (θ 1,..., θ k ) Θ adalah populasi yang menjadi perhatian kita dan (θ 1,..., θ k ) adalah parameter-parameter yang tidak diketahui. Momem ke j dari populasi ini terhadap titik pusat adalah µ j := E(X j ). Biasanya µ j bergantung pada θ 1,..., θ k karena itu kita notasikan sebagai µ j = µ j(θ 1,..., θ k ), j = 1,..., k. Misalkan X 1,..., X n adalah sampel random dari populasi f X ( ; θ 1,..., θ k ), (θ 1,..., θ k ) Θ. Momen sampel ke j didefinisikan sebagai M j := 1/n n Xj i, j = 1,..., k. Karena µ j sangat dekat dengan M j, estimator ˆθ 1,..., ˆθ k dapat diturunkan dengan meyelesaikan system persamaan µ j(θ 1,..., θ k ) = M j, j = 1,..., k, (2.1.1) secara simultan untuk θ 1,..., θ k. Selanjutnya estimator yang diperoleh dengan cara seperti ini kita sebut sebagai estimator metode momen (moment method estimator) disingkat MME. Contoh Misalkan X f X ( ; µ, σ 2 ), (µ, σ 2 ) (, ) (0, ) dengan E(X) = µ dan V ar(x) = σ 2. Dalam hal ini kita mempunyai k = 2 dengan θ 1 = µ dan θ 2 = σ 2, sehingga MME ˆµ dan ˆσ 2 adalah penyelesaian dari persamaan µ = M 1 dan σ 2 + µ 2 = M 2. Jadi ˆµ = X dan ˆσ 2 = M 2 X 2 = (n 1)S 2 /n. Jadi ˆµ = t 1 (X 1,..., X n ) = X dan ˆσ 2 = t 2 (X 1,..., X n ) = (n 1)S 2 /n. Contoh Misalkan X 1,..., X n adalah sampel random dari populasi Gamma(θ, κ). Karena E(X) = κθ dan E(X 2 ) = κ(1 + κ)θ 2, maka MME ˆθ dan ˆκ dapat diperoleh dengan menyelesaikan persamaan κθ = M 1 dan κ(1 + κ)θ 2 = M 2, untuk θ dan κ. Jadi diperoleh ˆκ = X/ˆθ dengan ˆθ = n (X i X) 2 /(n X) = [(n 1)/(n X)]S 2.

22 21 Contoh Misalkan X 1,..., X n adalah sampel random dari populasi Gamma(θ). Andaikan kita tertarik untuk mencari MME untuk P{X i 1} = exp{ 1/θ}. Karena E(X i ) = θ, maka MME ˆθ = X. Misalkan p := exp{ 1/θ}, maka θ = 1/ ln(p). MME untuk p adalah penyelesaian dari persamaan 1/ ln(p) = X untuk p. Jadi ˆp = exp{ 1/ X}. 2.2 Estimator dengan likelihood terbesar Definisi Misalkan X 1,..., X n merupakan n variabel random dengan X i f Xi ( ; θ 1,..., θ k ), (θ 1,..., θ k ) Θ, i = 1,..., n. Misalkan x 1,..., x n merupakan data atau suatu realisasi dari X 1,..., X n. Fungsi L : Θ R 0, sedemikian hingga L(θ 1,..., θ k ) = f X1,...,X n (x 1,..., x n ; θ 1,..., θ k ) disebut fungsi likelihood. Sebagai kejadian yang lebih khusus, jika X 1,..., X n merupakan suatu sampel random, maka L(θ 1,..., θ k ) = Π n f Xi (x i ; θ 1,..., θ k ). Selanjutnya, nilai-nilai dari (θ 1,..., θ k ) Θ yang dinyatakan sebagai (ˆθ 1,..., ˆθ k ) sedemikian hingga L(ˆθ 1,..., ˆθ k ) = max L(θ 1,..., θ k ) (θ 1,...,θ k ) Θ disebut estimasi dengan likelihood terbesar (engl. Maximum Likelihood Estimate). Biasanya (ˆθ 1,..., ˆθ k ) merupakan fungsi dari data x 1,..., x n, misalkan sebagai ˆθ i = t i (x 1,..., x n ), i = 1,..., k. Jika fungsi-fungsi ini kita terapkan terhadap sampel random X 1,..., X n, maka ˆθ i = t i (X 1,..., X n ) disebut estimator dengan likelihood terbesar (engl. Maximum Likelihood Estimator), disingkat MLE untuk θ i, i = 1,..., k. Dari definisi di atas adalah jelas bahwa permasalahan menentukan MLE adalah termasuk permasalahan optimisasi. Nilai-nilai dari (ˆθ 1,..., ˆθ k ) memberikan global

23 22 maksimum dari L(θ 1,..., θ k ) pada Θ. Karena nilai-nilai dari (θ 1,..., θ k ) yang memaksimumkan L(θ 1,..., θ k ) juga memaksimumkan log-likelihood ln L(θ 1,..., θ k ), maka untuk memudahkan perhitungan, kita akan perhatikan fungsi ln L(θ 1,..., θ k ) saja Kasus satu parameter (k = 1) Jika ruang parameter Θ merupakan interval terbuka, dan jika L( ) terdiferensialkan pada Θ, maka titik-titik extrim terjadi pada titik-titik yang merupakan penyelesaian dari persamaan d ln L(θ) dθ = 0. (2.2.1) Andaikan ˆθ merupakan satu-satunya penyelesaian, maka titik ˆθ adalah MLE, jika d 2 ln L(θ) dθ 2 < 0. (2.2.2) Jika penyelesaian dari (2.2.1) tidak tunggal, misalkan sebagai ˆθ 1,..., ˆθ m, m N dan semuanya memenuhi (2.2.2), maka MLE adalah arg max ˆθ 1,...,ˆθ m {L(ˆθ 1 ),..., L(ˆθ m )}. (2.2.3) Contoh Misalkan X 1,..., X n adalah sampel random dari populasi X P OI(λ), λ > 0. Fungsi likeihood dari datanya adalah Fungsi log-likelihoodnya adalah L(λ) = Π n e λ λ x i x i! ln L(λ) = nλ + d ln L(λ) dλ = e nλ λ n x i Π n (x i!). n x i ln λ Π n (x i!). = 0 n + 1 λ n x i = 0 λ = x.

24 23 Selanjutnya uji turunan ke dua pada titik λ = x memberikan d 2 ln L(λ) dλ 2 = 1 x 2 Jadi MLE untuk λ adalah ˆλ = X. n x i = < 0. n x Catatan: Tidak selamanya MLE dapat diperoleh melalui metode diferensial seperti pada kasus berikut. Contoh Misalkan X 1,..., X n adalah sampel random dari populasi X Exp(1, η), x η. Fungsi likelihoodnya adalah Π n exp{ (x i η)} = exp{ n L(η) = (x i η)} ; untuk x i η, i 0 ; untuk x i < η, untuk suatu i. Karena d ln L(η) dη = n, maka metode diferensial jelas tidak dapat diterapkan, oleh karena itu kita harus mencari metode alternatif. Misalkan x 1:n,..., x r:n,..., x n:n merupakan sampel terurut, yaitu x 1:n x 2:n... x r 1:n x r:n x r+1:n... x n:n. Maka fungsi likelihood dapat pula di nyatakan sebagai exp{n(η x)} ; untuk x 1:n η L(η) =. 0 ; untuk η > x 1:n Berarti MLE ˆη = X 1:n, yaitu sampel terkecil Kasus k parameter Misalkan ruang parametr Θ merupakan himpunan terbuka pada ruang Euclid R k dan L( ) terdiferensialkan pada Θ. Titik-titik ekstrim adalah titik-titik yang merupakan

25 24 penyelesaian dari system persamaan ln L(θ 1,..., θ k ) θ j = 0, j = 1,..., k. (2.2.4) Selanjutnya apakah titik-titik ekstrim ini memberikan nilai maksimum, harus diverifikasi. Untuk kasus k = 2, kita gunakan alat dari kalkulus sebagai berikut. Misalkan L(θ 1, θ 2 ) terdiferensialkan sampai order kedua, dan misalkan (ˆθ 1, ˆθ 2 ) merupakan penyelesaian tunggal dari persamaan (2.2.4). Misalkan ( ) ( ) ( ) 2 ln L(θ 1, θ 2 ) 2 ln L(θ 1, θ 2 ) 2 ln L(θ 1, θ 2 ) D(θ 1, θ 2 ) :=. (2.2.5) θ 1 θ 2 θ 2 1 θ 2 2 Jika D(ˆθ 1, ˆθ 2 ) > 0 dan 2 ln L(θ 1,θ 2 ) (ˆθ θ1 2 1, ˆθ 2 ) < 0, maka (ˆθ 1, ˆθ 2 ) merupakan MLE. Dalam kasus penyelesaian dari (2.2.4) tidak tunggal, semua penyelesaian harus diverifikasi apakah dia merupakan titik maksimum atau bukan. Selanjutnya MLE adalah titik (ˆθ 1, ˆθ 2 ) dengan L(ˆθ 1, ˆθ 2 ) terbesar. Contoh Misalkan X 1,..., X n adalah sampel random dengan X i N(µ, σ 2 ). Kita mempunyai { } L(µ, σ 2 ) = Π n 1 1 exp 2πσ 2 2σ (x 2 i µ) 2, (µ, σ 2 ) (, ) (0, ) { } 1 = (2π) n/2 σ exp 1 n (x n 2σ 2 i µ) 2 ln L(µ, σ 2 ) = n 2 ln(2π) n 2 ln σ2 1 2σ 2 Dari dua persamaan n (x i µ) 2. (2.2.6) ln L(µ, σ 2 ) µ ln L(µ, σ 2 ) σ 2 = 1 n (x σ 2 i µ) = 0 = n 2σ σ 4 n (x i µ) 2 = 0,

26 25 diperoleh ˆµ = x dan ˆσ 2 = n (x i x) 2 n =: s 2 n. Selanjutnya masih harus diverifikasi, apakah syarat untuk D(ˆσ 2, s 2 n) dipenuhi. Dari persamaan diatas, kita peoleh 2 ln L(µ, σ 2 ) (ˆσ 2, s 2 µ n) = n 2 s 4 n 2 ln L(µ, σ 2 ) (ˆσ 2, s 2 (σ 2 ) n) = n 2 2(ˆσ 2 ) 1 4 (ˆσ 2 ) 3 2 ln L(µ, σ 2 ) µ σ 2 (ˆσ 2, s 2 n) = 1 (s 2 n) 2 n n (x i x) = 0. (x i x) 2 = n 2s 4 n Jadi D(ˆσ 2, s 2 n) > 0, dan karena n/(s 2 n) 2 selalu negatif, maka dapat dipastikan X dan S 2 n := n (X i X) 2 /n merupakan MLE untuk µ dan σ 2. Contoh Perhatikan sampel random X 1,..., X n dari distribusi Exp(θ, η). Fungsi densitas populasinya adalah f(x; θ, η) = 1 exp{(x η)/θ} ; θ x η 0 ; η > x. Maka n ln θ n ln L(θ, η) = (x i η)/θ ; untuk x 1:n η, i 0 ; untuk x 1:n < η, untuk suatu i. Karena ln L(θ, η) tidak terdiferensial terhadap η pada titik dimana ln L(θ, η) mencapai maksimum, maka MLE untuk η adalah ˆη = X 1:n. Selanjutnya dari persamaan ln L(η, θ) θ = n θ + 1 n (x θ 2 i x 1:n ) = 0, diperoleh MLE untuk θ, ˆθ = 1 n n (X i X 1:n ).

27 Keriteria-keriteria memilih estimator Pada dua subbab sebelumnya telah dibahas metode-metode untuk menurunkan estimator terhadap parameter-parameter dari populasi. Pada subbab ini kita akan merumuskan beberapa keriteria untuk membandingkan estimator sehingga kita bisa memilih yang mana yang terbaik Ketakbiasan Definisi Misalkan X 1,..., X n merupakan sampel random dari populasi f X ( ; θ), θ Θ R. Misalkan τ : Θ R merupakan fungsi real pada ruang parameter. Suatu estimator T := t(x 1,..., X n ) disebut estimator tak bias jika E(T ) = τ(θ), θ Θ. Sebaliknya, jika kondisi ini tidak dipenuhi, kita sebut T estimator bias. Contoh Sebagai contoh misalkan X 1,..., X n merupakan sampel random dari populasi dengan mean µ dan variansi σ 2. Dari Contoh 1.2.2, mean sampel X adalah tak bias untuk µ dan variansi sampel S 2 adalah tak bias untuk σ 2. Dalam kasus ini kita memilih τ sebagai fungsi identitas. Suatu estimator yang bias untuk τ(θ) dapat dimodifikasi dengan cara sedemikian rupa sehingga hasil modifikasinya tak bias, seperti yang diperagakan pada contoh berikut. Contoh Misalkan X 1,..., X n merupakan sampel random dari populasi Exp(θ) atau Gamma(θ, 1). Jelaslah X tak bias untuk θ. Tetapi 1/ X bias terhadap 1/θ, seperti ditunjukan berikut. Misalkan Y := 2n X/θ = n 2X i/θ. Maka Y χ 2 (2n).

28 27 Dari Remark 1.3.5, untuk kasus r = 1, berlaku E(Y 1 1 ) = 2(n 1) = θ ( ) ( ) 2n 1 X E E = 1 X n 1 (n 1) θ. Jadi 1/ X adalah bias terhadap 1/θ. Misalkan T := (n 1)/(n X), maka T jelas tak bias terhadap 1/θ. Berapakah variansi dari T? Keterkonsentrasian dan UMVUE Definisi Misalkan T 1 dan T 2 merupakan estimator (tidak harus tak bias) untuk τ(θ). T 1 dikatakan lebih terkonsentrasi disekitar τ(θ) daripada T 2 jika untuk setiap ε > 0 berlaku, P{ T 1 τ(θ) < ε} P{ T 2 τ(θ) < ε}. (2.3.1) Definisi Misalkan A τ(θ) merupakan himpunan semua estimator (tidak harus tak bias) untuk τ(θ). T dikatakan paling terkonsentrasi disekitar τ(θ) jika untuk setiap ε > 0 berlaku, P{ T τ(θ) < ε} = sup P{ T τ(θ) < ε}. (2.3.2) T A τ(θ) Remark Misalkan U τ(θ) merupakan himpunan semua estimator tak bias untuk τ(θ). Dengan ketaksamaan Chebychev diperoleh P{ T τ(θ) < ε} 1 V ar(t ) ε 2, ε > 0. (2.3.3) Jadi berdasarkan ketaksamaan (2.3.3), jika T U τ(θ), maka T merupakan estimator tak bias yang paling terkonsentrasi disekitar τ(θ) dibandingkan dengan estimatorestimator lainnya di dalam U τ(θ), jika dipenuhi V ar(t ) = inf V ar(t ), θ Θ. (2.3.4) T U τ(θ)

29 28 Kriteria ini menghasilkan suatu konsep baru dalam pemilihan estimator terbaik, yaitu konsep estimator tak bias dengan variansi minimum seragam (uniformly minimum variance unbiased estimator), disingkat UMVUE. Selanjutnya estimator tak bias yang memenuhi (2.3.4) disebut UMVUE. Teorema (Batas bawah Cramer-Rao) Misalkan X 1,..., X n merupakan sampel random dari f( ; θ), θ Θ. Jika T := t(x 1,..., X n ) merupakan estimator tak bias untuk τ(θ), dan jika τ (θ) := dτ(θ)/dθ ada. Maka batas bawah Cramer-Rao untuk τ(θ) adalah V ar(t ) [τ (θ)] 2 ne ( θ ln f(x i; θ) ) 2 (2.3.5) Proof. Pertama-tama kita definisikan suatu fungsi u : R n R, dimana u(x 1,..., x n ; θ) := θ ln f(x 1,..., x n ; θ) = 1 f(x 1,..., x n ; θ) θ f(x 1,..., x n ; θ) u(x 1,..., x n, θ)f(x 1,..., x n ; θ) = θ f(x 1,..., x n ; θ). Selanjutnya kita definisikan suatu quantitas random yang masih bergantung pada θ, yaitu U := u(x 1,..., X n ; θ). Maka E(U) = = = θ = θ 1 = 0. u(x 1,..., x n ; θ)f(x 1,..., x n ; θ) dx 1 dx n θ f(x 1,..., x n ; θ) dx 1 dx n f(x 1,..., x n ; θ) dx 1 dx n Pada perhitungan ekspektasi dari U, pertukaran tanda integral dan diferensial dapat dilakukan karena domain dari integran-nya tidak bergantung pada θ. Dari asumsi T

30 29 tak bias terhadap τ(θ), diperoleh τ (θ) = θ E(T ) = θ = = = E(T U). t(x 1,..., x n )f(x 1,..., x n ; θ) dx 1 dx n t(x 1,..., x n ) θ f(x 1,..., x n ; θ) dx 1 dx n t(x 1,..., x n )u(x 1,..., x n ; θ)f(x 1,..., x n ; θ) dx 1 dx n Dari kedua hasil diatas diperoleh Cov(T, U) = E(T U) E(T )E(U) = τ (θ). Pada sisi lain, ketaksamaan Cauchy-Schwarz memberikan [Cov(T, U)] 2 V ar(t )V ar(u), sehingga V ar(t ) [Cov(T, U)] 2 /V ar(u) = [τ (θ)] 2 /V ar(u). Selanjutnya kita verifikasi lebih lanjut bentuk dari V ar(u). Mengingat X 1,..., X n adalah sampel random, maka ( ) ( n ) V ar(u) =V ar θ ln Πn f(x i ; θ) = V ar θ ln f(x i; θ) n ) = V ar ( θ ln f(x i; θ) = ne ( θ ln f(x i; θ) Dari hasil yang terakhir ini, diperoleh Ketaksamaan (2.3.5). Catatan: Jika V ar(t ) mencapai batas bawah Cramer-Rao, maka T jelas merupakan UMVUE. Contoh Misalkan X 1,..., X n merupakan sampel random dari Exp(θ). Kita ingin menentukan batas bawah Cramer-Rao untuk τ(θ) = θ. Karena f(x i ; θ) = 1 exp{ X θ i/θ}, maka ( ) 2 ( ) 2 E θ ln f(x Xi θ i; θ) = E = V ar(x i) = 1 θ 2 θ 4 θ. 2 ) 2.

31 30 Batas bawah Cramer-Rao untuk θ adalah θ 2 /n. Karena X merupakan estimator tak bias untuk θ dengan V ar( X) = θ 2 /n, maka X merupakan UMVUE untuk θ. Catatan: Variansi dari suatu estimator tak bias T untuk τ(θ) akan mencapai (sama dengan) batas bawah Cramer-Rao untuk τ(θ), jika [Cov(T, U)] 2 = V ar(t )V ar(u). Dengan kata lain korelasi antara T dan U harus sama dengan 1 atau 1. Ini terjadi, jika dan hanya jika T merupakan fungsi linear dari U, yaitu fungsi yang berbentuk T = au +b untuk suatu konstanta a dan b. Contoh Misalkan X 1,..., X n merupakan sampel random dari distribusi Geo(p), dengan f(x i ; p) = p(1 p) 1 X i, X i = 0, 1, dan E(X) = 1/p. Kita ingin menentukan estimator T yang tak bias terhadap 1/p, sedemikian hingga T = au + b, untuk suatu konstanta a dan b. Dari rumus fungsi densitasnya, kita dapatkan n n U = p (ln p + (X i 1) ln(1 p)) = Sehingga setelah penyederhanaan diperoleh dimana c := T := au + b = an p 1 an p 1 X + ( b ( 1 p X i 1 1 p an ) = c p(p 1) X + d, dan d := b an p(p 1). Karena X merupakan estimator tak bias untuk 1/p, sehingga agar T juga tak bias terhadap 1/p, maka harus dipilih c = 0 dan d = 0. Variansi dari X adalah (1 p)/(np 2 ) dan dipastikan sama dengan batas bawah Cramer-Rao untuk 1/p. Definisi Misalkan T, T U τ(θ), dimana U τ(θ) adalah himpunan semua estimator tak bias untuk τ(θ). Efisiensi relatif dari T terhadap T adalah ). re(t, T ) := V ar(t ) V ar(t ). (2.3.6)

32 31 Estimator T U τ(θ) dikatakan efisien jika re(t, T ) 1, T U τ(θ) and θ Θ. Selanjutnya, jika T merupakan estimator yang efisien, maka efisiensi dari suatu estimator T U τ(θ) diberikan oleh e(t ) := re(t, T ). Definisi Misalkan T merupakan sembarang estimator untuk τ(θ). Bias dari T terhadap τ(θ), dinotasikan sebagai b(t ) adalah b(t ) := E(T ) τ(θ). (2.3.7) Sedangkan mean dari kudrat kesalahan mengestimasi τ(θ) dengan T disebut MSE (engl. mean squared error) dari T, adalah MSE(T ) := E (T τ(θ)) 2. (2.3.8) Teorema If T merupakan suatu estimator untuk τ(θ), maka MSE(T ) = V ar(t ) + [b(t )] 2. Proof. MSE(T ) =E (T E(T ) + E(T ) τ(θ)) 2 =E (T E(T )) 2 + (E(T ) E(T )) (E(T ) τ(θ)) + (E(T ) τ(θ)) 2 =E (T E(T )) 2 + (E(T ) τ(θ)) 2 =V ar(t ) + [b(t )] 2. Keriteria MSE mengakomodasi dua quantitas yaitu variansi dan bias. Kriteria ini akan sesuai dengan kriteria UMVUE jika perhatian kita batasi pada estimator tak bias.

33 Soal-soal 1. Jika X 1,..., X n merupakan sampel random yang diambil dari populasi berikut. Tentukan MME dan MLE untuk parameter-parameternya! { θx θ 1 ; 0 < x < 1 (a) f(x; θ) = 0 ; x 0 atau x 1, θ > 0. { (θ + 1)x θ 2 ; 1 < x (b) f(x; θ) = 0 ; x 1, θ > 0. { θ 2 xe θx ; 0 < x (c) f(x; θ) = 0 ; x 0, θ > 0. (d) X i P AR(θ, κ), θ dan κ tidak diketahui. (e) f(x; θ 1, η) = { θη θ x θ 1 ; η x 0 ; x < η, 0 < θ, 0 < η <.

34 Chapter 3 Statistik cukup, keluarga lengkap dan keluarga eksponensial Pada chapter ini kita akan membahas konsep statistik cukup (engl. sufficient statistic), statistik lengkap (engl. complete statistic) dan suatu keluarga fungsi distribusi probabilitas yang disebut keluarga eksponensial (engl. exponential family). Ketiga konsep ini sangat penting karena melandasi konsep perumusan prosudur inferensi parameter, seperti estimasi interval dan uji hipotesis yang akan dibahas pada 2 chapter berikutnya. 3.1 Statistik cukup Sebelum kita memberikan definisi formal dari statistik cukup, kita ikuti ilustrasi berikut. Misalkan X 1,..., X n merupakan sampel random dari populasi BIN(1, θ), 0 < θ < 1. Fungsi densitas bersama dari X 1,..., X n dihitung pada titik (x 1,..., x n ) 33

35 34 adalah f X1,...,X p (x 1,..., x n ; θ) = { θ n x i (1 θ) n n x i ; jika x i {0, 1}, i 0 ; jika x i {0, 1}. Andaikan kita tertarik pada statistik Y 1 := n X i. Jelas Y 1 berdistribusi BIN(n, θ), sehingga fungsi densitas dari Y 1 adalah ( ) n θ y 1 (1 θ) n y 1 ; jika y 1 {0, 1,..., n} f Y1 (y 1 ; θ) = y 1 0 ; jika y 1 {0, 1,..., n} Misalkan A := {ω Ω : Y 1 (X 1 (ω),..., X n (ω)) = y 1 }. Untuk suatu titik (x 1,..., x n ) yang tertetu, misalkan B := {ω Ω : X 1 (ω) = x 1,..., X n (ω) = x n }. Maka B A = B, jika Y 1 (x 1,..., x n ) = y 1. Sebaliknya jika Y 1 (x 1,..., x n ) y 1, maka B A =. Sehingga peluang bersyarat P(B A) P {X 1 = x 1,..., X n = x n Y 1 = y 1 } = P(B A) = P(A) θ n x i(1 θ) n n x i ; jika Y 1 (x 1,..., x n ) = y 1 n = θy 1(1 θ) n y 1 = y 1 0 ; jika Y 1 (x 1,..., x n ) y 1 1 ; jika n x i = y 1 n y 1 0 ; jika n x i y 1 Jadi P {X 1 = x 1,..., X n = x n Y 1 = y 1 } tidak bergantung pada θ untuk setiap titik (data) (x 1,..., x n ) yang memenuhi sifat n x i = y 1. Statistik Y 1 yang memenuhi sifat ini disebut statistik cukup untuk θ. Definisi Misalkan X 1,..., X n merupakan sampel random dari populasi dengan fungsi densitas f X ( ; θ), θ Θ R. Misalkan Y 1 = u 1 (X 1,..., X n ) merupakan..

36 35 statistik dengan fungsi densitas g Y1 ( ; θ), θ Θ. Maka Y 1 adalah statistik cukup untuk θ, jika dan hanya jika f X1,...,X n (x 1,..., x n ; θ) g Y1 (y 1 ; θ) = H(x 1,..., x n ), (3.1.1) dimana H(x 1,..., x n ) adalah fungsi yang tidak bergantung pada θ untuk setiap titik (data) (x 1,..., x n ) dengan sifat u 1 (x 1,..., x n ) = y 1. Catatan: Jika Y 1 merupakan statistik cukup untuk θ, semua informasi tentang parameter θ dibawa oleh Y 1. Ini berarti inferensi tentang θ harus didasarkan pada Y 1 bukan pada statistik yang lain. Selanjutnya, pada bagian ini kita batasi pembicaraan pada kasus variabel kontinu dengan satu parameter, yaitu Θ R. Kasus diskrit ditangani secara analog. Teorema (Teorema Faktorisasi) Misalkan X 1,..., X n merupakan sampel random dari populasi dengan fungsi densitas f X ( ; θ), θ Θ. Statistik Y 1 = u 1 (X 1,..., X n ) merupakan statistik cukup untuk θ, jika dan hanya jika terdapat fungsi-fungsi tidak negatif k 1 dan k 2 sedemikian hingga f X1,...,X n (x 1,..., x n ; θ) = k 1 (u 1 (x 1,..., x n ); θ)k 2 (x 1,..., x n ), dimana untuk setiap titik (x 1,..., x n ) yang bersifat y 1 = u 1 (x 1,..., x n ), k 2 (x 1,..., x n ) tidak bergantung pada θ. Proof. ( ) Pertama-tama kita definisikan suatu transformasi satu-satu y 1 = u 1 (x 1,..., x n ),..., y n = u n (x 1,..., x n ) dengan invers x 1 = w 1 (y 1,..., y n ),..., x n = w n (y 1,..., y n ).

37 36 Maka fungsi densitas bersama dari Y 1,..., Y n adalah f Y1,...,Y n (y 1,..., y n ; θ) = f X1,...,X n (x 1,..., x n ; θ) J Fungsi densitas marginal dari Y 1 adalah g Y1 (y 1 ; θ) = = k 1 (y 1 ; θ) = k 1 (y 1 ; θ)m(y 1 ), = k 1 (u 1 (x 1,..., x n ); θ)k 2 (x 1,..., x n ) J = k 1 (y 1 ; θ)k 2 (w 1 (y 1,..., y n ),..., w n (y 1,..., y n )) J. k 1 (y 1 ; θ)k 2 (w 1 (y 1,..., y n ),..., w n (y 1,..., y n )) J dy 2 dy n k 2 (w 1 (y 1,..., y n ),..., w n (y 1,..., y n )) J dy 2 dy n dimana m(y 1 ) := k 2(w 1 (y 1,..., y n ),..., w n (y 1,..., y n )) J dy 2 dy n. Di sini jelas bahwa m(y 1 ) merupakan fungsi yang tidak bergantung pada θ maupun y 2,..., y n, melainkan hanya pada y 1. Sehingga f X1,...,X n (x 1,..., x n ; θ) g Y1 (y 1 ; θ) = k 1(u 1 (x 1,..., x n ); θ)k 2 (x 1,..., x n ) k 1 (u 1 (x 1,..., x n ); θ)m(u 1 (x 1,..., x n )) = k 2(x 1,..., x n ) m(u 1 (x 1,..., x n )). Karena ruas kanan dari persamaan yang terakhir tidak bergantung pada θ untuk setiap (x 1,..., x n ) yang bersifat y 1 = u 1 (x 1,..., x n ), sesuai Definisi (3.1.1), Y 1 adalah statistik cukup untuk θ. ( ) Jika Y 1 = u 1 (X 1,..., X n ) merupakan statistik cukup untuk θ, maka sesuai Definisi (3.1.1), berlaku f X1,...,X n (x 1,..., x n ; θ) g Y1 (y 1 ; θ) = H(x 1,..., x n ), dimana H(x 1,..., x n ) merupakan suatu fungsi yang tidak bergantung pada θ untuk setiap (x 1,..., x n ) yang bersifat u 1 (x 1,..., x n ) = y 1. Selanjutnya dengan mengambil

38 37 k 1 (u 1 (x 1,..., x n ); θ) := g Y1 (y 1 ; θ) dan k 2 (x 1,..., x n ) := H(x 1,..., x n ), maka syarat perlu terbukti. Contoh Misalkan X 1,..., X n merupakan sampel random dari N(µ, σ 2 ), dengan < µ < dan diasumsikan σ 2 diketahui. Apakah X merupakan statistik cukup untuk µ?. Karena f X1,...,X n (x 1,..., x n ; µ, σ 2 ) = = { 1 (2π) n/2 σ exp 1 n 2σ 2 { 1 (2π) n/2 σ n exp 1 2σ 2 } n (x i µ) 2 ( n )} (x i x) 2 + n( x µ) 2 Kita akan menerapkan Teorema Faktorisasi, karena itu kita harus mengelompokan x dan µ ke dalam argumen dari k 1, sedangkan k 2 tidak boleh bergantung pada µ. Ambil k 1 ( x; µ) := exp{ n( x µ)2 2σ 2 } dan k 2 (x 1,..., x n ) := 1 (2π) n/2 σ n exp{ 1 2σ 2 n (x i x) 2 }. Maka berlaku f X1,...,X n (x 1,..., x n ; µ, σ 2 ) = k 1 ( x; µ)k 2 (x 1,..., x n ). Karena k 2 tidak bergantung pada µ maka X merupakan statistik cukup untuk µ. Contoh Misalkan X 1,..., X n merupakan samplel random dari populasi dengan fungsi densitas f(x; θ) =, θ > 0. Dengan fak- θx θ 1 ; 0 < x < 1 0 ; x 0 atau x 1 torisasi, θ n (Π n x i ) θ 1 ; 0 < x i < 1, i f X1,...,X n (x 1,..., x n ; θ) =, θ > 0. 0 ; i, x i 0 atau x i 1 Atau f X1,...,X n (x 1,..., x n ; θ) = θ n (Π n x i ) θ 1 Π n x i, 0 < x i < 1, i. Dengan mendefinisikan k 1 (Π n x i ; θ) := θ n (Π n x i ) θ dan k 2 (x 1,..., x n ) := 1 Π n x i, statistik Πn X i merupakan statistik cukup untuk θ. Catatan Misalkan Y 1 := u 1 (X 1,..., X n ) merupakan statistik cukup untuk θ Θ. Jika Z :=

39 38 u(y 1 ) atau Z = u(u 1 (X 1,..., X n )) := ν(x 1,..., X n ) dengan invers Y 1 := w(z), maka Z juka merupakan statistik cukup untuk θ. Ini terjadi karena f X1,...,X n (x 1,..., x n ; θ) = k 1 (u 1 (x 1,..., x n ); θ)k 2 (x 1,..., x n ) = k 1 (w(ν(x 1,..., x n )); θ)k 2 (x 1,..., x n ) Karena k 1 hanya bergantung pada z = ν(x 1,..., x n ) dan θ sedangkan k 2 tidak bergantung pada θ, maka teorema faktorisasi Z = u(y 1 ) merupakan statistik cukup untuk θ Θ. Teorema Misalkan X 1,..., X n merupakan sampel random dari populasi X dengan fungsi densitas f X (, θ), θ Θ. Jika Y 1 = u 1 (X 1,..., X n ) merupakan statistik cukup untuk θ dan ˆθ adalah MLE untuk θ dengan ˆθ tunggal, maka terdapat suatu fungsi h : R R, sedemikian hingga ˆθ = h(y 1 ). Proof. Dari teorema faktorisasi diperoleh L(θ) = f X1,...,X n (x 1,..., x n ; θ) = k 1 (u 1 (x 1,..., x n ); θ)k 2 (x 1,..., x n ) L(ˆθ) = max θ Θ k 1(u 1 (x 1,..., x n ); θ)k 2 (x 1,..., x n ). Karena k 2 merupakan fungsi yang tidak bergantung pada θ, maka berlaku k 1 (u 1 (x 1,..., x n ); ˆθ) = max θ Θ k 1(u 1 (x 1,..., x n ); θ). Dengan kata lain ˆθ memaksimumkan L(θ) dan k 1 (u 1 (x 1,..., x n ); θ) secara simultan. Dari persamaan yang terakhir ˆθ merupakan suatu fungsi dari u 1 (x 1,..., x n ), yaitu ˆθ = h(u 1 (x 1,..., x n )) untuk setiap (x 1,..., x n ) yang bersifat u 1 (x 1,..., x n ) = y 1. Jadi ˆθ = h(y 1 ).

40 39 Teorema (Teorema Rao-Blackwell) Misalkan X dan Y merupakan dua variabel random. Misalkan µ X := E(X) dan µ Y := E(Y ). Misalkan ϕ : R R dengan ϕ(x) := E(Y X = x). Maka 1. E(ϕ(X)) = µ Y, dengan kata lain ϕ(y ) adalah tak bias terhadap µ Y. 2. V ar(ϕ(x)) V ar(y ). Proof. Kita buktikan teorema ini untuk kasus X dan Y variabel random kontinu, sedangkan pembukiannya analog dengan kasus kontinu. Misalkan f X ( ) dan f Y ( ) masing-masing merupakan fungsi densitas marginal dari X dan Y. Misalkan f X,Y ( ) merupakan fungsi densitas bersama dari X dan Y, sedangkan f Y X ( x) merupakan fungsi densitas bersyarat dari Y diberikan X = x untuk suatu x R. Maka ϕ(x) = E(Y X = x) = ϕ(x)f X (x) = yf Y X (y x)dy = yf X,Y (x, y)dy. y f X,Y (x, y) dy f X (x) Sehingga E(ϕ(X)) = = ϕ(x)f X (x)dx = ( y f X,Y (x, y)dx ( ) dy = ) yf X,Y (x, y)dy dx yf Y (y)dy = µ Y. Ini membuktikan pernyataan pertama. Untuk membuktikan pernyataan kedua, kita berjalan dari definisi dasar dari V ar(y ). Dari definisi diperoleh V ar(y ) = E (Y µ Y ) 2 = E (Y ϕ(x) + ϕ(x) µ Y ) 2 = E (Y ϕ(x)) 2 + E (ϕ(x) µ Y ) 2 + 2E (Y ϕ(x)) (ϕ(x) µ Y ) = E (Y ϕ(x)) 2 + V ar (ϕ(x)) + 2E (Y ϕ(x)) (ϕ(x) µ Y )

41 40 Pernyataan ke dua akan terbukti jika 2E (Y ϕ(x)) (ϕ(x) µ Y ) = 0. Karena f X,Y (x, y) = f X (x)f Y X (y x), maka diperoleh Tetapi E (Y ϕ(x)) (ϕ(x) µ Y ) = (y ϕ(x))(ϕ(x) µ Y )f X,Y (x, y)dydx ( ) = (ϕ(x) µ Y ) (y ϕ(x))f Y X (y x)dy f X (x)dx. (y ϕ(x))f Y X (y x)dy = = yf Y X (y x)dy yf Y X (y x)dy ϕ(x) = ϕ(x) ϕ(x) = 0. ϕ(x)f Y X (y x)dy f Y X (y x)dy Selanjutnya karena E (Y ϕ(x)) 2 0, maka terbukti V ar(ϕ(x)) V ar(y ). Catatan: Jika P (X,Y ) {(x, y) R 2 : y ϕ(x) = 0} = 0, maka kita peroleh ketaksamaan tegas (engl. strick): V ar(ϕ(x)) < V ar(y ). Ini terjadi karena hal berikut E (Y ϕ(x)) 2 = = + = 0 + > 0 (y ϕ(x)) 2 f X,Y (x, y)dxdy {(x,y) R 2 :(y ϕ(x)) 2 =0} {(x,y) R 2 :(y ϕ(x)) 2 >0} (y ϕ(x)) 2 f X,Y (x, y)dxdy (y ϕ(x)) 2 f X,Y (x, y)dxdy 1 {(x,y) R 2 :(y ϕ(x)) 2 >0}(y ϕ(x)) 2 f X,Y (x, y)dxdy f X,Y (x, y)dxdy = 0, dimana untuk suatu A R 2, 1 A adalah indikator untuk A yang didefinisikan sebagai { 1; jika (x, y) A 1 A (x, y) := 0; jika (x, y) A

42 41 Contoh Misalkan X N(µ 1, σ 2 1) dan Y N(µ 2, σ 2 2), Cor(X, Y ) = ρ. Maka, E (Y X = x) = y f X,Y (x, y; µ 1, µ 2, σ 2 1, σ 2 2) f X (x; µ 1, σ 2 1) =µ 2 + ρ σ 2 σ 1 (x µ 1 ) =: ϕ(x), dy (lihat Hogg dan Craig, 1978, hal ). Sehingga kita peroleh ( E (ϕ(x)) = E µ 2 + ρ σ ) 2 (X µ 1 ) = µ 2. σ 1 Jadi hasil ini sesui dengan pernyataan pertama dari teorema Rao-Blackwell. Tetapi ϕ(x) bukan merupakan statistik, karena dia bergantung pada lima parameter yang tidak diketahui. Selanjutnya V ar(ϕ(x)) = E ( µ 2 + ρ σ 2 ( = E ρ σ 2 (X µ 1 ) σ 1 = ρ 2 σ2 2 σ 2 σ1 2 1 = ρ 2 σ2. 2 σ 1 (X µ 1 ) µ 2 Karena 1 < ρ < 1, yang berakibat ρ 2 < 1, maka V ar(ϕ(x)) < σ 2 2. Jadi hasil ini sesuai dengan pernyataan kedua dari teorema Rao-Blackwell bahkan dengan ketaksamaan tegas. Kita selanjutnya akan membahas aplikasi dari teorema Rao-Blackwell pada konsep statistik cukup dan konsep pemilihan estimator titik dengan variansi minimum. Teorema Misalkan X 1,..., X n merupakan sampel random dari suatu populasi X dengan fungsi densitas f X ( ; θ), θ Θ. Misalkan Y 1 := u 1 (X 1,..., X n ) merupakan statistik cukup untuk θ dan Y 2 := u 2 (X 1,..., X n ) merupakan estimator tak bias untuk θ, tetapi Y 2 merupakan fungsi bukan hanya dari Y 1 saja. Selanjutnya misalkan ϕ(y 1 ) := E(Y 2 Y 1 = y 1 ), y 1 R. Maka berlaku: ) 2 ) 2

43 42 1. ϕ(y 1 ) merupakan statistik. 2. ϕ(y 1 ) merupakan estimator tak bias untuk θ. 3. V ar(ϕ(y 1 )) V ar(y 2 ). Proof. Teorema ini merupakan akibat langsung dari teorema Rao-Blackwell. Karena Y 2 merupakan statistik cukup untuk θ, maka tidak bergantung pada θ. Ini berakibat f Y2 Y 1 (y 2 y 1 ) = f Y 1,Y 2 (y 1, y 2 ; θ) f Y2 (y 2 ; θ) ϕ(y 1 ) := E(Y 2 Y 1 = y 1 ) = y 2 f Y1,Y 2 (y 1, y 2 ; θ) f Y2 (y 2 ; θ) tidak bergantung pada θ Θ. Jadi ϕ(y 1 ) adalah statistik. Lebih lanjut, dari teorema Rao-Blackwell diperoleh pernyataan kedua dan ketiga. Catatan: Teorema merupakan alat bantu dalam memperoleh suatu estimator tak bias dengan variansi minimum untuk suatu parameter. Jika kita diberikan suatu statistik cukup untuk parameter θ, misalkan Y 1 dan misalkan diketahui Y 2 merupakan suatu quantitas (merupakan fungsi bukan hanya dari Y 1 ) yang tak bias terhadap θ, maka kita selalu bisa mendefinisikan suatu statistik ϕ(y 1 ) sebagai estimator tak bias untuk θ dengan variansi yang lebih kecil dari V ar(y 2 ). dy Keluarga lengkap Definisi Misalkan P X merupakan suatu ukuran probabilitas pada R yang di induce oleh variabel random X. Suatu sifat(pernyataan) p dikatakan dipenuhi P X - hampir pasti, ditulis P X -h.p., jika terdapat suatu himpunan N R dengan P X (N) = 0

44 43 sedemikian hingga jika x N c, maka berlaku p. Definisi Misalkan X merupakan variabel random kontinu atau diskrit dengan fungsi densitas didalam keluarga P X Θ := {f X( ; θ); θ Θ}. Keluarga P X Θ dikatakan keluarga lengkap jika dipenuhi: E(u(X)) = 0, θ Θ berakibat u(x) = 0, P X -h.p. Contoh Misalkan X 1,..., X n merupakan sampel random dari populasi berdistribusi P OIS(θ), θ > 0. Maka Y 1 := n X i P OIS(nθ), θ > 0 dengan fungsi densitas f Y1 (y 1 ; θ) = (nθ)y 1 e nθ, y 1 {0, 1, 2,...}. y 1! Selanjutnya karena e nθ > 0, θ > 0, berlaku u(y 1 )(nθ) y 1 E(u(Y 1 )) = 0, θ > 0 = 0, θ > 0 y 1! y 1 =0 u(y 1)(nθ) y 1 y 1! = 0, y 1 {0, 1, 2,...} u(y 1 ) = 0, y 1 {0, 1, 2,...}. Jadi terdapat N := sedemikian hingga u(y 1 ) = 0, jika y 1 N c = {0, 1, 2,...}. Dengan kata lain keluarga Poisson adalah keluarga lengkap. Contoh Misalkan fungsi densitas dari Z merupakan anggota dari keluarga Exp(θ), θ > 0, dengan f Z (z; θ) = 1 θ e z/θ, z > 0 dan θ > 0. Jika E(u(Z)) = 0, θ > 0, maka 1 θ 0 u(z)e z/θ dz = 0, θ > 0 0 u(z)e z/θ dz = 0, θ > 0 u(z) = 0, P Z h.p. Kesimpulan ini bisa diambil karena integral yang terakhir adalah transformasi Laplace dari u(z) kesuatu fungsi dari θ dengan hasil transformasi identik dengan fungsi nol. Fungsi yang memenuhi sifat tersebut pastilah fungsi nol sendiri.

45 44 Teorema Misalkan X 1,..., X n merupakan sampel random dari populasi X dengan fungsi densitas f X ( ; θ), θ Θ. Misalkan Y 1 := u 1 (X 1,..., X n ) merupakan statistik cukup untuk θ dengan fungsi densitas merupakan anggota dari keluarga lengkap {f Y1 ( ; θ); θ Θ}. Jika terdapat suatu fungsi dari Y 1 yang merupakan estimator tak bias untuk θ, untuk setiap θ Θ, maka fungsi tersebut tunggal P Y 1 -h.p. dan fungsi ini merupakan estimator dengan variansi terkecil. Proof. Misalkan Y 2 merupakan suatu quantitas yang tak bias terhadap θ, maka menurut Teorema 3.1.8, terdapat sekurang-kurangnya satu fungsi dari Y 1, yaitu ϕ(y 1 ) dengan E(ϕ(Y 1 )) = θ, θ Θ. Andaikan terdapat fungsi lain, misalkan ψ(y 1 ) dengan sifat E(ψ(Y 1 )) = θ, θ Θ, maka E(ϕ(Y 1 ) ψ(y 1 )) = 0, θ Θ. Karena fungsi densitas dari Y 1 termasuk keluarga lengkap, ini berakibat terdapat (, 0] =: N R dengan P Y 1 (N) = 0 sedemikian hingga ϕ(y 1 ) = ψ(y 1 ), y 1 N c := (0, ). Jadi ϕ = ψ P Y 1 -h.p. Menurut teorema Rao-Blackwell, ϕ(y 1 ) mempunyai variansi terkecil diantara semua estimator tak bias untuk θ Θ. 3.3 Keluarga eksponensial Definisi Milsakan P Θ := {f( ; θ); θ Θ} merupakan keluarga fungsi densitas, dimana Θ adalah suatu interval, misalkan sebagai γ < θ < δ dengan γ dan δ merupakan konstanta-konstanta yang diketahui. Misalkan fungsi densitas ini dapat dituliskan sebagai f(x; θ) = exp{p(θ)k(x) + S(x) + q(θ)}, x A dimana A := {x R; f(x; θ) > 0}. Maka P Θ adalah keluarga eksponensial reguler tipe kontinu, jika dipenuhi:

46 45 1. A tidak bergantung pada θ, γ < θ < δ. 2. p(θ) merupakan fungsi nontrivial dan kontinu pada γ < θ < δ. 3. dk(x)/dx 0 dan kontinu pada A. 4. S(x) merupakan fungsi kontinu pada A. Selanjutnya P Θ dikatakan keluarga eksponensial reguler tipe diskrit jika dipenuhi kondisi-kondisi berikut: 1. A tidak bergantung pada θ, γ < θ < δ. 2. p(θ) merupakan fungsi nontrivial dan kontinu pada γ < θ < δ. 3. K(x) kontinu pada A. Catatan: Jika X 1,..., X n merupakan sampel random dari populasi dengan fungsi densitas dari keluarga {f( ; θ) : γ < θ < δ} yang merupakan keluarga exsponensial reguler (kontinu atau diskrit), maka fungsi densitas bersama dari X 1,..., X n adalah { } n n f X1,...,X n (x 1,..., x n ; θ) = exp p(θ) K(x i ) + S(x i ) + nq(θ) Contoh Keluarga {N(0, θ) : θ > 0} adalah keluarga eksponensial reguler tipe kontinu, karena fungsi densitasnya dapat dituliskan sebagai f(x; θ) = 1 } exp { x2, 0 < θ < 2πθ 2θ = exp { x2 2θ 1 } 2 ln(2πθ). Selanjutnya misalkan p(θ) := 1/θ, K(x) := x 2, S(x) := 0 dan q(θ) := ln(2πθ)/2. Maka kondisi 1-4 diatas dipenuhi.

47 46 Teorema Jika X 1,..., X n merupakan sampel random dari populasi dengan fungsi densitas dari keluarga {f( ; θ) : γ < θ < δ} yang merupakan keluarga exsponensial reguler (kontinu atau diskrit). Maka Y 1 := n K(X i) merupakan statistik cukup untuk θ dan keluarga {f Y1 ( ; θ) : γ < θ < δ} merupakan keluarga lengkap. Selanjutnya Y 1 disebut statistik cukup dan lengkap. Contoh Pada Contoh 3.3.2, Y 1 = n X2 i merupakan statistik cukup dan lengkap untuk θ. Misalkan ϕ(y 1 ) := Y 1 /n, maka E(ϕ(Y 1 )) = θ. Jadi Y 1 /n juga statistik cukup dan lengkap. Lebih jauh, Y 1 merupakan estimator tak bias dengan variansi minimum dengan ϕ tunggal P Y 1 -h.p. Contoh Misalkan X 1,..., X n merupakan sampel random dari populasi P OIS(θ), θ > 0. Karena f(x; θ) = exp{ln θx + ln(x!) θ}, jadi P OIS(θ), θ > 0 merupakan keluarga eksponensial reguler diskrit, sehingga { n f X1,...,X n (x 1,..., x n ; θ) = exp ln θ x i + } n ln(x i!) nθ. Menurut Teorema 3.3.3, Y 1 := n X i merupakan statistik cukup dan lengkap untuk θ. Selanjutnya Y 1 /n = X juga merupakan statistik cukup dan lengkap untuk θ dengan E(Y 1 /n) = θ, θ > 0. Jadi X merupakan estimator tak bias terbaik untuk θ. 3.4 Soal-soal

48 Chapter 4 Estimasi interval Pada Chapter 2 dan Chapter 3 telah dibahas beberapa metode menentukan estimasi titik untuk suatu parameter, misalnya θ, serta keriteria-keriteria untuk memilih estimator terbaik untuk θ. Tetapi estimator titik tidak memberikan informasi tentang akurasi. Salah satu penyelesaian terhadap masalah ini adalah dengan merumuskan suatu interval random, yaitu interval untuk θ yang batas-batasnya merupakan statistik. Ineterval ini dikonstruksikan dengan cara sedemikian, sehingga peluangnya sebesar mungkin. Misalkan X 1,..., X n merupakan n variabel random dengan fungsi densitas bersama f X1,...,X n (x 1,..., x n ; θ), θ Θ R. Misalkan θ L, dan θ U merupakan statistik dengan θ L := l(x 1,..., X n ) dan θ U := u(x 1,..., X n ). Jika (x 1,..., x n ) merupakan realisasi dari X 1,..., X n, maka l(x 1,..., x n ) dan u(x 1,..., x n ) merupakan nilai-nilai teramati dari θ L dan θ U. Definisi Untuk suatu γ (0, 1), jika P {l(x 1,..., X n ) < θ < u(x 1,..., X n )} = γ, θ Θ, 47

49 48 maka interval (l(x 1,..., x n ), u(x 1,..., x n )) disebut interval kepercayaan dua sisi 100γ% untuk θ. Selanjutnya nilai-nilai teramati l(x 1,..., x n ) disebut batas bawah, sedangkan u(x 1,..., x n ) disebut batas atas. Catatan: 1. Batas-batas dari interval random (θ L, θ U ) haruslah merupakan statistik, sehingga nilai-nilainya untuk setiap pengamatan dapat ditentukan. Selanjutnya interval random (θ L, θ U ) disebut estimator interval untuk θ. Sedangkan interval yang batas-batasnya merupakan bilangan l(x 1,..., x n ) dan u(x 1,..., x n ) disebut estimasi interval untuk θ. 2. Bentuk interval tidak selamanya terbuka, tetapi bisa juga interval tertutup sesuai dengan jenis variabelnya apakah kontinu atau diskrit. Definisi Interval (l(x 1,..., x n ), ) disebut batas kepercayaan bawah 100γ% untuk θ Θ, jika P {l(x 1,..., X n ) < θ} = γ, θ Θ. Sedangkan (, u(x 1,..., x n )) disebut batas kepercayaan atas 100γ% untuk θ Θ, jika P {θ < u(x 1,..., X n )} = γ, θ Θ. Contoh Misalkan daya tahan bola lampu yang diproduksi oleh pabrik A diasumsikan berdistribusi Exp(θ), θ > 0. Andaikan kita ingin mengkonstruksikan interval kepercayaan 95% untuk θ, θ > 0. Untuk menyelesaiakn masalah ini, kita ambil sampel random X 1,..., X n dari populasi Exp(θ). Jelaslah X merupakan statistik cukup dan merupakan UMVUE untuk θ, θ > 0. Karena 2n X/θ berdistribusi χ 2 (2n), secara umum kita pilih konstanta α 1 dan α 2, 0 < α 1, α 2 < 1 dengan α 1 + α 2 = α (0, 1), sedemikian hingga P { χ 2 α 1 (2n) < 2n X/θ < χ 2 1 α 2 (2n) } = 1 (α 2 + α 1 ) =

50 49 1 α =: γ, dimana χ 2 α(2n) adalah kuantil ke α dari distribusi chi-square dengan derajat bebas 2n (lihat Chapter 1). Biasanya dipilih α 1 = α 2 = α/2. Jika dipilih α = 0, 05 atau α/2 = 0, 025, maka P { χ 2 0,025(2n) < 2n X/θ < χ 2 0,975(2n) } = 0, 95. Karena { χ 2 0,025 (2n) < 2n X/θ < χ 2 0,975(2n) } dan { 2n X/χ 2 0,975(2n) < θ < 2n X/χ 2 0,025(2n) } merupakan dua kejadian yang ekuivalen, maka interval ( 2n x/χ 2 0,975(2n), 2n x/χ 2 0,025(2n) ) merupakan interval kepercayaan dua sisi 95% untuk θ. Andaikan dari suatu pengamatan dengan n = 40 diperoleh data dengan x = 93, 1, maka interval dengan batas bawah 69, 9 dan batas atas 130, 3 disebut sebagai suatu interval kepercayaan 95% untuk θ. Selanjutnya karena P { 2n X/θ < χ 2 0,95(2n) } = 0.95, maka ( 2n X/χ 2 0,95(2n), ) adalah batas bawah 95% untuk θ. Sedangkan interval (, 2n X/χ 2 0,05(2n) ) adalah batas atas 95% untuk θ. Nilai-nilai untuk χ 2 0,05(2n) maupun χ 2 0,975(2n) dapat dilihat pada tabel distribusi chi-square yang tesedia pada buku-buku teks standard, atau dihitung dengan komputer. Terhadap interval (69, 9; 130, 3) yang diberikan pada contoh di atas tidak dapat diambil kesimpulan bahwa nilai θ yang sebenarnya terletak pada interval ini. Nilai θ yang sebenarnya mungkin tidak terletak pada interval ini. Interpretasi yang paling tepat adalah dengan frekuensi relatif. Misalkan m menyatakan banyaknya trial yang dilakukan. Jika m, persentase dari interval ( 2n x/χ 2 0,975(2n), 2n x/χ 2 0,025(2n) ) memuat nilai θ yang sebenarnya akan mendekati 95%. Selanjutnya, karena populasinya berdistribusi kontinu, maka interval terbuka dan tertutup keduanya merupakan interval kepercayaan dua sisi 95% untuk θ. Contoh Misalkan X 1,..., X n merupakan sampel random dari N(µ, σ 2 ), dengan < µ < tidak diketahui, sedangkan 0 < σ 2 < diasumsikan diketahui.

51 50 Jika z α merupakan kuantil ke α (0, 1) dari distribusi N(0, 1), maka 1 α =P { z α/2 < n( X } µ)/σ < z 1 α/2 =P { X z1 α/2 σ/ n < µ < X z α/2 σ/ n }. Jadi interval ( x z 1 α/2 σ/ n, x z α/2 σ/ n ) adalah interval kepercayaan dua sisi 100(1 α)% untuk µ, atau [ x z 1 α/2 σ/ n, x z α/2 σ/ n ]. Pada kasus ini kita mengasumsikan σ 2 diketahui agar batas-batas intervalnya dapat dihitung. Jika σ 2 tidak diketahui, maka ujung-ujung interval tidak dapat dihitung. Parameter seperti ini disebut juga parameter pengganggu (nuisance parameter). Permasalahan yang dihadapi dalam mengkonstruksi interval kepercayaan adalah kehadiran parameter pengganggu. Masalah ini bisa diatasi dengan melakukan modofikasi seperti terangkum pada beberapa sub bab berikut. Prinsip dasar dalam mengkonstruksikan interval kepercayaan untuk suatu parameter θ adalah bahwa kita harus dapat menentukan suatu kuantitas yang hanya bergantung pada sampel dan θ, tetapi distribusi probabilitasnya tidak bergantung pada θ dan parameter-parameter lain yang tidak diketahui. Seperti pada Contoh 4.0.3, kuantitas X/θ berdistribusi GAM(1/n, n) yang tidak bergantung pada θ, tetapi karena kuantil dari GAM(1/n, n) tidak tersedia pada tabel, kita lakukan sedikit modifikasi dengan mendefinisikan quantitas 2n X/θ yang diketahui berdistribusi χ 2 (2n) yang tidak bergantung pada θ dan kuntil-kuantilnya tersedia pada tabel. 4.1 Metode kuantitas pivot (pivotal quantity) Definisi Misalkan ϕ : χ R merupakan fungsi yang terdefinisi pada ruang sampel χ R n dengan ϕ(x 1,..., X n ; θ) merupakan fungsi hanya dari sampel

52 51 X 1..., X n dan θ θ. Jika distribusi probabilitas dari ϕ(x 1,..., X n ; θ) tidak bergantung pada θ dan parameter lainnya yang tidak diketahui, maka ϕ(x 1,..., X n ; θ) disebut quantitas pivot untuk θ. Catatan: Jika q α/2 dan q 1 α/2 merupakan kuantil-kuantil ke α/2 dan (1 α/2) dari quantitas pivot ϕ(x 1,..., X n ; θ), maka P { q α/2 < ϕ(x 1,..., X n ; θ) < q 1 α/2 } = 1 α. Ini berarti { θ θ : q α/2 < ϕ(x 1,..., X n ; θ) < q 1 α/2 } merupakan interval kepercayaan dua sisi 100 (1 α)% untuk θ. Untuk setiap titik (x 1,..., x n ) χ, didefinisikan fungsi ϕ (x1,...,x n ) : θ R, dengan ϕ (x1,...,x n )(θ) := ϕ(x 1,..., x n ; θ). Jika ϕ (x1,...,x n ) merupakan fungsi monoton naik untuk setiap (x 1,..., x n ) χ, maka interval kepercayaan dua ( ) sisi 100 (1 α)% untuk θ adalah ϕ 1 (x 1,...,x n ) (q α/2), ϕ 1 (x 1,...,x n ) (q 1 α/2). Sebaliknya, jika ϕ (x1,...,x n ) merupakan fungsi monoton turun untuk setiap (x 1,..., x n ) χ, maka interval kepercayaan dua sisi 100(1 α)% untuk θ adalah ( ) ϕ 1 (x 1,...,x n ) (q 1 α/2), ϕ 1 (x 1,...,x n ) (q α/2). Definisi Misalkan X merupakan populasi dengan fungsi densitas f(x; θ), θ Θ R. Jika terdapat suatu fungsi non negatif f o sedemikian hingga f(x; θ) = f 0 (x θ), θ Θ, maka θ disebut parameter lokasi. Jika f(x; θ) = 1f θ 0( x ), θ Θ, maka θ θ disebut parameter skala. Untuk kasus dua parameter θ 1 dan θ 2, jika f(x; θ 1, θ 2 ) = 1 θ 2 f 0 ( x θ 1 ), θ 1, θ 2 maka θ 1 dan θ 2 disebut parameter lokasi-skala. θ 2 Teorema Misalkan X 1,..., X n merupakan sampel random dari populasi dengan fungsi densitas f X ( ; θ), θ θ. Andaikan MLE untuk θ, yaitu ˆθ ada. 1. Jika θ merupakan parameter lokasi, maka (ˆθ θ) merupakan kuantitas pivot untuk θ, θ Θ.

53 52 2. Jika θ merupakan parameter skala, maka ˆθ/θ merupakan kuantitas pivot untuk θ, θ Θ. Contoh Kembali ke Contoh 4.0.4, jika σ 2 diasumsikan diketahui, maka X µ merupakan kuantitas pivot untuk µ, dimana ( X µ) N(0, σ 2 /n). Pada kasus ini X merupakan statistik cukup dan tak bias untuk θ. Jadi X µ dapat digunakan untuk mengkonstruksi interval kepercayaan untuk µ. Selanjutnya, jika diasumsikan σ 2 tidak diketahui, maka ˆσ 2 /σ 2 adalah kuantitas pivot untuk σ 2, dengan nˆσ 2 /σ 2 = (n 1)S 2 /σ 2 χ 2 (n 1) (lihat Teorema ). Dalam hal ini ˆσ 2 adalah MLE untuk σ 2 (lihat Contoh 2.2.4). Jadi ˆσ 2 /σ 2 bisa digunaka untuk mengkonstruksikan interval kepercayaan dua sisi 100(1 α)% untuk σ 2, yaitu ( ) (n 1)s 2 (n 1)s 2 χ 2 1 α/2 (n 1),, s 2 := (n 1) χ 2 α/2 n (x i x)/(n 1). Teorema Misalkan X 1,..., X n merupakan sampel random dari suatu populasi dengan parameter lokasi-skala θ 1 dan θ 2. Jika MLE ˆθ 1 dan ˆθ 2 ada, maka ˆθ 1 θ 1 ˆθ 2 merupakan kuantitas pivot untuk θ 1 dan ˆθ 2 θ 2 merupakan kuantitas pivot untuk θ 2. Contoh Pada kasus X i N(µ, σ 2 ), < µ < dan 0 < σ 2 <, dengan µ dan σ 2 tidak diketahui. Dapat ditunjukkan, µ dan σ 2 merupakan parameter lokasiskala, karena itu X µ ˆσ 2 merupakan kuantitas pivot untuk µ. Jadi dalam kasus dimana σ 2 tidak diketahui (σ 2 sebagai parameter pengganggu), interval kepercayaan untuk µ dapat diturunkan dari kuantitas pivot ini. Dengan sedikit modifikasi, yaitu X µ ˆσ2 /(n 1) =( X µ)/(σ/ n) nˆσ2 /σ 2 (n 1) = ( X µ)/(σ/ n) S2 /σ 2 = N(0, 1) χ2 (n 1)/(n 1) t(n 1).

54 53 Jadi interval kepercayaan dua sisi 100(1 α)% untuk µ adalah ( ) s s x t 1 α/2, x + t 1 α/2 n n Catatan: Misalkan (l(x 1,..., x n ), u(x 1,..., x n )) merupakan interval epercayaan dua sisi 100 (1 α)% untuk θ. Jika τ : θ R merupakan fungsi monoton naik, maka interval kepercayaan dua sisi 100(1 α)% untuk τ(θ) adalah (τ(l(x 1,..., x n )), τ(u(x 1,..., x n ))). Sebaliknya, jika τ monoton turun, maka interval kepercayaan dua sisi 100(1 α)% untuk τ(θ) adalah (τ(u(x 1,..., x n )), τ(l(x 1,..., x n ))). Contoh Kembali pada Contoh Interval kepercayaan dua sisi 100(1 α)% untuk P{X > t} = exp{ t/θ}, t > 0 adalah ( { } { }) exp χ2 0,975(2n) < exp{ t/θ} < exp χ2 0,025(2n). 2n x 2n x Dari sampel random X 1,..., X n yang diambil dari suatu populasi dengan fungsi distribusi kumulatif (cdf: cumulative distribution function) kontinu dengan parameter θ Θ R pasti dapat ditemukan sekurang-kurangnya satu kuantitas pivot. Misalkan CDF dari X i dinyatakan sebagai F Xi (x; θ), maka F Xi (X i ; θ) UNIF (0, 1). Misalkan Y i := ln F Xi (X i ; θ), maka Y i Exp(1), sehingga 2nȲ = 2 n ln F X i (X i ; θ) { χ 2 (2n). Jadi P θ Θ : χ 2 α/2 (2n) < 2 } n ln F X i (X i ; θ) < χ 2 1 α/2 (2n) = 1 α, sehingga interval kepercayaan dua sisi 100(1 α)% untuk θ secara umum diberikan oleh himpunan berikut { θ Θ : χ 2 α/2(2n) < 2 } n ln F Xi (x i ; θ) < χ 2 1 α/2(2n). (4.1.1)

55 54 Jika (4.1.1) tidak dapat disederhanakan secara analitis, cara alternatif adalah dengan penyelesaian secara numerik. Cara lain adalah dengan penyederhanaan lebih lanjut, yaitu 1 F Xi (X i ; θ) UNIF (0, 1), sehingga 2 n ln(1 F X i (X i ; θ)) χ 2 (2n). Contoh Misalkan X i P AR(1, κ), maka F Xi (X i ; κ) = 1 (1 + X i ) κ. Dengan menerapkan cara yang terkhir, kita peroleh 2 n ln(1 F X i (X i ; κ)) = 2κ n ln(1 + X i) χ 2 (2n), Jadi interval kepercayaan dua sisi 100(1 α)% untuk κ adalah ( χ 2 α/2 (2n) 2 n ln(1 + X i), χ2 1 α/2 (2n) ) 2 n ln(1 + X. i) Membandingkan dua populasi normal Misalkan seorang peneliti ingin menyelidiki dan membandingkan efektivitas dari dua metode pembelajaran matematika yang ada. Suatu percobaan dilakukan dengan menerapkan metode I terhadap klas A dan metode II terhadap klas B. Kedua klas dianggap mempunyai kemampuan yang seimbang pada bidang matematika. Pada akhir semester diselenggarakan tes pada kedua kelas secara serentak dengan soal-soal yang sama, selanjutnya nilai-nilai test dicatat secara bebas satu sama lain. Jika nilai test dianggap berdistribusi N(µ, σ 2 ), < µ <, 0 < σ 2 <, maka hasil pengamatan dapat dianggap sebagai realisasi dari dua sampel random yang yang saling bebas X 1,..., X na dari populasi N(µ A, σa 2 ) dan Y 1,..., Y nb dari populasi N(µ B, σb 2 ), dimana n A dan n B masing-masing menyatakan banyaknya nilai yang dicatat pada klas A dan klas B, µ A dan µ B masing-masing menyatakan mean dari populasi nilai pada klas A dan klas B, sedangkan σ 2 A dan σ2 B masing-masing menyatakan variansi dari populasi nilai pada klas A dan klas B.

56 Membandingkan σ 2 A dan σ2 B Perbedaan efektivitas yang signifikan antara kedua metode pembelajaran dapat dilihat dari rasio. Jika interval kepercayaan dua sisi 100(1 α)% untuk σ 2 A /σ2 B memuat 1, maka kita boleh yakin dengan peluang 1 α bahwa σa 2 = σ2 B. Sebaliknya, jika interval kepercayaan dua sisi 100(1 α)% untuk σ 2 A /σ2 B tidak memuat 1, maka kita yakin 100(1 α)% bahwa σ 2 A σ2 B. Selanjutnya, karena S2 A σ2 B /S2 B σ2 A merupakan kuantitas pivot yang berdistribusi F (n A 1, n B 1) (lihat Contoh ), maka interval kepercayaan dua sisi 100(1 α)% untuk σa 2 /σ2 B adalah ( ) s 2 B F s 2 α/2 (n A 1, n B 1), s2 B F A s 2 1 α/2 (n A 1, n B 1), A dimana s 2 A := 1 n A 1 n A (x i x) 2 dan s 2 B := 1 n B 1 n B (y i ȳ) Membandingkan µ A dan µ B Perbedaan efektivitas antara metode I dan metode II juga dapat dilihat dari selisih antara µ A dan µ B. Jika σ 2 A dan σ2 B diketahui, maka ( X Ȳ ) (µ A µ B ) N(0, 1) σa 2 n A + σ2 B nb merupakan kuantitas pivot untuk µ A µ B. Jadi interval kepercayaan dua sisi 100(1 α)% untuk µ A µ B adalah x ȳ z 1 α/2 σ 2 A n A + σ2 B n B, x ȳ z α/2 σ 2 A n A + σ2 B n B Dalam kasus σ 2 A dan σ2 B tidak diketahui, kita bisa mengasumsikan σ2 A = σ2 B =: σ2 untuk menyederhanakan permasalahan. Estimator tak bias untuk σ 2 adalah Sp 2 := (n A 1)SA 2 + (n B 1)SB 2. n A + n B 2

57 56 Selanjutnya, karena maka (n A + n B 2) S2 p σ 2 = (n A 1) S2 A σ 2 + (n B 1) S2 B σ 2 χ2 (n A + n B 2), ( X Ȳ ) (µ A µ B ) ( ) = Sp 2 1 n A + 1 n B ( X Ȳ ) (µ A µ B ) ( ) σ n A n B t(n A + n B 2). Sp 2 σ 2 Jadi interval kepercayaan dua sisi 100(1 α)% untuk µ A µ B adalah ( ( 1 ( x ȳ) t 1 α/2 (n A + n B 2) Sp ), n A Sampel berpasangan ( x ȳ) t α/2 (n A + n B 2) S 2 p n B ( ) ). n A n B Untuk dapat menarik kesimpulan bahwa suatu obat baru dapat menurunkan suhu badan, n pasien diukur suhu badannya 15 menit sebelum dan 15 menit sesudah minum obat tersebut. Misalkan suhu badan pasien ke i sebelum minum obat adalah X i dan sesudah minum obat adalah Y i, i = 1,..., n. Misalkan D i := X i Y i N(µ 1 µ 2, σ σ 2 2 2σ 12 ), dimana µ 1 := E(X i ), µ 2 := E(Y i ), σ 2 1 := V ar(x i ), σ 2 2 := V ar(y i ) dan σ 12 := Cov(X i, Y i ), maka S 2 D (n 1) χ 2 (n 1), σ1 2 + σ2 2 2σ 12 dimana S 2 D := n (D i D)/(n 1), E(S 2 D ) = σ2 1 + σ 2 2 2σ 12, D := n D i/n. Ini berakibat D (µ 1 µ 2 ) S 2 Dn t(n 1).

58 57 Jadi interval kepercayaan dua sisi 100(1 α)% untuk µ 1 µ 2 adalah ( ) S 2 d t 1 α/2 (n 1) D n, d S 2 t α/2 (n 1) D. n 4.2 Metode umum Pada dasarnya interval kepercayaan untuk parameter θ Θ selalu dapat dikonstruksikan meskipun kuantitas pivot untuk θ tidak tersedia asalkan ada suatu statistik yang distribusinya bergantung hanya pada θ. Secara umum misalkan X 1,..., X n mempunyai fungsi densitas bersama f X1,...,X n ( ; θ) dan misalkan S : w(x 1,..., X n ) merupakan statistik dengan fungsi densitas f S ( ; θ) dan fungsi distribusi kumulatif F S ( ; θ), dengan F S (s; θ) = s f S(t; θ) dt. Selanjutnya misalkan h 1, h 2 : θ R merupakan fungsi-fungsi sedemikian hingga P {h 1 (θ) < S < h 2 (θ)} = 1 α, α (0, 1). Jika s merupakan suatu nilai pengamatan dari S, maka {θ Θ : h 1 (θ) < s < h 2 (θ)} merupakan daerah kepercayaan 100(1 α)% untuk θ. Kita sebut himpunan ini daerah kepercayaan karena belum tentu merupakan interval pada R Kasus h 1 dan h 2 monoton naik Jika h 1 dan h 2 merupakan fungsi monoton naik dari θ, maka berlaku {θ Θ : h 1 (θ) < s < h 2 (θ)} = { θ Θ : θ < h 1 1 (s) } { θ Θ : h 1 2 (s) < θ } Jika θ U dan θ L merupakan penyelesaian dari persamaan h 1 (θ U ) = s dan h 2 (θ L ) = s, maka {θ Θ : h 1 (θ) < s < h 2 (θ)} = {θ Θ : θ L < θ < θ U }. Jadi interval kepercayaan dua sisi 100(1 α)% untuk θ adalah (θ L, θ U ). Untuk menentukan h 1 dan h 2

59 58 kita mulai dari persamaan P {h 1 (θ) < S < h 2 (θ)} = 1 α. Salah satu kemungkinan yang dipenuhi oleh h 1 dan h 2 adalah F S (h 2 (θ); θ) = 1 α/2 dan F S (h 1 (θ); θ) = α/2, α (0, 1). Contoh Misalkan X 1,..., X n merupakan sampel random dari populasi dengan fungsi densitas (1/θ 2 ) exp{ (x θ)/θ 2 } ; x θ f(x; θ) = 0 ; x < θ Misalkan kita akan mengkonstruksikan interval kepercayaan dua sisi 90% untuk θ. Ambil S = X 1:n := min{x 1,..., X n }, maka untuk x θ, P {S x} =1 P {min{x 1,..., X n } > x} =1 P {X i > x, i = 1,..., n} =1 Π n P {X i > x} =1 Π n (1 P {X i x}) ( x ) =1 Π n 1 (1/θ 2 ) exp{ (t θ)/θ 2 } dt θ Dengan substitusi u = (t θ)/θ 2, diperoleh P {X i x} = 1 exp{ (x θ)/θ 2 }. Jadi 1 exp{ n(x θ)/θ 2 } ; x θ F S (x; θ) = 0 ; x < θ. Fungsi-fungsi h 1 dan h 2 dipilih dengan menyelesaiakn persamaan F S (h 1 (θ); θ) = 0, 05 1 exp{ n(h 1 (θ) θ)/θ 2 } = 0, 05 F S (h 2 (θ); θ) = 0, 95 1 exp{ n(h 2 (θ) θ)/θ 2 } = 0, 95,

60 59 yang menghasilkan penyelesaian h 1 (θ) = θ ln(0, 95)θ 2 /n θ + 0, 0513θ 2 /n h 2 (θ) = θ ln(0, 05)θ 2 /n θ + 2, 996θ 2 /n. Dapat disimpulkan bahwa h 1 dan h 2 merupakan fungsi monoton naik. Misalkan dari suatu pengamatan diperoleh s = 2, 50, maka dari persamaan h 1 (θ U ) = 2, 50 dan h 2 (θ L ) = 2, 50, diperoleh θ U = 2, 469 dan θ L = 1, 667. Jadi interval kepercayaan dua sisi 90% untuk θ adalah (1, 667; 2, 469). Catatan: Meskipun secara matematik S tidak disyaratkan merupakan statistik cukup ataupun MLE untuk θ, tetapi dianjurkan S yang dipilih sebaiknya merupakan statistik cukup atau MLE untuk θ Kasus h 1 dan h 2 monoton turun Jika h 1 an h 2 merupakan fungsi-fungsi yang monoton turun terhadap θ Θ, maka untuk setiap hasil pengamatan s berlaku {θ Θ : h 1 (θ) < s < h 2 (θ)} = { θ Θ : h 1 1 (s) < θ } { θ Θ : θ < h 1 2 (s) } = { θ Θ : h 1 1 (s) < θ < h 1 2 (s) }. Jadi jika h 1 dan h 2 memenuhi F S (h 2 (θ); θ) = 1 α/2 dan F S (h 1 (θ); θ) = α/2, maka interval ( h 1 1 (s), h 1 2 (s) ) merupakan interval kepercayaan dua sisi 100(1 α)% untuk θ. Misalkan θ L dan θ U merupakan penyelesaian dari persamaan h 1 (θ L ) = s dan h 2 (θ U ) = s, maka interval (θ L, θ U ) merupakan interval kepercayaan dua sisi 100(1 α)% untuk θ.

61 Soal-soal 1. Misalkan X 1,..., X n merupakan sampel random dari populasi N(µ, σ 2 ). (a) Misalkan σ 2 = 9. Tentukan interval kepercayaan dua sisi 90% untuk µ, jika x = 19, 3 dan n = 16. (b) Misalkan σ 2 tidak diketahui. Tentukan interval kepercayaan dua sisi 90% untuk µ, jika x = 19, 3, s 2 = 10, 24 dan n = Misalkan X 1,..., X n merupakan sampel random dari populasi W EI(θ, 2) (a) Tunjukan bahwa Q := 2 n X2 i /θ 2 χ 2 (2n). (b) Gunakan Q untuk mengkonstruksikan interval kepercayaan dua sisi 100γ% untuk θ. (c) Konstruksikan interval kepercayaan dua sisi 100γ% untuk P{X > t}. 3. Misalkan X 1,..., X n1 sampel random dari Exp(θ 1 ) dan Y 1,..., Y n2 sampel random dari Exp(θ 2 ) dimana kedua sampel saling bebas. (a) Tunjukkan (θ 2 /θ 1 )( X/Ȳ ) F (2n 1, 2n 2 ). (b) Konstruksikan interval kepercayaan 100γ% untuk θ 2 /θ Misalkan X 1,..., X n merupakan sampel random dari populasi dengan fungsi distribusi kumulatif dengan θ > 0. F Xi (x; θ) = { 1 exp{ θ(x θ)} ; x θ 0 ; x < θ, (a) Tentukan CDF F S ( ; θ) untuk S := min{x 1,..., X n }.

62 61 (b) Tentukan fungsi h(θ) sedemikian hingga G(h(θ); θ) = 1 α, dan tunjukkan bahwa h bukan fungsi monoton. (c) Tentukan penyelesaian dari persamaan h(θ) = s. 5. Misalkan f(x; p) := pf X1 (x) + (1 p)f X2 (x), dimana X 1 N(1, 1) dan X 2 N(0, 1). Dengan berdasarkan pada sampel berukuran n = 1 diambil dari f(x; p), konstruksikan interval kepercayaan dua sisi 100γ% untuk p. (Petunjuk: gunakan transformasi integeral probabilitas!) 6. Diberikan dua sampel random yang saling bebas X 1,..., X n1 dari N(µ 1, σ1) 2 dan Y 1,..., Y n2 dari N(µ 2, σ2). 2 Jika µ 1 dan µ 2 diasumsikan diketahui, konstruksikan interval kepercayaan dua sisi 100(1 α)% untuk σ2/σ dengan menggunakan statistik cukup.

63 Chapter 5 Uji hipotesis Pengertian dan prosudur estimasi titik dan estimasi interval untuk parametr-parameter suatu populasi telah dibahas pada Chapter 2 dan Chapter 4. Pada chapter ini kita akan membahas metode inferensi yang lain yaitu uji hipotesis. Berbeda dengan estimasi titik atau interval, pada uji hipotesis pendugaan awal terhadap distribusi dari populasi diberikan, selanjutnya berdasarkan sampel ditarik kesimpulan apakah pendugaan awal tersebut ditolak atau diterima. Pada chapter ini pembicaraan akan dibatasi pada kasus parametrik, yaitu fungsi densitas dari populasinya diidentifikasi oleh parameter-parameter yang tidak diketahui. Ruang sampel tetap kita nyatakan dengan χ R n. 5.1 Pendahuluan Definisi Misalkan X f X ( ; θ), θ Θ R. Hipotesis statistik adalah pernyataan tentang distribusi dari X. Dalam kasus parametrik ini hipotesis statistik adalah pernyataan tentang θ. 62

64 63 Dalam uji hipotesis ruang parameter Θ dibagi menjadi dua himpunan bagian yang saling asing, yaitu Θ 0 Θ dan Θ 1 := Θ Θ 0. Bersesuaian dengan Θ 0 dan Θ 1, hipotesis statistik juga terdiri dari dua pernyataan yang saling berlawanan, yaitu hipotesis nol (H 0 ) yang menyatakan bahwa θ Θ 0 dan hipotesis alternatif (H 1 ) yang menyatakan bahwa θ Θ 1. Biasanya kedua hipotesis ini dituliskan sebagai H 0 : θ Θ 0 vs H 1 : θ Θ 1. Jika diberikan sampel yang diambil dari populasi f X ( ; θ), θ Θ, prosudur uji hipotesis harus mampu menetukan apakah H 0 ditolak atau diterima. Karena itu kita membagi ruang sampel χ menjadi dua himpunan bagian yang saling asing, yaitu C := {(x 1,..., x n ) χ : H 0 ditolak} dan χ C. Selanjutnya C disebut daerah penolakan (daerah kritis), sedangkan χ C disebut daerah penerimaan. Definisi Suatu tes untuk hipotesis H 0 : θ Θ 0 vs H 1 : θ Θ 1 adalah suatu fungsi ψ : χ {0, 1}, sedemikian hingga (x 1,..., x n ) χ, 1 ; jika (x 1,..., x n ) C ψ(x 1,..., x n ) = 0 ; jika (x 1,..., x n ) C. Jadi ψ merupakan fungsi penolakan dari H 0, dimana H 0 akan ditolak jika ψ = 1 dan tidak ditolak jika ψ = 0. Selanjutnya berlaku E(ψ) = P(menolak H 0 ) Pada setiap eksperimen yang melibatkan pengamatan pasti ada kesalahan yang berimbas pada proses pengambilan keputusan terhadap H 0. Ada dua tipe kesalahan yang dapat dilakukan dalam penolakan terhadap H 0, yaitu 1. Kesalahan tipe I, yaitu kesalahan yang dilakukan karena menolak H 0 padahal H 0 benar. 2. Kesalahan tipe II, yaitu kesalahan yang dilakukan karena tidak menolak H 0 padahal H 0 salah.

65 64 Probabilitas kedua kesalahan dinyatakan sebagai P(kesalahan tipe I) = P(C θ Θ 0 ) = E(ψ) di bawah H 0, P(kesalahan tipe II) = 1 P(C θ Θ 1 ) = 1 E(ψ) di bawah H 1. Definisi Fungsi power dari tes ψ adalah suatu fungsi G ψ : Θ [0, 1] yang diberikan oleh G ψ (θ) := P(C θ Θ) = E(ψ) untuk θ Θ. Selanjutnya, ukuran (size) dari ψ adalah sup θ Θ0 G ψ (θ). Untuk suatu bilangan α (0, 1), tes ψ dikatakan tes dengan signifikansi α jika G ψ (θ) α, θ Θ 0. Karena untuk setiap θ Θ 0, G ψ (θ) sup θ Θ0 G ψ (θ), maka setiap tes adalah tes dengan tingkat signifikansi yang diberikan oleh ukurannya. Definisi Suatu hipotesis yang berbentuk H 0 : θ = θ 0 vs H 1 : θ = θ 1 untuk suatu θ 0, θ 1 Θ disebut hipotesis sederhana. Sedangkan hipotesis yang menyatakan bahwa θ berada pada suatu interval disebut hipotesis komposit. Jadi hipotesis yang berbentuk H 0 : θ < θ 1 vs H 1 : θ θ 1 untuk suatu θ 1 Θ adalah hipotesis komposit. Catatan: Untuk hipotesis sederhana H 0 : θ = θ 1 vs H 1 : θ = θ 2 untuk θ 1 θ 2, berlaku sup θ Θ0 G ψ (θ) = max θ {θ0 } G ψ (θ) = G ψ (θ 0 ). Maka ψ adalah tes dengan ukuran yang diberikan oleh G ψ (θ 0 ). Jadi dalam kasus ini G ψ (θ 0 ) juga dapat diambil sebagai tingkat signifikansinya Menentukan daerah kritik Dari penjelasan di atas secara logika tes yang baik adalah tes yang meminimumkan P(kesalahan tipe I) dan P(kesalahan tipe II) secara simultan. Akan tetapi karena kedua kesalahan ini tidak dapat diminimumkan secara bersamaan (lihat Lehmann

66 65 dan Romano, 2005, hal. 57), prosudur terbaik yang dapat dilakukan adalah kita memilih terlebih dahulu bilangan kecil α, biasanya dipilih α = 0, 01 atau α = 0, 05 sebagai tingkat signifikansi sedemikian hingga P(kesalahan tipe I) α dan pada sisi lain P(kesalahan tipe II) dibuat minimum. Karena P(kesalahan tipe II) = 1 G ψ (θ), θ Θ 1, jadi daerah kritik yang dipilih adalah daerah kritik yang memenuhi P(kesalahan tipe I) α sedemikian hingga power dibawah H 1 maksimum, yaitu G ψ (θ), θ Θ 1 maksimum. Contoh Ada atau tidaknya kandungan minyak bumi pada suatu daerah dapat diperediksi dengan melihat kecepatan reaksi dari tanah dipermukaan daerah tersebut dengan suatu zat A yang diasumsikan berdistribusi N(µ, 16). Dari pengalaman diketahui bahwa µ = 10 jika tidak ada kandungan minyak dan µ = 11 jika sebaliknya. Untuk dapat menarik kesimpulan ya atau tidak sebuah eksperimen dilakukan dengan mengambil sampel random berukuran n = 25, yaitu X 1,..., X 25, dimana X i adalah kecepatan reaksi diukur dalam ml/detik dan menguji hipotesis H 0 : µ = 10 =: µ 0 vs H 1 : µ = 11 =: µ 1. Karena X merupakan statistik cukup dan MLE untuk µ, adalah masuk akal untuk menduga sifat-sifat dari µ dengan sifat-sifat dari X. Selanjutnya karena µ 1 > µ 0, nilai-nilai X yang besar akan menunjukan bahwa sampel mendukung H 1, karena itu masuk akal jika daerah kritik didefinisikan sebagai C := {(x 1,..., x n ) χ : x k} = { ω Ω : X(ω) k }, dimana k adalah konstanta yang ditentukan kemudian. Kita definisikan tes ψ : χ {0, 1}, sedemikian hingga (x 1,..., x n ) χ, 1 ; jika x k ψ(x 1,..., x n ) = 0 ; jika x < k.

67 66 Karena hipotesisnya merupakan hipotesis sederhana, tes atau daerah kritik berukuran α = 0, 05 diturunkan dari persamaan G ψ (µ 0 ) = 0, 05 P { X k µ = µ0 = 10 } = 0, 05 { X µ0 P k µ } 0 = 0, 05 4/5 4/5 { P Z k µ } 0 = 0, 05, 4/5 ini berakibat k µ 0 4/5 = z 1 α, atau k = µ 0 + z 1 α 4/5 = 11, 316. Jadi daerah kritik berukuran 0, 05 adalah C = {(x 1,..., x n ) χ : x 11, 316} { } x 10 = (x 1,..., x n ) χ : 1, /5 Ini berarti tes berukuran 0, 05 akan menolak H 0 jika data yang diperoleh menunjukan x 11, 316 atau x 10 4/5 1, 645. Sebaliknya jika data memberikan nilai sedemikian hingga x < 11, 316 atau x 10 4/5 < 1, 645, maka H 0 tidak ditolak. Selanjutnya kita selidiki power dari ψ dibawah H 1 yang diberikan oleh { } X µ0 G ψ (µ 1 ) =P 1, 645 µ = µ 1 4/5 { X µ1 =P 1, µ } 0 µ 1 4/5 4/5 { } X µ1 =P 1, 645 5/4 = 0, /5 Mari kita bandingkan tes diatas dengan tes yang didefinisikan sebagai berikut: γ : χ {0, 1}, sedemikian hingga (x 1,..., x n ) χ, 1 ; jika 10 x γ(x 1,..., x n ) = 0 ; jika x < 10 atau < x

68 67 untuk menguji hipotesis sederhana H 0 : µ = 10 =: µ 0 vs H 1 : µ = 11 =: µ 1. Tes ini juga merupakan tes dengan ukuran 0, 05, karena G γ (µ 0 ) =P { 10 X 10, 1006 µ = 10 } { =P 0 X } 10 0, 1006 = 0, 05. 4/5 4/5 Akan tetapi power dari γ di bawah H 1 adalah G γ (µ 1 ) =P { 10 X 10, 1006 µ = 11 } =P { } { } X 10, 1006 µ = 11 P X 10 µ = 11 { } { } X µ1 X µ1 =P 0, /4 P 5/4 4/5 4/5 = = 0, 024. Ini berarti power dari ψ dibawah H 1 jauh lebih besar dibandingkan dengan power dari γ dibawah H 1. Dengan demikian diantara kedua tes tersebut, ψ lebih powerful dari γ. Contoh Misalkan X 1,..., X n merupakan sampel random dari populasi N(µ, σ 2 ), σ 2 diasumsikan tidak diketahui. 1. Tes berukuran α untuk hipotesis H 0 : µ µ 0 vs H 1 : µ > µ 0 adalah menolak H 0 jika n( x µ 0 )/s t 1 α (n 1). Sebaliknya H 0 tidak ditolak jika n( x µ 0 )/s < t 1 α (n 1). Selanjutnya fungsi power di bawah H 1 adalah { n( X µ0 ) G ψ (µ) = P S { n( X µ + µ µ0 ) = P t 1 α (n 1) µ > µ 0 } } t 1 α (n 1) S n( X µ)/σ + n(µ µ0 )/σ = P (n 1)S 2 /(n 1) σ 2 t 1 α (n 1)

69 68 = P { } Z + t 1 α (n 1), V/ν dimana := n(µ µ 0 )/σ > 0, V := (n 1)S 2 /σ 2, ν := n 1. Dalam hal ini Z + / V/ν berdistribusi t students non central dengan derajat bebas ν dan parameter non central. Jika = 0, maka power dibawah alternatif akan mencapai ukuran dari tes tersebut, yaitu α. 2. Tes berukuran α untuk hipotesis H 0 : µ µ 0 vs H 1 : µ < µ 0 adalah menolak H 0 jika n( x µ 0 )/s t α (n 1). Sebaliknya H 0 tidak ditolak jika n( x µ 0 )/s > t α (n 1). 3. Tes berukuran α untuk hipotesis H 0 : µ = µ 0 vs H 1 : µ µ 0 adalah menolak H 0 jika n( x µ 0 )/s t 1 α/2 (n 1) atau n( x µ 0 )/s t 1 α/2 (n 1). Sebaliknya H 0 tidak ditolak jika t 1 α/2 < n( x µ 0 )/s < t 1 α/2 (n 1) Nilai p (p-value) Untuk sembarang α (0, 1), misalkan C α merupakan daerah kritik dari tes berukuran α untuk hipotesis H 0 : θ Θ 0 vs H 1 : θ Θ 1 berdasarkan sampel random X 1,..., X n. Secara umum C α akan mempunyai bentuk sebagai berikut: C α := {(x 1,..., x n ) χ : q(x 1,..., x n ) q 1 α }, dimana q 1 α adalah quantil ke 1 α untuk distribusi dari statistik q(x 1,..., X n ). Untuk sembarang α 1 dan α 2, jika α 1 < α 2, maka q 1 α1 > q 1 α2. Fakta ini mengakibatkan C α1 C α2. Ini berarti, jika kita diberikan dua konstanta α 1 dan α 2, jika H 0 ditolak pada tingkat signifikansi α 1, maka H 0 pasti ditolak juga pada tingkat signifikansi α 2. Permasalahan sebaliknya adalah jika diberikan suatu data (x 1,..., x n ) χ, apakah

70 69 H 0 ditolak atau tidak pada tingkat signifikansi α 1 dan α 2? Permasalahan ini memperkenalkan kita pada konsep nilai p atau p value. Definisi Diberikan data (x 1,..., x n ) χ, nilai p dari suatu tes adalah nilai α terkecil sedemikian hingga H 0 ditolak. Dengan kata lain p-value := inf α (0,1) C α, sedemikian hingga (x 1,..., x n ) C α. Jika C α = {(x 1,..., x n ) χ : q(x 1,..., x n ) q 1 α }, maka berlaku p-value := inf q 1 α, sedemikian hingga q(x 1,..., x n ) q 1 α α (0,1) =P {q(x 1,..., X n ) q(x 1,..., x n )}. Sebaliknya, jika C α = {(x 1,..., x n ) χ : q(x 1,..., x n ) q α }, maka p-value := inf α (0,1) q α, sedemikian hingga q(x 1,..., x n ) q α =P {q(x 1,..., X n ) q(x 1,..., x n )}. Contoh Pada Contoh bagian 1, misalkan hipotesisnya adalah H 0 : µ 80 vs H 1 : µ > 80, jika dari eksperimen diperoleh data dengan n = 40, x = 85 dan s 2 = 100, maka p-value =P { 40( X 80) S } 40(85 80) 10 =P {T (39) 3, 162} = 0, 0015, dimana T (39) menyatakan variabel berdistribusi t dengan derajat bebas 39. Jadi keputusan yang diambil berdasarkan data tersebut akan menolak H 0 untuk setiap α 0, 0015.

71 Metode memilih tes terbaik Dari Contoh 5.1.5, tes berukuran α untuk suatu hipotesis yang sama adalah tidak tunggal. Dua atau lebih tes dapat mempunyai ukuran yang sama, tetapi power di bawah alternatif H 1 belum tentu sama. Pada sub bab ini kita akan merumuskan metode memilih tes yang terbaik (tes dengan power di bawah H 1 terbesar) diantara semua tes berukuran α. Definisi Misalkan ψ 1 dan ψ 2 merupakan dua tes dengan ukuran α untuk hipotesis H 0 : θ Θ 0 vs H 1 : θ Θ 1. Tes ψ 1 dikatakan secara seragam lebih baik dari ψ 2, jika G ψ1 (θ) G ψ2 (θ), θ Θ 1. Misalkan C α merupakan himpunana semua tes berukuran α untuk hipotesis H 0 : θ Θ 0 vs H 1 : θ Θ 1. Suatu tes ψ C α dikatakan terbaik secara seragam (Uniformly Most Powerful Test) atau tes UMP berukuran α, jika G ψ (θ) G ψ (θ), θ Θ 1 dan ψ C α Tes UMP untuk hipotesis sederhana Misalkan X 1,..., X n merupakan n variabel random dengan fungsi densitas bersama f(x 1,..., x n ; θ), θ Θ R. Suatu tes ϕ : χ {0, 1} untuk hipotesis H 0 : θ = θ 0 vs H 1 : θ = θ 1, dengan θ 0, θ 1 Θ, θ 0 θ 1, disebut tes Neyman-Pearson (tes N-P) berukuran α, jika 1 ; jika f(x 1,...,x n ;θ 0 ) ϕ(x 1,..., x n ) = k f(x 1,...,x n;θ 1 ) 0 ; jika f(x 1,...,x n ;θ 0 ) > k, f(x 1,...,x n ;θ 1 ) untuk setiap titk (x 1,..., x n ) χ, dimana k [0, ) merupakan sembarang konstanta yang akan ditentukan dari persamaan G ϕ (θ 0 ) = α. Pada definisi ini diasumsikan f(x 1,..., x n ; θ 1 ) > 0.

72 71 Teorema Tes di atas adalah tes UMP berukuran α. Proof. Misalkan ψ merupakan sembarang tes berukuran α untuk hipotesis sederhana H 0 : θ = θ 0 vs H 1 : θ = θ 1, yaitu G ψ (θ 0 ) = α. Misalkan M : {(x 1,..., x n ) χ : ϕ(x 1,..., x n ) ψ(x 1,..., x n )} M < : {(x 1,..., x n ) χ : ϕ(x 1,..., x n ) < ψ(x 1,..., x n )}. Jika (x 1,..., x n ) M, maka ϕ(x 1,..., x n ) > 0. Ini berakibat f(x 1,..., x n ; θ 0 ) kf(x 1,..., x n ; θ 1 ). Sebaliknya, jika (x 1,..., x n ) M <, maka ϕ(x 1,..., x n ) < 1. Ini berakibat f(x 1,..., x n ; θ 0 ) > kf(x 1,..., x n ; θ 1 ). Maka G ϕ (θ 1 ) G ψ (θ 1 ) = E θ1 (ϕ ψ) = (ϕ(x 1,..., x n ) ψ(x 1,..., x n ))f(x 1,..., x n ; θ 1 )dx 1,..., dx n χ = (ϕ(x 1,..., x n ) ψ(x 1,..., x n ))f(x 1,..., x n ; θ 1 )dx 1,..., dx n M + (ϕ(x 1,..., x n ) ψ(x 1,..., x n ))f(x 1,..., x n ; θ 1 )dx 1,..., dx n M < (ϕ(x 1,..., x n ) ψ(x 1,..., x n )) 1 M k f(x 1,..., x n ; θ 0 )dx 1,..., dx n + (ϕ(x 1,..., x n ) ψ(x 1,..., x n )) 1 M k f(x 1,..., x n ; θ 0 )dx 1,..., dx n < = (ϕ(x 1,..., x n ) ψ(x 1,..., x n )) 1 k f(x 1,..., x n ; θ 0 )dx 1,..., dx n χ = 1 k (G ϕ(θ 0 ) G ψ (θ 0 )) = 1 (α α) = 0. k Jadi G ϕ (θ 1 ) G ψ (θ 1 ). Disini E θ1 menyatakan ekspektasi dibawah H 1. Contoh Misalkan X 1,..., X n merupakan sampel random dari populasi bedistribusi Exp(θ), θ > 0. Kita akan merumuskan tes N-P berukuran α untuk hipotesis

73 72 H 0 : θ = θ 0 vs H 1 : θ = θ 1, dimana diasumsikan θ 1 > θ 0. Karena ( ) { } n f(x 1,..., x n : θ 0 ) f(x 1,..., x n ; θ 1 ) k θ1 n exp (1/θ 1 1/θ 0 ) x i k θ 0 n x i k 1, dimana k 1 := ln k n ln(θ 1/θ 0 ) 1/θ 1 1/θ 0. Pada kasus ini (1/θ 1 1/θ 0 ) < 0 sehingga tanda berubah menjadi. Maka daerah penolakan berukuran α diturunkan dari persamaan: { n } { 2 n P X i k 1 θ = θ 0 = α P X i 2k } 1 = α. θ 0 θ 0 Selanjutnya karena 2 n X i/θ 0 berdistribusi χ 2 (2n), maka 2k 1 /θ 0 = χ 2 1 α(2n). Jadi tes N-P berukuran α akan menolak H 0 jika 2 n x i/θ 0 χ 2 1 α(2n) atau n x i θ 0 χ 2 1 α(2n)/2, untuk θ 1 > θ 0. Jika diasumsikan θ 2 > θ 0, maka dapat ditunjukan bahwa tes N-P berukuran α untuk hipotesis H 0 : θ = θ 0 vs H 1 : θ = θ 2 akan menolak H 0 jika 2 n x i/θ 0 χ 2 1 α(2n) atau n x i θ 0 χ 2 1 α(2n)/2. Kedua tes tersebut adalah sama asalkan θ 1 dan θ 2 diasumsikan lebih besar dari θ 0. Contoh Misalkan X 1,..., X n merupakan sampel random dari populasi bedistribusi N(0, σ 2 ), 0 < σ 2 <. Kita ingin merumuskan tes N-P berukuran α untuk menguji hipotesis H 0 : σ 2 = σ 2 0 vs H 1 : σ 2 = σ 2 1, dimana diasumsikan σ 2 1 > σ 2 0. Karena f(x 1,..., x n ; σ 2 0) f(x 1,..., x n ; σ 2 1) k ( ) σ exp σ 2 0 n { n Konstanta k 1 ditentukan dari persamaan { n } { n P Xi 2 k 1 σ 2 = σ0 2 = α P x 2 i ( ) } 1/2σ 2 1 1/2σ0 2 k x 2 i k 1, dimana k 1 := ln k n ln(σ2 1/σ0) 2. 1/2σ1 2 1/2σ0 2 ( Xi σ 0 ) 2 k 1 σ 2 0 } = α.

74 73 Karena n jika n ( X i σ 0 ) 2 berdistribusi χ 2 (n), maka tes N-P berukuran α akan menolak H 0 ( x i σ 0 ) 2 χ 2 1 α (n) atau n x2 i σ 2 0χ 2 1 α(2n). Contoh (Kasus diskrit) Misalkan X 1,..., X n merupakan sampel random dari populasi bedistribusi P OIS(λ), λ > 0. Andaikan kita ingin merumuskan tes N-P berukuran α untuk menguji hipotesis H 0 : λ = λ 0 vs H 1 : λ = λ 1, dimana diasumsikan λ 1 > λ 0. Karena f(x 1,..., x n ; σ 2 0) f(x 1,..., x n ; σ 2 1) k exp {n(λ 1 λ 0 )} (λ 0 /λ 1 ) n x i k n x i k 1, dimana k 1 := k exp{n(λ 0 λ 1 )}/ ln(λ 0 /λ 1 ). Perubahan tanda menjadi tanda terjadi karena asumsi λ 1 > λ 0, sehingga ln(λ 0 /λ 1 ) < 0. Misalkan S := n X i, maka dibawah H 0, S berdistribusi P OIS(nλ 0 ). Jika P {S i λ = λ 0 } = α i, dan misalkan α i α α i+1, maka tes yang menolak H 0, jika n x i i adalah tes N-P berukuran α i. Catatan: Pada kasus diskrit, tes N-P berukuran α mungkin tidak bisa dicapai secara eksak. Tetapi, diberikan α, kita bisa memilih k sedemikian hingga menghasilkan tes dengan ukuran sebesar-besarnya α Tes UMP untuk hipotesis komposit Kita akan mengkonstruksikan tes UMP berukuran α untuk hipotesis H 0 : θ = θ 0 vs H 1 : θ < θ 1. Metode yang ditempuh adalah dengan pertama-tama mendefinisikan tes N-P berukuran α untuk hipotesis sederhana H 0 : θ = θ 0 vs H 1 : θ = θ 1 untuk sembarang θ 1 dengan θ 1 < θ 0. Jika dapat ditunjukkan bahwa tes ini tidak bergantung

75 74 pada θ 1, maka tes ini adalah tes UMP berukuran α untuk hipotesis komposit H 0 : θ = θ 0 vs H 1 : θ < θ 1. Contoh Kita perhatikan kembali Contoh Misalkan ψ : χ {0, 1} merupakan tes untuk hipotesis H 0 : θ = θ 0 vs H 1 : θ = θ 1 untuk sembarang θ 1 dengan θ 1 > θ 0, dimana (x 1,..., x n ) χ, ψ(x 1,..., x n ) = 1; jika f(x 1,...,x n;θ 0 ) f(x 1,...,x n ;θ 1 ) k 0; jika f(x 1,...,x n ;θ 0 ) f(x 1,...,x n;θ 1 ) > k Tes UMP berukuran α untuk hipotesis ini akan menolak H 0 jika 2n x/θ 0 χ 2 1 α(2n). Tes ini tidak akan berubah selama θ 1 > θ 0. Jadi ψ merupakan tes N-P berukuran α yang tidak bergantung pada θ 1 selama θ 1 > θ 0. Maka ψ adalah tes UMP berukuran α untuk hipotesis H 0 : θ = θ 0 vs H 1 : θ > θ 0. Fungsi power dari ψ adalah { } { } 2n X 2n X G ψ (θ) =P χ 2 θ θ 1 α(2n) θ = P χ 2 0 θ θ 1 α(2n) 0 { 2n X =P θ } ( ) 0 θ0 θ θ χ2 1 α(2n) = 1 F χ 2 (2n) θ χ2 1 α(2n), dimana F χ 2 (2n)(x) adalah fungsi distribusi kumulatif dari variabel χ 2 (2n). Karena θ 0 θ χ 2 1 α(2n) merupakan fungsi turun dari θ, maka G ψ (θ) merupakan fungsi monoton naik dari θ, sehingga berlaku sup θ θ0 G ψ (θ) = G ψ (θ 0 ) = α. Berdasarkan hasil ini, ψ juga merupakan tes UMP berukuran α untuk hipotesis komposit H 0 : θ θ 0 vs H 1 : θ > θ 0. Secara analog tes UMP berukuran α berdasarkan sampel random dari populasi Exp(θ) untuk menguji hipotesis H 0 : θ = θ 0 vs H 1 : θ < θ 0, akan menolak H 0 jika 2n x/θ 0 χ 2 α(2n). Misalkan tes ini sebagai ψ, maka fungsi power dari ψ adalah { } { } ( ) 2n X 2n X G ψ (θ) =P χ 2 θ α(2n) θ = P χ 2 θ0 θ θ α(2n) = F χ 2 (2n) 0 θ χ2 α(2n). θ 0

76 75 Jelaslah G ψ (θ) merupakan fungsi turun dari θ, oleh karena itu sup θ θ0 G ψ (θ) = G ψ (θ 0 ) = α. Jadi ψ merupakan tes UMP berukuran α untuk hipotesis H 0 : θ θ 0 vs H 1 : θ < θ Keluarga monotone likelihood ratio (MLR) Misalkan X 1,..., X n mempunyai fungsi densitas bersama f(x 1,..., x n ; θ), dengan θ Θ R. Misalkan T : χ R merupakan statistik. Maka f(x 1,..., x n ; θ) dikatakan dari keluarga monotone likelihood ratio (MLR) dalam T, jika terdapat suatu fungsi non negatif g(t) sedemikian hingga untuk setiap θ 1 dan θ 2 dengan θ 1 < θ 2 berlaku: f(x 1,..., x n ; θ 2 ) f(x 1,..., x n ; θ 1 ) = g(t (x 1,..., x n ); θ 1, θ 2 ) dengan g(t (x 1,..., x n ); θ 1, θ 2 ) monoton naik dalam T (x 1,..., x n ). Contoh Misalkan X 1,..., X n merupakan sampel random dari P OIS(λ), dengan λ > 0. Maka untuk λ 1 < λ 2, berlaku f(x 1,..., x n ; λ 2 ) f(x 1,..., x n ; λ 1 ) = en(λ 1 λ 2 ) (λ 2 /λ 1 ) n x i. Misalkan T (x 1,..., x n ) := n x i, karena λ 2 /λ 1 > 1, maka ruas kanan dari persamaan di atas merupakan fungsi monoton naik dari T (x 1,..., x n ). Jadi fungsi densitas bersama f(x 1,..., x n ; λ) = e nλ λ n x i /Π n (x i!) adalah dari keluarga MLR dalam T (X 1,..., X n ) = n X i. Teorema Misalkan X 1,..., X n mempunyai fungsi densitas bersama yang dapat dituliskan sebagai: f(x 1,..., x n ; θ) = exp{q(θ)t (x 1,..., x n ) + h(x 1,..., x n ) + c(θ)}, θ Θ R,

77 76 dimana h merupakan fungsi hanya dari (x 1,..., x n ), sedangkan c dan q adalah fungsifungsi dari θ saja. Jika q monoton naik secara tegas, maka f(x 1,..., x n ; θ) merupakan anggota keluarga MLR dalam T (X 1,..., X n ). Proof. Jika θ 1 < θ 2, maka f(x 1,..., x n ; θ 2 ) f(x 1,..., x n ; θ 1 ) = exp{(q(θ2) q(θ 1))T (x 1,..., x n ) + c(θ 2 ) c(θ 1 )}. Karena q merupakan fungsi monoton naik secara tegas dari θ, maka ruas kanan dari persamaan di atas merupakan fungsi monoton dari T (x 1,..., x n ). Jadi f(x 1,..., x n ; θ) merupakan anggota keluarga MLR dalam T. Contoh Jika X 1,..., X n merupakan sampel random dari populasi N(µ, 16), dengan < µ <, maka berlaku { f(x 1,..., x n ; µ) = 1 4 2π exp 1 = exp { nµ 16 x 32 n x2 i 32 } n (x i µ) 2 ( )} µ ln(4 2π) = exp {q(θ)t (x 1,..., x n ) + h(x 1,..., x n ) + c(θ)}, dengan q(θ) := nµ/16, h(x 1,..., x n ) := n x2 i /32, c(µ) := µ 2 /32 ln(4 2π), dan T (x 1,..., x n ) := x. Jelaslah q merupakan fungsi monoton naik tegas dari µ, sehingga dapat disimpulkan f(x 1,..., x n ; µ) dari keluarga MLR dalam X. Teorema Jika f(x 1,..., x n ; θ), θ Θ R merupakan anggota dari keluarga MLR dalam T (X 1,..., X n ), maka tes UMP berukuran α untuk hipotesis H 0 : θ θ 0 vs H 1 : θ > θ 0 adalah 1; jika T (x ϕ 1,..., x n ) k (x 1,..., x n ) = 0; jika T (x 1,..., x n ) < k,

78 77 dimana k adalah konstanta yang ditentukan dari persamaan P {T (X 1,..., X n ) k θ = θ 0 } = α. Jika nilai k yang memenuhi persamaan ini adalah k, maka daerah kritik dari tes ini adalah C ϕ := {(x 1,..., x n ) χ : T (x 1,..., x n ) k }. Proof. Pertama-tama akan ditunjukkan bahwa ϕ merupakan tes N-P berukuran α untuk hipotesis sederhana H 0 : θ = θ 0 vs H 1 : θ = θ 1, untuk sembarang θ 1 Θ dengan θ 1 > θ 0, dan ditunjukkan bahwa tes ini tidak bergantung pada θ 1 asalkan θ 1 > θ 0. Kedua, kita tunjukkan bahwa fungsi power G ϕ (θ) merupakan fungsi monoton naik dari θ. Karena g(t; θ 0, θ 1 ) merupakan fungsi monoton naik dari t, maka berlaku: T (x 1,..., x n ) k g(t (x 1,..., x n ); θ 0, θ 1 ) g(k; θ 0, θ 1 ) f(x 1,..., x n ; θ 1 ) f(x 1,..., x n ; θ 0 ) g(k; θ 0, θ 1 ) f(x 1,..., x n ; θ 0 ) f(x 1,..., x n ; θ 1 ) k, dimana k := 1/g(k; θ 0, θ 1 ). Jadi tes ϕ equivalen dengan ϕ (x 1,..., x n ) = Selanjutnya, 1; jika f(x 1,...,x n ;θ 0 ) f(x 1,...,x n ;θ 1 ) k. 0; jika f(x 1,...,x n;θ 0 ) > f(x 1,...,x n;θ 1 ) k { } f(x1,..., x n ; θ 0 ) α = P {T (X 1,..., X n ) k θ = θ 0 } = P f(x 1,..., x n ; θ 1 ) k θ = θ 0. Jadi ϕ adalah tes N-P berukuran α untuk hipotesis H 0 : θ = θ 0 vs H 1 : θ = θ 1. Tes ini tidak bergantung pada pemilihan θ 1 Θ, asalkan θ 1 > θ 0. Sehingga ϕ adalah tes UMP berukuran α untuk hipotesis H 0 : θ = θ 0 vs H 1 : θ > θ 0. Bahwa fungsi

79 78 power G ϕ (θ) monoton naik pada Θ dapat dilihat pada Pruscha (2000), hal Akibat dari kemonotonan dari G ϕ (θ), berlaku: sup θ θ0 G ϕ (θ) = G ϕ (θ 0 ) = α. Jadi ϕ adalah tes UMP berukuran α untuk hipotesis H 0 : θ θ 0 vs H 1 : θ > θ 0. Contoh Dari Contoh 5.2.9, distribusi bersama dari X 1,..., X n adalah dari keluarga MLR dalam X. Berdasarkan Teorema , tes UMP berukuran alpha untuk hipotesis H 0 : µ µ 0 vs H 1 : µ > µ 0 adalah 1; jika x k ϕ (x 1,..., x n ) = 0; jika x < k, dengan P { } X k µ = µ0 = α. Jika µ0 merupakan nilai sebenarnya dari µ, maka daerah kritik dari ϕ adalah C ϕ = { (x 1,..., x n ) χ : } n( x µ 0 )/4 z 1 α = { (x 1,..., x n ) χ : x µ 0 + 4z 1 α / n }. Remark Jika f(x 1,..., x n ; θ) merupakan anggota dari keluarga MLR dalam T (X 1,..., X n ), maka tes UMP berukuran α untuk hipotesis H 0 : θ θ 0 vs H 1 : θ < θ 0 adalah 1; jika T (x ϕ 1,..., x n ) k (x 1,..., x n ) = 0; jika T (x 1,..., x n ) > k, dimana k adalah konstanta yang ditentukan dari persamaan P {T (X 1,..., X n ) k θ = θ 0 } = α. Catatan: Jika f(x 1,..., x n ; θ) merupakan anggota dari keluarga MLR dalam T (X 1,..., X n ),

80 79 untuk θ 1 < θ 0, maka f(x 1,...,x n;θ 1 ) f(x 1,...,x n;θ 0 ) merupakan fungsi monoton turun dari T (x 1,..., x n ), sehingga {(x 1,..., x n ) χ : T (x 1,..., x n ) k} untuk suatu k, dimana k := g(k; θ 0, θ 1 ). { (x 1,..., x n ) χ : f(x } 1,..., x n ; θ 1 ) f(x 1,..., x n ; θ 0 ) k 5.3 Tes dengan membandingkan fungsi likelihood Tes dengan membandingkan fungsi likelihood (engl. Likelihood Ratio Test) disingkat LRT merupakan salah satu tes yang berhubungan langsung dengan maksimum likelihood estimator yang dibahas pada Chapter 2. Pada sub bab sebelumnya prosudur tes UMP diturunkan terbatas pada hipotesis sederhana dan hipotesis komposit satu sisi. Tetapi untuk hipotesis komposit dua sisi H 0 : θ = θ 0 vs H 1 : θ θ 0 tes UMP tidak dapat diturunkan. Permasalahan ini dan permasalahan tes dengan kehadiran parameter pengganggu dapat ditangani dengan tes likelihood ratio. Definisi Misalkan L(θ; x 1,..., x n ) merupakan fungsi likelihood dari variabel random X 1,..., X n. Misalkan λ(x 1,..., x n ) := sup θ H 0 L(θ; x 1,..., x n ) sup θ Θ L(θ; x 1,..., x n ). Tes LR berukuran α untuk hipotesis H 0 : θ Θ 0 vs H 1 : θ Θ 1 adalah 1; jika λ(x 1,..., x n ) k φ(x 1,..., x n ) =, 0; jika λ(x 1,..., x n ) > k dimana 0 < k < 1 adalah konstanta yang tidak diketahui yang ditentukan dari persamaan sup P{λ(X 1,..., X n ) k} = α. θ H 0

81 80 Remark Misalkan ˆθ 0 adalah MLE untuk θ pada daerah yang dibatasi pada Θ 0 (MLE yang dibatasi pada H 0 ) dan ˆθ adalah MLE untuk θ pada daerah Θ (MLE yang tidak dibatasi). Maka λ(x 1,..., x n ) = L(ˆθ 0 ; x 1,..., x n ) L(ˆθ; x 1,..., x n ). Jadi daerah kritik dari tes LR dikonstruksikan dengan cara sedemikian rupa sehingga titik-titik sampel mempunyai rasio yang kecil. Contoh Misalkan X 1,..., X n merupakan sampel random dari populasi N(µ, 1), dimana µ tidak diketahui, < µ <. Kita tertarik untuk mengkonstruksikan tes LR untuk hipotesis H 0 : µ = µ 0 vs H 1 : µ µ 0, dimana µ 0 adalah konstanta yang diketahui (ditentukan oleh ekperimenter). Karena pada H 0 dispesifikasikan dengan jelas bahwa Θ 0 = {µ 0 }, maka sup µ H0 L(µ; x 1,..., x n ) = max µ H0 L(µ; x 1,..., x n ) = L(µ 0 ; x 1,..., x n ). MLE untuk µ pada daerah < µ < adalah ˆµ = X, maka berlaku { [ n λ(x 1,..., x n ) = L(µ 0; x 1,..., x n ) L( x; x 1,..., x n ) = exp 1/2 (x i µ 0 ) 2 ]} n (x i x) 2. Selanjutnya, karena n (x i µ 0 ) 2 = n (x i x) 2 + n( x µ 0 ) 2, maka diperoleh λ(x 1,..., x n ) = exp { 12 } n( x µ 0) 2. Selanjutnya sup P {λ(x 1,..., X n ) k} = P {λ(x 1,..., X n ) k µ = µ 0 } = α µ H 0 { P exp { 12 } } n( X µ 0 ) 2 k = α P { ( n( X µ 0 )) 2 2 ln k } = α.

82 81 Karena ( n( X µ 0 )) 2 berdistribusi χ 2 (n), maka tes LR berukuran α akan menolak H 0, jika n( x µ 0 ) 2 χ 2 (n) 1 α atau k = exp{ χ 2 1 α(n)/2}. Cara lain adalah P { ( n( X µ 0 )) 2 2 ln k } = α { n( P X µ0 ) 2 ln k atau n( X µ 0 ) } 2 ln k = α. Karena n( X µ 0 ) berdistribusi N(0, 1), maka tes LR berukuran α akan menolak H 0, jika n( x µ 0 ) z 1 α/2 atau n( x µ 0 ) z 1 α/2. Contoh Misalkan X 1,..., X n merupakan sampel random dari populasi N(µ, σ 2 ), dengan µ dan σ 2 parameter-parameter yang tidak diketahui, < µ < dan 0 < σ 2 <. Kita akan menurunkan prosudur tes LR berukuran α untuk hipotesis H 0 : µ = µ 0 vs H 1 : µ µ 0, dimana µ 0 adalah bilangan yang diketahui. Pada kasus ini ruang parameter Θ 0 dan Θ adalah Θ 0 = {(µ, σ 2 ) : µ = µ 0, 0 < σ 2 < } = {µ 0 } (0, ), Θ = {(µ, σ 2 ) : < µ <, 0 < σ 2 < } = (, ) (0, ). Dari Contoh pada Chapter 2 diperoleh MLE untuk µ dan σ 2 pada Θ adalah ˆµ = X dan ˆσ 2 = 1 n n (X i X) 2. Sedangkan MLE untuk µ dan σ 2 pada Θ 0 adalah ˆµ 0 = µ 0 dan ˆσ 2 0 = 1 n n (X i µ 0 ) 2. Sehingga (2πˆσ 0) 2 n/2 exp λ(x 1,..., x n ) = { } 1 n 2ˆσ 0 2 (x i µ 0 ) 2 n 2ˆσ 2 (x i x) 2} (2πˆσ 2 ) n/2 exp { 1 ( ) ˆσ 2 n/2 { = 0 exp 1 n (x i µ 0 ) 2 ˆσ n n (x i µ 0 ) ( ) ˆσ 2 n/2 = 0 = (1 + n( x µ ) 0) 2 n/2 ˆσ 2 n (x i x) 2 ( = 1 + [ ) n( x µ 0 )] 2 n/2 /(n 1). s 2 n (x } i x) 2 n (x i x) 2 1 n

83 82 Selanjutnya, sup P {λ(x 1,..., X n ) k} = α µ H 0 { ( P 1 + [ n( X ) µ 0 )] 2 n/2 /(n 1) k} = α S 2 P { T 2 (n 1) k 1 } = α P { T (n 1) k 1 atau T (n 1) k 1 } = α dimana T (n 1) := [ n( X µ 0 )]/S, dan k 1 := (n 1)k 2/n. Karena T (n 1) berdistribusi t dengan derajat bebas n 1, maka tes LR berukuran α akan menolak H 0 jika [ n( x µ 0 )]/s t 1 α/2 (n 1) atau [ n( x µ 0 )]/s t 1 α/2 (n 1). Karena T 2 (n 1) berdistribusi F (1; n 1), maka H 0 juga ditolak jika [ n( x µ 0 )] 2 /s 2 f 1 α (1; n 1). 5.4 Soal-soal 1. Suatu kotak berisi empat kelereng, θ berwarna putih dan 4 θ berwarna hitam. Hipotesis H 0 : θ = 2 vs H 1 : θ 2 dites dengan cara berikut: Dua klereng diambil dengan pengembalian, selanjutnya H 0 ditolak jika kedua klereng yang terambil mempunyai warna yang sama. (a) Hitung P{Kesalahan tipe I}. (b) Hitung P{Kesalahan tipe II}. (c) Kerjakan (a) dan (b) jika pengambilan dilakukan tanpa pengembalian. 2. Misalkan X 1,..., X n merupakan sampel random dari populasi EXP (1, η). Hipotesis H 0 : η η 0 vs H 1 : η > η 0 akan dites berdasarkan statistik X 1:n. (a) Tentukan C α yang berbentuk {(x 1,..., x n ) χ : x 1:n c}.

84 83 (b) Tentukan fungsi power untuk tes pada (a). 3. Diberikan suatu distribusi dengan fungsi densitas { θx θ 1 ; jika 0 < x < 1 f(x; θ) = 0 ; jika x 0 atau x 1 (a) Berdasar pada sampel random berukuran n, konstruksikan tes MP berukuran α = 0, 05 untuk hipoptesis H 0 : θ = 1 vs H 1 : θ = 2. (b) Tentukan power dibawah alternatif dari tes pada (a). 4. Jika X 1,..., X n mempunyai fungsi densitas bersama f(x 1,..., x n ; θ) dan S adalah statistik cukup untuk θ. Tunjukkan bahwa tes MP untuk hipotesis H 0 : θ = θ 0 vs H 1 : θ = θ 1 dapat dinyatakan dalam S. 5. Misalkan X 1,..., X n merupakan sampel random dari populasi dengan fungsi densitas f(x; θ) = { (3x 2 /θ)e x3 /θ ; jika 0 < x 0 ; jika x 0. Tentukan daerah kritik dari suatu tes UMP berukuran α untuk hipotesis H 0 : θ = θ 0 vs H 1 : θ > θ Misalkan X 1,..., X n merupakan sampel random dari suatu populasi diskrit dengan fungsi densitas f(x; θ) = { [θ/(θ+1)] x (θ+1) ; jika x {0, 1,...} 0 ; jika x {0, 1,...}. Tentukan tes UMP untuk hipotesis H 0 : θ = θ 0 vs H 1 : θ > θ Misalkan X 1,..., X n merupakan sampel random dari populasi W EI(θ, 2). Turunkan suatu tes UMP untuk hipotesis H 0 : θ θ 0 vs H 1 : θ < θ 0.

85 84 8. Misalkan X 1,..., X n merupakan sampel random dari populasi EXP (θ). (a) Turunkan suatu tes RL untuk hipotesis H 0 : θ = θ 0 vs H 1 : θ θ 0. (b) Turunkan tes RL untuk hipotesis H 0 : θ = θ 0 vs H 1 : θ > θ Perhatikan dua sampel random yang saling bebas X i N(µ 1, σ 2 1) dan Y j N(µ 2, σ 2 2). (a) Turunkan suatu tes RL untuk H 0 : σ 2 1 = σ 2 2 jika diasumsikan µ 1 dan µ 2 diketahui. (b) Turunkan suatu tes RL untuk H 0 : σ 2 1 = σ 2 2 jika diasumsikan µ 1 dan µ 2 tidak diketahui. 10. Misalkan X 1,..., X n merupakan sampel random dari populasi EXP (θ, η). Misalkan ˆθ dan ˆη merupakan MLE untuk θ dan η. (a) Tunjukkan bahwa ˆθ dan ˆη saling bebas. (b) Misalkan V 1 = 2n( X θ)/η, V 2 = 2n(ˆη η)/θ, dan V 3 = 2nˆθ/θ. Tunjukkan bahwa V 1 χ 2 (2n), V 2 χ 2 (2), dan V 3 χ 2 (2n 2). (c) Tunjukkan bahwa (n 1)(ˆη η)/ˆθ F (2; 2n 2). (d) Turunkan tes RL untuk hipotesis H 0 : η = η 0 vs H 1 : η η 0. (e) Tunjukkan bahwa daerah kritik berukuran α dari tes RL adalah C α = { } (x 1,..., x n ) χ : (n 1)(ˆη η 0 )/ˆθ f 1 α (2; 2n 2).

86 Chapter 6 Teori sampel besar 85

87 Chapter 7 Teori Bayes 86

88 Chapter 8 Estimasi dengan metode bootstrap 87