BAB II LANDASAN TEORI Pada bab ii aka dibaa daar-daar teori yag aka diguaka dalam peulia kripi ii, yaitu megeai metode peakira maximum likeliood, metode peakira oit maximum likeliood da fier iformatio..1 Peakira Maximum Likeliood Mial X1, X,..., X adala peuba acak yag iid dega pdf f ( x; ), Ω dimaa merupaka uatu parameter yag tidak diketaui da Ω adala ruag parameter. Dalam melakuka peakira maximum likeliood ada beberapa taapa yag aru dilakuka. Pertama, cari pdf berama dari X1, X,..., X yaitu f ( x1, x,..., x; ). Karea X1, X,..., X adala peuba acak yag iid maka (,,..., ; ) = ( ; ) ( ; )... ( ; ) f x x x f x f x f x 1 1 Kedua, cari fugi likelioodya. Fugi likeliood didefiiika ebagai pdf berama dari X1, X,..., X yag dapat diaggap ebagai fugi dari. Mialka fugi likeliood ( ) = ; 1,,..., L x x x L 7 Item repoe model, Pitaugra Peradata, FMIPA UI, 008
8 (,,..., ; ) ( ; ) ( ; )... ( ; ) L = f x x x = f x f x f x, Ω 1 1 i = 1 ( ; ) = f xi Ketiga, cari takira dari. Dalam metode peakira maximum likeliood takira dari diperole dega meemuka ilai, ebut ˆ, yag memakimumka fugi likeliood. Maka ˆ diebut takira maximum likeliood (maximum likeliood etimator / MLE) dari. Mecari ilai yag memakimumka fugi ll, ebut l, aka memberika ail yag ama dega mecari ilai yag memakimumka L. Maka baik L atau l dapat diguaka utuk mecari ilai ˆ. Bukti diberika di lampira1. Nilai yag memakimumka l dapat diperole dega mecari olui dari peramaa S l ll 1 = = L L = = 0.. Peakira Joit Maximum Likeliood Mial 1,,..., adala peuba acak yag iid dega pdf f x;, X X X p Ω dimaa merupaka uatu vektor dari p-parameter yag tidak Item repoe model, Pitaugra Peradata, FMIPA UI, 008
9 diketaui. Dalam melakuka peakira oit maximum likeliood ada beberapa taapa yag aru dilakuka. Pertama, cari pdf berama dari X1, X,..., X yaitu f ( x1, x,..., x; ). Karea X1, X,..., X adala peuba acak yag iid maka (,,..., ; ) = ( ; ) ( ; )... ( ; ) f x x x f x f x f x. 1 1 Kedua, cari fugi likelioodya. Fugi likeliood didefiiika ebagai pdf berama dari X1, X,..., X yag dapat diaggap ebagai fugi dari. Mialka fugi likeliood = L x x x L. ; 1,,..., = (,,..., ; ) = ( ; ) ( ; )... ( ; ) L f x x x f x f x f x, Ω 1 1 i = 1 ( ; ) = f x i Ketiga, cari takira dari. Dalam metode peakira oit maximum likeliood takira dari diperole dega meemuka ilai, ebut ˆ, yag memakimumka fugi likeliood. Maka likeliood dari. ˆ diebut takira oit maximum Mecari ilai yag memakimumka fugi ll, ebut l, aka memberika ail yag ama dega mecari ilai yag memakimumka L. Maka baik L atau l dapat diguaka utuk mecari ilai ˆ. Bukti utuk vektor dari parameter, = 1,, K,, diberika di lampira. Item repoe model, Pitaugra Peradata, FMIPA UI, 008
10 Nilai yag memakimumka l dapat diperole dega mecari olui imulta dari peramaa S =, utuk = 1,...,p l = ll = 1 L 0 L =. Adakalaya item peramaa ii dapat dieleaika ecara aalitik. Jika tidak, uatu proedur umerik (mial tekik Newto-Rapo) dapat diguaka..3 Fier Iformatio Mialka X adala variabel radom dega pdf f ( x; ), Ω, dimaa ruag parameter Ω adala uatu iterval, diaumika bawa: f ( x; ) adala poitif pada impua S idepede dari Ω. f ( x; ) ada Ω, kecuali pada titik-titik dimaa probabilita = 0. ( K f x1; Kf x; 1K atau K f x ; ; 1 Kf x dapat didefereiai dibawa imbol itegral atau umai. Dega aumi diata maka didapat (diberika utuk kau X variable radom kotiu, utuk kau dikrit dapat dialaka imilar) bawa ) Item repoe model, Pitaugra Peradata, FMIPA UI, 008
11 f x; = 1 dega megambil turua pertama teradap didapat, mialka = maka 0 g f x; d g d = atau dapat dituli d g d d g d = ( + ) 0 g lim g ( ; + ) ( ; ) = lim 0 f x f x ( ; + ) ( ; ) lim f x f x 0 = ( ; + ) ( ; ) f x f x lim 0 = = f x; d x Maka dapat dituli, Peramaa (1) dapat dituli ebagai atau ama dega ( ; ) f x = 0. (1) ( ; ) f x f ( x; ) = 0 f x ( ; ) l f x; f ( x; ) = 0. () Item repoe model, Pitaugra Peradata, FMIPA UI, 008
1 Jika dituruka kembali teradap didapat, l f x; l f x; f x; f ( x; ) + 0 =. (3) Betuk kedua dari peramaa (3) diebela kiri dapat dituli ebagai atau ( ; ) f x l f ( x; ) l f ( x; ) l f ( x; ) f ( x; ) = f ( x; ) f x ( ; ) f ( x; ) f ( x ) f ( x; ) l ; l f x; f x; = f ( x; ) Betuk diata diebut Fier Iformatio, diotaika dega I. Yaitu, I l f x; = f x ( ; ) Dari peramaa (3), I uga dapat dituli dalam betuk I l f x; = f x ( ; ) Catata : iformai yag dimakud adala mea terboboti dari l f x; atau l f ( x; ), dimaa bobot diberika ole pdf ( ; ) f x. Fier Item repoe model, Pitaugra Peradata, FMIPA UI, 008
13 Iformatio uga dapat diberika dalam betuk l f x; E. Hal ii diperole dari betuk I f ( x ) l f x; l ; = E = f ( ; ) x. Karea p.d.f merupaka fugi oegatif atau dega kata lai f ( x; ) 0 da tetu aa l f x; 0 maka emaki bear ilai turua l f x;, emaki bear ilai ekpektaiya. Jadi emaki bayak iformai yag diperole. Jela bawa, ika l f x; = 0 maka l f x; = 0 dega kata lai f ( x ) l ; merupaka uatu fugi yag tidak megadug. Maka tidak terdapat iformai tetag atau dega kata lai terdapat ol iformai tetag. Item repoe model, Pitaugra Peradata, FMIPA UI, 008