5 Mamum Lkelhood Estmato Defs Fugs Lkelhood Msalka X, X,, X adalah eubah acak d dega fugs massa eluag ( ; θ, dega θ dasumska skalar da tdak dketahu, maka rosedur fugs lkelhood daat dtulska sebaga berkut : L θ; ; θ, θ Ω, dega ( ( ( X X, X,, X (Hogg et al 5 Defs Pedugaa Parameter Msalka fugs lkelhood adalah L θ; ; θ, maka fugs log dar ( ( L( θ, daat dotaska dega : l log L log ; ( θ ( θ ( θ, θ Ω Pedugaa arameter dega metode mamum lkelhood estmato daat deroleh dar: l ( θ (Hogg et al 5 6 Metode Newto-Rahso Defs (Metode Newto-Rahso Metode Newto-Rahso meruaka salah satu metode umerk yag alg ouler utuk meghtug hamra akar-akar f suatu ersamaa o-lear Msalka ( fugs dferesabel ada [ ab, ] maka f ( memuya kemrga tertetu da gars sggug tuggal ada seta ttk d dalam ( ab, Gars sggug d ttk (, f ( meruaka edekata grafk f ( d dekat ttk (, f ( Msalka adalah abss ttk awal yag dberka, grade gars sggug kurva y f ( d ttk (, f ( adalah f (, sehgga ersamaa gars sggugya adalah y f ( f ( ( Jka y maka ersamaaya mead : f ( f ( ( ( f f Dega cara yag sama akhrya deroleh ersamaa umum sebaga berkut : f ( +,,, f ( Persamaa d atas dsebut uga dega teras Newto-Rahso (Sahd 5 III MODEL 3 Model Lear Umum Model lear umum (Geeralzed Lear Model meruaka erluasa dar model lear klask Msalka Y adalah eubah acak dega la rata-rata, ada model lear klask eubah acak Y megguaka asums keormala, sedagka ada model lear umum eubah acak Y harus berasal dar famly eksoe Selautya aka daarka tetag famly eksoe 3 Famly Eksoe Msalka fugs keekata eluag dar eubah acak Y adalah ( y; θφ, yag memuya arameter φ da θ maka ( y; θφ, daat dagga sebaga famly eksoe ka daat dbetuk sebaga berkut: yθb( θ ( y; θφ, e + c( y, φ a( φ 3 Nla Haraa da Ragam Famly Eksoe Dketahu bahwa fugs keekata eluag dar famly eksoe adalah ( y; θφ, e { yθ b( θ a( φ + c( y, φ maka ersamaa log lkelhood daat dbetuk sebaga berkut: yθ b( θ + c( y, φ a ( φ sehgga y b ( θ ( θ da a( φ ( a( φ
4 Nla haraa da ragam famly eksoe daat ddefska sebaga berkut : EY ( b ( θ ( da ar( Y ( θ a( φ ( Bukt ersamaa : Aka dbuktka bahwa : EY ( b ( θ Dketahu : Yb ( θ a( φ Dega megguaka ersamaa berkut: E θ sehgga E( Y b ( θ a( φ EY ( b ( θ a( φ Karea a( φ maka deroleh : EY ( b ( θ EY ( b ( θ Dega demka, terbukt bahwa EY ( b ( θ Bukt ersamaa : Aka dbuktka bahwa ar( Y ( θ a( φ Dega megguaka ersamaa dettas Bartlett (McCullagh 989 berkut : E E + ( θ θ, maka : ( θ y b ( E E θ a( φ + a( φ ( θ a ( φ ( a ( φ ( ( θ ( θ a ( φ ( a ( φ ( E( Y ( θ ar( Y + a( φ ( a( φ ar ( Y ( θ ( a( φ a ( φ ar ( Y a ( φ ( θ ( a ( φ + E y b + E y ( ar Y ( θ ( a( φ a ( φ ar( Y ( θ a( φ Maka terbukt bahwa ar( Y ( θ a( φ eorema Sebara ormal termasuk ke dalam famly eksoe Bukt: Msalka Y eubah acak yag meyebar ormal, maka fugs keekata eluagya daat dtulska sebaga berkut: ( y ( y; θφ, e πσ σ Fugs keekata eluag tersebut daat dtuls dalam betuk: ( y ( y; θφ, e l ( πσ σ ( y y e l ( πσ σ y y e l ( πσ σ σ Dega θ, b( θ, a( φ σ, da y c( y, φ l ( πσ σ Dega demka terbukt bahwa sebara ormal termasuk ke dalam famly eksoe, sehgga daat dtuukka bahwa meurut ersamaa ( da ( ddaatka la haraa da ragam sebara ormal sebaga berkut: E( Y b ( θ da ar Y θ a φ σ σ ( ( ( eorema 3 Sebara Posso termasuk ke dalam famly eksoe Bukt: Msalka Y eubah acak yag meyebar Posso, maka fugs massa eluagya daat dtulska sebaga berkut: y P( y; θφ, e[ ], y! maka fugs massa eluag tersebut daat dtuls dalam betuk: P( y; θφ, e[ + yl l y! ]
5 Dega θ l, b( θ, a( φ, c( y, φ l y! Dega demka terbukt bahwa sebara Posso termasuk ke dalam famly eksoe, sehgga daat dtuukka bahwa meurut ersamaa ( da ( ddaatka la haraa da ragam sebara Posso sebaga berkut: E( Y b ( θ e( θ da ar ( Y ( θ a ( φ 33 Lk Fucto Lk fucto meruaka fugs yag meghubugka atara η dega la haraa Pada famly eksoe ersamaa lk fucto, daat dtulska sebaga θ η, dega η daat dtulska sebaga berkut η g ( da selautya g ( daat dsebut dega lk fucto Utuk sebara ormal daat dlhat dar eorema bahwa θ, sehgga lk fucto utuk sebara ormal adalah η Sedagka utuk sebara Posso yag daat dlhat dar eorema 3 bahwa θ l, sehgga lk fucto utuk sebara Posso adalah η l 34 Model Regres Lear Klask Msalka ada suatu egamata eubah acak Y yag meyebar ormal dega ratarata, maka dalam model lear klask terdaat tga betuk komoe yag berhubuga dega la yatu sebaga berkut : Komoe acak : Y meyebar ormal dega ragam kosta σ da EY ( Komoe sstemats : msalka terdaat covarat,,, yag meghaslka redktor lear η yag dberka dega ersamaa : η β 3 Hubuga (lk atara komoe acak da komoe sstemats : η Sehgga la daat dtulska sebaga berkut : β dega β meruaka arameter yag laya tdak dketahu Jka deks egamata maka model daat dtulska sebaga berkut : EY ( β,, N dega adalah la egamata ke- utuk eubah ke- Dalam matrks model daat dtulska sebaga berkut : Xβ dega matrks berukura, X matrks berukura da β matrks yag berukura 35 Model Regres Lear Umum Pada model lear umum terdaat dua erluasa dar model regres lear klask tetag la yatu: Komoe acak : Y harus berasal dar famly eksoe Komoe sstemats : msalka terdaat covarat,,, yag meghaslka redktor lear η yag dberka dega ersamaa: η β 3 Hubuga (lk atara komoe acak da komoe sstemats : f ( η, dega f ( η meruaka fugs dar η yag mooto da terturuka 36 Pedugaa Parameter Secara umum edugaa arameter dlakuka dega metode kemugka maksmum (Mamum Lkelhood Estmato/MLE Msalka betuk fugs keekata eluag famly eksoe dtulska sebaga berkut: ( y; θφ, e { yθ b( θ a( φ + c( y, φ Maka betuk dar log lkelhood daat dtuls dega: yθb( θ + c( y, φ a( φ Dar ersamaa (, dketahu EY ( b ( θ, maka yb ( θ [ y ], a( φ a( φ sehgga
6 [ y ] a( φ ( θ Karea ( θ θ b ( θ Meurut ersamaa ( maka : ar( Y ( θ a( φ ( θ a( φ Sehgga d θ dθ y ( θ a ( φ y a( φ a( φ y a ( φ a( φ [ y ] η Karea η β maka β [ y ] sehgga [ y ] β β Maka fugs kemugka maksmum utuk β dberka dalam ersamaa berkut : [ y ] w[ y ] η Karea w w w, ka dyataka dalam betuk matrks, maka ersamaa d atas mead: wy [ ] XW [ y ] (3 Aka dtetuka la haraa utuk fugs yag dturuka terhada arameter β da β yatu sebaga berkut : [ ] E E y ββ β E ( y + β η [ ] E y β E β η E β η η w dega w meruaka bobot utuk metode kuadrat terkecl, sehgga dalam betuk matrks daat dtulska sebaga berkut : E XWX ' ββ Dega megguaka teras Newto- Rahso, ersamaa edugaa arameter dega megguaka metode IWLS regres daat dtulska sebaga berkut : - β β + I z (4 ( r ( r- ( r- ( r- dega β da β adalah vektor utuk ( r ( r- β, I meruaka formas egatf dar ( r- la haraa turua kedua log lkelhood da Z ( r- yatu vektor yag megadug turua ertama log lkelhood Persamaa (3 meruaka turua ertama dar log lkelhood, sehgga dalam betuk matrks daat dtulska sebaga berkut : z X W k dega k y Negatf dar la haraa ada turua kedua log lkelhood yatu sebaga berkut : E w (5 ββ Selautya formas matrks I yag megadug egatf dar la haraa turua kedua log lkelhood ada ersamaa (5 daat dtulska sebaga berkut :
7 I XWX Pada akhrya ersamaa teras ada ersamaa (4 daat dtulska sebaga berkut: β ( r β + XW ( ( r X XW r ( r k ( r Dega demka ersamaa d atas mr dega metode kuadrat terkecl terbobot 3 Model Regres Posso Msalka Y eubah acak yag meyebar Posso maka tga komoe yag berhubuga dega la adalah sebaga berkut: Komoe acak : Y harus berasal dar famly eksoe Komoe sstemats : msalka terdaat covarat,,, yag meghaslka redktor lear η yag dberka dega ersamaa: η β 3 Hubuga (lk atara komoe acak da komoe sstemats : η l Jka dasumska la EY ( e e( β, dega e adalah suatu kostata eosure yag tdak beregaruh terhada model, adalah vektor yag berukura yag meelaska eubah eelas da β adalah vektor yag berukura yag meruaka arameter regres, maka fugs massa eluag regres Posso adalah sebaga berkut: ( ( e e ( y, θφ β, e e e( y! β Aka dbuktka bahwa ( y, θφ, termasuk ke dalam famly eksoe Fugs massa eluag tersebut daat dtuls dalam betuk: y ( ( β ( β y, θφ, e[ e e + yl e e l y!] dega l e e( b( e e( θ β, θ β, a( φ, c( y, φ l y! (6 Dega demka terbukt bahwa fugs massa eluag yag meyebar meurut sebara regres Posso termasuk ke dalam famly eksoe Selautya aka dbuktka EY ( e( θ e e( β da ar( Y e e( β Bukt : Dar ersamaa (6, maka daat dtuukka bahwa : EY b θ e θ ee β ( ( ( ( ( ( θ ( φ e( β ar Y b a e Utuk ersamaa lkelhood dar fugs massa eluag regres Posso daat dtulska sebaga berkut: ( β ( y l l y! (7 (bukt lhat Lamra dega ( y ;,,, (8 β (bukt lhat Lamra da ( β s ; s,,,, (9 β βs (bukt lhat Lamra 3 Dega cara yag sama ada edugaa arameter famly eksoe d sub bab 36, maka edugaa arameter utuk regres Posso megguaka teras Newto- Rahso Persamaa teras utuk edugaa arameter dega megguaka IWLS regres daat dtulska sebaga berkut: I β β + z ( ( r ( r ( r ( r dega β ( r da β ( r- adalah vektor utuk β, I megadug formas egatf dar ( r la haraa turua kedua log lkelhood da z ( r- meruaka vektor yag megadug turua ertama log lkelhood urua ertama dar log lkelhood daat dtuukka oleh ersamaa (8 sehgga daat dtulska sebaga berkut: z X W k dega w da k y Sedagka egatf dar la haraa turua kedua ada ersamaa (9 daat dtulska dega ersamaa berkut :
8 ( β s s β β E ; s,,,, Selautya formas matrks I yag megadug egatf dar la haraa turua kedua tersebut daat dtulska dalam matrks sebaga berkut: I XWX Pada akhrya ersamaa teras ada ersamaa ( daat dtulska: β β + ( XW ( ( r ( r r X ( XW ( r k( r Dega demka ersamaa d atas mr dega metode kuadrat terkecl terbobot 33 Overdserso Overdserso adalah stuas dmaa ragam lebh besar darada rata-rata Pada sub bab daarka bahwa dalam model Posso daat terad ermasalaha overdserso Msalka dalam egamata Y ada roses Posso yag memlk aag terval sebaga berkut : Y Z + Z + + ZN, dega Z adalah eubah acak d da N meyebar Posso, maka la haraa da ragam daat dtulska sebaga berkut : E( Y E( N E( Z da ar ( Y E ( N ar ( Z + ar ( N E( Z E( N E ( Z { Bukt: Aka dbuktka EY ( EN ( EZ ( Dketahu Y Z + Z + + ZN dega Z meyebar d da N meyebar Posso, maka : N E ( Y E( E( Y N E E( Z N N E ( Z N P( N E ( Z P( N ( E ( Z P( N ( ( E Z P N E Z P N ( ( E ( N E( Z Aka dbuktka { ar ( Y E ( N ar ( Z + ar ( N E( Z ( ( E N E Z Bukt : ( ( ( ( ary EY EY ( ( ( E Y E E Y N ( ( ( E E Z N P N ( ( ( ( E Z + E Z E Z P N ( E ( Z ( ( E ( Z P ( N + ( ( E Z P N + ( E( Z ( P( N { ( ( ( ( ( ( E Z E N + E Z E N E N ( ( ( ( ary EY EY { ( ( ( ( ( ( E Z E N + E Z E N E N { E( Z E( N { ( ( ( ( ( ( E Z E N + E Z E N E N ( E( Z ( E( N ( ( ( ( { E ( N E ( N ( E ( N E ( Z E( N ( E( Z { E ( N ( E( N E( N E( Z E( N ( E( Z { ar( N E( N E( Z E( N ( E( Z ar( N ( E( Z E( N E Z E N + E Z + + + { ( ( ( ( ( ( ( E N E Z E Z + E Z ar N ( ( ( ( ( E N ar Z + ar N E Z Karea N meyebar Posso maka ar( N E( N sehgga ersamaa d atas mead : { ( ( ( ( EN ( EZ ( EZ + EN ( EZ ( ( ( ( ( ( ( ( E N E Z E N E Z + E N E Z ( ( E NEZ Jad ersamaa d atas daat meuukka ar Y E Y E Z > E Z, yatu ( ( > ka ( ( ersamaa yag megdkaska bahwa dalam model Posso daat terad ermasalaha overdserso, sehgga ada bab selautya dbahas tetag model geeralzed Posso utuk meaga errasalaha overdserso