BAB II LANDASAN TEORI. Pada bab ini akan dibahas dasar-dasar teori yang akan digunakan

Transkripsi

1 BAB II LANDASAN TEORI Pada bab ini akan dibahas dasar-dasar eori yang akan digunakan dalam penulisan skripsi ini, yaiu model regresi dua level, meode penaksiran maximum likelihood, mariks parisi, kronecker produc, dekomposisi Cholesky, dan Gauss Hermie Quadraure.. MODEL REGRESI DUA LEVEL Model regresi dua level merupakan model regresi yang mengasumsikan bahwa erdapa sehimpunan daa hirarki aau daa bersarang dengan sau variabel respon yang diukur pada level rendah saja, sedangkan variabel penjelasnya diukur baik pada level rendah maupun level inggi. Secara konsepual, model regresi dua level diampilkan sebagai sisem hirarki dari persamaan regresi, arinya perama-ama dibua model regresi linier unuk level rendah, selanjunya efek dari level rendah ersebu dimasukkan dalam model regresi pada level yang lebih inggi. Misalkan pada daa dua-level ingin dianalisis hubungan anara variabel respon koninu y dengan variabel-variabel penjelasnya. Noasi i,,, N menyaakan uni-uni di level dua dan k,,, n i menyaakan uni-uni di level sau yang bersarang dalam iap uni level-. Dalam hal ini, ukuran 6

2 7 sampel dalam seiap cluser idak harus sama. Jumlah oal observasi level sau dalam uni-uni level dua adalah : N n ni i Sebagai conoh, misalkan erdapa daa yang dikumpulkan dari N sekolah, dengan banyaknya siswa pada iap sekolah berbeda-beda (n i, i,,..., N). Dalam kasus ini, digunakan srukur daa dua level di mana siswa bersarang aau ercluser dalam sekolah. Pada level sau (siswa) erdapa variabel respon presasi sekolah (y), sera variabel penjelas SES (x () ) dan gender (w () ). Pada level (sekolah), erdapa variabel penjelas saus sekolah (w () ). Pada model regresi dua level, perama-ama dibua model regresi unuk level sau erlebih dahulu, yaiu anara variabel respon y dan variabel penjelas x () dan w () sebagai beriku: y b + b x + α w + ε, (..) ik 0i i ( ) ik ( ) ( ) ik ik dengan, y ik variabel respon pada level sau unuk siswa ke-k dalam sekolah ke-i, k,,..., n i ; i,,..., N b 0i nilai inercep (perpoongan) dengan sumbu-y unuk sekolah ke-i. b i koefisien dari variabel penjelas di level sau unuk sekolah ke-i. α () koefisien dari variabel penjelas level-, diasumsikan bernilai fixed unuk seiap sekolah.

3 8 ε ik error dari model level- ke-ik, i,,..., N; k,,..., n i, diasumsikan berdisribusi i.i.d N(0, σ ) Sepinas, model ini erliha sama seperi model regresi berganda biasa. Namun, subskrip i pada koefisien b 0i dan b i menunjukkan bahwa seiap sekolah akan mempunyai nilai inercep dan slope yang berbeda-beda. Dalam model regresi dua level, kedua koefisien ini sering disebu dengan random coefficien (koefisien acak). Model regresi dua level biasa dikenal dengan random coefficien model aau random slope model. b Langkah selanjunya adalah memprediksi koefisien regresi ( b, b ) i 0i i dengan membua model regresi sebagai beriku: b0 i μ0 α( ) 0w ( ) i δ0 i + + (..) dan b i μ α( ) w ( ) i δ i + + (..3) dengan, μ, μ, α, α : parameer-parameer regresi dari level dua 0 ( ) 0 ( ) ( δ, δ ) δ : error level dua (efek random), diasumsikan berdisribusi i 0i i Asumsi: variabel random ik 0 σ σδδ δ0 0 N, Σ δ 0 σδδ σ 0 δ ε dan ( δ, δ ) δ saling bebas. i 0i i Persamaan (..) menyaakan bahwa ingka presasi suau sekolah secara umum (inercep b 0i ) dapa diprediksi oleh variabel saus sekolah

4 9 (w () ). Persamaan (..3) menyaakan bahwa hubungan anara presasi sekolah (y) dan ingka SES(x () ) dari siswa berganung pada saus sekolah (w () ). Persamaan (..), (..), dan (..3) dapa diulis kembali kedalam persamaan unggal sebagai beriku: ( ) ( ) y μ + α w + δ + μ + α w + δ x + α w + ε ik 0 ( 0 ) ( ) i 0i ( ) ( ) i i ( ) ik ( ) ( ) ik ik μ0+ μx( ) ik + α( ) w( ) ik + α( 0 ) w( ) i + α( ) w( ) i x( ) ik + δ i x( ) ik + δ0i + εik fixed par random par Dari persamaan di aas erliha bahwa efek random δ i erhubung dengan variabel x ()ik. Karena efek random δ i dikali dengan variabel penjelas x ()ik, maëa oal error yang dihasilkan akan memiliki nilai yang berbeda unuk nilai x ()ik yang berbeda. Pada model regresi berganda biasa, siuasi seperi ini dinamakan heeroskedasik. Secara umum, unuk R + efek random, model regresi dua level dapa dinyaakan sebagai beriku: Unuk model level-: R y b + b x + α w + ε ik 0i ji ( ) jik ( ) s ( ) sik ik j s S (..4) dengan, b 0i inercep (perpoongan) dengan sumbu-y, diasumsikan mempunyai nilai yang berbeda-beda unuk seiap uni ke-i level dua, i,...,n.

5 0 b ji koefisien dari variabel penjelas level sau ke-j, j,...,r yang mempunyai nilai yang berbeda unuk seiap uni level dua ke-i. α ()s koefisien dari variabel penjelas level sau ke-s, s,,..., S, diasumsikan mempunyai nilai yang sama (fixed) unuk seiap uni level dua. x ()jik variabel penjelas level sau ke-j, j,...,r., mempunyai efek yang berbeda unuk seiap uni level dua ke-i. w ()sik variabel penjelas level sau ke-s, s,..., S yang mempunyai efek yang fixed unuk seiap uni level dua. ε ik error dari model level- ke-ik, i,,..., N; k,,..., n i, diasumsikan berdisribusi i.i.d N(0, σ ) Unuk model level-: Q ri μr + α( ) rq ( ) qi + δri, r 0,,..., q b w R (..5) Dengan, μ r inercep level- α ( )rq koefisien dari variabel penjelas level dua ke-q, q,,..., Q, diasumsikan mempunyai nilai yang fixed unuk seiap uni level dua. w ( )qi fixed kovaria aau variabel penjelas fixed level dua ke-q, q,,...,q, unuk uni ke-i level-, i,,..., N.

6 (,,..., ) δ δ δ vekor ukuran x (R+) berisi efek random, diasumsikan 0i i Ri berdisribusi N R + 0 σ σ σ 0 σ σ σ 0,Σ δ 0 σ σ σ δ0 δ0δ δ0δr δδ 0 δ δδ R δrδ0 δrδ δr. Persamaan (..4) dan (..5) dapa diulis kembali kedalam persamaan unggal sebagai beriku: R Q S y ( μ + α w + + α w + δ ) + μ + α w + δ x + α w + ε ik 0 ( ) 0 ( ) i ( ) 0Q ( ) Qi 0i j ( ) jq ( ) qi ji ( ) rik ( ) s0 ( ) sik ik j q s Q R R Q R μ + α w + δ + μ x + α w x + δ x + α 0 ( ) 0q ( ) qi 0i j ( ) rik ( ) jq ( ) qi ( ) jik ji ( ) jik ( ) s0 () sik ik q j j q j s S Q R R Q R μ0 + α() s0w() sik + α( ) 0qw( ) qi + μj x() jik + α( ) jqw( ) qi x() jik + δ ji x() jik + δ0i + εik s q j j q j fixed par S w random par + ε Pada kasus di mana koefisien regresi yang berbeda unuk seiap uni level dua hanya pada perpoongannya dengan sumbu-y (inercep) saja, sedangkan koefisien dari variabel penjelas level sau mempunyai nilai yang fixed, maka model di aas menjadi: S y μ + α w + α w + δ + ε ik 0 () s () sik ( ) 0q ( ) qi 0i ik s q random par fixed par Q Model ini biasa dikenal dengan random inercep model, dan merupakan kasus yang paling sederhana dari model regresi dua level. Gambar beriku menunjukkan ilusrasi sederhana dari perbedaan anara random inercep model dan random slope model.

7 Misalkan empa sekolah diambil secara acak. Pada gambar di samping, ke empa sekolah mempunyai kemiringan (slope) yang sama, eapi inercep yang berbeda. Gambar..a. Ilusrasi random inercep model Pada gambar di samping, ke empa sekolah mempunyai inercep dan kemiringan (slope) yang berbeda. Gambar..b. Ilusrasi random slope model Sumber: (Kazemi, Iraj dan Berridge, Damon, 005).. Inra Class Correlaion Pada random inercep model, dapa dicari korelasi anara dua uni level-dalam uni level- yang sama aau inra class correlaion (ICC). Isilah class mengacu pada uni level- dalam sisem klasifikasi yang diperhaikan.

8 3 Korelasi anara dua uni level- yang diambil secara acak dalam sembarang uni level- yang sama aau inra class correlaion (ICC) dinyaakan dengan σ δo ρ, 0 ρ σ + σ δo ε (...6) Parameer ρ dalam persamaan di aas dinamakan koefisien inralevel--uni correlaion aau koefisien inra class correlaion. Persamaan (...6) menyaakan bahwa inra class correlaion (ICC) sama dengan proporsi variansi anar uni level- erhadap variansi oal. Semakin inggi nilai korelasi ini menunjukkan semakin miripnya dua uni level- dari uni level- yang sama, dibandingkan dengan dua uni level- yang diambil dari dua uni level- yang berbeda. Sehingga, nilai ρ yang semakin besar pada suau daa dua-level mengindikasikan semakin peningnya melakukan analisis yang memperhaikan srukur hirarki dari daa. Berdasarkan jurnal yang diulis oleh Hedeker, Gibbons, dan Flay (994), nilai ICC dikaakan cukup besar jika berada anara renang 5% sampai %.. METODE ESTIMASI MAXIMUM LIKELIHOOD Misal (,,, ) X, X,, Xn T X X X X n adalah vekor yang berisi variabel random dengan pdf ( ; ) f x θ, p θ Ω di mana θ merupakan suau

9 4 vekor dari p-parameer yang idak dikeahui. Dalam melakukan penaksiran Maximum Likelihood ada beberapa ahapan yang harus dilakukan. Perama, cari pdf bersama dari n X,X,...,X yaiu ( ) Karena X,X,...,X n adalah peubah acak yang iid maka ( ) ( ) ( ) ( ) f x,x,...,x ; θ f x ; θ f x ; θ...f x ; θ. n n f x,x,...,x ;θ. n Selanjunya, cari fungsi likelihoodnya. Fungsi likelihood didefinisikan sebagai pdf bersama dari X,X,...,X n yang dapa dianggap sebagai fungsi dari θ. Misalkan fungsi likelihood L ( θ;x,x,...,x ) L( ) n ( ) ( ) ( ) ( ) ( ) n n θ, maka L θ f x,x,...,x ; θ f x ; θ f x ; θ...f x ; θ, θ Ω n i ( ) f x; θ Kemudian, cari aksiran dari θ. Dalam meode esimasi maximum likelihood, aksiran dari θ diperoleh dengan menemukan nilai θ, sebu ˆθ, yang memaksimumkan fungsi likelihood. Maka ˆθ disebu aksiran maximum likelihood dari θ. Mencari nilai θ yang memaksimumkan fungsi lnl( θ ), sebu l( θ ), akan memberikan hasil yang sama dengan mencari nilai θ yang memaksimumkan L( θ ). Maka baik L( θ ) aau l( θ ) dapa digunakan unuk mencari nilai ˆθ (Buki erlampir di lampiran ). Nilai θ yang memaksimumkan l( θ ) dapa diperoleh dengan mencari solusi simulan dari persamaan i

10 5 S j θ θ, unuk j,...,p θ ( ) l( ) j lnl θ θ j ( θ) ( ) L( θ) 0. L θ Adakalanya sisem persamaan ini dapa diselesaikan secara analiik. Jika idak, suau prosedur numerik (misal meode Newon Raphson) dapa digunakan. j.3 MATRIKS PARTISI Seiap mariks dapa dibagi aau diparisi menjadi mariks-mariks yang lebih kecil dengan menyelipkan garis horizonal dan verikal di anara baris dan kolom yang dienukan. Misalnya di bawah ini adalah iga parisi yang mungkin dari sebuah mariks umum A ukuran 3 x 4, yaiu: a a a3 a4 A A A a a a3 a 4 A A a3 a3 a33 a 34 a a a3 a4 r A a a a3 a 4 r a a a a r

11 6 a a a3 a4 A a a a a c c c c a3 a3 a33 a 34 [ ] KRONECKER PRODUCT Misalkan A (a ij ) dan B (b ij ) merupakan mariks berukuran (m x n) dan (p x q). Maka, ab ab a nb ab ab anb A B amb amb amnb merupakan kronecker produc dari mariks A dan B. Misalkan a {a i } dan b {b j } menyaakan vekor kolom dengan dimensi m dan n. Maka berdasarkan definisi kronecker produc ersebu diperoleh: ab ab a b amb dan a b ( ab a b a b ),,, m

12 7. 5 DEKOMPOSISI CHOLESKY Definisi Misalkan A suau mariks simeris ukuran n n (yang memiliki sifa A A ). A a a a a a a a a a n n n n nn Mariks simeris A dikaakan defini posiif jika memenuhi xax > 0, unuk semua kemungkinan vekor x berdimensi n (kecuali x 0). Suau mariks simeris dan defini posiif dapa didekomposisikan menjadi mariks segiiga bawah dan ranspos dari mariks segiiga bawah ersebu. Mariks segiiga bawah ersebu merupakan segiiga Cholesky aau fakor Cholesky dari mariks asli (mariks defini posiif). Berdasarkan dekomposisi Cholesky, mariks defini posiif A dapa didekomposisikan sebagai : A TT (.5.7) dengan T merupakan mariks segiiga bawah nonsingular. T n n nn Conoh persamaan (.5.7) unuk mariks ukuran 3 x 3:

13 8 a a a a a a a3 a3 a Dengan mengalikan kedua mariks pada persamaan di aas, di dapa persamaan-persamaan sebagai beriku: a + a a + a a + + a Sehingga diperoleh, 3 3 a a a a 3 a 3 3 ( ) a Secara umum, enri enri mariks T diperoleh dengan rumus: a i i a, i n i ii aii ik, i n k

14 9 j aij ik jk k ij, j < i n jj 0, j < i n ij Sebagai conoh, misalkan: A Maka, dengan meode dekomposisi Cholesky, didapakan : T dan, TT A GAUSS HERMITE QUADRATURE Gauss Hermie Quadraure digunakan unuk menghiung inegral dari benuk ( ) ( ) f x exp x dx secara numerik. Dengan Gauss Hermie Quadraure, benuk inegral di aas akan diaproksimasi dengan:

15 0 n ( ) ( x ) dx wif ( xi) f x exp i dengan, n adalah banyaknya quadraure poin. x i adalah grid aau quadraure poin, yaiu akar ke-i dari Hermie polynomial H n (x). Hermie Polynomial didefinisikan sebagai: ( ) n n d ( ) x x n Hn( x) e e dx aau ( ) ( ) ( ) n n d H x x n x e e n dx w i adalah bobo yang bersesuaian dengan seiap grid poin, diberikan oleh formula, w i! n n π nhn ( x) i Dalam dimensi yang lebih inggi, formula Gauss Hermie Quadraure dapa dibangun dengan membenuk suau grid dari iik-iik quadraure (quadraure poins) dan bobo-bobonya. Unuk d -dimensi parameer θ ( θ θ θ ) d, d-dimensi quadraure poin dapa diulis: (,,..., ) x x x unuk i, i,..., i,,..., n i i i d Bobo yang bersesuaian unuk seiap quadraure poin ersebu adalah d w, w,..., w. Jadi, inegral dengan d-dimensi memerlukan fungsi evaluasi i i i d sebanyak d n.