PENDUGAAN PARAMETER MODEL FAKTOR DENGAN MENGGUNAKAN METODE MAKSIMUM LIKELIHOOD

Transkripsi

1 PENDUGAAN PARAMETER MODEL FAKTOR DENGAN MENGGUNAKAN METODE MAKSIMUM LIKELIHOOD Agus Priyato Mathematics Departemet State Uiversity of Jakarta Abstract Factor model, a statistical model that ca be used for aalizig iterrelatioship of variables. The purpose of factor model is ivetig ew variables as small umber of factor tha before. This thesis preset parameters expectatio of factor model usig maximum likelihood methods. Maximalize likelihood fuctio usually usig iteratio methods, EM (Expectatio Maximizatio) algorithm. The result of expectatio with EM (Expectatio Maximizatio) algorithm are factor model parameters, loadig factor ad uique factor Keyword: Factor Model, EM Algorithm, Gaussias, Maximum Likelihood.. Pedahulua Model faktor adalah pedekata statistik yag dapat diguaka utuk megaalisis iterrelatioship sejumlah variabel da utuk mejelaska dimesi-dimesi (disebut faktor) apakah yag meladasi variabel-variabel tersebut da mereduksiya (Simamora, 2005). Misalya, aroma sabu, kelembutaya, disaiya, wara-wariya dapat disatuka mejadi faktor daya tarik fisik sabu. Kebersiha kulit, kelembuta kulit, kehalusa kulit dapat disatuka mejadi faktor daya tarik mafaat. Model faktor bertujua utuk meemuka variabel baru yag disebut faktor yag jumlahya lebih sedikit dibadigka dega jumlah variabel asli (Suprato, 2004), dimama variabel baru tersebut memuat sebayak mugki iformasi yag terkadug di dalam variabel asli. Di dalam proses mereduksi jumlah variabel, iformasi yag hilag harus semiimum mugki. Secara matematis, model faktor mirip dega regresi liear bergada, yaitu setiap variabel diyataka sebagai kombiasi liear dari faktor yag medasari. Jumlah varia yag disumbagka oleh suatu variabel dega variabel laiya yag tercakup dalam aalisis disebut commuality. Kovariasi atar variabel yag diuraika, diyataka dalam suatu commo faktor (faktor umum) da faktor yag uik utuk setiap variabel, faktor-faktor ii tidak secara jelas terlihat oleh karea itu serig disebut varibel late. Model faktor bisa ditulis sebagai berikut: Utuk meyelesaika model di atas yag harus dilakuka adalah melakuka pedugaa terhadap parameter-parameterya, dalam skripsi ii metode yag aka

2 diguaka adalah metode maksimum likelihood, salah satu metode utuk memperoleh pedugaa yag memberika hasil yag baik. Pedugaa Metode maksimum likelihood adalah metode yag memaksimumka fugsi kemugkia. Misalka X, X 2,..., X meyataka cotoh acak yag diambil dari suatu fugsi kepadata probabilitas (pdf ) yag diyataka dega f(x, µ), dimaa µ adalah parameter fugsi kepadata tersebut, maka fugsi likelihood adalah: Parameter dari model faktor yag aka diduga dega metode maksimum likelihood adalah faktor loadig (Λ) da faktor uik (δ). Faktor loadig adalah matriks koefisie pegaruh atara variabel dega faktor; dega etri kostata yag belum diketahui, faktor uik adalah vektor yag tidak dapat diukur secara lagsug tetapi berhubuga dega variabel observasi. Masalah yag timbul sekarag adalah bagaimaa cara meduga parameter-parameter dalam aalisis faktor tersebut, upaya pedugaa parameter-parameter model tersebut memerluka tekik aalisis statistika yag mampu memberika solusi bagi permasalaha yag ada. Maka mejadi salah satu aspek mearik yag igi diketahui adalah pedugaa dega metode kemugkia maksimum (maximum likelihood, ML) terhadap model faktor tersebut utuk dipelajari secara lebih rici. 2. Ladasa Teori 2. Distribusi Marjial da Bersyarat dari Gaussia Misalka utuk ilai vektor X X = X 2 dimaa X, X 2 R da X : ( µ, Σ). Dimaa µ Σ Σ2 µ =, Σ = µ 2 Σ2 Σ22 Asumsika X da X 2 merupaka Gaussia multivariat bersama. Utuk X memiliki E(X ) = µ da Cov( X) = E ( Xµ )( X µ ) =Σ, karea distribusi marjial dari Gaussia merupaka diriya sediri maka distribusi marjial dari X adalah X ( µ, Σ ), begitu juga uruk X 2. Berdasarka defiisi dari distribusi Gaussia multivariat, maka (, ) X X µ Σ, dimaa X 2 ( ) µ = µ +Σ Σ µ

3 Σ =Σ Σ Σ Σ () µ da Σ sagat bermafaat utuk pedugaa model faktor Asumsi-asumsi Model Faktor Asumsi-asumsi yag diguaka dalam model Faktor adalah sebagai berikut: (Joreskog da Sorbor, 979) a. E(δ) = 0 b. E(δ i δ j ) = 0, i j 2 E( δ i ) = θ, i dega i =, 2; p da j =, 2,..., p. sehigga diperoleh hubuga: θ 0 L 0 0 θ2 0 Cov( ) E( ) L δ = δδ = = Θ M M O M θ p c. E(ξ) = 0 φ2 d. Cov() ξ = E( ξξ ) = φ3 φ32 = Φ M M M O φm φm2 φm, m L dimaa Φ adalah matriks korelasi atar variabel late eksogeus berukura m m e. ( δ,ξ) = ( δξ ) = 0 Cov E Dari X = Λξ + δ dega meguaka sifat ilai harapa da asumsi-asumsi yag ada aka ditetuka hubuga koragam vektor X. Cov( X) = Σ= E ( Λξ + δ)( Λξ + δ ) = ΛΦΛ + Θ (2) 2.3 Model Faktor Model faktor adalah suatu aalisis peubah gada yag biasaya diguaka pada peelitia yag mecakup sejumlah besar variabel (Johso ad Wicher, 998). Tujua dari aalisis faktor adalah meetuka apakah suatu himpua variabel dapat digambarka berdasarka jumlah faktor yag lebih sedikit daripada jumlah variabel observasi. Model faktor megekspresika hubuga atara X i, ξ i, da δ i dimaa X adalah kombiasi liear dari ξ, da δ yag secara aljabar direpresetasika sebagai berikut:

4 X = λξ+ λ2ξ λ mξm + δ X 2 = λ2ξ+ λ22ξ λ2mξm + δ2 M M M X p = λp ξ+ λp2ξ λpmξm + δp (3) dega: a. ξ i adalah faktor umum dimaa j =, 2,...,m dega (m < p) b. λ i adalah faktor loadig dari variabel ke-i pada faktor umum ke-j, utuk i =, 2,..., p da j =, 2,...,m c. δ i adalah faktor uik dari variabel ke-i, utuk i =, 2,..., p Dega asumsi: a. rξδ = 0, i, j, dega r meyataka korelasi j i b. r 0, j, k, dimaa j k δδ = j j c. ξ j da δ i mempuyai distribusi ormal dega rataa 0 da varias utuk setiap i da j d. Semua faktor salig bebas satu dega yag laiya da juga salig bebas dega m buah faktor umum. Persamaa (3) dapat ditulis dalam betuk otasi matriks sebagai berikut: X = Λξ + δ (4) Dega: a. X adalah vektor berdimesi p, X = X X2 L X p b. ξ adalah vektor variabel yag tidak dapat diobservasi (faktor umum) berdimesi m, ξ = [ ξ ξ2 L ξm ] dega distribusi N(0,I} c. δ adalah vektor variabel yag tidak dapat diobservasi (faktor uik) berdimesi p, δ = δ δ2 L δ p d. Λ matriks berukura p m dega etri kostata yag belum diketahui (faktor loadig) λ λ2 L λ m λ2 λ22 L λ2 Λ = M M O M λp λp2 λ L pm Dari asumsi model faktor matriks kovarias Σ = ΛΦΛ + Θ. Lebih jauh lagi kita asumsika bahwa faktor-faktor tidak salig berkorelasi maka Φ = I da persamaa (2) mejadi: Σ = ΛΛ + Θ (5)

5 Matriks Kovarias Σ, merupaka fugsi dari parameter-parameter yag aka diduga (Bolle 989). Matriks Kovarias meghasilka faktor loadig, merupaka koefisie yag diguaka utuk memahami arti dari faktor da dapat diguaka utuk meilai keteradala faktor. Nilai faktor loadig yag besar meujukka korelasi yag kuat atara faktor da idikator pegukurya. 2.4 Pedugaa Parameter dari Aalisis Faktor Maksimum dega Maksimum Likelihood Memaksimumka fugsi likelihood biasaya dilakuka dega metode iterasi Meurut Bolle (989), pedugaa maksimum likelihood mempuyai sifat-sifat petig yaitu: tak bias secara asimtotis (ada kemugkia aka berbias pada cotoh kecil), kosiste, efisie secara asimtotis, ivaria pada skala pegukura (satua pegukura tidak mempegaruhi ilai dugaa parameter model). Ada beberapa metode yag dapat diguaka utuk medapatka titik maksimum dari fugsi maksimum likelihood, dalam skripsi ii aka diguaka algoritma EM(Expectatio Maximizatio) karea algoritma EM cukup sederhaa da memeuhi sifat mooto da jika ilai awalya positif maka ilai berikutya positif. Algoritma EM dimulai dega tahap E (Expectatio), yaitu tahap peetapa ilai awal Λ da Θ sebarag da positif, selajutya diaggap sebagai Λ lama da Θ lama. Kemudia dilajutka dega meghitug ilai harapa dari l-likelihood E(L). Tahap berikutya adalah tahap M (Maximizatio), yag diguaka utuk medapatka Λ baru da Θ baru secara iterasi dega cara memaksimumka E(L). Jika baru baru lama lama 4 lama lama ( Λ Θ ) ( Λ Θ ) ( Λ Θ ) Lm+, Lm, > 0 Lm, artiya proses belum koverge, maka ilai Λ baru da Θ baru diaggap sebagai Λ lama da Θ lama pada iterasi berikutya, demikia proses ii dilajutka secara iterasi sampai koverge. Selajutya aka diduga parameter dari model faktor dega metode seperti di atas. Misalka terdapat p vektor-vektor dari X, X 2,...,X yag merepresetasika cotoh acak da salig bebas, memiliki parameter Λ da Θ sehigga fugsi l-likelihoodya adalah: L ( Λ,Θ) l f ( Xi, ξi Λ,Θ) = ( Xi ξi Λ,Θ) = l f, Distribusi dari f ( X ξ ) adalah joit multivariate Gaussia distributio, X = Λξ + δ da dari persamaa () maka didapat, E( X ξ) = Λξ da Cov( X ξ) = Θ Sehigga fugsi maksimum likelihood utuk model faktor

6 L = l exp p X Λξ Θ X Λξ 2 2 Θ 2 ( 2π ) ( ) ( ) i i i i Dega megguaka sifat dari trace, XAX = tr [ ] atas dapat dituliska sebagai berikut AXX, sehigga persamaa di p L= l 2 l ( π ) Θ ( X iθ Xi XΘ i Λξi tr ΛΘ Λξξ i i ) f ξ X Λ,Θ sehigga di dapat p L= l ( 2π ) l Θ ( X iθ Xi 2 XΘ i ΛE( ξi Xi) + tr E( i i i) ) (6) ΛΘ Λ ξξ X Selajutya ambil ekspektasi dari L berdasarka ( i i, ) Kemudia persamaa (6) dimaksimalka terhadap Λ da Θ dimaa - A ΛB tr = AB [ Λ AΛB] tr, = AΛB+ AΛB, Θ = ( ) A Θ B Θ, da = - AB Λ Λ Θ Θ maka dihasilka Λ baru = ie ( i i) E( i i i) X ξ X ξξ X Θ baru = diag i i ie ( i i) XX X ξ X Λ Nilai dari E( ξ X) da E( ) Maka kovariasya E ξξ X adalah ( ) = β = ( + ) ( ) = + ξ X X I ΛΘ Λ ΛΘ X E ξξ X I β Λ βxx β Cov ( ξ X) = ( I+ ΛΘ Λ ) 3. Kesimpula da Sara Berdasarka hasil yag telah diperoleh, maka dapat disimpulka bahwa: Algoritma EM dimulai dega tahap E (Expectatio), yaitu tahap peetapa ilai awal Λ da Θ sebarag da positif, selajutya diaggap sebagai Λ lama da Θ lama.

7 Kemudia dilajutka dega meghitug ilai harapa dari l-likelihood E(L). Tahap berikutya adalah tahap M (Maximizatio), yag diguaka utuk medapatka Λ baru da Θ baru secara iterasi dega cara memaksimumka E(L). Jika baru baru lama lama 4 lama lama ( Λ Θ ) ( Λ Θ ) ( Λ Θ ) Lm+, Lm, > 0 Lm, artiya proses belum koverge, maka ilai Λ baru da Θ baru diaggap sebagai Λ lama da Θ lama pada iterasi berikutya, demikia proses ii dilajutka secara iterasi sampai koverge. Dega meguaka metode EM dihasilka parameter dari model faktor sebagai berikut: Λ baru = ie ( i i) E( i i i) X ξ X ξξ X Θ baru = diag i i ie ( i i) XX X ξ X Λ Nilai dari E( ξ X) da E( ) ξξ X adalah Maka kovariasya E ( ) = β = ( + ) ( ) = + ξ X X I ΛΘ Λ ΛΘ X E ξξ X I β Λ βxx β Cov ( ξ X) = ( I+ ΛΘ Λ ) 4. Daftar Pustaka Bolle, K. A Structural Equatio With Latet Variables. Joh Wiley Sos, New York. Johso, R.A da Wicher, D.W Applied Multivariate Statistical Aalysis, 5th ed. Pretice Hall Iterasioal, New Jersey. Joreskog, K. da D. Sorbo LISREL 7, User's Referece Guide, st ed. Scietific Software Ic, Mooresville. Log, j. s Cofirmatory Factor Aalysis, A preface to LISREL. Sage Publicatis, New York. Pawita, Yudi I All Likelihood, Statistical Modellig ad Iferece usig Likelihood. Claredo Press OXFORD, New York.

8 Simamora, B Aalisis Multivariat Pemasara. Gramedia Pustaka Utama, Jakarta ftp://ftp.cs.toroto.edu/pub/zoubi/mfa.tar.gz - faculty.psy.ohio-state.edu/myug/persoal/mle-pub.pdf www-clmc.usc.edu/ cs599 a/factor aalysis.pdf -