PENDUGAAN PARAMETER DERET WAKTU HIDDEN MARKOV SATU WAKTU SEBELUMNYA

Transkripsi

1 PENDUGAAN PARAMEER DERE WAKU HIDDEN MARKOV SAU WAKU SEBELUMNYA BERLIAN SEIAWAY DAN DIMAS HARI SANOSO Deparemen Maemaika Fakulas Maemaika dan Ilmu Pengeahuan Alam Insiu Peranian Bogor Jl Merani, Kampus IPB Darmaga, Bogor 6680 Indonesia ABSRAK. Pendugaan parameer dere waku Hidden Markov sau waku sebelumnya dilakukan mengunakan Meode Maximum Likelihood dan pendugaan ulang menggunakan meode Expecaion Maximizaion. Dari kajian ini diperoleh algorime unuk menduga parameer model. Kaa kunci: Ranai Markov, Hidden Markov, Dere waku Hidden Markov, Meode Expecaion Maximizaion.. PENDAHULUAN ulisan ini merupakan kajian enang pendugaan parameer unuk dere waku Hidden Markov sau waku sebelumnya. Pendugaan parameer menggunakan meode Maximum Likelihood dan pendugaan ulangnya menggunakan meode Expecaiion Maximizaion (Meode EM). Dari kedua meode ersebu kemudian diurunkan suau algorime yang dapa dipakai secara umum unuk menduga parameer model dere waku Hidden Markov sau waku sebelumnya. ulisan ini dimulai dengan definisi model dere waku Hidden Markov sau waku sebelumnya besera sifa-sifanya. Pada bagian 3 dibahas Pendugaan Parameer model dan erakhir pada bagian 4 dibahas pendugaan ulang parameer dan algorimenya.. MODEL DERE WAKU HIDDEN MARKOV SAU WAKU SEBELUMNYA Pasangan proses sokasik {( k, Yk) : k } yang erdefinisi pada ruang peluang (, F, P) dan mempunyai nilai pada S Y disebu model hidden Markov apabila { k } adalah ranai Markov dengan sae berhingga dan diasumsikan bahwa ranai Markov { k } idak diamai. Sehingga { k } ersembunyi (hidden) di balik proses ulisan ini merupakan bagian dari hasil peneliian yang didanai oleh Hibah Peneliian PHK A Deparemen Maemaika IPB ahun 007

2 4 BERLIAN SEIAWAY DAN DIMAS HARI SANOSO observasi Y k. Banyaknya elemen dari S disebu ukuran (orde) dari model hidden Markov. Pada bagian ini dibahas model hidden Markov yang merupakan dere waku yang memperimbangkan sau waku sebelumnya dan berbenuk: Y ( ) ( Y ( )) (.) di mana: { } adalah barisan peubah acak yang saling bebas dan menyebar normal N(0, ). { Y } adalah proses yang diamai dan bernilai skalar adalah ranai Markov dengan ruang sae, S dan p p P p p merupakan mariks peluang ransisinya, dengan p P( j i) ji ( ),, dengan.,. menyaakan hasil kali dalam di, dan adalah konsana real. N R. Perhaikan bahwa model ini dicirikan oleh parameer,,,, P Dengan menggunakan meode EM akan diduga parameer,,,, P dari daa Y.. Dalam kasus ini Y idak hanya berganung pada eapi juga berganung pada sehingga agar eap memenuhi sifa Markov perlu didefinisikan proses baru } di mana { jika jika 3 jika 4 jika dan dan dan dan. (.) Lemma.: merupakan ranai Markov dengan mariks peluang ransisi adalah Buki: Liha Seiaway (007) p 0 p 0 p 0 p 0 P. (.3) 0 p 0 p 0 p 0 p

3 Selanjunya karena JMA, Vol.6, NO., DESEMBER, 007, ~ 0, N bebas sokasik idenik maka dapa diperoleh fungsi sebaran bagi sebagai beriku. y y 0 F y exp exp P y d d 0 0. Berdasarkan persamaan (.4) diperoleh fungsi sebaran bagi Y (.4) Misalkan v y S y S S S S S F y P Y y P y y P y y Y, maka v FY y exp d 0 dan v v y S y S fy y exp exp FY y y y (.5) Misalkan Y adalah medan- yang dibangun olehy 0, Y,..., Y. Karena merupakan ranai Markov 4 sae maka erdapa 4 fungsi kerapaan peluang bagi Y. Kumpulan fungsi kerapaan peluang ersebu dilambangkan dengan. y y exp f y, ; y y Y exp f y, ; Y f y 3, Y ; y y exp f y 4, ; Y y y exp Misalkan ( j) P j () () (3) (4) (.6) (,,, ) melambangkan vekor (4) di mana ( Y ) dan melambangkan perkalian elemen per-elemen dari dua vekor, maka

4 6 BERLIAN SEIAWAY DAN DIMAS HARI SANOSO ; f y 3, Y ; 4 Y ; 4, Y ; P Y ; f y, Y ; P Y ; f y, Y ; P Y ; f y, Y ; P Y ; f y, Y ; P 3 Y ; f y 3, Y ; P 3 Y P 4 ; f y 4, ; Y Y P f y Misalkan,,,, maka 4 Y ; Y ;, Y ; f y P j f y j j y y P Y ; exp y y P Y ; exp y y P 3 Y ; exp y y P 4 Y ; exp (.7) (.8) Salah sau pendekaan yang dapa digunakan unuk memilih nilai awal bagi adalah dengan membua 0 sama dengan vekor dari peluang ak bersyara yang memenuhi sifa ergodic, yaiu 3 4 P dan 3 4. Menuru Seiaway (007) diperoleh: Perhaikan bahwa sehingga p p p p p p p p p p 0 p 3 p 4 p p p p p p P( y, j Y, ) P( j Y, ) f( y Y, ), selain iu P dan m m P.. (.9)

5 JMA, Vol.6, NO., DESEMBER, 007, PENDUGAAN PARAMEER Penduga kemungkinan maksimum bagi diperoleh dengan memaksimumkan fungsi log likelihood f y L log Y ;. Dengan membua urunan perama dari log likelihood erhadap parameer sama dengan nol maka diperoleh penduga parameer sebagai beriku. Misalkan Berdasarkan persaman (.8) diperoleh Y ;, Y ; B P f y f y Y ; Y ;, Y ; C P f y f y Y ; 3 Y ; 3, Y ; D P f y f y Y ; 4 Y ; 4, Y ; E P f y f y Y ; f y Y ; y y y y P Y ; exp y y y y P Y ; exp y y P 3 Y ; exp y y Y ;, Y ; P f y y y Y ;, Y ; P f y y y 3 Y ; 3, Y ; P f y y y (3.) Unuk memperoleh nilai yang memaksimum fungsi log-likelihood maka urunan perama dari L ( ) harus sama dengan nol. L f y Y ; 0 ; y y Y ;, Y ; f y Y P f y f y Y ; y y Y ;, Y ; P f y f y Y ; y 3 Y ; 3, Y ; P f y f y Y ; y 0

6 8 BERLIAN SEIAWAY DAN DIMAS HARI SANOSO Berdasarkan (3.) maka dapa diuliskan B y y C y y D y y Sehingga diperoleh: B B C D B y y C y y D y y Dengan cara yang serupa diperoleh: B B C D C y y D y y E y y C D E E. (3.) (3.3) f y Y ; y y y y y P Y ; exp y y y y y P Y ; exp y y y y y P 3 Y ; exp y y y y y P 4 Y ; exp y y y Y ;, Y ; P f y y y y Y ;, Y ; P f y y y y 3 Y ; 3, Y ; P f y y y y 4 Y ; 4, Y ; P f y Unuk memperoleh yang memaksimum fungsi log-likelihood maka urunan perama dari L ( ) harus sama dengan nol.

7 L f y Y ; 0 f y Y ; 0 JMA, Vol.6, NO., DESEMBER, 007, y y y Y ;, Y ; P f y f y Y ; y y y Y ;, Y ; y y y 3 Y ; 3, Y ; y y y P 4 Y ; f y 4, Y ; f y Y ; P f y f y Y ; P f y f y Y ; Dari (3.) dapa diuliskan By y Cy y Dy y Ey y By Cy Dy Ey Sehingga diperoleh f y Y y B y D y y C y E y ] ; y B C y D E 3 y y P Y ; exp y y y y P Y ; exp 4 y y 3 P Y ; exp y y y y P Y ; exp 4 y y 3 P 3 Y ; exp y y y y P 3 Y ; exp 4 Y P y y 3 4 ; exp y y y y P 4 Y ; exp 4 (3.4)

8 30 BERLIAN SEIAWAY DAN DIMAS HARI SANOSO Unuk memperoleh nilai yang memaksimum fungsi log-likelihood maka urunan perama dari L ( ) harus sama dengan nol. L f y Y ; 0 f y Y ; 0 Y ;, Y ; y y P Y ; f y, Y ; 4 f y Y ; P f y f y Y ; f P y Y ; 3 Y ; f P f y f y Y ; y y 4 4 Y ; 4, Y ; Berdasarkan (3.) dapa diuliskan y y y 3, Y ; 4 y y 4 B y y C y y D y y E y y B C D E Sehingga diperoleh B y y C y y D y y E y y B C D E (3.5) Unuk menduga parameer P digunakan formula (3.6) beriku yang diperoleh dari Hamilon (990). p di mana menuru Kim (994) ji P j, i Y ; P i Y ; (3.6)

9 dan JMA, Vol.6, NO., DESEMBER, 007, , Y ; Y ; -, Y ; Y ; -, Y ; ; Y ; -, Y P ; j Y ; Y - Y ; - P ; j Y P j i P j P i j P j P i j P j P i j P j P i P j i ( j) ( i) ji ( j) a. a P i ; P j, i ;. Y Y 4 4 ( j) ( i) ji ( j) j j (3.7) 4. PENDUGAAN ULANG PARAMEER DAN ALGORIME Karena persamaan (3.) sampai (3.7) ak linear, maka idak mungkin unuk memperoleh secara analiik sebagai fungsi dari Y, Y, Y3,, Y. Sehingga unuk mencari penduga kemungkinan maksimum digunakan algorime ieraif dari meode EM. 4. Meode Expecaion Maximizaion (Meode EM) Algorime EM dikembangkan oleh Baum and Perie (966) dengan ide dasar sebagai beriku. Misalkan P : adalah koleksi ukuran peluang yang erdefinisi pada ruang (, G ) dan koninu absolu erhadap P 0. Misalkan Y G. Definisikan fungsi likelihood unuk menenukan penduga parameer berdasarkan informasi Y sebagai dp L( ) E0 Y dp 0 dan penduga maksimum likelihood didefinisikan sebagai arg max L( ). Secara umum penduga maksimum likelihood suli dihiung secara langsung. Algorime EM memberikan suau meode ieraif unuk mengaproksimasi, dengan prosedur sebagai beriku.

10 3 BERLIAN SEIAWAY DAN DIMAS HARI SANOSO Langkah : Se p 0 dan pilih 0. Langkah : [Langkah-E] Se p, Q E log dp Y. dp Langkah 3: [Langkah-M] arg max Q,. enukan p Langkah 4: p p Ulangi langkah sampai krieria berheni dipenuhi. Caaan: : p 0 L : p 0 yang ak urun.. Barisan p memberikan barisan p. Menuru keaksamaan Jensen, Q, log L( ) log L( ). 3. Q, p p p p disebu pseudo-loglikelihood bersyara. 4. Pendugaan ulang parameer menggunakan meode EM Dengan menggunakan meode EM diperoleh algorime unuk menduga ulang parameer model. Algorime ersebu sebagai beriku. Langkah : enukan banyaknya daa yang akan diamai sera enukan juga y0, y, y,, y dan mariks ransisi Beri nilai awal bagi p 0 p 0 p 0 p 0 P. 0 p 0 p 0 p 0 p ( m) yang dilambangkan dengan,,, Langkah : Cari fungsi kerapaan bersyara bagi y unuk seiap,,,. y y dengan cara exp f y, ; y y Y exp f y, ; Y f y 3, Y ; y y exp f y 4, ; Y y y exp nilai

11 JMA, Vol.6, NO., DESEMBER, 007, Langkah 3: Penarikan kesimpulan opimal dan peramalan unuk seiap waku pada conoh dapa diperoleh melalui ierasi: 3.. enukan nilai awal bagi yang dilambangkan dengan 0 0 p p p p p p p p p p p p p p p p p p 3.. Beri nilai awal i 3.3. Unuk i, cari nilai dari m Y ; f y P Y ; - ; P Y- P 3 ; Y - P 4 ; Y- P Y; P Y ; P P 3 Y; P 4 ; Y ii 3.4. Ulangi mulai dari langkah (3.3) Sop jika. Lanjukan ke langkah 4. Langkah 4: Misalkan

12 34 BERLIAN SEIAWAY DAN DIMAS HARI SANOSO Cari nilai dari: Y ;, Y ; B P f y f y Y ; Y ;, Y ; C P f y f y Y ; 3 Y ; 3, Y ; D P f y f y Y ; 4 Y ; 4, Y ; E P f y f y Y ; B y y C y y D y y B B C D C y y D y y E y y C D E E y B y D y y C y E y ] y B C y D E B y y C y y D y y E y y B C D E Langkah 5: Beri nama parameer yang dihasilkan pada langkah 4 dengan ( m ) c, c,,, Langkah 6: Cari P =( Pij) yang baru menggunakan hasil Kim, C.J (994) dan Hamilon, J. D. (994), yaiu: j j j j P' ( ) j i pij P j, i j Y ;, Y P i P j i p j j i pij P j, i Y ; j ji j i P ; pij i Y j j

13 JMA, Vol.6, NO., DESEMBER, 007, Langkah 7: Selama k, ulangi mulai dari langkah. Gunakan parameer yang sudah dihasilkan unuk mencari nilai harapan E y j, = i, Y ; j y i. DAFAR PUSAKA []. Baum, L.E. and Perie, Saisical inference for probabilisic funcions of finie sae Markov chains. Annals of he Insiue of Saisical Mahemaics, 37: []. Hamilon, J. D Analysis of ime Series Subjec o Changes in Regime. Journal of Economerics, 45: [3]. Hamilon, J. D ime Series Analysis. Princeon Universiy Press, New Jersey. [4]. Kim, C. J Dynamic linear models wih Markov-Swiching. Journal of Economerics,60: -. [5]. Seiaway, B Laporan Hibah Peneliian PHK A, Deparemen Maemaika FMIPA IPB.

14 36 BERLIAN SEIAWAY DAN DIMAS HARI SANOSO

15

16 30 BERLIAN SEIAWAY DAN DIMAS HARI SANOSO