BAB III MODEL HIDDEN MARKOV KONTINU DENGAN PROSES OBSERVASI ZERO DELAY 3.1 State dan Proses Observasi Semua proses didefinisikan pada ruang peluang Ω,,. Misalkan ; adalah rantai Markov dengan state berhingga yang bersifat homogen dan diasumsikan tidak diamati secara langsung, sedangkan ; adalah proses observasinya. Pasangan proses stokastik, merupakan model Hidden Markov. Ruang state dari X adalah,,, dengan 0,,0,1,0,,0, yaitu himpunan vektor satuan di, di mana hanya elemen ke-i yang bernilai 1 dan lainnya 0. Misalkan ; adalah filtrasi lengkap yang dibangkitkan oleh X dan ; adalah filtrasi lengkap yang dibangkitkan oleh Y sedangkan ; adalah filtrasi lengkap yang dibangkitkan oleh X dan Y. Karena X merupakan rantai Markov homogen, maka berdasarkan sifat rantai Markov berlaku,,,. Lema 3.1.1 (Elliot et al. 1995),. Bukti: 1, untuk Karena, 0, untuk,
16 maka,,. Jika, maka vektor,,, merupakan nilai harapan dari X, yaitu dan untuk X yang ergodic memenuhi dan 1. Lema 3.1.2 (Elliot et al. 1995) Misalkan merupakan peluang transisi dan adalah matriks peluang transisi yang memenuhi. 1, maka Bukti: Misalkan maka Sehingga dapat ditulis,,,.. Jadi,,,.
17 Definisikan dengan, (3.1) dan,,, 0. Sehingga dapat diperoleh suatu persamaan state. (3.2) Proses state X tidak diamati secara langsung namun terdapat proses observasi Y yang bernilai skalar dan kontinu pada suatu selang, yaitu: (3.3) yang disebut juga sebagai proses observasi zero delay, di mana adalah barisan peubah acak yang bebas stokastik identik menyebar normal dengan rataan nol dan ragam satu N(0,1), dan bebas stokastik. Karena maka c dan didefinisikan sebagai vektor,,, dan,,, pada serta, dan, di mana, merupakan perkalian dalam pada dengan 0 untuk 1. Jadi, model hidden Markov yang dibahas pada karya ilmiah ini berbentuk:. (3.4)
18 3.2 Nilai Harapan Bersyarat Misalkan merupakan nilai harapan bersyarat dari jika diketahui dan exp merupakan fungsi kepekatan peluang 0,. Akan ditentukan nilai harapan bersyarat jika diketahui. Lema 3.2.1,. Bukti:,,,,,. Berdasar Lemma 3.1.1 diperoleh,. Akibatnya,,,. Fungsi sebaran bersyarat dari jika diketahui dengan adalah,,
19,. Karena ; merupakan barisan peubah acak yang bersifat bebas stokastik identik, maka bebas terhadap akibatnya juga bebas terhadap dan. Sehingga diperoleh,,,. Jadi fungsi kepekatan bersyarat dari jika diketahui adalah,. Adapun fungsi sebaran bersama dari dan jika diketahui adalah,,,,,,
20,. Sehingga diperoleh fungsi kepekatan bersama dari dan jika diketahui adalah,. Dengan menggunakan aturan Bayes diperoleh,,,,,. Teorema 3.2.2,,. (3.5) Bukti: Misal adalah filtrasi lengkap yang dibangkitkan oleh proses observasi dengan, maka. Karena bersifat bebas stokastik identik maka, 0. Sehingga diperoleh,
21, 0. Akibatnya 0, dengan,,,,,. Sehingga,,,,. Jadi,,,. merupakan nilai harapan bersyarat jika diketahui. Pada persamaan (3.5), adalah tak linear terhadap. Sehingga untuk
22 memudahkan dalam perhitungan secara matematik dilakukan perubahan ukuran peluang. 3.3 Perubahan Ukuran Perubahan ukuran peluang diperoleh dengan mengubah ukuran peluang asal menjadi peluang baru. Dari ukuran peluang baru akan diinterpretasikan kembali ke dalam peluang asal. Perubahan ukuran ini dibatasi oleh turunan Radon- Nikodym. Teorema 3.3.1 Teorema Bersyarat Bayes (Elliot et al. 1995) Misalkan Ω,, merupakan ruang peluang dan adalah sub-medan dari. Misalkan adalah ukuran peluang lain yang kontinu absolut terhadap P dengan turunan Radon-Nikodymnya. Jika adalah peubah acak terintegralkan dan terukur- maka berlaku. Bukti: Menurut definisi 2.1.28 harus ditunjukkan: terukur- dan,. Karena merupakan nilai harapan dari dengan syarat maka terukur-, juga untuk yang merupakan nilai harapan dari dengan syarat, sehingga terukur-. Akibatnya karena merupakan pembagian dari dua nilai harapan yang terukur- maka terukur-. Definisikan:, untuk 0. 0, untuk 0
23 Maka. Jadi terukur-. Akan ditunjukkan:,. Definisikan : 0, sehingga. Maka dari definisi 2.1.28 0 dan 0. Berakibat P(G) = 0 atau = 0 hampir pasti di G. Selanjutnya : 0. Misal, maka di mana dan, sehingga 3.6 Fungsi = 0 hampir pasti pada, maka 0. Selanjutnya
24. Sehingga. Akibatnya persamaan (3.6) menjadi. Jadi,,. Lema 3.3.2 (Elliot et al. 1995) Jika adalah barisan peubah acak yang terintegralkan, maka. Bukti: serupa dengan bukti Teorema 3.3.1.
25 Di bawah ukuran P: - X merupakan rantai Markov yang homogen dan memenuhi -, di mana adalah barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1). merupakan peubah acak yang bergantung pada dengan fungsi kepekatan peluang dari adalah 1 2 exp 1 2 tc σ. Akan dikontruksi ukuran peluang baru yang kontinu absolut terhadap P dengan turunan Radon-Nikodymnya, sehingga di bawah : - X merupakan rantai Markov yang homogen dan memenuhi - Y merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1). Berarti harus dikontruksi, sehingga di bawah : - X merupakan rantai Markov yang homogen dan memenuhi - Y merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1). Misalkan adalah fungsi kepekatan peluang N(0,1) maka
26 1. 3.7 Karena adalah fungsi kepekatan peluang N(0,1) maka. 3.8 Dari persamaan (3.7) dan (3.8) diperoleh. Misalkan,,, 1, dan, 1. Definisikan ukuran peluang baru dengan batasan turunan Radon-Nikodym terhadap yaitu. Lema 3.3.3 Di bawah ukuran, merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1). Bukti: dengan menggunakan Lema 3.3.2, diperoleh
27. Sedangkan,,, 1. Sehingga,., Jadi, di bawah ukuran, merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1). Di bawah ukuran : - X merupakan rantai Markov yang homogen dan memenuhi, di mana 0. - Y merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1).
28 Jadi harus dikontruksi kembali ukuran peluang P yang kontinu absolut terhadap dengan turunan Radon-Nikodymnya, sehingga di bawah P: - X merupakan rantai Markov yang homogen -, di mana adalah barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1). Jadi harus dikontruksi, sehingga di bawah P: - X merupakan rantai Markov yang homogen -, di mana adalah barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1). Misalkan adalah fungsi kepekatan peluang N(0,1) maka. 3.9 Karena adalah fungsi kepekatan peluang N(0,1) maka. 3.10 Dari persamaan (3.9) dan (3.10) diperoleh Misalkan.,,, 1, dan, 1.
29 Definisikan ukuran peluang P dengan batasan turunan Radon-Nikodym terhadap yaitu. Syarat yang harus dipenuhi adalah, 0. Lema 3.3.4 Di bawah P, ; merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1). Bukti:. Dengan menggunakan Lema 3.3.2, diperoleh. Sedangkan,,, 1. Sehingga
30,,,. Jadi di bawah P, merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1) 3.4 Pendugaan Rekursif Pendugaan rekursif diperlukan untuk menduga parameter baru. Pendugaan rekursif meliputi pendugaan untuk state, banyaknya lompatan, lamanya waktu kejadian dan proses observasi. Notasi 3.4.1 (Elliot et al. 1995) Jika ;, merupakan sebarang barisan adapted terhadap. Notasikan unnormalized conditional expectation dari jika diketahui sebagai. Dengan menggunakan Lema 3.3.2, maka dengan nilai awal. 1, Jika 1 1,1,,1, maka,1, 1. Akibatnya,1,1,1
31,1,1,1. Jadi jika pendugaan unnormalized diketahui, maka pendugaan untuk diperoleh dengan menjumlahkan semua komponen. Untuk 1, maka persamaan di atas menjadi 1,1,1. Notasi 3.4.2 Notasikan. Lema 3.4.3 (Elliot et al. 1995) Misalkan diag(z) adalah matriks diagonal dengan vektor z pada diagonalnya, maka diag diag diag, dan diag diag. Bukti:
32. Sehingga diperoleh diag diag diag diag diag diag diag, dan karena 0, maka diag diag diag diag diag. Notasi 3.4.4 (Elliot et al. 1995) Untuk sebarang proses ;, yang adapted-, notasikan,. Teorema 3.4.5 Misalkan proses ; adalah adapted- yang berbentuk: - merupakan terukur -,, 1 di mana, f fungsi bernilai skalar dan,, adalah proses predictable-,, bernilai skalar dan merupakan vektor berdimensi N. Maka,,,,,
33 di mana, dan,. diag,, Bukti: Lihat lampiran 2. 3.4.1 Penduga untuk State Dengan menggunakan Teorema 3.4.5 dan memilih 1, 0, 0,1, maka penduga untuk state adalah,., Dapat juga ditulis dalam bentuk pendugaan rekursif untuk unnormalized conditional expectation dari, jika diketahui, yaitu,, 1, bentuk ini disebut unnormalized smoother. Dengan memilih,,, 0, maka dari Teorema 3.4.5 diperoleh,,,,,,,,., 3.4.2 Penduga Banyaknya Lompatan Jika rantai Markov berpindah dari state pada waktu k ke state pada waktu 1, 1,, maka,, 1. Misalkan adalah banyaknya lompatan dari ke sampai waktu ke- 1, maka,,
34,,,,,,,,,,,,,,,,,. Menurut Teorema 3.4.5 dengan, 0,,,,, 0, maka penduga untuk banyaknya lompatan adalah:,,,,, diag,,,,,, diag,,. 3.11 Suku kedua sebelah kanan persamaan (3.11) adalah:,,,,,,,,
35,,,. 3.12 Suku ketiga sebelah kanan persamaan (3.11) adalah: diag,, diag,, diag,, diag,, diag, diag, diag,. Karena diag, maka diperoleh diag,,,,,. 3.13
36 Dari persamaan (3.12) dan (3.13), maka persamaan (3.11) diperoleh,,,,,,,,., Karena,,, maka,,,,,. Bentuk unnormalized smoother untuk jika diketahui adalah, 1. Dengan memilih,, 0, maka dari Teorema 3.4.5 diperoleh,,,., 3.4.3 Penduga untuk Waktu Kejadian Misalkan adalah lamanya X berada di state sampai waktu ke-k, maka,,.
37 Menurut Teorema 3.4.5 dengan, 0,,, 0, 0, maka penduga untuk lamanya waktu kejadian adalah:,,,,,,,,,,,,,., Karena,,, maka,,,,,. Bentuk unnormalized smoother untuk jika diketahui adalah. Dengan memilih,, 0, maka berdasarkan Teorema 3.4.5 diperoleh,,,., 3.4.4 Penduga untuk Proses Observasi Untuk menduga ulang vektor varian dan vektor drift c pada proses observasi,,, maka ditentukan penduga untuk proses observasi dalam bentuk
38,, 1, di mana atau. Dengan menggunakan Teorema 3.4.5 dan nilai, 0, 0,,, maka diperoleh penduga untuk proses observasi sebagai berikut,,,,,,,,,,,,,,. Karena,,, maka,,,,,. Bentuk unnormalized smoother untuk jika diketahui adalah. Dengan memilih,, 0, maka berdasarkan Teorema 3.4.5 diperoleh
39,,,., 3.5 Pendugaan Parameter Pendugaan parameter dilakukan menggunakan Metode Expectation Maximization (Metode EM). Hasilnya berupa parameter dalam bentuk pendugaan rekursif. Misalkan : adalah koleksi ukuran peluang yang terdefinisi pada ruang Ω, dan kontinu absolut terhadap. Misalkan. Definisikan fungsi likelihood untuk menentukan penduga parameter berdasarkan informasi sebagai, dan penduga maksimum likelihood didefinisikan sebagai argmax. Secara umum penduga maksimum likelihood sulit dihitung secara langsung, maka biasanya digunakan algoritma Expectation Maximization (EM). Algoritma EM memberikan suatu metode iteratif untuk mengaproksimasi, dengan prosedur sebagai berikut: 1. Set p = 0 dan pilih. 2. [Langkah-E] Set dan hitung,. 3. [Langkah-M] Tentukan argmax,. 4. Ganti p dengan p+1 ( 1 ) dan ulangi langkah 2 sampai kriteria penghentian terpenuhi. Parameter yang digunakan pada model (3.4) adalah, 1,,,1,,1. Dengan menggunakan algoritme EM, akan ditentukan himpunan parameter baru, 1,,,1,,1, yang memaksimumkan fungsi log-likelihood bersyaratnya.
40 3.5.1 Pendugaan Parameter Untuk mengganti parameter dengan pada rantai Markov, definisikan,,,,,dan. Lema 3.5.1 Di bawah ukuran dan misalkan, maka, 1. Bukti:,,,,,,,, 1,, 1,, 1, 1, 1 1,,, 1 1, 1, 1,
41 1, 1, 1 1 1 1 1. 1 Karena 1 1, maka, 1. Fungsi log-likelihood dari adalah log log,,,,, log log, log log, log,, di mana tidak bergantung pada dengan log., Nilai harapan dari fungsi log-likelihood adalah
42 log log dengan memenuhi dan, log, log,, 1,,,, 1. 3.14 Karena,, maka dapat ditulis dalam bentuk,,,. 3.15, Akan ditentukan yang memaksimumkan persamaan (3.14) sebagai fungsi objektif dengan persamaan (3.15) sebagai fungsi kendala. Misalkan adalah penggali Lagrange, maka, log, dengan menggunakan,,
43 diperoleh: dan, 1 0 0,., 0 dan, 0, 3.16 3.17 Substitusi persamaan (3.16) ke persamaan (3.17) didapat, 1, 1,,, 1,,, 1 1 1. Sehingga didapatkan nilai optimum dari, 1, yaitu.
44 3.5.2 Pendugaan Misalkan ukuran peluang baru, dengan turunan Radon-Nikodymnya. Untuk mengganti parameter dengan, didefinisikan dengan faktor,,, 1 2, exp, 2, 1 2, exp, 2, 1 exp 2,,, 2, 2,. Fungsi log-likelihood dari adalah log 1 logexp 2,,, 2, 2,,, 2, 2, 2,,,, 2, 2, 2,,,, 2 2,, 2, 2, 2, 2 2 2 1 2,, 2 2, 2
45 di mana bebas terhadap, dengan, 2 2. Nilai harapan dari log jika diketahui adalah log 2 2 Sehingga untuk 0 diperoleh 2 2 2 0. 3.5.3 Pendugaan Parameter Misalkan ukuran peluang baru, dengan turunan Radon-Nikodymnya. Untuk mengganti parameter dengan, didefinisikan dengan faktor,, 1 2,, exp, 2, 1 2, exp, 2,,, exp 1 2, 1 2,,. Fungsi log-likelihood dari adalah log log,, exp 1 2, 1 2,,
46 1 2 log, 1 2 log,, 2, 1 2 log,,,, 2, di mana, bebas terhadap dengan, 1 2 log,,. 2,, 2, Nilai harapan dari log dengan syarat diketahui adalah log 1 2 log,, 2,,, 1 2 log,, 2,, 1 2, log,,, 2,, 1 2, log, 2 2, 1 2, log 1, 2,,, 1 2 log 1 2, 1 2 log 1 2,. Sehingga untuk 0 diperoleh
47 1 2 0 2 0 2. Sehingga diperoleh nilai optimum dari adalah 2. 3.6 Nilai Dugaan Nilai dugaan dihitung dengan menggunakan nilai harapan bersyarat dari, jika diketahui dengan. Lema 3.6.1 Nilai harapan dari, jika diketahui adalah dengan.,, Bukti:, Ф, Ф, 1 2 exp 2
48 1, 2 exp 2 1, 2 exp 2, 1 2 exp 2 1 2 exp 2, 1 2 exp 2, 0,. 1 2 exp 2 3.7 Algoritma Pendugaan Parameter Diketahui parameter model berbentuk, 1,,,1,,1. Akan ditentukan parameter baru,1,,,1,,1 yang memaksimumkan pseudo-loglikelihood bersyaratnya. Algoritma untuk memperoleh parameter tersebut: Langkah 1: Tetapkan N (banyaknya state penyebab kejadian), T (banyaknya data) dan input data
49 Langkah 2: Tentukan nilai awal dengan dan memenuhi dan 1. Langkah 3: Lakukan untuk l=1 sampai T. 1. Tetapkan dan,, dimana vektor satuan di 0 0 0 0 2. Lakukan untuk k =0 sampai dengan l-1 a. Hitung penduga rekursif,,,,,,,,1,,,,
50,,,1,,,,,,, 1,,,,,.,, 1, di mana. adalah fungsi kepekatan peluang N(0,1) :,,1 dengan 1 1,1,,1. b. Lakukan untuk m =0 sampai dengan k Hitung penduga rekursif smoother,,,,,,,,,,,,1
51,,,,,,1,,,,,, 1,,,,,, 1. c. Hitung penduga parameter 1 1 1 1 1 2 1 2. d. Tuliskan 1 1 1 1. e. Hitung 1 dari 1 1 1 dan 1 dari 1 1 1.
52 f. Ulangi langkah a sampai dengan e untuk k berikutnya. 3. Ulangi langkah 1 sampai dengan 3 untuk l berikutnya. Langkah 4: Hitung nilai 1 1 dan 1 1. Langkah 5: Untuk k=1 sampai dengan T, cetak dan.