BAB III MODEL HIDDEN MARKOV KONTINU DENGAN PROSES OBSERVASI ZERO DELAY

Transkripsi

1 BAB III MODEL HIDDEN MARKOV KONTINU DENGAN PROSES OBSERVASI ZERO DELAY 3.1 State dan Proses Observasi Semua proses didefinisikan pada ruang peluang Ω,,. Misalkan ; adalah rantai Markov dengan state berhingga yang bersifat homogen dan diasumsikan tidak diamati secara langsung, sedangkan ; adalah proses observasinya. Pasangan proses stokastik, merupakan model Hidden Markov. Ruang state dari X adalah,,, dengan 0,,0,1,0,,0, yaitu himpunan vektor satuan di, di mana hanya elemen ke-i yang bernilai 1 dan lainnya 0. Misalkan ; adalah filtrasi lengkap yang dibangkitkan oleh X dan ; adalah filtrasi lengkap yang dibangkitkan oleh Y sedangkan ; adalah filtrasi lengkap yang dibangkitkan oleh X dan Y. Karena X merupakan rantai Markov homogen, maka berdasarkan sifat rantai Markov berlaku,,,. Lema (Elliot et al. 1995),. Bukti: 1, untuk Karena, 0, untuk,

2 16 maka,,. Jika, maka vektor,,, merupakan nilai harapan dari X, yaitu dan untuk X yang ergodic memenuhi dan 1. Lema (Elliot et al. 1995) Misalkan merupakan peluang transisi dan adalah matriks peluang transisi yang memenuhi. 1, maka Bukti: Misalkan maka Sehingga dapat ditulis,,,.. Jadi,,,.

3 17 Definisikan dengan, (3.1) dan,,, 0. Sehingga dapat diperoleh suatu persamaan state. (3.2) Proses state X tidak diamati secara langsung namun terdapat proses observasi Y yang bernilai skalar dan kontinu pada suatu selang, yaitu: (3.3) yang disebut juga sebagai proses observasi zero delay, di mana adalah barisan peubah acak yang bebas stokastik identik menyebar normal dengan rataan nol dan ragam satu N(0,1), dan bebas stokastik. Karena maka c dan didefinisikan sebagai vektor,,, dan,,, pada serta, dan, di mana, merupakan perkalian dalam pada dengan 0 untuk 1. Jadi, model hidden Markov yang dibahas pada karya ilmiah ini berbentuk:. (3.4)

4 Nilai Harapan Bersyarat Misalkan merupakan nilai harapan bersyarat dari jika diketahui dan exp merupakan fungsi kepekatan peluang 0,. Akan ditentukan nilai harapan bersyarat jika diketahui. Lema 3.2.1,. Bukti:,,,,,. Berdasar Lemma diperoleh,. Akibatnya,,,. Fungsi sebaran bersyarat dari jika diketahui dengan adalah,,

5 19,. Karena ; merupakan barisan peubah acak yang bersifat bebas stokastik identik, maka bebas terhadap akibatnya juga bebas terhadap dan. Sehingga diperoleh,,,. Jadi fungsi kepekatan bersyarat dari jika diketahui adalah,. Adapun fungsi sebaran bersama dari dan jika diketahui adalah,,,,,,

6 20,. Sehingga diperoleh fungsi kepekatan bersama dari dan jika diketahui adalah,. Dengan menggunakan aturan Bayes diperoleh,,,,,. Teorema 3.2.2,,. (3.5) Bukti: Misal adalah filtrasi lengkap yang dibangkitkan oleh proses observasi dengan, maka. Karena bersifat bebas stokastik identik maka, 0. Sehingga diperoleh,

7 21, 0. Akibatnya 0, dengan,,,,,. Sehingga,,,,. Jadi,,,. merupakan nilai harapan bersyarat jika diketahui. Pada persamaan (3.5), adalah tak linear terhadap. Sehingga untuk

8 22 memudahkan dalam perhitungan secara matematik dilakukan perubahan ukuran peluang. 3.3 Perubahan Ukuran Perubahan ukuran peluang diperoleh dengan mengubah ukuran peluang asal menjadi peluang baru. Dari ukuran peluang baru akan diinterpretasikan kembali ke dalam peluang asal. Perubahan ukuran ini dibatasi oleh turunan Radon- Nikodym. Teorema Teorema Bersyarat Bayes (Elliot et al. 1995) Misalkan Ω,, merupakan ruang peluang dan adalah sub-medan dari. Misalkan adalah ukuran peluang lain yang kontinu absolut terhadap P dengan turunan Radon-Nikodymnya. Jika adalah peubah acak terintegralkan dan terukur- maka berlaku. Bukti: Menurut definisi harus ditunjukkan: terukur- dan,. Karena merupakan nilai harapan dari dengan syarat maka terukur-, juga untuk yang merupakan nilai harapan dari dengan syarat, sehingga terukur-. Akibatnya karena merupakan pembagian dari dua nilai harapan yang terukur- maka terukur-. Definisikan:, untuk 0. 0, untuk 0

9 23 Maka. Jadi terukur-. Akan ditunjukkan:,. Definisikan : 0, sehingga. Maka dari definisi dan 0. Berakibat P(G) = 0 atau = 0 hampir pasti di G. Selanjutnya : 0. Misal, maka di mana dan, sehingga 3.6 Fungsi = 0 hampir pasti pada, maka 0. Selanjutnya

10 24. Sehingga. Akibatnya persamaan (3.6) menjadi. Jadi,,. Lema (Elliot et al. 1995) Jika adalah barisan peubah acak yang terintegralkan, maka. Bukti: serupa dengan bukti Teorema

11 25 Di bawah ukuran P: - X merupakan rantai Markov yang homogen dan memenuhi -, di mana adalah barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1). merupakan peubah acak yang bergantung pada dengan fungsi kepekatan peluang dari adalah 1 2 exp 1 2 tc σ. Akan dikontruksi ukuran peluang baru yang kontinu absolut terhadap P dengan turunan Radon-Nikodymnya, sehingga di bawah : - X merupakan rantai Markov yang homogen dan memenuhi - Y merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1). Berarti harus dikontruksi, sehingga di bawah : - X merupakan rantai Markov yang homogen dan memenuhi - Y merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1). Misalkan adalah fungsi kepekatan peluang N(0,1) maka

12 Karena adalah fungsi kepekatan peluang N(0,1) maka. 3.8 Dari persamaan (3.7) dan (3.8) diperoleh. Misalkan,,, 1, dan, 1. Definisikan ukuran peluang baru dengan batasan turunan Radon-Nikodym terhadap yaitu. Lema Di bawah ukuran, merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1). Bukti: dengan menggunakan Lema 3.3.2, diperoleh

13 27. Sedangkan,,, 1. Sehingga,., Jadi, di bawah ukuran, merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1). Di bawah ukuran : - X merupakan rantai Markov yang homogen dan memenuhi, di mana 0. - Y merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1).

14 28 Jadi harus dikontruksi kembali ukuran peluang P yang kontinu absolut terhadap dengan turunan Radon-Nikodymnya, sehingga di bawah P: - X merupakan rantai Markov yang homogen -, di mana adalah barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1). Jadi harus dikontruksi, sehingga di bawah P: - X merupakan rantai Markov yang homogen -, di mana adalah barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1). Misalkan adalah fungsi kepekatan peluang N(0,1) maka. 3.9 Karena adalah fungsi kepekatan peluang N(0,1) maka Dari persamaan (3.9) dan (3.10) diperoleh Misalkan.,,, 1, dan, 1.

15 29 Definisikan ukuran peluang P dengan batasan turunan Radon-Nikodym terhadap yaitu. Syarat yang harus dipenuhi adalah, 0. Lema Di bawah P, ; merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1). Bukti:. Dengan menggunakan Lema 3.3.2, diperoleh. Sedangkan,,, 1. Sehingga

16 30,,,. Jadi di bawah P, merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1) 3.4 Pendugaan Rekursif Pendugaan rekursif diperlukan untuk menduga parameter baru. Pendugaan rekursif meliputi pendugaan untuk state, banyaknya lompatan, lamanya waktu kejadian dan proses observasi. Notasi (Elliot et al. 1995) Jika ;, merupakan sebarang barisan adapted terhadap. Notasikan unnormalized conditional expectation dari jika diketahui sebagai. Dengan menggunakan Lema 3.3.2, maka dengan nilai awal. 1, Jika 1 1,1,,1, maka,1, 1. Akibatnya,1,1,1

17 31,1,1,1. Jadi jika pendugaan unnormalized diketahui, maka pendugaan untuk diperoleh dengan menjumlahkan semua komponen. Untuk 1, maka persamaan di atas menjadi 1,1,1. Notasi Notasikan. Lema (Elliot et al. 1995) Misalkan diag(z) adalah matriks diagonal dengan vektor z pada diagonalnya, maka diag diag diag, dan diag diag. Bukti:

18 32. Sehingga diperoleh diag diag diag diag diag diag diag, dan karena 0, maka diag diag diag diag diag. Notasi (Elliot et al. 1995) Untuk sebarang proses ;, yang adapted-, notasikan,. Teorema Misalkan proses ; adalah adapted- yang berbentuk: - merupakan terukur -,, 1 di mana, f fungsi bernilai skalar dan,, adalah proses predictable-,, bernilai skalar dan merupakan vektor berdimensi N. Maka,,,,,

19 33 di mana, dan,. diag,, Bukti: Lihat lampiran Penduga untuk State Dengan menggunakan Teorema dan memilih 1, 0, 0,1, maka penduga untuk state adalah,., Dapat juga ditulis dalam bentuk pendugaan rekursif untuk unnormalized conditional expectation dari, jika diketahui, yaitu,, 1, bentuk ini disebut unnormalized smoother. Dengan memilih,,, 0, maka dari Teorema diperoleh,,,,,,,,., Penduga Banyaknya Lompatan Jika rantai Markov berpindah dari state pada waktu k ke state pada waktu 1, 1,, maka,, 1. Misalkan adalah banyaknya lompatan dari ke sampai waktu ke- 1, maka,,

20 34,,,,,,,,,,,,,,,,,. Menurut Teorema dengan, 0,,,,, 0, maka penduga untuk banyaknya lompatan adalah:,,,,, diag,,,,,, diag,, Suku kedua sebelah kanan persamaan (3.11) adalah:,,,,,,,,

21 35,,, Suku ketiga sebelah kanan persamaan (3.11) adalah: diag,, diag,, diag,, diag,, diag, diag, diag,. Karena diag, maka diperoleh diag,,,,,. 3.13

22 36 Dari persamaan (3.12) dan (3.13), maka persamaan (3.11) diperoleh,,,,,,,,., Karena,,, maka,,,,,. Bentuk unnormalized smoother untuk jika diketahui adalah, 1. Dengan memilih,, 0, maka dari Teorema diperoleh,,,., Penduga untuk Waktu Kejadian Misalkan adalah lamanya X berada di state sampai waktu ke-k, maka,,.

23 37 Menurut Teorema dengan, 0,,, 0, 0, maka penduga untuk lamanya waktu kejadian adalah:,,,,,,,,,,,,,., Karena,,, maka,,,,,. Bentuk unnormalized smoother untuk jika diketahui adalah. Dengan memilih,, 0, maka berdasarkan Teorema diperoleh,,,., Penduga untuk Proses Observasi Untuk menduga ulang vektor varian dan vektor drift c pada proses observasi,,, maka ditentukan penduga untuk proses observasi dalam bentuk

24 38,, 1, di mana atau. Dengan menggunakan Teorema dan nilai, 0, 0,,, maka diperoleh penduga untuk proses observasi sebagai berikut,,,,,,,,,,,,,,. Karena,,, maka,,,,,. Bentuk unnormalized smoother untuk jika diketahui adalah. Dengan memilih,, 0, maka berdasarkan Teorema diperoleh

25 39,,,., 3.5 Pendugaan Parameter Pendugaan parameter dilakukan menggunakan Metode Expectation Maximization (Metode EM). Hasilnya berupa parameter dalam bentuk pendugaan rekursif. Misalkan : adalah koleksi ukuran peluang yang terdefinisi pada ruang Ω, dan kontinu absolut terhadap. Misalkan. Definisikan fungsi likelihood untuk menentukan penduga parameter berdasarkan informasi sebagai, dan penduga maksimum likelihood didefinisikan sebagai argmax. Secara umum penduga maksimum likelihood sulit dihitung secara langsung, maka biasanya digunakan algoritma Expectation Maximization (EM). Algoritma EM memberikan suatu metode iteratif untuk mengaproksimasi, dengan prosedur sebagai berikut: 1. Set p = 0 dan pilih. 2. [Langkah-E] Set dan hitung,. 3. [Langkah-M] Tentukan argmax,. 4. Ganti p dengan p+1 ( 1 ) dan ulangi langkah 2 sampai kriteria penghentian terpenuhi. Parameter yang digunakan pada model (3.4) adalah, 1,,,1,,1. Dengan menggunakan algoritme EM, akan ditentukan himpunan parameter baru, 1,,,1,,1, yang memaksimumkan fungsi log-likelihood bersyaratnya.

26 Pendugaan Parameter Untuk mengganti parameter dengan pada rantai Markov, definisikan,,,,,dan. Lema Di bawah ukuran dan misalkan, maka, 1. Bukti:,,,,,,,, 1,, 1,, 1, 1, 1 1,,, 1 1, 1, 1,

27 41 1, 1, Karena 1 1, maka, 1. Fungsi log-likelihood dari adalah log log,,,,, log log, log log, log,, di mana tidak bergantung pada dengan log., Nilai harapan dari fungsi log-likelihood adalah

28 42 log log dengan memenuhi dan, log, log,, 1,,,, Karena,, maka dapat ditulis dalam bentuk,,,. 3.15, Akan ditentukan yang memaksimumkan persamaan (3.14) sebagai fungsi objektif dengan persamaan (3.15) sebagai fungsi kendala. Misalkan adalah penggali Lagrange, maka, log, dengan menggunakan,,

29 43 diperoleh: dan, 1 0 0,., 0 dan, 0, Substitusi persamaan (3.16) ke persamaan (3.17) didapat, 1, 1,,, 1,,, Sehingga didapatkan nilai optimum dari, 1, yaitu.

30 Pendugaan Misalkan ukuran peluang baru, dengan turunan Radon-Nikodymnya. Untuk mengganti parameter dengan, didefinisikan dengan faktor,,, 1 2, exp, 2, 1 2, exp, 2, 1 exp 2,,, 2, 2,. Fungsi log-likelihood dari adalah log 1 logexp 2,,, 2, 2,,, 2, 2, 2,,,, 2, 2, 2,,,, 2 2,, 2, 2, 2, ,, 2 2, 2

31 45 di mana bebas terhadap, dengan, 2 2. Nilai harapan dari log jika diketahui adalah log 2 2 Sehingga untuk 0 diperoleh Pendugaan Parameter Misalkan ukuran peluang baru, dengan turunan Radon-Nikodymnya. Untuk mengganti parameter dengan, didefinisikan dengan faktor,, 1 2,, exp, 2, 1 2, exp, 2,,, exp 1 2, 1 2,,. Fungsi log-likelihood dari adalah log log,, exp 1 2, 1 2,,

32 log, 1 2 log,, 2, 1 2 log,,,, 2, di mana, bebas terhadap dengan, 1 2 log,,. 2,, 2, Nilai harapan dari log dengan syarat diketahui adalah log 1 2 log,, 2,,, 1 2 log,, 2,, 1 2, log,,, 2,, 1 2, log, 2 2, 1 2, log 1, 2,,, 1 2 log 1 2, 1 2 log 1 2,. Sehingga untuk 0 diperoleh

33 Sehingga diperoleh nilai optimum dari adalah Nilai Dugaan Nilai dugaan dihitung dengan menggunakan nilai harapan bersyarat dari, jika diketahui dengan. Lema Nilai harapan dari, jika diketahui adalah dengan.,, Bukti:, Ф, Ф, 1 2 exp 2

34 48 1, 2 exp 2 1, 2 exp 2, 1 2 exp exp 2, 1 2 exp 2, 0,. 1 2 exp Algoritma Pendugaan Parameter Diketahui parameter model berbentuk, 1,,,1,,1. Akan ditentukan parameter baru,1,,,1,,1 yang memaksimumkan pseudo-loglikelihood bersyaratnya. Algoritma untuk memperoleh parameter tersebut: Langkah 1: Tetapkan N (banyaknya state penyebab kejadian), T (banyaknya data) dan input data

35 49 Langkah 2: Tentukan nilai awal dengan dan memenuhi dan 1. Langkah 3: Lakukan untuk l=1 sampai T. 1. Tetapkan dan,, dimana vektor satuan di Lakukan untuk k =0 sampai dengan l-1 a. Hitung penduga rekursif,,,,,,,,1,,,,

36 50,,,1,,,,,,, 1,,,,,.,, 1, di mana. adalah fungsi kepekatan peluang N(0,1) :,,1 dengan 1 1,1,,1. b. Lakukan untuk m =0 sampai dengan k Hitung penduga rekursif smoother,,,,,,,,,,,,1

37 51,,,,,,1,,,,,, 1,,,,,, 1. c. Hitung penduga parameter d. Tuliskan e. Hitung 1 dari dan 1 dari

38 52 f. Ulangi langkah a sampai dengan e untuk k berikutnya. 3. Ulangi langkah 1 sampai dengan 3 untuk l berikutnya. Langkah 4: Hitung nilai 1 1 dan 1 1. Langkah 5: Untuk k=1 sampai dengan T, cetak dan.