KEMUNGKINAN (LIKELIHOOD) MODEL FILOGENETIK MELALUI MODEL MARKOV TERSEMBUNYI Studi kasus: Hylobates, Pongo, Gorilla, Homo sapiens, dan Pan TESIS

Transkripsi

1 KEMUNGKINAN (LIKELIHOOD) MODEL FILOGENETIK MELALUI MODEL MARKOV TERSEMBUNYI Studi kasus: Hylobates, Pongo, Gorilla, Homo sapiens, dan Pan TESIS Karya tulis sebagai salah satu syarat untuk memperoleh gelar Magister dari Institut Teknologi Bandung Oleh: MOHAMAD HARYONO NIM PROGRAM STUDI MATEMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM INSTITUT TEKNOLOGI BANDUNG 2007

2 KEMUNGKINAN (LIKELIHOOD) MODEL FILOGENETIK MELALUI MODEL MARKOV TERSEMBUNYI Studi kasus: Hylobates, Pongo, Gorilla, Homo sapiens, dan Pan Oleh NIM : Program Studi Matematika Institut Teknologi Bandung Menyetujui, Tanggal 2 Juli 2007 Pembimbing Dr. Udjianna S. Pasaribu NIP

3 ABSTRAK KEMUNGKINAN (LIKELIHOOD) MODEL FILOGENETIK MELALUI MODEL MARKOV TERSEMBUNYI Studi kasus: Hylobates, Pongo, Gorilla, Homo sapiens, dan Pan oleh NIM: Dalam analisis model filogenetik, intensitas perubahan basa sangat penting sebagai ukuran rate terjadinya evolusi. Model Markov Tersembunyi (MMT) dilibatkan dalam model filogenetik untuk kategori rate evolusi, dengan anggapan bahwa rate evolusi berbeda untuk setiap site. Di sini, rate evolusi dianggap berdistribusi gamma. Algoritma Felsenstein digunakan untuk menentukan fungsi kemungkinan dari model filogenetik. Algoritma ini identik dengan algoritma mundur pada MMT. Sedangkan algoritma Viterbi digunakan untuk mencari kategori rate yang paling optimal. Estimasi matriks transisi dari rate evolusinya dilakukan dengan algoritma Baum-Welch dengan melibatkan fungsi otokorelasi dari kategori rate untuk site yang berdekatan. Kata kunci: Model Markov tersembunyi, algoritma maju mundur, Viterbi, Baum- Welch, filogenetik, rate evolusi, barisan DNA, kemungkinan, Algoritma Felsenstein 3

4 ABSTRACT LIKELIHOOD OF PHYLOGENETIC MODEL BY HIDDEN MARKOV MODEL Case Study: Hylobates, Pongo, Gorilla, Homo sapiens, and Pan By NIM: In analysis of phylogenetic model, intensity of nucleotide substitution is very important as a measure of evolutionary rate. Hidden Markov model (HMM) is allowed in this model for category of evolutionary rate, by assuming that rate of evolution is different for each site. In here, evolutionary rate is assumed having gamma distribution. Felsenstein Algorithm is used to calculate likelihood of the model. This algorithm is identical process with backward algorithm that usually used in HMM. Viterbi algorithm is used to find the optimal state of rate category. To estimate transition matrix, we used Baum-Welch algorithm by involving autocorrelation function from rate categories among neighboring sites. Key words: HMM, forward backward algorithm, Viterbi, Baum-Welch, phylogenetics, evolutionary rate, DNA sequences, likelihood, Felsenstein algorithm 4

5 KATA PENGANTAR Puji dan syukur kehadirat Allah SWT atas segala rahmat, hidayah, dan inayah yang telah diberikan-nya selama ini kepada penulis agar dapat menggali ilmu milik- Nya sehingga tesis ini dapat diselesaikan. Penulis mengucapkan rasa terima kasih yang sebesar-besarnya kepada semua pihak yang telah membantu kelancaran proses penelitian, terutama kepada: 1. Dr. Udjianna S. Pasaribu, selaku dosen pembimbing yang telah bersedia membimbing, mengarahkan serta meluangkan waktu dan pikirannya selama proses penyusunan tesis ini. 2. Dr. Adi Pancoro, selaku dosen penguji yang telah banyak memberikan masukan dan bimbingan untuk tesis ini. 3. Dr. Sutawanir Darwis, selaku dosen penguji yang telah memberikan bimbingan untuk pengerjaan tesis ini. 4. Dr. Taufik Hidayat (staf pengajar UPI), yang telah meluangkan waktu dan pikirannya untuk ikut berdiskusi dan memberikan masukan-masukan. 5. Seluruh Staf Pengajar di Departemen Matematika FMIPA ITB yang telah memberi bekal ilmu yang bermanfaat bagi penulis. 6. Bapak dan Ibuku tersayang, atas segala kasih sayang, perhatian, bimbingan, dan dukungannya, baik secara materi, moral, maupun doa-doanya. 7. Amru dan Lido yang telah membantu penulis dalam membuat program filogenetik menggunakan Matlab. 8. Teman-teman mahasiswa S-2 Matematika ITB yang telah banyak membantu penulis baik selama mengikuti studi maupun selama penyusunan tesis ini. 9. Kang Yana yang banyak membantu proses administrasi selama menyelesaikan studi S Semua pihak di lingkungan Departemen Matematika FMIPA ITB yang tidak bisa penulis sebutkan satu per satu. Akhir kata, semoga hasil penelitian ini dapat bermanfaat untuk kita semua, dan memperkaya khasanah ilmu pengetahuan. Bandung, Juni

6 DAFTAR ISI ABSTRAK... 3 ABSTRACT... 4 KATA PENGANTAR...5 DAFTAR ISI...6 BAB I PENDAHULUAN Latar Belakang Tujuan Sistematika Pembahasan...9 BAB II HIDDEN MARKOV MODEL Pendahuluan Definisi HMM Masalah Utama dalam HMM Algoritma Maju Mundur Algoritma Viterbi Algoritma Baum-Welch...26 BAB III KOMBINASI HMM DENGAN FILOGENETIK Pendahuluan Model Filogenetik Topologi Pohon (τ ) Frekuensi Basa (π ) dan Matriks Intensitas subtitusi (Q) Likelihood Model Filogenetik Kombinasi Rate Evolusi yang Optimal Estimasi Peluang Transisi BAB IV STUDI KASUS Data Perhitungan Likelihood Model Filogenetik Estimator Matriks Transisi Analisis Hasil dan Diskusi...56 BAB V KESIMPULAN DAN SARAN Kesimpulan Saran...59 DAFTAR PUSTAKA