KONSEP DASAR TERKAIT METODE BAYES

Transkripsi

1 KONSEP DASAR TERKAIT METODE BAYES 2.3. Peubah Acak dan Distribusi Peluang Pada statistika kita melakukan percobaan dimana percobaan tersebut akan menghasilkan suatu peluang. Ruang sampel pada percobaan memberikan rincian setiap peluang yang akan terjadi. Pada kondisi ini, hasil nilai peluang yang dihasilkan dinyatakan dalam konsep peubah acak. Definisi Peubah acak adalah suatu fungsi yang mengaitkan suatu bilangan real pada setiap unsur dalam ruang sampel. Peubah acak biasanya dinyatakan dengan huruf besar, misalnya X, sedangkan nilainya dinyatakan dengan huruf kecil padanannya, misalnya x Distribusi Peubah Acak Diskrit Peubah acak diskrit adalah peubah acak yang dibangkitkan dari ruang sampel diskrit dan himpunan kemungkinan hasilnya dapat dihitung. Sebagai contoh, banyak barang yang cacat dalam sampel sebesar k, banyaknya korban meninggal dalam kecelakaan setiap tahunnya dan sebagainya. Definisi Himpunan pasangan terurut merupakan suatu fungsi kepekatan peluang peubah acak diskrit X, bila untuk setiap kemungkinan hasil x, 1., 2., 3. Definisi Distribusi Kumulatif distribusi peluang dinyatakan oleh : suatu peubah acak diskret X dengan Distribusi Peubah Acak Kontinu Peubah acak kontinu adalah peubah acak yang dibangkitkan dari ruang sampel kontinu. Peubah acak kontinu diperoleh dari semua nilai yang berada pada skala kontinu dan menyatakan data yang dapat diukur seperti semua kemungkinan tinggi, berat, temperatur, jarak, jangka hidup dan sebagainya. Definisi Fungsi adalah fungsi kepekatan peluang peubah acak kontinu di X, yang didefinisikan di atas himpunan semua bilangan real R, bila

2 Definisi Distribusi kumulatif kepekatan diberikan oleh : suatu peubah acak kontinu X dengan fungsi Distribusi Peluang Gabungan Distribusi peluang dikelompokkan berdasarkan jenis datanya yaitu distribusi peluang gabungan diskret dan distribusi peluang gabungan kontinu. A. Distribusi Peluang Gabungan Peubah Acak Diskrit Bila X dan Y dua peubah acak diskrit, distribusi peluang yang terjadi secara serentak dapat dinyatakan dengan fungsi untuk setiap pasangan nilai dalam peubah acak X dan Y. Biasanya dinamakan distribusi peluang gabungan X dan Y. Jadi pada kasus diskret, dimana nilai menyatakan hasil x dan y terjadi bersama-sama. Definisi Fungsi X dan Y bila adalah distribusi peluang gabungan peubah acak diskrit untuk setiap daerah A pada bidang xy, B. Distribusi Peluang Gabungan Peubah Acak Kontinu Bila X dan Y adalah peubah acak kontinu, distribusi peluang gabungan peubah acak kontinu dapat didefinisikan sebagai berikut: dari Definisi Fungsi kontinu X dan Y bila adalah fungsi kepekatan peluang gabungan peubah acak untuk setiap daerah A di bidang xy.

3 Distribusi Marginal Jika adalah distribusi peluang gabungan dari peubah acak diskret X dan Y maka distribusi peluang dari X,, dapat diperoleh dengan menjumlahkan terhadap semua nilai Y. Sebaliknya distribusi peluang dari Y,, dapat diperoleh dengan menjumlahkan untuk semua nilai X. Berdasarkan hal tersebut dan masingmasing dinamakan distribusi marginal dari X dan Y. Jika X dan Y peubah acak kontinu maka tanda penjumlahan diganti dengan integral. Definisi Distribusi marginal dari X dan Y didefinisikan sebagai untuk data diskret, dan untuk data kontinu Distribusi Bersyarat Jika X dan Y adalah peubah acak dengan fungsi kepekatan peluang bersama, maka fungsi kepekatan peluang bersyarat dari X dan Y didefinisikan sebagai berikut Definisi Misalkan X dan Y dua peubah acak, diskret maupun kontinu. Distribusi bersyarat peubah acak Y, bila diketahui X = x, dinyatakan oleh dan distribusi bersyarat peubah acak X, bila diketahui Y = y, dinyatakan oleh Distribusi Normal Distribusi normal adalah salah datu distribusi peluang kontinu yang terpenting dalam seluruh bidang statistika 11. Suatu peubah acak dikatakan mengikuti distribusi normal dengan parameter mean dan variansi, dapat dilambangkan dengan jika memiliki fungsi kepekatan peluang sebagai berikut : 2.4. Metode Maximum Likelihood

4 Metode maximum likelihood merupakan salah satu cara untuk mengestimasi parameter yang tidak diketahui. Berikut adalah definisi-definisi dan konsep yang diperlukan dalam metode maximum likelihood. Definisi Fungsi kepekatan peluang peubah acak yang dihitung pada adalah, dan ini dirujuk oleh fungsi likelihood. Untuk tetap, fungsi likelihood adalah fungsi dari parameter yang dinotasikan dengan. Jika merupakan sampel acak yang saling bebas dari, maka Berdasarkan definisi , fungsi likelihood dibentuk logaritma naturalnya. Bila logaritma natural fungsi likelihood ini terdiferensikan dalam maka sedemikian sehingga : 2.6. Estimasi Parameter dalam Model Regresi Linear Berganda Parameter model regresi dapat diestimasi dengan banyak metode, namun pada skripsi ini yang digunakan hanya metode maximum likelihood dan metode Bayes Metode Maximum Likelihood dalam Model Regresi Linear Berganda Adapun uraian mengenai bagaimana mendapatkan estimasi parameter dengan menggunakan metode maximum likelihood pada model regresi linear berganda ditampilkan pada Lampiran 1. Berdasarkan Lampiran 1 diperoleh fungsi likelihood model regresi adalah : { } dan logaritma natural fungsi likelihood model regresi sebagai berikut : { } Dimana masing-masing turunannya adalah sebagai berikut :

5 2.6.2 Persamaan 2.6.2, disederhanakan akan menjadi : Sistem Persamaan disebut persamaan normal. Jika dinyatakan dalam bentuk matriks, maka persamaan normal diatas akan menjadi Dengan demikian diperoleh hasil estimasi parameter adalah sebagai berikut : Sedangkan untuk variansinya diperoleh turunan sebagai berikut : Penyelesaian Persamaan adalah

6 dengan adalah standard error regresi dapat ditulis sebagai berikut : 2.6. Estimasi Parameter dalam Model Regresi Linear Berganda Parameter model regresi dapat diestimasi dengan banyak metode, namun pada skripsi ini yang digunakan hanya metode maximum likelihood dan metode Bayes Metode Maximum Likelihood dalam Model Regresi Linear Berganda Adapun uraian mengenai bagaimana mendapatkan estimasi parameter dengan menggunakan metode maximum likelihood pada model regresi linear berganda ditampilkan pada Lampiran 1. Berdasarkan Lampiran 1 diperoleh fungsi likelihood model regresi adalah : { } dan logaritma natural fungsi likelihood model regresi sebagai berikut : { } Dimana masing-masing turunannya adalah sebagai berikut : 2.6.2

7 Persamaan 2.6.2, disederhanakan akan menjadi : Sistem Persamaan disebut persamaan normal. Jika dinyatakan dalam bentuk matriks, maka persamaan normal diatas akan menjadi Dengan demikian diperoleh hasil estimasi parameter adalah sebagai berikut : Sedangkan untuk variansinya diperoleh turunan sebagai berikut : Penyelesaian Persamaan adalah dengan adalah standard error regresi dapat ditulis sebagai berikut :