CLASSIFIER BERDASAR TEORI BAYES. Pertemuan 4 KLASIFIKASI & PENGENALAN POLA

Transkripsi

1 CLASSIFIER BERDASAR TEORI BAYES Perteuan 4 KLASIFIKASI & PENGENALAN POLA

2 Miniu distance classifiers elakukan klasifikasi berdasarkan jarak terpendek. Ada dua jenis yang dibahas:. The Euclidean Distance Classifier. The Mahalanobis Distance Classifier Miniu Distance Classifiers

3 Classifier Bayesian Optial enyederhanakan perasalahan dgn enggunakan asusi-asusi berikut: Seua kelas epunyai probabilitas yang saa equiprobable Seua data dl seua kelas epunyai distribusi noral atau Gaussian Seua kelas epunyai atriks kovarians yg saa Matriks kovarians berbentuk atriks diagonal dan seua eleen diagonalnya saa besar, yaitu S = I dengan I adl atriks identitas The Euclidean Distance Classifier 3

4 Dengan asusi-asusi di atas, aka Classifier Bayesian Optial enjadi saa dengan classifier jarak Euclidean Euclidean Distance Classifier, yaitu suatu pola akan diasukkan ke dala kelas i jika i j T i i i j dengan S adl atriks kovarians dan i adl rerata kelas i. Jika julah kelas lebih dari dua aka kelas suatu pola ditentukan oleh jarak yang paling pendek iniu The Euclidean Distance Classifier 4

5 Dari forula yang digunakan untuk classifier jarak euclidean di atas, terlihat bahwa ada keiripan dengan classifier berdasar teori Bayes yang telah dipelajari pada perteuan sebelunya. Perbedaan yang juga berarti penyederhanaan diakibatkan oleh karena seua kelas yang ada epunyai probabilitas priori yang saa besar equiprobable dan juga atriks kovarian yang saa dan berbentuk atriks diagonal. The Euclidean Distance Classifier 5

6 Jk asusi terakhir pd classifier jarak Euclidean tdk terpenuhi atau dgn kata lain atriks kovarians tdk berbentuk atriks diagonal dan seua eleen diagonalnya tdk saa besar, aka jenis classifier disebut dgn classifier jarak Mahalanobis Mahalanobis Distance Classifier Classifier jarak Mahalanobis enyatakan bahwa suatu pola akan diasukkan ke dala kelas i jika i T S i j T S j i j The Mahalanobis Distance Classifier 6

7 Nor atau panjang Euclidean suatu vektor u = u,u,..,u n didefinisikan sbg: u / u. u u u... un Jarak Euclidean antara vektor u = u,u,..,u n dan v = v,v,..,v n didefinisikan sbg: de u, v u v u v u v... u n vn Nora & Jarak Euclidean 7

8 Terdapat pekerjaan klasifikasi dgn kelas dl ruang 3 diensi. Kedua kelas diodelkan dgn distribusi Gaussian dengan rerata kelas adl = [0 0 0] T dan rerata kelas adl = [ ] T. Kedua kelas py probabilitas yg saa dan atriks kovarian utk kedua kelas adl saa sbb: S S Jika tdpt pola = [ ] T, aka klasifikasikan pola tsb enggunakan: classifier jarak Euclidean classifier jarak Mahalanobis Contoh 8

9 Penyelesaian Klasifikasi enggunakan jarak euclidean Dari soal diketahui: S S P P

10 T T Jarak euclidean ke kelas

11 T T Jarak euclidean ke kelas

12 Jarak vektor ke kelas lebih pendek daripada jarak vektor ke kelas, atau sehingga vektor asuk ke kelas Dengan cara yang saa, aka klasifikasi dapat dilakukan enggunakan classifier jarak ahalanobis.

13 3 S d S d T T Klasifikasi enggunakan jarak ahalanobis Jarak ahalanobis ke kelas Dala hal ini kita perlu enghitung invers atriks kovarians S terlebih dahulu.

14 Invers atriks kovarians: S Jarak ahalanobis ke kelas d S

15 Jarak ahalanobis ke kelas d S Jadi, enggunakan classifier jarak ahalanobis vektor asuk ke kelas yang ana? 5

16 Untuk kepentingan prograing aka baik rerata kelas aupun data dapat dibentuk enjadi satu atriks. Misal ada kelas rerata dibentuk atriks rerata 3 sbb: = [ ] Misal ada 3 data yang akan diklasifikasikan dapat dibentuk atriks data 33 sbb: = [ 3 ] Notes 6

17 Buatlah file untuk engerjakan soal contoh di atas, cobalah juga ebuat fungsi untuk enghitung jarak euclidean dan ahalanobis sehingga dapat enyederhanakan progra utaa yang anda buat. Tugas Anda 7

18 Terdapat data pada tabel berikut yang terdiri dari dua kelas yaitu kelas dan kelas. Diketahui bahwa probabilitas priori kedua kelas adalah saa besar atau P =P =0,5. Tugas Anda No.data Kelas Kelas Posisi Posisi y Posisi Posisi y,5 3, 9 3 0,5 0,8 4 0,5,3, ,5 0, 3 8 0,8 3 3, ,9 9, 0,6 3,, Siga Rerata

19 Maka rerata kelas dan rerata kelas = [.8.8] T = [0.9.53] T Klasifikasikanlah data d = [5 4] T enggunakan euclidean distance classifier. Klasifikasikanlah data d = [5 4] T enggunakan ahalanobis distance classifier jika diketahui S S Tugas Anda lanj. 9

20 An Introduction to Pattern Recognition: A Matlab Approach, 00, Sergios Theodoris, Elseivier Inc. Referensi 0