Pengenalan Pola. Klasifikasi Linear Discriminant Analysis

Transkripsi

1 Pengenalan Pola Klasifiasi Linear Discriminant Analysis PTIIK

2 Course Contents 1 Analisis Disriminan 2 Linear Classification 3 Linear Discriminant Analysis (LDA 4 Studi Kasus dan Latihan

3 Analisis Disriminan Salah satu teni statisti yang dapat digunaan pada hubungan dependensi dari suatu variabel Suatu teni analisis multivariate yang digunaan untu menglasifiasi suatu obje e dalam dua elompo atau lebih berdasaran variabel independennya

4 Analisis Disriminan Pengelompoan pada analisis disriminan bersifat mutually eclusive dan ehaustive mutually eclusive yaitu jia suatu obje telah masu pada salah satu elompo maa tida dapat menjadi anggota dari elompo yang lain ehaustive yaitu menyeluruh berdasaran sejumlah variabel penjelas berupa data uantitatif / continue

5 Linear Classification Suatu bentu lasifiasi yang bertujuan untu menemuan batas-batas eputusan (decision boundaries di dalam ruang fitur (input secara linier R 1 R 2 X 2 R 4 R 3 X 1 Batas-batas eputusan linier pada ruang input 2D

6 Linear Classification Terdapat sebuah fungsi disriminan ( untu setiap class Aturan lasifiasi : { : arg ma ( } Ingat bahwa fungsi loss 0-1 menyebaban aturan lasifiasi menjadi : R Jadi, P( G X dapat digunaan sebagai pengganti dari ( R j { : arg ma P( G j X } j j

7 Linear Discriminant Analysis Esensi : meminimalan error pada Bayes Classifier Jia diasumsian epadatan class ondisional berdistribusi Gaussian Multivariate dan memilii ovarians yang sama untu setiap class, maa : dimana: K l l l f f X G 1 ( ( Pr( ( ( 2 1 ep( (2 1 ( 1 2 1/ 2 / T p f Σ Σ

8 Fungsi Disriminan : Aturan lasifiasi : Euivalen dengan : Linear Discriminant Analysis ( arg ma ( ˆ G arg ma Pr( ( ˆ X G G ln( i T i i T i i p C C f

9 Contoh LDA LDA mampu menghindari masing

10 Studi Kasus : Pabri "ABC" menghasilan Chip Ring dengan ualitas yang sangat mahal dan tinggi. Kualitas tersebut diuur dalam uuran elengungan dan diameter. Hasil ontrol ualitas oleh para ahli diberian dalam tabel di bawah ini. Curvature Diameter Quality Control Result Passed Passed Passed Passed Not passed Not passed Not passed

11 Sebagai seorang onsultan pabri, Anda mendapatan tugas untu mengatur riteria pengendalian ualitas secara otomatis. Kemudian, manajer pabri juga ingin menguji riteria pada jenis baru dari chip ring yang bahan para ahli berpendapat berbeda antara satu sama lain. chip ring baru tersebut memilii elengungan 2.81 dan diameter 5,46.

12 Solusi Ketia ita merencanaan fitur, ita dapat melihat bahwa data tersebut secara linear terpisah. Kita bisa menari garis untu memisahan dua elompo. Masalahnya adalah untu menemuan garis dan memutarnya sedemiian rupa untu memasimalan jara antara elompo dan untu meminimalan jara dalam elompo.

13 X = fitur (atau variabel independent dari semua data. Setiap baris merepresentasian satu obje Setiap olom merepresentasian satu fitur Y = class (atau variabel dependent dari semua data. Setiap baris merepresentasian satu obje dan hanya memilii satu olom

14 = y=

15 X = data dari baris e-, 3 = [ ] g = jumlah class pada y, g=2 X i = fitur untu class e i. Dilauan pemisahan edalam class berdasaran jumlah class pada y X 1 = X 2 =

16 Hitung μi = mean features dari group i dan μ = mean global Hitung global i 0 (Mean Corrected : ( i minus mean

17 Hitung matri Kovarian group I c ( 0 T 0 i i i n i C1 = C2 =

18 Mengumpulan matris ovarians per elompo e dalam satu nilai. Hal ini dihitung untu setiap entri dalam matris menggunaan formula : C(r,s 1 n g i1 n i c i (r,s Dalam asus ini: 4/7* /7*0.259 = /7*( /7*( = dan 4/7* /7*2.142 = 1.689

19 Matris ovarians C = Matris inversnya C -1 =

20 P = prior probability vector P = = /7 3/7 Fungsi Disriminan : 1 1 ln( Tentuan class dari object e dalam class i yang memilii nilai f i masimum f i C i 1 T ic 2 T i p i

21 Hasil

22 Tugas Tambahan metode LDA pada apliasi pengenalan pola dari data UCI yang alian erjaan sebelumnya Munculan eluaran sesuai dengan tahapan-tahapan penyelesaian: Sheet4 / Form4 Covarians, Prior, Fungsi Disriminan, dan Hasil Klasifiasi

23 /