MKB3462 KECERDASAN BUATAN. Muhammad Zidny Naf an, M.Kom.

Transkripsi

1 MKB3462 KECERDASAN BUATAN Muhammad Zidny Naf an, M.Kom.

2 Decision Tree (DT) Learning Menemukan fungsi2 pendekatan yang bernilai diskrit Jenis decision tree: ID3 (iterative dychotomizer version 3) ASSISTANT C4.5

3 Decision Tree (DT) Learning DT merupakan bagian dari proses klasifikasi Hal-hal yang berhubungan dengan klasifikasi: Meramalkan kategori label kelas ( nominal atau terpisah) Menggolongkan data Contoh aplikasi klasifikasi adalah: Persetujuan kredit Target marketing Diagnosa medis Analisis keefektifan tindakan

4 Terminologi Data set: kumpulan sampel data Atribut: field/kolom Data learning (data latih): data yang digunakan untuk membangun decision tree Data testing (data uji): data untuk menguji kemampuan decision tree dalam menangani masalah baru

5 ID3 Iterative Dichotomiser Three Membangun decision tree secara top down Diawali: Atribut mana yang pertama kali menjadi root? Perlu adanya seleksi atribut: information gain, entropy

6 Entropy Parameter untuk mengukur heterogenitas (keberagaman) dari suatu kumpulan sample data Semakin heterogen, entropy semakin besar Rumus: Entropy S p i log 2 p i c i c: jumlah nilai yang ada pada atribut target (jumlah kelas klasifikasi) p i : menyatakan jumlah sampel untuk kelas i

7 Information Gain Mengukur efektivitas suatu atribut dalam mengklasifikasikan data Rumus: Gain S, A Entropy S v Values(A) S v S Entropy S v A: atribut V: menyatakan suatu nilai yang mungkin untuk atribut A Values(A) : himpunan nilai-nilai yang mungkin untuk atribut A S v : jumlah sampel untuk nilai v S : jumlah seluruh sampel data Entropy S v : Entropy untuk sampel-sampel yang memiliki nilai v

8 Tahapan Algoritma Decision Tree 1. Siapkan data training 2. Pilih atribut sebagai root (akar) Entropy( S) n i1 pi*log 2 pi Gain( S, A) Entropy( S) n i1 S i S * Entropy( S i ) 3. Buat cabang untuk tiap-tiap nilai 4. Ulangi proses untuk setiap cabang sampai semua kasus pada cabang memiliki kelas yg sama 8

9 1. Siapkan data training 9

10 2. Pilih atribut sebagai akar Untuk memilih atribut akar, didasarkan pada nilai Gain tertinggi dari atribut-atribut yang ada. Untuk mendapatkan nilai Gain, harus ditentukan terlebih dahulu nilai Entropy Rumus Entropy: Entropy( S) n i1 pi*log 2 pi S = Himpunan Kasus n = Jumlah Partisi S pi = Proporsi dari Si terhadap S Rumus Gain: Gain( S, A) Entropy( S) n i1 S i S * Entropy( S i ) S = Himpunan Kasus A = Atribut n = Jumlah Partisi Atribut A Si = Jumlah Kasus pada partisi ke-i S = Jumlah Kasus dalam S 10

11 Perhitungan Entropy dan Gain Akar 11

12 Penghitungan Entropy Akar Entropy Total Entropy (Outlook) Entropy (Temperature) Entropy (Humidity) Entropy (Windy) 12

13 Penghitungan Entropy Akar NODE ATRIBUT JML KASUS TIDAK YA (Si) ENTROPY (S) (Si) 1 TOTAL ,86312 OUTLOOK CLOUDY RAINY ,72193 SUNNY ,97095 GAIN TEMPERATURE HUMADITY WINDY COOL HOT MILD ,91830 HIGH ,98523 NORMAL FALSE ,81128 TRUE ,

14 Penghitungan Gain Akar 14

15 Penghitungan Gain Akar NODE ATRIBUT JML KASUS TIDAK YA (Si) (S) (Si) ENTROPY GAIN 1 TOTAL ,86312 OUTLOOK 0,25852 CLOUDY RAINY ,72193 SUNNY ,97095 TEMPERATURE 0,18385 COOL HOT MILD ,91830 HUMADITY 0,37051 HIGH ,98523 NORMAL WINDY 0,00598 FALSE ,81128 TRUE ,

16 Gain Tertinggi Sebagai Akar Dari hasil pada Node 1, dapat diketahui bahwa atribut dengan Gain tertinggi adalah HUMIDITY yaitu sebesar Dengan demikian HUMIDITY dapat menjadi node akar High 1. HUMIDITY Normal Ada 2 nilai atribut dari HUMIDITY yaitu HIGH dan NORMAL. Dari kedua nilai atribut tersebut, nilai atribut NORMAL sudah mengklasifikasikan kasus menjadi 1 yaitu keputusannya Yes, sehingga tidak perlu dilakukan perhitungan lebih lanjut Tetapi untuk nilai atribut HIGH masih perlu dilakukan perhitungan lagi 1.1????? Yes 16

17 1. Siapkan data training 17

18 2. Buat cabang untuk tiap-tiap nilai Untuk memudahkan, dataset di filter dengan mengambil data yang memiliki kelembaban HUMADITY=HIGH untuk membuat table Node 1.1 OUTLOOK TEMPERATURE HUMIDITY WINDY PLAY Sunny Hot High FALSE No Sunny Hot High TRUE No Cloudy Hot High FALSE Yes Rainy Mild High FALSE Yes Sunny Mild High FALSE No Cloudy Mild High TRUE Yes Rainy Mild High TRUE No 18

19 Perhitungan Entropi Dan Gain Cabang NODE ATRIBUT JML KASUS YA (Si) TIDAK (S) (Si) ENTROPY GAIN 1.1 HUMADITY ,98523 OUTLOOK 0,69951 CLOUDY RAINY SUNNY TEMPERATURE 0,02024 COOL HOT ,91830 MILD WINDY 0,02024 FALSE TRUE ,

20 Gain Tertinggi Sebagai Node 1.1 Dari hasil pada Tabel Node 1.1, dapat diketahui bahwa atribut dengan Gain tertinggi adalah OUTLOOK yaitu sebesar Dengan demikian OUTLOOK dapat menjadi node kedua 1. HUMIDITY Artibut CLOUDY = YES dan SUNNY= NO sudah mengklasifikasikan kasus menjadi 1 keputusan, sehingga tidak perlu dilakukan perhitungan lebih lanjut Tetapi untuk nilai atribut RAINY masih perlu dilakukan perhitungan lagi Cloudy High 1.1 OUTLOOK Rainy Sunny Normal Yes Yes 1.1.2????? No 20

21 3. Ulangi proses untuk setiap cabang sampai semua kasus pada cabang memiliki kelas yg sama OUTLOOK TEMPERATURE HUMIDITY WINDY PLAY Rainy Mild High FALSE Yes Rainy Mild High TRUE No NODE 1.2 ATRIBUT JML KASUS (S) YA (Si) TIDAK (Si) ENTROPY GAIN HUMADITY HIGH & OUTLOOK RAINY TEMPERATURE 0 COOL HOT MILD WINDY 1 FALSE TRUE

22 Gain Tertinggi Sebagai Node Dari tabel, Gain Tertinggi adalah WINDY dan menjadi node cabang dari atribut RAINY High 1.1 OUTLOOK 1. HUMIDIT Y Normal Yes Karena semua kasus sudah masuk dalam kelas Cloudy Rainy Sunny Jadi, pohon keputusan pada Gambar merupakan pohon keputusan terakhir yang terbentuk Yes False WINDY True No Yes No 22

23 Cara Lain memilih Atribut Gain Ratio Gini Index

24 Gain Ratio for Attribute Selection (C4.5) Hasil Information gain akan bias untuk atribut dengan nilai atribut yang besar Algoritma C4.5 (a successor of ID3) menggunakan gain ratio untuk mengatasi masalah tersebut v D j D j SplitInfoA ( D) log 2( j1 D D Ex. GainRatio(A) = Gain(A)/SplitInfo(A) ) GainRatio(income) = 0.029/1.557 = The attribute with the maximum gain ratio is selected as the splitting attribute 24

25 Gini Index (CART) If a data set D contains examples from n classes, gini index, gini(d) is defined as n gini( D) 1 p 2 j j1 where p j is the relative frequency of class j in D If a data set D is split on A into two subsets D 1 and D 2, the gini index gini(d) is defined as D ( ) 1 D ( ) 2 gini A D gini D1 gini( D2) D D Reduction in Impurity: gini( A) gini( D) gini ( D) A The attribute provides the smallest gini split (D) (or the largest reduction in impurity) is chosen to split the node (need to enumerate all the possible splitting points for each attribute) 25

26 Computation of Gini Index Ex. D has 9 tuples in buys_computer = yes and 5 in no gini( D) Suppose the attribute income partitions D into 10 in D 1 : {low, medium} and 4 in D 2 gini ( D) Gini( D1 ) Gini( 2) income { low, medium} D 2 Gini {low,high} is 0.458; Gini {medium,high} is Thus, split on the {low,medium} (and {high}) since it has the lowest Gini index All attributes are assumed continuous-valued May need other tools, e.g., clustering, to get the possible split values Can be modified for categorical attributes 26

27 Comparing Attribute Selection Measures The three measures, in general, return good results but Information gain: biased towards multivalued attributes Gain ratio: tends to prefer unbalanced splits in which one partition is much smaller than the others Gini index: biased to multivalued attributes has difficulty when # of classes is large tends to favor tests that result in equal-sized partitions and purity in both partitions 27

28 Other Attribute Selection Measures CHAID: a popular decision tree algorithm, measure based on χ 2 test for independence C-SEP: performs better than info. gain and gini index in certain cases G-statistic: has a close approximation to χ 2 distribution MDL (Minimal Description Length) principle (i.e., the simplest solution is preferred): The best tree as the one that requires the fewest # of bits to both (1) encode the tree, and (2) encode the exceptions to the tree Multivariate splits (partition based on multiple variable combinations) CART: finds multivariate splits based on a linear comb. of attrs. Which attribute selection measure is the best? Most give good results, none is significantly superior than others 28

29 Decision Tree Induction: An Example Training data set: Buys_computer age income student credit_rating buys_computer <=30 high no fair no <=30 high no excellent no high no fair yes >40 medium no fair yes >40 low yes fair yes >40 low yes excellent no low yes excellent yes <=30 medium no fair no <=30 low yes fair yes >40 medium yes fair yes <=30 medium yes excellent yes medium no excellent yes high yes fair yes >40 medium no excellent no 29

30 Tools

31 References Romi Satrio Wahono, Klasifikasi, i-dm-04-klasifikasi-june2015.pptx