Kecerdasan Buatan Materi 6. Iterative Dichotomizer Three (ID3)

Transkripsi

1 Kecerdasan Buatan Materi 6 Iterative Dichotomizer Three (ID3)

2 Pengertian ID3 Singkatan dari Iterative Dichotomiser Three. Atau Induction of Decision Tree. Diperkenalkan pertama kali oleh Ross Quinlan (1979)

3 Pengertian ID3 Algoritma matematika yang digunakan untuk menghasilkan suatu pohon keputusan yang mampu mengklasifikasi suatu obyek. ID3 merepresentasi konsep-konsep dalam bentuk pohon keputusan. Aturan-aturan yang dihasilkan oleh ID3 mempunyai relasi yang hirarkis seperti suatu pohon (mempunyai akar, titik, cabang, dan daun). Struktur model yang dihasilkan ID3 disebut sebagai pohon keputusan (decision tree) atau pohon aturan (rule tree).

4 Contoh Kasus ID3 14 Minggu Permainan Tenis Pada Setiap Sabtu Pagi

5

6 Contoh Kasus ID3 Atribut Tujuan adalah Bermain Tenis yang memiliki value ya atau tidak. Atribut adalah Ramalan_Cuaca, Suhu, Kelembaban, dan Angin.

7 Algoritma & Flowchart

8 Entropy Entropy adalah formula untuk menghitung homogenitas dari sebuah sample / contoh.

9 Entropy Entropy(S) = 0, jika semua contoh pada S berada dalam kelas yang sama. Entropy(S) = 1, jika jumlah contoh positif dan jumlah contoh negatif dalam S adalah sama. 0 < Entropy(S) < 1, jika jumlah contoh positif dan jumlah contoh negatif dalam S tidak sama.

10 Entropy Kasus Permainan Tenis S adalah koleksi dari 14 contoh dengan 9 contoh positif dan 5 contoh negatif, ditulis dengan notasi [9+,5-]. Positif di sini maksudnya value Bermain_Tenis = Ya sedangkan negatif sebaliknya.

11 Entropy Kasus Permainan Tenis

12 Gain Gain(S,A) adalah Information Gain dari sebuah atribut A pada koleksi contoh S

13 Gain Gain untuk atribut angin

14 Gain Gain untuk atribut kelembaban

15 Gain Gain untuk atribut suhu

16 Gain Gain untuk atribut ramalan cuaca

17 Kesimpulan Jadi, information gain untuk 4 atribut yang ada adalah : Gain(S,Angin) = Gain(S,Kelembaban) = Gain(S,Suhu) = Gain(S,Ramalan_Cuaca) = Attribute Ramalan_Cuaca akan menyediakan prediksi terbaik untuk target attribute Bermain_Tenis.

18 Decision Tree

19 Gain Untuk node cabang Ramalan_Cuaca = Cerah, S Cerah = [M1, M2, M8, M9, M11]

20 Gain Gain untuk atribut suhu

21 Gain Gain untuk atribut kelembaban

22 Gain Gain untuk atribut angin

23 Kesimpulan Jadi, information gain untuk 3 atribut yang ada adalah : Gain(S,Suhu) = Gain(S,Kelembaban) = Gain(S,Angin) = Atribut Kelembaban menyediakan prediksi terbaik pada level ini

24 Decision Tree

25 Gain Untuk node cabang Ramalan_Cuaca = Hujan, S hujan = [M4, M5, M6, M10, M14]

26 Gain Gain untuk atribut suhu

27 Gain Gain untuk atribut kelembaban

28 Gain Gain untuk atribut angin

29 Kesimpulan Jadi, information gain untuk 3 atribut yang ada adalah : Gain(S,Suhu) = Gain(S,Kelembaban) = Gain(S,Angin) = Atribut Angin menyediakan prediksi terbaik pada level ini

30 Decision Tree

31 Rule/Aturan If Ramalan_Cuaca = Cerah AND Kelembaban = Tinggi THEN Bermain_Tenis = Tidak If Ramalan_Cuaca = Cerah AND Kelembaban = Normal THEN Bermain_Tenis = Ya If Ramalan_Cuaca = Mendung THEN Bermain_Tenis = Ya If Ramalan_Cuaca = Hujan AND Angin = Kuat THEN Bermain_Tenis = Tidak If Ramalan_Cuaca = Hujan AND Angin = Lemah THEN Bermain_Tenis = Ya

32 Hasil ID3 Decision Tree

33 Hasil ID3 Contoh Data

34 Hasil ID3 Contoh Data

35 Kelebihan ID3 Dapat membuat aturan prediksi yang mudah dimengerti. Membangun pohon keputusan dengan cepat. Membangun pohon keputusan yang pendek. Hanya membutuhkan beberapa tes atribut hingga semua data diklasifikasikan.

36 Kelemahan ID3 Jika contoh yang diteliti terlalu kecil / sederhana mungkin membuat data overclassified Hanya satu atribut yang dapat dites dalam satu waktu untuk membuat keputusan. Mengelompokkan data yang berkelanjutan mungkin terhitung mahal, sebanyak pohon yang harus dibuat untuk melihat dimana menghentikan proses kelanjutannya

37 Contoh Output Program ID3

38 Senyuman adalah sebuah lengkungan yang meluruskan segala sesuatunya. -Phyllis Diller-

39 subject : AI_A