LEARNING ARTIFICIAL INTELLIGENT. Dr. Muljono, S.Si, M. Kom

Transkripsi

1 LEARNING ARTIFICIAL INTELLIGENT Dr. Muljono, S.Si, M. Kom

2 Outline Decision tree learning Jaringan Syaraf Tiruan K-Nearest Neighborhood Naïve Bayes

3 Decision Tree Learning : Klasifikasi untuk penerimaan pegawai baru merupakan salah satu studi kasus yang akan dijabarkan. Dimana terdapat 11 orang yang mengikuti tes penerimaan pegawai baru dengan menggunakan 3 parameter atau atribut penilaian sebagai berikut: IPK dikatagorikan (Bagus, Cukup, Kurang) Psikologi dikatagorikan (Tinggi, Sedang, Rendah) Wawancara dikatagorikan (Baik, Buruk)

4 Bagaimana menemukan aturan? Pelamar IPK Psikologi Wawancara Diterima P1 Bagus Tinggi Baik Ya P2 Bagus Sedang Baik Ya P3 Bagus Sedang Buruk Tidak P4 Bagus Rendah Buruk Tidak P5 Cukup Tinggi Baik Ya P6 Cukup Sedang Baik Ya P7 Cukup Sedang Buruk Tidak P8 Cukup Rendah Buruk Tidak P9 Kurang Tinggi Baik Ya P10 Kurang Sedang Baik Ya P11 Kurang Sedang Buruk Tidak P12 Kurang Rendah Buruk Tidak

5 Wawancara Baik Buruk Ya Tidak (Wawancara 'Baik' ) Diterima 'Ya'

6 Bagaimana menemukan aturan? Pelamar IPK Psikologi Wawancara Diterima P1 Bagus Tinggi Baik Ya P2 Bagus Sedang Baik Ya P3 Bagus Sedang Buruk Ya P4 Bagus Rendah Buruk Tidak P5 Cukup Tinggi Baik Ya P6 Cukup Sedang Baik Ya P7 Cukup Sedang Buruk Ya P8 Cukup Rendah Buruk Tidak P9 Kurang Tinggi Baik Ya P10 Kurang Sedang Buruk Tidak P11 Kurang Rendah Baik Ya

7 Wawancara Baik Buruk Ya Psikologi Tinggi Sedang Rendah Tidak IPK Tidak Bagus Cukup Kurang Ya Ya Tidak

8 Rule ' ' ')) ' ( ') ' ( ') ' (( ')) ' ( ') ' ( ') ' (( ') ' ( Ya Diterima Cukup IPK Sedang Psikologi Buruk Wawancara Bagus IPK Sedang Psikologi Buruk Wawancara Baik Wawancara

9 Masalah Data tidak lengkap IPK : 3 kemungkinan nilai Psikologi: 3 kemungkinan nilai Wawancara: 2 kemungkinan nilai Data lengkap = 3 x 3 x 2 = 18 records Aturan yang men-generalisasi unseen data?

10 Learning Bagaimana untuk data yang sangat banyak? Bagaimana menemukan aturan? Bagaimana jika datanya tidak lengkap? Aturan yang general untuk data yang akan datang? Menemukan perbedaan dari dua hal yang mirip? Menemukan kesamaan dari dua hal yang berbeda?

11 Data penerimaan pegawai baru Pelamar IPK Psikologi Wawancara Diterima P1 Bagus Tinggi Baik Ya P2 Bagus Sedang Baik Ya P3 Bagus Sedang Buruk Ya P4 Bagus Rendah Buruk Tidak P5 Cukup Tinggi Baik Ya P6 Cukup Sedang Baik Ya P7 Cukup Sedang Buruk Ya P8 Cukup Rendah Buruk Tidak P9 Kurang Tinggi Baik Ya P10 Kurang Sedang Buruk Tidak P11 Kurang Rendah Baik Ya

12

13 Langkah Pertama Tentukan akar dari pohon, akar atau node awal akan diambil dari atribut yang dipilih, dengan cara menghitung kemudian memilih informasi gain tertinggi dari masing-masing atribut. Namun sebelum menghitung gain dari atribut, harus dihitung dulu nilai entropy dari setiap tupel.

14 Jumlah sampel setiap atribut : Himpunan Kasus IPK Psikologi Wawancara Jumlah Sampel Ya Tidak Bagus Cukup Kurang Tinggi Sedang Rendah Baik Buruk 5 2 3

15 Menghitung Entropy Perhitungan untuk mencari nilai Entropy dari setiap tupel atribut masing-masing Entropy Parameter untuk mengukur heterogenitas (keberagaman) dari kumpulan sampel data. Jika kumpulan sampel data semakin heterogen, maka nilai entropy-nya semakin besar.

16 Entropy S : Himpunan Kasus n : jumlah kelas pada atribut target (jumlah kelas klasifikasi). p i : Proporsi sampel untuk kelas i ( Proporsi dari Si terhadap S)

17 Jumlah sampel setiap atribut : Himpunan Kasus IPK Psikologi Wawancara Jumlah Sampel Ya Tidak Bagus Cukup Kurang Tinggi Sedang Rendah Baik Buruk 5 2 3

18 Entropy (Total-Kelas)

19 Entropy IPK-Bagus

20 Entropy IPK-Cukup

21 Entropy IPK-Kurang

22 Entropy Psikologi-Tinggi

23 Entropy Psikologi-Sedang

24 Entropy Psikologi-Rendah

25 Entropy Wawancara-Baik

26 Entropy Wawancara-Buruk

27 Menghitung Information Gain (IG) Efektivitas atribut dalam mengklasifikasikan data Dihitung berdasarkan entropy

28 Information Gain (IG) S : himpunan kasus A : atribut n : jumlah partisi pada atribut A S i : jumlah sampel pada partisi ke i S : jumlah seluruh sampel data pada kasus S Entropy(S i ) : entropy untuk sampel-sampel pada partisi ke i

29 IG untuk IPK

30 IG untuk Psikologi

31 IG untuk Wawancara

32 Hasil Perhitungan Gain dan Entropy Himpunan kasus Jumlah kasus Ya Tidak Entropi Gain IPK Bagus Cukup Kurang Psikologi Tinggi Sedang Rendah Wawancara Baik Buruk

33 Menentukan Root dari Decision Tree Gain Tertinggi adalah atribut Wawancara (nilai = ), Sehingga Atribut Wawancara menjadi root dari Decision Tree Atribut Wawancara (Nilai : Baik dan Buruk) Nilai : Baik ada 6 kasus Ya diterima dan 0 kasus Tidak diterima

34 Pohon Keputusan Pada Node Pertama

35 Penentuan Node Pada Wawancara - Nilai Buruk Pelamar IPK Psikologi Wawancara Diterima P3 Bagus Sedang Buruk Ya P4 Bagus Rendah Buruk Tidak P7 Cukup Sedang Buruk Ya P8 Cukup Rendah Buruk Tidak P10 Kurang Sedang Buruk Tidak

36 Menghitung Entropy dari Wawancara - nilai Buruk

37 Entropy IPK-Bagus

38 Entropy IPK-Cukup

39 Entropy IPK-Kurang

40 Entropy Psikologi-Sedang

41 Entropy Psikologi-Rendah

42 Menghitung Gain dari nilai Buruk

43 Hasil Perhitungan Entropy dan Gain Jumlah kasus Ya Tidak Entropi Gain Wawancara IPK Bagus Cukup Kurang Psikologi Sedang Rendah

44 Penentuan Node Lanjutan Gain tertinggi adalah Psikologi sebesar atribut Psikologi dapat menjadi node lanjutan dari atribut Wawancara Buruk Atribut Psikologi (Nilai : Sedang dan Rendah) Nilai : Rendah ada 2 kasus Tidak diterima dan 0 kasus Ya diterima

45 Pohon Keputusan Pada Node Lanjutan

46 Menentukan Daun/Leaf (Node Terakhir) Pelamar IPK Psikologi Wawancara Diterima P3 Bagus Sedang Buruk Ya P7 Cukup Sedang Buruk Ya P10 Kurang Sedang Buruk Tidak

47 Menentukan Daun/Leaf (Node Terakhir) Tanpa menghitung nilai Entropy dan Gain Hal ini dikarenakan, untuk nilai Psikologi Sedang, hanya didapati sisa 3 cabang dan langsung melengkapi yang kurang

48 Pohon Keputusan Pada Node Terakhir

49 Atruan (Rule) JIKA wawancara = baik MAKA diterima JIKA wawancara = buruk AND psikologi = sedang AND ipk = bagus MAKA diterima JIKA wawancara = buruk AND psikologi = sedang AND ipk = cukup MAKA diterima JIKA wawancara = buruk AND psikologi = sedang AND ipk = kurang MAKA ditolak JIKA wawancara = buruk AND psikologi = rendah MAKA ditolak JIKA wawancara = buruk AND psikologi = tinggi MAKA ditolak

50 Aturan (Rule) ' ' ')) ' ( ') ' ( ') ' (( ')) ' ( ') ' ( ') ' (( ') ' ( Ya Diterima Cukup IPK Sedang Psikologi Buruk Wawancara Bagus IPK Sedang Psikologi Buruk Wawancara Baik Wawancara

51 Diskusi Jika terdapat dua atribut dengan IG yang sama? Jika ada data yang sama tetapi kelasnya berbeda? Berapa jumlah learning data minimum? Imbalance Class?

52 Dua atribut dengan IG sama? Gain(S,IPK) = 0,0049 Gain(S,Psikologi) = 0,4040 Gain(S,Wawancara) = 0,4040

53 Data sama, kelasnya beda? Pelamar IPK Psikologi Wawancara Diterima P1 Bagus Tinggi Baik Ya P2 Bagus Sedang Baik Ya P3 Bagus Sedang Buruk Ya P4 Bagus Rendah Buruk Tidak P5 Cukup Tinggi Baik Ya P6 Cukup Sedang Baik Ya P7 Cukup Sedang Buruk Ya P8 Cukup Sedang Buruk Tidak P9 Kurang Tinggi Baik Ya P10 Kurang Sedang Buruk Tidak P11 Kurang Rendah Baik Ya

54 Jumlah learning data? Masalah Sentiment Analysis atau Spam Filtering kata Masing-masing kata muncul kali Training data: postingan atau

55 Imbalance Class? Data latih untuk tiap kelas tidak seimbang Terutama untuk kasus data kesehatan (rekam medis) Misalnya: klasifikasi penyakit

56 Daftar Pustaka Suyanto Artificial Intelligence: Searching, Reasoning, Planning and Learning. Informatika, Bandung Indonesia. ISBN: Russel, Stuart and Norvig, Peter Artificial Intelligence: A Modern Approach. Prentice Hall International, Inc.