ANALISIS AKURASI ALGORITMA POHON KEPUTUSAN DAN K-NEAREST NEIGHBOR (k-nn) TESIS HULIMAN

Transkripsi

1 ANALISIS AKURASI ALGORITMA POHON KEPUTUSAN DAN K-NEAREST NEIGHBOR (k-nn) TESIS HULIMAN PROGRAM STUDI S2 TEKNIK INFORMATIKA FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2013

2 ANALISIS AKURASI ALGORITMA POHON KEPUTUSAN DAN K-NEAREST NEIGHBOR (k-nn) TESIS Diajukan untuk melengkapi tugas dan memenuhi syarat memperoleh ijazah Magister Teknik Informatika HULIMAN PROGRAM STUDI S2 TEKNIK INFORMATIKA FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2013

3 PERSETUJUAN Judul : ANALISIS AKURASI ALGORITMA POHON KEPUTUSAN DAN K-NEAREST NEIGHBOR (k-nn) Kategori : - Nama : Huliman Nomor Induk Mahasiswa : Program Studi : S2 Teknik Informatika Fakultas : ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA Komisi Pembimbing : Pembimbing 2 Pembimbing 1 Dr. Erna Budhiarti Nababan, M.IT Prof. Dr. Herman Mawengkang Diketahui/disetujui oleh Program Studi S2 Teknik Informatika Ketua, Prof. Dr. Muhammad Zarlis NIP

4 PERNYATAAN ORISINALITAS ANALISIS AKURASI ALGORITMA POHON KEPUTUSAN DAN K-NEAREST NEIGHBOR (k-nn) TESIS Saya mengakui bahwa tesis ini adalah hasil karya saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing telah disebutkan sumbernya. Medan, 25 Juli 2013 Huliman

5 PERNYATAAN PERSETUJUAN PUBLIKASI KARYA ILMIAH UNTUK KEPENTINGAN AKADEMIS Sebagai sivitas akademika Universitas Sumatera Utara, saya yang bertanda tangan di bawah ini: Nama : Huliman NIM : Program Studi : S2 Teknik Informatika Jenis Karya Ilmiah : Tesis Demi pengembangan ilmu pengetahuan, menyetujui untuk memberikan kepada Universitas Sumatera Utara Hak Bebas Royalti Non-Eksklusif (Non-Exclusive Royalty Free Right) atas tesis saya yang berjudul: ANALISIS AKURASI ALGORITMA POHON KEPUTUSAN DAN K-NEAREST NEIGHBOR (k-nn) Beserta perangkat yang ada (jika diperlukan). Dengan Hak Bebas Royalti Non- Eksklusif ini, Universitas Sumatera Utara berhak menyimpan, mengalih media, memformat, mengelola dalam bentuk database, merawat, dan mempublikasikan tesis saya tanpa meminta izin dari saya selama tetap mencantumkan nama saya sebagai penulis dan sebagai pemegang dan/atau sebagai pemilik hak cipta. Demikian pernyataan ini dibuat dengan sebenarnya. Medan, 25 Juli 2013 Huliman

6 Telah diuji pada Tanggal: 15 Agustus 2013 PANITIA PENGUJI TESIS Ketua : Prof. Dr. Herman Mawengkang Anggota : 1. Dr. Erna Budhiarti Nababan, M.IT 2. Prof. Dr. Muhammad Zarlis 3. Prof. Dr. Tulus 4. Prof. Dr. Drs. Iryanto, M.Si

7 RIWAYAT HIDUP DATA PRIBADI Nama Lengkap (berikut gelar) : Huliman, S.Kom Tempat dan Tanggal Lahir : Medan, 15 Desember 1985 Alamat Rumah : Jl. Platina Raya Komplek The Ivory Blok E-17 Kel. Titipapan Kec. Medan Deli Telepon/Faks/HP : (061) / usu.huliman@gmail.com Instansi Tempat Bekerja : 1) SMA Dr. Wahidin Sudirohusodo 2) STMIK TIME Medan Alamat Kantor : 1) Jl. K.L. Yos Sudarso Km. 16,5 Pajak Rambe Kel. Martubung Kec. Medan Labuhan 2) Jl. Merbabu No. 32 AA-BB Medan DATA PENDIDIKAN SD : SD Dr. Wahidin Sudirohusodo TAMAT: 1997 SLTP : SLTP Dr. Wahidin Sudirohusodo TAMAT: 2000 SLTA : SMU Dr. Wahidin Sudirohusodo TAMAT: 2003 S1 : Sistem Informasi STMIK IBBI TAMAT: 2007 S2 : Teknik Informatika USU TAMAT: 2013

8 UCAPAN TERIMA KASIH Pertama-tama penulis memanjatkan puji syukur kehadirat Tuhan Yang Maha Esa atas segala limpahan rahmat dan karunia-nya, sehingga penulis dapat menyelesaikan tesis ini dengan baik dan tepat waktu. Tesis ini disusun sebagai salah satu syarat untuk memperoleh ijazah Magister Teknik Informatika pada Program Studi S2 Teknik Informatika, Fakultas Ilmu Komputer dan Teknologi Informasi Universitas Sumatera Utara (Fasilkom TI USU). Dalam kesempatan ini, penulis hendak memberikan penghargaan dan mengucapkan terima kasih yang sebesar-besarnya kepada: 1. Bapak Prof. Dr. dr. Syahril Pasaribu, D.T.M.&H., M.Sc. (C.T.M.), Sp.A.(K.) selaku Rektor Universitas Sumatera Utara, atas kesempatan yang diberikan kepada penulis untuk mengikuti dan menyelesaikan pendidikan Pasca Sarjana. 2. Bapak Prof. Dr. Muhammad Zarlis, selaku Dekan Fakultas Ilmu Komputer dan Teknologi Informasi Universitas Sumatera Utara, sekaligus Ketua Program Studi S2 Teknik Informatika dan penguji tesis yang telah memberikan masukan dan motivasi yang tidak ternilai harganya kepada penulis. 3. Bapak Prof. Dr. Herman Mawengkang, selaku pembimbing utama yang senantiasa memberikan arahan kepada penulis hingga selesainya tesis ini. 4. Ibu Dr. Erna Budhiarti Nababan, M.IT, selaku pembimbing kedua yang telah meluangkan waktu, tenaga, dan pikiran, serta kesabaran dalam menuntun dan mengarahkan penulis menjadi seorang peneliti sejati. 5. Bapak Prof. Dr. Tulus, selaku penguji tesis yang benar-benar memberikan masukan dan arahan yang berarti bagi penulis. 6. Bapak Prof. Dr. Drs. Iryanto, M.Si, selaku penguji tesis yang telah memberikan arahan dan motivasi yang luar biasa kepada penulis dalam penelitian ini. 7. Bapak M. Andri Budiman, ST, M.Comp.Sc, MEM, selaku Sekretaris Program Studi S2 Teknik Informatika yang telah memberikan perhatian dan masukan dalam pengerjaan tesis ini. 8. Seluruh dosen Program Studi S2 Teknik Informatika, Fasilkom TI USU yang telah memberikan bekal pengetahuan kepada penulis.

9 9. Ibu P.W. Wijaya, M.Pd, selaku Kepala SMA Dr. Wahidin Sudirohusodo, Medan Labuhan yang telah memberikan izin studi, membagi pengalaman beliau di bidang pendidikan, dan juga memberikan spirit (semangat) yang hebat dan dahsyat kepada penulis. 10. Ibu Madjakani Widjaja, yang senantiasa menjadi inspirator dan motivator bagi penulis serta memberikan doa sehingga penulis dapat menyelesaikan studi ini dengan baik dan tepat waktu. 11. Kedua orang tuaku, saudara, dan istri tercinta, Cristiena yang telah memberikan kasih sayang dan dengan penuh ketulusan mendoakan penulis agar selalu diberikan kekuatan lahir dan batin dalam menyelesaikan studi ini. 12. Perg. Dr. Wahidin Sudirohusodo, Medan Labuhan, tempat penulis mengabdikan diri sebagai Guru Bidang Studi Teknologi Informasi dan Komunikasi (TIK). 13. STMIK TIME Medan, tempat penulis mengabdikan diri sebagai Dosen Mata Kuliah Algoritma dan Pemrograman sejak tahun Rekan mahasiswa Program Studi S2 Teknik Informatika, Fasilkom TI USU Angkatan 2011 atas kerja sama dan kekompakan selama studi dan penelitian. 15. Seluruh staf/pegawai dan sivitas akademika Program Studi S2 Teknik Informatika, Fasilkom TI USU atas kerja sama-nya selama studi dan penelitian. Penulis menyadari sepenuhnya bahwa masih adanya kekurangan dalam penyajian tesis ini. Oleh karena itu, penulis mengharapkan masukan dan saran yang bersifat membangun demi penyempurnaan tesis ini di masa mendatang. Akhir kata, penulis berharap tesis ini dapat bermanfaat bagi para pembaca yang memiliki minat di bidang ilmu komputer dan teknologi informasi. Medan, 25 Juli 2013 Huliman

10 ABSTRAK Perkembangan teknologi basis data modern telah memungkinkan ruang penyimpanan yang besar dan hal ini menjadi latar belakang dikembangkannya konsep data mining. Salah satu fungsi utama data mining adalah fungsi klasifikasi yang digunakan untuk memprediksi kelas dan menghasilkan informasi berdasarkan data historis. Pada fungsi klasifikasi, terdapat banyak algoritma yang dapat digunakan untuk mengolah input menjadi output yang diinginkan, sehingga harus diperhatikan aspek performance dari masing-masing algoritma tersebut. Tujuan penelitian ini adalah untuk menganalisis dan membandingkan performance algoritma klasifikasi pohon keputusan (C4.5) dan k-nearest Neighbor (k-nn) dari sudut pandang akurasi. Data sets penelitian berasal dari UCI data sets, yaitu BreastCancer, Car, Diabetes, Ionosphere, dan Iris. Adapun metode evaluasi yang digunakan pada kedua macam algoritma adalah 10-fold cross validation. Hasil evaluasi berupa confusion matrix untuk penilaian precision, recall, F-measure, dan success rate. Hasil analisis perbandingan akurasi menunjukkan bahwa nilai keakuratan algoritma pohon keputusan lebih baik dengan variasi 2.28% - 2.5% dibandingkan algoritma k-nn pada implementasi terhadap 5 data sets penelitian. Kata Kunci: Klasifikasi, Pohon Keputusan, k-nn, 10-fold Cross Validation, Confusion Matrix, Akurasi.

11 ACCURACY ANALYSIS OF DECISION TREE AND K-NEAREST NEIGHBOR (k-nn) ALGORITHM ABSTRACT The development of modern database technology has enabled large space of storage and this concept has become the background of the data mining applications. One of the main functions of data mining is the classification that is used to predict the class and generate information based on historical data. In the classification, there is a lot of algorithms that can be used to process the input into the desired output, thus it is very important to observe and measure the performance of each algorithm. The purpose of this research is to analyze and compare the performance of decision tree (C4.5) and k- Nearest Neighbor (k-nn) algorithm from the point of view of accuracy. Data sets are derived from UCI data sets, namely BreastCancer, Car, Diabetes, Ionosphere, and Iris. The evaluation method used in both kinds of algorithms is 10-fold cross validation. Evaluation result for each algorithm is a confusion matrix for measuring the precision, recall, F-measure, and success rate. Comparative analysis of the accuracy showed that the accuracy of the decision tree algorithm is better by variation of 2.28% - 2.5% compared to k-nn algorithm in the implementation for 5 research data sets. Keywords: Classification, Decision Tree, k-nn, 10-fold Cross Validation, Confusion Matrix, Accuracy.

12 xi DAFTAR ISI Hal HALAMAN JUDUL i PERSETUJUAN ii iiiiiiii PERNYATAAN ORISINALITAS iii PERSETUJUAN PUBLIKASI iv PANITIA PENGUJI v RIWAYAT HIDUP vi UCAPAN TERIMA KASIH vii ABSTRAK ix ABSRACT x DAFTAR ISI xi DAFTAR TABEL xiv DAFTAR GAMBAR xxxxxxxxxxxxv BAB 1 : PENDAHULUAN 1.1. Latar Belakang Perumusan Masalah Batasan Masalah Tujuan Penelitian Manfaat Penelitian 4 BAB 2 : TINJAUAN PUSTAKA 2.1. Algoritma Pohon Keputusan Pohon Keputusan ID Pohon Keputusan C Algoritma k-nearest Neighbor (k-nn) Data Mining Jenis Data dalam Data Mining Teknik Klasifikasi Pengukuran Akurasi 26

13 xii 2.7. Riset Terkait Perbedaan dengan Riset yang Lain Kontribusi Riset 30 BAB 3 : METODOLOGI PENELITIAN 3.1. Pendahuluan Data yang Digunakan Data Set BreastCancer Data Set Car Data Set Diabetes Data Set Ionosphere Data Set Iris Analisis Sistem Pohon Keputusan k-nearest Neighbor (k-nn) Metode 10-fold Cross Validation Confusion Matrix Desain Sistem Aplikasi Training Sets dan Testing Sets Aplikasi Perhitungan Akurasi 44 BAB 4 : HASIL DAN PEMBAHASAN 4.1. Data Set BreastCancer Data Set Car Data Set Diabetes Data Set Ionosphere Data Set Iris Analisis Perbandingan Akurasi Penilaian Precision Penilaian Recall Penilaian F-measure Penilaian Success Rate 61

14 xiii BAB 5 : KESIMPULAN DAN SARAN 5.1. Kesimpulan Saran 64 DAFTAR PUSTAKA 65 LAMPIRAN 67

15 xiv DAFTAR TABEL Nomor Keterangan Hal 2.1. Confusion Matrix Table of Confusion Data Sets Penelitian Informasi Atribut Data Set BreastCancer Informasi Atribut Data Set Car Informasi Atribut Data Set Diabetes Informasi Atribut Data Set Iris Table of Confusion Kelas tested_negative Table of Confusion Kelas tested_positive Nilai Akurasi berdasarkan Confusion Matrix Diabetes.arff Nilai Akurasi Pohon Keputusan terhadap BreastCancer.arff Nilai Akurasi k-nn terhadap BreastCancer.arff Nilai Akurasi Pohon Keputusan terhadap Car.arff Nilai Akurasi k-nn terhadap Car.arff Nilai Akurasi Pohon Keputusan terhadap Diabetes.arff Nilai Akurasi k-nn terhadap Diabetes.arff Nilai Akurasi Pohon Keputusan terhadap Ionosphere.arff Nilai Akurasi k-nn terhadap Ionosphere.arff Nilai Akurasi Pohon Keputusan terhadap Iris.arff Nilai Akurasi k-nn terhadap Iris.arff Perbandingan Precision Pohon Keputusan dan k-nn Perbandingan Recall Pohon Keputusan dan k-nn Perbandingan F-Measure Pohon Keputusan dan k-nn Perbandingan Success Rate Pohon Keputusan dan k-nn 61

16 xv DAFTAR GAMBAR Nomor Keterangan Hal 2.1. Konsep Pohon Keputusan Struktur Pohon Keputusan Pohon Keputusan Sebelum dan Setelah Dipangkas Ilustrasi Kedekatan Kasus Pasien Ilmu Data Mining Peranan Bidang Ilmu Lain terhadap Data Mining Tingkatan Pemanfaatan Data untuk Pengambilan Keputusan Tahapan KDD pada Data Mining Data Cube pada Data Warehouse Contoh Model Klasifikasi Prosedur 5-fold Cross Validation Hasil Prediksi Kelas Diagram Alir Perhitungan Akurasi Pohon Keputusan pada Diabetes.arff Diagram Alir Perhitungan Akurasi k-nn pada Diabetes.arff Metode 10-fold Cross Validation Confusion Matrix Diabetes.arff Interface WEKA Tahapan Preprocess Tahapan Classify Interface Confusion Matrix for Accuracy Perhitungan Akurasi Pohon Keputusan terhadap BreastCancer.arff Perhitungan Akurasi k-nn terhadap BreastCancer.arff Perhitungan Akurasi Pohon Keputusan terhadap Car.arff Perhitungan Akurasi k-nn terhadap Car.arff Perhitungan Akurasi Pohon Keputusan terhadap Diabetes.arff Perhitungan Akurasi k-nn terhadap Diabetes.arff Perhitungan Akurasi Pohon Keputusan terhadap Ionosphere.arff Perhitungan Akurasi k-nn terhadap Ionosphere.arff Perhitungan Akurasi Pohon Keputusan terhadap Iris.arff Perhitungan Akurasi k-nn terhadap Iris.arff Grafik Perbandingan Precision Grafik Perbandingan Recall Grafik Perbandingan F-measure Grafik Perbandingan Success Rate 62