PREDIKSI OUTLIER MENGGUNAKAN DATA TEPI CLUSTER UNTUK MENINGKATKAN KUALITAS PENGETAHUAN HASIL DATA MINING

Transkripsi

1 PREDIKSI OUTLIER MENGGUNAKAN DATA TEPI CLUSTER UNTUK MENINGKATKAN KUALITAS PENGETAHUAN HASIL DATA MINING Barry Nuqoba, Arif Djunaidy Jurusan Teknik Informatika, Fakultas Teknologi Informasi Institut Teknologi Sepuluh Nopember (ITS) - Surabaya Kampus ITS, Jl. Raya ITS, Sukolilo Surabaya barry_nu@yahoo.com, pr1@its.ac.id ABSTRAK Sebagian besar algoritma terkait dengan outlier yang dipublikasikan oleh para peneliti berhubungan dengan deteksi outlier. Belum banyak yang membahas tentang prediksi outlier. Prediksi outlier penting untuk menjaga validitas data dalam tempat penyimpanan data ( repository). Algoritma prediksi outlier yang sudah ada memiliki kelemahan dalam hal efisiensi ataupun akurasi. Penelitian ini memperbaiki kelemahan algoritma prediksi outlier Angiulli dari sisi akurasi dan sekaligus meningkatkan efisiensi. Algoritma prediksi outlier Angiulli diperbaiki dengan mendefinisikan ulang terhadap konsep solving set yang dibuat oleh Angiulli. Selanjutnya, penelitian ini mengembangkan algoritma prediksi outlier dengan menggunakan solving set modifikasi tersebut. Algoritma prediksi outlier terdiri dari beberapa proses. Pertama, data tepi cluster dideteksi menggunakan algoritma BORDER. Selanjutnya, algoritma Hierarchical Clustering digunakan untuk clusterisasi data tepi. Kemudian pusat dari masing-masing cluster dicari dengan menggunakan Median. Data tepi beserta pusat clusternya inilah yang menjadi solving set pada penelitian ini. Algoritma prediksi outlier pada penelitian ini bertumpu pada solving set tersebut. Implementasi dari algoritma pada penelitian ini disebut dengan APOTEC (Algoritma Prediksi Outlier menggunakan Tepi Cluster). Uji coba menekankan pada aspek efisiensi dan akurasi. Setelah dilakukan beberapa percobaan terhadap beberapa data set dengan distribusi normal dan seragam, hasilnya APOTEC memberikan perbaikan yang sigjnifikan dalam hal efisiensi dan akurasi. Pengembangan lebih lanjut adalah dengan menerapkan BORDER secara utuh, lengkap dengan low level programmingnya sehingga APOTEC dapat menangani data set dengan ukuran besar dan multidimensi Kata kunci: Pengambilan keputusan, Data mining, Prediksi outlier, Titik batas cluster, Solving set PENDAHULUAN Sebagian besar tempat penyimpanan data (repositories) tidak lepas dari outlier. Outlier menyebabkan pengetahuan yang dihasilkan oleh data mining menjadi bias dan kurang valid. Semakin dini outlier terdeteksi maka semakin baik, karena kualitas data terjaga. Saat ini masih jarang dikembangkan algoritma prediksi outlier terhadap data baru yang masuk. Algoritma prediksi outlier yang ada sekarang memerlukan waktu lama karena harus membandingkan data yang diprediksi dengan seluruh data.

2 Angiulli et. al (2006) mencoba untuk mencari solusi dari permasalahan tersebut dengan memperkenalkan suatu konsep baru, yaitu solving set. Angiulli et. al. (2006) mendefinisikan solving set sebagai subset dari data set yang merupakan representasi dari data set dan beranggotakan data yang merupakan top n-outlier. Dengan menggunakan solving set, prediksi outlier bisa dilakukan cukup dengan membandingkan data yang akan masuk dengan data pada solving set. Hal ini membuat proses prediksi outlier menjadi jauh lebih cepat. Konsep solving set yang ditawarkan oleh Angiulli et. al. (2006) memang berhasil mengatasi masalah efisiensi dalam melakukan prediksi outlier. Sayangnya, di sisi lain penggunaan solving set untuk melakukan prediksi outlier mengakibatkan turunnya akurasi hasil prediksi. Pada penelitian ini diusulkan suatu algoritma prediksi outlier baru yang memiliki efisiensi dalam melakukan prediksi tetapi tidak mengorbankan akurasi hasil prediksi. Algoritma baru ini melakukan inovasi terhadap konsep solving set yang sudah ada sebelumnya. Konsep yang ada saat ini mendefinisikan bahwa solving set adalah subset dari data set yang merupakan representasi dari data set dan beranggotakan data yang merupakan top n-outlier. Sedangkan pada penelitian ini, solving set beranggotakan data tepi cluster beserta pusat clusternya sebagai representasi data set. Data tepi cluster dideteksi menggunakan algoritma BORDER Xia et. al. (2006) yang telah terbukti dapat mendeteksi data tepi cluster secara efisien. Setelah data tepi cluster terdeteksi, algoritma Single Linkage Hierarchical Clustering (Lubsa, 2005) digunakan untuk clusterisasi data tepi cluster. Selanjutnya, pusat dari masing-masing cluster dicari dengan menggunakan Median. Data tepi cluster beserta pusat clusternya inilah yang menjadi anggota solving set pada penelitian ini. Algoritma prediksi outlier pada penelitian ini bertumpu pada solving set tersebut. Oleh karena itu, selanjutnya algoritma pada penelitian ini disebut dengan APOTEC (Algoritma Prediksi Outlier menggunakan Tepi Cluster). METODA APOTEC (Algoritma Prediks i Outlier menggunakan Tepi Cluster) terdiri dari beberapa proses yaitu: 1. Pencarian tepi cluster dalam data set. 2. Clustering data tepi cluster 3. Pencarian pusat cluster 4. Pembentukan Border Solving Set 5. Algoritma prediksi outlier 6. Penghitungan outlierness level dan hasil prediksi C-6-2

3 Untuk lebih memperjelas proses di atas, Gambar 1 akan menampilkan diagram alir yang menggambarkan tahapan-tahapan yang ada dalam algoritma: Start Data set awal Jalankan algoritma BORDER : 1. Hitung knn Join 2. Hitung nilai RkNN 3. Deteksi outlier dan data tepi cluster Data tepi cluster Clusterisasi Data tepi cluster (tercluster) End Cari Pusat Cluster Hasil prediksi Data pusat cluster Border solving set Hitung tingkat outlier Bandingkan jarak pusat cluster ke data query dan jarak pusat cluster ke data tepi cluster terdekat Hitung knn, k = 1 pada data yang akan diprediksi (data query) Hitung jarak pusat cluster ke data query dan jarak pusat cluster ke data tepi cluster terdekat Gambar 1. Diagram APOTEC HASIL DAN DISKUSI Uji Akurasi Uji coba ini bertujuan untuk menguji akurasi APOTEC apabila data set memiliki distribusi data normal. Oleh karena itu, data set yang akan digunakan adalah yang memiliki distribusi data normal. Akurasi APOTEC dalam melakukan prediksi outlier akan dibandingkan dengan algoritma Angiulli. Karena data setnya tidak berlabel, maka akan digunakan algoritma non-solving set sebagai acuan benar tidaknya prediksi. Tabel 1 akan menampilkan beberapa data set berdistribusi normal yang digunakan dalam uji coba. C-6-3

4 Tabel 1. Data Set Berdistribusi Normal yang Digunakan dalam Uji Coba Nama Jumlah Cluster Ukuran Data set A Data set B Data set C Data set D Dalam menjalankan APOTEC ada beberapa parameter yang harus ditentukan nilainya sebelum eksekusi program dilakukan. Tabel 2 menampilkan beberapa parameter tersebut. Parameter Ta Tb To c k Tabel 2. Parameter APOTEC Deskripsi Nilai threshold atas Nilai threshold bawah Nilai threshold untuk outlierness level Jumlah cluster pada hierarchical clustering Nilai k pada RkNN Setelah mengeset semua nilai parameter yang ada maka APOTEC siap dijalankan. Gambar 2 berikut adalah contoh hasil prediksi outlier dengan APOTEC. Gambar 2. Prediksi Outlier Menggunakan APOTEC pada Data Set C Dari percobaan prediksi outlier menggunakan APOTEC yang telah dilakukan, dapat dilihat hubungan antara nilai outlier threshold dengan jumlah data yang terdeteksi sebagai outlier. Semakin besar nilai outlier threshold maka semakin kecil jumlah data yang terdeteksi sebagai oulier. Setelah dilakukan percobaan prediksi outlier menggunakan APOTEC, sekarang akan dilakukan percobaan prediksi outlier menggunakan algoritma Angiulli. Dengan demikian dapat dibandingkan akurasi dari kedua algoritma tersebut. Data set yang digunakan untuk uji coba algoritma Angiulli sama seperti yang digunakan pada C-6-4

5 APOTEC. Gambar 3 berikut adalah contoh uji coba prediksi outlier menggunakan algoritma Angiulli. Gambar 3. Prediksi Outlier dengan Algoritma Angiulli pada Data Set C Setelah dilakukan percobaan prediksi outlier menggunakan APOTEC dan algoritma Angiulli, sekarang akan dilakukan percobaan prediksi outlier menggunakan algoritma non solving set. Hasil prediksi algoritma non solving set diasumsikan memiliki akurasi yang paling tinggi sehingga dijadikan acuan dalam menghitung akurasi APOTEC dan algoritma Angiulli. Data set dan query set yang digunakan untuk uji coba algoritma non solving set sama seperti yang digunakan pada APOTEC dan algoritma Angiulli. Algoritma non solving set bisa langsung melakukan prediksi outlier tanpa perlu melakukan pembentukan solving set terlebih dahulu. Gambar 4 berikut adalah contoh hasil prediksi dari percobaan yang dilakukan menggunakan algoritma non solving set. Gambar 4. Prediksi Outlier dengan Alg. Non Solving Set pada Data Set C Setelah diperoleh hasil prediksi outlier dengan menggunakan ketiga buah algoritma, sekarang akan dibandingkan akurasi hasil prediksi dari APOTEC dan algoritma Angiulli dengan menggunakan algoritma non solving set sebagai acuannya. C-6-5

6 Tabel 3. Tabel Akurasi APOTEC dan Algoritma Angiulli pada Data Set Normal Data set A B Non APOTEC Angiulli Solving Set (Acuan) DR FPR OA DR FPR OA K=50 0,82 0,08 0,88 0,39 0 0,77 K=70 0,88 0,12 0,88 0,47 0 0,83 K=50 0,94 0,12 0,92 0,72 0 0,8 K=70 0,89 0,03 0,92 0,81 0 0,88 K=50 0,97 0,08 0,94 0,77 0 0,89 C K=70 0,86 0,03 0,93 0,92 0,03 0,95 K=50 0,94 0,08 0,93 0,54 0 0,77 D K=70 0,98 0,2 0,87 0,68 0 0,87 Rata-Rata 0,91 0,09 0,91 0,66 0 0,85 Dari Tabel 3.3 di atas terlihat bahwa pada data set yang memiliki distribusi normal ternyata APOTEC memiliki rata-rata detection rate yang lebih baik daripada algoritma Angiulli, sedangkan algoritma Angiulli memiliki rata-rata false positive rate yang sedikit lebih baik daripada APOTEC. Tetapi secara umum, APOTEC memiliki rata-rata tingkat akurasi (overall accuracy) yang lebih baik daripada algoritma Angiulli. Dengan melakukan uji coba sebagaimana pada data set berdistribusi normal, berikut akan ditampilkan akurasi dari APOTEC dan algoritma Angiulli pada data set berdistribusi seragam. Tabel 4. Tabel Akurasi APOTEC dan Algoritma Angiulli pada Data Set Seragam Data set Non Solving Set (Acuan) APOTEC Angiulli DR FPR OA DR FPR OA E K=70 0,98 0 0,98 1 0,5 0,97 F K=70 0,98 0,04 0,97 1 0,33 0,82 G K=70 1 0,19 0,94 1 0,47 0,85 H K=70 0,96 0,14 0,89 1 0,31 0,78 Rata-Rata 0,98 0,09 0,95 1 0,40 0,86 Dari Tabel 4 di atas terlihat bahwa pada data set yang memiliki distribusi seragam ternyata APOTEC memiliki rata-rata detection rate yang lebih baik daripada algoritma Angiulli, sedangkan algoritma Angiulli memiliki rata-rata false positive rate yang sedikit lebih baik daripada APOTEC. Tetapi secara umum, APOTEC memiliki rata-rata tingkat akurasi (overall accuracy) yang lebih baik daripada algoritma Angiulli. Uji Efisiensi Pada bagian ini, uji coba dilakukan untuk mengevaluasi efisiensi dari APOTEC. Waktu pembentukan solving set dan waktu prediksi outlier APOTEC dibandingkan dengan algoritma Angiulli et. al. (2006). C-6-6

7 Berikut adalah hasil percobaan yang telah dilakukan terhadap beberapa data set dengan sebaran normal menggunakan APOTEC dan algoritma Angiulli apabila ditampilkan dalam bentuk kurva. Gambar 5. Grafik Perbandingan Waktu Eksekusi antara APOTEC dan Algoritma Dari Gambar 5 dapat dilihat bahwa waktu pembentukan solving set dan waktu prediksi outlier menggunakan APOTEC lebih cepat dari algoritma Angiulli pada semua data set berdistribusi normal yang digunakan dalam uji coba. Selanjutnya, akan dibandingkan efisiensi dari APOTEC dan algoritma Angiulli pada data set seragam. Berikut adalah hasil percobaan yang telah dilakukan terhadap beberapa data set dengan sebaran seragam menggunakan APOTEC dan algoritma Angiulli apabila ditampilkan dalam bentuk kurva. Gambar 6. Grafik Perbandingan Waktu Pembentukan Solving Set antara APOTEC dan Algoritma Angiulli Dari Gambar 6 dapat dilihat bahwa waktu pembentukan solving set menggunakan APOTEC lebih cepat dari algoritma Angiulli pada semua data set berdistribusi seragam yang digunakan dalam uji coba. Sedangkan pada Gambar 3.9 terlihat bahwa waktu prediksi outlier dengan APOTEC juga lebih cepat dibandingkan dengan algoritma Angiulli untuk semua data set berdistribusi seragam yang digunakan dalam uji coba. KESIMPULAN Dari hasil uji coba dapat ditarik kesimpulan: a. Algoritma prediksi outlier yang dikembangkan dalam penelitian ini, yaitu APOTEC telah berhasil memperbaiki algoritma prediksi outlier Angiulli et. al. (2006) dengan cara membuat definisi baru dari konsep solving set dan membuat algoritma prediksi outlier baru menggunakan solving set tersebut. C-6-7

8 b. Setelah dilakukan uji coba terhadap beberapa data set dengan distribusi normal dan seragam, hasilnya adalah sebagai berikut: Pada data set berdistribusi normal, rata-rata akurasi APOTEC sebesar 91% dan algoritma prediksi outlier Angiulli sebesar 85%. Sedangkan pada data set berdistribusi seragam, rata-rata akurasi APOTEC sebesar 95% dan algoritma prediksi outlier Angiulli sebesar 86%. Pada data set berdistribusi normal maupun seragam, APOTEC 5 kali lebih cepat daripada algoritma prediksi outlier Angiulli dalam pembentukan solving set. Sedangkan dalam prediksi outlier APOTEC lebih cepat sekitar 10%. DAFTAR PUSTAKA Chenyi Xia, Wynne Hsu, Mong Li Lee dan Beng Chin Ooi, (2006), "BORDER: Efficient Computation of Boundary Points, IEEE Transactions on Knowledge and Data Engineering, vol. 18, no. 3, hal Fabrizio Angiulli, Stefano Basta dan Clara Pizzutti, (2006), Distance-Based Detection and Prediction of Outliers, IEEE Transactions on Knowledge and Data Engineering, vol. 18, no. 2, hal Hui Xiong, Gaurav Pandey, Michael Steinbach dan Vipin Kumar, ( 2006), Enhancing Data Analysis with Noise Removal, IEEE Transactions on Knowledge and Data Engineering, vol. 18, no. 3, hal Lubsa, Dana Avram, (2005), Unsupervised Single -Link Hierarchical Clustering, Studia Univ. Babes-Bolyai, Informatica, vol. 1, no. 2. Pang-Ning Tan, Michael Steinbach dan Vipin Kumar, (2006), Introduction to Data Mining, Pearson Education, Inc., Boston. C-6-8