METODE ADAPTIVE-SECTING DIVISIVE CLUSTERING DENGAN PENDEKATAN GRAF HUTAN YANG MINIMUM

Transkripsi

1 METODE ADAPTIVE-SECTING DIVISIVE CLUSTERING DENGAN PENDEKATAN GRAF HUTAN YANG MINIMUM Achmad Maududie 1), Wahyu Catur Wibowo 2) 1) Program Studi Sistem Informasi, Universitas Jember 2) Fakultas Ilmu Komputer, Universitas Indonesia maududie@gmail.com 1), wibowo@cs.ui.ac 2) Abstrak Pengelompokkan obyek dalam sejumlah grup (kelompok) dalam proses clustering tidak hanya memperhatikan algoritma clustering yang digunakan, namun juga indeks validitas clustering yang digunakan yang menunjukkan kualitas hasil clustering. Salah satu usaha untuk meningkatkan kualitas tersebut adalah membagi cluster hasil yang memiliki diameter terlalu besar. Artikel ini mengenalkan metode pembagian cluster yang tidak hanya dapat membagi cluster menjadi dua sub cluster (bisecting), namun dimungkinkan tiga atau lebih. Metode ini didasarkan pada pendekatan graf hutan yang minimum yang dinamakan Adaptive-secting Divisive Clustering Minimum Forest Graph (ADCMFG). Dari hasil eksperimen didapatkan bahwa metode ADCMFG mampu membagi dua atau lebih cluster target dengan hasil kinerja yang baik. Hal ini ditunjukkan dari hasil evaluasi yang dilakukan (menggunakan Compactess-separation Criterion) yang menyatakan adanya perbaikan indeks dari cluster hasil yang didapat, yaitu; 0,127 menjadi 0,106 untuk dataset 1, 0,190 menjadi 0,071 untuk dataset 2, dan 0,205 menjadi 0,069 untuk dataset 3. Disamping itu, pendekatan ini juga mampu melakukan reposisi elemen ke dalam cluster yang lebih tepat seperti yang ditunjukkan dalam hasil clustering pada dataset 3. Kata kunci: clustering, adaptive-secting, graf hutan yang minimum. 1. Pendahuluan Tujuan utama proses clustering adalah mengelompokkan seluruh obyek dalam sejumlah grup (kelompok) obyek berdasarkan tingkat kedekatan (proximity) obyeknya [1, p. 8], [2, p. 3], [3, p. 269], [4, p. 1499] yang dipresentasikan dalam indeks kesamaan (similarity) dan ketidaksamaan (dissimilarity) [1, p. 11], [2, p. 5]. Selain pemilihan algoritma clustering yang tepat, clustering juga memperhatikan kualitas hasil yang diperoleh dengan melakukan evaluasi terhadap beberapa indikator atau yang dikenal sebagai proses validitas clustering. Salah satu contoh metode validitas clustering yang digunakan dalam algoritma clustering yang berbasis nilai tengah (center-based clustering algorithm) adalah Compactness-separation criterion (CSC) yang dikenalkan oleh Ray dan Tury (1999) [2, p. 37]. Semakin kecil indeks CSC maka semakin kompak dan terdistribusi cluster yang dihasilkan. Hasil clustering yang memiliki cluster dengan elemen yag memiliki diameter atau sum of square error (SSE) terlalu besar biasanya memberikan indeks CSC menjadi besar yang berarti cluster yang dihasilkan adalah cluster yang relatif tidak kompak atau memiliki separasi antar cluster yang terlalu dekat. Problem semacam ini biasanya diselesaikan dengan menambah jumlah cluster yang dihasilkan dengan cara membagi cluster dengan diameter besar menjadi dua sub cluster atau yang dikenal dengan bisecting divisive clustering. Meskipun sering menjawab problem yang muncul, namun bisecting hanya membagi sebuah cluster menjadi dua, sehingga apabila cluster yang dimaksud harus dibagi menjadi lebih dari dua sub-cluster maka proses bisecting harus dilakukan lebih dari satu kali. Selain itu, proses bisecting hanya dapat dilakukan dalam satu cluster saja pada satu waktu. a. Cluster yang akan dipisah 6,53 10,46 25,64 10,72 14,48 11,63 16,57 8,02 25,67 b. Hasil bisecting pertama 6,53 10,46 8,20 5,45 10,72 8,36 5,06 6,06 10,03 c. Hasil bisecting kedua Gambar 1. Contoh Proses Bisecting untuk Menghasilkan Tiga Sub Cluster Artikel ini menawarkan pendekatan baru yang fokus pada proses pemisahan cluster yang bersifat adaptif, yiatu dapat memisahkan sebuah cluster menjadi dua atau lebih sub-cluster dalam satu proses. Selain itu pendekatan ini diharapkan dapat melakukan pemisahan pada lebih dari satu cluster secara serempak seperti dalam Gambar 2. Kualitas hasil clustering yang didapat dievaluasi menggunakan CSC. Indeks CSC dalam hasil clustering setelah dilakukan pembagian akan dibandingkan dengan sebelum pembagian. 122

2 (ADCMFG), memiliki 8 tahapan proses seperti dalam Gambar 3. ALGORITMA ADCMFG Input: Cluster target, jumlah cluster target t Output: Sub Cluster 1. Hitung rerata jarak setiap elemen terhadap centroidnya ( ) di setiap cluster target dan rerata dari rerata jarak setiap elemen terhadap centroidnya Gambar 2. Contoh Hasil Adaptive Bisecting Clustering 2. Pembahasan Compactness-Separation Criterion Hingga saat ini telah banyak metode validitas clustering yang dikembangkan, baik menggunakan kriteria internal, eksternal, dan relatif [2, p. 299]. Validasi dengan kriteria internal fokus mengukur seberapa kompak (compactness) cluster yang dihasilkan baik yang ditunjukkan oleh homogenitas intra-cluster, separasi inter-cluster, atau kombinasi keduanya [3, p. 273] hanya menggunakan data internal [2, p. 303], [3, p. 273]. Metode Compactness-separation Criterion (CSC) adalah salah satu metode validitas clustering yang menggunakan kriteria internal. Dalam metode ini terdapat dua nilai penting yang harus dihitung, yaitu intra-cluster (M intra ) dan inter-cluster (M inter ). Nilai M intra dihitung menggunakan WCSS (within-cluster sum of squares), yaitu mengukur rerata jarak setiap obyek terhadap centroid dari cluster masing-masing, sedangkan nilai M inter ditentukan oleh jarak terpendek antar centroidnya [2, p. 37].... (1)... (2) dengan n adalah jumlah obyek, z i adalah centroid dari cluster C i. 2. Pilih elemen yang memiliki jarak lebih besar dari rerata jaraknya ( ) 3. Bangkitkan graf hutan yang minimum dari semua elemen yang terpilih berdasarkan jarak terdekatnya dengan ketentuan jarak terdekatnya tidak boleh melebihi 4. Bangkitkan centroid awal (initial centroid) yang dibentuk dari rerata tiap komponen graf hutan 5. while terdapat jarak antar centroid awal yang lebih kecil dari lakukan 6. Gabungkan dua centroid awal terdekat yang memiliki jarak lebih dari dengan menggunakan rerata kedua inisial centroid tersebut 7. end while 8. Lakukan clustering terhadap cluster yang akan dibagi menggunakan centroid awal yang terbentuk dengan. Gambar 3. Algoritma ADCMFG Sebagai ilustrasi, dalam Gambar 4 terdapat dua cluster dari hasil proses clustering dengan masing-masing rerata jarak elemen terhadap centroidnya adalah 17,05 untuk cluster 1 dan 17,27 untuk cluster 2. Dari kedua cluster tersebut didapat indeks CSC sebesar 0,29. Apabila kedua cluster tersebut dianggap sebaga cluster target (t = 2), maka dari kedua cluster tersebut diseleksi elemenelemen yang memiliki jarak lebih besar dari masingmasing jarak reratanya. Dengan elemen-elemen yang terseleksi tersebut disusun sebuah graf hutan yang minimum (berdasarkan jarak terdekat) dengan jarak yang tidak melebihi (Lihat Gambar 5). Dari Persamaan (1) dan (2) maka indeks validitas (V) dapat dihitung sebagai berikut [2, p. 37]. 25,89 17,90 14,73 16,44 7,73 11,29... (3) Adaptive-secting Divisive Clustering Pada prinsipnya, metode pembagian cluster yang dikenalkan berbasis pada graf hutan yang minimum (minimum forest graph). Metode ini, Adaptive-secting Divisive Clustering Minimum Forest Graph 23,05 17,50 13,46 24,62 25,33 123

3 Gambar 4. Contoh Hasil Proses Clustering 15,81 x 1 25,89 17,90 x 2 23,05 17,50 25,33 x 3 15,00 x 4 x 5 24,62 x 6 a. Hasil seleksi elemen ( ) b. Graf hutan yang minimum (dengan empat komponen) Gambar 5. Contoh Hasil Pembangkitan Graf Hutan yang Minimum Dalam Gambar 5b terlihat bahwa graf hutan yang minimum memiliki empat komponen (tree) dengan dua diantaranya tidak memiliki sisi (hanya terbentuk dari sebuah simpul), yaitu pada simpul x 5 dan x 6 karena jarak terdekat ke simpul lainnya melebihi. Dari setiap komponen graf hutan yang terbentuk dibangkitkan centroid awal dari nilai tengah setiap komponen. Apabila jarak antar dua centroid awal terdekatnya kurang dari, maka kedua centroid awal tersebut digabungkan dengan mengambil reratanya. x 2 x 3 15,00 x 4 15,81... (4) x 1 x 6 a. Pembangkitan Centroid awal (tanda silang) x 5 b. Centroid awal (tanda silang) Gambar 6. Contoh Pembangkitan Centroid Awal Apabila tidak ada jarak antar centroid awal yang kurang dari maka lakukan proses clustering dengan menggunakan centroid awal yang telah terbentuk tersebut. Gambar 7. Contoh Hasil Pembagian Cluster Dalam Gambar 7 terlihat bahwa masing-masing cluster dibagi menjadi dua sub cluster secara bersamaan, sehingga terbentuk empat cluster. Apabila indeks CSC hasil pembagian cluster tersebut dibandingkan dengan sebelum dibagi maka hasil pembagian memiliki indeks yang lebih baik. Hasil eksperimen Dalam eksperimen, pendekatan Adaptive-secting Divisive Clustering Minimum Forest Graph (ADCMFG) diuji dengan menggunakan tiga dataset sintetik yang berdimensi dua (lihat Gambar 8). Hasil clustering dari setiap dataset tersebut telah ditentukan cluster mana yang murupakan cluster target, sehingga metoda ADCMFG difokuskan untuk melakukan proses pembagian cluster target. Indeks CSC hasil pembagian cluster di tiap dataset akan dibandingkan dengan indeks CSC cluster sebelum dibagi. Dari ketiga dataset sitetik yang digunakan, hasil pembagian setiap dataset dapat dilihat dalam Tabel 1. Tabel 1. Hasil Pembagian Dataset Indeks CSC Dataset Status Jml. cluster M intra M inter V 1 Awal 2 165, ,00 0,127 Akhir 3 68,33 644,44 0,106 2 Awal 3 344, ,02 0,190 Akhir 5 60,03 847,22 0,071 3 Awal 3 367, ,50 0,205 Akhir 6 65,32 941,00 0,069 Dalam Tabel 1 terlihat bahwa hasil pembagian cluster mendapatkan indeks CSC yang lebih kecil dibandingkan sebelum dibagi. Hal ini berarti bahwa hasil pembagian cluster pada ketiga dataset tersebut memberikan cluster yang lebih kompak dan lebih terdistribusi. 124

4 20,62 5,00 10,00 14,14 20,62 7,07 7,07 a. Dataset 1 (jumlah cluster target = 1) 21,67 a. Hasil pembagian dataset 1 22,42 9,72 16,67 4,71 7,45 7,45 11,25 21,64 27,77 26,12 19,69 10,48 17,44 5,67 16,71 C 4 b. Dataset 2 (jumlah cluster target = 2) 21,67 C 5 b. Hasil pembagian dataset 2 22,42 9,72 16,67 18,87 6,87 8,98 13,04 3,73 10,96 26,12 19,69 17,44 21,64 11,25 27,77 16,71 5,67 10,48 C 5 C 4 c. Dataset 2 (jumlah cluster target = 3) Gambar 8. Tiga Dataset Sintetik yang digunakan dalam Eksperimen Pada dataset 1, cluster target dibagi menjadi dua 2 sub cluster (seperti yang dihasilkan oleh proses bisecting divisive clustering). Namun demikian, pada dataset 2 dan 3, cluster target dibagi menjadi lebih dari dua sub cluster (lihat Gambar 9). c. Hasil pembagian dataset 3 Gambar 9. Hasil Pembagian Cluster menggunakan metode ADCMFG Dalam Gambar 9c terlihat bahwa pembagian cluster dengan metode ADCMFG tidak hanya mempu membagi cluster menjadi sejumlah sub cluster, namun juga dapat mereposisi elemen yang seharusnya masuk ke dalam cluster lain (lihat cluster dan cluster C 5 ). C 6 125

5 3. Kesimpulan Dari hasil eksperimen dapat disimpulkan bahwa metode yang diperkenalkan (Adaptive-secting Divisive Clustering Minimum Forest Graph) mampu membagi cluster target menjadi dua atau lebih sub cluster. Disamping itu, metode ini juga mampu melakukan reposisi elemen cluster ke cluster yang sesuai. Disamping itu, hasil evaluasi menggunakan Compactessseparation Criterion menunjukkan indeks yang baik dibandingkan dengan cluster yang belum dilakukan pembagian, yaitu; 0,127 menjadi 0,106 untuk dataset 1, 0,190 menjadi 0,071 untuk dataset 2, dan 0,205 menjadi 0,069 untuk dataset 3. Untuk penelitian selanjunya, metode ini sebaiknya diuji dengan struktur data yang lain dan bila perlu dataset uji memiliki dimensi yang lebih besar. Daftar Pustaka [1] A. K. Jain, Algorithms for clustering data. Englewood Cliffs, N.J: Prentice Hall, [2] G. Gan, Data clustering: theory, algorithms, and applications. Philadelphia, Pa. : Alexandria, Va: SIAM, Society for Industrial and Applied Mathematics ; American Statistical Association, [3] L. Rokach, A survey of Clustering Algorithms, in Data Mining and Knowledge Discovery Handbook, O. Maimon and L. Rokach, Eds. Boston, MA: Springer US, [4] D. Cheng, R. Kannan, S. Vempala, and G. Wang, A divide-andmerge methodology for clustering, ACM Trans. Database Syst., vol. 31, no. 4, pp , Dec [5] A. K. Jain, M. N. Murty, and P. J. Flynn, Data clustering: a review, ACM Comput. Surv., vol. 31, no. 3, pp , Sep [6] M. E. Celebi, H. A. Kingravi, and P. A. Vela, A comparative study of efficient initialization methods for the k-means clustering algorithm, Expert Syst. Appl., vol. 40, no. 1, pp , Jan [7] X. Wu, V. Kumar, J. Ross Quinlan, J. Ghosh, Q. Yang, H. Motoda, G. J. McLachlan, A. Ng, B. Liu, P. S. Yu, Z.-H. Zhou, M. Steinbach, D. J. Hand, and D. Steinberg, Top 10 algorithms in data mining, Knowl. Inf. Syst., vol. 14, no. 1, pp. 1 37, Jan [8] S. S. Khan and A. Ahmad, Cluster center initialization algorithm for K-modes clustering, Expert Syst. Appl., vol. 40, no. 18, pp , Dec [9] K. Liao, G. Liu, L. Xiao, and C. Liu, A sample-based hierarchical adaptive K-means clustering method for large-scale video retrieval, Knowl.-Based Syst., vol. 49, pp , Sep