PENGGALIAN TOP-K CLOSED FREQUENT ITEMSETS BERBASIS ALGORITMA PEMETAAN TRANSAKSI

Transkripsi

1 Program Studi MMT-ITS, Surabaya 2 Agustus 28 PENGGALIAN TOP-K CLOSED FREQUENT ITEMSETS BERBASIS ALGORITMA PEMETAAN TRANSAKSI Ngurah Agus Sanjaya ER dan Arif Djunaidy Program Magister Bidang Keahlian Teknik Informatika Jurusan Teknik Informatika, Fakultas Teknologi Informasi - ITS ghozan@gmail.com ABSTRAK Penggalian kaidah asosiasi banyak dipelajari dalam penelitian-penelitian. Namun, Penggalian kaidah asosiasi menggunakan minimum support seringkali menghasilkan frequent itemsets dalam jumlah yang besar. Untuk itu penelitianpenelitian terkini dilakukan untuk mencari penggalian top-k closed frequent itemsets dengan panjang minimum minl yang dapat memperkecil ruang pencarian. Dalam paper ini, akan dikembangkan suatu algoritma penggalian top-k closed frequent itemsets dengan panjang minimum minl dengan berbasis algoritma Pemetaan Transaksi. Algoritma Pemetaan Transaksi melakukan penggalian menggunakan irisan daftar interval sehingga mengurangi jumlah perbandingan yang dilakukan jika menggunakan irisan daftar transaksi. Pohon transaksi yang dibangun dipangkas menggunakan metode closed node count dan descendant sum untuk menaikkan minimum support secara dinamis. Hasil akhir dari pohon transaksi kemudian dipetakan ke dalam suatu daftar interval. Penggalian top-k closed frequent itemset dilakukan dengan membangun lexicographic tree secara depth first order. Dari hasil uji coba menggunakan beberapa set data, waktu komputasi dan memori yang digunakan secara umum berbanding lurus dengan nilai minl dan top-k yang dicari. Kata kunci: data mining, frequent itemsets, kaidah asosiasi, transaction tree, pemetaan transaksi, top-k closed frequent itemsets PENDAHULUAN Penggalian kaidah asosiasi (association rules mining) merupakan suatu teknik penggalian data yang sangat populer yang bertujuan untuk mencari hubungan antar entitas-entitas pada transaksi database. Sejak pertama kali dikenalkan oleh Agrawal et al. [1], teknik ini mendapatkan perhatian yang cukup besar di bidang knowledge discovery dan data mining. Algoritma penggalian frequent itemsets (itemset yang sering muncul) dapat dikelompokkan menjadi tiga: 1) berbasis Apriori dengan menggunakan suatu properti semua subpola dari pola yang frequent adalah frequent seperti pada algoritma Apriori [1], 2) berbasis proyeksi dengan menggunakan suatu struktur data yang ringkas seperti pada FP-growth [2], dan 3) metode yang menggunakan format data vertikal seperti pada CHARM [3]. Ketiga kelompok tersebut menggunakan suatu minimum support (minsup) yang telah ditentukan sebelumnya untuk mendapatkan frequent itemsets yang lengkap dan benar. Akan tetapi, penentuan minsup yang tepat untuk suatu data sangat sulit dilakukan, jika terlalu besar maka kemungkinan tidak didapatkan hasil, jika terlalu kecil akan menghasilkan itemsets dalam jumlah yang sangat besar. Selain itu penggalian frequent itemsets biasanya menghasilkan itemsets dalam jumlah yang sangat besar, serta kaidah asosiasi yang jauh lebih besar lagi. Untuk itu beberapa penelitian yang dilakukan oleh para ahli seperti [7], [8], [9], [1] dan [11]

2 Program Studi MMT-ITS, Surabaya 2 Agustus 28 memilih untuk melakukan pencarian closed frequent itemsets (itemset yang sering muncul dan tertutup). Hal ini dilakukan karena closed frequent itemsets mencakup semua subitemset-nya dengan nilai support yang sama sehingga dengan mencari closed frequent itemsets akan didapatkan representasi ringkas dari frequent itemsets tanpa kehilangan informasi mengenai subitemset-nya. Wang et al. [5] mengusulkan suatu pemecahan terhadap masalah penggunaan minsup seperti yang dijelaskan sebelumnya. Pada penelitiannya, minsup tidak ditentukan terlebih dahulu namun pekerjaan diubah menjadi penggalian top-k closed frequent itemsets yang memenuhi panjang minimum minl. Pekerjaan ini memiliki beberapa perbedaan fundamental dari penelitian-penelitian sebelumnya yang menggunakan minsup. Pertama, penggalian closed frequent itemsets menghasilkan itemsets yang jauh lebih sedikit dibandingkan dengan menggali semua frequent itemsets. Kedua, minl biasanya merupakan angka yang kecil (2 sampai dengan 2) yang dapat ditentukan dengan mudah oleh pengguna dibandingkan minsup yang umumnya mengharuskan pengguna memiliki suatu pengetahuan yang mendalam mengenai karakteristik data yang digunakan. Wang juga mengusulkan suatu algoritma yang dinamakan TFP yang membentuk FP-tree tanpa penentuan minsup. Ketika pembentukan FP-tree, minsup akan dinaikkan secara dinamis untuk memangkas itemitem pada subtree yang tidak frequent. Penggalian top-k closed frequent itemsets dilakukan pada conditional FP-tree secara top-down sesuai dengan urutan item pada global header. Penggunaan FP-tree untuk melakukan penggalian top-k closed frequent itemsets mengharuskan pembuatan conditional FP-tree untuk masing-masing item. Jika FP-tree yang dihasilkan besar maka waktu yang dibutuhkan untuk membangun conditional FPtree dan melakukan penggalian akan bertambah. Hal ini terjadi karena untuk masingmasing item algoritma akan membangun conditional FP-tree secara rekursif. Pada masing-masing conditional FP-tree proses dilanjutkan untuk mencari frequent itemsets dari kombinasi item-item yang terkandung didalamnya, sehingga waktu yang diperlukan otomatis akan bertambah. Song et al. [4] mempresentasikan suatu algoritma yang disebut algoritma Pemetaan Transaksi (Transaction Mapping) untuk melakukan penggalian frequent itemsets menggunakan suatu struktur data pohon transaksi (transaction tree). Pohon transaksi hampir sama dengan FP-tree dengan perbedaan tanpa penggunaan tabel header atau node link. Masing-masing item pada pohon transaksi akan diwakili oleh suatu daftar interval. Langkah selanjutnya adalah membangun lexicographic tree dari item-item tersebut. Lexicographic tree ini adalah representasi dari frequent itemsets yang disimpan pada masing-masing node-nya sebagai satu kesatuan. Penggalian frequent itemsets dilakukan dengan mengiriskan daftar-daftar interval dari item-item tersebut pada lexicographic tree. Dengan menggunakan irisan daftar interval untuk melakukan penggalian maka waktu yang dibutuhkan untuk membangun conditional FPtree secara rekursif dapat dihilangkan. Dalam paper ini akan dijelaskan mengenai penggalian top-k closed frequent itemsets berbasis algoritma pemetaan transaksi. Penentuan minsup di awal proses tidak digunakan lagi akan tetapi minsup akan dihitung secara otomatis ketika pembentukan pohon transaksi berlangsung dengan menggunakan metode closed node count dan descendant sum. Proses penggalian top-k closed frequent itemsets kemudian dilakukan pada lexicographic tree dengan mengiriskan daftar interval dari masig-masing item. Bagian 2 dari paper akan menjelaskan beberapa dasar teori yang digunakan dalam pengembangan algoritma ini. Bagian 3 menjelaskan bagaimana proses pembentukan C-15-2

3 Program Studi MMT-ITS, Surabaya 2 Agustus 28 pohon transaksi tanpa menggunakan closed node count dan descendant sum untuk menaikkan minsup. Bagian 4 memperlihatkan hasil pengujian algoritma terhadap beberapa set data serta perbandingannya dengan algoritma pemetaan transaksi. Bagian 5 adalah simpulan dari penelitian yang dikembangkan. METODA Kontribusi utama dari penelitian ini adalah terciptanya suatu algoritma yang dapat membangun pohon transaksi yang efisien tanpa menentukan minimum support terlebih dahulu serta melakukan penggalian top-k closed frequent itemset dengan panjang minimum minl berbasis pada algoritma Pemetaan Transaksi. Oleh karena itu algoritma yang dikembangkan adalah sebagai berikut: 1. Membangun pohon transaksi seperti yang telah dipaparkan pada [4] dengan minsup = : - Scan basis data dan temukan frequent 1-itemset dan urutkan secara menurun terhadap frekuensi kemunculan. Pada awalnya tree hanya terdiri dari satu node yaitu root. Dari [5] dikatakan bahwa suatu transaksi dengan jumlah item kurang dari minl tidak akan memberikan kontribusi terhadap support dari suatu itemset dengan panjang minimum minl. Oleh karena itu transaksi-transaksi dengan panjang kurang dari minl akan diabaikan pada langkah ini. - Scan basis data untuk kedua kalinya. Untuk setiap transaksi pilih item-item yang termasuk dalam frequent 1-itemset, urutkan sesuai urutan pada frequent 1- itemset dan masukkan ke dalam pohon transaksi. Proses pemasukkan ini dimulai dari root. Jika node memiliki id yang sama dengan item, maka count untuk node ini ditambah satu, jika tidak maka buat node baru dan count diset sama dengan 1. Setelah satu transaksi selesai diproses maka minsup dinaikkan menggunakan metode closed node count seperti pada [5]. Pangkas node-node yang memiliki count lebih kecil dari minsup. - Ketika semua transaksi telah dibaca dan dimasukkan ke dalam pohon transaksi, maka minsup dinaikkan sekali lagi menggunakan metode descendant sum [5]. Node-node yang memiliki nilai count lebih kecil dari minsup akan dipangkas lebih lanjut. 2. Node-node yang terdapat pada pohon transaksi kemudian dipetakan ke dalam suatu daftar interval [4] menggunakan rumus sebagai berikut: - Jika child node merupakan anak pertama (first child) dari parent-nya maka id awal dari interval adalah sama dengan id dari parent (s 1 = s) dan id akhir dihitung dengan e 1 = s 1 + c Jika bukan merupakan anak pertama maka id awal dihitung dengan s i = e i-1 + 1, untuk i = 2, 3,..., m dan id akhir dihitung dengan e i = s i + c i -1, untuk i = 2, 3,..., m. 3. Bentuk lexicographic tree secara depth first search untuk semua item yang masih terdapat pada pohon transaksi. Kandidat frequent itemset didapat dengan menggunakan irisan daftar interval dari masing-masing item. Jika coeff dari node m 1 si coeff = i= pada lexicographic tree dengan m item yang dihitung dengan: m 1 li, dimana s i merupakan support elemen ke-i, dan l i merupakan besarnya daftar transaksi untuk elemen tersebut, adalah lebih kecil dari 2 maka algoritma akan berpindah ke irisan daftar transaksi. Masing-masing kandidat frequent itemset diperiksa apakah merupakan closed itemset atau tidak. Jika ya maka closed frequent C-15-3

4 Program Studi MMT-ITS, Surabaya 2 Agustus 28 itemset dimasukkan ke dalam daftar hasil sementara. Jika semua closed frequent itemset telah ditemukan, maka top-k closed frequent itemset didapatkan dari daftar hasil sementara tersebut. HASIL DAN DISKUSI Proses Bisnis Administrasi Pajak dan Retribusi Uji coba dilakukan menggunakan lima buah set data yang biasa digunakan untuk melakukan uji coba algoritma penggalian kaidah asosiasi yaitu: mushroom, connect-4, T1I4D1K, T25I1D1K dan T4I1D1K. Set data mushroom berisikan berbagai macam karakteristik dari spesies jamur. Connect-4 merupakan data tahapan langkah dari game dengan nama yang sama. Sedangkan T1I4D1K, T25I1D1K dan T4I1D1K adalah data sintetis yang didapat dengan menggunakan IBM generator. Data-data tersebut dapat diunduh dari dan Tabel 1 memperlihatkan beberapa karakteristik dari masing-masing set data meliputi jumlah item, rerata panjang dan jumlah record. Tabel 1. Karakteristik dari Set Data untuk Uji Coba Basis Data Jumlah Item Rerata Panjang Jumlah Record (1) (2) (3) (4) Connect Mushroom T1I4D1K T25I1D1K T4I1D1K Dari gambar-gambar di bawah terlihat bahwa pengaruh nilai minl dan top-k pada data sangat bervariasi. Pada set data Mushroom waktu yang diperlukan untuk melakukan keseluruhan proses cenderung meningkat untuk nilai minl dan top-k yang bertambah. Namun untuk minl = 5 terjadi sedikit penurunan waktu komputasi dari nilai top-k = 3 ke 4. Hal yang sama terjadi pada minl = 3 dan minl = 4 namun untuk nilai topk yang berbeda yaitu dari 4 ke 5. Pada set data Connect-4 waktu komputasi meningkat seiring bertambahnya nilai minl dan top-k. Penurunan waktu hanya terjadi pada nilai minl = 1 untuk top-k = 2 ke 3. Peningkatan atau penurunan waktu komputasi sangat terpengaruh dari keberhasilan metode closed node count dan descendant sum untuk meningkatkan minimum support. Mushroom Penggunaan Memori Mushroom W a k tu (d a la m d e tik ) M e m o r i (d a la m K b ) C-15-4

5 Program Studi MMT-ITS, Surabaya 2 Agustus 28 Connect-4 Penggunaan Memori Connect-4 W aktu (dalam detik) M e m o ri (d a l a m K b ) T1I4D1K Penggunaan Memori T1I4D1K W a k tu (d a la m d e tik) M e m o r i (d a la m K b ) T25I1D1K Penggunaan Memori T25I1D1K W aktu (dalam detik ) M e m o ri (d a la m K b ) T4I4D1K Penggunaan Memori T4I4D1K W aktu (dalam dtk) M e m o ri (d a la m K b ) Gambar 1. Grafik Waktu Komputasi dan Penggunaan Memori Masing-masing Set Data Pada uji coba menggunakan set data sintetis T1I4D1K, T25I1D1K dan T4I4D1K hasil uji coba menunjukkan bahwa waktu komputasi berbanding lurus dengan nilai minl dan top-k. Jika nilai minl dan top-k semakin meningkat maka waktu yang digunakan juga semakin banyak. Pada set data T25I1D1K waktu yang C-15-5

6 Program Studi MMT-ITS, Surabaya 2 Agustus 28 dibutuhkan untuk menyelesaikan proses pada minl = 5 adalah jauh lebih tinggi dibandingkan panjang minimum lainnya. Hal ini kemungkinan terjadi karena jumlah closed node count pada level 5 ke atas adalah sedikit, sehingga metode closed node count tidak dapat menaikkan minimum support. Dengan sendirinya pohon transaksi yang harus diproses menjadi besar. Hal yang sama terjadi untuk minl = 4. Penggunaan memori pada set data ini adalah berbanding lurus dengan waktu komputasi. Semakin tinggi waktu komputasi maka semakin banyak memori yang digunakan. Pada Set data T4I4D1K, untuk nilai minl = 5 waktu komputasi berbanding lurus dengan nilai minl dan top-k namun berbanding terbalik dengan penggunaan memori. Besar kemungkinan ini terjadi karena set data memiliki banyak variasi untuk item-item pada level 1-5 sedangkan dari level 5 ke atas item-item banyak yang sama sehingga penggunaan memori menjadi berkurang. Secara umum penggunaan metode closed node count dan descendant sum cukup efektif untuk menaikkan minimum support. Kecenderungan yang terjadi adalah pencarian top-k yang semakin sedikit akan meningkatkan minimum support sedemikian hingga didapatkan suatu pohon transaksi yang sangat ringkas. Walaupun demikian untuk data T25I1D1K pada top-k lebih besar dari 1, kedua metode tersebut tidak menghasilkan nilai minimum support yang optimal. Hal ini kemungkinan terjadi karena karakteristik data tersebut yang memiliki transaksi pendek dan banyak, sehingga itemitem pada pohon transaksi tersebut lebih sering muncul secara bersamaan. Dengan demikian maka jumlah closed node akan menjadi sedikit sehingga metode closed node count dan descendant sum tidak berhasil menaikkan minimum support secara efektif. Dari uji coba juga terlihat bahwa dari ketiga modul yang tercakup dalam algoritma utama, waktu yang paling banyak dihabiskan adalah ketika pembentukan pohon transaksi. Jika dibandingkan dengan kedua modul lain yaitu pembentukan daftar interval dan lexicographic tree, modul pembentukan pohon transaksi ini rata-rata menghabiskan hampir 98% dari keseluruhan waktu komputasi KESIMPULAN Dari uji coba yang dilakukan, maka simpulan dari penelitian ini adalah sebagai berikut: waktu komputasi dan penggunaan memori yang diperlukan oleh algoritma yang dikembangkan adalah berbanding lurus dengan minl dan top-k yang dicari. Disamping itu waktu komputasi juga dipengaruhi oleh karakteristik set data yang digunakan seperti jumlah transaksi, jumlah item dalam transaksi serta panjang transaksi. Perlambatan yang dialami oleh algoritma yang dikembangkan dalam penelitian ini adalah karena kompleksitas yang cukup tinggi yang dibutuhkan ketika pembentukan pohon transaksi. Jika dibandingkan dengan kedua modul utama lainnya maka proses pembentukan pohon transaksi menghabiskan hampir 98% dari waktu komputasi. Oleh karena itu, pengembangan metode untuk mengurangi kompleksitas waktu dari algoritma ini terutama pada pembentukan pohon transaksi masih sangat terbuka. DAFTAR PUSTAKA Agrawal, R. dan Srikant, R. (1994) Fast Algorithms for Mining Association Rules. Proc Int l Conf. Very Large Data Bases (VLDB 94), pp Han, J. et al. (24) Mining Frequent Patterns without Candidate Generation, Data Mining and Knowledge Discovery. 8, Zaki, M. J. dan Hsio, C. J. (25) An Efficient Algorithm for Mining Closed Itemsets and Their Lattice Structure. IEEE Transactions on Knowledge and Data Engineering. 17, pp C-15-6

7 Program Studi MMT-ITS, Surabaya 2 Agustus 28 Song, M. dan Rajasekaran, S. (26) A Transaction Mapping Algorithm for Frequent Itemsets Mining. IEEE Transactions on Knowledge and Data Engineering. 18, pp Wang, J. et al. (25) TFP: An Efficient Algorithm for Mining Top-K Frequent Closed Itemsets. IEEE Transactions on Knowledge and Data Engineering. 17, pp Tan, P., Steinbach, M., Kumar, V. Introduction to Data Mining. First Edition. Pearson Education, Inc., Boston, pp Pasquier, N. et al. (1999) Discovering Frequent Closed Itemsets for Association Rules. Proc. Seventh Int l Conf. Database Theory (ICDT 99), pp Pei, J., Han, J., Mao, R. (2) CLOSET: An Efficient Algorithm for Mining Frequent Closed Itemsets. Proc. 2 ACM-SIGMOD Int l Workshop Data Mining and Knowledge Discovery (DKMD ), pp Boulicaut, J. F. dan Bykowski, A. (2) Frequent Closures As a Concise Representation for Binary Data Mining. Proc. 2 Pacifi-Asia Conf. Knowledge Discovery and Data Mining (PAKDD ), pp Bastide, Y. et al. (2) Mining Frequent Patterns with Counting Interference. SIGKDD Explorations. 2, pp Wang, J., Han, J., Pei, J. (23) CLOSET+: Searching for the Best Strategies for Mining Frequent Closed Itemsets. Proc. 23 ACM SIGKDD Int l Conf. Knowledge Discovery and Data Mining (KDD 3), pp Zaki, M. J. et al (1997) New Algorithms for Fast Discovery of Association Rules. Proc. Third Int l Conf. Knowledge Discovery and Data Mining, pp Shenoy, P. et al. (2) Turbo-Charging Vertical Mining of Large Databases. Proc. ACM SIGMOD Int l Conf. Management of Data, pp Burdick, D., Calimlim, M., Gehrke, J. (21) MAFIA: A Maximal Frequent Itemset Algorithm for Transactional Databases. Proc. Int l Conf. Data Eng., pp Zaki, M. J. dan Gouda, K. (23) Fast Vertical Mining Using Diffsets. Proc. Ninth ACM SIGKDD Int l Conf. Knowledge Discovery and Data Mining, pp Agrawal, R., Aggarwal, C., Prasad, V. A Tree Projection Algorithm for Generation of Frequent Itemsets. Parallel and Distributed Computing, pp C-15-7