Algoritma Latent Semantic Analysis (LSA) Pada Peringkas Dokumen Otomatis Untuk Proses Clustering Dokumen

Transkripsi

1 Semarag, 16 November 2013 Algoritma Latet Sematic Aalysis (LSA) Pada Perigkas Dokume Otomatis Utuk Proses Clusterig Dokume Ardytha Luthfiarta 1, Juta Zeiarja 2, Abu Salam 3 1,2,3 Fakultas Ilmu Komputer, Tekik Iformatika, Uiv. Dia Nuswatoro 1 ardytha.luthfiarta@ds.dius.ac.id, 2 juta@ds.dius.ac.id,3 abu.salam@ds.dius.ac.id ABSTRAK Tekologi pegklastera dokume memiliki pera yag sigifka dalam kemajua tekologi iformasi, diataraya mempuyai peraa petig dalam pegembaga web di bidag akurasi kategorisasi keyword otomatis pada search egie, kategorisasi berita utuk surat kabar elektroik, peigkata ratig situs dega tekologi Search Egie Optimizatio (SEO) da sagat memugkika utuk diimplemetasika dalam berbagai tekologi iformasi laiya, oleh karea itu diperluka peelitia utuk meigkatka ketepata akurasi dalam pegklastera dokume. Dalam peelitia ii Algoritma Latet Sematic Aalysis (LSA) dapat melakuka proses reduksi kalimat dega lebih baik dibadigka algoritma Feature Based sehigga medapatka hasil akurasi proses clusterig dokume yag lebih akurat.beberapa tahapa clusterig dalam peelitia ii, yaitu preprocessig, perigkas dokume otomatis dega metode fitur, perigkas dokume otomatis dega LSA, pembobota kata, da algoritma clusterig.hasil peelitia meujukka tigkat akurasi megguaka perigkas dokume otomatis dega LSA dalam proses clusterigdokume mecapai 71,04 %yag diperoleh pada tigkat perigkas dokume otomatisdega LSA 40% dibadigka dega hasil clusterig tapa perigkas dokume otomatis yag haya mecapai tigkat akurasi 65,97 %. Kata kuci:text Miig, Clusterig, Perigkas Dokume Otomatis, LSA 1. PENDAHULUAN Proses perigkas dokume adalah sebuah proses utuk melakuka peguraga volume dokume mejadi lebih rigkas, dega cara megambil iti dokume da membuag term yag diaggap tidak petig tapa meguragi maka sebuah dokume.[1][2], terdapat dua tipe pembuata suatu rigkasa yag megambil bagia terpetig dari teks asliya yaitu abstrak da ekstrak. Abstrak meghasilka sebuah iterprestasi terhadap teks asliya, dimaa sebuah kalimat aka ditrasformasika mejadi kalimat yag lebih sigkat[3], sedagka ekstraksi merupaka rigkasa teks yag diperoleh dega meyajika kembali bagia tulisa yag diaggap topik utama tulisa dega betuk yag lebih disederhaaka [4][5], dalam peelitia ii aka diguaka fitur rigkasa ekstrak sebagai model perigkas dokume otomatis. Peerapa tekik perigkasa dokume utuk clusterig dokume memiliki dampak yag sigifika, hal ii dikareaka proses clusterig dokume serigkali terkedala oleh besarya volume dokume yag ada. Permasalaha itu mucul karea volume dokume yag besar idetik dega besaryamatrik term-dokume, padahal tidak semua term releva da terkadag mucul term-reduda da hal iilah yag meyebabka proses clusterig mejadi tidak optimal. Peelitia ii bertujua utuk optimalisasi proses clusterig dokume dega melakuka reduksi matrik term-dokume. Di dalam model perigkas dokume otomatis dapat diguaka algoritma Feaure Based da Latet Sematic Aalysis (LSA) utuk proses reduksi kalimat[7].peelitia yag sudah perah dilakuka dega megguaka algoritma Feature Based dalam proses perigkas dokume otomatis sebagai feature reductio utuk proses clusterig dokume dihasilka tigkat akurasi yag lebih baik dibadigka dega proses clusterig megguaka tekik feature reductio stadar [8][9]. Perigkas Dokume megguaka Algoritma LSA diharapka dapat melakuka proses reduksi kalimat dega baik dibadigka algoritma Feature Based sehigga dapat lebih meigkatka akurasi proses clusterig dokume. 2. TINJAUAN PUSTAKA 2.1 Dokume Clusterig Clusterig dokume adalah proses pegelompoka dataset dokume merujuk pada similarity (kemiripa) pola datadokume ke dalam suatu cluster, sedagka yag tidak memiliki kemiripa aka dikelompokka ke dalam cluster yag lai.[9]. K-meas merupaka salah satu algoritma klaster yag palig terkeal da serig diguaka utuk meyelesaika permasalaha clusterig yaitu dega megelompokka sejumalah k cluster (dimaa jumlah k telah di defiisika sebelumya) [10]. Lagkah-lagkah algoritma K-meas adalah sebagai berikut: 1. Tetuka ilai k sebagai jumlah klaster yag igi dibetuk 2. Bagkitka k cetroid (titik pusat klaster) awal secara radom. 3. Hitug jarak setiap data ke masig-masig cetroid megguaka rumus korelasi atar dua objek yaitu Euclidea Distace da kesamaa Cosie. 4. Kelompokka setiap data berdasarka jarak terdekat atara data dega cetroidya. 5. Tetuka posisi cetroid baru (k C) dega cara meghitug ilai rata-rata dari data-data yag ada pada cetroid yag sama. 13

2 Semarag, 16 November 2013 C k = Dimaa k adalah jumlah dokume dalam cluster k da i d adalah dokume dalam cluster k. 6. Kembali ke lagkah 3 jika posisi cetroid baru dega cetroid lama tidak sama. 1 k d i Sim(d x,d y ) = k=1 x k y k x 2 k=1 k y 2 k=1 k (1) 2.2 Tahap Preprocessig Tahapa preprocessig adalah tahapa awal sebelum dilakuka proses clusterig, tahapa ii diperluka agar dokume hasil crawlig, yag aka diproses berada dalam betuk yag tepat da dapat diproses pada tahapa selajutya. Peelitia ii megguaka tiga tahap utuk preprocessig, yaitu :tokeizatio, stopword, da stemmig. 2.3 Perigkasa Teks Dokume Otomatis (Automatic Text Summarizatio) Perigkas dokume teks otomatis adalah betuk rigkas dari dokume, yag bertujua utuk meghilagka term yag diaggap tidak releva atau reduda dega mejaga iti maka dari dokume, sehigga meskipu dokume tadi memiliki volume yag besar aka tetapi para peggua dokume dapat memahami iti makaya dega cepat da bear [11][12]. 2.4 Metode Berbasis Fitur Dalam peelitia ii ada beberapa tahapa metode berbasis fitur yag diguaka, yaitu sebagai berikut : Fitur Judul Pajag Kalimat Bobot Kata Jumla katapadajudul Jumla katayagsamadegajudul Jumla katayagterdapatpadakalimat jumla katayagterdapatpadakalimatterpajag Jumla TF IdF dalam kalimat Maksimal jumla TF IdF TF-IDF =jumlah kata pada dokume * idf = jumlah kata pada dokume * log df N df = jumlah kalimat yag megadug kata x N = jumlah kalimat dalam pada dokume Posisi Kalimat 1 merepresetasika kalimat pertama da kalimat terakhir. 0 merepresetasika kalimat laiya. (2) (3) (4) Kesamaa Atar Kalimat sim cos (d i,d j ) = d i. d j d i. d j (5) w ik = Bobot kata pada dokume wjk = Bobot kata pada query = k=1 w ik X w jk w 2 k=1 ik X w 2 k=1 jk (6) sedagka utuk meghitug skor dari fitur ii adalah [4] : jumlah cosie similarity jumla maksimal similarity (7) Kata Tematik Data Numerik jumla kata tematik dalam kalimat pajag kalimat (jumla kata pada kalimat ) jumla data umerik pajag kalimat (jumla kat a pada kalimat ) (8) (9) 14

3 Semarag, 16 November Metode Berbasis LSA (Latet Sematic Aalysis) LSA (Latet Sematic Aalysis) adalah metode statistik aljabar yag megekstrak struktur sematik yag tersembuyi dari kata da kalimat [7], utuk mecari iterelasi diatara kalimat da kata, diguaka metode aljabar Sigular Value Decompositio (SVD).Disampig mempuyai kapasitas relasi model diatara kata da kalimat, SVD ii mempuyai kapasitas reduksi oise yag membatu utuk meigkatka akurasi [8][13]. 2.6 Documet RepresetatioVector Space Model VSM megubah koleksi dokume kedalam matrik term-documet [9]. Pada gambar 1. Dimaa d adalah dokume da w adalah bobot atau ilai utuk setiap term. A mx = d1 d2 d ω 11 ω 12 ω 1 t1 ω 21 ω 22 ω 2 t2 ω m1 ω m2 ω m tm Gambar 1 :Matrik Term-dokume 2.7 TFIDF Peelitia ii megguaka TFIDF sebagai metode term weightig. TF adalah jumlah muculya suatu term dalam suatu dokume, IDF adalah perhituga logaritma pembagia jumlah dokume dega frekuesi dokume yag memuat suatu term, da TFIDF adalah hasil perkalia ilai TF dega IDFutuk sebuah term dalam dokume. Persamaa IDF da TFIDF dapat dilihat pada persamaa 10 da 11 dibawah ii: IDF = log D DF TFIDF(t) = TF * log D DF (10) (11) 2.8 Similiarity Measure Dalam peelitia ii utuk meghitug persamaa atar dokume aka megukur jarak atar 2 dokume d i da d j, dega megguaka rumus cosies similiarity. Pada Vector Space Model Dokume direpresetasika dalam betuk d = {w 1, w 2, w 3,, w } dimaa d adalah dokume da wadalah ilai bobot setiap term dalam dokume[14]. Persamaa similarity measure dapa dilihat pada persamaa 12 berikut ii : similiarity (d i, d j ) = cosies θ = di.dj di. dj (12) 2.9 Evaluatio Measure Ada beberapa tekik evaluatio measure utuk megukur kualitas performa dari model clusterig dokume, diataraya adalah iformatio metrix, misclassificatio idex, purity, F-Measure[catur,afady]. Peelitia ii megguaka tekik F-measure utuk megukur kierja model yag diusulka.pegukura F-Measure berdasar pada ilai Precisio da Recall. Semaki tiggi ilai Precisio da Recallmaka meujukka tigat akurasi tiggi hasil clusterig dokume..recall da precisio kategori i dalam cluster j diperoleh dari persamaa 13 berikut : Recall (i,j) = ij ij Precisio (i,j) = (13) i j Perhituga F-measure megguaka persamaa sebagai berikut: ij = jumlah dokume kategori i dalam cluster j, i =jumlah dokume dalam kategori i j = jumlah dokume dalam cluster j F(i,j) = Da, rata-rata perhituga F-Measure megguaka persamaa berikut: i 2 (Precisio Recall ) (Precisio +Recall ) (14) F = i max j=1,,k F(i,j)(15) Max {F(i,j)}= ilai maksimum F-Measure dari kategori i dalam cluster j 15

4 Semarag, 16 November MODEL YANG DIUSULKAN Gambar 2 :Model yag diusulka. Algoritma yag diusulka aka diimplemetasika secara umum dega megguaka pemrograma JAVA. Sistem aka dibagu megguaka Lucee3 sebagai java library. Lucee memiliki fugsi stopword removal da stemmig sebagai preprocessig, perhituga pembobota Term Frequecy Ivers Documet Frequecy (TFIDF) da perhituga cosies similarity utuk meghitug kemiripa atar dokume, selai itu lucee secara luas sudah diakui dalam pegguaaya utuk mesi pecari da situs pecaria. Keuggula laiya adalah lucee merupaka software library yag ope source Dataset Peelitia ii memakai data yag berasal dari situs portal berita yahoo ews Idoesia, jumlah dataset test sebayak 150 dokume berita berbahasa idoesia dari 5 kategori berita yaitu: Sport, Ekoomi, Hukum, Krimial, da Politik. Dataset tersebut ditrasformasi utuk medapatka atribut yag releva da sesuai dega format iput algoritma clusterig dokume Preprocessig Di dalam peelitia ii megguaka 3 tahapa preprocessig yag aka di guaka yaitu: Tokeizatio, Stopword, da Stemmig Tokeizatio Tahap tokeizig adalah tahap pemotoga strig iput berdasarka tiap kata yag meyusuya, cotoh dari tahapa ii adalah sebagai berikut : Tekts Iput : Belajar membaca buku.hasil Toke : Belajar Stopword membaca Dalam tahap stopword, kata-kata yag tidak releva dalam peetua topic sebuah dokume aka dihilagka, misal kata adalah, dari, sebuah, atau da lai-lai dalam dokume bahasa Idoesia Stemmig Stemig merupaka tahap mecari root kata / kata dasar dari tiap kata hasil filterig, cotoh dari tahap ii adalah sebagai berikut : buku Hasil Filter : Hasil Stemmig : Belajar membaca buku ajar baca buku 16

5 Semarag, 16 November Evaluasi Evaluasi dilakuka dega megamati hasil clusterig dari pegujia metode yag diusulka dega algoritma LSA (Latet Sematic Aalysis). Dalam peelitia ii, diguaka F-measure utuk megukur kierja clusterig. F-measure diperoleh dari pegukura recall da precisio. Recall adalah rasio dokume yag releva yag terambil dega jumlah seluruh dokume dalam koleksi dokume, sedagka precisio adalah rasio jumlah dokume releva terambil dega seluruh jumlah dokume terambil. Validasi hasil dega membadigka hasil evaluasi metode yag diusulka. 4. HASIL DAN PEMBAHASAN 4.1. Hasil akurasi kierja clusterig Tabel 1 : hasil peelitia Metode F-Measure 1 F-Measure 2 F-Measure 3 F-Measure 4 F-Measure 5 Rata-rata % Origial K-Meas Feature base 20% Feature base 40% Feature base 60% Feature base 80% LSA 20% LSA 40% LSA 60% LSA 80% Tabel 1 diatas merupaka perbadiga hasil peelitia dari beberapa model yag diuji da model yag diusulka. Dari hasil peelitia yag dilakuka dapat dibuktika bahwa rata-rata hasil proses clusterig dokume megguaka model yag diusulka yaitu perigkas dokume otomatis dega metode Latet Sematic Aalysis (LSA) dapat meigkatka akurasi hasil clusterig pada dokume teks berbahasa Idoesia. Tigkat akurasi rata-rata tertiggi diperoleh megguaka perigkas dokume otomatis dega metode LSA mecapai 71,04 %yag diperoleh pada tigkat perigkas dokume otomatis LSA 40% dibadigka dega tapa megguaka perigkas dokume otomatis yag haya mecapai rata-rata tigkat akurasi 65,92 %,dari gambar diatasjuga dapat dilihat hasil rata-rata proses clusterig dokume dega megguaka tekik perigkas dokume otomatis secara keseluruha megalami peigkata kierja dari pada kierja clusterig dokume tapa megguaka tekik perigkas dokume otomatis. Hasil peelitia lebih legkap dapat dilihat pada Gambar3 dibawah ii: Perbadiga Model Algoritma Model Gambar 3 : Rata-rata hasil kierja proses clusterig dokume Grafik batag pada gambar 3 diatas meujukka bahwa secara keseluruha utuk beberapa pegujia, meujukka model perigkas dokume otomatis megguaka algoritma LSA meghasilka akurasi hasil clusterig yag lebih baik dibadigaka dega algoritma Feature based. Da hasil terbaik ditujukka oleh model perigkas dokume LSA dega tigkat % summary 40% yaitu meghasilka ilai F-measure rata-rata sebesar 71,04%. 5. KESIMPULAN Berdasarka percobaa-percobaa yag telah dilakuka dapat disimpulka bahwa Perigkas Dokume Otomatis dega Latet Sematic Aalysis (LSA) pada Proses Clusterig Dokume Teks Berbahasa Idoesia dapat meigkatka kierja clusterig dokume lebih baik dari pada Perigkas Dokume Otomatis dega Metode Fitur da Proses Clusterig Dokume Stadar, 17

6 Semarag, 16 November 2013 megalami peigkata dari tigkat akurasi 65,92 % utuk proses clusterig stadar mejadi 71,04% utuk proses clusterig dokume megguaka perigkas dokume otomatis dega Latet Sematic Aalysis (LSA). DAFTAR PUSTAKA [1] Mohammed Abdul Wajeed, & Adilakshmi, T., Text Classificatio Usig Machie Learig, Joural of Theoretical ad Applied Iformatio Techology, [2] S. Catur, S. Abu, ad S. Abdul, Itegratig Feature-Based Documet Summarizatio as Feature Reductio i Documet Clusterig, Proceedigs of Iteratioal Coferece o Iformatio Techology ad Electrical Egieerig, July 2012, pp [3] Chagqiu Su, Xiaolog Wag & Ju Xu, Study o Feature Selectio i Fiace Text Categorizatio, Iteratioal Coferece o Systems, Ma, ad Cyberetics Proceedigs of the 2009 IEEE. [4] H. Al-mubaid ad A.S. Umair, "A ew text categorizatio techique usig distributioal clusterig ad learig logic," IEEE Tras. Kowl. Data Eg, vol. 18, 2006, pp [5] Ladda Suamali, Naomie Salim & M Salem Biwahla, Automatic text summarizatio usig feature based fuzzy extractio, Jural tekologi Maklumat jilid 20. Bil 2, [6] Luyig LIU, Jiachu KANG, Jig YU & Zhogliag WANG, A Comparative Study o Usupervised Feature Selectio Methods for Text Clusterig, Natural Laguage Processig ad Kowledge Egieerig, IEEE NLP-KE '05. Proceedigs of 2005 IEEE Iteratioal Coferece o. [7] R. Peter, S. G, D. G, & S. Kp, "Evaluatio of SVD ad NMF Methods for Latet Sematic Aalysis," IteratioalJoural of Recet Treds i Egieerig, vol. 1, 2009, pp [8] Tao Liu, Shegpig Liu, Zheg Che & Wei-Yig Ma, A Evaluatio o Feature Selectio for Text Clusterig, Proceedigs of the Twetieth Iteratioal Coferece o Machie Learig (ICML-2003), Washigto DC, [9] L. Muflikhah & B. Baharudi, "Documet Clusterig usig Cocept Space ad Cosie Similarity Measuremet," Iteratioal Coferece o Computer Techology ad Developmet, Kota Kiabalu: 2009, pp [10] W. Sog ad S. C. Park, A Novel Documet Clusterig Model Based o Latet Sematic Aalysis, pp , [11] Krysta M. Svore, Lucy V., & Christopher J.C. Burges, Ehacig Sigle-documet Summarizatio by Combiig RakNet ad Thirdparty Sources, Proceedigs of the 2007 Joit Coferece o Empirical Methods i Natural Laguage Processig ad Computatioal Natural Laguage Learig, pp , Prague, Jue [12] JIANG Xiao-Yu, FAN Xiao-Zhog, Wag Zhi-Fei & Jia Ke-Liag, Improvig the Performace of Text Categorizatio usig Automatic Summarizatio, Iteratioal Coferece o Computer Modelig ad Simulatio IEEE [13] Rakesh Peter, Shivapratap G, Divya G & Soma KP, Evaluatio of SVD ad NMF Methods for Latet Sematic Aalysis, Iteratioal Joural of Recet Treds i Egieerig,Vol 1, No. 3, May [14] Aa Hug, Similarity Measures for Text Documet Clusterig, NZCSRSC 2008, April 2008, Christchurch, New Zealad