KATEGORISASI TEKS MENGGUNAKAN N-GRAM UNTUK DOKUMEN BERBAHASA INDONESIA

Transkripsi

1 KATEGORISASI TEKS MENGGUNAKAN N-GRAM UNTUK DOKUMEN BERBAHASA INDONESIA Oleh: YUDHA PERMADI G DEPARTEMEN ILMU KOMPUTER FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM INSTITUT PERTANIAN BOGOR 2008

2 KATEGORISASI TEKS MENGGUNAKAN N-GRAM UNTUK DOKUMEN BERBAHASA INDONESIA Skripsi sebagai salah satu syarat untuk memperoleh gelar Sarjana Komputer pada Fakultas Matematika dan Ilmu Pengetahuan Alam Institut Oleh: YUDHA PERMADI G DEPARTEMEN ILMU KOMPUTER FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM INSTITUT PERTANIAN BOGOR 2008

3 ABSTRAK YUDHA PERMADI. sasi Teks Menggunakan N-gram untuk Dokumen Berbahasa Indonesia. Dibimbing oleh JULIO ADISANTOSO dan FIRMAN ARDIANSYAH. Luasnya sumber untuk mendapatkan suatu dokumen dengan topik atau tema tertentu dapat mengakibatkan banyaknya dokumen yang dicari memiliki topik yang sama walaupun dengan sudut pandang yang berbeda. Perbedaan sudut pandang ini kemudian dapat dikelompokkan berdasarkan pembahasan dari tiap sudut pandang. Namun jika dilihat dari akar permasalahan atau topik utamanya maka akan cukup sulit membedakan satu permasalahan dengan permasalahan lainnya. Dalam bidang temu kembali informasi terdapat suatu model pengelompokan dokumen yang disebut kategorisasi teks. Model ini juga memiliki beberapa jenis metode pengelompokan dokumen yang salah satunya adalah metode N-gram. Metode N-gram merupakan suatu metode yang sering digunakan untuk mengenali kesalahan-kesalahan yang sering terjadi pada suatu dokumen. Menggunakan N-gram untuk proses kategorisasi teks, dokumen-dokumen dengan topik utama yang sama dapat dikelompokkan ke dalam beberapa kategori walaupun terdapat kesalahan tekstual. Kinerja dari sistem ini dapat diketahui dengan membandingkan profil N-gram dari dokumen dengan kategori yang sudah ada. Dari proses perbandingan ini dapat ditentukan dan dikalkulasikan jarak antara dua profil tersebut, dan menentukan kategori mana yang memiliki jarak terkecil dengan dokumen tersebut. Dari penelitian ini didapatkan bahwa pemotongan Trigram memiliki persentase kebenaran kategorisasi terbesar yaitu 26,035%. Kata kunci: Temu Kembali Informasi, sasi Teks, N-gram.

4 Judul Nama NRP : sasi Teks Menggunakan N-gram untuk Dokumen Berbahasa Indonesia : Yudha Permadi : G Pembimbing I, Menyetujui: Pembimbing II, Ir. Julio Adisantoso, M.Komp. NIP Firman Ardiansyah, S.Kom, M.Si. NIP Mengetahui: Dekan Fakultas Matematika dan Ilmu Pengetahuan Alam Institut Dr. Drh. Hasim, DEA. NIP Tanggal Lulus:

5 RIWAYAT HIDUP Penulis bernama Yudha Permadi, lahir di Jakarta pada hari Jumat tanggal 4 November 1983 dari pasangan Agus Hendrayanto dan Sulastri. Penulis merupakan putra pertama dari dua bersaudara. Pada tahun 2002 penulis lulus dari SMUN 3 Depok dan pada tahun yang sama lulus seleksi masuk IPB melalui jalur Seleksi Penerimaan Mahasiswa Baru. Penulis memilih Program Studi Ilmu Komputer, Departemen Ilmu Komputer, Fakultas Matematika dan Ilmu Pengetahuan Alam. Selama mengikuti perkuliahan, penulis juga aktif dalam kegiatan kemahasiswaan, yaitu sebagai Koordinator Kesekretariatan Pesta Sains Nasional 2005 yang merupakan kompetisi dalam bidang sains untuk siswa-siswi SMA se-indonesia. Selain itu, penulis juga aktif di organisasi kemahasiswaan, yaitu sebagai staf Departemen Minat dan Bakat Himpunan Mahasiswa Ilmu Komputer (HIMALKOM) Periode

6 v PRAKATA Puji dan syukur penulis panjatkan kepada Allah SWT, karena atas rahmat dan hidayah-nya penelitian ini dapat diselesaikan. Penelitian ini mengambil tema temu kembali informasi dengan judul sasi Teks Menggunakan N-gram untuk Dokumen Berbahasa Indonesia. Dalam penyusunan tugas akhir ini, penulis memperoleh bimbingan dan bantuan dari berbagai pihak. Oleh karena itu, kata terima kasih sebesar-besarnya penulis ucapkan kepada Ayahanda dan Ibunda tercinta yang selalu mengalirkan do a dan kasih sayangnya serta Adinda Imam Prayudhi yang selalu memberikan bantuan dan pengertiannya. Bapak Ir. Julio Adisantoso, M.Komp. dan Bapak Firman Ardiansyah, S.Kom, M.Si. selaku pembimbing dan Bapak Sony Hartono Wijaya, S.Kom selaku penguji. Seluruh staf Departemen Ilmu Komputer. Teman-teman lab TKI: Abdul Rahman, Nafi Ikhsani, Adam S. Akbar, M. Zaenal Arifin, dan Fridolin F. Paiki. Rekan-rekan ILKOMERZ 39 yang lain terutama Fajri Ma rifatullah dan Sundoro A. Nugroho yang telah mendorong semangat penulis Ummi Syarifah dan keluarga yang telah membantu cukup banyak dalam proses penelitian Akhir kata, penulis berharap agar hasil penelitian ini dapat bermanfaat bagi pembaca, terutama para pembaca yang berminat untuk melanjutkan dan menyempurnakan penelitian ini. Depok, April 2008 Yudha Permadi v

7 v DAFTAR ISI Halaman DAFTAR GAMBAR... vi DAFTAR TABEL... vi DAFTAR LAMPIRAN... vi PENDAHULUAN... 1 Latar Belakang... 1 Tujuan... 1 TINJAUAN PUSTAKA... 1 Temu Kembali Informasi... 1 sasi Teks... 1 N-gram... 1 sasi Teks Menggunakan Frekuensi Statistik N-gram... 2 METODE PENELITIAN... 2 Penyusunan Frekuensi N-gram... 2 Perbandingan dan Perangkingan Frekuensi N-gram... 2 Pengujian sasi Teks pada Klasifikasi Tiap... 3 Koleksi Dokumen... 3 Lingkungan Pengembangan... 3 HASIL DAN PEMBAHASAN... 4 Koleksi Dokumen... 4 Dokumen... 4 Pembuatan Profil... 4 Hasil Perbandingan Jarak Profil... 5 Evaluasi Klasifikasi Dokumen Berdasarkan Jenis N-gram... 5 KESIMPULAN DAN SARAN... 8 Kesimpulan... 8 Saran... 9 DAFTAR PUSTAKA... 9 LAMPIRAN v

8 vi DAFTAR GAMBAR Halaman 1 Distribusi Zipf dari frekuensi N-gram Ilustrasi pengukuran jarak Alur data kategorisasi teks Grafik jumlah N-gram dengan ukuran profil tiap kategori... 5 DAFTAR TABEL Halaman 1 Profil kategori dokumen Perbandingan jumlah dokumen Jumlah N-gram tiap kategori Klasifikasi Bigram sasi Bigram dua kategori Klasifikasi Trigram sasi Trigram dua kategori Klasifikasi Quadgram sasi Quadgram dua kategori sasi Quadgram tanpa kategori Musim Panen Klasifikasi Ngram Klasifikasi Ngram dua kategori Klasifikasi Ngram tanpa kategori Musim Panen... 8 DAFTAR LAMPIRAN Halaman 1 sasi teks menggunakan Bigram sasi teks menggunakan Trigram sasi teks menggunakan Quadgram sasi teks menggunakan Ngram vi

9 1 Latar Belakang PENDAHULUAN Dengan pesatnya perkembangan dan luasnya jangkauan Internet, maka banyak sekali sumber yang dapat digunakan untuk mendapatkan suatu dokumen. Bahkan untuk satu jenis pembahasan topik atau tema, banyak sekali dokumen-dokumen yang memiliki kesamaan walaupun pembahasan tema tiap-tiap dokumen dilihat dari beberapa sudut pandang. Contohnya untuk tema pertanian, dapat dibahas dalam beberapa sudut pandang, seperti pembangunan dalam bidang pertanian, penerapan metode tumpang sari, penelitianpenelitian bidang pertanian, dan lain-lain. Beberapa perbedaan sudut pandang ini kemudian dapat digunakan untuk mengelompokkan dokumen-dokumen yang ada ke dalam beberapa pembahasan atau kelompok. Akan tetapi jika dilihat dari akar permasalahan atau tema utama dari dokumen-dokumen tersebut maka akan cukup sulit membedakan satu sudut pandang dengan sudut pandang yang lainnya. Akan lebih sulit juga apabila dokumendokumen yang akan dikelompokkan memiliki jumlah yang cukup banyak dan terus bertambah seiring waktu dan perkembangan jaman. Oleh karena itu dibutuhkan suatu sistem yang dapat mengelompokkan dokumendokumen tersebut ke dalam beberapa kategori. Dalam bidang temu kembali informasi terdapat suatu model pengelompokan dokumen yang disebut kategorisasi teks. Dalam model ini terdapat berbagai jenis metode untuk mengelompokkan dokumen. Salah satu di antaranya adalah metode N-gram. Metode N-gram sebenarnya merupakan suatu metode untuk mengenali kesalahankesalahan yang mungkin terjadi pada suatu dokumen. Kesalahan yang sering terjadi adalah kesalahan pengetikan dan kesalahan pengenalan suatu kata. Oleh karena itu, kategorisasi teks menggunakan N-gram akan memiliki beberapa karakteristik, antara lain: dapat berfungsi dengan baik walaupun terdapat kesalahan tekstual, dapat berjalan secara efisien, membutuhkan penyimpanan yang sederhana dan waktu proses yang cepat. Tujuan Penelitian ini bertujuan untuk mengimplementasikan dan menganalisis beberapa metode N-gram untuk kategorisasi teks, serta mengetahui metode N-gram mana yang paling baik dalam proses kategorisasi teks. Penelitian ini dibatasi untuk dokumen-dokumen berbahasa Indonesia. TINJAUAN PUSTAKA Temu Kembali Informasi Temu kembali informasi merupakan sebuah proses untuk membantu pengguna menemukan obyek informasi yang relevan dengan suatu tujuan atau masalah. Oleh karena itu, sebuah sistem temu kembali informasi memiliki sebuah tujuan untuk mengembalikan informasi yang relevan dan sesedikit mungkin (atau bahkan tidak) mengembalikan informasi yang tidak relevan terhadap yang diinginkan oleh pengguna (Baeza-Yates & Ribeiro-Neto 1999). Untuk memenuhi tujuan dari sebuah sistem temu kembali informasi yang ideal, maka dikembangkan berbagai cara mengoptimalkan sistem temu kembali informasi. Beberapa cara untuk mengoptimalkan sebuah sistem temu kembali, adalah: mengembangkan pemrosesan dokumen, yaitu bagaimana dokumen direpresentasikan dalam sistem. mengembangkan ukuran kesamaan (similarity measurement) antara dokumen dengan kueri. sasi Teks sasi teks merupakan salah satu tahap pemrosesan dokumen pada temu kembali informasi, di mana dokumen-dokumen yang ada dikelompokkan atau diklasifikasikan ke dalam beberapa topik atau tema (Attardi 2004). Pada kategorisasi teks, representasi suatu dokumen adalah kata, di mana tiap kata memiliki ciri khas yang berbeda. Oleh karena itu, pada sebagian besar proses kategorisasi teks, terdapat banyak ciri khas yang mungkin terjadi, baik ciri khas yang relevan dengan tema dokumen maupun yang tidak relevan dari proses kategorisasi. Adapun metode yang mengelompokkan semua ciri khas tersebut cenderung lebih baik daripada metode yang hanya mengelompokkan ciri khas yang relevan (Mooney 2001). N-gram N-gram adalah pemotongan dari string (kata) yang lebih panjang. Pada beberapa literatur dapat juga diartikan munculnya makna atau kata baru dari seperangkat karakter hasil 1

10 2 pemotongan pada sebuah kata (Trenkle & Cavnar 1994). Khasnya adalah satu potongan kata menjadi seperangkat N-gram yang bertumpang tindih. Penambahan garis bawah (blank) pada awal dan akhir kata digunakan untuk membantu menentukan kondisi awal kata dan akhir kata. Maka pada kata TEKS dapat dikomposisikan menjadi N-gram berikut: Bi-gram: Tri-gram: _T, TE, EK, KS, S TE, TEK, EKS, KS_, S Quad-gram: _TEK, TEKS, EKS_, KS, S _ Oleh karena itu, sebuah string dengan panjang k, ditambahkan dengan garis bawah, akan memiliki k+1 bigram, k+1 trigram, k+1 quadgram, dan seterusnya. Pencocokan berdasarkan N-gram telah berhasil dalam menangani masukan yang tidak jernih seperti, dalam menafsirkan alamat pos, memulihkan teks, dan aplikasi pemrosesan bahasa alami. Kunci sukses pencocokan berdasarkan N-gram adalah karena tiap kata dikomposisikan menjadi bagian-bagian kecil, kesalahan yang muncul hanya mempengaruhi sejumlah kecil bagian tersebut, meninggalkan yang lain tetap utuh. Jika kita menghitung beberapa N-gram yang sama pada dua kata, kita akan mendapatkan ukuran kesamaan dua kata tersebut yang tidak terpengaruh oleh berbagai macam kesalahan tekstual. sasi Teks Menggunakan Frekuensi Statistik N-gram Bahasa manusia pada dasarnya memiliki beberapa kata yang lebih sering digunakan dari kata yang lainnya. Salah satu cara yang dapat digunakan untuk mengekspresikan ide ini adalah yang dikenal dengan Hukum Zipf yang berbunyi: Kata ke-n yang paling umum pada teks bahasa manusia muncul dengan frekuensi yang berbanding terbalik pada n. Implikasi dari hukum ini adalah bahwa selalu terdapat kata-kata yang paling mendominasi dari kata-kata lain dalam bahasa manusia pada frekuensi penggunaan tertentu. Implikasi ini cocok untuk kata-kata pada umumnya dan kata-kata yang spesifik pada subjek tertentu. Hukum Zipf mengimplikasikan bahwa mengklasifikasikan dokumen menggunakan frekuensi statistik N-gram tidak akan terlalu berpengaruh dalam pemotongan distribusi pada rank tertentu. Hal ini juga mengimplikasikan bahwa jika kita membandingkan dokumen dari kategori yang sama, maka dapat terlihat dokumen-dokumen tersebut memiliki distribusi frekuensi N-gram yang hampir sama (Trenkle & Cavnar 1994). Dari pernyataan tersebut dapat digambarkan implikasi Hukum Zipf seperti pada Gambar 1. Gambar 1 Distribusi Zipf dari frekuensi N- gram. METODE PENELITIAN Penyusunan Frekuensi N-gram Langkah ini dilakukan dengan membaca teks yang datang dan menghitung kemunculan dari ketiga N-gram. Adapun langkahlangkahnya adalah: Kata (token) diambil dari teks, dilakukan pembuangan stopword dan ditambahkan blank sebelum dan setelah token. N-gram dengan n = 2, 3, dan 4 dari token yang didapat kemudian disusun. Digunakan juga penambahan blank pada token. Dilakukan pemotongan untuk membentuk tabel untuk mendapatkan frekuensi untuk tiap N-gram. Tabel pemotongan diatur sedemikian rupa sehingga tiap N-gram memiliki frekuensi-nya masing-masing. Setelah selesai, semua N-gram dan frekuensi akhirnya serta jumlah N-gram tiap tabel ditampilkan. Akhirnya, frekuensi diurutkan berdasarkan banyaknya kemunculan, di mana yang digunakan hanya hasil pemotongan N-gram yang telah terurut dari banyaknya frekuensi. Perbandingan dan Perangkingan Frekuensi N-gram Langkah ini dilakukan dengan mengambil dua tabel N-gram dan menghitung statistika perbedaan rangking sederhana. Cara ini digunakan untuk menentukan seberapa jauh frekuensi satu N-gram dengan N-gram yang 2

11 3 lainnya. Sehingga didapatkan ukuran jarak antara dokumen dan kumpulan dokumen (kategori) tertentu. penghitungan frekuensi untuk tiap kategori (menyusun profil artikel / dokumen). Penghitungan keseluruhan ukuran jarak antara artikel dan kategori (mengukur jarak). Penentuan kumpulan dokumen terpilih dari sumber dokumen (memilih jarak terkecil). Gambar 2 Ilustrasi pengukuran jarak. Seperti yang terlihat pada Gambar 2, pada profil dokumen dan profil kategori, N-gram TH berada pada rank (baris) pertama, maka nilai jaraknya adalah 0. Jika N-gram ING berada pada rank kedua pada profil dokumen dan pada rank kelima pada profil kategori, maka nilai jaraknya adalah 3. Apabila terdapat N-gram pada profil dokumen tapi tidak terdapat pada profil kategori, seperti N-gram ED, maka nilai jaraknya adalah maksimum. Nilai maksimum yang dimaksud adalah jumlah N- gram dari profil kategori yang dibandingkan. Sedangkan ukuran jarak antara dokumen dengan kategori adalah jumlah dari nilai jarak dari tiap N-gram pada profil dokumen. Pengujian sasi Teks pada Klasifikasi Tiap Pendekatan dalam kategorisasi teks dapat dilakukan dengan menggunakan frekuensi N- gram untuk mengukur kesamaan subjek (kategori) dari dokumen. Tentu saja pendekatannya berdasarkan dari isi dokumen yang mana menjadi daya tarik dari proses temukembali. Untuk menguji pendekatan ini, akan digunakan sistem klasifikasi untuk mengenali dokumen yang sesuai pada kategori yang akan digunakan. Seperti yang terlihat pada Gambar 3, prosedur untuk kategorisasi adalah sebagai berikut: Pengumpulan dokumen untuk tiap jenis sumber. Dokumen yang diambil adalah artikel surat kabar yang berkisar antara 686 bytes sampai 36 kilobytes. Penghitungan frekuensi N-gram pada tiap kategori (menyusun profil kategori). Frekuensi N-gram yang dimaksud adalah sama dengan frekuensi N-gram yang sebelumnya telah disebutkan. Penghitungan N-gram dari sebuah artikel dengan cara yang sama dengan Gambar 3 Alur data kategorisasi teks. Koleksi Dokumen Pengujian Untuk menguji sistem ini, digunakan koleksi dokumen (corpus) Adisantoso & Ridha (2004) yang berkaitan dengan masalah pertanian. Jumlah dokumen yang akan digunakan dalam penelitian ini sebanyak 1000 dokumen. Lingkungan Pengembangan Lingkungan pengembangan yang digunakan adalah sebagai berikut : Perangkat lunak: Windows XP Professional, Visual Basic.NET 2005, Microsoft Access Perangkat keras: Intel Core 2 Duo 1,5 GHz, 512 MB RAM. 3

12 4 HASIL DAN PEMBAHASAN Koleksi Dokumen Koleksi dokumen yang digunakan pada penelitian ini berasal dari corpus Adisantoso & Ridha (2004). Jumlah dokumen pada koleksi ini adalah 1000 dokumen. Akan tetapi, koleksi yang terbagi dalam 30 kategori hanya 953 dokumen. Dalam penelitian ini, hanya digunakan 10 kategori yang memiliki jumlah dokumen terbanyak. Kemudian dari 10 kategori tersebut akan dibentuk profil kategori berdasarkan sebagian dari dokumen-dokumen dalam tiap kategori. Jumlah dari ukuran dokumen-dokumen yang akan digunakan sebagai profil kategori untuk tiap kategori dapat dilihat pada Tabel 1. Tabel 1 Profil kategori Ukuran Profil (KB) 40,9 Gagal Panen 61,3 Harga Komoditas 140 Impor Beras 66,7 Institut 58,8 Musim Panen 50, ,9 Riset 130 Tanaman Pangan 51,4 TOTAL 780 Dokumen Penentuan kategori-kategori yang akan digunakan dalam penelitian adalah sepuluh kategori yang memiliki jumlah dokumen terbanyak pada koleksi dokumen. Dari tiap kategori yang telah ditentukan tersebut, dilakukan pembuatan profil untuk masingmasing kategori dan jenis-jenis kategori tersebut disimpan dalam tabel. Jenis-jenis kategori dan jumlah dokumen perbandingan dalam penelitian ini dapat dilihat pada Tabel 2. Pembuatan Profil Proses pembuatan profil kategori dan profil dokumen pada dasarnya adalah sama, yaitu proses tokenizing, stopword, proses penambahan blank pada awal dan akhir tiap token, pemotongan N-gram untuk tiap nilai n, penyusunan ke dalam tabel-tabel tiap nilai n, dan pengurutan tabel-tabel tersebut berdasarkan jumlah tiap N-gram hasil pemotongan N-gram. Perbedaan proses pembuatan profil kategori dan profil dokumen adalah pada banyaknya tabel yang dihasilkan. Tabel 2 dokumen Jumlah Dokumen 32 Gagal Panen 39 Harga Komoditas 44 Impor Beras 33 Institut 32 Musim Panen Riset 56 Tanaman Pangan 35 TOTAL 374 Proses pembuatan profil kategori menghasilkan empat tabel, yaitu tabel bigram (2gram), trigram (3gram), quadgram (4gram) dan Ngram (2gram, 3gram, 4gram). Sedangkan pada proses pembuatan profil dokumen hanya menghasilkan satu tabel, yaitu tabel dari jenis kategorisasi teks yang akan digunakan (2gram, 3gram, 4gram atau Ngram). Tabel 3 Perbandingan jumlah dokumen Jumlah Jumlah % Profil Dokumen ,949% Gagal Panen ,75% Harga Komoditas % Impor Beras ,512% Institut % Musim Panen % ,565% ,048% Riset ,841% Tanaman Pangan ,605% Pada Tabel 3 dapat dilihat bahwa jumlah dokumen yang akan digunakan dalam pembuatan profil tiap kategori adalah < 20% dari jumlah dokumen tiap kategori. Jumlah N-gram tiap kategori hasil dari pembuatan profil kategori dapat dilihat pada Tabel 4. Dari Tabel 4 dapat dilihat bahwa untuk jumlah N-gram pada Bigram tidak ada yang mencapai 1000 N-gram. Sedangkan pada Trigram, jumlah N-gram tiap kategori adalah 4

13 N-gram. Dan untuk Quadgram dan Ngram, jumlah N-gram mencapai lebih dari 4000 N-gram. Hal ini dapat disebabkan pada Bigram, tiap N-gram tidak memiliki pengertian yang jelas dalam pengelompokan N-gram. Pada Trigram, pengelompokan N-gram sudah memiliki pengertian jelas dalam tiap kelompok N-gram. Sedangkan pada Quadgram dan Ngram, tiap N-gram memiliki pengertian yang sangat jelas untuk dapat dikelompokkan seperti mengelompokkan kata dasar satu dengan yang lainnya atau kata dasar dengan imbuhannya. Tabel 4 Jumlah N-gram tiap kategori 2gram 3gram 4gram Ngram Gagal Panen Harga Komoditas Impor Beras Institut Musim Panen Riset Tanaman Pangan gram 3gram 4gram Ngram Gambar 4 Grafik jumlah N-gram dengan ukuran profil tiap kategori. Pada Gambar 4 dapat dilihat perbandingan jumlah N-gram dengan ukuran profil tiap kategorinya, dapat diketahui bahwa semakin besar ukuran profil suatu kategori maka jumlah N-gram kategori tersebut juga cenderung semakin banyak. Meskipun hal ini juga sangat tergantung pada seberapa banyak kesalahankesalahan pada dokumen-dokumen yang digunakan untuk membuat profil kategori baik kesalahan pengetikan, pengejaan maupun kesalahan pengenalan suatu kata dalam dokumen. Semakin banyak kesalahan yang terjadi maka semakin banyak juga jumlah N- gram yang dihasilkan pada proses pembuatan profil kategori. Hasil Perbandingan Jarak Profil Pengukuran jarak dalam proses kategorisasi teks adalah dengan menghitung perbedaan rank atau baris tabel tiap token antara profil dokumen dengan profil kategori. Hasil perbandingan ini kemudian dikalkulasikan untuk tiap kategori. Proses perbandingan dilakukan berdasarkan banyaknya dokumen yang akan diklasifikasikan (374 dokumen). Tiap dokumen akan diklasifikasikan untuk tiap jenis N-gram (2gram, 3gram, 4gram dan Ngram). Hal yang menarik dari hasil kalkulasi jarak tiap dokumen adalah semakin besar jumlah N- gram tiap profil dokumen maka akan semakin besar juga jarak antara dokumen tersebut dengan tiap kategori. Karena dengan semakin besar jumlah N-gram pada profil dokumen maka akan semakin bervariasi N-gram profil dokumen tersebut dan kondisi jarak maksimum akan semakin sering terjadi. Tetapi sebaliknya, semakin banyak jumlah N-gram pada profil suatu kategori maka akan semakin kecil jarak antara kategori tersebut dengan tiap dokumen. Hal ini disebabkan karena semakin banyak jumlah N-gram pada profil kategori maka kondisi jarak maksimum akan jarang terjadi. Evaluasi Klasifikasi Dokumen Berdasarkan Jenis N-gram Berdasarkan ukuran jarak yang telah didapatkan, kita dapat menentukan jarak suatu dokumen dengan tiap kategori. Dengan jarak tersebut kita dapat menentukan termasuk ke dalam kategori apa suatu dokumen dengan mencari nilai minimum jarak antara dokumen dan kategori tersebut. Akan tetapi setiap jenis klasifikasi memiliki kinerja yang berbeda dan perlu dievaluasi. Hasil klasifikasi tiap jenis N-gram dapat dievaluasi sebagai berikut. Pada klasifikasi Bigram dapat diketahui bahwa proses klasifikasi berhasil mengklasifikasikan setidaknya dua dokumen untuk tiap kategori. Klasifikasi Bigram mencapai kinerja tertinggi pada proses klasifikasi kategori (32,353%) dan mengalami kinerja terendah pada kategori Impor Beras (6,061%). Hasil klasifikasi Bigram selengkapnya dapat dilihat pada Tabel 5. 5

14 6 Tabel 5 Klasifikasi Bigram Jumlah Persentase Benar Benar 9 28,125% Gagal Panen 8 20,513% Harga Komoditas 8 18,182% Impor Beras 2 6,061% Institut 9 28,125% Musim Panen 8 25% 11 29,73% 11 32,353% Riset 17 30,357% Tanaman Pangan 9 25,714% Total / Rata-rata 92 24,416% Tabel 6 sasi Bigram dua kategori Impor Beras 1 0 Gagal Panen 4 3 Harga Komoditas 7 2 Impor Beras 2 0 Institut 0 2 Musim Panen Riset 0 10 Tanaman Pangan 4 3 Jumlah Dari perbandingan dua kategori yang memiliki kinerja tertinggi dan terendah pada Tabel 6 juga dapat dilihat bahwa pada klasifikasi kategori Impor Beras sebagian besar dokumen diklasifikasikan pada kategori Musim Panen yang mencapai sepuluh dokumen (30,303%). Sedangkan pada kategori sebagian besar dokumen berhasil diklasifikasikan dengan benar walaupun cukup banyak diklasifikasikan pada kategori Riset yang mencapai sepuluh dokumen (29,412%). Hal ini karena terdapat kesamaan topik antara dengan Riset. Hasil lengkap kategorisasi Bigram dapat dilihat pada Lampiran 1. Pada Tabel 7 untuk klasifikasi Trigram, proses kategorisasi berhasil mengklasifikasikan minimal tiga dokumen untuk tiap kategori. Kinerja tertinggi terjadi pada kategori yang mencapai 81,25% dan memiliki kinerja terendah pada kategori Riset (5,357%). Tabel 7 Klasifikasi Trigram Jumlah Persentase Benar Benar 26 81,25% Gagal Panen 4 10,256% Harga Komoditas 6 13,636% Impor Beras 4 12,121% Institut 12 37,5% Musim Panen 13 40,625% 8 21,622% 10 29,412% Riset 3 5,357% Tanaman Pangan 3 8,571% Total / Rata-rata 89 26,035% Tabel 8 sasi Trigram dua kategori Riset 26 5 Gagal Panen 3 3 Harga Komoditas 0 4 Impor Beras 0 5 Institut 0 6 Musim Panen Riset 0 3 Tanaman Pangan 0 2 Jumlah Dari Tabel 8 dapat terlihat bahwa klasifikasi kategori yang memiliki kinerja tertinggi, hanya salah mengklasifikasikan enam dokumen yang terbagi rata tiga dokumen (9,375%) untuk kategori Gagal Panen dan kategori Musim Panen. Sedangkan kategori Riset yang memiliki kinerja terendah, sebagian besar mengklasifikasikan dokumen pada kategori Musim Panen sebanyak delapan belas dokumen 6

15 7 (32,143%) dan kategori sebanyak sepuluh dokumen (17,857%). Hasil lengkap kategorisasi Trigram dapat dilihat pada Lampiran 2. Tabel 9 Klasifikasi Quadgram Jumlah Persentase Benar Benar 31 96,875% Gagal Panen 1 2,564% Harga Komoditas 2 4,545% Impor Beras 4 12,121% Institut 12 37,5% Musim Panen 8 25% 4 10,811% 2 5,882% Riset 0 0% Tanaman Pangan 4 11,429% Total / Rata-rata 68 20,673% Tabel 10 sasi Quadgram dua kategori Riset Gagal Panen 0 1 Harga Komoditas 0 1 Impor Beras 0 4 Institut 0 3 Musim Panen Riset 0 0 Tanaman Pangan 0 2 Jumlah Dengan melihat Tabel 9 dapat dikatakan bahwa pada klasifikasi Quadgram terdapat keanehan pada proses kategorisasi. Dapat terlihat pada kategori, proses kategorisasi berhasil mengklasifikasikan hampir semua dokumen dan memiliki kinerja tertinggi pada kategori ini yang mencapai 96,875%. Akan tetapi pada klasifikasi Quadgram, proses kategorisasi tidak mengklasifikasikan satu dokumen pun dari 56 dokumen yang ada yang termasuk kategori Riset. Dengan melihat Tabel 10 dapat dikatakan bahwa kategori cukup mendominasi klasifikasi dokumen. Dengan mengklasifikasikan 31 dokumen benar dan hanya satu dokumen (3,125%) salah yang diklasifikasikan termasuk kategori Musim Panen. Sedangkan pada kategori Riset, klasifikasi dokumen terkonsentrasi pada kategori Musim panen yang mencapai 28 dokumen atau 50% dari keseluruhan dokumen dan enam belas dokumen terklasifikasikan pada kategori tanpa ada satu dokumen pun yang termasuk klasifikasi kategori Riset. Hasil lengkap kategorisasi Quadgram dapat dilihat pada Lampiran 3. Dengan melihat pada Tabel 11 dapat dikatakan bahwa walaupun kategori Musim Panen dihilangkan dalam proses kategorisasi, klasifikasi Quadgram juga tidak berhasil mengklasifikasikan dokumen yang termasuk kategori Riset dan lebih mengklasifikasikan sebagian besar dokumen pada kategori yang mencapai 34 dokumen (60,714%). Tabel 11 sasi Quadgram tanpa kategori Musim Panen Riset 34 Gagal Panen 1 Harga Komoditas 2 Impor Beras 6 Institut Riset 0 Tanaman Pangan 6 Jumlah Dokumen 56 Pada klasifikasi Ngram memiliki beberapa kesamaan dengan klasifikasi Quadgram di mana pada klasifikasi kategori kinerja mencapai lebih dari 90%, yaitu 90,625% dan tidak mengklasifikasikan satu pun dokumen dari 56 dokumen kategori Riset. Hasil lengkap dari klasifikasi Ngram dapat dilihat pada Tabel 12. Tidak jauh berbeda dengan klasifikasi Quadgram pada kategori dan kategori Riset. Klasifikasi Ngram berhasil mengklasifikasikan 29 dokumen yang termasuk kategori dan hanya salah mengklasifikasikan satu dokumen 7

16 8 (3,125%) yang termasuk kategori Gagal Panen dan dua dokumen (6,25%) yang termasuk kategori Musim Panen. Sedangkan untuk kategori Riset, proses kategorisasi mengklasifikasikan 27 dokumen (48,214%) yang termasuk kategori Musim Panen. Ini dapat terlihat pada Tabel 13. Hasil lengkap kategorisasi Ngram dapat dilihat pada Lampiran 4. Tabel 12 Klasifikasi Ngram Jumlah Persentase Benar Benar 29 90,625% Gagal Panen 1 2,564% Harga Komoditas 4 9,091% Impor Beras 6 18,182% Institut 17 53,125% Musim Panen 9 28,125% 5 13,514% 7 20,588% Riset 0 0% Tanaman Pangan 3 8,571% Total / Rata-rata 81 24,439% Tabel 13 Klasifikasi Ngram dua kategori Riset 29 9 Gagal Panen 1 1 Harga Komoditas 0 2 Impor Beras 0 3 Institut 0 6 Musim Panen Riset 0 0 Tanaman Pangan 0 4 Jumlah Hampir sama dengan hasil klasifikasi Quadgram, klasifikasi Ngram tanpa kategori Musim Panen juga tidak berhasil mengklasifikasikan dokumen untuk kategori Riset. Akan tetapi pada klasifikasi Ngram, hasil klasifikasi dokumen terdistribusikan hampir ke semua kategori dengan sebagian besar terklasifikasikan pada kategori sebanyak sembilan belas dokumen (33,929%) dan kategori sebanyak dua belas dokumen (21,429%). Hasil selengkapnya dapat dilihat pada Tabel 14. Tabel 14 Klasifikasi Ngram tanpa kategori Musim Panen Riset 19 Gagal Panen 2 Harga Komoditas 3 Impor Beras 5 Institut Riset 0 Tanaman Pangan 6 Jumlah Dokumen 56 KESIMPULAN DAN SARAN Kesimpulan Pada proses kategorisasi teks menggunakan N-gram, klasifikasi Trigram yang paling sesuai untuk dokumen-dokumen berbahasa Indonesia dengan persentase hasil 26,035%. Klasifikasi Trigram juga cukup dapat diandalkan untuk proses kategorisasi teks, karena semua kategori berhasil diklasifikasikan dengan benar dengan kinerja tertinggi 81,25% dan kinerja terendah 5,357%. Klasifikasi Trigram dianggap paling sesuai untuk implementasi sasi Teks karena pada dokumen berbahasa Indonesia, Trigram dapat mengelompokkan kata-kata dalam bahasa Indonesia baik kata-kata dasar maupun kata-kata yang berimbuhan tanpa menggunakan proses stemming. sasi teks menggunakan N-gram terbukti cukup efektif dalam mengklasifikasikan dokumen karena metode ini menggunakan pendekatan kategorisasi menggunakan contoh dengan cara mengumpulkan dan menggunakan profil kategori dari dokumen yang sudah ada. Dalam proses kategorisasi, masalah salah pengejaan suatu kata, karena pengetikan dan pengenalan suatu kata, tidak terlalu berpengaruh pada hasil klasifikasi dokumen secara keseluruhan. 8

17 9 Tingkat akurasi rata-rata semua jenis N- gram adalah 23,891%. Saran Terdapat beberapa hal yang dapat diperhatikan untuk penelitian-penelitian selanjutnya: dalam pembuatan profil kategori dapat menggunakan dokumen-dokumen yang lebih memperlihatkan perbedaan karakteristik untuk tiap kategori. dapat juga dikembangkan beberapa jenis N- gram lain untuk proses kategorisasi teks. menggunakan beberapa macam metode perhitungan jarak antara suatu dokumen dengan kategori yang ada. menggunakan metode yang berbeda dalam mempresentasikan profil suatu kategori. DAFTAR PUSTAKA Adisantoso J, Ridha A Corpus Dokumen Teks Bahasa Indonesia untuk Pengujian Efektivitas Temu Kembali Informasi. Laporan Akhir Hibah Penelitian SP4. : Departemen Ilmu Komputer FMIPA IPB. Attardi G Text Categorization. Roma: Pisa University Pr. Baeza-Yates R, Ribeiro-Neto B Modern Information Retrieval. England: Addison-Wesley. Mooney R Intelligent Information Retrieval and Web Search. Austin: Texas University Pr. Trenkle JM, Cavnar WB N-Gram-Based Text Categorization. Di dalam: Lewis D, editor. Proceedings of Third Annual Symposium on Document Analysis and Information Retrieval; Las Vegas, April Nevada: UNLV Publications/Reprographics. Hlm Zipf GK Human Behavior and The Principle of Least Effort, An Introduction To Human Ecology. England: Addison- Wesley. 9

18 LAMPIRAN

19 11 Lampiran 1 sasi teks menggunakan Bigram Gagal Panen Harga Komoditas Impor Beras Institut Musim Panen Riset Tanaman Pangan Gagal Panen Harga Komoditas Impor Beras Institut Musim Panen Riset Tanaman Pangan Total Dokumen

20 12 Lampiran 2 sasi teks menggunakan Trigram Gagal Panen Harga Komoditas Impor Beras Institut Musim Panen Riset Tanaman Pangan Gagal Panen Harga Komoditas Impor Beras Institut Musim Panen Riset Tanaman Pangan Total Dokumen

21 13 Lampiran 3 sasi teks menggunakan Quadgram Gagal Panen Harga Komoditas Impor Beras Institut Musim Panen Riset Tanaman Pangan Gagal Panen Harga Komoditas Impor Beras Institut Musim Panen Riset Tanaman Pangan Total Dokumen

22 14 Lampiran 4 sasi teks menggunakan Ngram Gagal Panen Harga Komoditas Impor Beras Institut Musim Panen Riset Tanaman Pangan Gagal Panen Harga Komoditas Impor Beras Institut Musim Panen Riset Tanaman Pangan Total Dokumen