SENTIMENT ANALYSIS PADA TEKS BAHASA INDONESIA MENGGUNAKAN SUPPORT VECTOR MACHINE (SVM) DAN K-NEAREST NEIGHBOR (K-NN) TESIS

Transkripsi

1 SENTIMENT ANALYSIS PADA TEKS BAHASA INDONESIA MENGGUNAKAN SUPPORT VECTOR MACHINE (SVM) DAN K-NEAREST NEIGHBOR (K-NN) TESIS SYAHFITRI KARTIKA LIDYA PROGRAM STUDI MAGISTER (S-2) TEKNIK INFORMATIKA FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2014

2 SENTIMENT ANALYSIS PADA TEKS BAHASA INDONESIA MENGGUNAKAN SUPPORT VECTOR MACHINE (SVM) DAN K-NEAREST NEIGHBOR (K-NN) TESIS Diajukan sebagai salah satu syarat untuk memperoleh ijazah Magister (S-2) Teknik Informatika Syahfitri Kartika Lidya PROGRAM STUDI MAGISTER (S-2) TEKNIK INFORMATIKA FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2014

3 PERSETUJUAN Judul Tesis : SENTIMENT ANALYSIS PADA TEKS BAHASA INDONESIA MENGGUNAKAN SUPPORT VECTOR MACHINE (SVM) DAN K-NEAREST NEIGHBOR (K-NN) Kategori : TESIS Nama Mahasiswa : SYAHFITRI KARTIKA LIDYA Nomor Induk Mahasiswa : Program Studi : MAGISTER (S-2) TEKNIK INFORMATIKA Fakultas : ILMU KOMPUTER DAN TEKNOLOGI INFORMASI (FASILKOM-TI) UNIVERSITAS SUMATERA UTARA Komisi Pembimbing : Pembimbing 2, Pembimbing 1, Dr. Syahril Efendi, S.Si M.IT Prof. Dr. Opim Salim Sitompul, M.Sc NIP NIP Diketahui/Disetujui Oleh, Program Studi Magister (S-2) Teknik Informatika, Ketua, Prof. Dr. Muhammad Zarlis NIP

4 PERNYATAAN SENTIMENT ANALYSIS PADA TEKS BAHASA INDONESIA MENGGUNAKAN SUPPORT VECTOR MACHINE (SVM) DAN K-NEAREST NEIGHBOR (K-NN) TESIS Saya mengakui bahwa tesis ini adalah hasil karya saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing telah disebutkan sumbernya. Medan, 21 Agustus 2014 Syahfitri Kartika Lidya

5 PERNYATAAN PERSETUJUAN PUBLIKASI KARYA ILMIAH UNTUK KEPENTINGAN AKADEMIS Sebagai sivitas akademika, Saya yang bertanda tangan di bawah ini : Nama : Syahfitri Kartika Lidya NIM : Program Studi : Magister (S-2) Teknik Informatika Jenis Karya Ilmiah : Tesis Demi pengembangan ilmu pengetahuan, menyetujui untuk memberikan kepada Universitas Sumatera Utara Hak Bebas Royalti Non-Eksklusif (Non-Exclusive Royalty Free Right) atas Tesis Saya yang berjudul. SENTIMENT ANALYSIS PADA TEKS BAHASA INDONESIA MENGGUNAKAN SUPPORT VECTOR MACHINE (SVM) DAN K-NEAREST NEIGHBOR (K-NN) Beserta perangkat yang ada (jika diperlukan). Dengan Hak Bebas Royalti Non-Eksklusif ini, berhak menyimpan, mengalih media, menformat, mengelola, dalam bentuk database, merawat, dan mempublikasikan Tesis Saya tanpa meminta izin dari Saya selama tetap mencantumkan nama Saya sebagai penulis dan sebagai pemegang dan atau sebagai pemilik hak cipta. Demikian Pernyataan ini dibuat dengan sebenarnya. Medan, 21 Agustus 2014 Syahfitri Kartika Lidya

6 Telah diuji pada Tanggal : 21 Agustus 2014 PANITIA PENGUJI TESIS Ketua : Prof. Dr. Opim Salim Sitompul, M.Sc Anggota : 1. Dr. Syahril Efendi, S.Si M.IT 2. Prof. Dr. Muhammad Zarlis 3. Dr. Erna Budhiarti Nababan, M.IT 4. Dr. Benny Benyamin Nasution, Dipl. Ing., M. Eng

7 RIWAYAT HIDUP DATA PRIBADI Nama lengkap berikut gelar : Syahfitri Kartika Lidya, S.TI Tempat dan Tanggal Lahir : Medan, 21 April 1991 Alamat Rumah : Jl. Denai, Jermal IV No. 15 Telepon / HP : syahfitri_k_l@students.usu.ac.id DATA PENDIDIKAN SD : SD Negeri No Bah Lias Tamat : 2000 SMP : SMP Negeri 1 Bandar Tamat : 2006 SMA : SMA Negeri 3 Medan Tamat : 2008 Strata-1 : Teknologi Informasi USU Tamat : 2012 Strata-2 : Teknik Informatika USU Tamat : 2014

8 UCAPAN TERIMA KASIH Puji syukur saya panjatkan kehadirat Allah SWT, yang telah memberikan rahmat dan hidayah-nya serta segala sesuatunya dalam hidup, sehingga saya dapat menyelesaikan penyusunan Tesis ini, sebagai syarat untuk memperoleh ijazah Magister Teknik Informatika, Fakultas Ilmu Komputer dan Teknologi Informasi. Dalam pengerjaan Tesis ini penulis banyak sekali mendapatkan dukungan, saran, dan nasehat dari berbagai pihak. Dalam kesempatan ini penulis mengucapkan terima kasih kepada: Bapak Prof. Dr. Opim Salim Sitompul, M.Sc, selaku Dosen Pembimbing I, yang telah bersedia meluangkan waktu dan pikirannya dalam membimbing, memotivasi untuk menyelesaikan Tesis ini. Bapak Dr. Syahril Efendi, S.Si M.IT, selaku Dosen Pembimbing II, yang telah bersedia meluangkan waktu dan pikirannya dalam menyelesaikan Tesis ini, Ucapan terima kasih juga ditujukan kepada Dosen Pembanding Bapak Prof. Dr. Muhammad Zarlis, Ibu Dr. Erna Budhiarti Nababan M.IT, dan Bapak Dr. Benny Benyamin Nasution Dipl. Ing., M. Eng, kemudian ucapan terima kasih untuk Ketua Program Studi Magister Teknik Informatika Bapak Prof. Dr. Muhammad Zarlis dan Sekretaris Program Studi Magister Teknik Informatika Bapak M. Andri Budiman, ST, McompSc, MEM. Serta kepada dosen-dosen Program Studi Magister Teknik Informatika dan pegawai di Program Studi Magister Teknik Informatika, khususnya kak Widya, kak Ines, kak Maya dan bang Ewin yang telah membantu kelancaran proses administrasi. Segala hormat dan terima kasih secara khusus penulis ucapkan kepada ayahanda Yonnes Hasan dan Ibunda Nova Mustika atas motivasi, kasih sayang, dan dukungan baik secara materi maupun do a yang tak pernah putus yang diberikan kepada penulis, tak lupa kepada adik-adik tersayang Vayon Rachmat Ramadhan dan Sabilla Afiya, serta tante dan Om tersayang Julia Reveny, Imsyah Satari, Julia Maulina, Imsyahrial yang telah memberi motivasi dan nasehat serta nenek Syahiar tersayang yang selalu mendoakan. Tidak lupa kepada seluruh sahabat penulis Stambuk 2012 Kom A yang selalu berusaha menjadi sahabat terbaik khususnya kak Ananda, bg Johanes, bg bambang, kak Mawadda dan seluruh Stambuk 2012, kemudian orang terdekat yang selalu disayang, yang selalu memberi motivasi dan nasehat khususnya Karina Ayesha, Alfarisi, Karina Andi, Bowo, Ishri, Cahya, Dika, Mauza, Khalil. Penulis berharap bahwa Tesis ini bermanfaat terutama kepada penulis maupun para pembaca. Saya menyadari bahwa Tesis ini perlu saran dan kritik yang bersifat membangun demi kesempurnaan Tesis ini sehingga dapat bermanfaat bagi kita semua. Sekali lagi saya ucapkan terima kasih atas segalanya. Semoga segala kebaikan diberikan balasan yang setimpal oleh Allah SWT. Medan, 21 Agustus 2014 Syahfitri Kartika Lidya

9 ABSTRAK Analisis Sentimen adalah proses menganalisis, memahami, dan mengklasifikasi pendapat, evaluasi, penilaian, sikap, dan emosi terhadap suatu entitas seperti produk, jasa, organisasi, individu, peristiwa, topik, secara otomatis untuk mendapatkan informasi. Penelitian ini menggunakan teks Bahasa Indonesia yang terdapat di website berupa artikel berita, kemudian metode K-Nearest Neighbor akan mengklasifikasi secara langsung pada data pembelajaran agar dapat menentukan model yang akan dibentuk oleh metode Support Vector Machine untuk menentukan kategori dari data baru yang ingin ditentukan kategori tekstual, yaitu kelas sentimen positif, negatif dan netral. Berdasarkan seluruh hasil pengujian, bahwa pengaruh nilai k pada k-fold cross validation yang terlalu kecil menghasilkan akurasi yang rendah, sedangkan nilai k yang terlalu besar menghasilkan nilai akurasi yang besar, kemudian Pengaruh nilai k pada K-NN terhadap akurasi, jika n memiliki akurasi rendah pada saat nilai k kecil. Hal ini dikarenakan, data yang masuk pada k tetangga terdekat terlalu sedikit dan belum bisa merepresentasikan kelas pada data uji. Kata kunci : Sentiment Analysis, Support Vector Machine, K-Nearest Neighbor

10 SENTIMENT ANALYSIS USING SUPPORT VECTOR MACHINE (SVM) AND K-NEAREST NEIGHBOR (K-NN) ON INDONESIAN TEXT ABSTRACT Sentiment analysis is the process of analyzing, understanding, and classifying opinions, evaluation, assessment, attitudes, and emotions to an entity such as products, services, organizations, individuals, events, topics, automatically to obtain the information. This study uses Indonesian text contained in the website in the form of news articles, then the K-Nearest Neighbor method will classify directly to the learning data in order to determine the model that will be established by the Support Vector Machine method for determining the category of the new data to be determined categories of textual, the class of sentiment is positive, negative and neutral. Based on the test results, that influence the value of k in the k-fold cross validation is too small resulting in low accuracy, while too large values of k produce great accuracy value, then the value of k on the Influence of K-NN to accuracy, if n has an accuracy low when the value of k is small. This is because, the incoming data on the k nearest neighbor too little and can not represent a class on test data. Keyword : Sentiment Analysis, Support Vector Machine, K-Nearest Neighbor

11 DAFTAR ISI Halaman HALAMAN JUDUL PERSETUJUAN PERNYATAAN ORISINALITAS PERSETUJUAN PUBLIKASI PANITIA PENGUJI RIWAYAT HIDUP UCAPAN TERIMA KASIH ABSTRAK ABSTRACT DAFTAR ISI DAFTAR TABEL DAFTAR GAMBAR i ii iii iv v vi vii viii ix x xii xiii BAB 1 PENDAHULUAN Latar Belakang Rumusan Masalah Batasan Masalah Tujuan Penelitian Manfaat Penelitian 3 BAB 2 LANDASAN TEORI Text Mining Sentiment Analysis Support Vector Machine (SVM) Konsep Support Vector Machine (SVM) Klasifikasi Data Linear Separable Klasifikasi Data Linear Non-Separable Klasifikasi Data Non-Linear Metode Kernel Algoritma SVM untuk Menganalisis Dokumen Web Karakterisitik Support Vector Machine (SVM) Kelebihan Support Vector Machine (SVM) Kelemahan Support Vector Machine (SVM) K-Nearest Neighbor (K-NN) Konsep K-Nearest Neighbor (K-NN) Algoritma K-NN untuk Menganalisis Dokumen Web Kelebihan K-Nearest Neighbor (K-NN) Kelemahan K-Nearest Neighbor (K-NN) K-Fold Cross Validation Riset Terkait Perbedaan dengan Riset yang lain Kontribusi Riset 26

12 BAB 3 METODOLOGI PENELITIAN Identifikasi Masalah Proses Analisis Sentimen pada Dokumen Pengumpulan Data Pre-Processing Cleaning Case Folding Ekstraksi Fitur Tokenization Stopwords Removing Stemming Pembobotan Term Pembelajaran dan Analisis Rancangan Analisis Dokumen dengan K-NN Rancangan Analisis Dokumen dengan SVM Validasi dengan K-Fold Cross Validation 45 BAB 4 HASIL DAN PEMBAHASAN Tentang Penelitian Implementasi Metode K-NN dan Support Vector Machine Persiapan Data Proses Analisis Antar Muka Sistem Hasil dan Pembahasan Percobaan Hasil dan Pembahasan Percobaan dengan Metode K-NN dan SVM untuk data Berbahasa Indonesia Pengaruh Pemilihan Nilai K pada K-NN Akurasi K-Fold Cross Validation 66 BAB 5 KESIMPULAN DAN SARAN Kesimpulan Saran 70 DAFTAR PUSTAKA 71 LAMPIRAN 74

13 DAFTAR TABEL Halaman Tabel 2.1. Daftar Prefiks yang Meluluh 9 Tabel 2.2. Daftar Kemungkinan Perubahan Prefiks 9 Tabel 2.3. Daftar Kombinasi Prefiks dan Sufiks yang Tidak Diperbolehkan 10 Tabel 2.4. Rangkuman Penelitian Sentiment Analysis Sebelumnya 25 Tabel 3.1. Jumlah Frekuensi tiap Term 35 Tabel 3.2. Bobot Term 35 Tabel 3.3. Hitung Perkalian Skalar 39 Tabel 3.3. Hitung Panjang Vektor 40 Tabel 4.1. Spesifikasi Perangkat Keras 47 Tabel 4.2. Kata Positif pada Dokumen Positif 53 Tabel 4.3. Kata Negatif pada Dokumen Positif 54 Tabel 4.4. Kata Positif pada Dokumen Negatif 56 Tabel 4.5. Kata Negatif pada Dokumen Negatif 56 Tabel 4.6. Kata Positif pada Dokumen Netral 59 Tabel 4.7. Kata Negatif pada Dokumen Netral 59 Tabel 4.8. Persentase (%) Analisis Sentimen K-NN 61 Tabel 4.9. Jumlah Dokumen Hasil Analisis Sentimen K-NN 61 Tabel Akurasi dan Waktu Proses K-NN dalam Menganalisis Sentimen 61 Tabel Persentase (%) Analisis Sentimen SVM 62 Tabel Jumlah Dokumen Hasil Analisis Sentimen K-NN 62 Tabel Akurasi dan Waktu Proses SVM dalam Menganalisis Sentimen 63 Tabel Hasil Rata-rata Semua Fold Cross Validation pada SVM dan K-NN Terhadap Akurasi 67

14 DAFTAR GAMBAR Halaman Gambar 2.1. Hyperplane (Bidang Pemisah) 14 Gambar 2.2. Transformasi dari vektor input ke feature space 15 Gambar 2.3. Suatu Kernel map mengubah problem yang tidak linier menjadi Linier dalam space baru 16 Gambar 2.4. Ilustrasi Data dipisahkan dalam kasus XOR 18 Gambar 2.5. Delapan titik dalam satu dimensi dan estimasi densitas K-NN dengan k=3 dan k=5 22 Gambar 2.6. K-NN mengestimasi densitas dua dimensi dengan k=5 22 Gambar 3.1. Proses Analisis Sentimen 27 Gambar 3.2. Pseudocode Crawling 28 Gambar 3.3. Pseudocode Cleaning 29 Gambar 3.4. Pseudocode Case Folding 30 Gambar 3.5. Pseudocode Tokenization 30 Gambar 3.6. Pseudocode Stopwords Removing 31 Gambar 3.7. Pseudocode Stemming 32 Gambar 3.8. Term Documents Matrix 33 Gambar 3.9. Pseudocode Pembobotan Term 34 Gambar Diagram Alir K-NN 37 Gambar Pseudocode Analisis Menggunakan K-NN 38 Gambar Diagram Alir SVM 42 Gambar Pseudocode Analisis Menggunakan SVM 44 Gambar Fungsi Pemisah antara Dokumen Relevan dan Tidak Relevan 45 Gambar Pseudocode K-Fold Cross Validation 46 Gambar 4.1. Tampilan Beranda 49 Gambar 4.2. Tampilan Sub Menu Kelola Data 50 Gambar 4.3. Tampilan Menu Tambah 50 Gambar 4.4. Tampilan Sub Menu Analisis Sentimen 51 Gambar 4.5. Dokumen Positif 53 Gambar 4.6. Dokumen Negatif 54 Gambar 4.7. Dokumen Netral 55 Gambar 4.8. Jumlah Dokumen Positif, Negatif dan Netral Hasil Analisis Sentimen 59 Gambar 4.9. Akurasi Rata-Rata K-NN dan SVM dalam Menganalisis Sentimen 59 Gambar Waktu Rata-Rata K-NN dan SVM Menganalisis Sentimen 60 Gambar Pengaruh Nilai k pada K-NN terhadap Akurasi 61 Gambar Hasil Pengujian Konfigurasi Niilai k pada K-Fold Cross Validation Berdasarkan Hasil Rata-Rata Akurasi 63

15