PERBANDINGAN HASIL KLASIFIKASI ANALISIS DISKRIMINAN DAN JARINGAN SYARAF TIRUAN

Transkripsi

1 TUGAS AKHIR - ST 1325 PERBANDINGAN HASIL KLASIFIKASI ANALISIS DISKRIMINAN DAN JARINGAN SYARAF TIRUAN ANANG SETIYO BUDI NRP Dosen Pembimbing Dra. Kartika Fitriasari, M.Si Adatul Mukarromah, S.Si JURUSAN STATISTIKA Fakultas Matematika Dan Ilmu Pengetahuan Alam Institut Teknologi Sepuluh Nopember Surabaya 2007

2 FINAL PROJECT - ST 1325 A COMPARISON OF CLASSIFICATION RESULT USING DISCRIMINANT ANALYSIS AND ARTIFICIAL NEURAL NETWORK ANANG SETIYO BUDI NRP Supervisors Dra. Kartika Fitriasari, M.Si Adatul Mukarromah, S.Si DEPARTMENT Of STATISTICS Faculty Of Mathematics And Science Sepuluh Nopember Institute Of Technology Surabaya 2007

3 LEMBAR PENGESAHAN PERBANDINGAN HASIL KLASIFIKASI ANALISIS DISKRIMINAN DAN JARINGAN SYARAF TIRUAN TUGAS AKHIR Diajukan Untuk Memenuhi Salah Satu Syarat Kelulusan Di Program Studi Strata Satu Statistika Fakultas Matematika Dan Ilmu Pengetahuan Alam Institut Teknologi Sepuluh Nopember Surabaya Oleh: ANANG SETIYO BUDI Nrp Disetujui oleh Pembimbing Tugas Akhir : 1. Dra. Kartika Fitriasari, M.Si (Pembimbing I) NIP Adatul Mukarromah, S.Si (Pembimbing II) NIP Mengetahui, Ketua Jurusan Statistika FMIPA-ITS Ir. Mutiah Salamah, Mkes NIP SURABAYA, JANUARI, 2007

4 PERBANDINGAN HASIL KLASIFIKASI ANALISIS DISKRIMINAN DAN JARINGAN SYARAF TIRUAN Abstrak Nama Mahasiswa : Anang Setiyo Budi Nrp : Jurusan : Statistika FMIPA-ITS Dosen Pembimbing : Dra. Kartika Fitriasari, M.Si Co-Pembimbing : Adatul Mukarromah, S.Si Seringkali ditemukan permasalahan untuk mengelompokkan beberapa objek ke dalam suatu kelompok atau grup berdasarkan variabel pembeda (prediktor). Analisis diskriminan linear dan kuadratik merupakan analisis multivariat yang dapat diterapkan untuk pengklasifikasian objek ke dalam 2 kelompok atau lebih berdasarkan variabel prediktor. Variabel prediktor yang digunakan pada analisis ini adalah interval-ratio sedangkan variabel responnya merupakan variabel yang nominal-ordinal. Analisis ini membutuhkan asumsi normal multivariat dan matrik varian-kovarian yang homogen. Dalam prakteknya, kedua asumsi ini tidak selalu dapat dipenuhi. Tidak terpenuhinya asumsi diatas dan ketepatan klasifikasi yang dihasilkan analisis diskriminan terkadang masih rendah sehingga memunculkan metode alternatif untuk memperbaiki kekurangan tersebut. Metode tersebut adalah jaringan syaraf tiruan dengan algoritma backpropagation dan radial basis function. Pada data kasus, asumsi matrik variankovarian tidak dapat dipenuhi sehingga metode yang dapat dipakai adalah bootstrap diskriminan, dengan metode bootstrap diskriminan linear dihasilkan ketepatan klasifikasi data training sebesar 71.55% dan 76.56% untuk bootstrap diskriminan kuadratik, sedangkan jaringan syaraf tiruan dengan algoritma backpropagation (11-1-1) dan radial basis function ( ) menghasilkan ketepatan klasifikasi yang sama yaitu 69.53% untuk data training dan 68.75% untuk data testing. Simulasi model 1 untuk metode analisis diskriminan dan jaringan syaraf tiruan memberi- iii

5 kan hasil ketepatan klasifikasi yang sama yaitu 100% pada data training maupun data testing, simulasi model 2 dengan analisis diskriminan didapatkan ketepatan klasifikasi data training sebesar 88.33%, sedangkan jaringan syaraf tiruan dengan algoritma pembelajaran backpropagation dan radial basis function memberikan ketepatan klasifikasi sebesar 92.50% dan 98.83%. Pada simulasi model 3 ketepatan klasifikasi tertinggi pada data training dihasilkan oleh metode radial basis function sebesar 100% dan ketepatan klasifikasi tertinggi pada data testing dihasilkan oleh algoritma pembelajaran backpro- pagation sebesar 43.33%. Kata kunci : Algoritma Pembelajaran Backpropagation; Analisis Diskriminan; Klasifikasi; Radial Basis Function. iv

6 A COMPARISON OF CLASSIFICATION RESULT USING DISCRIMINANT ANALYSIS AND ARTIFICIAL NEURAL NETWORK Abstract Name : Anang Setiyo Budi Nrp : Department : Statistics FMIPA-ITS Supervisor : Dra. Kartika Fitriasari, M.Si Co-Supervisor : Adatul Mukarromah, S.Si Usually founded to classify several objects into groups based on a set of predictor variables. Linear and quadratic discriminant analysis are multivariet analysis can be applied to classify several objects into two groups or more based on a set of predictor variables. Type of predictor variables are interval and ratio and response variables are nominal-ordinal. In practice this methods require two assumptions, multivariet normal and variance homogenous. But in several cases, both assumptions can t always be fulfilled. Unfulfilled these assumptions and accuracy of classification using discriminant analysis sometimes still lower, so the alternative methods are built to improve or repair the insuffiency. The alternative methods that used in this research are artificial neural network with backpropagation algorithm and radial basis function. In case study of Globe Lamp, assumption of variance homogenous can t fulfilled, method which can be used is bootstrap discriminant analysis which give accuracy classification for training set is 71.56% and 76.56% for linear and quadratic methods, respectively, neural network with backpropagation (11-1-1) algorithm and radial basis function ( ) give same result for accuracy classification are 69.53% for training set and 68.75% for test set. Simulation model 1 for training set and test set, with analysis discriminant and artificial neural network give same result are 100%. Accuracy classification for simulation model 2 with analysis discriminant is v

7 88.33% and backpropagation algorithm and radial basis function give accuracy of classification are 92.50% and 98,83%. In simulation model 3 the highest accuracy of classification for training set resulted by radial basis function is 100% but for test set resulted by backpropagation algorithm is 43.33%. Keywords : Backpropagation Algorithm; Classification; Discriminant Analysis; Radial Basis Function. vi

8 KATA PENGANTAR Puji Syukur ke hadirat Allah SWT yang telah melimpahkan segala rahmat dan hidayah-nya, sehingga atas ijin- Nya laporan Tugas Akhir yang berjudul PERBANDINGAN HASIL KLASIFIKASI ANALISIS DISKRIMINAN DAN JARINGAN SYARAF TIRUAN dapat diselesaikan tepat pada waktunya. Penulis berharap laporan Tugas Akhir ini dapat memberikan sumbangan yang bermanfaat bagi masyarakat dan bagi penulis sendiri. Penulis menyadari bahwa dalam penulisan dan penyusunan laporan tugas akhir ini masih banyak kekurangan dan kelemahan, oleh karena itu penulis mengharapkan saran dan kritik yang membangun. Ucapan terima kasih ditujukan kepada : 1. Ibu Ir. Mutiah Salamah, M.Kes selaku ketua jurusan Statistika FMIPA ITS. 2. Ibu Dra. Kartika Fitriasari, M.Si, selaku dosen pembimbing, terima kasih atas arahan dan bimbingannya. 3. Ibu Adatul M, S.Si, selaku co-pembimbing tugas akhir saya 4. Ibu Vita Ratnasari, S.Si, M.Si, selaku koordinator tugas akhir jurusan Statistika-FMIPA ITS 5. Bapak Ir. Arie Kismanto,M.Sc selaku dosen wali. 6. Kedua orang tua dan saudara-saudaraku tercinta dan semua teman-teman jurusan Statistika angkatan 2003, yang telah memberi dukungan moril dan materiil serta doanya. For All My Friends jangan lupa 3B, belajar, bekerja dan beribadah Semoga Kesuksesan ada pada kita semua. Amin. 7. Trio kwek-kwek, mas Jati dan mas Dani, terima kasih atas sumbangan tenaga dan pikiran selama pembuatan tugas akhir ini. Surabaya, Januari 2007 Penulis vii

9 DAFTAR ISI HALAMAN JUDUL... i LEMBAR PENGESAHAN... ii ABSTRAK... iii ABSTRACT... v KATA PENGANTAR... vii DAFTAR ISI... viii DAFTAR GAMBAR... xi DAFTAR TABEL... xii BAB I PENDAHULUAN Latar Belakang Perumusan Masalah Tujuan Penelitian Manfaat Penelitian Batasan Masalah... 4 BAB II TINJAUAN PUSTAKA Analisis Multivariat Analisis Diskriminan Analisis diskriminan linear Analisis diskriminan kuadratik Jaringan Syaraf Tiruan Karakteristik jaringan syaraf tiruan Algoritma pembelajaran backpropagation Radial basis function Transformasi data Metode Bootstrap Kriteria Hasil Klasifikasi BAB III METODOLOGI PENELITIAN Sumber Data Perbandingan Metode Pada Kasus Data Globe Lamp Langkah-langkah pengelompokkan viii

10 dengan analisis diskriminan Langkah-langkah pengelompokkan dengan algoritma pembelajaran backpropagation Langkah-langkah pengelompokkan dengan radial basis function Perbandingan Metode Pada Data Simulasi Langkah-langkah pengelompokkan dengan analisis diskriminan Langkah-langkah pengelompokkan dengan algoritma pembelajaran backpropagation Langkah-langkah pengelompokkan dengan radial basis function Tahapan Akhir BAB IV ANALISA DATA DAN PEMBAHASAN Data kasus Globe Lamp Analisis diskriminan Algoritma pembelajaran backpropagation Radial basis function Perbandingan metode Data simulasi Simulasi model Analisis diskriminan Algoritma pembelajaran backpropagation Radial basis function Simulasi model Analisis Diskriminan Algoritma pembelajaran backpropagation Radial basis function Simulasi model Analisis diskriminan ix

11 Algoritma pembelajaran backpropagation Radial basis function Perbandingan Metode Metode Bootstrap BAB V KESIMPULAN DAN SARAN Kesimpulan Saran DAFTAR PUSTAKA LAMPIRAN x

12 DAFTAR GAMBAR Gambar 2.1 Jaringan Saraf Tiruan yang Sederhana Gambar 2.2 Jaringan Saraf dengan Lapisan Tunggal Gambar 2.3 Jaringan Saraf dengan Banyak Lapisan Gambar 2.4 Fungsi Identitas Gambar 2.5 Fungsi Step Biner(Treshold) Gambar 2.6 Fungsi Sigmoid Biner Gambar 2.7 Fungsi Sigmoid Bipolar Gambar 2.8 Pemilihan Jumlah Node yang Optimal Gambar 2.9 Topologi Radial Basis Function Network Gambar 4.1 Pemetaan Kategori Ketepatan Klasifikasi Data Training Gambar 4.2 Pemetaan Kategori Ketepatan Klasifikasi Data Testing Gambar 4.3 Pemilihan Jumlah Node Hidden Gambar 4.4 Pemilihan Nilai Spread Gambar 4.5 Plot Simulasi Model Gambar 4.6 Pemilihan Jumlah Node Hidden Gambar 4.7 Pemilihan Nilai Spread Gambar 4.8 Plot Simulasi Model Gambar 4.9 Pemilihan Jumlah Node Hidden Gambar 4.10 Pemilihan Nilai Spread Gambar 4.11 Plot Simulasi Model Gambar 4.12 Pemilihan Jumlah Node Hidden Gambar 4.13 Pemilihan Nilai Spread xi

13 DAFTAR TABEL Tabel 2.1 Klasifikasi Actual dan Predicted Group Tabel 4.1 Pembagian Data Training dan Data Sampel Tabel 4.2 Hasil Klasifikasi Analisis Diskriminan Tabel 4.3 Hasil Klasifikasi Data Training Globe Lamp Tabel 4.4 Hasil Klasifikasi Data Testing Globe Lamp Tabel 4.5 Nilai Bobot Awal dan Akhir Tabel 4.6 Perbandingan Hasil Klasifikasi untuk Data Globe Lamp Tabel 4.7 Pembagian Data Training dan Data Testing Tabel 4.8 Hasil Klasifikasi Analisis Diskriminan Tabel 4.9 Hasil Klasifikasi Analisis Diskriminan Tabel 4.10 Hasil Klasifikasi Analisis Diskriminan Tabel 4.11 Perbandingan Hasil Klasifikasi untuk Model Tabel 4.12 Perbandingan Hasil Klasifikasi untuk Model Tabel 4.13 Perbandingan Hasil Klasifikasi untuk Model Tabel 4.14 Hasil Bootstrap Pemilihan Model Globe Lamp Tabel 4.15 Hasil Bootstrap Pemilihan Model Tabel 4.16 Hasil Bootstrap Pemilihan Model Tabel 4.17 Hasil Bootstrap Pemilihan Model xii