PELATIHAN JARINGAN SYARAF TIRUAN MULTI LAYER PERCEPTRON MENGGUNAKAN GENETIC ALGORITHM LEVENBERG MARQUARDT

Transkripsi

1 PELATIHAN JARINGAN SYARAF TIRUAN MULTI LAYER PERCEPTRON MENGGUNAKAN GENETIC ALGORITHM LEVENBERG MARQUARDT SKRIPSI Diajukan untuk memenuhi sebagian persyaratan mendapatkan gelar Strata Satu Jurusan Informatika Disusun Oleh: ANISA ATILIANI NIM. M JURUSAN INFORMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SEBELAS MARET SURAKARTA Februari, 2013

2 PELATIHAN JARINGAN SYARAF TIRUAN MULTI LAYER PERCEPTRON MENGGUNAKAN GENETIC ALGORITHM LEVENBERG MARQUARDT SKRIPSI Diajukan untuk memenuhi sebagian persyaratan mendapatkan gelar Strata Satu Jurusan Informatika Disusun Oleh: ANISA ATILIANI NIM. M JURUSAN INFORMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SEBELAS MARET SURAKARTA Februari, 2013 commit i to user

3 SKRIPSI PELATIHAN JARINGAN SYARAF TIRUAN MULTI LAYER PERCEPTRON MENGGUNAKAN GENETIC ALGORITHM LEVENBERG MARQUARDT Disusun Oleh: ANISA ATILIANI NIM. M Skripsi ini telah disetujui untuk dipertahankan di hadapan Dewan Penguji pada tanggal: 11 Februari 2013 commit ii to user

4 SKRIPSI PELATIHAN JARINGAN SYARAF TIRUAN MULTI LAYER PERCEPTRON MENGGUNAKAN GENETIC ALGORITHM LEVENBERG MARQUARDT HALAMAN PENGESAHAN Disusun oleh : ANISA ATILIANI M Telah dipertahankan di hadapan Dewan Penguji Pada tanggal : 11 Februari 2013 Susunan Dewan Penguji commit iii to user

5 MOTTO Karena sesungguhnya sesudah kesulitan itu ada kemudahan, sesungguhnya sesudah kesulitan itu ada kemudahan, Maka apabila kamu telah selesai (dari sesuatu urusan), kerjakanlah dengan sungguh-sungguh (urusan) yang lain (Q.S Alam Nasyrah : 5-7) Apa sulitnya bagi yang Maha Mulia dengan keikhlasan doa Dia akan melimpahkan keridhaan dan kasih sayang-nya (Muhammad Zakariya Al Kandahlawi) "Sesungguhnya kebaikan itu menyebabkan cahaya di dalam hati, sinar di wajah, kekuatan pada tubuh, bertambahnya rezeki dan kecintaan di dalam hati orang lain. Sementara keburukan menyebabkan hitam (suram) di wajah, kegelapan di hati, kelemahan pada tubuh, berkurangnya rezeki dan kebencian di hati orang lain." (Ibnu Abbas RA) commit iv to user

6 PERSEMBAHAN Kupersembahkan karya ini kepada : Ibu, Bapak, serta adik tercinta Isna Semua teman Informatika UNS khususnya angkatan 2008 Teman dekatku Diah, Upi, Ery PELATIHAN JARINGAN SYARAF TIRUAN MULTI LAYER PERCEPTRON MENGGUNAKAN GENETIC ALGORITHM LEVENBERG MARQUARDT commit v to user

7 ANISA ATILIANI Jurusan Informatika. Fakultas MIPA. Universitas Sebelas Maret. ABSTRAK Optimasi proses pelatihan jaringan syaraf tiruan (JST) multilayer perceptron (MLP) dapat dilakukan dengan beberapa cara, salah satunya adalah dengan menggunakan Genetic Algorithm (GA). Penelitian ini membahas mengenai kinerja GA yang diinjeksikan terhadap algoritma pelatihan JST Levenberg Marquardt (LM) yang kemudian disebut dengan Genetic Algoritm Levenberg Marquardt (GALM) terhadap kinerja algoritma LM untuk kasus prediksi kekuatan tekan beton mutu tinggi. Proses pelatihan JST MLP GALM dilakukan dengan menggunakan GA sebagai optimasi bobot awal sebelum dilakukan pelatihan jaringan dengan LM. Pelatihan kedua dengan menggunakan algoritma LM saja. Proses pelatihan dilakukan sampai nilai Mean Square Error (MSE) mencapai konvergen. Algoritma GALM mampu memperbaiki proses training dengan menghilangkan kegagalan proses training pada arsitektur dengan 16 dan 24 hidden neuron. Pengukuran kinerja pelatihan algoritma GALM dan LM menunjukkan bahwa arsitektur merupakan arsitektur terbaik untuk kedua algoritma. Hasil pengujian terhadap arsitektur menggunakan kedua algoritma mendapatkan nilai MAPE rata-rata 9.73% untuk LM dan 10.99% untuk GALM. Kata Kunci: Pelatihan Jaringan Syaraf Tiruan, Algoritma Genetika, Levenberg Marquardt, Prediksi Kuat Tekan Beton MULTILAYER PERCEPTRON ARTIFICIAL NEURAL NETWORK TRAINING USING GENETIC ALGORITHM LEVENBERG MARQUARDT commit vi to user

8 ANISA ATILIANI Department of Informatics. Mathematic and Natural Science Faculty. Sebelas Maret University ABSTRACT Multilayer perceptron artificial neural network (MLP ANN) training process optimization can be done by several ways, one of them is using Genetic Algorithm. This study discusses the performance of the GA that is injected to the Levenberg Marquardt (LM) ANN training algorithm, which is then called the Genetic Algoritm Levenberg Marquardt (GALM) on the performance of the LM algorithm, for concrete compressive strength prediction. GALM MLP ANN training process is done by using GA as the optimization of initial weight before this weight is used to train the network with LM. The second training process is using the LM algorithm. The training process carried out until the value of Mean Square Error (MSE) achieved convergent. GALM algorithm can improve the LM training process by eliminating the training process failure on architectures with 16 and 24 hidden neurons. Measuring the performance of GALM and LM training algorithm showed that the architecture is the best compared to the other architectures. This research showed that architecture with GALM training method have a good prediction where MAPE 10.99%, in the other hand LM training method shows 9.37% of MAPE. Keywords: Artificial Neural Network Training, Genetic Algorithm, Levenberg Marquardt, Concrete Compressive Strength Prediction KATA PENGANTAR commit vii to user

9 Bismillahirrahmaanirrahiim Puji syukur penulis panjatkan kehadirat Allah Subhanahu Wa Ta ala yang senantiasa memberikan nikmat dan karunia-nya sehingga penulis dapat menyelesaikan skripsi dengan judul Pelatihan Jaringan Syaraf Tiruan Multi Layer Perceptron Menggunakan Genetic Algorithm Levenberg Marquardt, yang menjadi salah satu syarat wajib untuk memperoleh gelar Sarjana Informatika di Universitas Sebelas Maret (UNS) Surakarta. Penulis menyadari akan keterbatasan yang dimiliki, begitu banyak bimbingan, bantuan, serta motivasi yang diberikan dalam proses penyusunan skripsi ini. Oleh karena itu, ucapan terima kasih penulis sampaikan kepada : 1. Bapak Wiharto, S.T., M.Kom. selaku Dosen Pembimbing I yang penuh kesabaran membimbing, mengarahkan, dan memberi motivasi kepada penulis selama proses penyusunan skripsi ini, 2. Ristu Saptono, S.Si., M.T. selaku Dosen Pembimbing II yang penuh kesabaran membimbing, mengarahkan, dan memberi motivasi kepada penulis selama proses penyusunan skripsi ini, 3. Ibu Umi Salamah,S.Si.,M.Kom. selaku Ketua Jurusan S1 Informatika, 4. Ibu Umi Salamah,S.Si.,M.Kom. selaku Pembimbing Akademik yang telah banyak memberi bimbingan dan pengarahan selama penulis menempuh studi di Jurusan Informatika FMIPA UNS, 5. Bapak dan Ibu dosen serta karyawan di Jurusan Informatika FMIPA UNS yang telah mengajar penulis selama masa studi dan membantu dalam proses penyusunan skripsi ini, 6. Ibu, Bapak, dan adikku, serta teman-teman yang telah memberikan bantuan sehingga penyusunan skripsi ini dapat terselesaikan. Penulis berharap semoga skripsi ini dapat bermanfaat bagi semua pihak yang berkepentingan. Surakarta, Februari 2013 Penulis DAFTAR ISI commit viii to user

10 HALAMAN PENGESAHAN... iii MOTTO... iv PERSEMBAHAN... v ABSTRAK... vi ABSTRACT... vii KATA PENGANTAR... vii DAFTAR ISI... viii DAFTAR GAMBAR... x DAFTAR TABEL... xi DAFTAR LAMPIRAN... xii BAB 1 PENDAHULUAN Latar Belakang Rumusan Masalah Batasan Masalah Tujuan Penelitian Manfaat Penelitian Sistematika Penulisan... 4 BAB 2 TINJAUAN PUSTAKA Dasar Teori Jaringan Syaraf Tiruan Algoritma Genetika Beton Penelitian Terkait Rencana Penelitian BAB 3 METODOLOGI PENELITIAN Pengumpulan Data Studi Literatur commit ix to user

11 Dataset Analisa dan Perancangan Proses Normalisasi Arsitektur Jaringan Syaraf Tiruan Pre Computing dengan GA Pelatihan dengan Algoritma LM Skenario Proses Pelatihan Implementasi Analisa Hasil Pelatihan dan Pengujian BAB 4 PEMBAHASAN Hasil Pelatihan Awal GALM dan LM Pelatihan Tiga Hidden Neuron Pelatihan Lima Hidden Neuron Pelatihan Enam Hidden Neuron Pelatihan Enam Belas Hidden Neuron Pelatihan Tujuh Belas Hidden Neuron Pelatihan Dua Puluh Empat Hidden Neuron Analisa Hasil Pelatihan Awal GALM dan LM Analisa Hasil Pelatihan Lanjut Hasil Pengujian Arsitektur BAB 5 PENUTUP Kesimpulan Saran DAFTAR PUSTAKA LAMPIRAN DAFTAR GAMBAR commit x to user

12 Gambar 2. 1 Pembentukan Kromosom GA berisi Bobot dan Bias JST Gambar 2.2 Proses Seleksi Roda Roulette Gambar 2.3 Kemungkinan Anak Crossover Menengah Gambar 2.4 Proses Otomatisasi GA - JST Gambar 3.1 Arsitektur JST Gambar 3.2 Pengkodean Kromosom Gambar 3.3 Proses Pre Computing dengan GA Gambar 3. 4 Proses Pelatihan GALM Gambar 3.5 Proses Pelatihan LM Gambar 4.1 Hasil Pelatihan 3 Hidden Neuron Gambar 4.2 Hasil Pelatihan 5 Hidden Neuron Gambar 4.3 Hasil Pelatihan 6 Hidden Neuron Gambar 4.4 Hasil Pelatihan 16 Hidden Neuron Gambar 4.5 Hasil Pelatihan 17 Hidden Neuron Gambar 4.6 Hasil Pelatihan 10 Hidden Neuron Gambar 4.8 Perbandingan Runtime GALM dan LM Pelatihan Lanjut Gambar 4.9 Grafik Perbandingan Rata-rata Runtime Keseluruhan GALM dan LM Pelatihan Lanjut Gambar 4.10 Kesesuaian Target Data Testing dan Hasil Peramalan (Output) GALM dengan MAPE 6.43% Gambar 4.11 Kesesuaian Target Data Testing dan Hasil Peramalan (Output) LM dengan MAPE 6.31% DAFTAR TABEL commit xi to user

13 Tabel 3.1 Parameter Dataset Beton Mutu Tinggi Tabel 3.2 Rumus Empiris Penentuan Hidden Neuron (Fahmi, 2011) Tabel 4.1 Perbandingan Nilai MSE Pelatihan Awal Tabel 4.2 Perbandingan Iterasi GALM dan LM Pelatihan Lanjut Tabel 4. 3 Perbandingan Runtime GALM dan LM Pelatihan Lanjut Tabel 4.4 Runtime GA pada Proses GALM Tabel 4.5 Prosentase Kegagalan Proses Pelatihan Tabel 4.6 Nilai MAPE Hasil Pengujian Arsitektur DAFTAR LAMPIRAN commit xii to user

14 LAMPIRAN A LAMPIRAN B LAMPIRAN C commit xiii to user

15 BAB 1 PENDAHULUAN Latar Belakang Genetic algorithm (GA) adalah algoritma pencarian heuristik yang didasarkan pada mekanisme evolusi biologis. Individu yang lebih kuat (fit) akan memiliki tingkat kehidupan lebih tinggi jika dibandingkan dengan individu yang kurang fit. Algoritma ini pertama kali dikembangkan oleh John Holland tahun 1975 (Kusumadewi, 2005). GA banyak digunakan dalam kasus optimasi, salah satunya adalah optimasi proses pelatihan jaringan syaraf tiruan (Ahmed, 2009). Jaringan syaraf tiruan (JST) dikembangkan berdasarkan proses pembelajaran otak manusia, disebut tiruan karena jaringan syaraf ini diimplementasikan dengan program komputer yang mampu menyelesaikan sejumlah proses perhitungan selama pembelajaran. Ada beberapa teknik pembelajaran JST, salah satu yang paling sering digunakan adalah backpropagation (BP). Inti dari BP adalah melakukan perhitungan maju untuk mengetahui output dan kinerja jaringan, perhitungan mundur untuk mengetahui error jaringan yang kemudian digunakan sebagai perubahan bobot. Seiring dengan kebutuhan mendapatkan proses pembelajaran yang lebih cepat, maka dikembangkan beberapa algoritma pembelajaran baru dengan prinsip BP,diantaranya: gradient descent, resillent backpropagation, quasi newton, dan Levenberg Marquardt (LM) (Kusumadewi, 2004). Beberapa penelitian dilakukan untuk memperbaiki kinerja jaringan syaraf tiruan, seperti menggunakan GA untuk optimasi pelatihan. Moghadassi, et al., melakukan penelitian menggabungkan GA dengan LM, kemudian dilakukan perbandingan dengan metode BP lain. Hasil penelitian menunjukkan bahwa GALM memberikan hasil yang lebih baik untuk kasus pencampuran gas CH4+CF4 (Moghadassi, 2011).

16 2 Ahmed, et al., melakukan penelitian serupa dengan menggunakan tiga dataset berbeda. Penelitian ini menekankan otomatisasi proses optimalisasi jaringan syaraf tiruan dengan menggunakan algoritma genetika, sehingga meminimalisasi peran manusia dalam mengoperasikannya. Hasil penelitian juga menunjukkan bahwa algoritma GALM memberikan hasil yang lebih baik dilihat dari korelasi output dan target yang tinggi (Ahmed, 2009). Penerapan GA dalam proses pelatihan jaringan syaraf tiruan selalu memberikan hasil yang lebih baik dibanding dengan menggunakan algoritma pelatihan JST lain. Namun proses pelatihan tidak memperhatikan tambahan waktu yang digunakan untuk menjalankan algoritma genetika. Seyed Hakim, et al., melakukan penelitian terhadap prediksi kekuatan tekan beton mutu tinggi dengan menggunakan jaringan syaraf tiruan BP. Penelitian ini berfokus pada pengujian arsitektur yang digunakan (Seyed Hakim, 2011). Penelitian ini menerapkan GA dan algoritma pembelajaran JST LM untuk kasus prediksi kekuatan beton mutu tinggi usia 3, 14, 28, 56, dan 100 hari. GA digunakan untuk optimalisasi bobot JST pada proses precomputing sebelum bobot tersebut digunakan untuk pelatihan JST dengan menggunakan algoritma LM. Algoritma ini selanjutnya disebut dengan GALM. Algoritma LM dipilih karena pembelajaran yang singkat dengan hasil yang lebih baik dibandingkan algoritma BP yang lainnya (Moghadassil, 2011). Hasil pelatihan dari GALM kemudian dibandingkan dengan hasil pelatihan MLP LM dengan melihat jumlah iterasi dan runtime yang dibutukan proses pelatihan untuk konvergen. Prediksi kekuatan beton mutu tinggi dilakukan dengan menggunakan arsitektur dan metode yang memiliki kinerja terbaik pada proses pelatihan. Analisa kinerja hasil prediksi berdasarkan nilai mean absolut percentage error (MAPE) yang dihasilkan. Apabila nilai MAPE kurang dari 10% maka hasil prediksi dikatakan sangat baik, jika nilai MAPE antara 10 20% maka hasil prediksi dikatakan baik (Yasmin, 2010).

17 Rumusan Masalah Rumusan masalah dari latar belakang masalah yang telah diuraikan di atas adalah apakah penerapan algoritma genetika memberikan perbaikan terhadap proses pelatihan multi layer perceptron dengan kasus prediksi kekuatan tekan beton mutu tinggi Batasan Masalah Batasan masalah dari penelitian ini adalah sebagai berikut: 1. Dataset yang digunakan adalah Concrete Compressive Strenght bersumber dari UCI Machine Learning Repository(California) 2. Operator Genetic Algorithm yang digunakan adalah proses minimasi, skema pengkodean bilangan real, fungsi fitness = mse, jumlah populasi = 50, jumlah generasi = 20, seleksi roda roulette dengan peluang = 0.6, rekombinasi menengah dengan nilai d = 0.25, mutasi random dengan peluang = 0.05, pelestarian kromosom (elitism) = 3 kromosom, dan penggantian populasi dengan teknik generational replacement. 3. Proses pelatihan jaringan syaraf tiruan menggunakan algoritma Levenberg Marquardt dengan inisialisai parameter LM ( ) = 0.1 dan faktor = 10. Pengukuran kinerja dengan menggunakan MSE Tujuan Penelitian Tujuan dari penelitian ini adalah untuk mengetahui bahwa penerapan algoritma genetika memberikan perbaikan pada proses training multi layer perceptron untuk kasus prediksi kekuatan tekan beton mutu tinggi Manfaat Penelitian Penelitian ini diharapkan dapat menghasilkan suatu metode training multilayer perceptron dengan memanfaatkan algoritma genetika untuk kasus prediksi kekuatan tekan beton.

18 Sistematika Penulisan BAB 1 PENDAHULUAN Pendahuluan berisi mengenai latar masalah, rumusan masalah, pembatasan masalah, tujuan, manfaat, dan sistematika penulisan. BAB 2 TINJAUAN PUSTAKA Tinjauan pustakan berisi mengenai penelitian terdahulu dan rencana penelitian yang akan dilakukan oleh Penulis. Selain itu juga berisi teori jaringan syaraf tiruan dengan algoritma Levenberg-Marquardt dan algoritma genetika. BAB 3 METODOLOGI PENELITIAN Metodologi berisi mengenai metodologi atau langkah-langkah dalam pemecahan masalah, meliputi penyusuan formula setta algoritma yang digunakan dalam penelitian. BAB 4 HASIL DAN PEMBAHASAN Hasil dan pembahasan berisi tentang eksperimen pengujian dari formula dan algoritma yang telah diimplementasikan dan diterapkan dengan menggunakan sample data yang ada dan kemudian dilakukan analisa terhadap hasil dari eksperimen yang telah dilakukan. BAB 5 PENUTUP Penutup berisi kesimpulan penelitian dan saran sebagai bahan pertimbangan untuk penelitian selanjutnya.

19 BAB 2 TINJAUAN PUSTAKA Dasar Teori Jaringan Syaraf Tiruan Jaringan syaraf tiruan (JST) dikembangkan berdasarkan proses pembelajaran otak manusia, disebut tiruan karena jaringan syaraf ini diimplementasikan dengan program komputer yang mampu menyelesaikan sejumlah proses perhitungan selama pembelajaran. Ada beberapa teknik pembelajaran JST, salah satu yang paling sering digunakan adalah backpropagation (BP). Inti dari BP adalah melakukan perhitungan maju untuk mengetahui output dan kinerja jaringan, selanjutnya dilakukan perhitungan mundur untuk mengetahui error jaringan yang kemudian digunakan sebagai perubahan bobot. Seiring dengan kebutuhan mendapatkan proses pembelajaran yang lebih cepat, maka dikembangkan beberapa algoritma pembelajaran baru dengan prinsip BP,diantaranya: gradient descent, resillent backpropagation, quasi newton, dan Levenberg Marquardt (Kusumadewi, 2004) Proses Normalisasi Data Proses normalisasi dilakukan agar data input dan target yang digunakan dalam proses pelatihan dan pengujian JST berada pada suatu range tertentu. Normalisasi minmax menskalakan suatu nilai yang diberikan kedalam nilai baru antara 0 sampai dengan 1 berdasarkan nilai maksimum dan minimum dataset tersebut. Diberikan nilai yang bersesuaian {Sk} dimana k = 0,1,...n, maka nilai normalisasinya adalah = min{ } max{ } min{ } (2.1) commit 5 to user

20 Fungsi Aktivasi Fungsi sigmoid biner memiliki nilai pada range 0 sampai 1. Oleh karena itu fungsi ini sering digunakan untuk JST yang membutuhkan nilai output pada interval 0 sampai 1. Fungsi sigmoid biner dirumuskan sebagai(kusumadewi, 2004): = ( ) = (2.2) dengan ( )= ( )[1 ( )] (2.3) Algoritma Levenberg Marquardt Algoritma Levenberg-Marquardt dirancang dengan menggunakan pendekatan turunan kedua tanpa harus menghitung matrik Hessian. Apabila jaringan syaraf tiruan feed forward menggunakan fungsi kinerja sum of square, maka matrik Hessian dapat didekati sebagai: = (2.4) Dengan gradien dapat dihitung sebagai: = (2.5) Dengan j adalah matrik Jacobian yang berisi turunan pertama dari error jaringan terhadap bobot, dan e adalah suatu vektor yang berisi error jaringan. Matrik Jacobian dapat dihitung dengan teknik backpropagation standar, yang tentu saja lebih sederhana dibanding dengan menghitung matrik Hessian. Algoritma Levenberg-Marquardt menggunakan pendekatan untuk menghitung matrik Hessian, melalui perbaikan metode Newton: = [ + ] (2.6) Apabila m bernilai 0, maka pendekatan ini akan sama seperti metode Newton. Namun apabila m terlalu besar, maka pendekatan ini akan sama halnya dengan gradient descent dengan learning rate yang sangat kecil. Metode Newton sangat cepat dan akurat untuk mendapatkan error minimum, oleh karena itu diharapkan algoritma sesegera mungkin dapat mengubah nilai m menjadi sama dengan 0. Untuk itu, setelah beberapa iterasi, algoritma ini akan menurunkan nilai m, kenaikan nilai m hanya dilakukan apabila dibutuhkan suatu langkah (sementara) untuk menurunkan fungsi kinerja. (Kusumadewi, 2004)

21 7 Algoritma LM merupakan salah satu jenis dari algoritma pelatihan JST BP dengan dua jenis perhitungan, yakni perhitungan maju dan perhitungan mundur. Secara singkat perhitungan LM dapat dijelaskan sebagai berikut: 1. Inisialisasi bobot dan bias dengan bilangan acak, epoch maksimum, dan target minimal (target biasanya dihitung dengan menggunakan mean square error/ MSE). 2. Menentukan parameter yang dibutuhkan, antara lain: - Inisialisasi epoch = 0 - Parameter LM ( ) yang nilainya harus lebih besar dari nol - Parameter dikalikan atau dibagi dengan parameter LM. Penjelasan ada pada step berikutnya 3. Tiap-tiap unit input (xi, i = 1, 2, 3,..., n) menerima sinyal input dan meneruskan sinyal tersebut ke semua unit pada lapisan tersembunyi Tiap-tiap unit lapisan tersembunyi (zj, j = 1, 2, 3,... p) menjumlahkan sinyal-sinyal input berbobot (2.7) _ = + Gunakan fungsi aktivasi untuk menghitung sinyal output = ( _ ) (2.8) Kemudian kirimkan sinyal tersebut ke semua unit di lapisan atasnya. 4. Tiap-tiap unit lapisan output (Yk, k = 1, 2, 3,..., m) menjumlahkan sinyalsinyal input berbobot (2.9) _ = + Gunakan fungsi aktivasi untuk menghitung sinyal output = ( _ ) (2.10) Kemudian kirimkan sinyal tersebut ke semua unit di lapisan atasnya. 5. Menghitung error, MSE dan total error jaringan

22 8 Rumus untuk error: = (2.11) r = input ke-r Rumus untuk menghitung MSE: = 1 (2.12) Rumus untuk menghitung total error: = [ ] (2.13) e = vektor kesalahan berukuran Nx1 yang terdiri dari e r, r= 1, 2,3,..., N 6. Hitung error neuron untuk tiap unit lapisan output (Yk, k = 1, 2, 3,..., m) 2 = ( _ )1 (2.14) 2 = 2 (2.15) 2 = 2 (2.16) 7. Hitung error neuron untuk tiap unit lapisan tersembunyi (zj, j = 1, 2, 3,... p) (2.17) _ = 2 1 = (2.18) 1 = 1 (2.19) 1 = 1 (2.20) 8. Membentuk matrik jacobian = (2.21) 9. Menghitung bobot baru = ( + ) (2.22) 10. Menghitung MSE Jika MSEbaru <= MSElama, maka - = (2.23) - epoch = epoch + 1

23 9 - Kembali ke langkah 3 Jika MSEbaru>MSElama, maka - = (2.24) - Kembali ke langkah Proses pelatihan berhenti jika epoch = epoch maksimal atau error = target error Pengukuran Kinerja JST Kinerja pelatihan JST diukur dengan menggunakan mean square error rumus 2.12, dimana sebelum pelatihan ditetapkan suatu target error yang harus dicapai pada saat pelatihan. Pengukuran kinerja juga dapat dilakukan dengan melihat jumlah epoch yang diperlukan untuk mencapai error tertentu Pengujian JST Setelah proses pelatihan dilakukan proses pengujian jaringan. Pada proses pengujian, tahap yang dilakukan hanya tahap maju saja, tidak ada tahap mundur sehingga tidak ada tahapan modifikasi bobot. Seluruh bobot input diambil dari nilai bobot terakhir yang diperoleh dari proses pelatihan. Pada tahap pengujian ini, jaringan diharapkan dapat mengenali pola berdasarkan data baru yang diberikan (generalisasi). Pengukuran kinerja prediksi dengan menggunakan MAPE. Suatu model mempunyai kinerja yang sangat bagus jika nilai MAPE dibawah 10% dan mempunyai kinerja bagus apabila nilai MAPE antara 10% s.d. 20%. (Yasmin, Rahman, & Eftekhari, 2010) a. MSE (Mean Square Error): masing-masing nilai sisa dikuadratkan kemudian dijumlahkan dan dibagi jumlah data observasi. MSE dihitung dengan rumus 2.12 b. Percentage error (PE) merupakan perhitungan perbedaan data asli (T) dengan data hasil peramalan (P), perbedaan tersebut kemudian dipersentasikan terhadap data asli.

24 10 (2.25) = 100 Apabila nilai percentage error tersebut diabsolutkan kemudian diratarata dari suatu kumpulan data, maka disebut dengan mean absolut percentage error (MAPE) (Armstrong, 1992). = 1 (2.26) Algoritma Genetika Algoritma genetika adalah algoritma pencarian heuristik yang didasarkan atas mekanisme evolusi biologis. Individu yang lebih kuat (fit) akan memiliki tingkat hidup dan reproduksi lebih tinggi dibandingkan dengan individu yang kurang fit. Pada kurun waktu tertentu (disebut dengan istilah generasi), populasi secara keseluruhan akan lebih banyak memuat organisme yang fit. Algoritma genetika pertama kali dikembangkan oleh John Holland dari Universitas Michigan (1975). Dia mengatakan bahwa setiap masalah yang berbentuk adaptasi dapat diformulasikan dalam terminologi genetika. Algoritma genetika adalah simulasi dari proses evolusi Darwin dan operasi genetika atas kromosom. Teknik pencarian algoritma genetika dilakukan sekaligus atas sejumlah solusi yang mungkin yang disebut dengan populasi. Individu yang terdapat dalamsatu populasi disebut dengan kromosom. Kromosom merupakan suatu solusi yang masih berbentuk simbol. Populasi awal dibangun secara acak, populasi berikutnya merupakan hasil evolusi kromosom melalui iterasi yang biasa disebut dengan generasi. Pada setiap generasi terjadi proses evaluasi kromosom dengan menggunakan suatu alat ukur yang disebut dengan fungsi fitness. Fungsi fitness menujukkan kualitas kromosom dalam populasi tersebut. Generasi berikutnya dikenal dengan istilah anak (offspring) yang merupakan hasil gabungan dua kromosom generasi sekarang yang bertindak sebagai orangtua (parent) dengan menggunakan operator penyilangan (crossover). Selain operator penyilangan, suatu kromosom juga dapat dimodifikasi dengan operator mutasi.

25 11 Populasi generasi baru dibentuk dengan cara menyeleksi nilai fitness dari kromosom induk (parent) dan nilai fitness dari kromosom anak (offspring), serta menolak kromosom-kromosom yang lainnya sehingga ukuran populasi (jumlah kromosom dalam populasi) konstan. Setelah melalui beberapa generasi, maka algoritma ini akan konvergen ke kromosom terbaik. (Kusumadewi, 2005) Skema Pengkodean Skema pengkodean menggunakan tipe bilangan real. Proses GALM merepresentasikan bias dan bobot JST ke dalam bentuk kromosom GA (Moghadassi & al, 2011). Apabila terdapat suatu model JST seperti gambar 2.1 a), maka pembentukan kromosom sesuai dengan gambar 2.1 b). Gambar 2. 1 Pembentukan Kromosom GA berisi Bobot dan Bias JST Fungsi Evaluasi Ada dua hal yang harus dilakukukan dalam melakukan evaluasi kromosom, yaitu: evaluasi fungsi obyektif (fungsi tujuan) dan konversi fungsi obyektif ke dalam fungsi fitness. Secara umum, fungsi fitness diturunkan dari fungsi obyektif dengan nilai yang tidak negatif. Apabila ternyata fungsi obyektif memeiliki nilai negatif, maka perlu ditambahkan suatu konstanta C agar nilai fitness yang terbentuk menjadi tidak negatif(kusumadewi, 2005).

26 12 Fungsi evaluasi dalam GALM menggunakan nilai MSE sebagai fungsi obyektif dan fungsi fitness dengan kasus minimasi (Moghadassi, 2011) Seleksi Seleksi akan menentukan individu- individu mana saja yang dipilih untuk melakukan rekombinasi dan bagaimana offspring terbentuk dari individu-individu yang terpilih tersebut. Langkah pertama yang dilakukan dalam proses seleksi ini adalah perhitungan fitness. Masing-masing individu akan menerima probabilitas reproduksi yang tergantung pada nilai obyektif dirinya sendiri terhadap nilai obyektif dari semua individu dalam wadah tersebut. Nilai fitness inilah yang nantinya akan digunakan pada tahap-tahap seleksi berikutnya. (Kusumadewi, 2005). Gambar 2.2 Proses Seleksi Roda Roulette Metode seleksi roda roulette merupakan metode seleksi yang paling sederhana, dan sering dikenal dengan nama stochastic sampling with replacement. Pada metode ini, individu- indovidu dipetakan dalam suatu segmen garis secara berurutan sedemikian hingga tiap-tiap segmen individu memiliki ukuran yang sama dengan fitnessnya. Sebuah bilangan random dibangkitkan dan individu yang memiliki segmen dalam kawasan bilangan random tersebut akan terseleksi. Proses ini diulang hingga diperoleh sejumlah individu yang diharapkan. Gambar 2.2 menunjukkan probabilitas seleksi dari 11 individu. Individu pertama memiliki fitness terbesar, dengan demikian juga memiliki interval

27 13 terbesar. Individu ke-11 memiliki fitness terkecil = 0, interval terkecil sehingga tidak memiliki kesempatan untuk melakukan reproduksi. Setelah dilakukan seleksi maka individu yang terpilih adalah Rekombinasi Rekombinasi disebut juga dengan istilah pindah silang adalah proses terjadinya pertukaran gen antar dua induk untuk menghasilkan individu baru. (Kusumadewi, 2005) Rekombinasi menengah merupakan metode rekombinasi yang hanya dapat digunakan untuk variabel real (dan variabel yang bukan biner). Nilai variabel anak dipilih di sekitar dan antara nilai-nilai variabel induk. Anak dihasilkan menurut aturan sebagai berikut: Anak= induk1 + alpha (induk2 induk 1) (2.27) Dengan alpha adalah faktor skala yang dipilih secara random pada interval [-d, 1+d], biasanya d = Tiap- tiap variabel pada anak merupakan hasil kombinasi variabel-variabel menurut aturan diatas dengan nilai alpha dipilih ulang untuk tiap variabel. Gambar menunjukkan area induk dan anak yang mungkin. Misalkan ada dua individu dengan 3 variabel yaitu: Misalkan nilai alpha yang terpilih adalah: Setelah rekombinasi, kromosom-kromosom baru yang terbentuk: Gambar 2.3 menunjukkan posisi yang mungkin dari anak setelah rekombinasi menengah.

28 14 Gambar 2.3 Kemungkinan Anak Crossover Menengah Mutasi Setelah mengalami proses rekombinasi pada offspring dapat dilakukan mutasi. Variabel offspring dimutasi dengan menambahkan nilai random yang sangat kecil (ukuran langkah mutasi), dengan probabilitas yang rendah. Peluang mutasi (pm) didefinisikan sebagai persentasi dari jumlah total gen pada populasi yang mengalami mutasi. Peluang mutasi mengendalikan banyak gen baru yang akan dimunculkan untuk dievaluasi. Jika peluang mutasi kecil, banyak gen yang mungkin berguan tidak pernah dievaluasi. Tetapi jika peluang mutasi terlalu besar, maka akan terlalu banyak gangguan acak, sehingga anak akan kehilangan kemiripan dengan induknya, dan juga algoritma akan kehilangan kemampuan untuk belajar dari histori pencarian. Ada yang berpendapat bahwa peluang mutasi sebesai 1/n akan memberikan hasil yang cukup baik. Ada juga yang beranggapan bahwa laju mutasi tidak tergantung ukuran populasi. Kromosom hasil mutasi harus diperiksa, apakah hasil masih berada pada domain solusi dan bila perlu bisa dilakukan perbaikan. Mutasi berperan untuk menggantikan gen yang hilang dari populasi akibat proses seleksi yang memungkinkan munculnya kembali gen yang tidak muncul pada inisialisasi populasi. (Kusumadewi, Penyelesaian 2005). Mutasi random adalah salah satu jenis mutasi bilangan real, dikatakan apabila C= (c 1, c 2,..., c i,..., c n ) adalah kromosom, c i [, ] sebuah gen yang

29 15 akan dimutasi, dan c i adalah kromosom hasil mutasi, maka c i merupakan bilangan random yang dibangkitkan dari domain [, ] (Herrera, 1998) Pelestarian Kromosom Konsep elitisme muncul untuk mengatasi kelemahan proses seleksi yang dilakukan secara random dimana tidak ada jaminan bahwa individu yang mempunyai nilai fitness tinggi akan selalu terpilih. Kalaupun individu tersebut terpilih, maka dimungkinkan individu tersebuta akan rusak (nilai fitnessnya menurun) dikarenakan proses pindah silang. Elitisme adalah suatu prosedur untuk membuat salinan dari individu yang memiliki nilai fitness tinggi, sehingga tidak hilang selama proses evolusi (Suyanto, 2005) Penggantian Populasi Generational replacement adalah proses penggantian semua individu (misal ada N individu dalam populasi) dari suatu generasi akan digantikan sekaligus oleh N individu baru dari hasil pindah silang dan mutasi. Skema penggantian ini tidak realistis dari sudut pandang biologi. Secara umum skema penggantian populasi dapat dirumuskan berdasarkan ukuran yang disebut dengan generational gap G. Ukuran ini menunjukkan persentase populasi yang digantikan dalam setiap generasi. Pada skema ini G=1(Suyanto, 2005) Beton Beton merupakan campuran antara semen portland atau semen hidraulik yang lain, agregat halus, agregat kasar dan air, dengan atau tanpa bahan tambahan yang membentuk masa padat (Anonim, 2002) Komponen Beton Mutu Tinggi Ada 7 komponen utama penyusun beton mutu tinggi, yakni: 1. Semen 2. Air

30 16 3. Agregat kasar: kerikil sebagai hasil disintegrasi 'alami' dari batuan atau berupa batu pecah yang diperoleh dari industri pemecah batu dan mempunyai ukuran butir antara 5 mm sampai 40 mm (Anonim, 2002) 4. Agregat halus: pasir alam sebagai hasil disintegrasi 'alami' batuan atau pasir yang dihasilkan oleh industri pemecah batu dan mempunyai ukuran butir terbesar 5 mm (Anonim, 2002) 5. Superplasticizer: bahan tambahan yang sering digunakan dalam pembuatan beton mutu tinggi. Superplasticizer menghasilkan beton yang memiliki kuat tekan tinggi dengan campuran air dan semen yang rendah (Seyed Hakim, 2011) 6. Blast Furnace Slag 7. Abu terbang: bahan tambahan yang digunakan dalam pembuatan beton mutu tinggi, biasa digunakan bersamaan dengan superplasticizer. Tanpa bahan tambahan, maka akan sulit untuk menghasilkan beton mutu tinggi Kuat Tekan Beton Kuat tekan beton adalah besarnya beban persatuan luas yang menyebabkan benda uji beton hancur bila dibebani dengan gaya tekan tertentu, yang dihasilkan oleh mesin tekan (Anonim, 1990). = ( ) (2.28) P = beban maksimum (kg) A = luas penampang benda uji (cm 2 ) Penelitian Terkait 1. A New Approach to Train Multilayer Perceptron ANN Using Error Back-propagation and Genetic Algorithms Hybrid: A Case Study of PVTx Estimation of CH4+CF4 Gas Mixture (Moghadassi, 2011) Moghadassi dkk melakukan penelitian untuk menguji sebuah algoritma pembelajaran jaringan syaraf tiruan multi layer perceptron dengan menggunakan algoritma genetika dan algoritma error backpropagation. Studi kasus yang digunakan adalah pencampuran gas CH 4 +CF 4. Model

31 17 penelitian adalah dengan menggunakan algoritma genetika (GA) sebagai alat untuk melakukan optimasi bias dan bobot JST. Bias dan bobot JST dipetakan menjadi kromosom yang dikodekan dalam bentuk string. Panjang string tergantung dari jumlah bit yang diterapkan untuk masing-masing parameter, semakin panjang bit maka akan menambah waktu eksekusi. Namun apabila bit yang digunakan semakin pendek, maka akan berpengaruh terhadap akurasi. Gambar 2.1 menunjukkan bagaimana bobot dan bias dipetakan dalam algoritma genetika. GA melakukan pencarian kombinasi bobot dan bias yang paling optimal untuk diterapkan dalam JST. Algoritma pembelajaran jaringan syaraf tiruan yang dipilih untuk digabungkan dengan GA adalah Algoritma Levenberg-Marquardt, dikarenakan dibandingkan dengan yang lain algoritma ini memiliki waktu pembelajaran paling cepat, sehingga diharapkan perpaduan dari kedua algoritma ini mampu meningkatkan akurasi dan kecepatan waktu eksekusi. Algoritma hybrid ini kemudian dibandingkan dengan beberapa algoritma pembelajaran yang lain, diantaranya Levenberg-Marquardt, BFGS Quasi-Newton, Resilient Backpropagation, Scalled Conjugate Gradient, Conjugate Gradient with Powell-Beale Restarts, Fletcher-Power Conjugate Gradient, Polak-Ribiere Conjugate Gradient,dan One-Step Secant. Hasil penelitian ini menjukkan bahwa algoritma hybrid antara algoritma genetika dan Levenberg-Marquardt (GA-LM) jauh lebih baik dibandingkan dengan algoritma pembelajaran yang lain, dilihat dari sisi waktu pembelajaran yang lebih singkat dan jumlah iterasi yang lebih sedikit untuk mencapai nilai MSE 0.01 (Moghadassi, 2011). 2. Application of Artificial Neural Network to Predict Compressive Strength of High Strength Concrete. (Seyed Hakim, 2011) Seyed Hakim dkk melakukan penelitian untuk prediksi kekuatan tekan beton mutu tinggi usia 28 hari. Penelitian dilakukan dengan menguji 30 arsitektur MFNNs untuk mendapatkan arsitektur yang terbaik.

32 18 Selanjutnya adalah melakukan training terhadap arsitektur JST yang terpilih dengan menggunakan 256 data dan batasan RMSE sebesar Selain itu dilakukan pula pengujian terhadap arsitektur ini dengan menggunakan 112 dataset yang berbeda. Hasil penelitian tersebut menunjukkan bahwa arsitektur JST dengan fungsi aktivasi sigmoid merupakan arsitektur terbaik. Rata-rata error relatif untuk data training dan testing dalam memprediksi kekuatan tekan HSC sebesar 7.02% dan 12.64% masih dapat diterima dalam teknologi beton. Selain itu, penelitian ini menunjukkan bahwa JST dapat digunakan untuk melakukan prediksi kekuatan tekan HSC dan lebih akurat dibandingkan dengan analisa regresi ataupun metode konvensional lain (Seyed Hakim, 2011). 3. Study of Genetic Algorithm to Fully-automate the Design and Training of Artificial Neural Network. (Ahmed, 2009) Ahmed dkk melakukan penelitian mengenai penerapan algoritma genetika (GA) dalam proses optimalisasi bobot jaringan syaraf tiruan. Penelitian ini lebih menekankan kepada otomatisasi proses sehingga meminimalisasi peran manusia dalam mengoperasikannya. Diagram alir dari proses otomatisasi yang dimaksud terlihat pada gambar 2.4. Penelitian ini menggunakan 3 dataset untuk menguji pengaruh algoritma genetika dalam proses optimalisasi jaringan syaraf tiruan FFNN dengan algoritma Levenberg Marquardt, dengan fungsi aktivasi sigmoid dan linear. Masing- masing data menggunakan arsitektur jaringan syaraf yang berbeda dengan jumlah lapisan tersembunyi yang sama yakni satu lapisan tersembunyi dan enam neuron di lapisan tersembunyi. Data set yang digunakan adalah data prediksi isolate pentene dan normal pentene pada CRU debutanizer, prediksi net power dan turbine inlet temperature, dan prediksi flank wear proses penggilingan. Sebelum digunakan dilakukan normalisasi data dalam skala 0-1 dengan menggunakan fungsi premnmx dan tramnmx MATLAB. Kemudian

33 19 denormalisasi dengan fungsi postmnx. Parameter algoritma genetika yang digunakan adalah peluang pindah silang = 0.6, peluang mutasi = 0.05, jumlah populasi = 50, dan jumlah generasi = 20. Fungsi obyektif yang digunakan adalah mean square error (MSE). Performansi dari metode GA-ANN ini ditentukan oleh MSE, RMSE, dan R 2, ditandai dengan semakin kecil MSE, RMSE dan apabila R 2 mendekati 1 maka performansi semakin bagus. Hasil dari penelitian menyebutkan algoritma genetika dapat digunakan sebagai cara untuk mengoptimasi variabel input. Hal ini terlihat pada R 2 untuk ketiga data set tersebut masing-masing menunjukkan nilai , ; , ; dan (Ahmed, 2009). Gambar 2.4 Proses Otomatisasi GA - JST

34 Rencana Penelitian Penelitian kali ini akan melakukan analisa terhadap pengaruh penggunaan algoritma genetika terhadap proses training multilayer perceptron dengan menggunakan algoritma Levenbergh Marquardt. Data yang digunakan berasal dari machine learning repository berupa data set kekuatan tekan beton mutu tinggi yang terdiri dari 8 parameter input dan 1 parameter output. Arsitektur jaringan dengan single hidden layer, 8 neuron input dan 1 neuron output. Jumlah neuron pada hidden layer divariasikan 3, 5, 6, 16, 17, dan 24 sesuai dengan rumus empiris penentuan hidden neuron, seperti tertera pada tabel 3.2. Algoritma genetika digunakan untuk melakukan optimasi terhadap bobot awal jaringan syaraf tiruan, sehingga dilakukan pemetaan terhadap bias dan bobot JST ke dalam algoritma genetika (Moghadassi, 2011). Prediksi kekuatan tekan beton menjadi studi kasus yang digunakan dalam penelitian ini. Penelitian yang dilakukan terdiri dari dua skenario, yakni: 1. Menggunakan algoritma genetika (GA) untuk proses inisialisasi bobot dan bias jaringan syaraf tiruan, kemudian hasilnya digunakan untuk training JST (GALM) 2. Melakukan training dengan algoritma LM menggunakan bobot dan bias yang dibangkitkan secara random. Hasil dari kedua skenario diatas kemudian dibandingkan sehingga diperoleh suatu kesimpulan mengenai pengaruh GA terhadap proses training multilayer perceptron.

35 BAB 3 METODOLOGI PENELITIAN Pengumpulan Data Studi Literatur Tahapan studi literatur meliputi: 1. Mempelajari jurnal penelitian yang membahas mengenai penerapan algoritma genetika dan algoritma levenberg-marquardt dalam proses training jaringan syaraf tiruan. 2. Mempelajari algoritma genetika dan jaringan syaraf tiruan secara umum Dataset Database kekuatan beton mutu tinggi diperoleh dari UCI Machine Learning Repository. Total data sebanyak 1030 data yang kemudian dilakukan seleksi berdasarkan umur beton 3, 14, 28, 56, dan 100 hari dengan komposisi yang sama menjadi sebanyak 260 data. Data dibagi menjadi 2 bagian, 250 data training dan 10 data testing. Sebelum digunakan, dataset dinormalisasikan dengan normalisasi minmax. Tabel 3.1 Parameter Dataset Beton Mutu Tinggi Parameter Satuan Semen kg/m 3 Blast Furnace Slag kg/m 3 Abu terbang kg/m 3 Air kg/m 3 Superplasticizer kg/m 3 Agregat Kasar kg/m 3 Agregat Halus kg/m 3 Umur Kekuatan Tekan Beton Hari Mpa (Megapascal) commit 21 to user

36 Analisa dan Perancangan Proses Normalisasi Proses normalisasi data dilakukan sebelum data dibagi menjadi data training dan data testing. Normalisasi menggunakan normalisasi min max dengan memisahkan antara data input dan data target. = { } { } { } (3.1) Arsitektur Jaringan Syaraf Tiruan Arsitektur jaringan syaraf tiruan single hidden layer dengan 8 neuron input dan 1 neuron output. Wu Zhang dalam Fahmi menentukan rumus empiris penentuan hidden neuron sesuai tabel 3.2. Fungsi aktifasi input layer ke hidden layer menggunakan sigmoid, hidden layer ke output layer juga menggunakan sigmoid. Tabel 3.2 Rumus Empiris Penentuan Hidden Neuron (Fahmi, 2011) Jumlah neuron hidden No Rumus Empiris layer (2 )/ N i adalah neuron input sejumlah 8 neuron, N o adalah neuron output sejumlah 1 neuron Pre Computing dengan GA Operator Algoritma Genetika Proses GA dilakukan sebelum proses JST (pre computing). Diharapkan proses GA dapat melakukan optimalisasi initial weight sebelum bobot tersebut digunakan dalam proses JST. Gambar 3.3 menunjukkan diagram alir GA sebagai proses pre computing.

37 23 Operator GA yang digunakan adalah sebagai berikut: 1. Skema Pengkodean dan Inisialisasi Populasi Skema pengkodean bilangan real dengan memetakan bias dan bobot JST ke dalam kromosom GA. Arsitektur JST gambar 3.1 dipetakan ke dalam kromosom GA seperti gambar 3.2. Inisialisasi populasi dilakukan dengan membangkitkan bilangan random sebanyak bobot dan bias JST yang dipetakan ke dalam kromosom dikalikan dengan jumlah anggota populasi. Penelitian ini menggunakan 50 individu dalam satu populasi. Nilai random berkisar antara 0 sampai 1. v21 1 v v01 v02 w22 w11 1 V12 w01 2 v Gambar 3.1 Arsitektur JST v11 v12 v21 v22 v01 v02 w11 w21 w01 Gambar 3.2 Pengkodean Kromosom 2. Fungsi Evaluasi Fungsi evaluasi menggunakan mean square error yang dihasilkan oleh JST. (Moghadassi & al, 2011). 3. Seleksi Proses seleksi menggunakan seleksi roda roulette. 4. Rekombinasi

38 24 Proses rekombinasi atau disebut juga dengan pindah silang menggunakan rekombinasi menengah, dengan perhitungan gen anak sebagai berikut: Anak= induk1 + alpha (induk2 induk 1) (3.2) Alpha adalah faktor skala yang dipilih secara random pada interval [-0.25, 1.25] Gambar 3.3 Proses Pre Computing dengan GA 5. Mutasi

39 25 Mutasi random (Herrera, Lozano, & Verdegay, 1998) apabila C= (c 1, c 2,..., c i,..., c n ) adalah kromosom, c i [, ] sebuah gen yang akan dimutasi, dan c i adalah kromosom hasil mutasi, maka c i merupakan bilangan random yang dibangkitkan dari domain [, ]. 6. Pelestarian Populasi (Elitism) Pelestarian populasi sebanyak 5% dari total populasi = 3 kromosom. Kromosom yang dilestarikan adalah tiga kromosom terbaik dari populasi tersebut sebelum dilakukan proses seleksi, rekombinasi, dan mutasi. 7. Penggantian Populasi Skema penggantian populasi adalah generational replacement, dengan nilai G =1. Dari populasi baru yang tercipta, 3 kromosom terburuk digantikan dengan kromosom hasil proses elitism Pelatihan dengan Algoritma LM Proses pelatihan dengan algoritma LM dilakukan sebagai berikut: 1. Inisialisasi bobot dan bias dengan bilangan acak antara 0-1, epoch maksimum = Menentukan parameter yang dibutuhkan, antara lain: - Inisialisasi epoch = 0 - Parameter LM ( ) = Parameter = Tiap-tiap unit input (xi, i = 1, 2, 3,..., 8) menerima sinyal input dan meneruskan sinyal tersebut ke semua unit pada lapisan tersembunyi Tiap-tiap unit lapisan tersembunyi (zj, j = 1, 2, 3,... p), menjumlahkan sinyal-sinyal input berbobot, _ = + (3.3) Gunakan fungsi aktivasi untuk menghitung sinyal output = = _ (3.4) Kemudian kirimkan sinyal tersebut ke semua unit di lapisan atasnya.

40 26 4. Tiap-tiap unit lapisan output (Yk, k = 1) menjumlahkan sinyal-sinyal input berbobot _ = + (3.5) Gunakan fungsi aktivasi untuk menghitung sinyal output = = _ (3.6) Kemudian kirimkan sinyal tersebut ke semua unit di lapisan atasnya. 5. Menghitung error, MSE dan total error jaringan Rumus untuk error: = (3.7) r = input ke-r Rumus untuk menghitung MSE = 1 (3.8) Rumus untuk menghitung total error: = [ ] (3.9) e = vektor kesalahan berukuran Nx1 yang terdiri dari e r, r= 1, 2,3,..., N 6. Hitung error neuron untuk tiap unit lapisan output (Yk, k = 1, 2, 3,..., m) 2 = = (1 ) (3.10) 2 = 2 (3.11) 2 = 2 (3.12) 7. Hitung error neuron untuk tiap unit lapisan tersembunyi (zj, j = 1, 2, 3,... p) _ = 2 (3.13) 1 = = (1 ) (3.14) 1 = 1 (3.15) 1 = 1 (3.16) 8. Membentuk matrik jacobian = (3.17) 9. Menghitung bobot baru

41 27 = ( + ) (3.18) 10. Menghitung MSE Jika MSEbaru <= MSElama, maka - = /10, (3.19) - epoch = epoch Kembali ke langkah 3 Jika MSEbaru>MSElama, maka - = * 10 (3.20) - Kembali ke langkah 9 Proses pelatihan berhenti jika epoch = epoch maksimal atau error = target error. Gambar 3. 4 Proses Pelatihan GALM

42 Skenario Proses Pelatihan GALM Proses GA dilakukan sebelum proses JST, proses ini disebut dengan proses pre computing. Input dari proses ini adalah bobot JST yang dibangkitkan secara random. Output berupa bobot JST yang telah dioptimasi menggunakan proses GA. Bobot JST keluaran GA digunakan sebagai bobot awal proses JST menggunakan algoritma LM. Proses JST dilakukan sampai mendapatkan nilai MSE konvergen, dimana nilai MSE tidak mengalami kenaikan maupun penurunan lagi, proses ini disebut dengan proses training JST. Proses pelatihan algoritma ini terlihat pada gambar LM Algoritma LM dijalankan sesuai dengan bobot awal bilangan random yang dibangkitkan dari nilai 0 sampai 1. Proses pelatihan dilakukan sampai mendapatkan nilai MSE yang konvergen, dimana nilai MSE tidak mengalami kenaikan maupun penurunan lagi. Proses pelatihan algoritma ini terlihat pada gambar Implementasi Proses pelatihan dilakukan sebanyak 10 kali simulasi untuk masing-masing arsitektur dengan menggunakan data training. Data hasil pelatihan kemudian dibagi menjadi 2, satu untuk analisa hasil pelatihan awal, 9 untuk analisa hasil pelatihan lanjut. Proses analisa hasil dijelaskan pada poin 3.4. Proses pengujian dilakukan setelah didapatkan arsitektur terbaik dan batasan MSE yang diperlukan. Data yang digunakan adalah data testing. Simulasi pengujian dilakukan sebanyak 20 kali. Setelah proses pengujian selesai, kemudian dilakukan proses analisa hasil pengujian.

43 29 Data Kekuatan Tekan Beton Normalisasi Membagi data menjadi data training dan data testing Pelatihan JST dengan Algoritma LM Analisa Kinerja berdasar runtime dan iterasi selesai Gambar 3.5 Proses Pelatihan LM Analisa Hasil Pelatihan dan Pengujian Proses pelatihan dilakukan dengan 10 kali simulasi untuk masing-masing arsitektur. Kemudian hasil pelatihan ini dibagi menjadi dua bagian, bagian pertama terdiri dari 1 simulasi sebagai proses pelatihan awal untuk penentuan batas MSE. Bagian kedua terdiri dari 9 simulasi digunakan untuk analisa lanjutan. Proses analisa dijelaskan sebagai berikut: 1. Analisa proses pelatihan awal dilakukan dengan melihat nilai MSE yang dihasilkan suatu arsitektur agar konvergen. MSE maksimum dari semua arsitektur akan digunakan sebagai target error analisa hasil simulasi selanjutnya. 2. Analisa lanjutan dilakukan dengan mencari jumlah iterasi yang dibutuhkan masing-masing simulasi untuk mencapai target MSE yang didapatkan dari poin 1. Jumlah iterasi ini kemudian dikonversikan kedalam runtime untuk

44 30 masing-masing simulasi. Perbandingan GALM dan LM dilihat dari ratarata iterasi dan runtime. Dari proses analisa ini dapat diketahui arsitektur paling baik untuk kedua algoritma dan letak perbaikan yang dilakukan GA pada algoritma GALM. Arsitektur terbaik terlihat dari runtime singkat. Setelah didapatkan batas MSE dan arsitektur terbaik utnuk masing-masing algoritma, proses pengujian dilakukan untuk kedua algoritma. Simulasi dilakukan sebanyak 20 kali dengan nilai mean absolut percentage error (MAPE) sebagai analisa kinerja proses pengujian. Apabila nilai MAPE kurang dari 10% maka hasil prediksi dikatakan sangat baik, apabila nilai MAPE antara 10% sampai dengan 20% maka hasil prediksi dikatakan baik (Yasmin, 2010).

45 BAB 4 PEMBAHASAN Hasil Pelatihan Awal GALM dan LM Pelatihan awal dilakukan sebanyak satu kali simulasi untuk masing-masing variasi hidden neuron. Tujuan dari pelatihan awal ini adalah untuk menentukan nilai batas maksimum mean square error yang diperlukan suatu arsitektur untuk mencapai konvergen. Maksimum MSE ini nantinya akan digunakan untuk menghitung iterasi yang diperlukan suatu arsitektur untuk mencapai nilai MSE tersebut Pelatihan Tiga Hidden Neuron Gambar 4.1 Hasil Pelatihan 3 Hidden Neuron Hasil simulasi arsitektur 3 hidden neuron terlihat pada gambar 4.1. Arsitektur dengan 3 hidden neuron menunjukkan bahwa GALM mengalami konvergensi pada MSE , LM mengalami konvergensi pada MSE commit 31 to user

46 Pelatihan Lima Hidden Neuron Gambar 4.2 Hasil Pelatihan 5 Hidden Neuron Hasil simulasi dengan arsitektur 5 hidden neuron terlihat pada gambar 4.2. Arsitektur 5 hidden neuron menunjukkan bahwa GALM konvergen pada nilai MSE dan LM konvergen pada nilai MSE Pelatihan Enam Hidden Neuron Gambar 4.3 Hasil Pelatihan 6 Hidden Neuron

47 33 Hasil simulasi dengan arsitektur 6 hidden neuron terlihat pada gambar 4.3. Arsitektur 6 hidden neuron menunjukkan bahwa GALM konvergen pada nilai MSE dan LM konvergen pada nilai MSE Pelatihan Enam Belas Hidden Neuron Gambar 4.4 Hasil Pelatihan 16 Hidden Neuron Hasil simulasi dengan arsitektur 16 hidden neuron terlihat pada gambar 4.4. Arsitektur 16 hidden neuron menunjukkan bahwa GALM konvergen pada nilai MSE dan LM konvergen pada nilai MSE Pelatihan Tujuh Belas Hidden Neuron Hasil simulasi dengan arsitektur 17 hidden neuron terlihat pada gambar 4.5. Arsitektur 17 hidden neuron menunjukkan bahwa GALM konvergen pada nilai MSE dan LM konvergen pada nilai MSE