Analisis dan Implementasi Algoritma Differential Evolution Pada Jaringan Syaraf Tiruan Studi Kasus Prediksi Masa Studi Mahasiswa

Transkripsi

1 Analisis dan Implementasi Aloritma Differential Evolution Pada Jarinan Syaraf Tiruan Studi Kasus Prediksi Masa Studi Mahasiswa Fahrudin Julianto 1, Jondri MSi 2, Rita Rismala ST.,MT 3 Fakultas Informatika Telkom University Jln. Telekomunikasi No.1 Kabupaten Bandun 1 fahrudin.julianto@mail.com 2 jondri@telkomuniversity.ac.id 3 rrs@telkomuniversity.ac.id Abstrak Lama masa studi mahasiswa merupakan salah satu parameter pentin dalam evaluasi performansi studi mahasiswa. Untuk itu, sanatlah wajar jika prediksi lama masa studi mahasiswa dibutuhkan oleh manajemen peruruan tini. Pada penelitian ini dibanun sistem prediksi menunakan Jarinan Syaraf Tiruan denan Differential Evolution sebaai aloritma pelatihannya. Differential Evolution merupakan salah satu dari Evolution Alorithms, aloritmaaloritma optimasi yan berbasis evolusi bioloi yan ada di dunia nyata. Berbeda denan metode Evolution Alorithms lainnya yan menunakan mutasi acak, pada Different Evolution, mutasi yan dilakukan adalah mutasi semi terarah. Hal ini sanat mempenaruhi pencarian solusi yan terbukti lebih cepat dibandinkan Genetik Alorithm dan Evolution Strateies. Differential Evolution jua cepat konveren dan sanat mudah diunakan. Data yan diunakan pada penelitian ini adalah data akademik yan berupa data Kartu Hasil Studi mahasiswa. Variabel yan diunakan sebaai input untuk sistem yan dibanun adalah nilai beberapa mata kuliah tahun pertama dan tahun kedua beserta berapa kali setiap mahasiswa menambil mata kuliah tersebut denan output sistem prediksi adalah mahasiswa lulus tepat waktu dan mahasiswa lulus tidak tepat waktu. Akurasi terbaik yan dihasilkan dari sistem yan dibanun adalah 75,9726. Kata Kunci : Differential Evolution, Jarinan Syaraf Tiruan, prediksi masa studi mahasiswa. Abstract Study period is one of the important parameters in the evaluation of student performance. Therefore, it is natural that study period is required by university manaement. In this research, prediction system is built by usin Artificial Neural Networks with Differential Evolution as it s alorithm. Differential Evolution is one of the Evolution Alorithms, optimization alorithm based on evolutionary bioloy that exist in the real world. In contrast to others Evolution Alorithms that use random mutation, at Differential Evolution, mutation is carried out semi-directed mutation that can reatly affect the search for solutions that proved faster than Genetic Alorithm and Evolution Strateies. Differential Evolution is fast converence and easy to use. The data used in this final project is academic data in the form of Kartu Hasil Studi. Variables are used as inputs to the prediction system is the value of several courses in the first and second years alon with the number of times each student took the course. The output of prediction system is the students who raduate on time and the students who do not raduate on time. The best accuration produced by sistem is 75,9726. Keywords: Artificial Neural Networks, Differential Evolution, study period. 1. Pendahuluan Semakin ketatnya persainan dalam mendapatkan lapanan pekerjaan menuntut peruruan tini menhasilkan sarjana yan berkualitas dan berdaya sain [3]. Oleh sebab itu, dalam manajemen pendidikannya, setiap peruruan tini selalu melakukan evaluasi performansi mahasiswa. Lama masa studi mahasiwa merupakan salah satu parameter pentin dalam evaluasi performansi studi

2 mahasiswa. Mampu memprediksi masa studi mahasiswa akan memberikan manfaat yan besar bai peruruan tini. Selanjutnya, prediksi masa studi mahasiswa dapat diunakan sebaai acuan dalam menevaluasi proses pendidikan, kurikulum pendidikan dan kebijakan-kebijakan lain yan terkait performansi mahasiswa secara keseluruhan [2]. Beberapa penelitian terkait prediksi masa studi mahasiswa diantaranya adalah Prediksi Potensi Drop Out Mahasiswa denan sistem yan dibanun denan Evolvin fuzzy menunakan variabel prediktor IPK dan TPA (Tes Potensi Akademik) [1]. Penelitian lainnya adalah Prediksi Kelulusan Tepat Waktu yan dibanun denan NEFCLASS menunakan prediktor IPK dan beberapa variabel hasil analisis terhadap data mata kuliah tahun pertama (TPB) [2]. Menacu pada penelitian-penelitian tersebut dan masih terus berkembannya penelitian tentan prediksi masa studi mahasiswa, pada penelitian ini penulis membanun sistem prediksi masa studi mahasiswa denan output berupa lulus tepat waktu dan lulus tidak tepat waktu. Variabel input yan diunakan adalah nilai beberapa mata kuliah tahun pertama dan tahun kedua beserta berapa kali setiap mahasiswa menambil mata kuliah tersebut. Model prediksi yan diunakan adalah Jarinan Syaraf Tiruan (JST) denan aloritma pelatihan adalah Differential Evolution (DE).DE merupakan salah satu aloritma optimasi yan berbasis evolusi bioloi yan ada di dunia nyata.[8] Berbeda denan metode EAs lainnya yan menunakan mutasi acak. Pada DE, mutasi yan dilakukan adalah mutasi semi terarah denan menunakan differential mutation [8]. DE bisa menemukan minimum lobal dari funsi multidimensional dan multimodal denan probabilitas yan tini tanpa terpenaruh oleh nilai parameter awal.[8] DE baik diunakan untuk masalah optimasi bernilai real dan cepat konveren.[6][8] 2. Dasar Teori 2.1 Jarinan Syaraf Tiruan Jarinan syaraf tiruan (JST) adalah sistem penolah informasi yan meniru sistem syaraf manusia[7]. Sama seperti sistem syaraf manusia yan tersusun oleh neuron, JST jua tersusun oleh perceptron (neuron pada JST) sebaai unit pemrosesan informasi yan merupakan dasar dari operasi JST [7] Model Neuron Terdapat tia elemen dasar dari model neuron, yaitu[7] : a. Sekumpulan sinapsis yaitu jalur penhubun antar neuron, dimana masin-masin sinapsis memiliki kekuatan hubunan atau bobot. b. Suatu adder untuk menjumlahkan sinyalsinyal input yan sudah dikalikan denan bobot sinapsis yan sesuai. c. Suatu funsi aktivasi untuk menentukan output berdasarkan dari hasil penjumlahan sinyal-sinyal input denan bobot sinapsis yan sesuai. Contoh model neuron[7] : Gambar 2.1 model neuron Funsi Aktivasi Funsi aktivasi diunakan untuk menentukan output dari suatu neuron[9]. Beberapa funsi aktivasi yan serin diunakan pada JST, antara lain : a. Funsi Hard Limit b. Funsi Symmetric Hard Limit c. Funsi Linear d. Funsi Simoid Biner e. Funsi Simoid Bipolar Arsitektur Jarinan Beberapa arsitektur jarinan yan serin dipakai dalam JST antara lain[7] : a. Sinle-Layer Network Sekumpulan unit/neuron pada input layer dihubunkan denan sekumpulan unit pada output layer. Setiap unit input diproyeksikan denan semua unit output. b. Multi-Layer Network Jarinan denan satu atau lebih hidden layer. Setiap unit input diproyeksikan ke semua hidden unit pada hidden layer dan setiap hidden unit diproyeksikan ke setiap unit output. Jika hidden layer lebih dari satu, maka setiap unit input diproyeksikan ke semua hidden unit pada hidden layer pertama, kemudian setiap hiddenunit pada layer pertama diproyeksikan ke semua hidden unit pada hidden layer berikutnya dan seterusnya sampai hidden layer terakhir dan kemudian

3 dilanjutkan denan proyeksi dari hidden unit pada hidden layer terakhir ke semua unit output. c. Recurrent Network Jarinan yan mempunyai minimal satu feedback loop. Recurrent network bisa terdiri dari satu atau lebih layer. Unit output pada pada jarinan ini memberikan kembali outputnya sebaai sinyal input pada semua unit input Proses Pelatihan Proses pelatihan pada JST dapat didefinisikan sebaai suatu proses dimana parameter-parameter bebas JST diadaptasikan melalui suatu proses peransanan berkelanjutan oleh linkunan dimana jarinan berada [7]. Jenis pelatihan pada JST yaitu[7] : a. Supervised Learnin (Pelatihan denan penawasan) Dalam poses pelatihan ini, JST diberikan suatu ransanan dari linkunan dimana penetahuan tentan linkunan tersebut sudah diketahui (biasa direpresentasikan denan input-output). Denan ransanan tersebut JST akan memberikan respon. Respon tersebut merepresentasikan aksi yan dilakukan oleh JST. Parameter-parameter JST berubah-ubah berdasarkan ransanan dan sinyal kesalahan (sinyal kesalahan adalah perbedaan antara output JST dan output yan diininkan). Sinyal kesalahan diunakan sebaai umpan balik ke jarinan. Proses perubahan ini dilakukan terusmenerus sampai JST mampu memetakan sekumpulan input-output denan akurasi yan tini. b. Unsupervised Learnin (Pelatihan tanpa penawasan) Dalam proses pelatihan ini, terdapat suatu layer pada jarinan dimana neuron-neuronnya bersain meraih kesempatan untuk memberikan respon kepada jarinan tentan ciri khas dari data masukan. Berdasarkan dari ciriciri yan diberikan oleh neuron tersebutlah, jarinan menhasilkan output. 2.2 Differential Evolution Defferential Evolutian (DE) merupakan suatu metode optimasi denan pendekatan heuristik untuk mencari nilai minimum dari funsi ruan kuntinyu yan nonlinier dan non-differentiable. DE merupakan salah satu dari Evolution Alorithms, aloritma-aloritma optimasi meta-heuristic yan berbasis mekanisme evolusi bioloi yan ada di dunia nyata seperti mutasi, perkawinan atau rekombinasi, seleksi alam dll[8]. DE bisa menemukan minimum lobal dari funsi multidimensional dan multimodal denan probabilitas yan tini[8]. DE mencari nilai minimum secara paralel menunakan sejumlah individu dalam suatu populasi. Pada DE, individuindividu direpresentasikan denan nilai-nilai real yan bisa dipandan sebaai suatu vektor. Individu baru didapatkan denan menunakan perhitunan tertentu berbasis pada perbedaan jarak vektor antar individu oran tua[8]. DE menunakan sejumlah NP vektor parameter sebaai suatu populasi pada setiap enerasi G. X i,g, i =, 1, 2,..., NP-1 (2.1) Selama proses pencarian nilai minimum (minimasi), vektor parameter tetap berjumlah NP. Populasi awal dibankitkan secara acak[8] Representasi individu DE menunakan representasi bilanan real untuk merepresentasikan individu ke dalam bentuk kromosom denan en-en yan bernilai real dimana individu bisa dipandan sebaai suatu vektor[5]. Perbedaan antara dua individu dapat dihitun sebaai jarak antara dua vektor [5] Seleksi oran tua Pemilihan oran tua dilakukan denan probabilitas yan sama untuk setiap individu tanpa memperhatikan nilai fitness-nya[8]. Pemilihan oran tua dilakukan denan menunakan distribusi uniform[8] Differential Mutation Differential mutation merupakan proses untuk membankitkan vektor individu baru denan melibatkan individu oran tua [8]. Ada beberapa skema DE untuk membankitkan vektor individu baru. Skema DE yan diunakan pada penelitian ini adalah Skema DE2. Skema DE2 melibatkan empat individu sebaai oran tua dimana tia individu merupakan individu yan dipilih secara acak dan satu individu merupakan veektor terbaik pada enerasi saat ini. Pada skema DE2, differential mutation dilakukan berdasarkan rumus : v = x r1,g + λ. (x best,g x r1,g ) + F. (x r2,g x r3,g ) (2.2) Dimana : x best,g adalah individu terbaik saat ini r 1, r 2, r 3 [, NP-1] dan r i adalah inteer, F >. r 1, r 2, r 3 adalah bilanan inteer, dimana satu denan yan lain tidak boleh sama nilainya dan dipilih secara acak dalam interval [, NP-1]. Ketia bilanan tersebut menyatakan indeks oran tua dan bisa berbeda untuk setiap proses pembankitan individu baru.

4 F adalah suatu bilanan real dan merupakan konstanta yan menontrol penuatan differential variation (x r2,g x r3,g ). λ adalah suatu variabel kontrol bernilai real yan diunakan untuk mempertajam arah pencarian yan berhubunan denan vektor terbaik saat ini[8]. Berikut adalah ilustrasi proses differential mutation skema DE2 : vektor x i,g akan tetap muncul pada enerasi berikutnya[8] Proses evolusi pada Differential Evolution Berikut adalah proses evolusi pada DE[4] : inisialisasi populasi Seleksi oran tau selesai Diferential mutation Selesi survivor rekombinasi Gambar 2.3 proses evolusi pada Gambar 2.2 proses differential mutation skema DE Rekombinasi Untuk meninkatkan keberaaman vektor-vektor parameter, maka vektor v hasil differential mutation direkombinasikan denan suatu vektor sembaran dalam populasi, misal vektor x i,g. Proses rekombinasi menhasilkan vektor baru u seperti berikut[8] : u = (u 1, u 2,..., u D ) rekombinasi dilakukan denan cara : u j = v j, untuk j = <n> D, <n+1> D,..., <n+l-1> D dan u j = untuk j yan lainnya dimana: simbol <> D menyatakan funsi modulo denan modulus D. Modulo adalah suatu funsi denan output sisa pembaian. contoh : <8> 3 = 2. n merupakan bilanan bulat yan dipilih secara acak dalam interval [, D-1]. L merupakan bilanan bulat yan dipilih secara acak dalam interval [, D-1] denan probabilitas Pr (L=v) = (CR) v dimana CR [,1] adalah probabilitas crossover. Pembankitan bilanan acak untuk n dan L dilakukan untuk setiap pembankitan vektor baru v [8] Seleksi survivor Vektor hasil rekombinasi u akan menantikan vektor x i,g pada enerasi berikutnya jika u menhasilkan nilai yan lebih baik daripada vektor v i,g. Tetapi jika u memberikan nilai yan lebih buruk, maka u tidak menantikan vektor x i,g yan berarti 3. Perancanan Sistem Pada penelitian ini dibanun sistem prediksi masa studi mahasiswa menunakan Jarinan Syaraf Tiruan denan aloritma pelatihan Differential Evolution untuk menoptimasi bobot-bobot jarinan pada Jarinan Syaraf Tiruan. Berikut ini adalah alur sistem yan dibanun : Gambar 3.1 Alur sistem prediksi masa studi mahasiswa. Dilakukan preprocessin terhadap parameterparameter yan diunakan sebaai input sistem. Selanjutnya, hasil preprocessin diunakan sebaai inputan JST untuk membankitkan bobot-bobot jarinan. Pembankitan bobot-bobot jarinan dilakukan secara berulan sejumlah populasi dari DE yan diininkan. Setiap bobot-bobot hasil pembankitan JST didekodekan menjadi sebuah kromosom. Selanjutnya kromosom-kromosom hasil decode diunakan untuk proses DE. Proses DE menhasilkan kromosom yan berisi bobot-bobot yan optimal. Selanjutnya, bobot-bobot yan optimal

5 hasi proses DE tersebut diunakan pada JST untuk diuji akurasi system yan dibanun. 4. Hasil Penujian Proses penujian diunakan untuk menetahui parameter-parameter apa saja yan mempenaruhi performansi sistem yan dibanun. Performansi sistem diukur berdasarkan akurasi data testin. Berikut ini adalah scenario penujian dan hasil penujian dari sistem yan dibanun : 4.1 Skenario 1 parameter-parameter yan dibandinkan adalah : a. Persentase data dan testin = 5-5 dan 8-2 b. Jumlah neuron pada hidden layer = 5 dan 15 c. Jumlah populasi DE = 5 dan 1 d. Epoch DE = 5 dan 1 e. Denan menunakan parameter CR =,8, F =,8 dan lambda =,8 Tabel 4.1 hasil penujian 1 Neu ron pada hidd en Persen tase data Popu lasi DE Epo ch DE Max fitne ss DE Akur asi data traini n Akur asi data testi n , ,8 84 7, , , , , , , , , , , , , , , , , , , , , , , , , , ,5 21 8, , , , , , , , , , , ,1 67, ,9 77,7 69, Skenario 2 parameter yan dibandinkan adalah parameter mutasi pada DE yaitu Crossover Rate, F, dan lambda. Untuk jumlah populasi, jumlah epoch pada DE, jumlah hidden neuron pada JST dan persentase data dan data testin, akan menunakan hasil dari penujian skenario 1. Adapun nilai dari parameter-parameter yan dibandinkan adalah : a. Nilai Crossover Rate yaitu,1,,5 dan,8 b. Nilai F yaitu,1,,5 dan,8 c. Nilai lambda yaitu,1,,5 dan,8 Crossov er Rate F Tabel 4.2 hasil penujian 2 Lam bda Max fitness Akuras i data Akuras i data testin,1,1,1 85,813 79,591 69,178,1,1,5 86,261 8,442 69,178,1,1, ,442 71,917,1,5,1 86,628 8,272 69,178,1,5,5 87,1 81,972 71,917,1,5,8 87,193 81,462 73,972, ,636 79,61 71,917,1,8.5 86,654 81,972 71, ,912 81,632 73,287,5,1,1 82,513 73,129 71,232,5,1,5 81,167 69,387 69,178,5,1,8 82,39 7,918 71,917,5,5,1 87,119 8,442 69,863,5,5,5 87,61 82,142 7,547,5,5,8 87,28 81,82 72,62,5,8,1 83,736 77,381 67,123,5,8,5 85,247 79,591 6,274,5,8,8 86, ,88,8,1,1 81,77 69,727 69,178,8,1,5 8,39 69,287 69,178,8,1,8 8,99 69,387 69,178,8,5,1 89,592 86,94 67,88,8,5,5 85,488 78,571 69,863,8,5,8 84,344 77,721 72,62,8,8,1 83,666 77,21 72,62,8,8,5 86,654 81,972 71,232,8,8,8 85,362 79,251 75, Skenario 3 Pada skenario 3, dilakukan prediksi masa studi mahasiswa menunakan Jarinan Syaraf Tiruan denan aloritma pelatihan BackPropaation. Parameter-pamameter pada Jarinan Syaraf Tiruan

6 denan aloritma pelatihan Back Propaation sama seperti parameter pada Jarinan Syaraf Tiruan denan aloritma pelatihan Differential Evolution. Parameter-parameter itu adalah : a. Persentase data dan testin = 5-5 dan 8-2 b. Jumlah neuron pada hidden layer = 5 dan 15 c. Epoch DE = 5 dan 1 d. Learnin rate =,2,,5 dan,8 Tujuan dari skenario 3 adalah sebaai pembandin untuk menetahui performansi sistem prediksi yan dibanun menunakan Jarinan Syaraf Tiruan denan aloritma pelatihan Differential Evolution dilihat dari akurasi sistem prediksi yan dihasilkan oleh Jarinan Syaraf Tiruan denan aloritma pelatihan Back Propaation. Jumla h hidde n Tabel 4.3 hasil penujian skenario 3 Data epoc h Learnin Rate akuras i data Akura si data testin Kesimpulan dan Saran 5.1 Kesimpulan a. Differential Evolution bisa diunakan untuk proses pelatihan pada Jarinan Syaraf Tiruan. Berdasarkan hasil penelitian, akurasi yan dihasilkan Jarinan Syaraf Tiruan denan menunakan aloritma Differential Evolution berada dalam rentan nilai yan mirip denan akurasi yan dihasilkan oleh Jarinan Syaraf Tiruan denan aloritma Back Propaation yan biasa diunakan untuk aloritma pelatihan Jarinan Syaraf Tiruan. b. Parameter F yan menyatakankonstanta yan menontrol penuatan differential variationpada Differential Evolutiondan lambda yan menyatakan variabel kontrol yan diunakan untuk mempertajam arah pencarian yan berhubunan denan vektor terbaik saat iniadalah parameter yan mempunyai penaruh yan dominan dalam proses pelatihan c. Akurasi prediksi terbaik yan dihasilkan dari penujian adalah 75, Saran a. Menunakan metode preprocessin tertentu untuk menolah data mentah b. Menunakan aloritma pelatihan yan lain untuk proses pelatihan pada JST c. Menunakan data dan data testinyan lebih banyak d. Memprediksi masa studi mahasiswa denan output berupa tahun atau semester yan ditempuh mahasiswa. Daftar Pustaka [1] Adha, Rahmadhil Penunaan Aloritma Genetika dan Sistem Fuzzy Untuk Prediksi Potensi Drop Out Mahasiswa IT Telkom 211 [2] Fatriandini, Serli Pembanunan Model Prediksi Kelulusan Tepat Waktu menunakan Neuro Fuzzy. Bandun. Universitas Telkom [3] Meinanda, dkk. 29. Prediksi Masa Studi Sarjana denan Artificial Neural Network. Bandun. Institut Teknoloi Bandun [4] Rizki Syaherli Chan, Mohd Analisis dan Implementasi Differential Evolution untuk optimasi Artificial Neural Networks pada Prediksi Konsumsi Bahan Bakar Minyak. Bandun. Universitas Telkom [5] Rismala, Rita Analisis Perbandinan Evolution Strateies dan differential Evolution pada Prediksi Data Time Series Studi Kasus Kurs Jual Emas. Bandun. Institut Teknoloi Telkom [6] Sttart, Abdul. 28. Differential Evolution for Neural Networks Learnin Enhancement. Malaysia. Universiti Teknoloi Malaysia [7] Suyanto.ST,. MSc 211. Artificial Intellience Searchin, Reasonin, Plannin dan Learnin. Bandun. Informatika [8] Suyanto.ST., MSc 28. Evolutionary Computation Komputasi Berbasi Evolusi dan Genetika. Bandun. Informatika

7 [9] Wisesty, Untari Novia. 21. Analisis dan Implementasi Aloritma Conjuate Gradient Polak Ribiere Untuk Pelatihan Backpropaation Studi Kasus Sistem Peramalan Temperatur Udara. Bandun. Institut Teknoloi Telkom [1] diakses pada tanal 25 Maret 214