ANALISIS VARIASI PARAMETER BACKPROPAGATION ARTIFICIAL NEURAL NETWORK TERHADAP PENGENALAN POLA DATA IRIS

Transkripsi

1 Jurnal Teni dan Ilmu Komputer ANALISIS VARIASI PARAMETER BACKPROPAGATION ARTIFICIAL NEURAL NETWORK TERHADAP PENGENALAN POLA DATA IRIS AN ANALYSIS OF THE VARIATION PARAMETERS OF THE ARTIFICIAL NEURAL NETWORK BACKPROPAGATION TOWARD THE RECOGNITION OF IRIS DATA PATTERN Ihwannul Kholis Universitas 17 Agustus Jaarta iholis27@gmail.com Abstra Pengenalan pola data iris dapat dilauan dengan menggunaan metode Bacpropagation Artificial Neural Networ (ANN). ANN dibuat menyerupai sistem syaraf manusia, disebut uga Jaringan Syaraf Tiruan (JST). Dengan beberapa parameter pada Bacpropagation, dapat dietahui arateristi Bacpropagation sehingga dapat memperecil error dan epoch, serta memperbesar Recognition Rate. Hasil percobaan menunuan hubungan antara parameter alpha, oefisien momentum, dan umlah neuron hidden layer terhadap error, epoch, dan Recognition Rate yang diperoleh. Kata Kunci: ANN, bacpropagation, epoch, error, JST, recognition rate. Abstract The recognition of Iris data Pattern can be done by using Bacpropagation Artificial Neural Networ (ANN). ANN is made to resemble the human neural system. By using some parameters of bacpropagation, bacpropagation characteristics are identified, which functions to minimize errors and epoch and to enlarge Recognition Rate. The experimental results show the relationship among the alpha parameter, coefficient of momentum, and the number of hidden layer neurons against error, epoch, and the recognition rate obtained. Keywords: ANN, Bacpropagation, epoch, error, JST, Recognition Rate. Tanggal Terima Nasah : 27 Januari 2015 Tanggal Persetuuan Nasah : 13 Februari PENDAHULUAN Salah satu cabang dari Artificial Intelligence adalah apa yang dienal dengan Jaringan Saraf Tiruan (Artificial Neural Networ). Jaringan syaraf tiruan telah diembangan sea tahun Pada tahun 1943, Mc. Culloch dan W.H. Pitts memperenalan pemodelan matematis neuron. Tahun 1949, Hebb mencoba mengai proses belaar yang dilauan oleh neuron. Teori ini dienal sebagai Hebbian Law. Tahun 1958, Rosenblatt memperenalan onsep perseptron suatu aringan, yang terdiri 129

2 Vol. 04 No. 14, Apr Jun 2015 dari beberapa lapisan yang saling berhubungan melalui umpan mau (feed foward). Konsep ini dimasudan untu memberian ilustrasi tentang dasar-dasar ecerdasan secara umum. Hasil era Rosenblatt yang sangat penting adalah perceptron convergence theorem (tahun 1962), yang membutian bahwa bila setiap perseptron dapat memilahmilah dua buah pola yang berbeda, maa silus pelatihannya dapat dilauan dalam umlah yang terbatas. Fisher telah melauan penelitian terhadap spesies bunga Iris. Iris dataset diperenalan sebagai contoh untu analisis disriminan. Data melaporan empat araeteristi, yaitu sepal width, sepal length, petal width, dan petal length dari tiga spesies bunga Iris. Spesies bunga Iris tersebut adalah Iris Setosa, Iris Versicolor, dan Iris Virginica [1]. Pengenalan pola bunga Iris dapat dilauan dengan menggunaan ANN Bacpropagation. Dataset dari bunga Iris dapat dilasifiasian terhadap setiap spesies bunga Iris tersebut. Dengan demiian, lasifiasi spesies, dalam hal ini bunga Iris, dapat dilauan secara lebih mudah dengan menggunaan metode ANN Bacpropagation. 2 KONSEP DASAR 2.1 Pengertian Bacpropagation Jaringan Syaraf Tiruan (JST) merupaan salah satu sistem pemrosesan informasi atau data yang didesain dengan meniru cara era ota manusia dalam menyelesaian suatu masalah dengan melauan proses belaar melalui perubahan bobot sinapsisnya. Salah satu metode yang digunaan dalam JST adalah Bacpropagation. Bacpropagation adalah algoritma pembelaaran untu memperecil tingat error dengan cara menyesuaian bobotnya berdasaran perbedaan output dan target yang diinginan. Bacpropagation uga merupaan sebuah metode sistemati untu pelatihan multilayer JST. Bacpropagation memilii tiga layer dalam proses pelatihannya, yaitu input layer, hidden layer, dan output layer, dimana bacpropagation ini merupaan perembangan dari single layer networ (Jaringan Lapisan Tunggal) yang memilii dua layer, yaitu input layer dan output layer [2]. Dengan adanya hidden layer pada bacpropagation dapat menyebaban tingat error pada bacpropagation lebih ecil dibanding tingat error pada single layer networ. Hal ini diarenaan hidden layer pada bacpropagation berfungsi sebagai tempat untu meng-update dan menyesuaian bobot, sehingga didapatan nilai bobot yang baru yang bisa diarahan mendeati dengan target output yang diinginan. 2.2 Arsitetur Bacpropagation Arsitetur algoritma bacpropagation terdiri dari tiga layer, yaitu input layer, hidden layer, dan output layer. Pada input layer tida teradi proses omputasi, hanya teradi pengiriman sinyal input e hidden layer [3]. Pada hidden dan output layer teradi proses omputasi terhadap bobot dan bias, serta dihitung pula besarnya output dari hidden dan output layer tersebut berdasaran fungsi ativasi. Dalam algoritma bacpropagation ini digunaan fungsi ativasi sigmoid biner, arena output yang diharapan bernilai antara 0 sampai

3 Analisis Variasi Parameter Bacpropagation Y 1 Y Y m w 01 w 11 w 1 w p1 w o W 1 W W p w 0m W 1m Wm W pm 1 Z 1 Z Z p V 01 V 11 V 1 V n1 V o V 1 V i V n V 0p V 1p V ip V np 1 X 1 X X n Gambar 1. Arsitetur ANN bacpropagation dengan: V i = Bobot pada lapisan tersembunyi (hidden layer) V o = Bias pada lapisan tersembunyi (hidden layer) W i = Bobot pada lapisan eluaran (output layer) W o = Bias pada lapisan eluaran (output layer) X = Lapisan masuan (Input Layer) Y = Lapisan eluaran (Output Layer) Z = Lapisan tersembunyi (Hidden Layer) 2.2 Algoritma Bacpropagation Inisialisasi Bobot Terdapat dua cara untu menginisialisasi bobot, yaitu inisialisasi secara random dan inisialisasi dengan menggunaan Nguyen-Widrow. Inisialisasi aca merupaan cara yang paling sering digunaan dalam inisialisasi bobot. Pada inisialisasi bobot secara random, bobot diinisialisasi secara aca tanpa menggunaan fator sala [4]. Pada inisialisasi Nguyen-Widrow, inisialisasi dilauan dengan memodifiasi inisialisasi aca dengan menggunaan fator sala β dengan tuuan untu mempercepat proses pelatihan. Algoritma inisialisasi dengan Nguyen-Widrow adalah sebagai beriut: a. Menentuan besarnya sala β 1 n β = 0.7(p)... (1) dengan p: umlah unit hidden dan n: umlah unit input. b. Inisialisasi bobot V i secara random dengan nilai inisialisasi V i adalah c. Menghitung besarnya magnitude bobot V i Vi (2) p 2 V i = ( V i )... (3) i= 1 131

4 Vol. 04 No. 14, Apr Jun 2015 d. Meng-update bobot V i β. Vi Vi = V... (4) e. Mengatur nilai bias V o sebesar β V β... (5) o Proses Feed Forward dan Bacpropagation Pada dasarnya proses algoritma bacpropagation terdiri dari omputasi mau (feed forward) dan omputasi bali (bacpropagation). Algoritma proses feed forward adalah sebagai beriut: a. Unit input (X i, i=1,2,..,n) 1. Menerima input X i 2. Mengirimannya e semua unit layer di atasnya (Hidden layer). b. Unit Hidden (Z, =1,2,.,n) 1. Menghitung semua sinyal input dengan bobotnya: + z _ in... (6) = Vo X ivi 2. Menghitung nilai ativasi setiap unit hidden sebagai output unit hidden 3. Mengirim nilai ativasi e unit output. Z c. Unit Output (Y, =1,2,..,n) 1. Menghitung semua sinyal input-nya dengan bobotnya: 1 = f ( z _ in ) =... (7) z _ in 1+ e + y _ in... (8) = Wo Z W 2. Menghitung nilai ativasi setiap unit output sebagai output aringan. 1 Y = f ( y _ in ) =... (9) y _ in 1+ e Algoritma proses bacpropagation-nya adalah sebagai beriut : a. Unit Output (Y, =1,2,..,m) 1. Menerima pola target yang bersesuaian dengan pola input 2. Menghitung informasi error: δ = T Y ) f '( y _ in )... (10) ( 3. Menghitung besarnya oresi bobot unit output: ΔW E( W = α W 4. Menghitung besarnya oresi bias output: ) = α z... (11) ΔW 0 = αδ... (12) 132

5 Analisis Variasi Parameter Bacpropagation 5. Mengiriman δ e unit-unit yang ada pada layer di bawahnya, yaitu e hidden layer. b. Unit Hidden (Z, =1,2,.,p) 1. Menghitung semua oresi error: 2. Menghitung nilai ativasi oresi error: 3. Menghitung oresi bobot unit hidden: δ _ in... (13) = δ W δ = δ _ in f '( z _ in )... (14) ΔV i E( Vi ) = α = αδ X V 4. Menghitung oresi error bias unit hidden: i i... (15) ΔV 0 = αδ... (16) c. Update bobot dan bias 1. Unit Output (Y, = 1,2,,m) Meng-update bobot dan biasnya ( = 0,,p): W W = W + ΔW 0 = W0 + Δ W 0 2. Unit hidden (Z, = 1,,p) Meng-update bobot dan biasnya (i = 0,,n): V V i = V i + ΔV 0 = V0 + Δ i V Stopping Condition... (17)... (18) Terdapat dua ondisi stopping pada algoritma bacpropagation ini, yaitu: a. Error < Error masimum Error adalah perbedaan yang teradi antara output terhadap target yang diinginan. Proses ANN aan berhenti ia besarnya error yang teradi telah bernilai lebih ecil dari nilai error masimum yang telah ditetapan. Besarnya nilai error dihitung dengan menggunaan fungsi error uadratis. 2 E = 0.5 ( T Y )... (19) = 0 b. Epoch > Epoch masimum Epoch adalah suatu langah yang dilauan dalam pembelaaran pada ANN. Jia besarnya epoch lebih besar dari besarnya epoch masimum yang telah ditetapan, maa proses pembelaaran aan berhenti. Kedua ondisi stopping di atas digunaan dengan logia OR. Jadi ondisi stopping teradi ia besarnya Error < Error masimum atau Epoch > Epoch masimum. 133

6 Vol. 04 No. 14, Apr Jun Fator-Fator Dalam Pembelaaran Bacpropagation Beberapa fator yang mempengaruhi eberhasilan algoritma bacpropagation, antara lain: 1. Inisialisasi bobot Bobot awal menentuan apaah aringan aan mencapai global minima atau local minima esalahan, dan seberapa cepat aringan aan onvergen. 2. Lau pembelaaran (alpha) Lau pembelaaran merupaan parameter aringan dalam mengendalian proses penyesuaian bobot. Nilai lau pembelaaran yang optimal bergantung pada asus yang dihadapi. Lau pembelaaran yang terlalu ecil menyebaban onvergensi aringan menadi lebih lambat, sedangan lau pembelaaran yang terlalu besar dapat menyebaban etidastabilan pada aringan. 3. Momentum (miu) Momentum digunaan untu mempercepat pelatihan aringan. Metode momentum melibatan penyesuaian bobot ditambah dengan fator tertentu dari penyesuaian sebelumnya. Penyesuaian ini dinyataan sebagai beriut: Δw ( t + 1) = αδ z + µ Δw Δw Δv 0 0 ( t + 1) = αδ z Δv ( t + 1) = αδ X i ( t + 1) = αδ X i i + µ Δw0... (20) + µ Δv i + µ Δv 0 Dengan menggunaan persamaan 17, 18, dan 20, update bobot dengan momentum dirumusan sebagai beriut: W ( t + 1) = W + αδ z + µ ΔW ( t 1) W V 0 0 ( t + 1) = W V ( t + 1) = V i i ( t + 1) = V 0 + αδ z + αδ X 0 + αδ X i + µ ΔW + µ ΔV i i + µ ΔV ( t 1) 0 0 ( t 1) ( t 1) (21) 3 PEMBAHASAN Jaringan syaraf tiruan digunaan untu memodelan suatu syaraf biologi pada ota manusia. Sebagai contoh, diberian grafi seperti pada Gambar 2. JST ini digunaan untu membuat sebuah perbedaan yang ditandai dengan sebuah trendline pada Gambar 2. Dengan demiian, aning besar dan singa ecil berdasaran ciri-ciri yang diberian dapat dienali. Gambar 2. Metode ANN untu pengenalan pola antara Singa Kecil dan Aning Besar Penelitian ini menggunaan data IRIS (data bunga Iris) dengan 150 data dan tiga pembagian elas. Bacpropagation digunaan untu mengolah data bunga dari tiga elas 134

7 Analisis Variasi Parameter Bacpropagation tersebut sehingga spesies bunga dapat dienali. Pada data tersebut, terdapat 150 data yang dibagi menadi tiga elas, yaitu elas 1, elas 2, dan elas 3, dengan target yang berbeda untu masing-masing elas. Data tersebut berbentu matris baris dengan bentu 150 x 5 dengan olom 1 4 sebagai dimensi 1-4 dan olom 5 merupaan olom yang menunuan elas data tersebut. Target untu masing-masing elas tersebut bernilai satu. Data training yang digunaan adalah 70% dari data IRIS. Percobaan ini memilii variable teriat (yang aan diamati), yaitu nilai presentase tingat Recognition Rate, nilai error, dan epoch. Variabel bebas yang diubah adalah alpha, oefisien momentum, dan umlah hidden layer. Nilai awal untu masing-masing parameter adalah sebagai beriut. alpha = 0.2; hidden neuron = 2; oef. Momentum=0.2; epoch max= 10000; error min= 0.01; metode inisialisasi = nguyen widrow. (a) (b) (c) Gambar 3. (a) Flowchart Input Data, (b) Flowchart Nguyen Widrow, (c) Flowchart ANN Bacpropagation Pada penelitian ini, diberian flowchart untu mengambil data dari file excel menadi matris di Matlab (Gambar 3.a). Untu inisialisasi nguyen widrow, diberian flowchart seperti Gambar 3.b. ANN Bacpropagation diberian flowchart seperti Gambar 3.c. Dengan flowchart yang telah diberian, dibuat program dalam software Matlab dalam bentu mfiles. Keluaran dari program tersebut adalah data dan grafi. 135

8 Vol. 04 No. 14, Apr Jun HASIL PENELITIAN Penelitian yang telah dilauan meliputi variasi alpha, momentum, dan hidden layer. Hasil penelitian diberian sebagai beriut. 4.1 Pengaruh Perubahan Alpha (Lau Pembelaaran) Pada percobaan ini dilauan variasi alpha dari 0,1 sampai dengan 0,9 dengan penambahan 0,1 dan hal ini dilauan sebanya 10 ali percobaan. Nilai parameterparameter lainnya diberian nilai awal. Hasil percobaannya adalah sebagai beriut. Table 1. Percobaan dengan variasi alpha alpha perc e- 1 perc e- 2 perc e- 3 perc e- 4 perc e- 5 perc e- 6 perc e- 7 perc e- 8 perc e- 9 perc e- 10 rata RR rata watu (sec) rata epoch Dari data di atas terlihat bahwa alpha 0,7 dan 0,9 memilii rate recognition yang sama. Dengan nilai alpha 0,9 yang terlalu besar, dihawatiran aan membuat sistem divergen dan membuat error mencapai local minima. Gambar 4 mendesripsian local minima dan global minima. Dengan demiian, alpha yang memilii Recognition Rate masimal adalah 0.7. Gambar 4. Grafi Error terhadap iterasi 4.2 Pengaruh Perubahan Miu (Momentum) Pada percobaan ini dilauan variasi miu dari 0,1 sampai dengan 0,9 dengan penambahan 0,1. Hal ini dilauan sebanya 10 ali percobaan. Nilai parameterparameter lainnya diberian nilai awal. Hasil percobaannya adalah sebagai beriut. 136

9 Analisis Variasi Parameter Bacpropagation Table 2. Percobaan dengan variasi oefisien momentum miu perc e- 1 perc e- 2 perc e- 3 perc e- 4 perc e- 5 perc e- 6 perc e- 7 perc e- 8 perc e- 9 perc e- 10 rata RR rata watu (sec) rata epoch Dari data di atas terlihat bahwa miu 0,7 memilii Recognition Rate yang paling besar walaupun watu dan epoch-nya buan yang terecil. Pada nilai miu 0,7, sistem terlihat menghasilan error yang lebih stabil dibandingan yang lain. Oleh arena itu, digunaan onstanta momentum sebesar 0, Pengaruh Perubahan Jumlah Unit Hidden Layer Pada percobaan ini dilauan variasi umlah unit hidden layer dan hal ini dilauan sebanya 10 ali percobaan. Nilai parameter-parameter lainnya diberian nilai awal. Hasil percobaannya adalah sebagai beriut. Table 3. Percobaan dengan variasi umlah unit hidden layer hidden perc e- 1 perc e- 2 perc e- 3 perc e- 4 perc e- 5 perc e- 6 perc e- 7 perc e- 8 perc e- 9 perc e- 10 rata RR rata watu (sec) rata epoch KESIMPULAN Dari percobaan yang telah dilauan, diperoleh esimpulan sebagai beriut: 1. Semain besar alpha, semain cepat proses dilauan. Selain itu, sistem memilii epoch yang semain ecil, dan Recognition Rate yang semain besar. Dari percobaan variasi alpha, alpha dengan Recognition Rate yang terbai adalah alpha 0,7 dan 0,9. Namun, dipilih nilai alpha 0,7 arena alpha tida boleh bernilai terlalu besar untu menghindari error yang atuh di local minima. 2. Semain besar oefisien momentum, semain besar Recognition Rate. Pada percobaan variasi oefisien momentum, diperoleh oefisien momentum 0,7 dengan Recognition Rate yang terbai, yaitu 96, Semain banya umlah neuron pada hidden layer, semain ecil epoch dan error. Dengan demiian, semain besar Recognition Rate yang diperoleh. Pada percobaan variasi umlah unit hidden layer, diperoleh umlah hidden layer 2 sebagai umlah hidden layer yang memilii Recognition Rate yang terbai, yaitu 94, Pengenalan pola dapat dilauan dengan menggunaan metode ANN Bacpropagation. 137

10 Vol. 04 No. 14, Apr Jun 2015 REFERENSI [1]. Fisher, R. A The Use of Multiple Measurements in Taxonomic Problems: [2]. Kusumadewi, Sri. "Analisis Jaringan Syaraf Tiruan dengan Metode Bacpropagation untu Mendetesi Gangguan Psiologi." Media Informatia, 2004: [3]. Kusumoputro, Benyamin Jaringan Neural Buatan, Ed. 1. Jaarta: Universitas Indonesia. [4]. Marzui. Multilayer Neural Networ and the Bacpropagation Algorithm. Lecture Material. Kuala Lumpur: UTM, n.d. 138