ANALISIS VARIASI PARAMETER BACKPROPAGATION ARTIFICIAL NEURAL NETWORK TERHADAP PENGENALAN POLA DATA IRIS Ihwannul Khols, ST. MT. Unverstas 7 Agustus 945 Jaarta hols27@gmal.com Abstra Pengenalan pola data rs dapat dlauan dengan menggunaan metode Bacpropagaton Artfcal Neural Networ (ANN). ANN dbuat menyerupa sstem syaraf manusa, dsebut uga Jarngan Syaraf Truan (JST). Dengan beberapa parameter pada Bacpropagaton, dapat detahu araterst Bacpropagaton sehngga dapat memperecl error dan epoch, serta memperbesar Recognton Rate. Hasl percobaan menunuan hubungan antara parameter alpha, oefsen momentum, dan umlah neuron hdden layer terhadap error, epoch, dan Recognton Rate yang dperoleh. Kata Kunc: ANN, bacpropagaton, epoch, error, JST, recognton rate. Abstract Pattern recognton of Irs data can be done by usng Bacpropagaton Artfcal Neural Networ (ANN). ANN s made to resemble the human neural system. By varyng some parameters on bacpropagaton, bacpropagaton characterstcs s nown to mnmze errors and epoch and enlarge Recognton Rate. The expermental results show the relatonshp between the parameters alpha, coeffcent of momentum, and the number of hdden layer neurons aganst error, epoch, and the recognton rate obtaned. Keywords: ANN, Bacpropagaton, epoch, error, JST, Recognton Rate. Tanggal Terma Nasah : Tanggal Persetuuan Nasah : 3 Februar 205 PENDAHULUAN Salah satu cabang dar Artfcal Intellgence adalah apa yang denal dengan Jarngan Saraf Truan (Artfcal Neural Networ). Jarngan syaraf truan telah dembangan sea tahun 940. Pada tahun 943, Mc. Culloch dan W.H. Ptts memperenalan pemodelan matemats neuron. Tahun 949, Hebb mencoba menga proses belaar yang dlauan oleh neuron. Teor n denal sebaga Hebban Law. Tahun 958, Rosenblatt memperenalan onsep perseptron suatu arngan, yang terdr dar beberapa lapsan yang salng berhubungan melalu umpan mau (feed foward). Konsep n dmasudan untu memberan lustras tentang dasar-dasar ecerdasan
secara umum. Hasl era Rosenblatt yang sangat pentng adalah perceptron convergence theorem (tahun 962), yang membutan bahwa bla setap perseptron dapat memlahmlah dua buah pola yang berbeda, maa slus pelathannya dapat dlauan dalam umlah yang terbatas. Fsher telah melauan peneltan terhadap speses bunga Irs. Irs dataset dperenalan sebaga contoh untu analss dsrmnan. Data melaporan empat araeterst, yatu sepal wdth, sepal length, petal wdth, dan petal length dar tga speses bunga Irs. Speses bunga Irs tersebut adalah Irs Setosa, Irs Verscolor, dan Irs Vrgnca []. Pengenalan pola bunga Irs dapat dlauan dengan menggunaan ANN Bacpropagaton. Dataset dar bunga Irs dapat dlasfasan terhadap setap speses bunga Irs tersebut. Dengan deman, lasfas speses, dalam hal n bunga Irs, dapat dlauan secara lebh mudah dengan menggunaan metode ANN Bacpropagaton. 2 KONSEP DASAR 2. Pengertan Bacpropagaton Jarngan Syaraf Truan (JST) merupaan salah satu sstem pemrosesan nformas atau data yang ddesan dengan menru cara era ota manusa dalam menyelesaan suatu masalah dengan melauan proses belaar melalu perubahan bobot snapssnya. Salah satu metode yang dgunaan dalam JST adalah Bacpropagaton. Bacpropagaton adalah algortma pembelaaran untu memperecl tngat error dengan cara menyesuaan bobotnya berdasaran perbedaan output dan target yang dngnan. Bacpropagaton uga merupaan sebuah metode sstemat untu pelathan multlayer JST. Bacpropagaton meml tga layer dalam proses pelathannya, yatu nput layer, hdden layer, dan output layer, dmana bacpropagaton n merupaan perembangan dar sngle layer networ (Jarngan Lapsan Tunggal) yang meml dua layer, yatu nput layer dan output layer [2]. Dengan adanya hdden layer pada bacpropagaton dapat menyebaban tngat error pada bacpropagaton lebh ecl dbandng tngat error pada sngle layer networ. Hal n darenaan hdden layer pada bacpropagaton berfungs sebaga tempat untu meng-update dan menyesuaan bobot, sehngga ddapatan nla bobot yang baru yang bsa darahan mendeat dengan target output yang dngnan. 2.2 Arstetur Bacpropagaton Arstetur algortma bacpropagaton terdr dar tga layer, yatu nput layer, hdden layer, dan output layer. Pada nput layer tda terad proses omputas, hanya terad pengrman snyal nput e hdden layer [3]. Pada hdden dan output layer terad proses omputas terhadap bobot dan bas, serta dhtung pula besarnya output dar hdden dan output layer tersebut berdasaran fungs atvas. Dalam algortma bacpropagaton n dgunaan fungs atvas sgmod bner, arena output yang dharapan bernla antara 0 sampa. 2
Y Y Y m w 0 w w w p w o W W W p w 0m W m Wm W pm Z Z Z p V 0 V V V n V o V V V n V 0p V p V p V np X X X n Gambar. Arstetur ANN bacpropagaton dengan: V = Bobot pada lapsan tersembuny (hdden layer) V o = Bas pada lapsan tersembuny (hdden layer) W = Bobot pada lapsan eluaran (output layer) W o = Bas pada lapsan eluaran (output layer) X = Lapsan masuan (Input Layer) Y = Lapsan eluaran (Output Layer) Z = Lapsan tersembuny (Hdden Layer) 2.2 Algortma Bacpropagaton 2.2. Insalsas Bobot Terdapat dua cara untu mengnsalsas bobot, yatu nsalsas secara random dan nsalsas dengan menggunaan Nguyen-Wdrow. Insalsas aca merupaan cara yang palng serng dgunaan dalam nsalsas bobot. Pada nsalsas bobot secara random, bobot dnsalsas secara aca tanpa menggunaan fator sala [4]. Pada nsalsas Nguyen-Wdrow, nsalsas dlauan dengan memodfas nsalsas aca dengan menggunaan fator sala β dengan tuuan untu mempercepat proses pelathan. Algortma nsalsas dengan Nguyen-Wdrow adalah sebaga berut: a. Menentuan besarnya sala β n 0.7(p)...() dengan p: umlah unt hdden dan n: umlah unt nput. b. Insalsas bobot V secara random dengan nla nsalsas V adalah c. Menghtung besarnya magntude bobot V - 0.5 V 0.5...(2) p 2 V ( V )...(3) 3
d. Meng-update bobot V. V V V... (4) e. Mengatur nla bas V o sebesar V...(5) o 2.2.2 Proses Feed Forward dan Bacpropagaton Pada dasarnya proses algortma bacpropagaton terdr dar omputas mau (feed forward) dan omputas bal (bacpropagaton). Algortma proses feed forward adalah sebaga berut: a. Unt nput (X, =,2,..,n). Menerma nput X 2. Mengrmannya e semua unt layer d atasnya (Hdden layer). b. Unt Hdden (Z, =,2,.,n). Menghtung semua snyal nput dengan bobotnya: z _ n V X V...(6) 2. Menghtung nla atvas setap unt hdden sebaga output unt hdden 3. Mengrm nla atvas e unt output. Z c. Unt Output (Y, =,2,..,n). Menghtung semua snyal nput-nya dengan bobotnya: o f ( z _ n )...(7) z _ n e y _ n W Z W...(8) 2. Menghtung nla atvas setap unt output sebaga output arngan. o Y f ( y _ n )...(9) y _ n e Algortma proses bacpropagaton-nya adalah sebaga berut : a. Unt Output (Y, =,2,..,m). Menerma pola target yang bersesuaan dengan pola nput 2. Menghtung nformas error: T Y ) f '( y _ n )...(0) ( 3. Menghtung besarnya ores bobot unt output: W E( W W 4. Menghtung besarnya ores bas output: ) z... () W 0...(2) 4
5. Mengrman e unt-unt yang ada pada layer d bawahnya, yatu e hdden layer. b. Unt Hdden (Z, =,2,.,p). Menghtung semua ores error: 2. Menghtung nla atvas ores error: _ n W...(3) _ n f '( z _ n )...(4) 3. Menghtung ores bobot unt hdden: V E( V ) V X... (5) 4. Menghtung ores error bas unt hdden: V 0...(6) c. Update bobot dan bas. Unt Output (Y, =,2,,m) Meng-update bobot dan basnya ( = 0,,p): W W W W 0 W0 W 0 2. Unt hdden (Z, =,,p) Meng-update bobot dan basnya ( = 0,,n): V V V V 0 V0 V 0... (7)... (8) 2.2.3 Stoppng Condton Terdapat dua onds stoppng pada algortma bacpropagaton n, yatu: a. Error < Error masmum Error adalah perbedaan yang terad antara output terhadap target yang dngnan. Proses ANN aan berhent a besarnya error yang terad telah bernla lebh ecl dar nla error masmum yang telah dtetapan. Besarnya nla error dhtung dengan menggunaan fungs error uadrats. 2 E 0.5 ( T Y )...(9) 0 b. Epoch > Epoch masmum Epoch adalah suatu langah yang dlauan dalam pembelaaran pada ANN. Ja besarnya epoch lebh besar dar besarnya epoch masmum yang telah dtetapan, maa proses pembelaaran aan berhent. Kedua onds stoppng d atas dgunaan dengan loga OR. Jad onds stoppng terad a besarnya Error < Error masmum atau Epoch > Epoch masmum. 5
2.3 Fator-Fator Dalam Pembelaaran Bacpropagaton Beberapa fator yang mempengaruh eberhaslan algortma bacpropagaton, antara lan:. Insalsas bobot Bobot awal menentuan apaah arngan aan mencapa global mnma atau local mnma esalahan, dan seberapa cepat arngan aan onvergen. 2. Lau pembelaaran (alpha) Lau pembelaaran merupaan parameter arngan dalam mengendalan proses penyesuaan bobot. Nla lau pembelaaran yang optmal bergantung pada asus yang dhadap. Lau pembelaaran yang terlalu ecl menyebaban onvergens arngan menad lebh lambat, sedangan lau pembelaaran yang terlalu besar dapat menyebaban etdastablan pada arngan. 3. Momentum (mu) Momentum dgunaan untu mempercepat pelathan arngan. Metode momentum melbatan penyesuaan bobot dtambah dengan fator tertentu dar penyesuaan sebelumnya. Penyesuaan n dnyataan sebaga berut: w z w w v 0 0 z v X X v w0...(20) v 0 Dengan menggunaan persamaan 7, 8, dan 20, update bobot dengan momentum drumusan sebaga berut: W W z W W V 0 0 W V V V 0 z X 0 X W V V 0 0 (2) 3 PEMBAHASAN Jarngan syaraf truan dgunaan untu memodelan suatu syaraf bolog pada ota manusa. Sebaga contoh, dberan graf sepert pada Gambar 2. JST n dgunaan untu membuat sebuah perbedaan yang dtanda dengan sebuah trendlne pada Gambar 2. Dengan deman, anng besar dan snga ecl berdasaran cr-cr yang dberan dapat denal. Gambar 2. Metode ANN untu pengenalan pola antara Snga Kecl dan Anng Besar 6
Peneltan n menggunaan data IRIS (data bunga Irs) dengan 50 data dan tga pembagan elas. Bacpropagaton dgunaan untu mengolah data bunga dar tga elas tersebut sehngga speses bunga dapat denal. Pada data tersebut, terdapat 50 data yang dbag menad tga elas, yatu elas, elas 2, dan elas 3, dengan target yang berbeda untu masng-masng elas. Data tersebut berbentu matrs bars dengan bentu 50 x 5 dengan olom 4 sebaga dmens - 4 dan olom 5 merupaan olom yang menunuan elas data tersebut. Target untu masng-masng elas tersebut bernla satu. Data tranng yang dgunaan adalah 70% dar data IRIS. Percobaan n meml varable terat (yang aan damat), yatu nla presentase tngat Recognton Rate, nla error, dan epoch. Varabel bebas yang dubah adalah alpha, oefsen momentum, dan umlah hdden layer. Nla awal untu masng-masng parameter adalah sebaga berut. alpha = 0.2; hdden neuron = 2; oef. Momentum=0.2; epoch max= 0000; error mn= 0.0; metode nsalsas = nguyen wdrow. (a) (b) (c) Gambar 3. (a) Flowchart Input Data, (b) Flowchart Nguyen Wdrow, (c) Flowchart ANN Bacpropagaton Pada peneltan n, dberan flowchart untu mengambl data dar fle excel menad matrs d Matlab (Gambar 3.a). Untu nsalsas nguyen wdrow, dberan flowchart sepert Gambar 3.b. ANN Bacpropagaton dberan flowchart sepert Gambar 3.c. 7
Dengan flowchart yang telah dberan, dbuat program dalam software Matlab dalam bentu mfles. Keluaran dar program tersebut adalah data dan graf. 4 HASIL PENELITIAN Peneltan yang telah dlauan melput varas alpha, momentum, dan hdden layer. Hasl peneltan dberan sebaga berut. 4. Pengaruh Perubahan Alpha (Lau Pembelaaran) Pada percobaan n dlauan varas alpha dar 0, sampa dengan 0,9 dengan penambahan 0, dan hal n dlauan sebanya 0 al percobaan. Nla parameterparameter lannya dberan nla awal. Hasl percobaannya adalah sebaga berut. Table. Percobaan dengan varas alpha alpha perc e- perc e-2 perc e-3 perc e-4 perc e-5 perc e-6 perc e-7 perc e-8 perc e-9 perc e-0 rata RR rata watu (sec) rata epoch 0. 98 96 96 97 97 97 97 99 96 99 97.2.89978988 23.6 0.2 97 97 98 98 97 98 00 98 97 98 97.8 5.98593533 08 0.3 96 96 96 98 97 96 99 97 97 98 97 3.485574809 6.4 0.4 99 96 96 99 96 97 96 98 98 96 97. 2.652323335 46.7 0.5 99 99 97 98 97 98 98 99 96 97 97.8.877426958 32.3 0.6 99 96 99 98 98 97 98 98 98 96 97.7.49382942 26.7 0.7 96 97 98 00 97 99 96 99 99 98 97.9.00620758 8. 0.8 00 00 98 98 98 94 99 97 98 88 97 0.852669048 5. 0.9 97 00 99 98 96 98 98 98 99 96 97.9 0.890626544 5.9 Dar data d atas terlhat bahwa alpha 0,7 dan 0,9 meml rate recognton yang sama. Dengan nla alpha 0,9 yang terlalu besar, dhawatran aan membuat sstem dvergen dan membuat error mencapa local mnma. Gambar 4 mendesrpsan local mnma dan global mnma. Dengan deman, alpha yang meml Recognton Rate masmal adalah 0.7. Gambar 4. Graf Error terhadap teras 8
4.2 Pengaruh Perubahan Mu (Momentum) Pada percobaan n dlauan varas mu dar 0, sampa dengan 0,9 dengan penambahan 0,. Hal n dlauan sebanya 0 al percobaan. Nla parameterparameter lannya dberan nla awal. Hasl percobaannya adalah sebaga berut. Table 2. Percobaan dengan varas oefsen momentum mu perc e- perc e-2 perc e-3 perc e-4 perc e-5 perc e-6 perc e-7 perc e-8 perc e-9 perc e-0 rata RR rata watu (sec) rata epoch 0. 95.3333 94.6667 95.3333 94 96 94 96 96 95.3333 95.33333 95.2 2.9458509 845.5 0.2 96 94.6667 95.3333 96 95.3333 94.6667 96 94.6667 96 96.66667 95.5333 8.48745035 27.5 0.3 96.6667 96 96 96 94.6667 96 96.6667 95.3333 96 96 95.9333 8.8752066 208.5 0.4 96 96 96 96 96.6667 96.6667 96.6667 96 96.6667 96 96.2667 8.9055637 22. 0.5 96 96 96.6667 96.6667 96.6667 94.6667 96.6667 95.3333 96.6667 96.66667 96.2 6.90089268 084.7 0.6 96.6667 96.6667 96 96 96 96 96.6667 96.6667 96.6667 96.66667 96.4 23.765537 534.9 0.7 96.6667 96.6667 96.6667 96.6667 96.6667 96.6667 96.6667 96.6667 96.6667 96.66667 96.6667 9.52245066 259.4 0.8 96.6667 96.6667 96.6667 96.6667 96 94.6667 96.6667 94 96.6667 96.66667 96.333 29.4229859 794.5 0.9 96.6667 96.6667 96.6667 94.6667 96.6667 96.6667 96.6667 96.6667 94.6667 96.66667 96.2667 23.20379 56.7 Dar data d atas terlhat bahwa mu 0,7 meml Recognton Rate yang palng besar walaupun watu dan epoch-nya buan yang terecl. Pada nla mu 0,7, sstem terlhat menghaslan error yang lebh stabl dbandngan yang lan. Oleh arena tu, dgunaan onstanta momentum sebesar 0,7. 4.3 Pengaruh Perubahan Jumlah Unt Hdden Layer Pada percobaan n dlauan varas umlah unt hdden layer dan hal n dlauan sebanya 0 al percobaan. Nla parameter-parameter lannya dberan nla awal. Hasl percobaannya adalah sebaga berut. Table 3. Percobaan dengan varas umlah unt hdden layer hdden perc e- perc e-2 perc e-3 perc e-4 perc e-5 perc e-6 perc e-7 perc e-8 perc e-9 perc e-0 rata RR rata watu (sec) rata epoch 64.6667 64.6667 63.3333 64.6667 64.6667 63.3333 63.3333 64.6667 63.3333 64.66667 64.333 49.9243943 4000 2 96.6667 96.6667 96.6667 96.6667 70.6667 96.6667 96.6667 96.6667 96.6667 96.66667 94.0667 3.9824838 058.9 3 96 70 96.6667 96 96 96 96 96 96.6667 96.66667 93.6 5.533298 077.3 4 96 96.6667 96.6667 96 76 96 72 78 96.6667 96.66667 90.0667 2.79636358 824.7 5 KESIMPULAN Dar percobaan yang telah dlauan, dperoleh esmpulan sebaga berut:. Seman besar alpha, seman cepat proses dlauan. Selan tu, sstem meml epoch yang seman ecl, dan Recognton Rate yang seman besar. Dar percobaan varas alpha, alpha dengan Recognton Rate yang terba adalah alpha 0,7 dan 0,9. Namun, dplh nla alpha 0,7 arena alpha tda boleh bernla terlalu besar untu menghndar error yang atuh d local mnma. 2. Seman besar oefsen momentum, seman besar Recognton Rate. Pada percobaan varas oefsen momentum, dperoleh oefsen momentum 0,7 dengan Recognton Rate yang terba, yatu 96,6667. 9
3. Seman banya umlah neuron pada hdden layer, seman ecl epoch dan error. Dengan deman, seman besar Recognton Rate yang dperoleh. Pada percobaan varas umlah unt hdden layer, dperoleh umlah hdden layer 2 sebaga umlah hdden layer yang meml Recognton Rate yang terba, yatu 94,0667. 4. Pengenalan pola dapat dlauan dengan menggunaan metode ANN Bacpropagaton. 6 REFERENSI [] Fsher, R. A. "The Use of Multple Measurements n Taxonomc Problems." 936: 466-475. [2] Kusumadew, Sr. "Analss Jarngan Syaraf Truan dengan Metode Bacpropagaton untu Mendetes Gangguan Psolog." Meda Informata, 2004: -4. [3] Kusumoputro, Benyamn. Jarngan Neural Buatan, Ed.. Jaarta: Unverstas Indonesa, 200. [4] Marzu. "Multlayer Neural Networ and the Bacpropagaton Algorthm." Lecture Materal. Kuala Lumpur: UTM, n.d. 0