PEMBELAJARAN JARINGAN SYARAF TIRUAN PROBABILISTIK BASIS RADIAL DENGAN MENGGUNAKAN ANALISIS SENSITIVITAS

Transkripsi

1 PEBELAJARAN JARINGAN SYARAF TIRUAN PROBABILISTIK BASIS RADIAL DENGAN ENGGUNAKAN ANALISIS SENSITIVITAS Hasaudd Program Stud Pedda atemata Uverstas Isam Neger Suta Syarf Kasm Rau, 893 Abstra aaah meyaja agortma pembeajara bag Rada Bass Probabstc Neura Networ berdasara eturua grade fugs esaaha. RBPNN tertegras dar jarga saraf rada fugs dasar (RBFNN) da jarga syaraf probabst (PNN). Lagah Kepeaa terhadap masua atas dataset peatha berdasara turua parsa dar mode RBPNN da atura utu memh ftur berebha juga hadr. Aass sestvtas metode yag dapat megata efses da efetvtas jarga saraf. Ahrya, utu megevauas erja, pedeata yag dusua am meujua meau membera dua cotoh ehdupa yata umpua data. Kata Kuc: RBPNN, eturua grade, aass sestvtas, sees ftur, asfas. Abstract Ths paper presets a earg agorthm for Rada Bass Probabstc Neura Networ based o gradet descet of error fuctos. RBPNN tegrates of rada bass fucto eura etwors (RBFNN) ad probabstc eura etwors (PNN). Sestvty measures to put over trag dataset based o parta dervatve of the RBPNN mode ad rue for seectg redudat feature s aso preset. Sestvty aayss of that method ca mproved effcecy ad effectveess of the eura etwors. Fay, to evauate the performace, our proposed approaches are demostrated trough gvg two exampes of rea fe data set. Keyword: RBPNN, gradet descet, sestvty aayss, feature seecto, cassfcato. 1. Pedahuua ode jarga syaraf trua Rada Bass Probabstc (RBPNN), sepert yag dapat dhat pada Gambar 1. egtegrasa eebha dar dua jarga syaraf trua yatu Jarga Syaraf Fugs Bass Rada (RBFNN) da Probabstc Neura Networs (PNN). Kostrus RBPNN terdr dar empat apsa yag berbeda: satu apsa put, dua apsa tersembuy da satu apsa output. Lapsa tersembuy pertama adaah apsa pemroses o er. Secara umum terdr dar ceter-ceter tersembuy yag dtetua berdasara dega meath data put. Lapsa tersembuy edua secara seetf mejumaha euara dar apsa tersembuy pertama da mem uura yag sama Gamata Vo. III No. e

2 dega apsa output yag dtujua utu masaah asfas. Bobot atara apsa tersembuy pertama da edua adaah ostata [6]. Kerja RBPNN tergatug pada jumah da poss ceter, spread, da metode yag dguaa utu pembeajara pemetaa put-output. Strateg pembeajara utu RBPNN dapat dasfas sebaga berut: 1) strateg utu pemha secara radom dar data trag ) Strateg tapa supervs utu pemha ceter 3) Strateg prosedur tersupervs utu pemhha ceter [7]. Ada baya metode pembeajara ateratve utu jarga syaraf. Sebaga cotoh, pada asus jarga dega mut aps agortma suses pertama yatu Bacpropogas as[1]. Sejumah perset teah meawara peyeesaa masah smpas jarga, sepert megata agortma pembeajara, sesstvtas berdasara pemha ftur da sestvtas aass dar ceter-ceter euro tersembuy. Sestvtas berdasara smpfas jarga saah satu te yag cuup efetf da ebh dutamaa[9]. Aass sestvtas ftur merupaa su fudameta daam desa jarga syaraf trua. Ha dapat dguaa utu pemha ftur, peyederhaaa jarga syaraf da meegata erja secara umum[9]. aaah dsusu sebaga berut. Baga meyaja agortma pembeajara tersupervs utu RBPNN berdasara gradet descet. Baga 3 meyaja uura sestvtas utu put terhadap data peatha da atura pemha ftur reduda. Baga 4 evauas erja RBPNN da peguja berdasara agortma yag dtawara da baga 5 terdr dar esmpua. 1. etode Gradet Descet utu Pembeajara Bobot ode Jarga Syaraf Probabst Bass Rada atau Rada Bass Probabstc Neura Networ (RBPNN) sepert yag dapat dhat pada Gambar [1] meggabuga beberapa euggua RBFNN da PNN. Gambar.1 Arstetur RBPNN [6] Kostrus RBPNN terdr dar empat apsa, yatu: apsa put, dua apsa tersembuy da apsa output. Lapsa tersembuy pertama merupaa apsa dega proses ta er, yag secara umum terdr dar ceter tersembuy yag dtetua dega hmpua sampe peatha put. Lapsa tersembuy Gamata Vo. III No. e

3 edua merupaa pejumaha dar output apsa pertama, da secara umum mem uura yag sama dega apsa output. Bobot atara apsa tersembuy pertama da apsa tersembuy edua, merupaa bobot osta. Artya, bobot dsettg tetap sehgga tda dperua pembeajara (Huag d., 005). saa utu vetor put x, a atua dar euro output RBPNN e- y h a y, secara matemata dapat dsederhaaa mejad persamaa berut a 1 w h x, = 1,,..., (1) x x, c x c 1, = 1,...,, () 1 dega: h (x) : a output e- dar apsa tersembuy RBPNN, w : bobot sapt atara apsa tersembuy edua da apsa output RBPNN, c : vetor ceter tersembuy utu eas poa e, : jumah vetor ceter tersembuy utu eas poa e, : orm eucd, : jumah euro pada apsa output, : fugs ere, basaya megguaa fugs gauss. Sebeum meetua bobot RBPNN, terebh dahuu harus dtetua ere Gaussya. Beberapa agortma Custerg dapat dguaa utu meetua vetor-vetor pusat. Cara termudah yatu dega memh secara radom dar data peatha. Aa tetap, metode harusah megguaa ceter yag baya, tujuaya utu mecover seuru doma poa put. Saah satu metode yag cuup popuer yatu K-meas Custerg, metode teah dterma secara uas area emampuaya utu membera has yag cuup ba. Ide dasar dar agortma yatu megumpua data e daam beberapa eompo da memh ceter berdasara uura dar ceter-ceter dega megguaa jara Eucd Saah satu parameter petg aya dar RBPNN yatu parameter spread dar fugs ere gauss. Spread umum dapat dph dega megguaa ratarata dar semua jara Eucd atara ceter e- dega guga terdeatya. Parameter-parameter spread dar fugs-fugs ere RBPNN dapat dhat persamaa berut[] d max, (3) K dega: d max : Jara Eucd masma dar sehmpua peatha, K : Jumah tota sehmpua peatha. N RBPNN dath utu memetaa vector x R e vector y R, dega pasaga terurut x, y 1 L berasaa dar data peatha. RBPNN cadath dega memmas error Gamata Vo. III No. e

4 L 1 E e,, (4) 1 1 Dega e, merupaa error approxsmas dar euro output e-da sampe peatha e-. y y. e ˆ,,, Persamaa (4) dguaa utu meetua bobot optma. Bobot peatha emuda dtetua dega meurua persamaa (4) terhadap bobot w p sebaga berut L E yˆ, y ˆ, y,, (5) w w p dega yˆ, p w h p p 1 1 p adaah Kroecer deta, ja p maa 1, 0 utu yag aya. E w p p Seajutya subttus persamaa (6) e daam persamaa (5) dperoeh L 1 h (7) o p, o dega y. p y ˆ, p, p, p (6) Jad, persamaa utu vector-vetor bobotjarga dapat dperoeh dega megguaa gradet descet E wp w p (8) L 1 o p, h dega s tgat pembeajara ad o p, s eror output. Agortma dapat dsmpua sebaga berut: 1) ph da ; sasas {w j } dega a o; ) tetuapusat berdasara K-ea agorthm 3) tetua spread dega megguaa persamaa (3) 4) Htug Respo awa * h x x, c x c 1 * yˆ w h x 1 1 6) Set Eod =E; 7) Update bobot o y 1 L 5) Htug E y yˆ,, 1 1 * p y ˆ, p, p, Gamata Vo. III No. e

5 * w w o p L 1 h, 8) Htug Respo agsug * h x x, c x c 1 * yˆ w h x 1 1 L 1 9) Htug E y yˆ,, ) ja (Eod-E)> ; maa, emba e agah (5) aya berhet.. Aass Sestvtas Sestvtas respo fugs f yag megacu epada parameter desa hmpua N dapat dtetua dar gradeya. saaa f x, x, 1, x N fugs yag dapat ddfferesaa dega N varabe. Sepert yag dasumsa pada [9], jarga dapat dpadag sebaga pemetaa taer. Sestvtasya pada tt put dapat dpadag sebaga vetor f f f,,,, (9) x1 x x N Sestvtas jarga pada hmpua data peatha yag dhasa pada pada (9) dapat dpertmbaga sebaga oefse sestvtas. Khususya, sestvtas y m yag megacu e x sebaga berut y ym sx m, (10) x Yag emuda dapat dtus ym s, m s x.1 Peguura sestvtas utu put pada data peatha Defs 1 [10]. Sestvtas mea square average (SA), S m terhadap hmpua dapat dhtug sebaga berut L Sm 1 Sm N, (11) () dega s m merupaa sestvtas yag megacu vector put e -. Adaa RBPNN mem output, maa vector output dar jarga dapat dtusa y 1, y,, y. sehgga, setapoutput dapat dhtug dega y w 1 1 x c, 1,,,, (1) Turua parsa dar jarga yag megacu epada put x, dapat dperoeh dega Gamata Vo. III No. e 013 1

6 N x t t c y t x c 1 s x w exp, (13) 1 1 dega = 1,,..., N. Formua sestvtas pada persamaa (13) dapat dguaa utu meghtug sestvtas ftur put e- terhadap output e-m. 3. Atura pemha Ftur reduda atrs sestvtas S dapat dguaa utu medetes ftur reduda. Ja sestvtas satu atau ebh ftur put reatve ec, dmes put dar RBPNN dapat dsederhaaa. ( ) ( ) ( ) x max x m x ( ) 1,..., N 1,..., N x ˆ, (14) ( ) ( ) max x m x 1,..., N 1,..., N dega^ meambaga varabe terormasas, or parameter. Ja pesaaa terhadap put (14) teah daua sebeum meath jarga, tda peru ag operas tambaha pada s m, s da berart sˆ m s m, (15) Utu meguur sestvtas jarga yag megacu epada put megguaa baga r bua vector. Peguura daua dega megguaa S max s ˆ, 1, N, m m1,...,, (16) Dega ŝ m sestvtas yag megacu e put e- da output e-m. Keta pembeajara jarga seesa, dph crtera utu meyederhaaa put yag mrp dega dega crtera pada [9] da [10]. Sestvtas dapat dhtug dega persamaa (16)au eemuda d sort dega crtera sebaga berut S S, u 1,..., N 1 u1, (17) u dega u barsa put yag dsortr. Gap sestvtas dtetua berdasara perbadga dua sestvtas yag berdeata, sebaga berut Su gu, u 1,..., N 1, (18) S u1 Kemuda Gap terbesar dapat dtetua dega g maxg, u 1,,..., N 1, (19) max u u Ides g max dapat dguaa utu meetua ftur-ftur efetf yag dapat member pegaruh yag sgfa e RBPNN. u cut = u (0) gap terbesar edua dapat dtetua dega megguaa crtera berut g maxg, u 1,,..., N 1 (1) max II uucut u ja g max ebh besar dbadg g max II 0.5, maa ftur put yag sestfebh ec,.e., C g max > g max II, dega C = S ucut dapat d sederhaaa. Gamata Vo. III No. e

7 3. Esperme da Has Data peeta yag am saja pada bab teah dguaa utu megevauas erja jarga RBPNN. Peeta dfousa pada tgat auras asfas da aass sestvtas ftur put RBPNN. Data yag dguaa sebaya tga dataset, yatu: Irs da E-Co. Ketga data dperoeh dar webste UCI ache Learg. 3.1 Irs Dataset Kerja RBPNN-GD degeerate berdasara pada pedeata yag dbuat da juga teah dbadga dega agortma RBPNN ovesoa dega megguaa data Irs. Data Irs teah dguaa secara uas utu evauas erja agortma custerg da asfas. Data rs terdr dar 150 tt data, empat atrbut yag terdr dar 3 eas. Setap eas terdr dar 50 tt data. Ketda eas tersebut dbag secara radom mejad baga, 70% dguaaa utu pembeajara da 30% dguaa utu peguja. RBPNN duj pada terdr dar empat put da tga output er. Output aa terat dega eas secara fs. Kuc utama optmsas RBPNN yatu meyees hdde ceter utu apsa tersembuy pertama. Beberapa agortma custerg dapat dguaa utu agat ebh ajut utu meetua ceter dar RBPNN. Ceter merepresetasa oas ere RBF pada ruag put yag dtetua dega K- meas agorthms. Parameter petg dar RBPNN dtetua berdasara persamaa (3). RBPNN dath megguaa agortma yag daj dega rate pembeajara = Tabe 1 shows the percetage of cassfcato errors produced o the trag ad testg dataset formed from the Irs data by RBPNN-LS [5], RBPNN-OLS [6] ad RBPNN-GD. Accordg to the Tabe 1, each RBPNN agorthm produced amost the same umbers of cassfcato errors o the trag set ad testg set. Pada Tabe 1 dapat dhat persetase eror asfas yag dhasa peatha da peguja data yag ddapat dar Data Irs berdasara RBPNN-LS [5], RBPNN-OLS [6] ad RBPNN-GD. Berdasara Tabe 1, setap agortma yg dhasa hamper mem emampua yag sama daam ha error ba pada data peatha maupu peguja. Tabe 4.1 Percetage of Cassfcato Errors produced o The Trag Dataset ad Testg Dataset Formed from the Irs Data. Data Cassfcato Errors RBPNN-LS RBPNN-OLS RBPNN-GD Trag.86%.86%.86% Testg.%.%.% Perubaha sgfas put seama pembeajara dapat dhat pada gambar. Sestvtas pada awaya sagat redah. Seama pembeajara sestvtasya sema megat. Gamata Vo. III No. e

8 Gambar 4.1 Iput Sgfcace Chages durg Trag for the Trag Dataset. Tabe 4. Feature Sestvtes usg sestvty aayss Feature Sestvty Gap g max g max g max /g max >C Na ahr sestvtas dapat dhat pada Tabe. Parameter C pada esperme d set utu C=0.5. Baga yag dtebaa adaah Gap terbesar da Baga yag dmrga merupaa gap terbesar edua. Seajutya dperoeh g max /g max = > C. jad tda ada ftu yag boeh d hapus. 4. E-Co Kerja RBPNN-GD ddasara epada agortma pedeata yag dajua juga uj dega megguaa Data E-Co. Data terdt dar 336 tt data da yag terbag edaam 8 eas. Ceterya merepresetasa oas ere RBF pada ruag put yag dtetua dega megguaa K-meas agorthms. Parameter petg dar RBPNN yatu spread dtetua dega megguaa persamaa (3). Learg rateya = 0.1. Pada Tabe 3 dapat dhat persetase error asfas yag dhasa dega megguaa Data E-Co. Berdasara Tabe 3, RBPNN yag dath dega megguaa Gradet Descet meampa eror yag ebh ec ja dbadga dega yag aya. Tabe 5.1 Percetage of Cassfcato Errors produced o the Trag Dataset ad Testg Dataset Formed from the E-co Data. Data Cassfcato Errors RBPNN-LS RBPNN-OLS RBPNN-GD Trag 17,1% 17,1% 15,57% Testg 0,83% 0,83% 19,79% Sgfas put seama peatha data E-Co dapat dtujua pada gambar 3. Seama peatha beberapa sesftas megat, eta yag a overge Gamata Vo. III No. e

9 meuju a teredah. Na ahr sestvtas dar output membera petuju utu peghapusa put ftur yag mem sestvtas redah. Gambar 5.1 Iput Sgfcace durg trag for the E-Co dataset Tabe 5. Feature sestvtes for the E-Co Dataset Feature Sestvty Gap x g max g max g max /g max x < C = 0.5 Tabe 4 merupaa smpua umers.. baga yag d tebaa merupaa gap terbesar baga yag dmrga gap terbesar edua. Seajutya berdasara perhtuga dperoeh g max /g max = x < C. Parameter C pada espermet d setutu a C = 0.5. semua ftur yag berada dbawah ftur put yag mem eve yag sama dega gap terbesar dapat dhapus. Sestvtas x 4 atau ftur chg sagat redah s 3.16 x Tabe 5.3 Percetage of Cassfcato Errors before ad after Prug Feature of the E-co dataset Data Before After Prug Prug Trag 15,57% 15,57% Testg 19,79% 19,79% Pada Tabe 5. Dapat dhat persetase error asfas yag hasa seama peatha da peguja. Has esperme meujua bahwa eror asfas tda bertambah seteah daua peghapusa atrbut yg mem sestftas yag redah. Gamata Vo. III No. e

10 5. Kesmpua Bobot ovesoa RBPNN dapat dperoeh dega megguaa matrs pseudo vers atau deomposs QR. aaah meawara ateratf pedeata utu meath RBPNN yatu dega gradet descet. Has expermet meujua has yag ebh ba atau sama dega agortma yag a. Aass sestvtas dar put merupaa suatu agah yag efse utu meyederhaaa strutur jarga. Sestvtas setap put devauas berdasara epada data peatha da data peguja. Has esperme meujua bahwa persetase error assfas tda megat seteah peghapusa atrbut yag meme sestftas yag redah. Daftar Pustaa Casto, E., Gujarro-Berdas, B., Fotea-Romero, O., da Aoso- Betazos, A., A Very Fast Learg ethod for Neura Networs Based o Sestvty Aayss, Joura of ache Learg Research, 7 (006), Du, K.-L. ad Swamy,.N.S., Neura Networs a Softcomputg Framewor, Sprger-Verag, Lodo, 006 Faussett, L., Fudametas of Neura Networs: Archtectures, Agorthms, ad Appcato, Pretce-Ha, Ic., New Jersey, 1994 Gupta,.., J, L. ad Homma, N., Statc ad Dyamc Neura Networs: From Fudameta to Advaced Theory, Joh Wey & Sos, New Yor, USA, 003 Huag, D.S. ad Zhao, W.B., Determg the Ceter of Rada Bass Probabstc Neura Networs by Recursve Orthogoa Least Square Agorthm, Apped athematcs ad Computato, 16 (005), Karayas, N.B., Reformuated Rada Bass Neura Networs by Gradet Descet, IEEE Trasacto o Neura Networ, 10 (1999), No. 3, Sh, D., Yeug, D.S. ad Gao, J., Sestvty Aayss Apped to the Costructo of Rada Bass Fucto Networs, Joura of Neura Networs, 18 (005), ha Wag, X.-Z., L, C.-G., Yeug, D.S., Sog, S.J. ad Feg, H.., A Defto of Parta Dervatve of Radom Fuctos ad Its Appcato to RBFNN Sestvty Aayss, Joura of Neurocomputg, 71 (008), Zhao, W.B. ad Huag, D.S., Rada Bass Probabstc Neura Networs of Geetc Optmzato of Fu Structure, J. Ifrared m. Waves, 3 (004) o., Gamata Vo. III No. e

11 Zurada, J..., aows, A. ad Usu, S., Pertubato for Deetg Redudat Iputs of Perceptro Networs, Neurocomputg, 14 (1996), Gamata Vo. III No. e