Jaringan Syaraf Tiruan (Artificial Neural Networks)

Transkripsi

1 Jarngan Syaraf Truan (Artfcal Neural Networks) BAB I PENDAHULUAN. Searah JST JST : merupakan cabang dar Kecerdasan Buatan (Artfcal Intellgence ) JST : menru cara kera otak mahluk hdup yatu sel syaraf (neuron) Otak manusa terdr dar mlyar neuron yang salng berhubungan satu sama lan. Hubungan n dsebut dengan synapses Neuron secara gars besar dbag 3 : cell body, dendrtes, dan axon Gambar.. Struktur dar sebuah sel syaraf (neuron) Denrtes : merupakan unt nput yatu sebaga tempat masuknya snyal Cell body : berfungs untuk memproses snyal yang masuk Axon : merupakan unt output dar snyal hasl proses cell body Hubungan antara neuron dengan neuron yg lan lewat hubungan synapse Proses peralanan snyal yatu : mula-mula snyal masuk lewat denrtes menuu cell body Kemudan snyal dproses dalam cell body berdasarkan fungs tertentu (Summaton process). Jka snyal hasl proses melebh nla ambang (treshold) tertentu maka snyal tersebut akan membangktkan neuron(excted) untuk meneruskan snyal tsb., sedangkan ka d bawah treshold maka snyal tersebut akan dhalang (nhbted). Snyal yg dteruskan akan menuu ke axon guw-6 7

2 dan akhrnya menuu ke neuron lannya lewat synapse (yatu celah sempt antara axon dar suatu neuron dan denrtes dar neuron lannya) Gambar.. Hubungan antara buah neuron Model neuron dgambarkan sbb: Gambar.3. Model neuron Model neuron nlah yang selanutnya menad dasar dar Jarngan Syaraf Truan (Artfcal Neural Networks). Model JST Elemen dasar dar JST terdr dar 3 bagan utama : bobot (weght), threshold, dan fungs aktvas Gambar.4. Elemen dar JST guw-6 8

3 nput : x,x,x 3, x n adalah snyal yg masuk ke sel syaraf Bobot(weght) : w,w,w 3, w n adalah faktor bobot yang berhubungan dengan masng-masng node. Setap nput akan dkalkan dengan bobot dar node-nya masng-masng, x T.w. Tergantung dar fungs aktvas yang dpaka, nla x T.w dapat membangktkan (excte) node atau menghalang (nhbt) node Threshold : nla ambang nternal dar node adalah besarnya offset yang mempengaruh aktvas dar output node y : n y X W.() Fungs aktvas : merupakan operas matematk yang dkenakan pada snyal output y. Ada beberapa fungs aktvas yang basa dpaka dalam JST tergantung dar masalah yang akan dselesakan..3 Model Matemats JST Menyatakan topolog dar nterkoneks neuron-neuron dlm JST serta aturanaturan yg dkenakan dalam arngan tsb. Model matemats dar sebuah sel syaraf (neuron) dperlhatkan dlm gamb..5 : nput bobot x w fungs non lner x w f y=f(x.w) x m w m Gambar.5. Model matemats JST Jka dnyatakan dalam notas matematka : y = f(x w +x w + +x m w m ) atau y = f(x.w) f = fungs non lnear atau fungs aktvas Ada beberapa model JST a.l. : - model JST satu lapsan - model JST banyak lapsan - model JST dua lapsan dgn umpan balk a) Model JST satu lapsan x x w w f y f y x m w m f y n Gambar.6. Model JST satu lapsan y = f(x w +x w + +x m w m ) guw-6 9

4 y = f(x w +x w + +x m w m ) y n = f(x w n +x w n + +x m w mn ) b) Model JST banyak lapsan Dbentuk dar beberapa model JST satu lapsan Prnsp kera hampr sama dgn model JST satu lapsan Output tap lapsan sebelumnya merupakan nput bag lapsan sesudahnya lapsan lapsan lapsan n Gambar.7. Model JST banyak lapsan c) Model JST dua lapsan dengan umpan balk Dperkenalkan oleh John Hopfeld (98) Model n bersfat umpan balk yatu output yg dhaslkan akan mempengaruh nput yg akan masuk lag ke arngan. Gambar.8. Model JST lapsan dengan umpan balk.4 Fungs Aktvas Beberapa fungs aktvas yang basa dpaka dalam JST a.l. :.Fungs lnear Fungs lnear dnyatakan dengan persamaan : y =f(x)= x Gambar.9. Fungs aktvas lnear Dmana adalah kemrngan dar fungs. Jka = maka fungs aktvas tsb adalah fungs denttas guw-6

5 .Fungs threshold (hard- lmter) Fungs threshold type : bner dan bpolar Fungs threshold bner mempunya output y yatu : ka x y f ( x) ka x Gambar.. Fungs threshold bner Fungs threshold bpolar mempunya output y yatu : ka x y f ( x) ka x Gambar.. Fungs threshold bpolar 3.Fungs lnear pecewse Persamaan matematk dar fungs n adalah : ka x y f ( x) x ka x ka x Gambar.. Fungs lnear pecewse guw-6

6 4.Fungs Bner Sgmod Merupakan fungs non lnear yang palng banyak dgunakan dalam JST Fungs aktvas sgmod dapat dtuls sepert berkut : y f ( x) untuk f ( x) x e.5 Gambar.3. Fungs Bner Sgmod untuk beberapa nla adalah parameter bentuk dar fungs sgmod. Dengan mengubah harga maka bentuk dar fungs sgmod akan berbeda-beda spt dtunukkan gamb..3 5.Fungs Bpolar Sgmod atau Tangen hperbolk (tanh) fungs n dnyatakan dengan persamaan berkut n : y x x e e f ( x) untuk f ( x) x x e e - Gambar.4. Fungs tanh untuk beberapa nla adalah parameter bentuk dar fungs tanh. Dengan mengubah harga maka bentuk fungs tanh akan berbeda-beda sepert dtunukkan dalam gamb..4 Contoh : guw-6

7 Andakan kta mempunya sebuah neural network dengan 4 nput dan bobot sepert gambar.5. Input(x) Bobot(W) Gambar.5. JST dengan 4 nput dan bobot maka output R dar neuron sebelum dkena fungs aktvas adalah : R W T. X ka kta memaka fungs aktvas hard-lmter bner maka haslnya : y f ( R) f (4) dan ka dpaka fungs aktvas sgmod maka : y f ( R) f (4) e 8.5*.4.5 Bas dan Threshold Arstektur palng dasar dar JST adalah JST satu lapsan : terdr dar beberapa unt nput dan satu unt output Basanya dlm unt nput dtambah suatu varabel yatu bas(b) atau threshold (θ) x b x y x n Gambar.6 JST satu lapsan dengan bas Jka kta memaka bas b maka nla fungs aktvas akan menad : ka net y f ( net) ka net dmana net b x w Kadang kala JST tdak memaka bas tetap menggunakan threshold (θ) sehngga nla fungs aktvas menad : guw-6 3

8 encodng unsuvervsed suvervsed Jarngan Syaraf Truan ka net y f ( net) ka net dmana net x w.6 Prnsp Dasar Pelathan JST Contoh yg bak untuk pelathan pengenalan sebuah pola adalah pada manusa Msal : kta ngn mengenalkan buah eruk pada seorang bay dengan cara mendekatkan buah eruk tsb pada bay dan mengucapkan kata eruk secara terus menerus maka secara perlahan bay tsb akan tahu (kenal) bahwa tu adalah buah eruk. Jad saat kta mengucapkan kata eruk maka kekuatan koneks snaptk dalam sel syaraf bay uga akan menngkat dan teraktvas Gambaran datas menunukkan bahwa sel syaraf manusa memlk kemampuan untuk belaar Jarngan syaraf truan uga memlk kemampuan untuk belaar hampr sama dgn syaraf pada manusa Kemampuan belaar dar JST bersfat terbatas shg arngan n uga punya kemampuan terbatas Kosko (99) mengklasfkaskan JST menad : -bagamana JST menympan pengetahuan /encode (proses belaar) -bagamana JST memproses dan merespon data yg masuk /decode Proses encode : -supervsed (dbmbng) -unsupervsed (tdak dbmbng) Proses decode : -feedforward (tanpa umpan balk) -feedback (umpan balk) feedforward decodng feedback I IV II III Gambar.6. Klasfkas JST guw-6 4

9 Kwadran I : supervsed feedforward Dalam proses belaar (penympanan pengetahuan) dbmbng dan dalam proses merespon data nput maka tdak memberkan umpan balk Kwadran II : Unsupervsed feedforward Dalam proses belaar (penympanan pengetahuan) tdak dbmbng dan dalam proses merespon data nput maka tdak memberkan umpan balk Kwadran III : Unsupervsed feedback Dalam proses belaar (penympanan pengetahuan) tdak dbmbng dan dalam proses merespon data nput maka memberkan umpan balk Kwadran IV : supervsed feedback Dalam proses belaar (penympanan pengetahuan) dbmbng dan dalam proses merespon data nput maka memberkan umpan balk Dalam JST-supervsed, arngan dber masukan tertentu dan keluarannya dtentukan oleh pengaarnya. Saat proses belaar n arngan akan menyesuakan bobot snaptknya Dalam JST-unsupervsed, arngan dber masukan dan keluarannya akan datur secara mandr sesua aturan yg dmlk Kumpulan dar pasangan vektor nput dan vektor output yg dngnkan (target) dsebut pola pelathan. Pasangan vektor nput dan target dmasukkan bersama dgn nla bobot koneks (snaptk) ke dalam arngan. Proses n dlakukan dalam proses belaar/lathan Proses belaar : -arngan dberkan masukan / nput serta pasangan output yg dngnkan (target) -arngan melakukan perhtungan thd data nput dan menghaslkan output sementara -membandngkan antara output sementara dgn output yg dngnkan (target) dan selshnya dpaka untuk memperbak nla bobot snaptk -proses tsb akan dulang sampa kesalahan atau selsh dar output sementara dan target sekecl mungkn atau stlahnya adalan konvergen Proses belaar akan selesa apabla nla matrk bobot koneks (msal : W) yg dhaslkan dapat membuat sstem yg dpt memberkan pola yg sempurna walaupun pola masukan yg dberkan pada arngan tdak lengkap atau terkena nose Ada banyak model JST sesua dgn konfguras neuron dan algortmanya masng-masng, sepert : -JST Hebb -JST Hopfeld -JST Hammng -JST Kohonen dll Aplkas JST -kedokteran : menympan data geala, dagnoss, serta perawatan /obat guw-6 5

10 -pengenalan pola : pengenalan karakter tulsan, waah, suara,sdk ar -komunkas : mengurang suara nose pada komunkas telepon -ekonom : peramalan saham guw-6 6

11 BAB II Jarngan Syaraf Hebb Hebb memperkenalkan aturan pembelaaran/pelathan pada JST Pembelaaran dlakukan dgn memodfkas kekuatan snaptk (bobot) dgn cara sedemkan hngga : ka neuron salng berhubungan dalam waktu dan konds yg sama (on) maka bobot dar kedua neuron tsb akan dnakkan JST satu lapsan yg dlath dengan aturan Hebb dsebut dgn arngan Hebb. Algortma langkah : Bobot dan bas dber nla awal : w = ( =,,,n) ; b = langkah : untuk tap pasangan nput dan target, s : t, lakukan langkah sampa 4 : langkah : set aktvas untuk unt nput : x = s ( =,,,n) langkah 3 : set aktvas untuk unt output : y = t langkah 4 : perbak nla bobot : w (baru) = w (lama) +x y ( =,,,n) perbak nla bas : b(baru) = b(lama) + y Basanya perubahan bobot dsmbolkan dgn Δw Δw = x y sehngga w (baru) = w (lama) + Δw Catatan : nla bas dar unt nput basanya secara eksplst tdak dpaka pada aturan Hebb. Basanya nla bas selalu. Sebab tanpa nla bas masalah tdak akan ada solus.. Aplkas Contoh aplkas JST Hebb untuk solus fungs logka AND Contoh.: arngan Hebb untuk fungs logka AND : nput bner dan target bner Input x x b t target Perubahan bobot : Δw = x y ; Δw = x y Perubahan bas : Δb = y Hasl selengkapnya dapat dlhat dalam tabel. x b y x Gambar. Arstektur JST Hebb untuk solus fungs logka AND guw-6 7

12 Input target Perubahan bobot-bas Bobot dan bas x x b t y Δw Δw Δb w w b Tabel. Hasl perhtungan JST Hebb untuk solus fungs logka AND dengan nput bner dan target bner Catatan : Hasl akhr dar w dan w dapat uga dtentukan dar penumlahan seluruh perubahan bobot (Δw) dar nput pertama sampa terakhr : w = = w = = Dar tabel., batas keputusan (decson boundary) dar fungs logka AND dnyatakan dengan persamaan gars pemsah (separatng lne) : w x + w x + b =.x +.x + = x + x + = atau x = -x - x x x + - x x (daerah tanpa darsr) - x x x (Daerah darsr) Gambar. Batas keputusan fungs AND : nput dan target bner Dapat dlhat dar tabel., gars batas keputusan dar nput pertama sampa nput terakhr tdak mengalam perubahan yatu : x = -x - (gamb.) Setelah mendapat nla bobot dan bas maka kta melakukan Testng thd pola nput dengan memaka bobot dan bas yg ddapat dalam proses pelathan w =, w =, dan b = nput Bobot bas net b x w output target x x w w b y=f(net) 3 Tabel. Hasl Testng logka AND : nput dan target bner guw-6 8

13 Tabel. menunukkan bahwa hanya nput yg pertama menghaslkan output(y) yg sesua dengan target Hasl n menunukkan JST Hebb yg dlath dg pasangan pola nput bner dan target bner tdak menghaslkan JST yg sempurna. Contoh.: Jarngan Hebb untuk fungs AND : nput bner dan target bpolar Input x x b t target Input Target Perubahan bobot-bas Bobot dan bas x x b t y Δw Δw Δb w w b Tabel.3 Hasl perhtungan JST Hebb untuk solus fungs logka AND dengan nput bner dan target bpolar Setelah mendapat nla bobot dan bas maka kta melakukan Testng thd pola nput dengan memaka bobot dan bas yg ddapat dalam proses pelathan w =, w =, dan b = - nput Bobot bas net b x w output target x x w w b y=f(net) Tabel.4 menunukkan bahwa nput yg pertama menghaslkan output(y) tdak sesua dengan target, sedang nput kedua, ketga, dan keempat sesua dg target Hasl n menunukkan JST Hebb yg dlath dg pasangan pola nput bner dan target bpolar tdak menghaslkan JST yg sempurna Contoh.3: Jarngan Hebb untuk fungs AND : nput bpolar dan target bpolar Input x x b t target Perubahan bobot : Δw = x y ; Δw = x y Perubahan bas : Δb = y Hasl selengkapnya dapat dlhat dalam tabel.3 Tabel.4 Hasl Testng logka AND : nput bner dan target bpolar Perubahan bobot : Δw = x y ; Δw = x y Perubahan bas : Δb = y Hasl selengkapnya dapat dlhat dalam tabel.4 guw-6 9

14 Input Target Perubahan bobot-bas Bobot dan bas x x b t y Δw Δw Δb w w b Tabel.4 Hasl perhtungan JST Hebb untuk solus fungs logka AND dengan nput bpolar dan target bpolar Hasl Testng thd pola nput dengan memaka bobot dan bas yg ddapat dalam proses pelathan w =, w =, dan b = - Input Bobot bas net b x w output Target x x w w b y=f(net) Tabel.5 Hasl Testng logka AND : nput bpolar dan target bpolar Tabel.5 menunukkan bahwa semua nput menghaslkan output(y) sesua dengan target Hasl n menunukkan JST Hebb yg dlath dg pasangan pola nput bpolar dan target bpolar menghaslkan JST yg sempurna Dar proses pelathan (tabel.4) maka batas keputusan (decson boundary) dar fungs logka AND yg dlath dgn pola nput bpolar dan target bpolar dnyatakan dengan persamaan gars pemsah (separatng lne) : w x + w x + b =.x +.x + (-) = x + x - = atau x = -x + x x x x x (daerah tanpa darsr) - + x x (Daerah darsr) x - - Gambar. Batas keputusan fungs AND : nput dan target bpolar guw-6 3

15 Dar contoh. dmana dgunakan data bner (nput bner dan target bner) maka tdak terad perbakan bobot untuk pasangan pola pelathan untuk unt nput on (x = ) dan target off (t = ) maupun untuk unt nput dan target keduanya dalam keadaan off (x = dan t = ) : Δw = x y = sehngga w (baru) = w (lama) + Δw w (baru) = w (lama) Sedangkan dalam contoh.3 dgunakan data bpolar (nput dan target bpolar) maka terad perbakan bobot untuk semua pasangan pola pelathan bak unt nput on (x = ) dan target off (t = -) Contoh.4: Jarngan Hebb untuk mengklasfkas pola nput dmens dar buah huruf yatu : X dan O. Pola dar huruf tsb dnyatakan dgn : #... #. # # #.. #. #. #... #.. #.. #... #. #. #. #... # #... #. # # #. Pola Pola awab : Dalam hal n kta menganggap arngan hanya mempunya output yatu kelas X(untuk huruf X ) dan kelas bukan X (untuk huruf O ). Msal kelas X kta ber nla target sedangkan kelas bukan X kta ber target. Sedangkan setap lambang # kta ber nla dan lambang. kta ber nla. Vektor nput untuk pola dan pola menad : Pola x x x 3 x 4 x 5 x 6 x 7 x 8 x 9 x x x x 3 x 4 x 5 X O Pola x 6 x 7 x 8 x 9 x x X x 3 x 4 X 5 Target X O Bobot mula-mula : Tabel.6 Vektor nput dar kedua pola ( X dan O ) W = dmana =,,,5 Sedangkan perubahan bobot (Δw ) dan bas setelah dberkan nput pola dan : guw-6 3

16 Δw Δw Δw 3 Δw 4 Δw 5 Δw 6 Δw 7 Δw 8 Δw 9 Δw Δw Δw Δw 3 Δw 4 Δw 5 X O Δw 6 Δw 7 Δw 8 Δw 9 Δw Δw Δw Δw 3 Δw 4 Δw 5 b X O Dan bobot akhr (w ) dan bas b dapat dtentukan dar penumlahan kedua perubahan bobot datas sehngga : w w w 3 w 4 w 5 w 6 w 7 W 8 w 9 w w w w 3 w 4 w w 6 w 7 w 8 w 9 w w w w 3 w 4 w 5 b Setelah mendapatkan bobot akhr (w ) dan bas b, selanutnya dapat dlakukan proses testng terhadap pola nput. Pertama kta melakukan testng thd pola (huruf X ) : x w b 4 4 Selanutnya kta melakukan testng thd pola (huruf O ) : x w b 4 4 Tabel.7 Perubahan bobot Δw dan bas b Tabel.8 Nla bobot w dan bas b akhr Hasl testng selengkapnya dapat dlhat dalam tabel.9 : Input Bobot Bas net b x w Output Target x x 5 w w 5 b y=f(net) Tabel.9 Hasl testng Dar tabel.9 dapat dlhat hasl testng terhadap pola ( X ) dan pola ( O ) menghaslkan output(y) yang sesua dengan target. guw-6 3

17 BAB III PERCEPTRON Perceptron merupakan arngan syaraf yg memlk pengaruh yang palng luas dbandngkan model arngan syaraf sebelumnya. Metode pembelaaran Perceptron lebh kuat dar pembelaaran JST Hebb. Prosedur pelathan dar Perceptron terutama dalam proses terasnya dapat menghaslkan bobot yang konvergen.dan bobot n bla dtest terhadap pola nput dapat menghaslkan output yang sesua target. Ada beberapa tpe Perceptron yang dkemukan oleh beberapa ahl sepert : Rosenblatt (96), Mnsky dan Papert (969 dan 988). Mulanya Perceptron punya 3 lapsan neuron : unt sensor, unt asosas, dan unt renspon(output). Mendekat model arngan syaraf pada retna Unt sensor dan asosas memaka aktvas bner sedangkan unt output memaka aktvas,, atau. Fungs aktvas untuk unt asosas adalah fungs step bner dgn nla threshold θ tertentu. Snyal yg dkrm dar unt asosas ke unt output adalah snyal bner ( atau ). Output perceptron y = f(y_n), dmana fungs aktvasnya adalah : ka y _ n f ( y _ n) ka y _ n...(3.) ka y _ n Bobot dar unt asosas ke unt respon (output) datur dengan aturan pembelaaran perceptron. Untuk tap data nput pelathan arngan akan menghtung respon dar unt output. Jarngan akan menentukan apakah terad error pada data nput n (dengan membandngkan antara nla output yg dhtung dengan nla target). Jarngan tdak akan menganggap ada kesalahan (error) ka outputnya bernla dan target bernla. Sedangkan ka output bernla dan target bernla maka n danggap sebaga kesalahan (error). Jka terad kesalahan maka bobot akan dubah menurut persamaan : w ( baru) w ( lama) tx...(3.) dmana nla target t adalah atau, α adalah learnng rate. Pelathan akan dteruskan sampa tdak terad kesalahan. 3. Arstektur perceptron Arstektur sederhana perceptron adalah sepert gambar 3.. Jarngan n dpaka untuk mengklasfkas satu kelas tunggal. Yatu menentukan apakah suatu pola nput termasuk dalam satu kelas atau tdak. Jka masuk dalam satu kelas maka respon dar unt output adalah sedangkan ka tdak maka responnya. guw-6 33

18 x b x w w y x n w n Gambar 3. Arstektur perceptron untuk klasfkas tunggal 3. Algortma perceptron Algortma n berlaku untuk nput bner atau bpolar dan target bpolar, serta nla threshold θ, dan bas b. Langkah-langkah algortma perceptron : Langkah : bobot dan bas dber nla awal (basanya bobot dan bas dber nla ) ber nla learnng rate ( ) (basanya α dber nla ) langkah : selama konds berhent bernla salah lakukan langkah 6 langkah : untuk tap-tap pasangan pola pelathan s : t, lakukan langkah 3-5 langkah 3 : set aktvas unt nput : x = s langkah 4 : htung respon dar unt output : y _ n b x w y ka ka y _ n ka y _ n y _ n langkah 5 : perbak bobot dan bas ka terad kesalahan pada pola n : ka y t ka y = t w ( baru) w ( lama) tx b( baru) b( lama) t w ( baru) w ( lama) b( baru) b( lama) langkah 6 : test konds berhent : ka tdak ada bobot yang berubah dalam langkah maka stop ka ada maka lanutkan kembal ke langkah guw-6 34

19 Dar algortma maka hanya bobot yang berkoneks dgn unt nput yang aktf yg akan berubah (x ) Algortma n basanya dpaka untuk melakukan klasfkas pola dengan cara pemsahan lnear. Fungs aktvas yg dpaka akan mengatur batas antara daerah postf, negatf dan nol. Daerah nol adalah daerah yg terletak antara daerah postf dan negatf. Lebar daerah n adalah θ Gars pemsah antara daerah postf dgn daerah nol dnyatakan dgn persamaan : w x + w x + b = θ Gars pemsah antara daerah negatf dgn daerah nol dnyatakan dgn persamaan : w x + w x + b = -θ w x w x b x w x w x b + - x Gambar 3. Batas keputusan perceptron Shg daerah postf dnyatakan dgn pertdaksamaan : w x + w x + b > θ Dan daerah negatf dnyatakan dgn pertdaksamaan : w x + w x + b < -θ 3. Aplkas perceptron Contoh 3. : Aplkas perceptron untuk menyelesakan fungs logka AND dengan nput bner dan target bpolar Input x x b t target Nla α =.7 Bobot (w) dan bas (b) dber nla Nla θ =.3 guw-6 35

20 Pelathan dgn algortma perceptron : Iteras pertama : Data pertama : ( ) y _ n b xw b xw xw = + ().() + ().() = hasl aktvas = y = (-.3 <y_n<.3) target t = y t bobot baru : w (baru) = w (lama) + αtx w = +(.7)()() =.7 w = +(.7)()() =.7 bas baru : b(baru) = b(lama) + αt b = + (.7)() =.7 Data kedua : ( ) y_n = =.4 hasl aktvas = y = (y_n >.3) target t = - y t bobot baru : w =.7+(.7)(-)() = w =.7+(.7)(-)() =.7 bas baru : b =.7 + (.7)(-) = Data ketga : ( ) y_n = =.7 hasl aktvas = y = (y_n >.3) target t = - y t bobot baru : w = +(.7)(-)() = w =.7+(.7)(-)() = bas baru : b = + (.7)(-) = -.7 Data keempat : ( ) y_n = = -.7 hasl aktvas = y = - (y_n < -.3) target t = - y = t Iteras kedua : Data pertama : ( ) y_n = = -.7 hasl aktvas = y = - (y_n <-.3) target t = y t bobot baru : w = +(.7)()() =.7 w = +(.7)()() =.7 bas baru : b = (.7)() = Data kedua : ( ) y_n = =.7 hasl aktvas = y = (y_n >.3) target t = - y t bobot baru : w =.7+(.7)(-)() = w =.7+(.7)(-)() =.7 bas baru : b = + (.7)(-) = -.7 Data ketga : ( ) y_n = = hasl aktvas = y = (-.3<y_n <.3) target t = - y t bobot baru : w = +(.7)(-)() = w =.7+(.7)(-)() = bas baru : b = (.7)(-) = -.4 Data keempat : ( ) y_n = = -.4 hasl aktvas = y = - (y_n < -.3) target t = - y = t guw-6 36

21 Iteras ketga : Data pertama : ( ) y_n = = -.4 hasl aktvas = y = - (y_n <-.3) target t = y t bobot baru : w = +(.7)()() =.7 w = +(.7)()() =.7 bas baru : b = (.7)() = -.7 Data kedua : ( ) y_n = = hasl aktvas = y = (-.3<y_n <.3) target t = - y t bobot baru : w =.7+(.7)(-)() = w =.7+(.7)(-)() =.7 bas baru : b = (.7)(-) = -.4 Data ketga : ( ) y_n = = -.7 hasl aktvas = y = - (y_n < -.3) target t = - y = t Data keempat : ( ) y_n = = -.4 hasl aktvas = y = - (y_n < -.3) target t = - y = t Iteras keempat : Data pertama : ( ) y_n = = -.7 hasl aktvas = y = - (y_n <-.3) target t = y t bobot baru : w = +(.7)()() =.7 w =.7+(.7)()() =.4 bas baru : b = (.7)() = -.7 Data kedua : ( ) y_n = = hasl aktvas = y = (-.3<y_n <.3) target t = - y t bobot baru : w =.7+(.7)(-)() = w =.4+(.7)(-)() =.4 bas baru : b = (.7)(-) = -.4 Data ketga : ( ) y_n = = hasl aktvas = y = (-.3<y_n <.3) target t = - y t bobot baru : w = +(.7)(-)() = w =.4+(.7)(-)() =.7 bas baru : b = (.7)(-) = -. Data keempat : ( ) y_n = = -. hasl aktvas = y = - (y_n < -.3) target t = - y = t guw-6 37

22 Iteras kelma : Data pertama : ( ) y_n = = -.4 hasl aktvas = y = - (y_n <-.3) target t = y t bobot baru : w = +(.7)()() =.7 w =.7+(.7)()() =.4 bas baru : b = -. + (.7)() = -.4 Data kedua : ( ) y_n = = -.7 hasl aktvas = y = - (y_n < -.3) target t = - y = t Data ketga : ( ) y_n = = hasl aktvas = y = (-.3<y_n <.3) target t = - y t bobot baru : w =.7+(.7)(-)() =.7 w =.4+(.7)(-)() =.7 bas baru : b = (.7)(-) = -. Data keempat : ( ) y_n = = -. hasl aktvas = y = - (y_n < -.3) target t = - y = t Iteras keenam : Data pertama : ( ) y_n = = -.7 hasl aktvas = y = - (y_n <-.3) target t = y t bobot baru : w =.7+(.7)()() =.4 w =.7+(.7)()() =.4 bas baru : b = -. + (.7)() = -.4 Data kedua : ( ) y_n = = hasl aktvas = y = (-.3<y_n <.3) target t = - y t bobot baru : w =.7+(.7)(-)() =.7 w =.4+(.7)(-)() =.4 bas baru : b = (.7)(-) = -. Data ketga : ( ) y_n = = -.7 hasl aktvas = y = - (y_n < -.3) target t = - y = t Data keempat : ( ) y_n = = -. hasl aktvas = y = - (y_n < -.3) target t = - y = t guw-6 38

23 y = t Iteras ketuuh : Data pertama : ( ) y_n = = hasl aktvas = y = (-.3<y_n<.3) target t = y t bobot baru : w =.7+(.7)()() =.4 w =.4+(.7)()() =. bas baru : b = -. + (.7)() = -.4 Data kedua : ( ) y_n = = hasl aktvas = y = (-.3<y_n <.3) target t = - y t bobot baru : w =.4+(.7)(-)() =.7 w =.+(.7)(-)() =. bas baru : b = (.7)(-) = -. Data ketga : ( ) y_n = = hasl aktvas = y = (-.3<y_n <.3) target t = - y t bobot baru : w =.7+(.7)(-)() =.7 w =.+(.7)(-)() = -.4 bas baru : b = -. + (.7)(-) = -.8 Data keempat : ( ) y_n = = -.8 hasl aktvas = y = - (y_n < -.3) target t = - Iteras kedelapan : Data pertama : ( ) y_n = = -.7 hasl aktvas = y = - (y_n <-.3) target t = y t bobot baru : w =.7+(.7)()() =.4 w =.4+(.7)()() =. bas baru : b = (.7)() = -. Data kedua : ( ) y_n = = -.7 hasl aktvas = y = - (y_n < -.3) target t = - y = t Data ketga : ( ) y_n = = hasl aktvas = y = (-.3<y_n <.3) target t = - y t bobot baru : w =.4+(.7)(-)() =.4 w =.+(.7)(-)() =.4 bas baru : b = -. + (.7)(-) = -.8 Data keempat : ( ) y_n = = -.8 hasl aktvas = y = - (y_n < -.3) target t = - y = t guw-6 39

24 y_n = = -.8 hasl aktvas = y = - (y_n < -.3) target t = - y = t Iteras kesemblan : Data pertama : ( ) y_n = = hasl aktvas = y = (-.3<y_n<.3) target t = y t bobot baru : w =.4+(.7)()() =. w =.4+(.7)()() =. bas baru : b = (.7)() = -. Data kedua : ( ) y_n = = hasl aktvas = y = (-.3<y_n <.3) target t = - y t bobot baru : w =.+(.7)(-)() =.4 w =.+(.7)(-)() =. bas baru : b = -. + (.7)(-) = -.8 Data ketga : ( ) y_n = = -.7 hasl aktvas = y = - (y_n < -.3) target t = - y = t Iteras kesepuluh : Data pertama : ( ) y_n = =.7 hasl aktvas = y = (y_n >.3) target t = y = t Data kedua : ( ) y_n = = -.4 hasl aktvas = y = - (y_n < -.3) target t = - y = t Data ketga : ( ) y_n = = -.7 hasl aktvas = y = - (y_n < -.3) target t = - y = t Data keempat : ( ) y_n = = -.8 hasl aktvas = y = - (y_n < -.3) target t = - y = t Pada teras kesepuluh tdak terad perubahan bobot shg proses pelathan dapat dhentkan. Hasl akhr dar proses pembelaaran n adalah : w =.4 ; w =. ; b = -.8 Data keempat : ( ) Shg persamaan gars pemsah antara daerah postf dan nol adalah :.4x +.x.8 =.3 Shg persamaan gars pemsah antara daerah negatf dan nol adalah :.4x +.x.8 = -.3 guw-6 4

25 x.4x.x x.x.8.3.4x.x.8.3 (Daerah negatf) x.x.8.3 (Daerah postf) x Gambar 3.3 Gars batas keputusan Perceptron : logka AND dgn nput bner targer bpolar Hasl Testng thd pola nput dengan memaka bobot dan bas yg ddapat dalam proses pelathan : w =.4, w =., dan b = -.8 Input Bobot Bas net b x w output target x x w w b y=f(net) Tabel 3. Hasl Testng logka AND : nput bner dan target bpolar Soal lathan : Tentukan solus fungs logka AND dengan nput bner dan target bpolar yang dlath dengan algortma perceptron. Input x x b t target Dmana : Nla α = dan nla θ =. Htung bobot dan bas akhr. Selanutnya gambarkan gars batas keputusannya. guw-6 4

26 BAB IV Delta rule, Adalne, dan Madalne 4. Delta rule Metode pembelaaran Delta rule basanya dpaka dalam pelathan pada model arngan Adalne dan Madalne nput x b w y output x n w n y_n t Tuuan utama dar delta rule adalah untuk memperbak bobot-bobot (w) yg menghubungkan antara unt nput dan output sehngga selsh antara nput arngan untuk unt output (y_n) dan nla target (t) menad mnmal. Delta rule untuk adalne dengan satu unt output drumuskan : dmana, w n y _ n ( t x w y _ n) x...(4.) Sedangkan Delta rule untuk adalne dgn beberapa unt output drumuskan : dmana, w ( t y _ n ) x...(4.) y _ n Gambar 4. Arstektur Adalne dgn satu unt output n x w selsh b x w y w m w n y m =,, n =,, m x n w nm y_n t Gambar 4. Arstektur Adalne dgn beberapa unt output 4. ADALINE (adaptve lnear neuron) Dperkenalkan oleh Wdrow dan Hoff (96) guw-6 4

27 Jarngan adalne basanya dlath dengan metode Delta rule atau serng dsebut metode Least Mean Square (LMS) Adalne adalah unt tunggal (neuron) yg menerma nput dar beberapa unt. Arstektur dar adalne x b x n w w n y Gambar 4.3 Arstektur sebuah Adalne Beberapa adalne yg menerma snyal dar unt nput yg sama dapat dpadukan dalam arngan satu lapsan sepert dalam arngan Perceptron. Jka adalne dkombnaskan sedemkan hngga output dar beberapa adalne menad nput bag adalne yg lan. Jarngan n membentuk arngan banyak lapsan yg serng dsebut dgn Madalne (many adalne). Algortma Adalne : Langkah : nsalsas bobot (basanya nla acak yg kecl) Set nla learnng rate α Langkah : selama konds berhent bernla salah, lakukan langkah 6 Langkah : untuk setap pasangan pola pelathan bpolar s : t kerakan langkah 3 5 Langkah 3 : set aktvas unt nput, =,,,n x = s Langkah 4 : tentukan nput arngan pada unt output : y _ n b x w Langkah 5 : perbak nla bas dan bobot : w(baru) = w(lama) + α(t y_n)x b(baru) = b(lama) + α(t y_n) Langkah 6 : tes konds berhent. Jka perubahan bobot tertngg yg terad pada langkah nlanya lebh kecl dar tolerans tertentu maka hentkan ka tdak lanutkan. 4.3 MADALINE Madalne adalah kumpulan dar banyak adalne yg membentuk arngan banyak lapsan atau arngan satu lapsan dgn beberapa output. Contoh yg dberkan pada Perceptron dan delta rule untuk beberapa output menunukkan tdak ada perubahan mendasar pada proses pelathan ka beberapa unt adalne dkombnaskan dalam arngan satu lapsan. guw-6 43

28 Salah satu contoh madalne : arngan lapsan yg terdr dar lapsan tersembuny (terdr dar unt adalne) dan lapsan output ( terdr dar unt adalne).lhat gambar 4.4 b Hdden layer x w z b 3 Output layer w v y x w w b z v Gambar 4.4 Arstektur madalne : hdden layer ( unt output layer ( unt adalne) ada buah algortma pelathan Madalne yatu : MR I dan MR II 4.3. Algortma MR I Dalam algortma MR I : bobot v dan v dan bas b 3 dtentukan sedemkan sehngga output y akan bernla ka salah satu (atau keduanya) z atau z bernla. Sedangkan y akan bernla ka z dan z keduanya bernla.jad unt y melakukan fungs logka OR pada snyal z dan z. Bobot dan bas pada unt y dtentukan yatu : v = ½ v = ½ b 3 = ½ Fungs aktvas untuk z,z, dan y adalah : ka f ( x) ka x x adalne) dan Algortma MR I terdr dar langkah-langkah yatu : Langkah : nsalsas bobot bobot v, v dan bas b 3 dtentukan dgn nla spt yg telah dtentukan datas,sedangkan bobot dan bas yg lan d set dgn nla acak kecl. set learnng rate α dgn nla kecl langkah : selama konds berhent bernla salah, kerakan langkah 8 : langkah : untuk setap pola pelathan bpolar s : t, kerakan langkah 3 7 : langkah 3 : set aktvas dar unt nput : x = s langkah 4 : htung nput arngan untuk tap-tap hdden unt : z_n = b + x w + x w z_n = b + x w + x w langkah 5 : tentukan output untuk tap-tap hdden unt : z = f(z_n ) z = f(z_n ) langkah 6 : tentukan output arngan : guw-6 44

29 y_n = b 3 + z v + z v y = f(y_n) langkah 7 : tentukan kesalahan dan perbak bobot : ka t = y, maka tdak ada bobot yang dperbak ka t y : ka t =, maka perbak bobot pada z, unt nput yg palng dekat dgn b (baru) = b (lama) + α(-z_n ) w (baru) = w (lama) + α(-z_n )x ka t =-, maka perbak bobot pada semua unt z k, nput arngan yg bernla postf b k (baru) = b k (lama) + α(--z_n k ) w k (baru) = w k (lama) + α(--z_n k )x langkah 8 : tes konds berhent ka sudah tdak terad perubahan bobot atau ka nomer maksmum dar teras perubahan bobot sudah dkerakan semuanya(langkah ) maka hentkan. Jka tdak lanutkan Algortma MR II Algortma MR II hampr sama dgn MR I, bedanya terletak pada langkah ke-7. Algortma MR II : bobot v dan v dan bas b 3 dtentukan sedemkan sehngga output y akan bernla ka salah satu (atau keduanya) z atau z bernla. Sedangkan y akan bernla ka z dan z keduanya bernla.jad unt y melakukan fungs logka OR pada snyal z dan z. Bobot dan bas pada unt y dtentukan yatu : v = ½ v = ½ b 3 = ½ Fungs aktvas untuk z,z, dan y adalah : ka f ( x) ka x x Algortma MR II terdr dar langkah-langkah yatu : Langkah : nsalsas bobot bobot v, v dan bas b 3 dtentukan dgn nla spt yg telah dtentukan datas,sedangkan bobot dan bas yg lan d set dgn nla acak kecl. set learnng rate α dgn nla kecl langkah : selama konds berhent bernla salah, kerakan langkah 8 : langkah : untuk setap pola pelathan bpolar s : t, kerakan langkah 3 7 : langkah 3 : set aktvas dar unt nput : x = s langkah 4 : htung nput arngan untuk tap-tap hdden unt : z_n = b + x w + x w z_n = b + x w + x w langkah 5 : tentukan output untuk tap-tap hdden unt : z = f(z_n ) guw-6 45

30 z = f(z_n ) langkah 6 : tentukan output arngan : y_n = b 3 + z v + z v y = f(y_n) langkah 7 : tentukan kesalahan dan perbak bobot : ka t = y, maka tdak ada bobot yang dperbak ka t y, kerakan langkah 7a b untuk tap unt hdden dgn nput arngan cukup dekat dgn (antara.5 sampa.5). Mula dengan yg palng dekat dgn kemudan dlanutkan dgn terdekat berkutnya, dst. Langkah 7a : perbak output unt (dar menad, atau sebalknya) Langkah 7b : htung ulang output arngan. Jka kesalahan berkurang : Perbak bobot pada unt n (gunakan nla output yg terakhr sebaga target dan paka Delta Rule) langkah 8 : tes konds berhent ka sudah tdak terad perubahan bobot atau ka nomer maksmum dar teras perubahan bobot sudah dkerakan semuanya(langkah ) maka hentkan. Jka tdak lanutkan 4.4 Aplkas Contoh 4. : pelathan madalne untuk fungs logka XOR Contoh n menggambarkan pemakaan Algortma MR I untuk melath Madalne untuk menyelesakan masalah fungs logka XOR. Dsn hanya akan dperlhatkan perhtungan untuk perubahan bobot untuk teras yg pertama dar nput pertama sampa keempat. Iteras selanutnya dcoba sendr. Pola pelathan adalah : x x t Iteras pertama : langkah : nsalsas bobot : bobot pada z w w b.5..3 bobot pada z w w b...5 bobot pada y v v b guw-6 46

31 langkah : mula pelathan langkah : untuk pasangan pelathan pertama (,) : - langkah 3 : x =, x = langkah 4 : z_n = =.55 z_n = =.45 langkah 5 : z =, z = langkah 6 : y_n = =.5 y = langkah 7 : t - y = - - = -, ad kesalahan terad. Karena t =-, dan kedua unt z memlk nla nput arngan postf (z =.55, z =.45), maka ubah bobot pada z yatu : b (baru) = b (lama) + α(--z_n ) =.3 + (.5)(-.55) = w (baru) = w (lama) + α(--z_n )x =.5+ (.5)(-.55) = -.75 w (baru) = w (lama) + α(--z_n )x =.+ (.5)(-.55) = ubah bobot pada z yatu : b (baru) = b (lama) + α(--z_n ) =.5 + (.5)(-.45) = w (baru) = w (lama) + α(--z_n )x =.+ (.5)(-.45) = -.65 w (baru) = w (lama) + α(--z_n )x =.+ (.5)(-.45) = -.55 nput kedua : langkah : nsalsas bobot : bobot pada z w w b bobot pada z w w b bobot pada y v v b langkah : mula pelathan guw-6 47

32 langkah : untuk pasangan pelathan kedua (,-) : langkah 3 : x =, x = - langkah 4 : z_n = = -.65 z_n = = langkah 5 : z = -, z = - langkah 6 : y_n = = -.5 y = - langkah 7 : t - y = + =, ad kesalahan terad. Karena t =, dan kedua unt z memlk nla nput arngan negatf maka perbak bobot pada z yatu : b (baru) = b (lama) + α(-z_n ) = (.5)(.65) =.3375 w (baru) = w (lama) + α(-z_n )x = (.5)(.65) =.875 w (baru) = w (lama) + α(-z_n )x = (.5)(.65)(-) = ubah bobot pada z yatu : b (baru) = b (lama) + α(-z_n ) = (.5)(.675) =.65 w (baru) = w (lama) + α(-z_n )x = (.5)(.675) =.5 w (baru) = w (lama) + α(-z_n )x = (.5)(.675)(-) = nput ketga : langkah : nsalsas bobot : bobot pada z w w b bobot pada z w w b bobot pada y v v b langkah : mula pelathan langkah : untuk pasangan pelathan ketga (-,) : langkah 3 : x = -, x = guw-6 48

33 langkah 4 : z_n = = z_n = = -.35 langkah 5 : z = -, z = - langkah 6 : y_n = = -.5 y = - langkah 7 : t - y = + =, ad kesalahan terad. Karena t =-, dan kedua unt z memlk nla nput arngan negatf maka ubah bobot pada z yatu : b (baru) = b (lama) + α(-z_n ) = (.5)(.375) =.465 w (baru) = w (lama) + α(-z_n )x =.875+ (.5)(.375)(-) = w (baru) = w (lama) + α(-z_n )x = (.5)(.375) = ubah bobot pada z yatu : b (baru) = b (lama) + α(-z_n ) =.65 + (.5)(.35) =.4875 w (baru) = w (lama) + α(-z_n )x =.5+ (.5)(.35)(-) = w (baru) = w (lama) + α(-z_n )x = (.5)(.35) = -.65 nput keempat : langkah : nsalsas bobot : bobot pada z w w b bobot pada z w w b bobot pada y v v b langkah : mula pelathan langkah : untuk pasangan pelathan pertama (-,-) : - langkah 3 : x = -, x = - langkah 4 : z_n = =.765 z_n = = guw-6 49

34 langkah 5 : z =, z = langkah 6 : y_n = =.5 y = langkah 7 : t - y = - - = -, ad kesalahan terad. Karena t =-, dan kedua unt z memlk nla nput arngan postf maka ubah bobot pada z yatu : b (baru) = b (lama) + α(--z_n ) = (.5)(-3.765) = w (baru) = w (lama) + α(--z_n )x = = w (baru) = w (lama) + α(--z_n )x = = ubah bobot pada z yatu : b (baru) = b (lama) + α(--z_n ) = = w (baru) = w (lama) + α(--z_n )x = =.8465 w (baru) = w (lama) + α(--z_n )x = =.5785 karena dalam teras yg pertama n mash terad perbakan bobot maka teras dlanutkan ke teras yg kedua, ketga,,sampa konds berhent tercapa. Slahkan htung sendr! Kalau tdak ada kekelruan dalam perhtungan maka konds berhent akan tercapa setelah 4 kal teras (4 epoch). Dalam hal n hasl akhr bobot dan bas yatu : w = -.73 w =.7 w =.53 w = -.33 b = -.99 b = -.9 Hasl Testng thd pola nput dengan memaka bobot dan bas yg ddapat dalam proses pelathan : Untuk pola nput pertama (,) dengan target ( ) z_n = b + w x + w x = (-.73)()+(.53)() = -.9 z_n = b + w x + w x = (.7)()+(-.33)() = -.5 z = f(z_n ) = f(-.9) = - z = f(z_n ) = f(-.5) = - y_n = b 3 + v z + v z =.5 + (.5)(-) + (.5)(-) = -.5 y = f(y_n) = f(-.5) = - ad output y=- sesua dengan target =- Untuk pola nput kedua (,-) dengan target () guw-6 5

35 z_n = b + w x + w x = (-.73)()+(.53)(-) = -3.5 z_n = b + w x + w x = (.7)()+(-.33)(-) =.6 z = f(z_n ) = f(-3.5) = - z = f(z_n ) = f(.6) = y_n = b 3 + v z + v z =.5 + (.5)(-) + (.5)() =.5 y = f(y_n) = f(.5) = ad output y= sesua dengan target = Untuk pola nput ketga (-,) dengan target () z_n = b + w x + w x = (-.73)(-)+(.53)() =.7 z_n = b + w x + w x = (.7)(-)+(-.33)() = z = f(z_n ) = f(.7) = z = f(z_n ) = f(-4.59) = - y_n = b 3 + v z + v z =.5 + (.5)() + (.5)(-) =.5 y = f(y_n) = f(.5) = ad output y= sesua dengan target = Untuk pola nput keempat (-,-) dengan target (-) z_n = b + w x + w x = (-.73)(-)+(.53)(-) = -.79 z_n = b + w x + w x = (.7)(-)+(-.33)(-) = -.93 z = f(z_n ) = f(-.79) = - z = f(z_n ) = f(-.93) = - y_n = b 3 + v z + v z =.5 + (.5)(-) + (.5)(-) = -.5 y = f(y_n) = f(-.5) = - ad output y =- sesua dengan target = - guw-6 5

36 BAB V Jarngan Heteroassocatve Memory o Jarngan syaraf HM adalah arngan dmana bobot-bobotnya dtentukan sedemkan shg arngan dpt menympan sekumpulan pola P. Tap-tap kumpulan pola adalah pasangan vektor (s(p), t(p)), dgn p =,,,P. o Tap vektor s(p) terdr dar n komponen, dan tap target t(p) terdr dar m komponen o Bobot dpt dcar dg memaka aturan Hebb(bab II) atau aturan Delta (bab IV) 5. Arstektur o Arstektur dar Jarngan Heteroassocatve memory : x w y x w y x n w nm y m Gambar 5. Arstektur Heteroassocatve Memory 5. Algortma pelathan o Algortma pelathan HM basanya memaka algortma Hebb atau Delta rule. Algortma Hebb untuk pengelompokan pola adalah : langkah : Bobot dber nla awal : w = ( =,,,n ; =,,,m) langkah : untuk tap pasangan nput dan target, s : t, lakukan langkah - 4 : langkah : set aktvas untuk unt nput : x = s ( =,,,n) langkah 3 : set aktvas untuk unt output : y = t langkah 4 : perbak nla bobot : w (baru) = w (lama) +x y o Algortma Hebb uga dapat dtentukan dgn perkalan matrk (outer product) antara pasangan vektor nput(s) dan output (t) untuk mendapatkan bobot w : s = (s,,s,,s n_ ) t = (t,,t,,t m_ ) ka S = s T dan T = t maka : s ST s t s n t t m guw-6 5 st st snt hasl kal ST adalah sama dengan matrk bobot w untuk menympan pasangan pola pelathan s : t. Bobot w bsa uga dnyatakan dgn.. s s s n t t t.. s s s n t t t m m m

37 w P p s ( p) t ( p) atau dalam bentuk yg lebh umum : w P p s T ( p) t( p) 5.3 Algortma testng o Algortma testng arngan HM yg dlath dgn algortma Hebb : Langkah : nsalsas bobot dgn aturan Hebb atau Delta Langkah : untuk tap vektor nput, kerakan langkah 4 Langkah : set aktvas dar unt nput sama dgn vektor nput sekarang Langkah 3 : htung nput arngan untuk unt output : y _ n n x w Langkah 4 : tentukan aktvas dar unt output : ka y _ n y ka y _ n ka y _ n y ka y _ n ka y _ n w w o Contoh 5.: Msalkan sebuah arngan HM dlath untuk menympan pola dar vektor nput s = (s, s, s 3, s 4 ) dan vektor output t = (t, t ) yatu : s s s 3 s 4 t t x (untuk target bpolar) (untuk target bner) x x 3 x 4 w w w 3 w 3 w 4 w 4 y y guw-6 53

38 Gambar 5. Jarngan HM : 4 nput dan output Pelathan : Langkah : semua bobot dber nla Langkah : untuk pasangan pola yg pertama s : t (,,,) (,) Langkah : x = ; x = ; x 3 = ; x 4 = Langkah 3 : y = ; y = Langkah 4 : w (baru) = w (lama) + x y = + = Semua bobot yg lan tetap Langkah : untuk pasangan pola yg kedua s : t (,,,) (,) Langkah : x = ; x = ; x 3 = ; x 4 = Langkah 3 : y = ; y = Langkah 4 : w (baru) = w (lama) + x y = + = w (baru) = w (lama) + x y = + = Semua bobot yg lan tetap Langkah : untuk pasangan pola yg ketga s : t (,,,) (,) Langkah : x = ; x = ; x 3 = ; x 4 = Langkah 3 : y = ; y = Langkah 4 : w 4 (baru) = w 4 (lama) + x 4 y = + = Semua bobot yg lan tetap tdak berubah Langkah : untuk pasangan pola yg keempat s : t (,,,) (,) Langkah : x = ; x = ; x 3 = ; x 4 = Langkah 3 : y = ; y = Langkah 4 : w 3 (baru) = w 3 (lama) + x 3 y = + = w 4 (baru) = w 4 (lama) + x 4 y = + = Semua bobot yg lan tetap tdak berubah Sehngga matrk bobotnya adalah : W cara lan untuk mendapatkan matrk bobot tersebut adalah dengan memaka perkalan matrk (outer product). Adapun langkahnya adalah : untuk pasangan pola yg pertama s = (,,,) ; t = (,) untuk pasangan pola yg kedua s = (,,,) ; t = (,) guw-6 54

39 guw-6 55 untuk pasangan pola yg ketga s = (,,,) ; t = (,) untuk pasangan pola yg keempat s = (,,,) ; t = (,) matrk bobot untuk menympan semua pasangan pola adalah hasl penumlahan dar setap matrk pasangan pola datas : w o Selanutnya kta lakukan Testng terhadap pola nput dgn menggunakan bobot w hasl pelathan.dgn memaka algortma testng dan fungs aktvas pola bner: Langkah : w Langkah : pola nput pertama, lakukan langkah 4 Langkah : x = (,,,) Langkah 3 : y_n = x w + x w + x 3 w 3 + x 4 w 4 = () + () + () + () = y_n = x w + x w + x 3 w 3 + x 4 w 4 = () + () + () + () = langkah 4 : y = f(y_n ) = f() = y = f(y_n ) = f() = (n menunukkan output yg benar untuk nput pertama) Langkah : pola nput kedua, lakukan langkah 4 Langkah : x = (,,,)

40 4 Langkah 3 : y_n = x w + x w + x 3 w 3 + x 4 w 4 = () + () + () + () = 3 y_n = x w + x w + x 3 w 3 + x 4 w 4 = () + () + () + () = langkah 4 : y = f(y_n ) = f(3) = y = f(y_n ) = f() = (n menunukkan output yg benar untuk nput kedua) Langkah : pola nput ketga, lakukan langkah 4 Langkah : x = (,,,) Langkah 3 : y_n = x w + x w + x 3 w 3 + x 4 w 4 = () + () + () + () = y_n = x w + x w + x 3 w 3 + x 4 w 4 = () + () + () + () = langkah 4 : y = f(y_n ) = f() = y = f(y_n ) = f() = (n menunukkan output yg benar untuk nput ketga) Langkah : pola nput keempat, lakukan langkah Langkah : x = (,,,) Langkah 3 : y_n = x w + x w + x 3 w 3 + x 4 w 4 = () + () + () + () = y_n = x w + x w + x 3 w 3 + x 4 w 4 = () + () + () + () = 3 langkah 4 : y = f(y_n ) = f() = y = f(y_n ) = f(3) = (n menunukkan output yg benar untuk nput keempat o Proses Testng thd pola nput uga dpt dlakukan dgn menggunakan matrk yatu : w Langkah : Langkah : untuk vektor nput pertama : Langkah : x = (,,,) Langkah 3 : x W = (y_n,y_n ) (,) Langkah 4 : f() = ; f() = y = (,) atau semua proses dar langkah 4 dnyatakan dgn : guw-6 56

41 x W = (y_n, y_n ) y (,) (,) atau sngkatnya : (,,,) W = (,) (,) sehngga hasl testng untuk 3 vektor nput lannya adalah : (,,,) W = (3,) (,) (,,,) W = (,) (,) (,,,) W = (,3) (,) o Contoh 5. : Coba lakukan testng thd matrk bobot w yg ddapat pada contoh 5. dgn data nput yg mrp dgn data nput pelathan yatu x = (,,,). Jawab : Pola nput x (,,,) berbeda dgn vektor pelathan s=(,,,) pada komponen yg pertama. Hasl testng dar pola nput n : (,,,) w = (,) (,) Hasl testng n menunukkan bahwa arngan mash dpt mengelompokkan data testng n ke dalam salah satu pola dalam pelathan o Contoh 5. : Coba lakukan testng thd matrk bobot w yg ddapat pada contoh 5. dgn data nput yg mrp dgn data nput pelathan yatu x = (,,,). Jawab : Pola nput x (,,,) berbeda dgn vektor pelathan s=(,,,) pada komponen yg pertama. Hasl testng dar pola nput n : (,,,) w = (,) (,) Hasl testng n menunukkan bahwa arngan mash dpt mengelompokkan data testng n ke dalam salah satu target pola dalam pelathan o Contoh 5.3 : Coba lakukan testng thd matrk bobot w yg ddapat pada contoh 5. dgn data nput yg tdak mrp dgn data nput pelathan yatu x = (,,,). Jawab : Pola nput x (,,,) berbeda dgn vektor pelathan s=(,,,) pada komponen yatu komponen pertama dan ketga. Hasl testng dar pola nput n : (,,,) w = (,) (,) Hasl testng n menunukkan bahwa arngan tdak dpt mengelompokkan data testng n ke dalam salah satu target pola dalam pelathan. Jad ka ada buah komponen yg berbeda pada vektor nput maka arngan tdak akan mampu mengelompokkan data nput tsb ke dalam salah satu target pelathan. o Contoh 5.4: Msalkan arngan HM dlm contoh 5. dlath untuk menympan pola vektor nput dan output bpolar yatu : s s s 3 s 4 t t guw-6 57

42 guw Jka kta paka cara perkalan matrk (outer product). Adapun langkahnya adalah : untuk pasangan pola yg pertama s = (,-,-,-) ; t = (,-) untuk pasangan pola yg kedua s = (,,-,-) ; t = (,-) untuk pasangan pola yg ketga s = (-,-,-,) ; t = (-,) untuk pasangan pola yg keempat s = (-,-,,) ; t = (-,) matrk bobot untuk menympan semua pasangan pola adalah hasl penumlahan dar setap matrk pasangan pola datas : w o Salah satu kelebhan memaka pola bpolar adalah dalam menyatakan bentuk gangguan (nose) dalam data nput. Jka kta anggap ada dua bentuk nose yatu : data salah (mstake) dan data hlang (mssng) dan ka nose dnyatakan dalam pola bpolar yatu : ya tdak

43 ragu-ragu (unsure) ad untuk kasus data hlang (mssng) : dgn sedang untuk kasus data salah (mstake) : dgn ya = ragu ; tdak = ragu atau dnyatakan dgn ; - dnyatakan ya = tdak ; tdak = ya atau dnyatakan dgn ; dnyatakan o Salah satu kelebhan memaka pola bpolar adalah dalam menyatakan bentuk gangguan (nose) dalam data nput. Jka kta anggap ada dua bentuk nose yatu : data salah (mstake) dan data hlang (mssng) dan ka nose dnyatakan dalam pola bpolar yatu : o Msal ka kta testng matrk bobot W yg ddapatkan dalam contoh 5.4.(bpolar) dengan nput data salah pada komponen (data pertama dan ketga) yatu (-,,-) (-,,,-) W = (,) (,) hal n menunukkan respon yg mash salah dar arngan thd pola nput tsb. o Dan msal ka kta testng matrk bobot W yg ddapatkan dalam contoh 5.4.(bpolar) dengan nput data hlang pada komponen (data pertama dan ketga) yatu (,,-) maka : (,,,-) W = (6,-6) (,-) hal n menunukkan respon yg benar dar arngan thd pola nput tsb. o Contoh 5.5. : Msal ka kta melath arngan syaraf HM dgn 3 pasangan pola pelathan spt d bawah n. Input (s) terdr dar 63 komponen dan output (t) terdr dar 5 komponen. Pola Pola Pola 3... #... # # # # #.... # # #..... #... #.... #.. #... #... #. #... #. #..... # # #. #..... # # # #.. #. #.. #. # #.... #. #. # # #.... # # #.. # # # # # # # #.. # #. # #... #... #. #. # #.... #. #. # # #... #... #. #. # #..... # # #. #..... # # # # #..... # #.... #.. #... #. #..... # # # # # #.... # # #.. s() t() s() t() s(3) t(3) dmana : # = dan. = - a)gambarkan arstektur arngan HM dan tentukan matrk bobot W dgn pelathan. Kemudan lakukan testng thd pola nput dgn bobot W tersebut. Bagamana haslnya? b)buktkan hasl testng dar pola-pola berkut n : $.. #... $.. #.. $ $.. #.. $... # # #. $... #. #... #. $. #. #... #. $. #. #... #... #. #.. #. #.. #. #.. #. #.. #. #.. #. # guw-6 59

44 .. # # #.. # # # $. # # #. $ # # # $. # # #. $ # # #. #... #. #. #. #... #. #. #. # $.. #. #. #. #. $. #. #. #. #. $. # $ #. #. #. $. # $ #. # #.. $.. # #.. $.. # #. $. # #.. $.. # #.. $.. # #.. $.. # nput output nput output nput output $.. #.. $... # # #. $.... o o... $. #. #. $. #... #. #... #... o. #... #... #. #. $ #. #.. o. #.. #. #.. o. #.. #. # $. # # #. $ # # #.. # o #.. # # #.. # o o.. # # #. # $.. #. #. #. #... o. #. #. #... o. #. #. #. $. # $ #. #. #... o. #. #. #... o. #. # #. $ $.. # #..... # o... # #.. $. $ # #..... # o..... # nput output nput output nput output dmana nose $ dan o dlambangkan dengan : $ = ; o = - c)buktkan hasl testng dar pola-pola berkut n :.. $ #. $. o # # o #.. $. # o #. $. $. # $.. #. $.. #.. # $.. o. $. # $ #. $. #. # $.. $. # # #. # $.. $. # # # #.. o. # $. #. # o.. $. o. #. # o.. $.. $ #... $ # # o.. # # # # # o # # $. # #. #. $.. $. #... #. $. #. #. # # $.. $ o. #. # # $.. $.. #... # $.. o. #. # o.. $.. o # #. o.. $.. o # # # # $.. $. # #. $.. o.. # $.. o. o.. $.. o # o # # o.... $ # # o. nput output nput output nput output dmana nose $ dan o dlambangkan dengan : $ = ; o = - guw-6 6

45 BAB VI Jarngan Autoassocatve Memory o Jarngan syaraf AM merupakan bentuk khusus dar Jarngan HM o Jarngan AM, vektor nput dan target dar pola pelathan adalah dentk o Proses pelathan dsebut dgn proses penympanan vektor o Vektor yg sudah tersmpan n dapat dkenal dar vektor nput yg tdak sempurna (nose) o Unuk kera arngan dpt dnla dar kemampuannya untuk menghaslkan polapola yg sudah tersmpan walaupun dberkan nput yang tdak sempurna (bernose atau hlang sebagan) o Umumnya kemampuan arngan yg dlath dengan pola vektor bpolar akan lebh bak dar pelathan dengan vektor bner o Serngkal dagonal dar matrk bobot hasl pelathan nlanya dbuat. Hal n untuk menngkatkan kemampuan arngan khususnya ka arngan dpaka untuk menympan lebh dar satu vektor 6. Arstektur x w y x w y x n w nm y n 6. Algortma pelathan o Algortma pelathan AM basanya memaka algortma Hebb o Vektor nput dan output adalah sama (ml unt output = ml unt nput) langkah : Bobot dber nla awal : w = ( =,,,n ; =,,,m) langkah : untuk tap vektor yg akan dsmpan, lakukan langkah - 4 : langkah : set aktvas untuk unt nput : x = s ( =,,,n) langkah 3 : set aktvas untuk unt output : y = t langkah 4 : perbak nla bobot : w (baru) = w (lama) +x y o basanya dalam praktek bobot W dapat dhtung dgn rumus : w Gambar 6. Arstektur Autoassocatve Memory P p s T ( p) s( p) guw-6 6

46 6.3. Aplkas o sesudah pelathan arngan AM dpt dpaka untuk mengetes apakah sebuah vektor nput dpt dkenal atau tdak oleh arngan o Jarngan akan dpt mengenal sebuah vektor ka da bsa menghaslkan pola aktvas pada unt output yg sama dengan vektor yang tersmpan dalam arngan tsb. o Langkah-langkah testng adalah : langkah : set bobot (dgn aturan Hebb atau Outer Product) langkah : untuk tap vektor nput yg akan dtestng, lakukan langkah - 4 : langkah : set aktvas untuk unt nput sama dengan vektor nput langkah 3 : htung nput arngan utuk masng-masng unt output y _ n x w ;,,... n langkah 4 : gunakan fungs aktvas ( =,,,m) ka y _ n y f ( y _ n ) ka y _ n contoh 6. : Andakan kta ngn menympan sebuah vektor nput (,,,-) ke dalam arngan A.M. Setelah pelathan kta ngn mengetes apakah arngan dapat mengenal vektor nput tsb. Langkah : vektor s = (,,,-) dsmpan dengan matrk bobot : P T w s ( p) s( p) w p Hasl testng dar vektor nput thd matrk bobot w hasl pelathan : Langkah : untuk tap-tap vektor nput : Langkah : x = (,,,-) Langkah 3 : y_n = (4,4,4,-4) Langkah 4 : y = f(4,4,4,-4) = (,,,-) Ternyata hasl output y sama dgn vektor nput. Berart arngan dpt mengenal vektor nput tsb. Proses testng uga bsa dlakukan dengan cara : (,,,-) W = (4,4,4,-4) (,,,-) Contoh 6. : Mengu arngan AM dgn beberapa vektor nput dgn satu komponen salah(mstake). Adapun vektor tsb adalah : (-,,,-), (,-,,-), (,,-,-), dan (,,,) Hasl testng : guw-6 6