BAB IV METODE BELAJAR HEBBIAN

Transkripsi

1 BAB IV MEODE BELAJAR HEBBIAN - Aturan Hebb meruaan salah satu huum embelajaran jaringan neural yang ertama. Diemuaan oleh Donald Hebb (949). Hebb lahir di Chester, Nova Scotia, ada ergantian abad. - Isinya menyangut emunginan meanisme modifiasi sinati dalam ota, yang emudian digunaan untu melatih JS. - Pada tahun 949 Hebb merangum hasil enelitian yang telah dilauannnya selama 20 tahun e dalam buu yang diberi judul "he Organization of Behavior", yang ada intinya mengataan bahwa erilau daat delasan melalui asi-asi neuron. - Ide yang aling terenal di dalam buu Hebb di atas adalah sebuah ostulat yang emudian dienal dengan nama metode belajar Hebb : "Jia axon sebuah sel A cuu deat untu bisa mengesitasi sel B dan secara berulang atau terus menerus melauan enembaan, beberaa roses atau erubahan metabolisme aan terjadi ada satu atau edua sel, sehingga efisiensi sel A, sebagai salah satu sel enemba B, aan meningat." Postulat ini diusulan sebagai meanisme fisi untu roses embelajaran ada tingat selular. Walauun Hebb tida ernah memberian buti fisiologis yang signifian mengenai teorinya, namun enelitian-enelitian selanjutnya menunjuan bahwa sejumlah sel menunjuan ola belajar Hebbian. 4. Aturan Hebb - Meruaan interretasi matematis ostulat Hebb.

2 - Dari rumus eluaran neuron a = w, terlihat bahwa hubungan (sinasis) antara masuan j dan eluaran a i berua bobot w. i j= j - Postulat Hebb mengataan bahwa jia j ositif menghasilan a i ositif, maa w harus nai. Esresi matematinya : w new = w old + α f i ( ai ) g j ( j ) dengan j adalah elemen e-j dari vetor masuan e-; a i adalah elemen e-i dari eluaran jaringan ada saat vetor masuan e- digunaan jaringan; dan α adalah onstanta ositif, dinamaan learning rate. - Dari ersamaan terlihat bahwa erubahan bobot w roorsional terhada eralian fungsi ativitas ada edua sisi sinasis. Persamaan di atas daat disederhanaan menjadi : w new = w old + α a Esresi ini meruaan erluasan dari ostulat Hebb. i j - Aturan belajar Hebb di atas termasu aturan belajar tana suervisi (unsuervised learning rule), yang tida membutuhan informasi aaun mengenai target eluaran. - erdaat juga aturan Hebb dengan suervisi (suervised Hebb rule), dimana ada ersamaannya, eluaran atual digantian dengan eluaran target. Persamaannya : w = w + t new old dengan t i adalah elemen e i dari vetor target t e. (Untu memudahan, learning rate diset bernilai satu) i j Dalam bentu notasi vetor : new old W = W + Jia diasumsian bahwa matris bobot diinisialisasi dengan nilai 0, dan asangan masuan / eluaran digunaan satu ali, maa : t

3 W = t + t t = t = Ini juga daat direresentasian dalam bentu matris : W = 2 =... [ t t t ] 2... P dengan = [t t 2... t ], P = [ 2... ] 4.2 Analisis Performa - Jia adalah vetor-vetor orthonormal (orthogonal dan bernilai ) dan adalah masuan jaringan, maa eluaran jaringan daat dihitung : Karena orthonormal, a = W = = ( t ) = = 0 = = = t ( ) Oleh arena itu ersamaan di atas daat ditulis : a = W = t yang berarti eluaran jaringan sama dengan eluaran target. Hal ini menunjuan bahwa jia contoh vetor masuan bersifat orthonormal, aturan Hebb aan menghasilan eluaran yang benar untu setia inut. - Jia vetor masuan bersifat non-orthogonal (namun bernilai satu) : Error! a = W = t + t ( ) Karena tida bersifat orthogonal, jaringat tida aan menghasilan eluaran yang benar. Besarnya esalahan aan tergantung ada besar orelasi antara ola-ola masuan contoh. - Ada sejumlah rosedur yang daat mengurangi esalahan ini, antara lain seudoinverse rule :

4 W = P + Jia jumlah baris (R) ada P lebih besar dari jumlah olom () P dan olomolom P bersifat indeenden, maa seudoinverse rule daat dihitung dengan : P + = (P P) - P 4.3 Asosiator Linier - Huum embelajaran Hebb daat diimlementasian ada berbagai arsitetur jaringan neural. - Salah satu arsitetur jaringan neural yang sederhana adalah asosiator linier (linear associator), seerti terlihat ada gambar beriut ini : - Keluaran vetor a dihitung dari vetor masuan sbb. : atau a = W a i = j= w j - Asosiator linear meruaan contoh dari jaringan neural yang dinamaan memori asosiatif (associative memory). - Memori asosiatif didisain untu memelajari asang vetor contoh masuan / eluaran. {, t }, { 2, t 2 },..., {, t }

5 Dengan ata lain, jia jaringan menerima inut = maa ia harus menghasilan eluaran a = t, dengan =,2,...,. Jia masuan sediit berubah (mis., = + δ), maa eluaran juga sediit berubah (mis., a = t + ε). 4.4 Aliasi Beriut ini ditunjuan enggunaan aturan Hebb secara ratis, yaitu ada masalah engenalan ola (yang sangat disederhanaan). Untu masalah ini, digunaan jenis husus dari memori asosiatif autoassociative memory. Pada autoassociative memory vetor eluaran yang diinginan sama dengan vetor inut (yaitu t = ). Di sini associative memory digunaan untu menyiman satu set ola dan ola tersebut aan dianggil embali, termasu dengan menggunaan masuan yang rusa. Pola yang aan disiman adalah sebagai beriut : Yang meruaan vetor inut sealigus target (arena di sini digunaan autoassosiative memory). Vetor-vetor tersebut mereresentasian bilangan (0,,2) dalam isi 6 x 5. Digit ini harus dionversi menjadi vetor, untu dadian ola contoh bagi jaringan. Setia ota utih direresentasian dengan "-" dan ota hitam direresentasian dengan "". Selanjutnya, untu membuat vetor inut, isi 6 x 5 tersebut dibaca er olom. Sebagai contoh, vetor ola ertama adalah = [-... ] Vetor adalah untu digit "0", 2 untu "", dan 3 untu "2". Dengan menggunaan aturan Hebb, bobot matris dihitung W =

6 (Perhatian bahwa menggantian osisi t, arena ini adalah autoassociative memory). Karena hanya ada elemen-elemen vetor hanya memilii dua emunginan nilai ("-" dan "") maa fungsi transfer linier digantian dengan fungsi transfer symmetrical hard limit. Selanjutnya daat dilihat bahwa jia ada jaringan diberi masuan berua ola 50 % (lihat gambar di bawah ini), ternyata jaringan daat memberi eluaran yang benar. Jia ada jaringan diberi masuan berua ola yang mengalami erusaan 67%, hasilnya adalah sebagai beriut. Jia jaringan diberi masuan berua ola terdistorsi, eluaran jaringan adalah sebagai beriut.