Aturan Pembelajaran Perceptron

Transkripsi

1 Aturan Pemelajaran Percetron ujuan Salah satu ertanyaan kita yang muncul adalah: "Bagaimana kita menentukan Matrik oot dan ias untuk jaringan ercetron dengan anyak inut dimana adalah mustahil untuk memvisualisasikan atasan-atasan keutusan? Dalam a ini kita akan menggamarkan suatu algoritma untuk elatihan jaringan ercetron sehingga mereka daat elajar untuk memecahkan masalah klasifikasi. Kita akan mulai dengan menjelaskan aa yang dimaksud dengan aturan elajar (learning rule) dan akan elajar mengemangkan aturan ercetron. Kami akan menyimulkan dengan mendiskusikan keuntungan dan keteratasan dari jaringan single - layer ercetron. Diskusi ini akan memaa kita ke dalam a-a selanjutnya. eori dan Contoh Pada tahun 9 Warren McCulloch dan Walter Pitts memerkenalkan salah satu artificial neurons [McPi]. Fitur utama dari model neuron mereka adalah aha jumlah oot sinyal inut diandingkan dengan amang atas untuk menentukan neuron outut. Ketika jumlah leih esar dari atau sama dengan amang atas outut adalah. Ketika jumlah kurang dari amang atas keluaran adalah. Mereka teta meneruskan enelitian dengan menunjukkan aha jaringan neuron ini ada rinsinya isa menghitung setia fungsi aritmetika atau logika. idak seerti jaringan iologis arameters jaringan mereka harus dirancang karena tidak ada metode elatihan yang tersedia. Namun huungan yang dirasakan antara iologi dan komuter digital menghasilkan anyak minat Pada akhir 95-an Frank Rosenlatt dan eeraa eneliti lain mengemangkan suatu kelas jaringan saraf yang diseut Percetrons. Neuron dalam jaringan yang miri dengan McCulloch dan itts. Kunci kontriusi Rosenlatt adalah engenalan aturan elajar untuk elatihan jaringan ercetron untuk memecahkan masalah engenalan ola [Rose58]. Ia memuktikan aha aturan elajarnya akan selalu ertemu untuk oot jaringan yang enar jika oot yang ada memecahkan masalah. Pemelajarannya sederhana dan otomatis. Contoh erilaku yang layak Diterjemahkan oleh Lily W.

2 diajukan ke jaringan yang elajar dari kesalahan. Percetron ahkan isa elajar ketika diinisialisasi dengan nilai acak untuk oot dan ias. Sayangnya jaringan ercetron secara inheren teratas. Keteratasan ini diulikasikan secara luas dalam uku Percetrons [MiPa69] oleh Marvin Minsky dan Seymour Paert. Mereka menunjukkan aha jaringan ercetron tidak mamu melaksanakan fungsi dasar tertentu. Hal ini tidak samai tahun 98-an dimana keteratasan ini diatasi dengan memeraiki jaringan ercetron (multilayer) dan aturan elajar yang saling terkait/erhuungan. Saat ini ercetron masih diandang seagai jaringan enting. Ia menyisakan suatu jaringan yang ceat dan handal untuk kelas masalah yang daat diecahkan. Selain dariada itu emahaman tentang oerasi dari ercetron menyediakan dasar yang aik untuk memahami jaringan yang leih komleks. Jadi jaringan ercetron dan aturan elajar yang terkait adalah aik dan layak untuk didiskusikan di sini. Pada sisa dari a ini kita akan mendefinisikan aa yang kita maksud dengan aturan elajar menjelaskan jaringan ercetron dan aturan elajar dan mendiskusikan keteratasan jaringan ercetron. Aturan Pemelajaran Pemelajaran erarti elajar dari kesalahan. Semakin sering jaringan syaraf tiruan ini digunakan semakin cerdaslah dia artinya kesalahannya semakin kecil. Keceatan eningkatan kecerdasan ditentukan oleh nilai arameter keceatan emelajaran (learning rate) disimolkan dengan α. Bagaimanaun jika samai kali ke-n komutasi ulang (istilahnya: N iterasi) kesalahannya teta esar maka roses emelajaran dihentikan dan jaringan digunakan aa adanya. Ketika kita mulai emahasan kita tentang aturan emelajaran ercetron kami ingin mendiskusikan aturan emelajaran secara umum. Aturan elajar yang kami maksud adalah seuah rosedur untuk memodifikasi oot dan ias dari jaringan. (Prosedur ini juga daat diseut seagai algoritma elatihan). ujuan aturan emelajaran untuk melatih jaringan untuk Diterjemahkan oleh Lily W.

3 melakukan eeraa tugas. Ada anyak jenis aturan elajar jaringan saraf. Mereka diagi dalam kategori esar : emelajaran dengan engaasan (suervised learning) emelajaran tana engaasan (unsuervised learning) dan emelajaran enguatan tana engaasan (atau dinilai) (reinforcement learning). Ada mekanisme enting roses emelajaran:. Hitung selisih keluaran (a) dari target (t). Jika esarnya selisih daat ditolerir maka a diterima tetai jika selisih terseut tidak daat ditolerir dan anyaknya iterasi elum N kali maka ruahlah dan lalu lakukan komutasi ulang.. Nilai aru dan ergantung keada nilai α. Segera setelah jaringan mengalami emelajaran jaringan terseut daat digunakan untuk menyelesaikan masalah yang sesuai dengan konstruksi jaringan terseut. Suervised Learning Pada emelajaran dengan engaasan aturan emelajaran dilengkai dengan serangkaian contoh (himunan elatihan) dari erilaku jaringan yang teat : { t ) { t } { q t q } (.) Dimana q adalah seuah inut ke jaringan dan yang erhuungan dengan (target) outut yang sesuai. Seerti inut yang diterakan ke jaringan outut jaringan diandingkan dengan target. Aturan emelajaran kemudian digunakan untuk mengatur oot dan ias dari jaringan untuk memindahkan outut jaringan mendekati target. Aturan emelajaran ercetron masuk dalam kategori emelajaran engaasan ini. Reinforcement Learning Pemelajaran dengan enguatan adalah serua dengan emelajaran dengan engaasan kecuali aha ada suervised learning dilengkai dengan outut yang enar untuk setia inut jaringan sementara algoritma Reinforcement Learning hanya dierikan satu nilai. Nilai adalah seuah ukuran dari kinerja jaringan atas eeraa rangkaian inut. Saat ini jenis emelajaran Diterjemahkan oleh Lily W.

4 ini jauh leih sedikit diandingkan emelajaran dengan engaasan. Ia tamaknya menjadi aling cocok untuk alikasi-alikasi sistem kontrol (lihat [BaSu8] [WhSo9]). Pemelajaran ana Pengaasan Pada emelajaran tana engaasan oot dan ias diuah seagai tanggaan untuk jaringan inut saja. idak ada target outut yang tersedia. Aalnya sekilas ini mungkin kelihatannya tidak raktis. Bagaimana anda isa melatih jaringan jika anda tidak tahu aa yang seharusnya dilakukan? Keanyakan dari algoritma ini melakukan semacam oerasi clustering (engelomokan). Mereka elajar untuk mengkategorikan ola inut dalam sejumlah kelas yang teratas. Hal ini sangat erguna khususnya dalam alikasi seerti vector kuantisasi. Arsitektur Percetron Seelum kami menyajikan aturan emelajaran ercetron marilah kita memerluas emahaman kita akan jaringan ercetron. Jaringan ercetron yang umum ditunjukkan ada Gamar.. Outut dari jaringan dierikan oleh a hardlim(w + ). (.) (Perhatikan aha dalam a kita menggunakan fungsi transfer ukan hardlim. Hal ini tidak memengaruhi kemamuan jaringan). Diterjemahkan oleh Lily W.

5 5 Diterjemahkan oleh Lily W. Gamar.. Jaringan Percetron Ini akan erguna dalam engemangan aturan jaringan ercetron kita menjadi daat dengan mudah mereferensikan elemen-elemen individu dari outut jaringan. Marilah kita lihat agaimana hal ini daat dilakukan. Pertama ertimangkan matrik oot jaringan erikut: R S S S R R W K K K K K K K (.) Kita akan mendefinisikan seuah vector yang terdiri dari elemen-elemen W dari aris ke-i R i i i i M (.) Sekarang kita daat merartisi matrik oot: S W M (.5) Hal ini memungkinkan kita untuk menulis elemen ke-i dari vektor outut jaringan seagai

6 a hard lim( n ) hard lim( + ) (.6) i i i i Ingatlah aha fungsi transfer hardlim (ditamilkan di seelah kiri) didefinisikan seagai { if n a hard lim( n) otherise (.7) Oleh karena itu jika roduk inner dari aris ke-i dari matrik oot dengan vektor inut leih esar dari atau sama dengan i outut akan menjadi sealiknya outut akan menjadi. Jadi setia neuron dalam jaringan memagi masukan ruang menjadi dua daerah. Hal ini erguna untuk menyelidiki atas-atas antara daerah ini. Kita akan mulai dengan kasus sederhana dari single-neuron ercetron dengan dua inut. Single-Neuron Percetron Marilah kita memertimangkan dua inut ercetron dengan satu neuron seerti yang ditunjukkan ada gamar.. Gamar. o-inut/single-outut Percetron Keluaran dari jaringan ini ditentukan oleh a hard lim( n) hard lim( W + ) hard lim( + ) hard lim( + + ) (.8) 6 Diterjemahkan oleh Lily W.

7 Batas Keutusan (Decision Boundary) Batas keutusan ditentukan oleh vektor inut dimana n inut jaringan adalah nol. n (.9) Untuk memuat contoh yang leih konret marilah kita menetakan nilai-nilai erikut untuk oot dan ias: Batas keutusan adalah (.) n (.) Ini mendefinisikan seuah garis dalam ruang inut. Di satu sisi garis jaringan outut akan menjadi ; ada aris dan ada sisi lain dari garis outut akan menjadi. Untuk menarik garis kita daat menemukan titik-titik dimana ia memotong sumu dan. Untuk menemukan yang memintas tentukan. Untuk menemukan yang memintas tentukan. if (.) if (.) Batas keutusan yang dihasilkan diilustrasikan ada Gamar. Untuk mengetahui sisi mana dari atasan yang erhuungan dengan outut kita hanya erlu menguji satu titik. Untuk inut [ ] keluaran jaringan akan menjadi a hard lim( + ) hard lim [ ]. (.) Oleh karena itu Keluaran jaringan akan menjadi untuk ilayah di atas dan ke kanan dari atasan keutusan. Wilayah ini ditandai dengan daerah yang diarsir ada Gamar.. 7 Diterjemahkan oleh Lily W.

8 Gamar. Batas Keutusan untuk Dua-Inut Percetron Kita juga daat menemukan atas keutusan secara grafis. Langkah ertama adalah erhatikan aha atas selalu orthogonal seerti yang digamarkan dalam angka yang erdekatan. Batas didefinisikan oleh + (.5) Untuk semua titik di eratasan roduk inner dari vektor inut dengan oot vektor adalah sama. Ini menunjukkan aha semua vektor inut ini akan memiliki royeksi yang sama ke vektor oot sehingga mereka harus terletak ada garis orthogonal dengan oot vektor. Seagai tamahan setia vektor di daerah ayangan dari Gamar. akan memiliki roduk inner yang leih esar dari - dan vektor di daerah yang tidak terarsir memiliki roduk inner yang leih kecil dari -. Oleh karena itu vektor oot akan selalu menunjuk ke arah dimana neuron outut adalah. Setelah kita memilih salah satu vektor oot dengan orientasi sudut yang enar nilai ias daat dihitung dengan memilih titik ada atas dan memenuhi ersamaan (.5) 8 Diterjemahkan oleh Lily W.

9 Marilah kita menerakan eeraa konse ini untuk desain seuah jaringan ercetron untuk melaksanakan fungsi logika sederhana: gerang AND. Pasangan inut/target untuk gerang AND adalah. t t t t Gamar di seelah kiri menggamarkan masalah secara grafis. Ia menamilkan ruang inut dengan masing-masing vector inut ditandai sesuai dengan targetnya. Lingkaran gela menunjukkan aha target adalah dan lingkaran terang menunjukkan aha target adalah. Langkah ertama dari desain adalah untuk memilih atas keutusan. Kami ingin memiliki garis yang memisahkan lingkaran hitam dan lingkaran terang. Ada sejumlah solusi yang tidak teratas untuk masalah ini. amaknya masuk akal untuk memilih garis yang jatuh di tengah antara dua kategori inut seerti ditunjukkan ada gamar yang erdekatan. Selanjutnya kami ingin memilih vector oot yang orthogonal terhada atas keutusan. Vektor oot ts daat erua semarang anjang sehingga terdaat kemungkinan yang tak terhingga. Satu ilihan adalah (.6) Seerti yang ditunjukkan ada gamar ke kiri. Akhirnya kita erlu menemukan ias. Kita daat melakukan ini dengan memilih seuah titik ada atas keutusan dan memenuhi ersamaan (.5). jika kita menggunakan [.5 ] kita menemukan.5 + [ ] + + (.7) Sekarang kita isa menguji jaringan ada salah satu asangan inut/target. Jika kita menerakan ke jaringan outut akan 9 Diterjemahkan oleh Lily W.

10 a hard lim( + ) hard lim a hard lim( ) [ ] (.8) Yang sama dengan outut target t. Lakukan hal yang sama untuk menguji semua inut aakah sudah diklasifikasi dengan enar. Untuk erekerimen dengan atasan keutusan gunakan disain jaringan Neural untuk memeragakan atas keutusan (nndd). Multile-Neuron Percetron Perhatikan aha untuk Percetron dengan eeraa neuron seerti dalam Gamar. akan ada satu atas keutusan untuk setia neuron. Batas keutusan untuk neuron i akan ditentukan dengan i (.9) Seuah Single-neuron ercetron daat mengklasifikasikan vektor-vektor inut ke dalam dua kategori karena outut daat erua atau. Seuah multile-neuron ercetron daat mengelomokkan masukan/inut ke dalam anyak kategori. Masing-masing kategori diakili oleh vektor outut yang ereda. Karena setia elemen dari vektor outut daat erua atau terdaat total dari S kategori yang mungkin dimana S meruakan jumlah neuron. + i Aturan Belajar Percetron Sekarang kita telah memeriksa kinerja jaringan ercetron kita erada dalam osisi untuk memerkenalkan aturan emelajaran ercetron. Aturan emelajaran ini adalah contoh dari elatihan dengan engaasan dimana aturan emelajaran disediakan dengan serangkaian contoh erilaku jaringan yang teat. Diterjemahkan oleh Lily W. { t } { t } { q t } q L (.) Dengan q adalah seuah inut ke jaringan dan t q erhuungan dengan target outut. Karena setia inut diterakan ke jaringan outut jaringan diandingkan ke target. Aturan elajar kemudian menyesuaikan oot dan ias jaringan untuk memindahkan keluaran/outut jaringan leih dekat ke sasaran.

11 Uji Masalah Pada resentasi kita mengenai aturan elajar ercetron kita akan mulai dengan seuah uji masalah yang sederhana dan akan erekserimen dengan aturan yang mungkin untuk mengemangkan eeraa intuisi tentang agaimana aturan harus ekerja. Pasangan inut/target untuk masalah engujian kita adalah. t t t Masalah terseut ditamilkan secara grafik dalam gamar di seelah dimana kedua vektor inut yang targetnya adalah direresentasikan dengan lingkaran terang dan vector yang targetnya direresentasikan dengan lingkaran gela. Ini meruakan masalah yang sangat sederhana dan kita hamir isa mendaatkan solusi dengan cara memeriksa. Kemudahan ini akan memantu kita mendaatkan eeraa emahaman intuitif tentang konse-konse dasar aturan emelajaran ercetron. Jaringan untuk masalah ini harus memiliki dua-masukan dan satu keluaran. Untuk menyederhanakan engemangan aturan elajar kita kita akan mulai dengan jaringan tana ias. Jaringan akan memiliki dua arameter dan seerti yang ditunjukkan ada Gamar. Gamar.. Uji Masalah Jaringan Diterjemahkan oleh Lily W.

12 Dengan menghaus ias kita dihadakan dengan seuah jaringan yang atas keutusannya harus melalui titik asal. Kita erlu memastikan aha jaringan ini masih mamu memecahkan masalah uji. Harus ada atas keutusan yang dierolehkan yang daat memisahkan vektor dan dari vektor. Gamar seelah kiri menunjukkan aha memang terdaat sejumlah atasan yang tidak teratas. arahnya enting. Gamar di seelah menunjukkan vektor oot yang sesuai dengan atas keutusan yang dierolehkan. (Ingat aha vektor oot adalah orthogonal terhada atas keutusan). Kita ingin seuah aturan elajar yang akan menemukan suatu vektor oot yang menunjuk ada salah satu arah. Ingat aha anjang vektor oot tidak menjadi masalah hanya Memangun Aturan Belajar Pelatihan dimulai dengan menetakan eeraa nilai aal untuk arameter jaringan. Dalam hal ini kita melatih jaringan dengan jaringan to-inut/single-outut tana ias jadi kita hanya erlu menginisialisasi dua oot. Di sini kita menetakan elemen-elemen vektor oot Untuk menghasilkan nilai random erikut: [..8]. (.) Sekarang kita akan mulai menamilkan vektor inut ke jaringan. Kita mulai dengan a hard lim a hard lim ( ) hard lim[..8] (.6) (.) Diterjemahkan oleh Lily W. Jaringan tidak mengemalikan nilai yang enar. Outut jaringan adalah sementara target reson t adalah. Kita isa melihat aa yang terjadi dengan melihat diagram yang di seelah. Hasil vektor oot aal dalam suatu atas keutusan yang salah mengklasifikasikan vector. Kita erlu menguah vektor oot

13 sehingga oin leih ke arah sehingga di masa mendatang memiliki kesematan yang leih aik dalam mengklasifikasikannya dengan enar. Salah satu endekatan akan menetakan sama dengan. Ini adalah sederhana dan akan memastikan aha telah diklasifikasi dengan enar di masa mendatang. Diagram di kiri aah menunjukkan masalah yang tidak daat diselesaikan dengan vektor oot menunjuk langsung ada salah satu dari dua kelas vektor. Jika kita menerakan aturan aha setia kali salah satu vektor ini tidak terklasifikasi oot jaringan hanya akan ergerak mundur terus dan tidak akan ernah menemukan suatu solusi. Kemungkinan lainnya ialah akan menamahkan ke. Penamahan ke akan memuat titik leih ke arah. Pengulangan resentasi dari akan menyeakan arah dari untuk secara asimtotik mendekati arah. Aturan ini daat dinyatakan : If t ne old dan a then + (.) Peneraan aturan ini untuk masalah engujian kita menghasilkan nilai aru untuk : ne old (.) Oerasi ini diilustrasikan dalam gamar seelah. Kita sekarang eralih ke vektor inut erikutnya dan akan melanjutkan memuat eruahan terhada oot dan cycling melalui inut samai mereka semua diklasifikasikan dengan enar. Vektor inut erikutnya adalah. Ketika itu disajikan ke jaringan kita menemukan : a hard lim ( ) hard lim[..] ( ) hard lim. (.5) arget t yang terkait dengan adalah dan outut a adalah. Kelas vektor tidak terklasifikasi seagai. Karena kita sekarang ingin memindahkan vektor oot menjauh dari Diterjemahkan oleh Lily W.

14 inut kita daat dengan mudah menguah enamahan dalam ersamaan (.) menjadi engurangan: If t ne old dan a then (.6) Jika kita menerakan hal ini untuk menguji masalah kita akan menemukan : ne old....8 (.7) Yang digamarkan dalam gamar di seelah. Sekarang kita tamilkan vektor ketiga yakni : a hard lim hard lim.8 ( ) hard lim[..8] ( ). (.8) Hasil saat ini dalam atas keutusan aha tidak terklasifikasi. Ini adalah situasi dimana kita telah memiliki seuah aturan sehingga akan diuah kemali tergantung ada ersamaan (.6): ne old...8. (.9) Diagram di seelah kiri menunjukkan aha ercetron akhirnya elajar untuk menggolongkan tiga vektor dengan enar. Jika kita menghadirkan salah satu vektor inut untuk neuron ia akan menamilkan kelas yang enar untuk vektor inut terseut. Ini memaa kita ke aturan ketiga dan yang terakhir: jika ia ekerja jangan lakukan eraikan. ne old If t a then. (.) Berikut ini adalah tiga aturan yang mencaku semua kemungkinan kominasi outut dan nilainilai sasaran: If t dan a then ne old + If t ne old dan a then (.) ne then If t a old. Diterjemahkan oleh Lily W.

15 Aturan elajar Yang Diseragamkan (Unified Learning Rule) iga aturan dalam Persamaan. (.) daat ditulis kemali seagai satu eksresi. Pertama kita akan mendefinisikan seuah variale aru maka kesalahan ercetron e : e t a (.) Sekarang kita daat menulis kemali tiga aturan dari ersamaan di (.) seagai : If e then ne old + If e ne old then (.) ne If e then Lihat dengan hati-hati ada dua aturan ertama dalam ersamaan (.) kita daat melihat aha tanda adalah sama dengan tanda ada kesalahan e. Selanjutnya tidak adanya dalam aturan ketiga sesuai dengan e dari. Dengan demikian kita daat menyatukan tiga aturan terseut menjadi satu eksresi : old. ( t a). ne old old + e + (.) Aturan ini daat dierluas untuk melatih ias dengan catatan aha ias hanya oot yang inutnya selalu. Dengan demikian kita daat mengganti inut ada ersamaan (.) dengan inut ke ias adalah. Hasilnya adalah aturan ercetron untuk ias : ne old + e (.5) Pelatihan Multile-Neuron Percetron Aturan ercetron seerti yang dierikan oleh ersamaan (.) dan ersamaan (.5) memeraharui vektor oot dari suatu neuron ercetron. Kita isa generalisasi aturan ini untuk Multile-Neuron ercetron dari Gamar.. seagai erikut. Memeraharui aris ke i dari matrik oot yang digunakan: ne old i i + ei (.6) Untuk memeraharui elemen ke-i dari vector ias menggunakan: ne i old i + e. (.7) Aturan ercetron Aturan ercetron daat ditulis dalam notasi matriks: ne old W W + e (.8) 5 Diterjemahkan oleh Lily W. i

16 Dan ne old + e. (.9) Untuk menguji aturan emelajaran ercetron ertimangkan kemali masalah engenalan ael/jeruk dari a seelumnya. Vektor inut/outut rototie akan menjadi [] []. t t (.) (Perhatikan aha kita menggunakan seagai target outut untuk ola jeruk ukan - seerti yang digunakan dalam a seelumnya. Ini adalah karena kita menggunakan fungsi transfer hardlim ukan hardlims.) Biasanya oot dan ias yang diinisialisasi ke angka acak yang kecil. Anggalah aha di sini kita mulai dengan oot aal matrik dan ias : [.5.5].5. W (.) Langkah ertama adalah menerakan vektor inut ertama ke jaringan: a hard lim ( W + ) hard lim [.5.5] ( ) hard lim (.) Kemudian kita menghitung kesalahan: Peraikan oot adalah W Peraikan ias adalah : ne old W + e [.5.5]. ne Hal ini melengkai iterasi ertama. Iterasi kedua dari aturan ercetron adalah: e t a. (.) [.5.5] + ( )[ ] ( ).5. old + e.5 + (.) (.5) 6 Diterjemahkan oleh Lily W.

17 a hard lim hard lim ( W + ) hard lim [.5.5] + (.5) (.5) - (.6) e t a (.7) W ne old W + e [.5.5]. [.5.5] + ( )[ ] (.8) Iterasi ketiga dimulai lagi dengan vektor inut ertama: a hard lim ne ( ).5. old + e.5 + ( W + ) hard lim [.5.5] - + (.5) ( ) hard lim.5 - (.9) (.5) e t a (.5) W ne old W + e [.5.5]. [.5.5] + ( )[ ] (.5) ne ( ).5. old + e.5 + (.5) Jika anda lanjutkan dengan iterasi anda akan menemukan aha kedua masukan vector akan sekarang diklasifikasikan dengan enar. Algoritma telah ertemu ke seuah solusi. Catatan aha atas keutusan akhir tidak sama dengan yang kami kemangkan di a seelumnya meskiun kedua atasan enar mengklasifikasikan dua masukan vektor secara enar. Untuk ercoaan dengan aturan emelajaran ercetron gunakan Neural Netork Design Demonstration Percetron Rule (nndr). 7 Diterjemahkan oleh Lily W.

18 Keteratasan Aturan emelajaran Percetron dijamin untuk mengumul ada suatu solusi dalam satu jumlah taha yang teratas seanjang terdaat suatu solusi. Ini memaa kita ada satu ertanyaan enting. Aa ermasalahan yang isa diecahkan suatu ercetron? Mengingatkan kemali aha suatu single-neuron ercetron memungkinkan untuk memagi ruang inut ke dalam dua daerah. Peratasan antara daerah didefinisikan oleh ersamaan + (.77) Ini meruakan suatu atasan linier (hyerlane). Percetron daat digunakan untuk mengklasifikasikan vektor inut yang daat diisahkan oleh suatu atasan linier. Kita menyeut vektor seerti ini vektor yang daat diisahkan secara linear. Contoh gerang logika AND ada halaman -7 menggamarkan satu contoh dua-dimensi dari masalah yang daat diisah-isah secara linear. Masalah engenalan uah ael/jeruk dalam Chater adalah satu contoh tigadimensi. Sayangnya anyak ermasalahan yang tidak daat diisah-isah secara linear. Contoh klasik adalah gerang XOR. Inut/asangan target untuk gerang XOR adalah Masalah ini digamarkan secara grafis ada sisi kiri dari gamar.6 yang juga menunjukan dua ermasalahn lain yang tidak daat diisahkan secara linear. Coalah menggamar satu garis lurus antara vektor dengan target dari dan yang dengan target ada diagram aaun dari gamar.6. Gamar.6 Permasalahan Yang idak Daat Diisahkan Secara Linear 8 Diterjemahkan oleh Lily W.

19 Itu adalah ketidak-mamuan dari dasar ercetron untuk memecahkan seerti ermasalahan sederhana yang erua led ada seagian untuk engurangan dalam tertarik akan enelitian jaringan neural selama 97-an. Rosenlatt telah menyelidiki jaringan leih rumit dimana dia merasakan akan mengatasi keteratasan dari dasar ercetron tetai dia tidak ernah mamu untuk secara efektif memerluas aturan ercetron ke eeraa jaringan. Pada Ba kita akan memerkenalkan ercetrons anyak laisan yang daat memecahkan ermasalahan klasifikasi dan akan menggamarkan algoritma ackroagation yang daat digunakan untuk melatih mereka. Ringkasan Hasil Arsitektur Percetron Batasan Keutusan 9 Diterjemahkan oleh Lily W.

20 Batasan keutusan adalah selalu ortogonal untuk vektor oot. Single-layer ercetrons hanya daat mengklasifikasikan vektor yang terisah secara linear. Percetron Learning Rule Pemecahan Masalah P. Pecahkan tiga ermasalahan klasifikasi sederhana yang dierlihatkan di dalam gamar P. dengan cara menggamar suatu atasan keutusan. emukan nilai oot dan ias dimana hasil dalam single-neuron ercetrons dengan atasan keutusan yang terilih. Gamar P. Permasalah Klasifikasi Sederhana Pertama kita menggamar satu aris antara setia sekumulan titik data gela dan ringan. Diterjemahkan oleh Lily W.

21 aha erikutnya adalah mencari oot dan ias. Vektor oot harus ortogonal terhada atasan-atasan keutusan dan enunjukan dalam arah titik untuk digolongkan seagai (titik gela). Vektor oot daat memunyai anjang eraaun yang kita suka. Inilah sekumulan ilihan untuk vektor oot: ( a ) [ ] ( ) [ ] ( c) [ ]. Sekarang kita mencari nilai ias untuk setia ercetron dengan cara mengamil suatu titik ada atasan keutusan dan memenuhi Persamaan (.5). + Hal ini memerikan kita tiga ias erikut: a 6 c ( ) [ ] ( ) [ ] ( ) [ ]. Kita sekarang isa memeriksa solusi kita terhada titik asli. Di sini kita menguji jaringan ertama ada vektor inut [ ]. Diterjemahkan oleh Lily W. a hard lim hard lim hard lim 6 ( + ) [ ] ( ) + Kita isa menggunakan MALAB untuk mengotomatiskan roses engujian dan untuk mencoa titik yang aru. Inilah jaringan ertama yang digunakan untuk mengklasifikasikan suatu titik yang tidak erada dalam masalah seenarnya.

22 P. Convert masalah klasifikasi yang didefinisikan di aah ke dalam suatu definisi masalah ekivalen terdiri dari ketidaksamaan atasan nilai oot dan ias. t t t t Masing-masing target t i mengindikasikan aakah inut jaringan dalam reson untuk i harus leih kecil dari atau leih esar dari atau sama dengan atau tidak. Seagai contoh karena t adalah kita tahu aha inut jaringan yang erhuungan dengan harus leih esar dari atau sama dengan. Sehingga kita daat ketidaksamaan erikut: W erakan rosedur yang sama ke asangan inut/target untuk { t } { t } dan { } t hasilhasil dalam himunan ketidaksamaan erikut < + < ( i) ( ii) ( iii) ( iv) Memecahkan suatu himunan ketidaksamaan adalah leih sulit diandingkan memecahkan suatu himunan ersamaan. Satu komleksitas ditamahkan seringkali sejumlah solusi tana atas (seerti sering ada sejumlah atasan-atasan keutusan linier tana atas yang isa memecahkan suatu masalah klasifikasi yang terisah secara linear). Bagaimanaun oleh karena kesederhanaan dari masalah ini kita isa memecahkannya dengan memuat grafik ruang solusi yang didefinisikan oleh ketidaksamaan. Catat aha hanya Diterjemahkan oleh Lily W.

23 Diterjemahkan oleh Lily W. muncul dalam ketidaksamaan (ii) dan (iv) dan hanya muncul dalam ketidaksamaan (i) dan (iii). Kita daat meletakkan masing-masing asangan ketidaksamaan dengan dua grafik. Nilai oot dan ias aaun yang jatuh dalam kedua daerah au-au yang gela terseut akan memecahkan masalah klasifikasi. Berikut ini salah satu dari solusi : [ ] W. P. Kita memunyai satu masalah klasifikasi dengan emat kelas dari vektor inut. Emat kelas terseut adalah : : : : class class class class Rancang seuah jaringan ercetron untuk memecahkan masalah ini. Untuk memecahkan seuah masalah dengan kelas vector inut kita akan memutuhkan seuah ercetron dengan aling sedikit dua neuron karena seuah S-neuron ercetron daat mengkategorikan S kelas. Percetron dua neuron ditunjukkan dalam Gamar P..

24 Gamar P. o-neuron Percetron Marilah kita mulai dengan menamilkan vector inut seerti dalam Gamar P.. Lingkaran terang mengindikasikan kelas vector segiemat terang mengindikasikan kelas vector lingkaran gela mengindikasikan kelas vector dan segiemat gela mengindikasikan kelas vector. Seuah ercetron dua neuron memuat dua atasan keutusan. Oleh karena itu untuk memagi ruang inut ke dalam emat kategori kita erlu untuk memiliki satu atasan keutusan yang memagi emat kelas ke dalam dua himunan dari dua. Sisa atasan kemudian harus mengisolasi masing-masing kelas. Dua atasan terseut digamarkan dalam Gamar P.. Sekarang kita tahu aha ola kita adalah terisah secara linear. Gamar P. Vektor Inut untuk Masalah P. Diterjemahkan oleh Lily W.

25 5 Diterjemahkan oleh Lily W. Gamar P. Batasan Keutusan yang ersifat sementara untuk masalah P. Vektor oot harus ortogonal terhada atasan-atasan keutusan dan harus menunjuk ke arah daerah dimana outut neuron adalah. aha erikutnya harus memutuskan aha sisi dari setia eratasan harus menghasilkan seuah. Satu ilihan digamarkan di dalam gamar P.5 dimana daerah yang di-shado mereresentasikan outut. Shado yang aling gela nilai target dari 8 7 : 6 5 : : : t t class t t class t t class t t class Kita sekarang daat memilih vektor-vektor oot: dan Perhatikan aha anjang vector oot tidak enting hanya arah mereka. Mereka harus orthogonal terhada atasan keutusan. Kita sekarang daat menghitung ias dengan mengamil seuah titik ada atasan dan memenuhi Persamaan (.5): [ ] [ ]

26 6 Diterjemahkan oleh Lily W. Gamar P.5 Daerah Keutusan untuk Masalah P. Dalam entuk matrik kita memiliki dan W Yang melengkai disain/rancangan kita. P. Pecahkan masalah klasifikasi erikut dengan aturan ercetron. erakan masing-masing vektor inut seanyak engulangan yang dierlukan untuk memastikan aha masalah daat diecahkan. Gamar suatu grafik dari masalah hanya setelah anda telah menemukan satu solusi. t t t t Gunakan oot dan ias aal s: ( ) [ ] ( ). W Kita mulai dengan menghitung outut ercetron a untuk vector inut yang ertama yakni menggunakan oot dan ias aal.

27 a hard lim hard lim ( W ( ) ) + ( ) [ ] + hard lim( ) Outut a tidak sama dengan nilai target t sehingga kita menggunakan aturan ercetron untuk menemukan oot dan ias yang aru erdasarkan ada error. e t a () W ( ) + e [ ] + ( )[ ] [ ] () ( ) + e + ( ) W Kita sekarang menerakan vector inut yang kedua yakni menggunakan oot dan ias yang aru (sudah diuah). hard lim ( W ( ) ) + ( ) a hard lim [ ] hard lim() Kali ini outut a adalah sama dengan target t. Peneraa aturan ercetron tidak akan menghasilkan eruahan aaun. ( ) W ( ) ( ) ( ) W Kita sekarang menerakan vector inut ketiga. hard lim ( W ( ) ) + ( ) a hard lim [ ] hard lim( ) Outut menanggai vector inut adalah sama dengan target t sehingga tidak ada eruahan terhada nilai oot mauun ias. ( ) W( ) ( ) ( ) W Sekarang kita lanjutkan ada vector inut yang terakhir yakni. hard lim ( W ( ) ) + ( ) a hard lim [ ] hard lim( ) 7 Diterjemahkan oleh Lily W.

28 8 Diterjemahkan oleh Lily W. Kali ini outut a tidak teat sama dengan target t. Aturan ercetron akan menghasilkan nilai W dan yang aru. ( ) ( ) [ ] ()[ ] [ ] ( ) ( ) ( ) e e W W a t e Sekarang kita harus menguji vector ertama yakni kemali. Kali ini outut a sama dengan target t. ( ) ( ) ( ) [ ] ( ) 8 lim lim lim + + hard hard W hard a Oleh karena itu tidak ada eruahan yang terjadi. ( ) ( ) ( ) ( ) 5 5 W W Presentasi kedua dari menghasilkan dalam satu error dan oleh karena itu suatu nilai oot dan ias yang aru harus ditetakan. ( ) ( ) ( ) [ ] ( ) lim lim 5 5 lim + + hard hard W hard a Berikut ini nilai-nilai yang aru terseut: ( ) ( ) [ ] ()[ ] [ ] ( ) ( ) e e W W a t e Perutaran melalui masing-masing vektor inut sekali lagi menghasilkan tidak ada error.

29 a hard lim a hard lim a hard lim a hard lim ( W ( 6) ) + ( 6) hard lim[ ] ( W ( 6) ) + ( 6) hard lim[ ] ( W ( 6) ) + ( 6) hard lim[ ] + t + t + t ( W ( 6) ) + ( 6) hard lim[ ] + t Oleh karena itu algoritma telah memusat. Solusi akhir adalah: Sekarang kita isa memuat grafik data elatihan dan atasan keutusan dari solusi. Batasan keutusan dierikan oleh W n +. Untuk menemukan memintas atasan keutusan tentukan : jika. Untuk menemukan yang memintas tentukan : jika. Batasan keutusan yang dihasilkan digamarkan di dalam Gamar P.6. 9 Diterjemahkan oleh Lily W. Gamar P.6 Batasan Keutusan untuk Masalah P.

30 Perhatikan aha atasan keutusan yang jatuh secara keetulan salah satu dari vektor elatihan. Hal ini adalah isa diterima dengan mengetahui definisi masalah karena fungsi hard limit mengemalikan ketika dierikan satu inut dan target untuk vektor di dalam ertanyaan adalah tentu saja. Diterjemahkan oleh Lily W.