ARTIFICIAL NEURAL NETWORK CAHYA YUNITA 5213100001 ALVISHA FARRASITA 5213100057 NOVIANTIANDINI 5213100075 TEKNIK PERAMALAN - A
MATERI
Neural Network Neural Network atau dalam bahasa Indonesia disebut Jaringan Saraf Tiruan menggunakan ide dari jaringan saraf manusia dengan meniru cara kerja sistem saraf biologis untuk melakukan pemrosesan infromasi.
Konsep Dasar Pemodelan Neural Network Tiruan neutron dalam struktur jaringan saraf tiruan adalah sebagai elemen pemroses yang dapat berfungsi sebagai halnya sebuah neuron. Sejumlah sinyal masuk a dikalikan dengan masing-masing penimbang yang bersesuaian w. Kemudian dilakukan penjumlahan dari seluruh hasil perkalian tersebut dan keluaran yang dihasilkan dilakukan ke dalam fungsi mendapatkan tingkatan derajat sinyal keluarannya F(a,w). pengaktif untuk
Cont d
Mengaktifkan Jaringan Saraf Tiruan Mengaktifkan jaringan saraf tiruan berarti mengaktifkan setiap neuron yang dipakai pada jaringan tersebut. Banyak fungsi yang dapat dipakai sebagai pengaktif, seperti fungsi-fungsi goniometri dan hiperboliknya, fungsi unit step, impulse, sigmoid, dll. Namun yang sering digunakan adalah fungsi sigmoid karena dianggap lebih mendekati kinerja sinyal pada otak.
Cont d
Fungsi Aktivasi Fungsi Undak Biner (Hard Limit) Jaringan dengan lapisan tunggal sering menggunakan fungsi undak (step function) untuk mengkonversikan input dari suatu variabel yang bernilai kontinu ke suatu output biner (0 atau 1)
Cont d Fungsi Undak Biner (Threshold) Fungsi undak biner dengan menggunakan nilai ambang sering juga disebut dengan nama fungsi nilai ambang (threshold) atau fungsi Heaviside
Cont d Fungsi Bipolar (Symetric Hard Limit) Fungsi bipolar sebenarnya hampir sama dengan fungsi undak biner, hanya saja output yang dihasilkan berupa 1, 0 atau 1
Cont d Fungsi Bipolar (dengan threshold) Fungsi bipolar sebenarnya hampir sama dengan fungsi undak biner dengan threshold, hanya saja output yang dihasilkan berupa 1, 0 atau 1
Cont d Fungsi Linear (identitas) Fungsi linear memiliki nilai output yang sama dengan nilai inputnya
Cont d Fungsi Saturating Linear Fungsi ini akan bernilai 0 jika inputnya kurang dari ½, dan akan bernilai 1 jika inputnya lebih dari ½. Sedangkan jika nilai input terletak antara ½ dan ½, maka outpunya akan bernilai sama dengan nilai input ditambah ½
Cont d Fungsi Symetric Saturating Linear Fungsi ini akan bernilai -1 jika inputnya kurang dari 1, dan akan bernilai 1 jika inputnya lebih dari 1. Sedangkan jika nilai input terletak antara 1 dan 1, maka outpunya akan bernilai sama dengan nilai inputnya
Cont d Fungsi Sigmoid Biner. Fungsi ini digunakan untuk jaringan dengan syaraf yang menggunakan dilatih metode backpropagation. Fungsi sigmoid biner memiliki nilai pada range 0 sampai 1. Oleh karena itu, fungsi ini sering digunakan untuk jaringan syaraf yang membutuhkan nilai output yang terletak pada interval 0 sampai 1. Namun, fungsi ini bisa juga digunakan oleh jaringan syaraf yang nilai outputnya 0 atau 1
Cont d Fungsi Sigmoid Bipolar Fungsi sigmoid bipolar hampir sama dengan fungsi sigmoid biner, hanya saja output dari fungsi ini memiliki range antara 1 sampai 1
Cont d Fungsi ini sangat dekat dengan fungsi hyperbolic tangent. Keduanya memiliki range antara 1 sampai 1. Untuk fungsi hyperbolic tangent, dirumuskan sebagai:
Pembelajaran Hebb Rule Hebb rule adalah metode pembelajaran yang paling sederhana. Pada metode ini pembelajaran dilakukan dengan cara memperbaiki nilai bobot sedemikian rupa sehingga jika ada 2 neuron yang terhubung, dan keduanya pada kondisi hidup (on) pada saat yang sama, maka bobot antara keduanya dinaikkan. Apabila data direpresentasikan secara bipolar, maka perbaikan bobotnya adalah: wi(baru) = wi(lama) + xi*y dengan: wi : bobot data input ke-i; xi : input data ke-i. y : output data.
Pembelajaran Perceptron Perceptron juga termasuk salah satu bentuk jaringan syaraf yang sederhana. Perceptron biasanya digunakan untuk mengklasifikasikan suatu tipe pola tertentu yang sering dikenal dengan pemisahan secara linear. Pada dasarnya, perceptron pada jaringan syaraf dengan satu lapisan memiliki bobot yang bisa diatur dan suatu nilai ambang (threshold). Algoritma yang digunakan oleh aturan perceptron ini akan mengatur parameter-parameter bebasnya melalui proses pembelajaran. Nilai threshold pada fungsi aktivasi adalan non negatif. Fungsi aktivasi ini dibuat sedemikian rupa sehingga terjadi pembatasan antara daerah positif dan daerah negatif
Pembelajaran Perceptron cont d Garis pemisah antara daerah positif dan daerah nol memiliki pertidaksamaan: Sedangkan garis pemisah antara daerah negatif dengan daerah nol memiliki pertidaksamaan:
Pembelajaran Delta Rule Pada delta rule akan mengubah bobot yang menghubungkan antara jaringan input ke unit output (y_in) dengan nilai target (t). Hal ini dilakukan untuk meminimalkan error selama pelatihan pola. Delta rule untuk memperbaiki bobot ke-i (untuk setiap pola) adalah:
Pembelajaran Backpropagation Backpropagation merupakan algoritma pembelajaran yang terawasi dan biasanya digunakan oleh perceptron dengan banyak lapisan untuk mengubah bobot-bobot yang terhubung dengan neuron-neuran yang ada pada lapisan tersembunyinya. Algoritma backpropagation menggunakan error output untuk mengubah nilai bobot-bobotnya dalam arah mundur (backward). Untuk mendapatkan error ini, tahap perambatan maju (forward propagation) harus dikerjakan terlebih dahulu. Pada saat perambatan maju, diaktifkan dengan menggunakan fungsi aktivasi sigmoid, yaitu: neuron-neuron
Pembelajaran Backpropagation cont d Arsitektur jaringan backpropagation
Pembelajaran Heteroassociative Memory Jaringan syaraf associative memory adalah jaringan yang bobot-bobotnya ditentukan sedemikian rupa sehingga jaringan tersebut dapat menyimpan kumpulan pengelompokan pola. Masing-masing kelompok merupakan pasangan vektor (s(p),t(p)) dengan p=1,2,...,p. Tiap-tiap vektor s(p) memiliki n komponen, dan tiap-tiap t(p) memiliki m komponen. Bobot-bobot tersebut dapat ditentukan dengan menggunakan Hebb rule atau delta rule. Jaringan ini nanti akhirnya akan mendapatkan vektor output yang sesuai dengan vektor inputnya (x) yang merupakan salah satu vektor s(p) atau merupakan vektor lain di luar s(p). Algoritma pembelajaran yang biasa digunakan oleh jaringan ini adalah Hebb rule dan delta rule.
Pembelajaran Bidirectional Associative Memory Bidirectional Associative Memory (BAM) adalah model jaringan syaraf yang memiliki 2 lapisan dan terhubung penuh dari satu lapisan ke lapisan yang lainnya. Pada jaringan ini dimungkinkan adanya hubungan timbal balik antara lapisan input dan lapisan output. Arsitektur jaringan Bidirectional Associative Memory (BAM) :
Contoh BackPropagation
CONTOH SOAL
CONTOH SOAL Contoh Perceptron Buatlah perceptron untuk mengenali logika atau dengan menggunakan masukan biner dan keluaran bipolar, dan gunakan α = 1 dan threshold (Ø) = 0,2!!!!!!
PENGGUNAAN MENGGUNAKAN