BAB I PENDAHULUAN. Sejak komputer diciptakan pertama kali, komputer memiliki peranan yang
|
|
- Ridwan Johan
- 7 tahun lalu
- Tontonan:
Transkripsi
1 BAB I PENDAHULUAN Sejak komputer diciptakan pertama kali, komputer memiliki peranan yang besar dalam membantu menyelesaikan permasalahan-permasalahan yang sulit diselesaikan oleh manusia. Salah satu teknologi komputer yang sedang berkembang yaitu kecerdasan buatan. Jaringan saraf buatan merupakan salah satu ilmu yang mendukung perkembangan kecerdasan buatan. Bermacam-macam aplikasi berbasis jaringan saraf buatan telah dikembangkan di berbagai bidang Latar Belakang Pesatnya perkembangan teknologi komputer menyebabkan adanya perluasan lingkup yang membutuhkan kehadiran kecerdasan buatan. Kecerdasan buatan merupakan ilmu komputer yang membuat mesin komputer dapat melakukan pekerjaan sebaik mungkin seperti yang dilakukan oleh otak manusia [9]. Jaringan saraf buatan merupakan salah satu ilmu yang mendukung perkembangan kecerdasan buatan. Bermacam-macam aplikasi berbasis jaringan saraf buatan telah dikembangkan di berbagai bidang. Jaringan saraf buatan merupakan salah satu metode pembelajaran komputer yang efektif dan memiliki pendekatan berupa algoritma dalam menyelesaikan suatu masalah. Pada jaringan saraf buatan terdapat dua macam algoritma, yaitu algoritma untuk jaringan saraf buatan lapisan tunggal dan algoritma untuk jaringan saraf buatan lapisan banyak. Dalam 1
2 penulisan skripsi ini akan dibahas mengenai jaringan saraf lapisan banyak dengan algoritma backpropagation. Pembahasan jaringan saraf buatan lapisan tunggal dapat ditemukan di [1]. Algoritma backpropagation merupakan metode yang baik dalam menangani masalah pengenalan pola-pola kompleks [4]. Beberapa aplikasi yang menggunakan algoritma ini antara lain pengenalan suara, pengenalan pola, sistem kontrol, dan pengolahan citra. Oleh karena itu skripsi ini mencoba memberikan gambaran mengenai algoritma yang digunakan pada jaringan saraf buatan lapisan banyak dengan judul Kajian Teoritis Algoritma Backpropagation pada Jaringan Saraf Buatan Lapisan Banyak Permasalahan Masalah yang dapat diidentifikasi penulis adalah sebagai berikut: 1. Bagaimana cara kerja algoritma backpropagation menentukan bobot awal dan menghasilkan model yang tepat dalam multiklasifikasi? 2. Bagaimana kecenderungan nilai error yang dihasilkan pada jaringan saraf buatan lapisan banyak dengan data percobaan pengenalan huruf alphabet, jika banyak unit pada dua lapisan tersembunyi yang digunakan tetap, momentum ( α ) yang digunkan tetap, dan learning rate (η ) yang digunakan berbeda-beda? 2
3 1.3. Pembatasan Masalah Masalah di dalam skripsi ini terbatas pada ruang lingkup jaringan saraf buatan lapisan banyak dengan beberapa unit menggunakan algoritma backpropagation dan hasil prediksi output pada jaringan saraf buatan lapisan banyak ini berupa bilangan n-arry Tujuan Penulisan Skripsi ini mempunyai beberapa tujuan, yaitu: 1. Mengetahui cara kerja algoritma backpropagation menentukan bobot awal dan menghasilkan model yang tepat dalam multiklasifikasi. 2. Mengetahui kecenderungan nilai error yang dihasilkan pada percobaan pengenalan huruf alphabet, jika banyak unit pada dua lapisan tersembunyi yang digunakan tetap, momentum (α ) yang digunakan tetap, dan learning rate (η ) yang digunakan berbeda-beda Manfaat Penulisan Manfaat penulisan ini antara lain: 1. Memberikan pengetahuan tentang algoritma-algoritma yang digunakan dalam metode pembelajaran jaringan saraf buatan, serta cara kerja dari algoritma tersebut sehingga mendapatkan model yang tepat. 2. Memberikan informasi mengenai jaringan saraf buatan sehingga dapat dijadikan acuan atau referensi. 3
4 BAB II JARINGAN SARAF BUATAN Penjelasan mengenai sejarah perkembangan jaringan saraf buatan, serta beberapa teori dasar yang mendukung pembelajaran jaringan saraf buatan akan dibahas dalam bab ini, yaitu Teori-teori dasar yang mendukung pembelajaran jaringan saraf buatan antara lain ide dasar jaringan saraf buatan yang terinspirasi dari sistem jaringan otak manusia, definisi dan arsitektur jaringan saraf buatan, model-model pembelajaran, fungsi transfer, perceptron rule dan delta rule pada jaringan saraf buatan lapisan tunggal serta gambaran stokastik gradien descent Jaringan Saraf Manusia Jaringan saraf buatan merupakan model yang cara kerjanya meniru sistem jaringan biologis. Otak manusia terdiri atas sel-sel saraf yang disebut neuron, yang berjumlah sekitar sel-sel saraf. Sel-sel saraf ini berhubungan satu dengan yang lain membentuk jaringan yang disebut jaringan saraf [4]. Proses yang terjadi dalam suatu sel saraf merupakan proses elektrokimiawi. Di otak ini terdapat fungsi-fungsi yang sangat banyak dan rumit, diantaranya adalah ingatan, belajar, bahasa, asosiasi, penalaran, kecerdasan, dan inisiatif. Semua sel saraf alami mempunyai empat komponen dasar yang sama. Keempat komponen dasar ini diketahui berdasarkan nama biologinya yaitu, dendrit, soma, akson, sinapsis. Dendrit merupakan suatu perluasan 4
5 dari soma yang menyerupai rambut dan bertindak sebagai saluran masukan. Saluran input ini menerima masukan dari sel saraf lainnya melalui sinapsis. Kemudian soma memproses nilai input menjadi sebuah output yang kemudian dikirim ke sel saraf lainnya melalui akson dan sinapsis. Gambar berikut menunjukkan komponen-komponen dari saraf [7]. Gambar 2.1 Komponen-Komponen Sel Saraf Suatu jaringan saraf menerima ribuan informasi kecil dari berbagai organ sensoris dan mengintegrasikannya untuk menentukkan reaksi yang harus dilakukan. Kegiatan sistem jaringan saraf didasari oleh pengalaman sensoris dari reseptor sensoris, baik berupa reseptor visual, reseptor auditoris, reseptor raba dipermukaan tubuh, ataupun jenis reseptor lainnya. Pengalaman sensoris ini dapat menyebabkan suatu reaksi segera dan kenangannya dapat disimpan didalam otak [4]. Konsep dasar semacam inilah yang ingin dicoba para ahli dalam menciptakan jaringan buatan. 5
6 2.2. Jaringan Saraf Buatan Jaringan saraf buatan diperkenalkan pertama kali pada tahun 1943 oleh seorang ahli saraf Warren McCulloch dan seorang ahli logika Walter Pitss [12]. Jaringan saraf buatan merupakan model yang meniru cara kerja jaringan sel-sel saraf biologis. Penelitian yang berlangsung pada tahun 1950-an dan 1960-an mengalami hambatan karena minimnya kemampuan komputer. Kemudian pada pertengahan tahun 1980-an dapat dilanjutkan lagi, karena sarana yang dibutuhkan telah tersedia. Sistem saraf buatan dirancang untuk menirukan karakteristik sel-sel saraf biologis. Beberapa definisi tentang jaringan saraf buatan dikemukakan oleh para ahli. Menurut [7] jaringan saraf didefinisikan sebagai sebuah prosesor yang terdistribusi paralel dan mempuyai kecenderungan untuk menyimpan pengetahuan yang didapatkannya dari pengalaman dan membuatnya tetap tersedia untuk digunakan. Sedangkan menurut [3]. Mendefinisikan jaringan saraf buatan sebagai sebuah sistem yang dibentuk dari sejumlah elemen pemroses sederhana yang bekerja secara paralel dan fungsinya ditentukan oleh stuktur jaringan, kekuatan hubungan serta pengolahan dilakukan pada komputasi elemenelemennya Arsitektur Jaringan Saraf Buatan Pemodelan struktur pemrosesan informasi terdistribusi dilakukan dengan menentukan pola hubungan antar sel-sel saraf buatan. Pola hubungan yang umum adalah hubungan antar lapisanr 6
7 (lapisan). Setiap lapisan terdiri dari sekumpulan sel saraf buatan (unit) yang memiliki fungsi tertentu, misalnya fungsi masukan (input) atau fungsi keluaran (output). Sistem saraf buatan terdiri dari tiga lapisan unit, yaitu: 1. Unit input Pada gambar 2.2 unit input dinotasikan dengan i. Unit input ini menerima data dari jaringan saraf luar. Aktifasi unit-unit lapisan input menunjukkan informasi dasar yang kemudian digunakan dalam jaringan saraf buatan. 2. Unit tersembunyi Unit tersembunyi dinotasikan dengan h pada gambar 2.2. Unit tersembunyi menerima dan mengirim sinyal ke jaringan saraf. Aktifasi setiap unit-unit lapisan tersembunyi ditentukan oleh aktifasi dari unit-unit input dan bobot dari koneksi antara unitunit input dan unit-unit lapisan tersembunyi. 3. Unit output Unit output dinotasikan dengan o. Unit output mengirim data ke jaringan saraf. Karakteristik dari unit-unit output tergantung dari aktifasi unit-unit lapisan tersembunyi dan bobot antara unit-unit lapisan tersembunyi dan unit-unit output. Dalam jaringan saraf buatan lapisan banyak unit output bisa digunakan kembali menjadi unit input yang diproses dalam lapisan selanjutnya. 7
8 X 1 X 2 X 3 X 4 i 1 i 2 i 3 i 4 h 1 h 2 h 3 o 1 o 2 Y 1 Y 2 Gambar 2.2 Jaringan Saraf Buatan Sedangkan tipe arsitektur jaringan saraf buatan ada tiga yaitu : 1. Jaringan dengan lapisan tunggal (Single Lapisanr Net) Jaringan dengan lapisan tunggal hanya memiliki satu lapisan dengan bobot yang terhubung. Jaringan ini hanya menerima input kemudian secara langsung akan mengolahnya menjadi output tanpa harus melalui lapisan tersembunyi (Gambar 2.3). Gambar 2.3. Jaringan Saraf Buatan Lapisan Tunggal Feedforward 8
9 2. Jaringan dengan lapisan banyak (Multilapisanr Net) Pada tipe ini, diantara lapisan masukan dan keluaran terdapat satu atau lebih lapisan tersembunyi (Gambar 2.4). Hubungan antar lapisan berlangsung satu arah. Jaringan dengan banyak lapisan ini dapat menyelesaikan permasalahan yang lebih sulit dari pada lapisan tunggal. Gambar 2.4. Jaringan Saraf Buatan Lapisan Banyak Feedforward 3. Reccurent Network Tipe reccurent berbeda dengan kedua tipe sebelumnya. Pada reccurent, sedikitnya memiliki satu koneksi umpan balik (feedback). Gambar 2.5. Jaringan dengan lapisan kompetitif reccurent 9
10 Model-Model Pembelajaran Menurut [10] model pembelajaran dibedakan menjadi tiga, yaitu : 1. Supervised Learning Pada model pembelajaran ini, jaringan saraf buatan menggunakan variabel prediktor sebagai input yang akan dijadikan indikator untuk menerangkan variabel target sebagai outputnya. Variabel-variabel prediktor tersebut disesuaikan dengan target output yang ingin dihasilkan. Tujuan model supervised learning adalah untuk menentukan nilai bobot-bobot koneksi didalam jaringan sehingga jaringan tersebut dapat melakukan pemetaan dari input ke output sesuai dengan yang diinginkan. Jaringan perceptron, dan backpropagation merupakan model-model dengan tipe supervised learning [8]. Tabel 2.1 Data Sederhana Pengenalan Huruf Alphabet Contoh Posisi horizontal Variabel Prediktor Posisi Panjang Tinggi vertikal box box Jumlah pixel Variabel Target T I D N G Model pembelajaran supervised learning selalu memiliki satu kolom yang merupakan variabel target, pada contoh data sederhana pengenalan huruf diatas variabel targetnya adalah huruf alphabet. Pada model pembelajaran ini tiap-tiap variabel memiliki suatu hubungan 10
11 yang tidak saling bebas. Sebagai contoh, Huruf T diprediksi berada dalam posisi horizontal yang dihitung dari sebelah kiri gambar dan huruf berada di tengah box pada titik koordinat 2 pixel, posisi vertikal dihitung dari bagian bawah pada box di titik koordinat 8 pixel, Sedangkan panjang box berada pada titik koordinat 3 pixel dan tinggi box berada pada titik koordinat 5 pixel. Jika huruf alphabet berada dalam karakteristik variabel target maka dapat dikatakan huruf tersebut berhasil dalam mengklasifikasikan huruf alphabet. 2. Unsupervised Learning Berbeda dengan model supervised learning, dalam model unsupervised learning tidak terdapat variabel target dari kategori polapola yang akan diklasifikasikan hanya terdiri dari variabel prediktor. Untuk model pembelajaran ini biasanya hanya dilakukan proses clustering lihat tabel 2.2. Bukan pengklasifikasian seperti pada model pembelajaran supervised. Tabel 2.2 Hak pilih USA senator pada 6 persoalan Issue Class 1 Class 2 Toxic Waste Yes No Budget Cuts Yes No SDI Reduction No Yes Contra Aid Yes No Line-Item Veto Yes No MX Production Yes No 3. Semi Unsupervised Learning Model semi unsupervised learning awalnya adalah model unsupervised learning, data percobaan untuk model ini biasanya tidak 11
12 memiliki variabel target. Oleh karena itu, proses klasifikasi dengan model pembelajaran ini dilakukan dengan cara menentukan variabel targetnya terlebih dahulu (two step analysis). 2.3 Fungsi Aktivasi Pada setiap lapisan pada jaringan saraf buatan terdapat fungsi aktivasi. fungsi ini adalah fungsi umum yang akan digunakan untuk membawa input menuju output yang diinginkan. Fungsi aktivasi inilah yang akan menentukan besarnya bobot. Karakter dari jaringan saraf buatan tergantung pada bobot dan fungsi input-output (Fungsi Transfer) yang mempunyai ciri-ciri tertentu untuk setiap unit. Fungsi ini terdiri dari tiga kategori, yaitu : fungsi linear, fungsi threshold, dan fungsi sigmoid (Gambar 2.6). Pada fungsi linear, aktivasi output adalah sebanding dengan jumlah bobot output. Untuk fungsi threshold, output diatur satu dari dua tingkatan tergantung dari apakah jumlah input lebih besar atau lebih kecil dari nilai batasnya. Sedangkan Fungsi sigmoid, outputnya terus menerus berubah tetapi tidak berbentuk linear. Threshold (sgn) i Linear i Sigmoid i Gambar 2.6. Jenis fungsi aktivasi yang digunakan dalam jaringan saraf buatan 12
13 Ada beberapa pilihan fungsi aktivasi yang digunakan didalam metode backpropagation, seperti fungsi sigmoid biner dan sigmoid bipolar (Gambar 2.7.). Untuk lebih jelasnya, berikut adalah penjelasan lebih lengkap tentang fungsi sigmoid biner dan sigmoid bipolar, yaitu: 1. Fungsi Sigmoid Biner Fungsi ini merupakan fungsi yang umum digunakan dalam metode backpropagation. Nilai jangkauannya diantara (0,1) dan didefinisikan sebagai : 1 f ( x) = 1 + e x dengan turunan : f ( x)' = f ( x)(1 f ( x)) (2.1) 2. Fungsi Sigmoid Bipolar Fungsi ini merupakan fungsi yang umum digunakan dalam metode backpropagation. Range diantara (-1,1) dan didefinisikan sebagai: g ( x) = 2 f ( x) 1 1 dengan f ( x) = 1 + e x sehingga g ( x) = 2 f ( x) 1 1 = e x 1 e ( x ) = 1 + e ( x ) (2.2) 13
14 dengan turunan : g ( x)' = 1 (1 + g ( x))(1 g ( x)) 2 (2.3) Gambar 2.7. Fungsi sigmoid biner dan fungsi sigmoid bipolar 2.4. Perceptron Salah satu tipe dari sistem jaringan saraf buatan didasarkan pada sebuah unit yang disebut perceptron, dan diilustrasikan pada gambar 2.8. Sebuah perceptron menerima vektor input yang berupa nilai bilangan real. Perceptron memiliki perhitungan kombinasi linear yang berasal dari penjumlahan vektor input ( x 1, x 2,..., x n ), vektor bobot (w 1, w 2,..., w n ) dan nilai thresholdnya (w 0). Hasil output akan bernilai 1 jika perhitungan kombinasi linearnya lebih besar dari pada 0 dan -1 jika perhitungan kombinasi linearnya lebih kecil atau sama dengan 0. Kombinasi linear untuk output perceptron dapat dituliskan sebagai: 1 jika w 0 + w 1 x 1 + w 2 x w n x n > 0 o(x 1, x 2,..., x n ) = (2.4) 1 jika w 0 + w 1 x 1 + w 2 x w n x n 0 14
15 x 0=1 w 0 x 1 w 1 x 2 w 2 w n x n n w i x i i =0 o = 1 jika n w i x j j =0 1 untuk yang lainnya Gambar 2.8 Perceptron x 1, x 2,..., x n adalah input, o(x 1,..., x n ) adalah output dan w i adalah konstanta real atau bobot (weight), dimana bobot menentukan kontribusi dari input x i pada output perceptron. Fungsi perceptron dapat dituliskan sebagai : r r r o(x ) = sgn (w x ) (2.5) dan dengan sgn (y) = 1 jika y>0 1 jika y 0 (2.6) r r y = w ' x (2.7) Aturan Pembelajaran Perceptron Masalah pembelajaran perceptron tunggal adalah menentukan vektor bobot, karena perceptron menghasilkan output ± 1 untuk setiap contoh percobaan. Beberapa algoritma diketahui dapat menyelesaikan permasalahan tersebut, antara lain: perceptron rule dan delta rule. Algoritma tersebut sangat penting dalam jaringan saraf buatan karena merupakan dasar dari pembelajaran jaringan untuk lapisan banyak. 15
16 Salah satu cara untuk mempelajari vektor bobot yang tepat yaitu dimulai dengan penentuan bobot secara acak, kemudian secara iteratif dengan menggunakan perceptron untuk menghasilkan output pada setiap contoh percobaan, setelah itu memodifikasikan bobot perceptron. Proses ini terus diulang sampai pengklasifikasian perceptron untuk semua contoh percobaan menjadi tepat. Bobot dimodifiikasi pada setiap langkah berdasarkan aturan pembelajaran perceptron (perceptron learning rule), yang meninjau kembali bobot w i dengan input x i berdasarkan kaidah: dengan keterangan: w i w i + w i w i = η (t o )x i (2.8) (2.9) t o η = target output contoh percobaan = output perceptron = konstanta positif yang disebut learning rate Delta Rule Perceptron rule dapat digunakan untuk mencari vektor bobot yang paling tepat ketika contoh data percobaannya terpisah secara linear. Namun, tidak semua data dapat dipisahkan secara linear. Dalam hal ini perceptron rule tidak mampu mengatasi permasalahan dengan kasus data yang tidak dapat dipisahkan secara linear, data tersebut dikenal dengan istilah data non-linearly separable sets. Oleh 16
17 karena itu, pada pembahasan yang berikutnya digunakanlah delta rule yang dapat mengatasi permasalahan tersebut. Kunci dari delta rule dalam mencari ruang hipotesis dari bobot vektor yang mungkin adalah dengan menggunakan gradient descent sehingga didapatkan bobot yang paling tepat untuk suatu contoh percobaan. Aturan ini penting karena gradient descent merupakan dasar untuk algoritma backpropagation yaitu pembelajaran untuk jaringan dengan banyak unit yang terhubung. Terdapat banyak cara untuk mendefinisikan nilai error dari model (vektor bobot). Salah satu ukuran yang dapat menurunkan nilai error dengan tepat adalah : r E(w) (t d o d ) d D (3.0) dengan D adalah himpunan dari contoh data percobaan, t d adalah target output untuk contoh percobaan d dan o d adalah output dari unit linear untuk contoh percobaan d. Error E digolongkan sebagai fungsi dari w r karena output unit linear o bergantung pada bobot vektor. Karena permukaan error terdiri dari minimum global tunggal, algoritma delta rule hanya akan mengkonvergenkan vektor bobot dengan error minimum, tanpa memperhatikan apakah contoh percobaannya terpisah secara linear atau tidak. Nilai η yang digunakan pada algoritma ini awalnya adalah bilangan yang tidak kecil namun juga tidak terlalu besar, kemudian untuk mendapatkan 17
18 bobot yang tepat nilai η diperkecil setelah langkah perbaikan ke-n. Jika η terlalu besar, pencarian turunan gradient akan menimbulkan resiko, yaitu terlalu banyaknya langkah yang dilakukan untuk mencari permukan error yang minimum Gambaran Stokastik Untuk Gradient Descent Salah satu pola model umum yang digunakan pada proses pembelajaran adalah gradient descent. Gradient descent merupakan suatu strategi untuk mencari ruang model yang tak terbatas atau besar yang dapat digunakan ketika ruang model memuat parameter model yang kontinu dan error dapat diturunkan dengan parameter modelnya tersebut. Namun, gradient descent ini juga memiliki kelemahan yaitu tidak mudah digunakan dan terkadang lambat dalam pengkonvergenan solusinya. Jika ada beberapa minimum lokal pada permukaan error, maka tidak ada jaminan bahwa akan didapatkan minimum global [11]. Tujuan digunakannya gradient descent yaitu untuk mempermudah strategi pencarian model, hal tersebut dikenal dengan incremental gradient descent atau stokastik gradient descent. Sedangkan ide dasar pada stokastik gradient descent yaitu pencarian bobot yang tepat dilakukan berdasarkan perhitungan error pada setiap contoh baris datanya. Stokastik gradient descent biasanya menggunakan nilai learning rate η yang cukup kecil agar langkah pengulangan yang dilakukan tidak terlalu besar, sehingga didapatkan perkiraan gradient descent yang mendekati nilai sebenarnya. 18
19 2.6 Data Pengenalan Huruf Alphabet Data pengenalan huruf berasal dari David J. Slate [5] (Northwestern University) pada tahun 1991 dan telah banyak dipakai dalam berbagai penelitian. Salah satunya adalah penelitian yang dilakukan P.W.Frey dan D.J. Slate [2] dengan judul Letter Recognition Using Holland-Style Adaptive Classifiers. Tingkat ketelitian pada penelitian ini mencapai 80% dan memiliki nilai error mencapai 20%. 19
20 BAB III JARINGAN SARAF BUATAN LAPISAN BANYAK Jaringan saraf buatan lapisan banyak merupakan perluasan dari jaringan saraf buatan lapisan tunggal. Pada jaringan saraf buatan lapisan tunggal menggunakan pendekatan algoritma perceptron yang hanya menghasilkan fungsi linear. Sebaliknya, Jaringan saraf buatan lapisan banyak menggunakan pendekatan algoritma backpropagation yang akan merepresentasikan fungsi non linear. Dalam jaringan ini selain unit input dan output terdapat unit tersembunyi. Hubungan antar lapisan berlangsung satu arah. 3.1 Unit Sigmoid Unit perceptron merupakan salah satu tipe dari jaringan saraf buatan dengan unit tunggal dengan fungsi yang dihasilkan adalah fungsi yang linear. Namun, unit perceptron tidak dapat menjelaskan fungsi yang non linear, Oleh karena itu, Jaringan saraf buatan lapisan banyak mampu menggambarkan fungsi yang non linear. Salah satu solusinya adalah dengan unit sigmoid, yaitu sebuah unit yang mirip dengan perceptron, dan proses dasar pekerjaan dilakukan sesuai tahapan. Sama dengan perceptron, unit sigmoid pertama kali menghitung kombinasi linear dari input, kemudian menggunakan nilai batas untuk hasilnya. Pada kasus unit sigmoid, hasil output merupakan fungsi yang kontinu dari input-inputnya dan unit sigmoid menghitung output o k, secara singkat rumus yang digunakan dapat ditulis sebagai: 20
21 Rumus fungsi sigmoid: Maka output o k o( net )= n i =0 σ = 1 + e n o k = σ ( i =0 1 w ji. x i + θ j 0 (3.1) o ( net ) (3.2) w ji. x i + θ j 0 ) (3.3) dimana x 1, x 2,..., x n adalah input, o(x 1,..., x n ) adalah output dan w i adalah bobot yang menentukan kontribusi dari input x i pada output backpropagation. σ disebut fungsi sigmoid atau fungsi logistik. Range output yang dihasilkan oleh unit sigmoid antara 0 sampai 1, dan bersifat monoton naik. Karena unit sigmoid memetakan domain bilangan input yang sangat besar ke range output yang kecil, Sigmoid sering disebut dengan pengkompresan hasil dari unit. Fungsi sigmoid memiliki sifat bahwa turunannya secara mudah diperlihatkan dalam bentuk output = σ (y) (1 σ (y)). Unit sigmoid diilustrasikan sebagai berikut: dσ ( y ) dy x 0 =1 w 0 x 1 w 1 x 2 w 2 w 0 n net = w i x j + θ j 0 j =0 o = σ (net) = 1 o ( net ) 1 + e x n Gambar 3.1. Sigmoid 21
22 3.2. Turunan dari Aturan Algoritma Backpropagation Masalah yang paling pokok dalam bab ini adalah aturan penurunan stokastik gradient descent yang diimplementasikan oleh algoritma backpropagation. Berdasarkan persamaan (3.0) bahwa stokastik gradient descent melibatkan iterasi pada sebuah waktu contoh percobaan, untuk setiap contoh percobaan d menurunkan nilai gradient dari error E d pada contoh tunggal. Dengan kata lain, untuk setiap contoh percobaan d setiap bobot w ij di update oleh penambahan w ij dengan rumus sebagai berikut: w ij = η = E d w ij (3.4) Dimana E d adalah error pada contoh percobaan d ditambahkan dengan semua unit output pada jaringan (persamaan 3.0) 1 E d 2 (t o ) 2 = k k k output outputnya disini adalah himpunan dari unit output pada jaringan, t k adalah nilai target dari unit k untuk contoh percobaan d dan o k adalah output dari unit k pada contoh percobaan d. Notasi : x ji w ji = input ke i sampai input j = bobot dengan input ke i sampai input j net j = i w ji x ji (jumlahan bobot dari input untuk unit j) o j t j = output dihitung berdasarkan unit j = target output untuk unit j 22
23 σ output = fungsi sigmoid = himpunan dari unit-unit pada lapisan terakhir dari suatu jaringan Downstream(j) =himpunan dari unit-unit yang berada satu lapisan dibawahnya termasuk output dari unit j Penurunan stokastik gradient descent = E d w ji merupakan implementasi dari persamaan (3.4). Dengan catatan bahwa bobot w ij dapat mempengaruhi sisa dari jaringan hanya sampai net j. Oleh karena itu, = E d E net d j = w ji net j w ji = = E d net j i w ji x ji w ji E = = d x net j ji (3.5) dalam penurunan = E d w ji terdapat dua pandangan kasus yaitu: kasus dimana unit j adalah unit keluaran untuk jaringan dan kasus dimana j adalah unit tersembunyi untuk jaringan. Kasus 1 : Aturan percobaan untuk bobot unit output. w ij dapat mempengaruhi sisa dari jaringan hanya sampai net j, net j dapat mempengaruhi jaringan hanya sampai o j. Oleh karena itu, 23
24 pandang bentuk pertama pada persamaan 3.0 = E d = = E d o j (3.6) net j o j net j E d 1 2 = (t k o k ) o j o j 2 k output Penurunan (t k o k ) 2 akan nol untuk semua unit output k kecuali saat k = j. o j E = d = 1 (t j o j ) 2 o j o j 2 1 (t ( ) j o ) = 2 t o j j j 2 o j = (t j o j ) (3.7) karena ( ) o j = σ net j, penurunan o j net j merupakan penurunan dari fungsi sigmoid, yang sama dengan σ (net j )(1 σ (net j )). Oleh karena itu, o j σ (net j ) = net j net j = σ ' (net ) j = σ (net j )(1 σ (net j )) = o j (1 o j ) (3.8) substitusikan persamaan (3.7) dan (3.8) kedalam persamaan (3.6). Didapatkan, E = d = = E o d j net j o j net j E d (3.9) = (t j o j )o j (1 o j ) net j 24
25 dan kombinasikan persamaan (3.9) dengan persamaan (3.4). Maka didapatkan aturan stokastik gradient descent untuk unit output w ij = η = E d w ij = η = E net d j net j w ji = η (t j o j )o j (1 o j )x ji (3.10) Kasus 2 : Aturan Percobaan untuk Bobot unit tersembunyi Pada kasus ini j merupakan unit tersembunyi pada jaringan, turunan dari aturan percobaan untuk w ji harus mengmbil perhitungan secara tidak langsung dimana w ji dapat mempengaruhi output jaringan dan E d. Notasikan himpunan semua unit yang input-inputnya termasuk dalam output unit j dengan Downstream (j). Catat bahwa net j dapat mempengaruhi jaringan keluaran dan E d hanya sampai unit pada Downstream (j). Oleh karena itu, dapat ditulis sebagai berikut: E = d = = E d net k net j k Downstream( j ) net k net j net = δ = k k net k Downstream( j ) j = δ k Downstream( j ) k net o j k o j net j = δ w o j k Downstream( j ) k kj net j = δ k w kj o j (1 o j ) k Downstream( j ) (3.11) 25
26 setelah mengatur kembali bentuk persamaan di atas dan menggunakan δ j untuk menotasikan = E d, didapatkan net j δ j = o j (1 o j ) δ k w kj k Downstream( j ) (3.12) dan w ji = ηδ j x ji (3.13) 3.3. Penggunaan Faktor Momentum Banyak variasi yang dapat dikembangkan dari penggunaan algoritma backpropagation, salah satunya adalah mengubah aturan perubahan bobot pada algoritma backpropagation persamaan 3.13, yaitu membuat perubahan bobot pada n iterasi yang secara parsial bergantung pada update yang terjadi selama (n-1) iterasi, dengan persamaan: w ji (n ) = ηδ j x ji + α w ji (n 1) (3.14) w ji (n) adalah weight-update yang dilakukan selama n iterasi dan 0 α < 1 merupakan konstanta yang disebut momentum. Dengan menambah variabel α ke dalam rumus perubahan bobot mengakibatkan konvergensi akan lebih cepat untuk mendekati itersasi yang dilakukan sesuai tahapan sampai bobot mencapai solusinya. 26
27 3.4. Pembelajaran Jaringan Sembang Acylic Pada algoritma backpropagation yang telah dijelaskan dengan menggunakan dua lapisan unit tersembunyi pada jaringan. Namun, jika algoritma backpropagation menggunakan lebih dari dua lapisan unit tersembunyi pada jaringan maka aturan perubahan bobot (Persamaan 3.13). tetap digunakan, dan hanya mengubah cara perhitungan nilai δ. Secara umum, nilai δ r untuk r unit pada m lapisanr dihitung dari nilai δ pada lapisanr m+1. δ r = o r (1 o r ) w sr δ s s layer m+1 (3.15) Pembelajaran tersebut sama-sama mengeneralisasi algoritma untuk graph langsung acyclic, tanpa memperhatikan apakah unit jaringan yang ditetapkan ada pada lapisan uniform. Aturan untuk menghitung δ untuk unit internal adalah δ r = o r (1 o r ) w sr δ s s downstream( r ) (3.16) dimana Downstream(r) adalah himpunan dari unit-unit yang turun dari unit r pada jaringan, yaitu semua unit yang input-inputnya termasuk dalam output dari unit r. 3.3 Algoritma Backpropagation Algoritma backpropagation mempelajari bobot untuk jaringan saraf buatan lapisan banyak dengan himpunan dari unit-unitnya dan saling berhubungan. Algoritma ini menggunakan gradient descent untuk mencoba 27
28 meminimalisasi kuadrat error antara nilai input dan nilai target pada jaringan. Terdapat banyak cara untuk mendefinisikan nilai error dari model (vektor bobot). Berbeda dengan persamaan (3.0) definisikan kembali E sebagai penjumlahan error dari semua unit keluaran jaringan. Proses ini merupakan salah satu ukuran yang dapat menurukan nilai error dengan tepat adalah r E (w) (t kd o kd ) d D k outputs (3.17) D adalah himpunan dari contoh data percobaan, outputnya adalah himpunan dari unit output pada jaringan, t kd dan o kd masing-masing adalah nilai target dan nilai output dengan unit output k dan contoh percobaan d. Permasalahan yang digambarkan oleh algoritma backpropagation adalah untuk mencari ruang hipotesis yang besar dan didefinisikan oleh semua nilai bobot yang mungkin untuk setiap unit pada jaringan. Salah satu perbedaan pokok pada kasus jaringan saraf buatan lapisan banyak yaitu permukaan error dapat memiliki perkalian minimum lokal. Hal ini berarti turunan gradient dapat menjamin kekonvergenan untuk beberapa minimum lokal, dan bukan error minimum global. Walaupun tidak dijaminnya konvergen ke arah global minimum, Algoritma backpropagation merupakan fungsi yang efektif dalam metode pembelajaran [11]. Fungsi error pada gradient descent dapat diilustrasikan sebagai permukaan error dengan n-dimensi, ketika kemiringan gradient 28
29 descent menurun dalam lokal minimum sehingga akan berpengaruh dalam perubahan bobot. Perbedaan performa ruang hipotesis antara algoritma backpropagation jaringan saraf buatan lapisan banyak dengan performa pembelajaran algoritma pada metode yang lain, yaitu algoritma backpropagation memiliki ruang hipotesis pada n-dimensi dari n-bobot jaringan. Dengan catatan ruang hipotesis memiliki fungsi yang kontinu. Sedangkan hipotesis pada pembelajaran algoritma yang lain seperti pembelajaran decision tree dan metode yang lain memiliki proses pencarian hipotesis yang berbeda-beda. Untuk jelasnya pembelajaran tentang decision tree menggunakan algoritma ID3 dapat ditemukan di [6]. Seperti penjelasan sebelumnya, Algoritma backpropagation diimplementasikan dengan mencari kemiringan gradient descent pada bobot jaringan, nilai error E yang diperoleh akan mengurangi iterasi yang berada diantara nilai target pada contoh percobaan dan hasil output. Karena permukaan jaringan saraf buatan lapisan banyak menggambarkan permukaan yang tidak linear pada lokal minima, Sehingga kemiringan gradient descent terdapat pada permukaan error. Hasil algoritma backpropagation akan menunjukan ke arah konvergen terhadap lokal minimum dalam mencari nilai error dan tidak membutuhkan nilai error ke arah global minimum. Nilai error minimum dapat dicari pada saat jaringan saraf buatan lapisan banyak menginisialisasikan dan dibangkitkan secara random atau 29
30 acak untuk mentukan bobot koneksi antar unit dari suatu lapisan dengan lapisan sesudahnya, jadi antar unit-unit di lapisan tersembunyi saling terkoneksi satu sama lain dengan unit-unit di lapisan tersembunyi, dan antar unit-unit di tersembunyi lapisan akan saling terkoneksi satu sama lain dengan unit-unit pada lapisan output. Nilai bobot inilah yang akan menentukan proses pembelajaran kecerdasan buatan. Pada saat proses training, nilai bobot tersebut akan terus berubah sehingga didapatkan kesesuaian antara input dengan output dengan error minimum. Dengan kata lain, Pada proses training akan menentukan nilai minimum error yang bisa di tolerir oleh jaringan saraf buatan lapisan banyak seperti yang disampaikan diatas bahwa algoritma backpropagation tidak akan memberikan kepastian jawaban untuk suatu kasus yang tidak pernah dilatihkan, pasti ada nilai error dari jawaban sistem pembelajaran dengan jawaban yang seharusnya, nilai error tersebut yang harus di definisikan sebelum melatih proses pembelajaran sehingga sistem tersebut bisa menjawab dengan tingkat kebenaran semaksimal mungkin (misal: tingkat kebenaran sistem 99,9999% dengan nilai Error ). Algoritma backpropagation merupakan proses pembelajaran yang mampu menjelaskan beberapa fungsi yang terdapat dalam data. Fungsifungsi data tersebut dapat digambarkan secara keseluruhan dengan beberapa unit yang digunakan pada lapisannya dan beberapa lapisan yang digunakan dalam jaringan. Fungsi-fungsi ini dapat dibagi menjadi tiga yaitu fungsi boolean, fungsi bernilai kontinu dan fungsi sembarang. Fungsi boolean 30
31 adalah fungsi yang rangenya hanya memiliki Z elemen, fungsi ini dapat digambarkan dengan model struktur jaringan dengan baik menggunakan jaringan terdiri dari dua lapisan. Sedangkan fungsi kontinu merupakan fungsi yang rangenya berupa interval, fungsi ini juga dapat digambarkan dengan struktur jaringan saraf buatan dengan baik menggunakan jaringan terdiri dari dua lapisan. Terakhir fungsi sembarang adalah sebuah fungsi yang berbeda dari kedua fungsi sebelumnya. fungsi ini dapat menggambarkan model struktur jaringan cukup baik dengan menggunakan tiga lapisan pada unit. Induktif bias merupakan suatu cara yang digunakan algoritma backpropagation dalam menginferensi populasi dari data percobaan. Sample data di proses dalam proses pembelajaran, kemudian performa model dari sample data tersebut diuji kembali ke populasi data percobaan. Hal ini secara praktis biasanya dapat dilakukan dengan membagi dua data menjadi data training dan data test. Tujuan pembelajaran induktif bias untuk mendapatkan performa dari sample data dengan nilai error yang relatif kecil dan dapat dibandingkan dengan performa yang dihasilkan pada data populasi. Algoritma backpropagation menggunakan jaringan lapisanr feedforward yang terdiri dari dua unit lapisan sigmoid dengan lapisan yang dihubungkan ke semua unit dari lapisan yang terdahulu. Notasi yang digunakan pada algoritma ini adalah : 31
32 a) Sebuah index menententukan setiap titik dari jaringan, dimana sebuah titik merupakan salah satu input atau output dari beberapa unit pada jaringan. b) x ij menotasikan input dari titik i ke unit j, dan w ij menotasikan hubungan bobot. c) δ n menotasikan error dengan unit n. Algoritma Backpropagation BACKPROPAGATION (Contoh percobaan, η, n in, n out, n hidden ) r r r Setiap contoh percobaan merupakan pasangan dari bentuk (x, t ), dimana x r adalah vektor dari nilai unit input, dan t adalah vektor dari nilai output jaringan target. η adalah learning rate (0,05), n in adalah bilangan dari input jaringan, n tersembunyi adalah bilangan dari unit pada lapisanr tersembunyi, dan n out adalah bilangan dari unit output. input dari unit i sampai j dinotasikan dengan x ji, dan bobot dari i sampai j dinotasikan dengan w ji. 1. Buat jaringan feedforward dengan input n in, unit tersembunyi n hiiden, dan unit output n out. 2. Inisialkan semua bobot awal jaringan ke bilangan acak yang kecil (antara -0,05 sampai 0,05). 3. Hitung output o(net ) dari setiap unit k pada jaringan. o(net) = w ji x i i =0 n + θ j 0 (3.1) 4. Hitung fungsi sigmoid( σ ) dari setiap unit k pada jaringan. σ = e o ( net ) (3.2) 32
33 5. Hitung output pada lapisan keluaran ( o k ). n o k = σ ( i =0 w ji. x i + θ j 0 ) (3.3) 6. Hitung nilai error pada lapisan output o k, dengan bentuk error( δ k ). δ k o k (1 o k )(t k o k ) (3.9) 7. Hitung nilai error pada lapisan tersembunyi h, dengan bentuk error( δ h ). δ h o k (1 o k ) w kh δ k (3.12) δ r = o r (1 o r ) w sr δ s ;Untuk jaringan uniform m-lapisan (3.15) s layer m+1 δ r = o r (1 o r ) w sr δ s s downstream( r ) 8. Hitung perubahan setiap bobot jaringan( w ji ). ; Untuk jaringan sembarang n-iterasi (3.16) w ji = ηδ j x ji ; j = k, h (3.13) w ji (n) = ηδ j x ji + α w ji (n 1) 9. Hitung perubahan bobot jaringan baru. ; Untuk n-iterasi (3.14) w ji w ji + w ji (2.8) Algoritma backpropagation akan lebih dipahami dengan melakukan proses perhitungan pada data sederhana dibawah ini. Tabel 3.1. Fungsi XOR Langkah 1. Variabel Prediktor Variabel Target x 1 x 2 t Membuat Jaringan feedforward dengan unit input n in yaitu x 1 dan x 2, terdapat 2 lapisan unit tersembunyi n hiiden yaitu z 1, z 2, z 3, z 4 dan unit output n out. 33
34 Y w 50 w 31 w 32 1 z 3 z 4 w 30 w 40 z 1 w 21 w 22 w 23 w 24 1 z 2 w 10 w 20 w 11 w 12 w 13 w 14 1 x 1 x 2 Gambar 3.2. Jaringan feedforward dengan dua lapisan unit tersembunyi Langkah 2. Setelah membuat jaringan feedforward kemudian inisialkan semua bobot jaringan ke bilangan acak yang kecil antara -0,05 sampai 0,05 dan bobot awal ditentukan secara random - Misal bobot awal unit input ke unit tersembunyi w 11 = 0,05 w 13 = 0,03 w 12 = -0,05 w 14 = -0,02 - dan bobot awal unit tersembunyi lapis 1 ke unit tersembunyi lapis 2 w 21 = 0,03 w 23 = 0,04 w 22 = -0,01 w 24 = 0,05. 34
35 - Lebih lanjut lagi bobot awal unit tersembunyi ke unit output w 31 = -0,04 w 32 = 0,05, - Bobot awal bias ke unit tersembunyi lapis 1 w 10 = -0,03 w 20 = 0,04, - Bobot awal bias ke unit tersembunyi lapis 2 w 30 = 0,02 w 40 =0,01 - Serta terakhir bobot awal bias ke unit output adalah w 50 =0,03 Langkah 3. Hitung output o(net ) dari setiap unit k pada unit tersembunyi : rumus : o(net ) = w ji x i i =0 + θ j 0 n o 1 (net) = (0,05)(1) + (0,03)(1) + (-0,03) = 0,05 o 2 (net) = (-0,05)(1) + (-0,02)(1) + (0,04) = -0,03 o 3 (net) = (0,03)(1) + (0,04)(1) + (0,02) = 0,09 o 4 (net) = (-0,01)(1) + (0,05)(1) + (0,01) = 0,05 Langkah 4. Hitung fungsi sigmoid( σ ) dari setiap unit k pada jaringan : σ = e o ( net ) 1 σ 1 (net ) = = 0, e 0, 05 1 σ 2 (net ) = = 0, e 0, 03 1 σ 3 (net ) = = 0, e 0, 09 1 σ 4 (net ) = = 0, e 0, 05 35
36 Langkah 5. Hitung output o(net ) dari setiap unit k pada lapisan keluaran output o k : n o k = w ji x i i =0 + θ j 0 = (0,52)(-0,04)+(0,51)(0,05)+0,03 = 0, o k = = = 0,5 1 + e o k 1 + e 0, 0347 Langkah 6. Setelah mendapatkan nilai output pada langkah 5, kemudian hitung error berdasarkan kesalahan untuk setiap unit output jaringan k, hitung bentuk error δ k δ k o k (1 o k )(t k o k )= (0,5) (1-0,5) (0-0,5) = -0,125 δ k merupakan error yang dipakai dalam perubahan bobot lapisan dibawahnya. o k merupakan nilai output pada jaringan keluaran dan t k adalah target keluaran. Langkah 7. Kemudian cari penjumlahan error berdasarkan error untuk setiap unit tersembunyi h, hitung bentuk error δ h δ h o k (1 o k ) w kh δ k k outputs Pertama cari penjumlahan delta rule dari unit tersembunyi, dimana δ k = -0,125 dari hasil delta rule pada unit keluaran δ k = w kh δ k k output δ 1 = (-0,125) (0,05) = -0,006 δ 2 = (-0,125) (-0,04) = 0,005 δ 3 = (-0,125) (0,04) + (-0,125)(0,05) = 0,011 δ 4 = (-0,125) (0,03) + (-0,125)(-0,01) = -0,002 δ h o k (1 o k ) w kh δ k k outputs δ 1 = (-0,006) ( 0,51) (1-0,51) = 0,001 36
37 δ 2 = (0,005) (0,52) (1-0,52) = -0,001 δ 3 = (0,011) (0,49) (1-0,49) = 0,002 δ 4 = (-0,002) (0,51) (1-0,51) = -0,0004 Langkah 8. Hitung perubahan setiap bobot jaringan( w ji ) w ji = ηδ j x ji Suku perubahan bobot keluaran w ji dengan learning rate η = 0,05, delta rule δ k = -0,125 hasil langkah 4. w ji = ηδ j x ji j=0,1,2,3,... w 50 = (0,05) (-0,125) (1) = -0,00625 w 31 =(0,05) (-0,125) (0,52) = -0,00325 w 32 =(0,05) (-0,125)(0,51) = -0,00318 Suku perubahan bobot ke unit tersembunyi w ji dengan learning rate η = 0,05, delta rule hasil delta rule langkah 5. w ji = ηδ j x ji j=0,1,2,3,.. Unit tersembunyi lapis 1 w 10 = (0,05) (0,001) (1) = 0,00005 w 20 = (0,05) (-0,001) (1) = -0,00005 w 11 = (0,05) (0,001) (1) = 0,00005 w 12 = (0,05) (-0,001) (1) = -0,00005 w 13 = (0,05) (0,001) (1) = 0,00005 w 14 = (0,05) (-0,001) (1) = -0,00005 Unit tersembunyi lapis 2 w 30 =(0,05) (-0,0004) (1) = -0,00002 w 40 =(0,05) (0,002) (1) =0,0001 w 21 =(0,05) (-0,0004) (1) = -0,
38 w 22 =(0,05) (0,002) (1) = 0,0001 w 23 =(0,05) (-0,0004) (1) = -0,00002 w 24 =(0,05) (0,002) (1) = 0,0001 Langkah 9. Hitung perubahan bobot jaringan baru. w ji w ji + w ji Perubahan bobot unit keluaran : w 50 = (0,03) + (-0,006)= 0,024 w 31 = (-0,04) + (-0,003)= -0,043 w 32 = (0,05) + (-0,003)= 0,047 Perubahan bobot unit tersembunyi layar 1 w 10 = -0,03 + 0,00005 = -0,03 w 20 = 0,04-0,00005 = 0,04 w 11 = 0,05 + 0,00005 = 0,05 w 12 = -0,05-0,00005 = -0,05 w 13 = 0,03 + 0,00005 = 0,03 w 14 = -0,02-0,00005 = -0,02 Perubahan bobot unit tersembunyi layar 2 w 30 = 0,02 0,00002 = 0,02 w 40 = 0,01 + 0,0001 = 0,01 w 21 = 0,03 0,00002 =0,03 w 22 = -0,01 +0,0001 = -0,01 w 23 = 0,04 0,00002 = 0,04 w 24 = 0,05 + 0,0001 = 0,05 lakukan iterasi sampai variabel prediktor menghasilkan unit output. 38
39 Algoritma backpropagation dimulai dari pembentukan sebuah jaringan dengan unit tersembunyi dan unit output serta menginisialisasi semua bobot jaringan ke nilai random yang kecil. Untuk setiap contoh percobaan menggunakan suatu jaringan untuk menghitung nilai error dari output jaringan, menghitung gradient descent dan kemudian mengupdate semua bobot pada jaringan. Proses ini dilakukan sampai menghasilkan klasifikasi dengan model yang tepat Analisis Multiklasifikasi Algoritma backpropagation pada jaringan saraf buatan lapisan banyak dengan beberapa unit yang terhubung dapat dikembangkan untuk permasalahan multiklasifikasi. Untuk lebih jelasnya modifikasi dari algoritma backpropagation ini masalah multiklasifikasi dijelaskan dengan contoh berikut. Tabel 3.2. Contoh Data Sederhana Variabel Prediktor Variabel Target x 1 x 2 y 1 1 a 1 0 b 0 1 c 0 0 d Diberikan contoh permasalahan data seperti tabel 3.2. Multiklasifikasi dimulai dengan membuat jaringan feedforward dengan unit input n in yaitu x 1, x 2. dan terdapat satu lapisan unit tersembunyi n hiden yaitu z 1, z 2, z 3 dan unit output yaitu a, b, c, d. 39
40 a b c d w 40 1 w 50 w60 w 22 w21 w 70 z1 w 23 w 26 w 24 w 25 w 27 z 2 w 28 w 31 w 29 w 32 w 33 z 3 w 10 w 20 w 30 w 11 X 1 w 12 w 13 w 14 w 15 w 16 1 x 2 Gambar 3.3. Struktur jaringan dengan bilangan n-arry Cara kerja dalam permasalahan multiklasifikasi memiliki kesamaan dengan binary klasifikasi yaitu membuat struktur jaringan kemudian merandom bobot jaringan dan menghitung unit output. Perbedaannya terletak pada proses perhitungan output dimana untuk kasus multiklasifikasi hasil output akan bekerja sesuai dengan proses klasifikasi, yaitu perhitungan output pada kelas A diproses melalui pembelajaran algoritma backpropagation dengan bilangan binary, jika hasil output masuk kedalam klasifikasi kelas A, maka kelas tersebut mengandung nilai 1, Sedangkan selain kelas A mengandung nilai 0. Keadaan ini dikerjakan sesuai dengan proses pembelajaran multiklasifikasi yang berarti proses binary n kali. 40
41 Cara kerja algoritma backpropagation pada jaringan saraf buatan lapisan banyak dapat diringkas dalam bentuk flowchart sebagai berikut: Start 70% Training Data 30% Test Data 1. Membuat jaringan feedforword 2. Randomize bobot w ji <0,05 Hitung n 3. o(net) = w x ji i i = σ = o ( net ) 1 + e + θ j 0 n 5. o k = σ ( w ji. x i + θ j 0 ) i =0 6. δ k o k (1 o k )(t k o k ) Tidak 7. δ h o k (1 o k ) w kh δ k 8. w ji = ηδ j x ji ; j= k,h 9. w ji w ji + w ji t d =o d d D Ya Akurasi error generalisasi End Gambar 3.4. Flowchart Algoritma Backpropagation 41
42 BAB IV STUDI NUMERIK DAN ANALISIS Pada bab ini akan dijelaskan mengenai metode jaringan saraf buatan lapisan banyak menggunakan algoritma backpropagation dalam menghasilkan error minimum dalam mencari model yang tepat. Permasalahan yang akan dibahas yaitu mengenai permasalahan klasifikasi pengenalan huruf alphabet Deskripsi Studi Numerik Metode jaringan saraf buatan lapisan banyak dapat diaplikasikan pada berbagai masalah tertentu di kehidupan sehari-hari. Untuk lebih memahami proses pengklasifikasian pada metode jaringan saraf buatan lapisan banyak dan nilai error, maka dilakukan studi numerik dengan mengambil permasalahan yang sederhana. Data-data tersebut diperoleh dari machine learning database [8]. Dalam proses kerjanya, data ini dipisahkan menjadi dua bagian yaitu training data dan test data. Pembagian data ini dilakukan secara random. Pada studi numerik disini penulis mengambil proporsi 70% training data dan 30% test data. Pengolahan data yang dilakukan dalam skripsi ini menggunakan algoritma backpropagation dengan bantuan software SPSS 16 dalam pencarian nilai errornya. Hal tersebut dilakukan karena asumsi dari data yang digunakan belum diketahui. Untuk mendapatkan nilai error yang lebih valid, percobaan tersebut dilakukan sebanyak sepuluh kali dengan sample random atau biasa dikenal dengan 10 fold cross validation (CV). 42
43 4.2. Pengenalan Huruf Alphabet Data pengenalan huruf alphabet merupakan salah satu data yang cocok untuk mengetahui pengenalan suatu pola. Permasalahan yang akan diangkat pada studi numerik adalah mencari nilai error minimum untuk mengidentifikasi setiap huruf dengan tulisan tangan berwarna hitam-putih yang terdapat dalam persegi panjang gambar digital dengan satuan pixel, huruf tersebut akan diklasifikasikan ke salah satu dari 26 huruf alphabet. Huruf-huruf tersebut berasal dari 20 bentuk huruf yang berbeda dan setiap huruf dari berbagai karakter tersebut diacak secara random. Simulasi yang dilakukan pada studi numerik ini menggunakan baris data. Cara penulisan diambil dari 20 bentuk yang berbeda menggunakan dua cara teknik penulisan, yaitu stroke style merupakan penulisan huruf yang dilakukan dengan cara mengambil dari titik atas sampai titik bawah yang terdapat dalam 6 jenis cara penulisan yaitu simplex, duplex, triplex, complex, dan ghotic. Kemudian 6 jenis huruf tersebut dimasukan ke dalam bentuk tulisan seperti Block, Script, Italic, English, Italian dan German. Setiap karakter huruf di proses pertama kali dengan merubah kedalam koordinat vektor, dan pengidentifikasian dilakukan pada garis paling bawah pada huruf. Segmen garis tersebut dirubah ukurannya menjadi koordinat (x,y) yang berbentuk persegi panjang dengan satuan pixel. Ukuran pixel akan menggambarkan titik-titik yang berwarna hitam dan putih. Posisi on pada satuan pixel yang berwarna hitam dan off satuan pixel yang berwarna putih. Setiap huruf akan diidentifikasikan pada pixel on berwarna 43
44 hitam yang akan berbentuk huruf dan pixel tersebut berukuran persegi panjang dengan ukuran 45 x 45 pixel. Nilai error minimum diproses dalam pengidentifikasian huruf dari baris data yang akan di karakteristik oleh 16 variabel prediktornya kemudian akan diproses ke dalam klasifikasi 26 huruf alphabet yang menjadi variabel target. Data pengenalan huruf tidak memuat data yang tidak lengkap (missing value). Setiap huruf diklasifikasikan berdasarkan 17 variabel yang terdiri dari satu variabel target dan 16 variabel prediktor. Variabel prediktor ini merupakan sebuah bilangan integer yang berkisar antara 0 sampai 15. Variabel ini terdiri dari: a. Variabel target: 26 huruf alphabet dari A sampai Z b. Variabel prediktor: 1. V 1 merupakan posisi horizontal dihitung dari sebelah kiri gambar dan huruf berada di tengah box 2. V 2 merupakan posisi vertikal dihitung dari bagian bawah pada box. 3. V 3 merupakan panjang box. 4. V 4 merupakan tinggi box. 5. V 5 merupakan jumlah pixel on pada huruf dalam box. 6. V 6 merupakan rataan nilai x pada pixel berwarna hitam on 7. V 7 merupakan rataan nilai y pada pixel berwarna hitam on 8. V 8 merupakan variansi rataan nilai x pada pixel berwarna hitam on 9. V 9 merupakan variansi rataan nilai y pada pixel berwarna hitam on 44
45 10. V 10 merupakan jumlah rataan x dan y pada pixel berwarna hitam on 11. V 11 merupakan variansi rataan nilai x dikalikan dengan rataan y pada pixel berwarna hitam on 12. V 12 merupakan variansi rataan nilai y dikalikan dengan rataan x pada pixel berwarna hitam on 13. V 13 merupakan rataan posisi pixel on dari kiri ke kanan. 14. V 14 merupakan jumlah posisi vertikal pada rataan posisi pixel on dari kiri ke kanan. 15. V 15 merupakan rataan posisi pixel on dari bawah ke atas. 16. V 16 merupakan jumlah posisi horizontal pada rataan posisi pixel on dari bawah ke atas. Untuk lebih jelasnya pengidentifikasian huruf alphabet menggunakan 16 variabel prediktor akan dijelaskan dengan contoh berikut. Gambar 4.1. Contoh sampel yang merepresentasikan huruf A dan Pembagian region pada sample berikut nilai pixel aktifnya Huruf A diprediksi berada dalam posisi horizontal yang dihitung dari sebelah kiri gambar dan huruf berada di tengah box pada titik koordinat 13 pixel, posisi vertikal dihitung dari bagian bawah pada box di titik koordinat 22 pixel, Sedangkan tinggi box berada pada titik koordinat 22 pixel. Jika 45
46 huruf A berada dalam karakteristik 16 variabel prediktor maka huruf tersebut sudah memiliki error minimum dan berhasil dalam mengklasifikasikan huruf alphabet. Gambar 4.2 menjelaskan struktur hasil pengidentifikasian huruf alphabet yaitu lapisan pertama terdapat baris data yang digunakan sebagai input, banyaknya unit pada dua lapisan tersembunyi yang digunakan yaitu 40 unit pada lapisan kesatu dan 30 unit pada lapisan kedua, dan lapisan terakhir merupakan target yang dihasilkan dalam pengenalan huruf alphabet Gambar 4.2 Struktur JSB untuk Data Pengenalan Huruf Alphabet 46
47 4.3. Analisis Numerik Sebuah contoh percobaan mengenai data pengenalan huruf alphabet menggambarkan perubahan nilai error dari algoritma backpropagation pada jaringan saraf buatan lapisan banyak. Hasil output yang diperoleh dari sepuluh percobaan yang dilakukan dengan parameter yaitu banyaknya unit pada dua lapisan tersembunyi yang digunakan tetap yaitu 40 unit pada lapisan kesatu dan 30 unit pada lapisan kedua, momentum(α ) = 0,9 dan nilai learning rate (η ) yang digunakan berbeda-beda. Dalam proses kerjanya, Terdapat baris data pengenalan huruf alphabet (Lampiran 2) dipisahkan menjadi dua bagian yaitu training data dan test data. Tabel 4.1 merupakan hasil SPSS 16 case processing summary dari data tersebut menjelaskan pembagian data dilakukan secara random. Pada studi numerik disini penulis mengambil proporsi 70% training data dan 30% test data sebagai berikut dibawah ini. Tabel 4.1 Hasil SPSS Case Processing Summary Percobaan Training Data Test Data Persen N Persen N 1 70% % % % % % % % % % % % % % % % % % % % 5997 Ket: N = Banyaknya data yang digunakan dalam proses studi numerik 47
BAB 2 LANDASAN TEORI
BAB 2 LANDASAN TEORI Pada bab ini akan dielaskan mengenai teori-teori yang berhubungan dengan penelitian ini, sehingga dapat diadikan sebagai landasan berpikir dan akan mempermudah dalam hal pembahasan
Lebih terperinciBAB 2 KONSEP DASAR PENGENAL OBJEK
BAB 2 KONSEP DASAR PENGENAL OBJEK 2.1 KONSEP DASAR Pada penelitian ini, penulis menggunakan beberapa teori yang dijadikan acuan untuk menyelesaikan penelitian. Berikut ini teori yang akan digunakan penulis
Lebih terperinciBAB 2 LANDASAN TEORI. Pengenalan suara (voice recognition) dibagi menjadi dua jenis, yaitu
BAB 2 LANDASAN TEORI 2.1 Pengenalan Suara. Pengenalan suara (voice recognition) dibagi menjadi dua jenis, yaitu speech recognition dan speaker recognition. Speech recognition adalah proses yang dilakukan
Lebih terperinciBAB 2 LANDASAN TEORI
BAB 2 LANDASAN TEORI 2.6. Jaringan Syaraf Tiruan Jaringan syaraf tiruan atau neural network merupakan suatu sistem informasi yang mempunyai cara kerja dan karakteristik menyerupai jaringan syaraf pada
Lebih terperinciBAB VIII JARINGAN SYARAF TIRUAN
BAB VIII JARINGAN SYARAF TIRUAN A. OTAK MANUSIA Otak manusia berisi berjuta-juta sel syaraf yang bertugas untuk memproses informasi. Tiaptiap sel bekerja seperti suatu prosesor sederhana. Masing-masing
Lebih terperinciJaringan Syaraf Tiruan. Disusun oleh: Liana Kusuma Ningrum
Jaringan Syaraf Tiruan Disusun oleh: Liana Kusuma Ningrum Susilo Nugroho Drajad Maknawi M0105047 M0105068 M01040 Jurusan Matematika Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sebelas Maret
Lebih terperinciBAB II TINJAUAN PUSTAKA
BAB II TINJAUAN PUSTAKA 2.1 JARINGAN SARAF SECARA BIOLOGIS Jaringan saraf adalah salah satu representasi buatan dari otak manusia yang selalu mencoba untuk mensimulasikan proses pembelajaran pada otak
Lebih terperinciBAB IV JARINGAN SYARAF TIRUAN (ARTIFICIAL NEURAL NETWORK)
BAB IV JARINGAN SYARAF TIRUAN (ARTIFICIAL NEURAL NETWORK) Kompetensi : 1. Mahasiswa memahami konsep Jaringan Syaraf Tiruan Sub Kompetensi : 1. Dapat mengetahui sejarah JST 2. Dapat mengetahui macam-macam
Lebih terperinciterinspirasi dari sistem biologi saraf makhluk hidup seperti pemrosesan informasi
25 BAB III JARINGAN SARAF TIRUAN (JST) 3.1 Pengertian JST JST merupakan sebuah model atau pola dalam pemrosesan informasi. Model ini terinspirasi dari sistem biologi saraf makhluk hidup seperti pemrosesan
Lebih terperinciBAB VIIB BACKPROPAGATION dan CONTOH
BAB VIIB BACKPROPAGATION dan CONTOH 7B. Standar Backpropagation (BP) Backpropagation (BP) merupakan JST multi-layer. Penemuannya mengatasi kelemahan JST dengan layer tunggal yang mengakibatkan perkembangan
Lebih terperinciBAB II DASAR TEORI Jaringan Syaraf Tiruan. Universitas Sumatera Utara
BAB II DASAR TEORI Landasan teori adalah teori-teori yang relevan dan dapat digunakan untuk menjelaskan variabel-variabel penelitian. Landasan teori ini juga berfungsi sebagai dasar untuk memberi jawaban
Lebih terperinciJaringan Syaraf Tiruan
Jaringan Syaraf Tiruan (Artificial Neural Network) Intelligent Systems Pembahasan Jaringan McCulloch-Pitts Jaringan Hebb Perceptron Jaringan McCulloch-Pitts Model JST Pertama Diperkenalkan oleh McCulloch
Lebih terperinciPenerapan Jaringan Saraf Tiruan Metode Backpropagation Menggunakan VB 6
Penerapan Jaringan Saraf Tiruan Metode Backpropagation Menggunakan VB 6 Sari Indah Anatta Setiawan SofTech, Tangerang, Indonesia cu.softech@gmail.com Diterima 30 November 2011 Disetujui 14 Desember 2011
Lebih terperinciBAB 2 LANDASAN TEORI. fuzzy logic dengan aplikasi neuro computing. Masing-masing memiliki cara dan proses
8 BAB 2 LANDASAN TEORI 2.1 Teori Neuro Fuzzy Neuro-fuzzy sebenarnya merupakan penggabungan dari dua studi utama yaitu fuzzy logic dengan aplikasi neuro computing. Masing-masing memiliki cara dan proses
Lebih terperinciBAB II LANDASAN TEORI
BAB II LANDASAN TEORI 2.1. Pengenalan Pola Pengenalan pola adalah suatu ilmu untuk mengklasifikasikan atau menggambarkan sesuatu berdasarkan pengukuran kuantitatif fitur (ciri) atau sifat utama dari suatu
Lebih terperinciJARINGAN SARAF TIRUAN (ARTIFICIAL NEURAL NETWORK) ERWIEN TJIPTA WIJAYA, ST, M.KOM
JARINGAN SARAF TIRUAN (ARTIFICIAL NEURAL NETWORK) ERWIEN TJIPTA WIJAYA, ST, M.KOM INTRODUCTION Jaringan Saraf Tiruan atau JST adalah merupakan salah satu representasi tiruan dari otak manusia yang selalu
Lebih terperinciBAB II LANDASAN TEORI
BAB II LANDASAN TEORI 2.1. Barcode Salah satu obyek pengenalan pola yang bisa dipelajari dan akhirnya dapat dikenali yaitu PIN barcode. PIN barcode yang merupakan kode batang yang berfungsi sebagai personal
Lebih terperinciArchitecture Net, Simple Neural Net
Architecture Net, Simple Neural Net 1 Materi 1. Model Neuron JST 2. Arsitektur JST 3. Jenis Arsitektur JST 4. MsCulloh Pitts 5. Jaringan Hebb 2 Model Neuron JST X1 W1 z n wi xi; i1 y H ( z) Y1 X2 Y2 W2
Lebih terperinciBAB II LANDASAN TEORI
5 BAB II LANDASAN TEORI 2.1. Citra Digital Citra digital dapat didefenisikan sebagai fungsi f(x,y) yaitu dua dimensi, dimana x dan y merupakan koordinat spasial dan f(x,y) disebut dengan intensitas atau
Lebih terperinciJaringan syaraf dengan lapisan tunggal
Jaringan syaraf adalah merupakan salah satu representasi buatan dari otak manusia yang mencoba untuk mensimulasikan proses pembelajaran pada otak manusia. Syaraf manusia Jaringan syaraf dengan lapisan
Lebih terperinciMETODOLOGI PENELITIAN
III. METODOLOGI PENELITIAN A. Kerangka Pemikiran Perusahaan dalam era globalisasi pada saat ini, banyak tumbuh dan berkembang, baik dalam bidang perdagangan, jasa maupun industri manufaktur. Perusahaan
Lebih terperinciBAB 2 TINJAUAN PUSTAKA
7 BAB 2 TINJAUAN PUSTAKA 21 Anatomi Ayam Pengetahuan tentang anatomi ayam sangat diperlukan dan penting dalam pencegahan dan penanganan penyakit Hal ini karena pengetahuan tersebut dipakai sebagai dasar
Lebih terperinciSebelumnya... Pembelajaran Mesin/Machine Learning Pembelajaran dengan Decision Tree (ID3) Teori Bayes dalam Pembelajaran
Sebelumnya... Pembelajaran Mesin/Machine Learning Pembelajaran dengan Decision Tree (ID3) Teori Bayes dalam Pembelajaran Kecerdasan Buatan Pertemuan 11 Jaringan Syaraf Tiruan (Artificial Neural Network)
Lebih terperinciBAB 3 METODOLOGI PENELITIAN
BAB 3 METODOLOGI PENELITIAN 3.1. Data Yang Digunakan Dalam melakukan penelitian ini, penulis membutuhkan data input dalam proses jaringan saraf tiruan backpropagation. Data tersebut akan digunakan sebagai
Lebih terperinciMODEL PEMBELAJARAN JARINGAN SYARAF TIRUAN UNTUK OTOMATISASI PENGEMUDIAN KENDARAAN BERODA TIGA
MODEL PEMBELAJARAN JARINGAN SYARAF TIRUAN UNTUK OTOMATISASI PENGEMUDIAN KENDARAAN BERODA TIGA Ramli e-mail:ramli.brt@gmail.com Dosen Tetap Amik Harapan Medan ABSTRAK Jaringan Syaraf Tiruan adalah pemrosesan
Lebih terperinciBAB 2 TINJAUAN PUSTAKA
7 BAB 2 TINJAUAN PUSTAKA 2.1 Jaringan Syaraf Biologi Otak manusia memiliki struktur yang sangat kompleks dan memiliki kemampuan yang luar biasa. Otak terdiri dari neuron-neuron dan penghubung yang disebut
Lebih terperinciNeural Network (NN) Keuntungan penggunaan Neural Network : , terdapat tiga jenis neural network Proses Pembelajaran pada Neural Network
Neural Network (NN) adalah suatu prosesor yang melakukan pendistribusian secara besar-besaran, yang memiliki kecenderungan alami untuk menyimpan suatu pengenalan yang pernah dialaminya, dengan kata lain
Lebih terperinciPERANCANGAN ALGORITMA KRIPTOGRAFI KUNCI SIMETRI DENGAN MENGGUNAKAN JARINGAN SARAF TIRUAN
PERANCANGAN ALGORITMA KRIPTOGRAFI KUNCI SIMETRI DENGAN MENGGUNAKAN JARINGAN SARAF TIRUAN Ibrahim Arief NIM : 13503038 Program Studi Teknik Informatika, Institut Teknologi Bandung Jl. Ganesha 10, Bandung
Lebih terperinciBAB II LANDASAN TEORI
BAB II LANDASAN TEORI 2.1 Jaringan Syaraf Biologi Jaringan Syaraf Tiruan merupakan suatu representasi buatan dari otak manusia yang dibuat agar dapat mensimulasikan apa yang dipejalari melalui proses pembelajaran
Lebih terperinciI PENDAHULUAN II LANDASAN TEORI
I PENDAHULUAN 1.1 Latar belakang Hujan merupakan salah satu unsur iklim yang berpengaruh pada suatu daerah aliran sungai (DAS). Pengaruh langsung yang dapat diketahui yaitu potensi sumber daya air. Besar
Lebih terperinciIMPLEMENTASI ALGORITMA PERCEPTRON UNTUK PENGENALAN POLA MASUKAN BINER MAUPUN BIPOLAR MENGGUNAKAN BORLAND DELPHI
IMPLEMENTASI ALGORITMA PERCEPTRON UNTUK PENGENALAN POLA MASUKAN BINER MAUPUN BIPOLAR MENGGUNAKAN BORLAND DELPHI Andi Harmin Program Studi : Teknik Komputer STMIK Profesional Makassar andiharmin1976@gmail.com
Lebih terperinciANALISA JARINGAN SARAF TIRUAN DENGAN METODE BACKPROPAGATION UNTUK MENGETAHUI LOYALITAS KARYAWAN
ANALISA JARINGAN SARAF TIRUAN DENGAN METODE BACKPROPAGATION UNTUK MENGETAHUI LOYALITAS KARYAWAN Jasmir, S.Kom, M.Kom Dosen tetap STIKOM Dinamika Bangsa Jambi Abstrak Karyawan atau tenaga kerja adalah bagian
Lebih terperinciPENGENALAN HURUF DAN ANGKA PADA CITRA BITMAP DENGAN JARINGAN SARAF TIRUAN METODE PROPAGASI BALIK
PENGENALAN HURUF DAN ANGKA PADA CITRA BITMAP DENGAN JARINGAN SARAF TIRUAN METODE PROPAGASI BALIK Naskah Publikasi disusun oleh Zul Chaedir 05.11.0999 Kepada SEKOLAH TINGGI MANAJEMEN INFORMATIKA DAN KOMPUTER
Lebih terperinciBAB 2 TINJAUAN PUSTAKA
BAB 2 TINJAUAN PUSTAKA Pada bab ini akan membahas landasan teori-teori yang bersifat ilmiah untuk mendukung penulisan skripsi ini. Teknik-teknik yang dibahas mengenai pengenalan pola, prapengolahan citra,
Lebih terperinciPERAMALAN JUMLAH KENDARAAN DI DKI JAKARTA DENGAN JARINGAN BACKPROPAGATION
PERAMALAN JUMLAH KENDARAAN DI DKI JAKARTA DENGAN JARINGAN BACKPROPAGATION (Forecast The Number of Vehicle in Jakarta Using Backpropagation Neural Net ) Zumrotus Sya diyah Universitas Darussalam Ambon,
Lebih terperinciBAB II TINJAUAN PUSTAKA
BAB II TINJAUAN PUSTAKA 2.1. Jaringan Saraf Tiruan (JST) Jaringan saraf tiruan pertama kali secara sederhana diperkenalkan oleh McCulloch dan Pitts pada tahun 1943. McCulloch dan Pitts menyimpulkan bahwa
Lebih terperinciBAB 2 LANDASAN TEORI
BAB 2 LANDASAN TEORI 2.1. Forecasting Forecasting (peramalan) adalah seni dan ilmu untuk memperkirakan kejadian di masa yang akan datang. Hal ini dapat dilakukan dengan melibatkan data historis dan memproyeksikannya
Lebih terperinciBAB II NEURAL NETWORK (NN)
BAB II NEURAL NETWORK (NN) 2.1 Neural Network (NN) Secara umum Neural Network (NN) adalah jaringan dari sekelompok unit pemroses kecil yang dimodelkan berdasarkan jaringan syaraf manusia. NN ini merupakan
Lebih terperinciBAB 2 TINJAUAN PUSTAKA
BAB 2 TINJAUAN PUSTAKA Pada bab ini akan diuraikan materi yang mendukung dalam pembahasan evaluasi implementasi sistem informasi akademik berdasarkan pengembangan model fit HOT menggunakan regresi linier
Lebih terperinciStudi Modifikasi standard Backpropagasi
Studi Modifikasi standard Backpropagasi 1. Modifikasi fungsi objektif dan turunan 2. Modifikasi optimasi algoritma Step Studi : 1. Studi literatur 2. Studi standard backpropagasi a. Uji coba standar backpropagasi
Lebih terperinciJARINGAN SYARAF TIRUAN
JARINGAN SYARAF TIRUAN 8 Jaringan syaraf adalah merupakan salah satu representasi buatan dari otak manusia yang selalu mencoba untuk mensimulasikan proses pembelajaran pada otak manusia tersebut. Istilah
Lebih terperinciBAB 2 LANDASAN TEORI
BAB 2 LANDASAN TEORI 2.1. Jaringan Syaraf Tiruan Artificial Neural Network atau Jaringan Syaraf Tiruan (JST) adalah salah satu cabang dari Artificial Intelligence. JST merupakan suatu sistem pemrosesan
Lebih terperinciJaringan Syaraf Tiruan
Jaringan Syaraf Tiruan Pendahuluan Otak Manusia Sejarah Komponen Jaringan Syaraf Arisitektur Jaringan Fungsi Aktivasi Proses Pembelajaran Pembelajaran Terawasi Jaringan Kohonen Referensi Sri Kusumadewi
Lebih terperinciBAB II LANDASAN TEORI
BAB II LANDASAN TEORI Bab ini akan dibahas mengenai teori-teori pendukung pada penelitian ini. Adapun teori tersebut yaitu teori jaringan saraf tiruan dan algoritma backpropragation. 2.1. Jaringan Saraf
Lebih terperinciBAB II. Penelitian dengan jaringan syaraf tiruan propagasi balik. dalam bidang kesehatan sebelumnya pernah dilakukan oleh
BAB II TINJAUAN PUSTAKA DAN DASAR TEORI 2.1. Tinjauan Pustaka Penelitian dengan jaringan syaraf tiruan propagasi balik dalam bidang kesehatan sebelumnya pernah dilakukan oleh Sudharmadi Bayu Jati Wibowo
Lebih terperinciARTIFICIAL NEURAL NETWORK TEKNIK PERAMALAN - A
ARTIFICIAL NEURAL NETWORK CAHYA YUNITA 5213100001 ALVISHA FARRASITA 5213100057 NOVIANTIANDINI 5213100075 TEKNIK PERAMALAN - A MATERI Neural Network Neural Network atau dalam bahasa Indonesia disebut Jaringan
Lebih terperinciNeural Networks. Machine Learning
MMA10991 Topik Khusus - Machine Learning Dr. rer. nat. Hendri Murfi Intelligent Data Analysis (IDA) Group Departemen Matematika, Universitas Indonesia Depok 16424 Telp. +62-21-7862719/7863439, Fax. +62-21-7863439,
Lebih terperinciBAB 2 TINJAUAN PUSTAKA
5 BAB 2 TINJAUAN PUSTAKA 2.1. Analisis Analisis adalah kemampuan pemecahan masalah subjek kedalam elemen-elemen konstituen, mencari hubungan-hubungan internal dan diantara elemen-elemen, serta mengatur
Lebih terperinciJARINGAN SYARAF TIRUAN UNTUK MEMPREDIKSI CURAH HUJAN SUMATERA UTARA DENGAN METODE BACK PROPAGATION (STUDI KASUS : BMKG MEDAN)
JARINGAN SYARAF TIRUAN UNTUK MEMPREDIKSI CURAH HUJAN SUMATERA UTARA DENGAN METODE BACK PROPAGATION (STUDI KASUS : BMKG MEDAN) Marihot TP. Manalu Mahasiswa Program Studi Teknik Informatika, STMIK Budidarma
Lebih terperinciBAB II DASAR TEORI. 2.1 Meter Air. Gambar 2.1 Meter Air. Meter air merupakan alat untuk mengukur banyaknya aliran air secara terus
BAB II DASAR TEORI 2.1 Meter Air Gambar 2.1 Meter Air Meter air merupakan alat untuk mengukur banyaknya aliran air secara terus menerus melalui sistem kerja peralatan yang dilengkapi dengan unit sensor,
Lebih terperinciFAKULTAS SAINS DAN TEKNOLOGI UIN SUSKA RIAU. IIS AFRIANTY, ST., M.Sc
IIS AFRIANTY, ST., M.Sc Sistem Penilaian Tugas dan Keaktifan : 15% Quiz : 15% UTS : 35% UAS : 35% Toleransi keterlambatan 15 menit Handphone: Silent Costume : aturan UIN Laki-laki Perempuan Menggunakan
Lebih terperinciBab 5 Penerapan Neural Network Dalam Klasifikasi Citra Penginderaan Jauh
Penerapan Neural Dalam Klasifikasi Citra Penginderaan Jauh Klasifikasi citra penginderaan jarak jauh (inderaja) merupakan proses penentuan piksel-piksel masuk ke dalam suatu kelas obyek tertentu. Pendekatan
Lebih terperinciVIII.PENGANTAR JARINGAN SYARAF TIRUAN (JST)
VIII.PENGANTAR JARINGAN SYARAF TIRUAN (JST) 3 JARINGAN SYARAF BIOLOGIS (JSB) Otak manusia berisi sekitar 0 sel syaraf (neuron) yang bertugas untuk memproses informasi yang masuk. Tiap sel syaraf dihubungkan
Lebih terperinciBAB III METODOLOGI PENELITIAN
19 BAB III METODOLOGI PENELITIAN 3.1. Kerangka Pemikiran Kerangka pemikiran untuk penelitian ini seperti pada Gambar 9. Penelitian dibagi dalam empat tahapan yaitu persiapan penelitian, proses pengolahan
Lebih terperinciArchitecture Net, Simple Neural Net
Architecture Net, Simple Neural Net 1 Materi 1. Perceptron 2. ADALINE 3. MADALINE 2 Perceptron Perceptron lebih powerful dari Hebb Pembelajaran perceptron mampu menemukan konvergensi terhadap bobot yang
Lebih terperinciBACK PROPAGATION NETWORK (BPN)
BACK PROPAGATION NETWORK (BPN) Arsitektur Jaringan Digunakan untuk meminimalkan error pada output yang dihasilkan oleh jaringan. Menggunakan jaringan multilayer. Arsitektur Jaringan Proses belajar & Pengujian
Lebih terperinciBAB II DASAR TEORI. 2.1 Citra Digital
BAB II DASAR TEORI 2.1 Citra Digital Citra digital didefinisikan sebagai fungsi f (x,y) dua dimensi,dimana x dan y adalah koordinat spasial dan f(x,y) adalah disebut dengan intensitas atau tingkat keabuan
Lebih terperinciBACKPROPAGATION NEURAL NETWORK AS A METHOD OF FORECASTING ON CALCULATION INFLATION RATE IN JAKARTA AND SURABAYA
BACKPROPAGATION NEURAL NETWORK AS A METHOD OF FORECASTING ON CALCULATION INFLATION RATE IN JAKARTA AND SURABAYA Anggi Purnama Undergraduate Program, Computer Science, 2007 Gunadarma Universiy http://www.gunadarma.ac.id
Lebih terperinciANALISA JARINGAN SARAF TIRUAN DENGAN METODE BACKPROPAGATION UNTUK MEMPREDIKSI PRODUKTIVITAS PEGAWAI. Jasmir, S.Kom, M.Kom
ANALISA JARINGAN SARAF TIRUAN DENGAN METODE BACKPROPAGATION UNTUK MEMPREDIKSI PRODUKTIVITAS PEGAWAI Jasmir, S.Kom, M.Kom Dosen tetap STIKOM Dinamika Bangsa Jambi Abstrak Pegawai atau karyawan merupakan
Lebih terperinciBAB III ANALISIS DAN PERANCANGAN
32 BAB III ANALISIS DAN PERANCANGAN Pada bab ini akan dibahas tentang analisis sistem melalui pendekatan secara terstruktur dan perancangan yang akan dibangun dengan tujuan menghasilkan model atau representasi
Lebih terperinciRANCANG BANGUN TOOL UNTUK JARINGAN SYARAF TIRUAN (JST) MODEL PERCEPTRON
RANCANG BANGUN TOOL UNTUK JARINGAN SYARAF TIRUAN (JST) MODEL PERCEPTRON Liza Afriyanti Laboratorium Komputasi dan Sistem Cerdas Jurusan Teknik Informatika, Fakultas Teknologi Industri,Universitas Islam
Lebih terperinciFarah Zakiyah Rahmanti
Farah Zakiyah Rahmanti Latar Belakang Struktur Dasar Jaringan Syaraf Manusia Konsep Dasar Permodelan JST Fungsi Aktivasi JST Contoh dan Program Jaringan Sederhana Metode Pelatihan Supervised Learning Unsupervised
Lebih terperinciPERANCANGAN PROGRAM PENGENALAN BENTUK MOBIL DENGAN METODE BACKPROPAGATION DAN ARTIFICIAL NEURAL NETWORK SKRIPSI
PERANCANGAN PROGRAM PENGENALAN BENTUK MOBIL DENGAN METODE BACKPROPAGATION DAN ARTIFICIAL NEURAL NETWORK SKRIPSI Oleh Nama : Januar Wiguna Nim : 0700717655 PROGRAM GANDA TEKNIK INFORMATIKA DAN MATEMATIKA
Lebih terperinciPERANCANGAN SISTEM PENGENALAN DAN PENYORTIRAN KARTU POS BERDASARKAN KODE POS DENGAN MENGGUNAKAN ARTIFICIAL NEURAL NETWORK
PERANCANGAN SISTEM PENGENALAN DAN PENYORTIRAN KARTU POS BERDASARKAN KODE POS DENGAN MENGGUNAKAN ARTIFICIAL NEURAL NETWORK OLEH ARIF MIFTAHU5R ROHMAN (2200 100 032) Pembimbing: Dr. Ir Djoko Purwanto, M.Eng,
Lebih terperinciPREDIKSI CURAH HUJAN DI KOTA MEDAN MENGGUNAKAN METODE BACKPROPAGATION NEURAL NETWORK
PREDIKSI CURAH HUJAN DI KOTA MEDAN MENGGUNAKAN METODE BACKPROPAGATION NEURAL NETWORK Yudhi Andrian 1, Erlinda Ningsih 2 1 Dosen Teknik Informatika, STMIK Potensi Utama 2 Mahasiswa Sistem Informasi, STMIK
Lebih terperinciPENERAPAN JARINGAN SYARAF TIRUAN DALAM MEMPREDIKSI TINGKAT PENGANGGURAN DI SUMATERA BARAT
PENERAPAN JARINGAN SYARAF TIRUAN DALAM MEMPREDIKSI TINGKAT PENGANGGURAN DI SUMATERA BARAT Havid Syafwan Program Studi Manajemen Informatika, Amik Royal, Kisaran E-mail: havid_syafwan@yahoo.com ABSTRAK:
Lebih terperinciSATIN Sains dan Teknologi Informasi
SATIN - Sains dan Teknologi Informasi, Vol. 2, No. 1, Juni 2015 SATIN Sains dan Teknologi Informasi journal homepage : http://jurnal.stmik-amik-riau.ac.id Jaringan Syaraf Tiruan untuk Memprediksi Prestasi
Lebih terperinciBAB 3 PERANCANGAN SISTEM. Bab ini menguraikan analisa penelitian terhadap metode Backpropagation yang
BAB 3 PERANCANGAN SISTEM Bab ini menguraikan analisa penelitian terhadap metode Backpropagation yang diimplementasikan sebagai model estimasi harga saham. Analisis yang dilakukan adalah menguraikan penjelasan
Lebih terperinciBAB 1 PENDAHULUAN. 1.1 Latar Belakang
1 BAB 1 PENDAHULUAN 1.1 Latar Belakang Perangkat keras komputer berkembang dengan pesat setiap tahunnya selalu sudah ditemukan teknologi yang lebih baru. Meskipun demikian masih banyak hal yang belum dapat
Lebih terperinciNEURAL NETWORK BAB II
BAB II II. Teori Dasar II.1 Konsep Jaringan Saraf Tiruan (Artificial Neural Network) Secara biologis jaringan saraf terdiri dari neuron-neuron yang saling berhubungan. Neuron merupakan unit struktural
Lebih terperinciPengembangan Aplikasi Prediksi Pertumbuhan Ekonomi Indonesia dengan Jaringan Syaraf Tiruan Backpropagation
Erlangga, Sukmawati Nur Endah dan Eko Adi Sarwoko Pengembangan Aplikasi Prediksi Pertumbuhan Ekonomi Indonesia dengan Jaringan Syaraf Tiruan Backpropagation Erlangga, Sukmawati Nur Endah dan Eko Adi Sarwoko
Lebih terperinciKlasifikasi Pola Huruf Vokal dengan Menggunakan Jaringan Saraf Tiruan
JURNAL TEKNIK POMITS 1-7 1 Klasifikasi Pola Huruf Vokal dengan Menggunakan Jaringan Saraf Tiruan Dhita Azzahra Pancorowati, M. Arief Bustomi Jurusan Fisika, Fakultas Matematika dan Ilmu Pengetahuan Alam,
Lebih terperinciBAB 1 PENDAHULUAN Latar Belakang
BAB 1 PENDAHULUAN 1.1. Latar Belakang Pengklasifikasian merupakan salah satu metode statistika untuk mengelompok atau menglasifikasi suatu data yang disusun secara sistematis. Masalah klasifikasi sering
Lebih terperinciSATIN Sains dan Teknologi Informasi
SATIN - Sains dan Teknologi Informasi, Vol. 2, No., Juni 206 SATIN Sains dan Teknologi Informasi journal homepage : http://jurnal.stmik-amik-riau.ac.id Penerapan Jaringan Syaraf Tiruan Untuk Estimasi Needs
Lebih terperinci1.1. Jaringan Syaraf Tiruan
BAB I PENDAHULUAN 1.1. Jaringan Syaraf Tiruan Jaringan Syaraf Tiruan (JST) adalah sistem pemroses informasi yang memiliki karakteristik mirip dengan jaringan syaraf biologi yang digambarkan sebagai berikut
Lebih terperinciANALISIS PENAMBAHAN NILAI MOMENTUM PADA PREDIKSI PRODUKTIVITAS KELAPA SAWIT MENGGUNAKAN BACKPROPAGATION
ANALISIS PENAMBAHAN NILAI MOMENTUM PADA PREDIKSI PRODUKTIVITAS KELAPA SAWIT MENGGUNAKAN BACKPROPAGATION Eka Irawan1, M. Zarlis2, Erna Budhiarti Nababan3 Magister Teknik Informatika, Universitas Sumatera
Lebih terperinciBAB 2 LANDASAN TEORI. memungkinkan sistem komputer membaca secara otomatis nomor kendaraan dari gambar digital
BAB 2 LANDASAN TEORI 2. License plate recognition [4] License plate recognition (LPR) adalah jenis teknologi, terutama perangkat lunak, yang memungkinkan sistem komputer membaca secara otomatis nomor kendaraan
Lebih terperinciJARINGAN SYARAF TIRUAN (ARTIFICIAL NEURAL NETWORK) Pertemuan 11 Diema Hernyka Satyareni, M.Kom
JARINGAN SYARAF TIRUAN (ARTIFICIAL NEURAL NETWORK) Pertemuan 11 Diema Hernyka Satyareni, M.Kom Outline Konsep JST Model Struktur JST Arsitektur JST Aplikasi JST Metode Pembelajaran Fungsi Aktivasi McCulloch
Lebih terperinciEVALUASI PENGARUH FUNGSI AKTIFASI DAN PARAMETER KEMIRINGANNYA TERHADAP UNJUKKERJA PENGENALAN JARINGAN SYARAF TIRUAN
EVALUASI PENGARUH FUNGSI AKTIFASI DAN PARAMETER KEMIRINGANNYA TERHADAP UNJUKKERJA PENGENALAN JARINGAN SYARAF TIRUAN (Studi Kasus pada Pengenalan Karakter Angka Tulisan Tangan) Iwan Suhardi Jurusan Teknik
Lebih terperinciJurnal Ilmiah Komputer dan Informatika (KOMPUTA) IMPLEMENTASI JARINGAN SYARAF TIRUAN BACKPROPAGATION UNTUK MENGENALI MOTIF BATIK
IMPLEMENTASI JARINGAN SYARAF TIRUAN BACKPROPAGATION UNTUK MENGENALI MOTIF BATIK Fany Hermawan Teknik Informatika Universitas Komputer Indonesia Jl. Dipatiukur 112-114 Bandung E-mail : evan.hawan@gmail.com
Lebih terperinciBAB II TEORI DASAR. Gambar 2.1 Anatomi Jantung
4 BAB II TEORI DASAR 2.1. Jantung Jantung merupakan otot tubuh yang bersifat unik karena mempunyai sifat membentuk impuls secara automatis dan berkontraksi ritmis [4], yang berupa dua pompa yang dihubungkan
Lebih terperinciBAB 2 TINJAUAN PUSTAKA. menggunakan teknik statistik, matematika, kecerdasan buatan, tiruan dan machinelearning
BAB 2 TINJAUAN PUSTAKA 2.1. Data Mining Data mining adalah kombinasi secara logis antara pengetahuan data, dan analisa statistik yang dikembangkan dalam pengetahuan bisnis atau suatu proses yang menggunakan
Lebih terperinciBAB II MODEL NEURON DAN ARSITEKTUR JARINGAN
BAB II MODEL NEURON DAN ARSITEKTUR JARINGAN Neuron adalah unit pemroses informasi yang menjadi dasar dalam pengoperasian JST. Neuron terdiri dari 3 elemen: Himpunan unit2 yang dihubungkan dengan jalus
Lebih terperinciPerbandingan Arsitektur Multilayer Feedforward Network dengan memakai Topologi Multiprosesor Ring Array Dan Linear Array
Nico Saputro Perbandingan Arsitektur Multilayer Feedforard Netork dengan memakai Topologi Multiprosesor Ring Array Dan Linear Array Abstrak Jaringan Syaraf Tiruan dapat diimplementasikan secara perangkat
Lebih terperinciBAB III METODE PENELITIAN. menjawab segala permasalahan yang ada dalam penelitian ini.
BAB III METODE PENELITIAN Pada bab ini akan dijelaskan bahan yang digunakan dalam membantu menyelesaikan permasalahan, dan juga langkah-langkah yang dilakukan dalam menjawab segala permasalahan yang ada
Lebih terperinciSISTEM PENGENALAN KARAKTER DENGAN JARINGAN SYARAF TIRUAN ALGORITMA PERCEPTRON
Jurnal Informatika Mulawarman Vol. 7 No. 3 Edisi September 2012 105 SISTEM PENGENALAN KARAKTER DENGAN JARINGAN SYARAF TIRUAN ALGORITMA PERCEPTRON Anindita Septiarini Program Studi Ilmu Komputer FMIPA,
Lebih terperinciAPLIKASI JARINGAN SYARAF TIRUAN DALAM PENGHITUNGAN PERSENTASE KEBENARAN KLASIFIKASI PADA KLASIFIKASI JURUSAN SISWA DI SMA N 8 SURAKARTA
APLIKASI JARINGAN SYARAF TIRUAN DALAM PENGHITUNGAN PERSENTASE KEBENARAN KLASIFIKASI PADA KLASIFIKASI JURUSAN SISWA DI SMA N 8 SURAKARTA Pembimbing: Desi Fitria Utami M0103025 Drs. Y. S. Palgunadi, M. Sc
Lebih terperinciKLASIFIKASI ARITMIA EKG MENGGUNAKAN JARINGAN SYARAF TIRUAN DENGAN FUNGSI AKTIVASI ADAPTIF
KLASIFIKASI ARITMIA EKG MENGGUNAKAN JARINGAN SYARAF TIRUAN DENGAN FUNGSI AKTIVASI ADAPTIF Asti Rahma Julian 1, Nanik Suciati 2, Darlis Herumurti 3 Teknik Informatika, Fakultas Teknologi Informasi, ITS
Lebih terperinciBAB VIII PENGANTAR JARINGAN SYARAF TIRUAN (JST)
BAB VIII PENGANTAR JARINGAN SYARAF TIRUAN (JST) 8.1 Komponen Jaringan Syaraf JARINGAN SYARAF BIOLOGIS (JSB) Otak manusia berisi sekitar 10 11 sel syaraf (neuron) yang bertugas untuk memproses informasi
Lebih terperinciPENGENALAN KARAKTER ALFANUMERIK MENGGUNAKAN METODE BACKPROPAGARATION
PENGENALAN KARAKTER ALFANUMERIK MENGGUNAKAN METODE BACKPROPAGARATION Amriana 1 Program Studi D1 Teknik Informatika Jurusan Teknik Elektro Fakultas Teknik UNTAD ABSTRAK Jaringan saraf tiruan untuk aplikasi
Lebih terperinciMODEL N EURON NEURON DAN
1 MODEL NEURON DAN ARSITEKTUR JARINGAN 1 1 Model Neuron Mengadopsi esensi dasar dari system syaraf biologi, syaraf tiruan digambarkan sebagai berikut : Menerima input atau masukan (baikdari data yang dimasukkan
Lebih terperinciAPLIKASI JARINGAN SYARAF TIRUAN PADA PENGENALAN POLA TULISAN DENGAN METODE BACKPROPAGATION
APLIKASI JARINGAN SYARAF TIRUAN PADA PENGENALAN POLA TULISAN DENGAN METODE BACKPROPAGATION Alvama Pattiserlihun, Andreas Setiawan, Suryasatriya Trihandaru Program Studi Fisika, Fakultas Sains dan Matematika,
Lebih terperinciIMPLEMENTASI JARINGAN SYARAF TIRUAN METODE BACKPROPAGATION UNTUK MEMPREDIKSI HARGA SAHAM
IMPLEMENTASI JARINGAN SYARAF TIRUAN METODE BACKPROPAGATION UNTUK MEMPREDIKSI HARGA SAHAM Ayu Trimulya 1, Syaifurrahman 2, Fatma Agus Setyaningsih 3 1,3 Jurusan Sistem Komputer, Fakultas MIPA Universitas
Lebih terperinciBAB 2 LANDASAN TEORI. Universitas Sumatera Utara
BAB 2 LANDASAN TEORI 2.1 Ginjal Ginjal adalah organ tubuh yang berfungsi untuk mengeluarkan urine, yang merupakan sisa hasil metabolisme tubuh dalam bentuk cairan. Ginjal terletak pada dinding bagian luar
Lebih terperinciAPLIKASI JARINGAN SYARAF TIRUAN UNTUK MEMPREDIKSI VOLUME PEMAKAIAN AIR BERSIH DI KOTA PONTIANAK
APLIKASI JARINGAN SYARAF TIRUAN UNTUK MEMPREDIKSI VOLUME PEMAKAIAN AIR BERSIH DI KOTA PONTIANAK [1] Meishytah Eka Aprilianti, [2] Dedi Triyanto, [3] Ilhamsyah [1] [2] [3] Jurusan Sistem Komputer, Fakultas
Lebih terperinciBab 4 Model Neural Network
Model Jaringan Neural Buatan (JNB) merupakan suatu sistem yang dibangun berdasarkan cara kerja neural pada makhluk hidup (neural biologis) Neural biologis terdiri atas sel neural yang disebut neuron yang
Lebih terperinciBAB III METODE PENELITIAN
BAB III METODE PENELITIAN 3.1 Variabel Penelitian Penelitian ini menggunakan satu definisi variabel operasional yaitu ratarata temperatur bumi periode tahun 1880 sampai dengan tahun 2012. 3.2 Jenis dan
Lebih terperinciBAB III LANDASAN TEORI
BAB III LANDASAN TEORI 3.1. Citra Digital Citra digital adalah suatu citra elektronik yang diambil dari dokumen, seperti foto, buku, maupun sebuah video. Proses perubahan citra analog menjadi citra digital
Lebih terperinciBAB III PERANCANGAN SISTEM
BAB III PERANCANGAN SISTEM Dalam pengerjaan perancangan dan pembuatan aplikasi pengenalan karakter alfanumerik JST algoritma Hopfield ini menggunakan software Borland Delphi 7.0. 3.1 Alur Proses Sistem
Lebih terperinciBAB 2 TINJAUAN PUSTAKA
BAB 2 TINJAUAN PUSTAKA 2. Jaringan Saraf Tiruan Jaringan saraf tiruan (JST) pertama kali diperkenankan oleh McCulloch dan Walter Pitts pada tahun 943. Jaringan saraf tiruan merupakan suatu sistem pemrosesan
Lebih terperinci