Implementasi Jaringan Syaraf Tiruan Backpropagation dan Steepest Descent untuk Prediksi Data Time Series Oleh: ABD. ROHIM (1206 100 058) Dosen Pembimbing: Prof. Dr. M. Isa Irawan, MT Jurusan Matematika Fakultas Matematika dan Ilmu Pengetahuan Alam Institut Teknologi Sepuluh Nopember Surabaya 2011
Latar Belakang Perkembangan teknologi informasi Kebutuhan informasi secara cepat dan akurat Jaringan Syaraf Tiruan Backpropagation dan Steepest Descent Prediksi data time series (harga penutupan saham)
Rumusan Masalah 1. Bagaimana mengimplementasikan metode backpropagation untuk prediksi data time series 2. Bagaimana mengimplementasikan metode steepest descent untuk prediksi data time series 3. Bagaimana perbandingan hasil prediksi data time series antara metode backpropagation dengan steepest descent Batasan Masalah 1. Data yang digunakan adalah data harian harga penutupan saham pada periode tanggal 4 Januari 2010 sampai tanggal 30 Desember 2010 2. Analisis yang dilakukan terhadap data time series bersifat teknikal. Artinya, identifikasi terhadap faktor-faktor fundamental seperti: faktor ekonomi, politik, reaksi investor, dan lain-lain, diabaikan 3. Untuk mengukur error dalam prediksi data time series digunakan Mean Squared Error (MSE) 4. Sistem dibuat dengan menggunakan bahasa pemrograman Java Netbeans IDE 6.8 beserta beberapa komponen tambahannya
Tujuan 1. Mengimplementasikan metode backpropagation untuk prediksi data time series 2. Bagaimana mengimplementasikan metode steepest descent untuk prediksi data time series 3. Membandingan hasil prediksi data time series antara metode backpropagation dengan steepest descent Manfaat 1. Memberikan informasi/panduan yang praktis untuk sistem prediksi data time series menggunakan metode backpropagation dan steepest descent 2. Dapat dijadikan sebagai acuan dalam pemilihan metode prediksi data time series untuk pengembangan penelitian selanjutnya.
Time Series Time series adalah himpunan nilai-nilai hasil pengamatan X(t) yang diamati berdasar periode waktu dan disusun untuk melihat pengaruh perubahan dalam rentang waktu tertentu [7]. Prediksi data time series adalah pendugaan data yang akan datang yang dilakukan berdasarkan nilai data masa lalu dari suatu variabel [5]. Prediksi data time series dapat diterapkan bila terdapat tiga kondisi berikut [5]: Tersedia informasi tentang masa lalu. Informasi dapat dikuantitatifkan dalam bentuk data numerik. Dapat diasumsikan bahwa beberapa aspek pola masa lalu akan terus berlanjut di masa mendatang
Jaringan Syaraf Tiruan Jaringan syaraf tiruan (JST) merupakan suatu model matematis yang berupa sistem pengolah informasi yang mengimitasi jaringan syaraf biologis. Jaringan syaraf biologis yang ditunjukkan pada Gambar 2.1 yang merupakan kumpulan dari sel-sel syaraf (neuron) yang mempunyai tugas mengolah informasi. Komponen-komponen utama dari sebuah neuron sebagai berikut [7]: a. Dendrit yang bertugas untuk menerima informasi b. Badan sel (soma), berfungsi sebagai tempat pengolahan informasi c. Akson (neurit), mengirimkan impuls-impuls ke sel syaraf lainnya. Gambar 2.1 Sel syaraf biologis
Arsitektur JST Gambar 2.2 menunjukkan arsitektur dasar dari JST satu neuron yang menganalogikan sel syaraf biologis, dan model arsitektur dasar dari JST tersebut dapat diamsusikan sebagai berikut: 1. Masukan sebagai input yang berfungsi sebagai penerima sinyal. 2. Bobot koneksi untuk menyimpan informasi. 3. Bias yang berfungsi mengatur daerah nilai ambang. 4. Elemen pemroses (J) dan fungsi aktifasi untuk memroses informasi. 5. Keluaran sebagai output yang akan menyampaikan hasil pemrosesan informasi ke sel berikutnya. Gambar 2.2 Analogi sel biologis dengan satu neuron tiruan
Metode Backpropagation Secara garis besar, training jaringan dengan metode backpropagation meliputi 3 (tiga) tahap [2]: 1. Tahap maju (feedforward) 2. Tahap perhitungan eror propagasi-balik (backpropagation of error) 3. Tahap pembaharuan bobot dan bias (adjustment of the weights and biases) Fungsi aktivasi Fungsi aktivasi digunakan adalah fungsi sigmoid biner yang mempunyai interval [0, 1] dan difenisikan sebagai berikut [2]: dengan:
Metode Steepest Descent Metode Steepest Descent dikenal sebagai metode gradient dan merupakan teknik meminimalisasi untuk fungsi yang mempunyai ruang input multidimensional [3]. Algoritma steepest descent diterapkan dalam JST multilayer feedforward dengan 3 layer, yaitu input layer, hidden layer, dan output layer dan algoritma yang dipilih untuk implementasinya adalah algoritma backpropagation [3]. Selama proses training jaringan, algoritma steepest descent diimplementasikan dalam tahap perhitungan eror propagasi-balik (backpropagation of error), dan tahap pembaharuan bobot dan bias (adjustment of the weights and biases).
Media yang Digunakan Spesifikasi Perangkat Keras (Hardware) 1. Prosesor Intel(R) Core(TM)2 Duo T6600 2,20 GHz 2. Memory 2 GB DDR2 3. Harddisk ST9320423AS ATA 320 GB Spesifikasi Perangkat Lunak (Software) 1. Sistem operasi Microsoft Windows 7 Ultimate 2. Bahasa pemrograman menggunakan Java Netbeans IDE 6.8 beserta beberapa komponen tambahannya
Proses Prediksi Data 1. Pengumpulan Data Data yang digunakan adalah data harian harga penutupan saham PT. Indofood Sukses Makmur, Tbk dan PT. Gudang Garam, Tbk. Data tersebut didapat dari http://finance-yahoo.com. Data diambil pada periode tanggal 4 Januari 2010sampai tanggal 30 Desember 2010. 2. Preprosesing Data Preposesing data merupakan tahap menganalisis variabel input dan output yang membantu jaringan dalam mempelajari pola-pola yang relevan [4]. Variabel input data yang digunakan untuk prediksi akan diskala pada selang [0,1], dengan menggunakan persamaan sebagai berikut:
Proses Prediksi Data 3. Struktur Data Input Banyak data input pada proses training sebanyak 90 % awal dari data keseluruhan dan pada proses testing sebanyak 10% terakhir dari data keseluruhan. 4. Arsitektur Jaringan Penentuan arsitektur jaringan yang digunakan sebagai berikut: a. Menentukan jenis jaringan, yaitu jaringan syaraf tiruan multilayer feedforward. b. Menentukan jumlah layer pada jaringan yaitu 3 (tiga) layer, yang terdiri dari 1 input layer, 1 hidden layer, dan 1 output layer. c. Menentukan jumlah node pada tiap layer, yaitu 25 node pada input layer, 5 node pada hidden layer, dan 1 node pada output layer.
Perancangan Sistem Berikut adalah diagram alir skema umum perancangan sistem:
Uji Coba Sistem Uji Coba Data PT. Indofood Sukses Makmur, Tbk Dari hasil uji coba untuk mencari MSE yang minimum, didapatkan nilai parameter yang digunakan proses training dan testing untuk metode backpropagation adalah eror minimum = 0.001, learning rate = 0.4, maksimum iterasi = 1000 dan untuk metode steepest descent adalah eror minimum = 0.001, learning rate = 0.03, maksimum iterasi = 1000. Uji Coba Data PT. Gudang Garam, Tbk Dari hasil uji coba untuk mencari MSE yang minimum, didapatkan nilai parameter yang digunakan proses training dan testing selanjutnya untuk metode backpropagation adalah eror minimum = 0.001, learning rate = 0.3, maksimum iterasi = 1000 dan steepest descent adalah eror minimum = 0.001, learning rate = 0.03, maksimum iterasi = 1000.
Perbandingan Perbandingan MSE antara metode backpropagation dengan steepest descent pada data harga penutupan saham PT. Indofood Sukses Makmur, Tbk Perbandingan MSE antara metode backpropagation dengan steepest descent pada data harga penutupan saham PT. Gudang Garam, Tbk
Perbandingan Perbandingan hasil prediksi data short term antara metode backpropagation dengan steepest descent pada data harga penutupan saham PT. Indofood Sukses Makmur, Tbk Perbandingan hasil prediksi data short term antara metode backpropagation dengan steepest descent pada data harga penutupan saham PT. Gudang Garam, Tbk
Kesimpulan 1. Data harga penutupan saham PT. Indofood Sukses Makmur, Tbk menghasilkan MSE terkecil dengan nilai learning rate = 0.4 untuk metode backpropagation, dan learning rate = 0.03 untuk metode steepest descent. Sedangkan data harga penutupan saham PT. Gudang Garam, Tbk menghasilkan MSE terkecil dengan nilai learning rate = 0.3 untuk metode backpropagation, dan learning rate = 0.03 untuk metode steepest descent. 2. Untuk kedua data harga penutupan saham yang diambil sampel, hasil MSE dengan metode backpropagation lebih baik (lebih kecil) dari pada hasil MSE dengan metode steepest descent. 3. Data hasil prediksi dengan metode backpropagation pada kedua data harga penutupan saham lebih baik (mendekati nilai data aktual) dari pada data hasil prediksi dengan metode steepest descent.
Saran 1. Menambahkan perameter, misal momentum pada algoritma backpropagation untuk mengetahui bagaimana pengaruh terhadap kinerja jaringan syaraf pada nilai MSE dan hasil prediksi data. 2. Mengimplementasikan metode backpropagation dan steepest descent untuk permasalahan yang lain, misal pengenalan wajah.
[1] Adeli, H. (1994). An Adaptive Conjugate Gradient Learning Algorithm for Efficient Training of Neural Networks, Elsevier Science Inc. New York, USA [2] Fausett, L. (1994), Fundamental of Neural Networks: Architectures, Algorithms dan Aplications, Prentice-Hall Inc., USA [3] Jang, J. (1997). Neuro-Fuzzy and Soft Computing: A Computational Approach to Learning and Machine Intelligence, Prentice-Hall, Inc. USA [4] Kaastra, I. (1996). Designing a Neural Network for Forecasting Financial and Economic Time Series, Elsevier Science B.V., Canada [5] Makridakis, S. (1999), Metode dan Aplikasi Peramalan, Binarupa Aksara, Jakarta [6] Paul, D. (2005). Neural Networks in Finance: Gaining Predictive Edge in the Market, Elsevier Inc. All rights reserved, USA. [7] Sumarno, (2009). Aplikasi Wavelet Recurrent Neural Network Untuk Prediksi Data Time Series, Matematika ITS, Surabaya. [8] Galuh, U. (2006). Penggunaan Algoritma Genetika dan Artificial Neural Network untuk Peramalan Harga Saham, Teknik dan Manajemen Industri ITB, Bandung. [9] Yahoo Finansial, http://finance-yahoo.com, 31 Desember 2010.