PERAMALAN CURAH HUJAN WILAYAH SEMARANG BARAT DENGAN ALGORITMA RESILIENT BACKPROPAGATION

Transkripsi

1 PERAMALAN CURAH HUJAN WILAYAH SEMARANG BARAT DENGAN ALGORITMA RESILIENT BACKPROPAGATION Wellie Sulistanti Abstract- Tuuan dari penelitian ini untu mengapliasian cara era aringan syaraf tiruan dengan menggunaan algoritma Resilient untu peramalan curah huan di wilayah ota Semarang barat dimana algoritma ini diembangan dengan melauan perubahan bobot dan bias aringan sesuai dengan perilau gradient dari setiap iterasi pelatihan hanya dengan cara menggunaan tanda turunannya saa. Tanda turunan ini aan menentuan arah perbaian bobot-bobot, sehingga umlah iterasi yang diperluan untu mencapai target yang diingginan lebih sediit. Penelitian ini menggunaan data curah huan wilayah Sematang barat Januari 2003 s.d. Desember 2012 data musiman. Hasil simulasi dengan umlah data pelatihan dan umlah data penguian 50%: 50%, 70%:30% dan 80%:20% diperoleh arsitetur terbai algoritma Resilient untu MSE pelatihan 0,1dengan umlah data pelatihan 80% dan data penguian 20% adalah 1 neuron input, 1 lapisan hidden dengan 18 neuron, dan 1 neuron output (1-18-1) dengan parameter = 1,2 dan = 0,5 menunuan ecepatan watu dan umlah epoch yang lebih banya dibandingan dengan Keywords Algoritma Resilientmalan dengan prosessti yang nil P M 1. PENDAHULUAN eramalan atau predisi terhadap curah huan di wilayah ota Semarang barat di tahun-tahun mendatang dengan menggunaan data bersifat runtun watu ( time series), yaitu data yang digunaan adalah data pada tahun ini dan tahun tahun sebelumnya. Salah satu metode yang banya digunaan adalah Seasonal Autoregressive Integreted Moving Average (SARIMA) yang diembangan oleh Box dan Jenins pada tahun 1976, dimana metode ini memilii etepatan yang cuup bai untu data linier. Dengan semain berembangnya ilmu pengetahuan maa berembang pula beberapa metode baru. Salah satu metode untu memperiraan curah huan adalah dengan metode aringan syaraf tiruan (Artificial Neural Networ). ANN mampu memperiraandengan data timeseries non linier yang sulit diselesaian dengan model lasi. Salahsatu algoritma pada ANN adalah algoritma Resilient Bacpropagation diembangan oleh Martin Riedmilier (1993), dan banya penelitian aringan syaraf tiruan yang dionsentrasian pada pengembangan algoritma ini, dimana pembelaaran digunaan sama seperti optimisasi data dari parameter aringan, Chien-Sheng Chen et al (2010) membandingan Resilient Bacpropagation dengan Gradient Descent dalam mempredisi loasi stasiun omuniasi, Christian Igel et al(2003) mengembangan algoritma Resilient dengan menambahan metode weight, dan Gupta & Kang(2011) membandingan Resilient Bacpropagation dengan Clustering Fuzzy untu mencari modul detesi rentan esalahan dalam Sistem Open Source Software. Bobot pada aringan syaraf tiruan merupaan salah satu fator penting agar aringan dapat melauan generalisasi dengan bai terhadap data yang dilatih e dalamnya, arena bobot pada aringan syaraf tiruan mempengaruhi besarnya sinyal yang aan eluar dari setiap neuron yang ada pada lapisan hidden dan lapisan output. Algoritma Resilient adalah algoritma pembelaaran yaitu dengan melauan perubahan bobot dan bias aringan sesuai dengan perilau gradient di setiap epoch pelatihan, sehingga umlah epoch yang diperluan untu mencapai target yang diinginan auh lebih sediit 2.1. Neural Networ 2. LANDASAN TEORI Artificial Neural Networ atau Jaringan Syaraf Tiruan (JST) adalah sistem pemrosesan informasi yang memilii arateristi mirip dengan strutur aringan syaraf biologi, hususnya aringan ota manusia. Keandalan inera JST adalah polanya hubungan antara neuron (disebut arsitetur aringan), metode untu menentuan bobot penghubung (disebut metode training atau learning atau algoritma) dan fungsi ativasi. Dalam aringan syaraf tiruan fungsi ativasi aan menentuan output suatu unit (mengubah sinyal input menadi sinyal output) yang aan diirim e unit lainnya. Fungsi ativasi yang sering dipaai dalam aringan syaraf tiruan adalah Fungsi Signoid Biner. Fungsi signoid biner bernilai antara 0 dan 1, digunaan untu aringan dengan nilai output antara 0 dan 1. Fungsi signoid biner dirumusan sebagai 1

2 f ( x) 1 < x < dengan f '( x) f ( x)(1 f ( x)) 1 x e 2.2. Analisis Time series Catatan tentang fenomena yang tida teratur bervariasi dengan watu disebut time series. Dalam analisis time series, variasi deret watu yang tida teratur umumnya dinyataan dengan model stoasti. Dalam beberapa asus sebuah fenomena random dapat dianggap sebagai realisasi dari model stoasti dengan srutur perubahan watu. Musiman didefinisian sebagai suatu pola yang berulang-ulang dalam selang watu yang tetap. Untu data yang stasioner, fator musiman dapat ditentuan dengan mengidentifiasi oefisien autoorelasi pada dua atau tiga time-lag yang berbeda nyata dari nol. Autoorelasi yang secara signifian berbeda dengan nol menyataan adanya suatu pola dalam data. Untu model ARIMA musiman, notasi umumnya sebagai beriut : ARIMA (p,d,q) (P,D,Q) S (1) dimana : (p,d,q) = bagian yang tida musiman dari model (P,D,Q) = bagian yang musiman dari model S = umlah periode per musim Persamaan model SARIMA atau ARIMA musiman (p,d,q) (P,D,Q,) s dengan rumus umum : φ p (B)Ф P (B S )Z t = θ q (B)Θ Q (B S )e t (2) dimana : Z t = (1 B) d (1 B S ) D Z t φ p (B) = (1 φ 1 B φ 2 B 2 φ p B p ) Ф P (B S ) = (1 Ф 1 B S Ф 2 B 2S Ф P B PS ) θ q (B) = (1 θ 1 B θ 2 B 2 θ q B q ) Θ Q (B S ) = (1 Θ 1 B S Θ 2 B 2S Θ Q B QS ) dengan : (1 - B) d = pembedaan non musiman (1 B S ) D = pembedaan musiman φ p = Parameter AR non musiman Ф P = Parameter AR musiman θ q = Parameter MA non musiman Θ Q = Parameter MA musiman S = Jumlah periode per musim 3.1. Disripsi Algoritma Resilient 3. ALGORITMA RESILIENT BACKPROPAGATION Algoritma Resilient melauan perubahan bobot dan bias aringan dengan melauan proses adaptasi langsung dari langah bobot yang didasaran pada informasi gradient loal dari setiap iterasi pembelaaran, sehingga umlah iterasi yang diperluan untu mencapai target yang dingginan lebih sediit. Untu mengatasi hal tersebut diatas, diberian uuran dari perubahan bobot yang disebut perbaian nilai. Nilai perbaian menyesuaian perembangan selama proses pembelaaran berdasaran pada penglihatan loal terhadap fungsi error dengan aturan pembelaaran sebagai beriut: (m) = (m 1) η +, ia (m) x (m 1) > 0 w w (m) = (m 1) η, ia (m) x (m 1) < 0 w w (m) = (m 1), untu yang lainnya Dimana 0 < η < 1 < η + Aturan adaptasi beera sebagai beriut: setiap turunan parsial dari bobot dan bias yang pada dua iterasi berturutan berlainan tandanya menunuan bahwa perbaian nilai yang terahir terlalu besar dan algoritma telah 2

3 melompati loal minimum, nilai perbaian diturunan dengan fator η. Jia dalam dua iterasi berurutan tanda turunan tetap, nilai perbaian dinaian dengan fator η + untu mempercepat onvergensi pada daerah permuaan error. Dan ia turunannya adalah nol, maa nilai pembaruan tetap sama. Setiap ali bobot yang berosilasi, perbaian bobot berurang. Jia bobot terus berubah e arah yang sama untu beberapa iterasi, maa beraibat enaian besarnya perubahan bobot. Setelah perbaian nilai untu setiap bobot yang disesuaian, perbaian bobot mengiuti aturan yang sederhana ia turunan positif (error meningat) maa bobot turun dengan nilai nilai perbaian, ia turunan adalah negatif maa nilai perbaian ditambahan sebagai beriut: Δw (m) = (m) ia (m) > 0 w Δw (m) = + (m) ia (m) < 0 (3) w Δw (m) = 0 untu yang lainnya w (m1) w (m) Δw (m) (4) Dimana w (m) adalah bobot diantara neuron dan dalam dua lapisan berurutan pada iterasi m, w (m+1) adalah bobot baru Parameter Algoritma Resilient Pada awal iterasi, semua nilai perbaian telah diatur sebagai nilai awal 0 yang merupaan salah satu dari dua parameter Resilient bacpropagation. Untu 0 secara langsung menentuan uuran dari bobot pertama, pilihan yang paling bai teradi pada 0 = 0,1. Bagaimanapun hasil beriutnya yang tampa pilihan dari parameter ini tida begitu penting, bahan untu nilai lebih besar atau lebih ecil dari 0, onvergensi tetap tercapai. Untu mencegah bobot menadi besar, langah-langah menentuan bobot masimum dengan nilai uuran update yang terbatas. Batas atas ditetapan oleh parameter edua Resilient bacpropagation, mas. Default batas atas diatur untu mas = 50. Pemilihan dari fator-fator penurunan η dan fator-fator enaian η + adalah sebagai beriut ia lompatan sebuah nilai minimum, nilai update sebelumnya terlalu besar. Hal ini diarenaan tida dietahuinya informasi gradient berapa banya minimum terlewati, secara rata-rata aan menghasilan nilai perbaian yang sangat bai yaitu η = 0,5. Fator enaian η + harus cuup besar untu untu memunginan cepat mengalami enaian enilai baru di daerah yang ecil fungsi errornya, di sisi lain proses pembelaaran dapat menadi auh terganggu, ia fator enaian terlalu besar menyebaban perubahan terus menerus dari arah langah bobot, dari semua percobaan riedmiller pilihan η + = 1,2 memberian hasil yang sangat bai tergantung masalah yang diuian. Sediit variasi nilai ini tida meningatan atau memperburu nilai watu onvergensi. Jadi untu mendapatan pilihan parameter yang sederhana diputusan untu terus memperbaii enaian/penurunan parameter η + = 1,2 dan η = Tahapan Algoritma Resilient Sama seperti pada algoritma Gradient Descent, algoritma Resilient melasanaan dua tahap pembelaaran yaitu tahap pembelaaran feedforward untu mendapatan error output dan tahap bacward untu mengubah nilai bobot. Langah 0 Pemberian insialisasi bobot (diberi nilai ecil secara aca) Langah 1. Jia ondisi ahir iterasi belum terpenuhi, lauan langah 2-9 Langah 2. Untu masing masing pasangan data pelatihan (training data) lauan langah 3 hingga 8 Feed Forward Langah 3.Tiap unit input (X i, i-1,2,...,n) menerima sinyal input x i dan sinyal tersebut disebaran e semua unit pada lapisan hidden Langah 4.Tiap lapisan hidden (Z,=1,2,,p) menumlahan bobot sinyal input n z _ in v x v (14) o i 1 i menggunaan fungsi atifasi untu menghitung sinyal output z f z _ in ) dan mengiriman sinyal ini e setiap unit output Langah 5. Tiap unit output (Y, =1,..,m) menumlahan bobot sinyal masu p ( y _ in w o z w (5) 1 menggunaan fungsi atifasi untu menghitung sinyal output y f y _ in ) (6) ( 3

4 Galat dari bacpropagation Langah 6. Tiap unit output menerima pola yang sesuai dengan pola pelatihan input dan dihitung errornya: ( t y ) f ( y _ in ) (7) menghitung bobot teroresi (digunaan untu memperbarui w o ), w z (8) menghitung bias teroresi w o dan mengirim δ e unit pada lapisan dibawahnya Langah 7: Tiap unit hidden (Z,=1,2,,p) menumlahan delta input m _ in. w (10) 1 dialian dengan derivatif fungsi ativasi untu menghitung error _ in f ( z _ in ) (11) menghitung oresi bobot v x i (12) menghitung oresi bias v 0 (13) Memperbaii bobot dan bias Langah 8: Tiap unit output (Y, =1,..,m) memperbaii bobot dan bias (-=0,,p) w ( baru) w ( lama) w Tiap unit hidden (Z, =1,..,p) memperbaii bobot dan bias (i=0,,n) v ( baru) v ( lama) v Langah 9: Ui ondisi pemberhentian (ahir iterasi) Setelah dilauan perubahan bobot dan bias untu setiap pola data dilauan langah di bawah ini Hitung gradient E E E E,,, yaitu perubahan bobot dan bias setiap pola pada w w v v epoch e t, untu setiap bobot dan bias lauan langah-langah beriut: Jia (m 1) (m) > 0 maa v v (m) = minimum ( (m 1) x η +, mas ) E v sign( ) v 0 0 v (m + 1) = v (m) + v (m) (14) E E ( m 1) v v (15) Jia v (m 1) v (m) < 0 maa (t)= masimum ( (m 1) x η, min ) E v ( ) v v ( m 1) v v ( m 1) (16) v (m 1) = 0 (17) Jia v (m 1) v (m) = 0 maa Δv (m) = sign v (m) (m) v (m + 1) = v (m) + Δv (m) (18) 4 (9)

5 (m 1) = (m) (19) v v Hitung MSE 4. Studi Kasus dan Pembahasan Pada penelitian ini, data yang digunaan yaitu data curah huan wilayah Semarang barat pada tahun Januari 2003 Desember 2012, terlihat bahwa data tersebut berflutuasi, mengandung fator musiman dan ada ecenderungan mengalami tren. Arsitetur aringan terbai algoritma Resilient untu peramalan curah huan wilayah Semarang barat dimana data yang digunaan sebanya 80% untu training dan 20% untu data testing dengan MSE 0,1 adalah aringan dengan 3 neuron pada lapisan input, 1 lapisan hidden dengan 18 neuron dan 1 neuron pada lapisan output, atau (3,18,1 )dengan parameter = 1,2 dan = 0,5. Hasil simulasi peramalan dengan menggunaan algoritma Resilient dirangum pada table 4.1. Dari parameter tuuan yang ditetapan dalam pelatihan aringan syaraf yaitu nilai MSE sebesar 0.1 dihasilan besaran MSE penguian yang berbeda beda. Simulasi peramalan menggunaan 3 perbedaan dalam perbandingan umlah data pelatihan dan umlah data dalam penguian yang pertama menggunaan 50% data pelatihan dan 50% data penguian, e dua menggunaan umlah data pelatihan 70% dan umlah data penguian 30% dan yang e tiga adalah umlah data pelatihan 80% dan umlah data penguian 20%. Hasil simulasi diperoleh bahwa untu umlah data training dan data testing sebesar 50%:50% nilai MSE penguian yang paling ecil sebesar 0,1503 adalah di hiden layer sebanya 15. Jumlah data training dan data testing sebesar 70%:30% nilai MSE penguian yang paling ecil sebesar 0,1942 adalah di hiden layer sebanya 14. Dari hal diatas terlihat semain banya hiden layer maa watu yang lebih cepat dan epoch yang diperluan semain besar. Untu data training 80% dan data testing 20% dimulai pada hiden layer 15 arena pada hiden layer 14 membutuhan watu dan epoch yang lama, sehingga untu watu yang sediit dibutuhan umlah hiden layer yang besar, hal ini arena umlah data training lebih banya sehingga diperluan watu lebih cepat dan epoch lebih banya dalam pelatihan untu menghasilan nilai MSE 0,1. Pemodelan dengan aringan syaraf tiruan memilii tingat aurasi yang lebih bai dibandingan dengan pemodelan peramalan lasi. Dan algoritma Resilient mempunyai emampuan mencapai MSE pelatihan 0,1 seperti terlihat pada grafi 4.2 beriut 5

6 Grafi 4.2 Plot data target - output pelatihan Pada plot data aringan syaraf tiruan (3,18,1) dengan MSE 0,1 gambar 4.2 pada proses pelatihan terlihat bahwa nilai output mendeati nilai target, hal ini menunuan ecilnya nilai deviasi antara target dan output untu data pelatihan Untu peramalan curah huan wilayah Semarang barat menggunaan metode lasi yaitu SARIMA diperoleh model ARIMA(0,1,1)(0,1,1) 12 dengan persamaan LnZ t = LnZ t 1 + LnZ t 12 LnZ t 13 + e t 0,7885 e t 1 0,8619 e t ,0507e t Kesimpulan Berdasaran penelitian dan pembahasan, maa dapat diambil esimpulan untu data curah huan wilayah Semarang barat tahun sebagai beriut: 1. Untu nilai MSE pelatihan yaitu 0,1 algoritma Resilient dengan arsitetur aringan 1 unit input, 18 unit neuron pada lapisan hidden dan 1 unit output (1-18-1) dengan 80% data pelatihan dan 20% data penguian diperoleh watu relatif cepat yaitu 5.6 deti, 1053 epoch dan MSE testing 0,1503 dicapai dengan parameter = 1,2 dan = 0,5 2. Dari simulasi algoritma Resilient dengan umlah data pelatihan dan data penguian, 50%:50%, 70%:30%, 80%:20%, ia umlah data pelarihan lebih banya yaitu 80% membutuhan watu yang lebih sediit dan epoch yang lebih banya dibandingan dengan umlah data pelatihan yang lain DAFTAR PUSTAKA Al_Naima, F.M., Al-Timemy, A.H., 2010, Resilient bac Propagation Algorithm for Breast Biopsy Classification Based on Artificial neural Networs, Computational Intelligence and Modern Heuristics, Edited by Al-Dahoud Ali, Publisher: IN-TECH, Vienna, Austria Chen, C., and Lin, J., 2011, Appliying Rprop neural Networ for the Prediction of the Mobile Station Location, Sensors, 11(4): Chong, E.K.P dan Za, S.H., 2001, An Introduction To Optimization, Second Edition, John Wiley & Sons Inc, New Yor Fausett, L., 1994, Fundamental of Neural Networ; architectures, algoritms and applications, Prentice-Hall Inc., Englewoods Cliffs, New Jersey Febrianty D., Dewanto, Aradea, 2007, Analisis aringan syaraf tiruan RPROP untu mengenali pola eletroniardiografi dalam mendetesi penyait antung oroner, Seminar Nasional Apliasi Tenologi Informasi, Yogyaarta Gupta, K. and Kang, S. 2011, Implementation of Resilient bacpropagation & fuzzy clustering based approach for finding fault prone modules in open source software systems, International Journal of Research in Engineering and Technology (IJRET),1, no.1: Hamilton JD Time Series Analisis I, Princeton University Press, New Jersey Igel, C., and Husen, M., 2003, Emperical Evaluation of the Improved Rprop Learning Algoritm. Neurocomputing, 50: Maridais, Wheelwright, dan McGee, 1999, Metode dan Apliasi Peramalan, (diteremahan oleh Hari Suminto), Jilid Satu, Edisi Kedua, Penerbit Binarupa Asara, Jaarta Riedmiller, M., 1994, Rprop- Description and Implementation Detail, University of Karlsruhe, Tech. Rep. Riedmiller, M., 1994, Advanced Supervised Learning in Multi layer Perceptrons-From Bacpropagation to Adaptive Learning Algoritms, Karlsruhe: 6

7 Riedmiller, M., and Braun. H., A Direct Adaptive Method for Faster Bacpropagation Learning: The RPROP algorithm, Proc. IEEE International Conference on Neural Networ (ICNN)(Ruspini,H., (Ed.), , San Fransisco Rumelhart, D.E. Hinton, G.and Williams, R.J., 1986, Learning Internal Representations by Bac-propagationerror Errors, Parallel Distributed Processing: Explorations in Microstructure of Cognition, MIT Press, Cambridge,M.A, 1: Samaringhe, S., 2006, Neural Networs For Applied Sciences and Engineering From Fundamental to Comples Pattern Recognition, Auerbach Publication Taylor & Francis Group. Soramaa, A., Hao, J., Reyhani, N., Ji, Y.and Lendasse A., 2007, Methodology for long-term prediction of time series, Neurocomputing, 70: Warsito, B. 2009, Kapita Seleta Statistia Neural Networ, BP UNDIP Semarang Wei, W.W.S., 1994, Time Series Analysis Univariate and Multivariate Methods, Addison-Wesley Publishing Company USA Wilde, I.F., 2009, Neural Networ, Mathematics Departement, King s College London 7