PERBANDINGAN ANTARA METODE KOHONEN NEURAL NETWORK DAN LEARNING VECTOR QUANTIZATION PADA SISTEM PENGENALAN TULISAN TANGAN SECARA REAL TIME

Transkripsi

1 PERBANDINGAN ANTARA METODE KOHONEN NEURAL NETWORK DAN LEARNING VECTOR QUANTIZATION PADA SISTEM PENGENALAN TULISAN TANGAN SECARA REAL TIME Nama Mahasiswa : Asworo NRP : Jurusan : Matematika FMIPA-ITS Dosen Pembimbing : Dr. M Isa Irawan, MT Abstrak Pengenalan tulisan tangan dapat dikategorikan menjadi 2 yaitu off-line dan on-line (real time). Pengenalan secara on-line memiliki akurasi lebih baik dibandingkan dengan pengenalan secara off-line. Pada pengenalan secara on-line, informasi atau data yang direpresentasikan dan dikenali oleh sistem diambil pada waktu yang sama. Pada dasarnya, sistem menerima nilai koordinat (x, dari pena elektronik pada saat pena tersebut dituliskan pada tablet digital. Namun metode yang digunakan untuk klasifikasi juga merupakan faktor yang penting guna memperoleh tingkat akurasi yang lebih baik. Penelitian ini membandingkan antara metode kohonen neural network dan metode learning vector quantization untuk metode klasifikasi. Sedangkan untuk pra-pengolahan citra menggunakan teknik pengolahan citra digital. Dari uji coba yang dilakukan, metode LVQ memiliki rata-rata tingkat keakuratan yang lebih tinggi (86%) dari metode Kohonen (68%) dalam mengklasifikasikan karakter maupun angka tulisan tangan. Proses training menggunakan metode LVQ memerlukan waktu yang relatif lebih lama daripada metode Kohonen. Pada pembelajaran menggunakan 640 data karakter tulisan tangan metode LVQ membutuhkan waktu ms, sedangkan metode Kohonen hanya memerlukan waktu ms. Kata kunci: Pengenalan Tulisan Tangan, Off-line, On-line, Real Time, Kohonen Neural Network, Learning Vector Quantization.. PENDAHULUAN Tulisan tangan adalah salah satu media komunikasi manusia yang telah ada selama berabad-abad. Penggunaan tulisan tangan telah digunakan dalam kegiatan sehari-hari, seperti : mencatat, pengisian formulir dan surat-menyurat. Selama dua dekade terakhir, telah terjadi peningkatan permintaan untuk suatu aplikasi yang mampu memproses secara otomatis isi dari dokumen tulisan tangan, sebagai bantuan dari tugas yang sebelumnya dilakukan manusia. Sehingga tulisan tangan menawarkan metode yang atraktif dan efisien untuk berinteraksi dengan komputer, seperti alat yang telah berkembang saat ini yang mampu menerima input berupa data tulisan tangan. Alat tersebut juga memerlukan metode untuk mengenali input berupa data tulisan tangan. Pada akhirnya, penelitian pada permasalahan pengenalan tulisan tangan menjadi sangat penting yang mampu memberikan solusi dari permasalahan di atas. Penelitian mengenai pengenalan tulisan tangan telah banyak dilakukan seiring dengan semakin berkembangnya portable computing devices seperti PDA (Personal Digital Assistant) dan handheld computer. Pengenalan tulisan tangan dapat dilakukan dalam dua metode yang berbeda. Metode pertama adalah pengenalan secara off-line. Contoh untuk pengenalan off-line adalah optical character recognition (OCR), software untuk scanners. Metode yang kedua adalah pengenalan secara on-line (real time) dimana data dianalisa secara dinamis (Nopsuwanchai, 2005). Pada pengenalan secara on-line, informasi atau data yang direpresentasikan dan dikenali oleh sistem diambil pada waktu yang sama. Pada dasarnya, sistem menerima nilai koordinat (x, dari pena elektronik pada saat pena tersebut dituliskan pada tablet digital (Santosh, 2009). Pegenalan secara on-line telah diterapkan pada berbagai aplikasi, seperti aplikasi komputer berbasis pena. Walaupun metode tersebut telah diterapkan pada berbagai macam aplikasi, namun akurasi dalam pengenalannya masih belum baik. Dalam membangun sistem pengenalan tulisan tangan, terdapat tahapan yang harus dilakukan, yaitu : akuisisi data tulisan tangan, prapengolahan data, ekstraksi ciri, serta klasifikasi tulisan tangan. Akuisisi data dilakukan secara online atau diambil secara real time. Pada tahap prapengolahan dilakukan perbaikan data hasil akuisisi untuk selanjutnya diekstraksi ke dalam bentuk numerik. Proses klasifikasi akan digunakan metode JST-kohonen dan metode JST- LVQ.

2 Pada Tugas Akhir ini, telah dibandingkan metode JST-kohonen dan JST-LVQ dari segi akurasi terhadap pengenalan tulisan tangan dan waktu yang diperlukan untuk pelatihan pola tulisan tangan tersebut. Untuk mendapatkan data input yang lebih baik, digunakan teknik pengolahan citra untuk pra-pengolahan data tulisan tangan. Tujuan dari penelitian ini adalah membangun sebuah perangkat lunak untuk pengenalan tulisan tangan secara real time dengan metode jaringan syaraf tiruan kohonen dan LVQ, serta mengukur tingkat akurasi pengenalan dan lama waktu yang dibutuhkan untuk pelatihan dari masing-masing metode jaringan syaraf tiruan. Perangkat lunak yang akan dibuat diharapkan dapat menjadi media alternatif untuk penulisan dokumen selain dengan cara mengetik. Manfaat yang lainnya yaitu sebagai acuan pemilihan metode klasifikasi pada pengenalan tulisan tangan. Dalam upaya mendapatkan suatu hasil yang efektif, batasan permasalahan diberikan: a. data yang akan dikenali adalah data abjad A- Z, a-z, dan angka 0-9. Data yang digunakan untuk pelatihan dan pengujian adalah data tulisan tangan dari penulis Tugas Akhir, b. pengenalan dilakukan per-karakter (Single Character Recognition), c. untuk pengenalan karakter pada kata, penulisan karakter satu dengan yang lainnya tidak boleh tersambung, d. sistem yang dibuat menggunakan tool dari bahasa pemrograman visual basic 6, dimana pena elektronik menggunakan mouse untuk menulis dan tablet digital menggunakan picture sebagai media untuk menulis. 2. DASAR TEORI 2. Pengenalan tulisan tangan Dalam membangun sistem pengenalan tulisan tangan, terdapat dua tahapan proses yang akan dilakukan, yaitu tahap pra-pengolahan data tulisan tangan dan tahap klasifikasi data tulisan tangan. Tahap pra-pengolahan data tulisan tangan bertujuan untuk mendapatkan data tulisan tangan yang lebih baik, yang nantinya akan digunakan pada tahap klasifikasi. Tahap pra-pengolahan terdiri dari beberapa proses yaitu : akuisisi data tulisan tangan secara real time, grayscaling, thresholding, dan size normalization. Sedangkan tahap klasifikasi data tulisan tangan bertujuan untuk mengenali tulisan tangan yang ditulis pada tablet digital berdasarkan data tulisan tangan yang sudah dilakukan pembelajaran. Secara umum, sistem pengenalan tulisan tangan mempunyai beberapa tahapan yang diberikan pada Gambar 2.. Data Trainnin Data Testing Akuisisi, Pra- Tahap Pelatihan Tahap Pengujian Akuisisi, Pra- Gambar 2.. Tahapan sistem pengenalan tulisan tangan 2.2 Pengolahan citra digital Pengolahan citra digital adalah pemrosesan citra, khususnya dengan menggunakan komputer. Salah satu tujuan dari pengolahan citra digital adalah untuk mendapatkan citra baru yang lebih sesuai untuk digunakan dalam aplikasi tertentu. Proses pengolahan citra digital bermacammacam tergantung pada kebutuhan dan output yang diinginkan, diantaranya grayscaling, thresholding, segmentasi dan scalling. Mulai Akuisisi Data Tahap Preprocessing Grayscalling Tresholding Segmentasi Normalisasi/Scalling Tahap Ekstraksi Ciri Selesai Training Referensi Data Klasifikasi menggunak Gambar 2.2. Alur proses pengolahan digital Huruf hasil pengena 2.2. Representasi Citra Digital Jika kita perhatikan gagasan sebuah citra digital dari sebuah sudut pandang yang sederhana, kita akan memandang sebuah citra sebagai fungsi dalam ruang dimensi 2 pada koordinat spasial (x,, dimana nilai-nilai tersebut mendefinisikan suatu ukuran intensitas cahaya pada titik tersebut. Satuan atau bagian terkecil dari suatu citra disebut piksel (picture element).umumnya citra dibentuk dari persegi empat yang teratur sehingga jarak horizontal dan vertikal antara piksel satu dengan yang lain adalah sama pada seluruh bagian citra. 2

3 Indeks x bergerak ke kanan dan indeks y bergerak ke bawah. Untuk menunjukkan koordinat (m-,n- ) digunakan posisi kanan bawah dalam citra berukuran m x n pixel. Hal ini berlawanan untuk arah vertikal dan horizontal yang berlaku pada sistem grafik dalam matematika. Gambar 2.3 menunjukkan sistem penggambaran koordinat pada suatu citra digital. Titik Pusat (0,0) y Gambar 2.3. Sistem Koordinat Citra digital Grayscaling Grayscaling adalah teknik yang digunakan untuk mengubah citra berwana menjadi bentuk grayscale. Pengubahan dari citra berwarna ke bentuk grayscale mengikuti aturan sebagai berikut : x, y, f ( x, x, y, I( x, R( i, G( i, B( i, I ( i, (2.) 3 Hasil dari proses grayscaling ditunjukkan pada Gambar 2.4 dibawah ini (a) (b) Gambar 2.4. Citra RGB (a) dan Citra Grayscale (b) Thresholding Thresholding digunakan untuk mengubah intensitas piksel menjadi salah satu dari dua nilai, a atau a 2. Hasil dari proses thresholding ditentukan oleh suatu parameter yang disebut nilai threshold. Proses thresholding menggunakan fungsi sebagai berikut : x, y, f ( x, x, y, g( x, a, f ( x, T g( x, (2.2) a2, f ( x, T Keterangan : f(x, = Nilai intensitas yang lama g(x, = Nilai intensitas yang baru T = Nilai Threshold x Jika a =0 dan a 2 =, maka proses thresholding mengubah citra greyscale menjadi citra biner Segmentasi Segmentasi adalah sebuah proses yang digunakan untuk memotong motong gambar yang diproses menjadi beberapa bagian. Pada penelitian ini, proses segementasi memisahkan huruf per huruf yang akan dikenali Scalling Normalisasi ukuran/scalling adalah proses untuk mengubah ukuran suatu image. Ukuran citra dari hasil pengolahan sebelumnya bervariasi. Padahal sebagai input dari JST, ukuran matriks harus konsisten sehingga perlu dilakukan penskalaan citra. Pada proses scalling ini, citra hasil proses akuisisi untuk selanjutnya dibatasi dengan suatu struktur dimensi artinya setiap data dibatasi sebesar area yang disediakan pada program aplikasi. Sehingga setiap data akan direpresentasikan kedalam matrik ukuran 0x Jaringan syaraf tiruan Jaringan Syaraf Tiruan (JST) merupakan suatu sistem pengolahan informasi yang memiliki karakteristik performansi sebagaimana jaringan syaraf pada makhluk hidup. Sistem JST disusun dengan menggunakan model matematis dari jaringan biologi manusia. Pada Tugas Akhir ini digunakan 2 metode jaringan syaraf tiruan yaitu kohonen dan LVQ. Masing-masing metode hanya memiliki 2 lapisan yaitu lapisan input dan lapisan output. Pada lapisan input memiliki 00 neuron Kohonen Jaringan syaraf self organizing, yang sering disebut juga topology preserving maps, mengansumsikan sebuah struktur topologi antar unit-unit cluster. Jaringan syaraf self organizing ini pertama kali diperkenalkan oleh Tuevo Kohonen dari University of Helsinki pada tahun 98. Algoritma dari kohonen self organizing map adalah sebagai berikut : Langkah. Inisialisasikan bobot w ij. Set parameter-parameter tetangga dan set parameter learning rate. Langkah 2. Selama kondisi berhenti masih bernilai salah, kerjakan langkah- langkah berikut ini : a. Untuk masing-masing vektor input x, lakukan : 3

4 b. Untuk masing-masing j, lakukan perhitungan : 2 D( ( wij xi ) (2.3) i c. Tentukan J sampai D( bernilai minimum. d. Untuk masing-masing unit j dengan spesifikasi tetangga tertentu pada j dan untuk semua I, kerjakan : wij ( baru) wij ( lama) xi wij ( lama) (2.4) e. Perbaiki learning rate. f. Kurangi radius tetangga pada waktuwaktu tertentu. g. Tes kondisi berhenti. Arsitektur jaringan syaraf tiruan kohonen seperti pada Gambar 2.5. Langkah 2. Selama kondisi berhenti bernilai salah, kerjakan a. Untuk masing-masing pelatihan vektor input x b. Temukan j sehingga x wj bernilai minimum c. Perbaiki wj dengan :. jika T= c j maka wj ( baru) w j ( lama) x wj ( lama) (2.6) 2. jika T c j maka wj ( baru) w j ( lama) x wj ( lama) (2.7) d. Kurangi learning rate e. Tes kondisi berhenti Arsitektur dari jaringan syaraf tiruan LVQ ditunjukkan pada Gambar 2.6. Gambar 2.5. Arsitektur jaringan kohonen LVQ Motivasi untuk sebuah algoritma yang diterapkan pada jaringan syaraf LVQ adalah untuk menemukan unit output yang terdekat dengan vektor input. Hal tersebut akan berakhir, jika x dan w berada pada kelas yang sama, maka bobot dipindahkan ke vektor input yang baru dan jika x dan w berada pada kelas yang berbeda, maka bobot akan dipindahkan dari vektor input. Ada beberapa notasi yang akan digunakan, yaitu : x vektor pelatihan ( x,..., xi,..., x n ), T kategori atau kelas yang benar untuk vektor pelatihan, w vektor bobot untuk unit output j c j j ( w,..., w,..., w ), j ij nj kategori atau kelas yang direpresentasikan oleh unit output j, x w j jarak euclidean antara vektor input (vektor bobot) dan unit output j Adapun algoritma dari LVQ adalah : Langkah. Inisialisasikan vektor referensi dan learning rate, (0) Gambar 2.6. Arsitektur JST-LVQ 3. UJI COBA DAN PEMBAHASAN Perangkat keras yang digunakan dalam uji coba adalah komputer dengan Prosesor Pentium Dual Core 2.6 GHz, Memory DDRAM 2GB, Harddisk 60GB, VGA Card 32 MB. Sedangkan perangkat lunak yang digunakan adalah Sistem Operasi Windows XP Professional with Service Pack 2, Bahasa pemrograman Visual Basic 6.0, dan beberapa komponen tambahan lainnya. 3.. Pengujian proses pengolahan citra Pengujian ini dilakukan pada proses-proses yang terdapat dalam aplikasi pengolahan citra. 3.. Uji coba segmentasi citra Pada pengenalan kata, citra hasil tulisan tangan untuk selanjutnya dipisahkan antara huruf satu dengan yang lain untuk dinormalisasi. Gambar 3.. merupakan hasil proses segmentasi. 4

5 Gambar 3.. Matriks hasil pengolahan citra 3..2 Uji coba normalisasi/scalling citra Ketika user menulis karakter maka sistem akan secara otomatis membagi citra karakter tersebut menjadi 00 area. Dari hasil beberapa kali pengujian untuk citra dengan ukuran yang berbeda, hasil proses tetap konsisten (terbagi menjadi 00 area), tampak pada Gambar 3.2 berikut ini: Ukuran besar: Ukuran lebih kecil: (a) (b) Gambar 3.2. citra ukuran besar (a) citra ukuran kecil (b) 3..3 Uji coba ekstraksi citra Citra tulisan tangan yang sudah terbagi menjadi 00 area selanjutnya akan dicari jumlah piksel aktif (piksel yang bernilai hitam) untuk tiap-tiap area. Prosedur pengujian adalah dengan melakukan beberapa kali proses pengolahan citra dan didapatkan total jumlah piksel aktif dari tiaptiap area seperti yang ditunjukkan pada Gambar , 0.5,. Dengan menggunakan metode JST- LVQ diperoleh hasil uji coba sebagai berikut : Tabel 3. Pengaruh learn rates terhadap akurasi Learn Lama Waktu Karakter Rates Iterasi Pelatihan Akurasi A-Z (260 data) ms 96% A-Z (260 data) ms 95% A-Z (260 data) ms 65% A-Z (260 data) ms 3.84% A-Z (260 data) ms 3.84% Pada Tabel 3. dapat disimpulkan bahwa dengan mengambil nilai learn rates semakin besar maka persentase akurasi semakin kecil. Nilai learn rates terbaik dengan persentase akurasi paling tinggi adalah 0, Pengaruh Neighborhood/Persekitaran Neighborhood merupakan salah satu parameter yang ada pada JST-kohonen. Dengan melakukan uji coba pada neighborhood yaitu dengan memberi beberapa variasi nilai yaitu : 0,, 2, 3, dan 4. Diperoleh hasil sebagai berikut : Tabel 3.2 Pengaruh neighborhood terhadap akurasi Karakter Neighboorhod Iterasi Lama Waktu Pelatihan Akurasi A-Z (260 data) ms 63.07% A-Z (260 data) ms 80% A-Z (260 data) ms 80% A-Z (260 data) ms 57.3% A-Z (260 data) ms 60.38% Nilai neighborhood terbaik adalah. Pada Tabel 5.2 neighborhood dengan nilai dan 2 memiliki akurasi yang sama tetapi untuk nilai neighborhood 2 memerlukan waktu pelatihan yang lebih lama dibandingkan dengan nilai neighborhood. Gambar 3.3. Matriks hasil pengolahan citra 3.2. Pengujian proses jaringan syaraf tiruan 3.2. Pengaruh Learn Rates Untuk mengetahui pengaruh learn rates terhadap akurasi maka akan dilakukan percobaan dengan mengambil nilai learn rates : 0.0, 0.05, Uji coba JST-LVQ Proses pelatihan dilakukan dengan menggunakan data sebanyak 640 karakter tulisan tangan, meliputi karakter A-Z kapital dan non kapital. Dari data tersebut kemudian diubah menjadi data array biner (0 dan ), untuk selanjutnya digunakan sebagai input JST. Berikut ini adalah beberapa contoh data citra tulisan tangan. 5

6 karakter A karakter z karakter a angka karakter Z angka 2 Dengan memberikan nilai learn rates=0.05 dan maksimum iterasi=00. Dari karakter yang telah dilatihkan kemudian diuji sebanyak 0 kali untuk tiap karakter dan didapatkan hasil pengujian sebagai berikut : Tabel 3.3 Hasil uji coba JST-LVQ Karakter Dikenali Karakter Dikenali A 30 a 0 B 30 b 0 C 30 c 0 D 27 d 3 E 23 e 7 F 26 f 4 G 28 g 2 H 23 h 7 I 8 i 2 J 28 j 2 K 29 k L 30 l 0 M 23 m 7 N 26 n 4 O 6 o 24 P 24 p 6 Q 30 q 0 R 24 r 6 S 28 s 2 T 30 t 0 U 20 u 0 V 30 v 0 W 29 w X 28 x 2 Y 30 y 0 Z 30 z 0 Total 680 Total 00 jumlah _ pola _ yang _ dikenali _ benar persentase _ akurasi x00% jumlah _ pola _ yang _ diuji Sehingga dari hasil uji coba di atas didapat persentase akurasi pengenalan karakter tulisan tangan untuk metode LVQ adalah sebesar 86% dan lama waktu yang dibutuhkan untuk pelatihan adalah ms Uji coba JST- kohonen Proses pelatihan dengan kohonen menggunakan data yang sama dengan LVQ tetapi bobot yang digunakan oleh kohonen diambil secara random. Dengan memberikan nilai learn rates=0.0, maksimum iterasi=00, neighborhood=, dan kluster=04 didapatkan hasil pengujian sebagai berikut: Tabel 3.4 Hasil uji coba JST- kohonen Karakter Dikenali Karakter Dikenali A 25 a 5 B 29 b C 27 c 3 D 27 d 3 E 23 e 7 F 24 f 6 G 26 g 4 H 26 h 4 I 25 i 5 J 30 j 0 K 30 k 0 L 30 l 0 M 29 m N 26 n 4 O 4 o 6 P 30 p 0 Q 22 q 8 R 28 r 2 S 30 s 0 T 23 t 7 U 20 u 0 V 24 v 6 W 28 w 2 X 30 x 0 Y 9 y Z 30 z 0 Total 675 Total 05 Sehingga dari hasil uji coba di atas didapat persentase akurasi pengenalan karakter tulisan tangan untuk metode kohonen adalah sebesar 68% dan lama waktu yang dibutuhkan untuk pelatihan adalah ms. Dari uji coba yang dilakukan di atas baik kohonen maupun LVQ, ada beberapa hal yang menyebabkan sistem tidak berjalan dengan baik yaitu : 6

7 a. Semakin banyak jenis karakter atau angka yang dilatih maka persentase akurasi yang dihasilkan akan semakin berkurang. Hal ini disebabkan karena semakin banyak karakter atau angka yang mirip secara geometris. Tabel 5.5 Pengaruh jumlah data pelatihan terhadap akurasi. Karakter A-J (00 data) 0.05 A-Z (260 data) 0.05 A-Z,a-z (780 data) 0.05 Learn Rates Neighboor Iterasi Lama Waktu Pelatihan Akurasi ms 90% ms 80% ms 72% Pada uji coba menggunakan JSTkohonen, karakter yang memiliki kemiripan secara geometris akan menempati kluster yang sama. Seperti terlihat pada gambar di bawah ini. A A W W W W X X K K K A N N N Q Q Q J O C G E,F H H U L L D B B S Z I,T V Y Y M R R P Gambar 3.4. Kluster yang terbentuk dari hasil pelatihan kohonen Gambar 3.3 di atas merupakan hasil pemetaan dari pelatihan JST-kohonen dimana maksimum kluster adalah 04. Beberapa karakter yang memiliki kemiripan secara geometris seperti I dan T juga E dan F menempati satu kluster. b. Penulisan dengan menggunakan mouse kurang memberikan hasil yang baik karena user sulit untuk menyesuaikan antara karakter yang akan dilatih dan diuji. 4. KESIMPULAN DAN SARAN 4.. Kesimpulan Dari implementasi dan uji coba program pengenalan tulisan tangan secara real time dengan pengolahan citra digital dan jaringan syaraf tiruan, dapat diperoleh kesimpulan bahwa pengenalan dengan jaringan syaraf tiruan LVQ ternyata lebih baik dalam hal akurasi (86 %) dibandingkan dengan jaringan syaraf tiruan Kohonen (68 %) tetapi LVQ membutuhkan waktu training lebih lama ( ms) dibandingkan dengan Kohonen ( ms) Saran Berdasarkan evaluasi yang dilakukan terhadap perangkat lunak, ada beberapa saran yang perlu dipertimbangkan dalam pengembangan tugas akhir ini, antara lain sebagai berikut:. Proses pengenalan yang dilakukan pada aplikasi ini hanya sampai pada pengenalan kata. Untuk pengembangan selanjutnya akan lebih baik lagi jika proses pengenalan dilakukan per-kalimat. 2. Data yang digunakan untuk proses training masih kurang bervariasi. DAFTAR PUSTAKA [] Anonim. Sep Single Character Recognition.< [2] Fausett, L Fundamental of Neurall Network : Architectures, Algorithms, and Applications. Prentice Hall International, Inc. [3] Kristanto, A Pengantar Jaringan Syaraf Tiruan. Yogyakarta : Gava Media. [4] Munir, Misbachul Pengenalan pola tulisan tangan dengan model kohonen. Tugas Akhir Jurusan Matematika FMIPA- ITS. [5] Nopsuwanchai, R Discriminative Training Methods and Their Application to Handwriting Recognition, < M-CL-TR-652.html>. [6] Puspitaningrum, D Pengantar Jaringan Syaraf Tiruan. Yogyakarta : CV. Andi Offset. [7] Santosh, KC A Comprehensive Survey On On-Line Handwriting Recognition Technology and its Real Application To The Nepalase Natural Handwriting, < /en/>. [8] Sigit, R., Basuki, A., Ramadijanti, N Step by Step Pengolahan Citra Digital. Yogyakarta : CV. Andi Offset. [9] Soediyono, E Metode Jaringan Syaraf Tiruan Dengan Arsitektur Jaringan Radial Basis Kooperatif dan Kompetitif untuk Pengenalan Tulisan Tangan, < iode=volume+4+no.++tahun+2003>. 7