TUGAS PENGENALAN POLA K-MEANS CLUSTERING. Disusun Oleh : Putrisia Hendra Ningrum Adiaty (06/195033/PA/11129)

Transkripsi

1 TUGAS PENGENALAN POLA K-MEANS CLUSTERING Disusun Oleh : Putrisia Hendra Ningrum Adiaty (06/195033/PA/11129) ELEKTRONIKA DAN INSTRUMENTASI JURUSAN ILMU KOMPUTER DAN ELEKTRONIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS GADJAH MADA 2010

2 I. PENDAHULUAN K-means merupakan suatu metode yang bertujuan untuk mengklasifikasikan suatu objek pada data matrik yang acak. Contohnya A mempunyai buah apel yang banyak pada satu sudut dan buah jeruk yang banyak pada sudut yang lain. Dan A menggunakan kriteria warna sebagai kriteria pengklasifikasian, maka K-means akan mencoba untuk mengambil satu pusat sebagai pusat apel dan pusat yang lainnya digunakan untuk pusat jeruk. Kemudian K-means akan mencoba untuk mengelompokkan buah-buah pada jarak terdekat dari masing-masing pusat apel atau pusat jeruk. K-means telah banyak dikembangkan dalam berbagai macam ilmu pengetahuan sebagai salah satu metode pengklusteran yang efektif. Contohnya dalam bidang ilmu komputer yang membahas tentang algoritma fuzzy. Fuzzy K-Means adalah suatu tekhnik pengklusteran data yang mana keberadaan tiap-tiap data dalam suatu kluster ditentukan oleh nilai keanggotaan. (harjoko dkk, 2006 ) Sama seperti metode K-means, Fuzzy K-means konsep dasar utamanya adalah menentukan pusat kluster yang akan menandai lokasi rata-rata untuk tiap-tiap kluster. Pada kondisi awal, pusat kluster ini masih belum akurat. Sehingga dengan cara memperbaiki pusat kluster dan nilai keanggotaan tiap-tiap data secara berulang, maka akan dapat dilihat bahwa pusat kluster akan bergerak menuju lokasi yang tepat. Perulangan ini didasarkan pada minimisasi fungsi obyektif (Gelley,2000). K-menas juga dapat digunakan pada bidang digital image processing sebagai salah satu metode untuk pengelompokkan warna. Pada tugas kali ini kami akan membuat sautu program K-means secara manual dengan menggunakan matlab 7.5, dengan data yang akan diguanakan adalah data yang didownload dari link berikut : II. TUJUAN Membuat suatu program k-means dengan menggunakan matlab 7.5 III.ALGORITMA K-MEANS Dalam melakukan pengklasteran dengan metode K-means, maka dapat diklasifikasikan menjadi 2 macam yaitu pengklasteran dengan sudah diketahui berapa jumlah klaster dan pengklasteran dengan tidak diketahui jumlah klaster. Berikut algoritmanya : a) Pengklasteran dengan sudah diketahui jumlah klasternya 1. Menentukan pusat kelompok (centroid) awal. Dapat dilakukan secara random (acak) atau terserah kemauan kita. 2. Menentukan pusat data awal (centroid) dengan metode acak (random) atau mengambil data

3 ke-k yang ditemukan sebagai pusat data. 3. Menghitung jarak antara data dengan memilih salah satu dari 4 metode jarak yang sudah dikenal yaitu : city blcok, euclidean, chessboard, quasi-euclidean. 4. Menentukan anggota kelompok dengan jarak menghitung jarak terdekat. 5. Mencari pusat kelompok baru dengan average. 6. Menentukan kelompok baru dari masing-masing pusat baru. 7. Terus melakukan perulangan ke langkah 2, sampai pusat kelompok baru sama dengan pusat kelompok sebelumnya. 8. Menentukan berapa kali harus dilakukan perulangan b) Pengklasteran dengan tidak diketahui jumlah klasternya : 1. Menentukan jumlah klaster didasari dengan pengetahuan sebelumnya (prior knowladge). Misalnya telah diketahui bahwa jumlah klaster >3 dan jumlah klaster < 20. Maka dapat diketahui berdasarkan pengetahuan bahwa jumlah klaster yang mungkin adalah (20+3)/2 = 12 klaster. 2. Menghitung jarak antar kluster dan jarak anggota dalam satu kluster. Jika jarak antar kluster lebih besar dibandingkan dengan jarak anggota dalam satu kalster maka pengklasteran sudah baik, namun jika sebaliknya maka hasil pengklasteran jelek. 3. Jika pengklasteran masih jelek maka dilakukanlah split dan merge. Split (pecah) dilakukan jika rata-rata jarak anatr anggotaa dalam satu kluster semakin besar. Dan dilakukan merge (gabung) jika jarak rata-rata antar anggota dalam satu klaster semakin kecil.

4 IV. HASIL Gambar 1. Data sebelum dilakukan pengklusteran k = 2 maka hasilnya : maxrow = 250 (Maksimal jumlah baris) maxcol = 2 (Maksimal jumlah kolom) c = (koordinat centroid) perulangan dalam mencari pusat data hanya dua kali perulangan. Gambar 2. kluster = 2

5 k = 100 sehingga perulangan dalam mencari pusat data juga 100 kali perulangan maka didapat pusat datanya setelah 100 kali perulangan adalah c = Gambar 3. Kluster =

6 k = 4 maka pusat datanya menjadi c = Gambar 4. kluster = 4 k=5 maka pusat datanya menjadi c =

7 Gambar 5. kluster=5 k=1 maka pusat datanya menjadi c = k = 249 maka pusat datanya Gambar 6. Kluster = 1 c =

8 Gambar 7. Kluster =

9

10

11 k = 50 maka pusat datanya c = Gambar 8. Kluster =

12 k=3 maka didapat pusat datanya c = Gambar 9. Kluster = 3 V. PEMBAHASAN Pada pengklusteran data yang diambil dari link telah diketahui bahwa jumlah kluster yang ada pada data adalah sama dengan 3 kluster. Hal ini dapat dilihat di lampiran, dimana saya menyertakan read file data sebagai bahan koreksi. Oleh karena itu setelah mencoba dan mngira-kira jumlah klaster yang memungkinkan (baca: karena memang satu-satunya jalan ketika kita tidak mengetahui secara pasti jumlah klaster adalah menrka-nerka ) saya menyimpulkan bahwa hasil data tersebut memang mempunya 3 klaster. Hal ini didasarkan pada visualisasi hasil pengklusteran yang dapat dilihat pada bagian hasil dari tugas ini. Kluster yang berjumlah tiga memberikan pusat data c = ( ), ( ) dan ( ) dengan x adalah angka awal dari data dan y adalah maksimal kolom dari akibat dari adanya perulangan.

13 Program yang didapat adalah function y=cluster(m,k,centroid) %%%%%%%%%%%%%%%% % Input: % m - data matriks yang berupa baris dan kolom % k - jumlah klaster (terserah ingin diisi berapa) % centroid - jika menggunakan inisialisasi bilangan random maka centroid=1,tapi jika tidak maka dapat memasukkan nilai berapapun (akan menjadikan nilai ke-k sebagai pusat data awal) % % Variabel lokal % f - jumlah baris dari data yang termasuk pada grup i % c - koordinat pusat data (centroid) (1:k, 1:maxCol) % g - perulangan saat ini pada matriks(1:maxrow) % i - jumlah perulangan % maxcol Jumlah kolom maksimal pada matriks % maxrow jumlah baris maksimal pada matriks % temp - perulangan sebelumnya pada matriks (1:maxRow) % z - nilai minimum (tidak dibutuhkan) %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% if nargin<3, centroid=0; end if nargin<2, k=1; end [maxrow, maxcol]=size(m) if maxrow<=k, y=[m, 1:maxRow] else % inisialisasi nilai pusat data if centroid, p = randperm(size(m,1)); % inisialisasi menggunakan bilangan random for i=1:k c(i,:)=m(p(i),:) end else for i=1:k c(i,:)=m(i,:) % inisialisasi sekuensial end end temp=zeros(maxrow,1); % inisialisasi sebagai vektor nol while 1, d=jarak(m,c); % menghitung jarak antara pusat data dengan anggotanya [z,g]=min(d,[],2); % anggota kluster bergabung ke kelompoknya masing2 if g==temp, break; else temp=g; end for i=1:k f=find(g==i); if f % perulangan berhenti % mengkopi kelompok masing2 anggota ke dalam variabel sementara % hanya menghitung pusat data jika f tidak kosong c(i,:)=mean(m(find(g==i),:),1);

14 end end end y=[m,g]; end Dapat dilihat dari program diatas maka yang pertama harus dilakukan adalah membaca file yang telah didapat dengan instruksi : load matlab-lab2-data.mat. Kemudian, diisikan jumlah klaster yang memungkinkan untuk data tersebut. Misal k=2. Setelah klaster diisi, maka kita juga dapat mengisi nilai centroid. Nilai centroid jika diisi maka akan memberikan nilai ke-k sebagai nilai pusat data awal. Namun, jika variabel ini tidak diisi juga tidak mengapa karena akan memberikan niali defaultnya yaitu nilai awal data (nilai pertama) yang akan diinisialisasi sebagai pusat data awal. Saya memilih untuk tidak mengisi (membiarkan kosong) variabel centorid, hal ini dikarenakan lebih mudah dalam melihat hasil yang akan diperoleh dikarenakan nilai awal datanya tetap. Namun, jika memang ingin melakukan percobaan dengan nilai ke-k sebagai pusat data, maka nilai ke-k ini harus dipertahankan terus menerus agar hasil pengklusteran dapat dilihat secara sempurna. Pada program ini, perulangan (iterasi) akan berhenti saat perulangan sama dengan nilai k (kluster). Sehingga jika kita menuliskan nilai kluster = 4, maka dalam menentukan pusat data program akan berulang sebanyak 4 kali sehingga menampilkan 4 pusat data. Dalam hal ini permasalahan dalam mengatasi program terus menerus berulang dapat diatasi, karena memanfaatkan jumlah kluster dengan jumlah perulangan. Namun, hal ini belum tentu akurat dalam pendefinisian anggota kluster. Jarak yang digunakan dalam mengukur pusat data dengan anggotanya menggunakan metode jarak euclidean. Metode ini lebih umum digunakan karena dapat memberikan jarak terpendek antara pusat dan anggotanya. Dalam program ini, inisialisasi jarak dibuat fungsi tersendiri yaitu function jarak. VI. KESIMPULAN DAN SARAN K-menas merupakan salah satu metode yang digunakan dalam pengelompokkan data acak. Penentuan jumlah kluster seharusnya didasari pengetahuan sebelumnya, sehingga dapat diketahui jumlah kluster yang ada pada data. Data yang diambil dari data.mat telah diketahui berapa jumlah klusternya. Untuk memprogram dengan menggunakan Matlab 7.5 diperlukan banyak latihan dan melihat program-program yang sudah banyak dibuat.

15 VII. DAFTAR PUSTAKA Siang, Jong jek. Jaringan Syaraf Tiruan dan Pemogramannya Menggunakan Matlab Penerbit Andi : Yogyakarta. Harjoko, dkk. Fuzzy Multi-Attribute Decision Making Graha Ilmu: Yogyakarta. Matlab 7.05 Help

16 Lampiran : Hasil Pengetesan program K-means dengan data yang telah didapat k = 3 >> y=cluster(data,k) maxrow = 250 maxcol = 2 c = c = c = y = (kolom pada variabel y ada 3 dimana kolom satu dan kolom dua merupakan data sedangkan kolom ketiga merupakan penggolongan kluster)

17

18

19

20 Listing Program jarak function d=jarak(a,b) [ha,wa]=size(a); [hb,wb]=size(b); if wa ~= wb, error(' Matriks harus sama'); end for k=1:wa C{k}= repmat(a(:,k),1,hb); D{k}= repmat(b(:,k),1,ha); end S=zeros(hA,hB); for k=1:wa S=S+(C{k}-D{k}').^2; end d=sqrt(s);