METODE ENSEMBLE PADA CART UNTUK PERBAIKAN KLASIFIKASI KEMISKINAN DI KABUPATEN JOMBANG

Ukuran: px

Mulai penontonan dengan halaman:

Download "METODE ENSEMBLE PADA CART UNTUK PERBAIKAN KLASIFIKASI KEMISKINAN DI KABUPATEN JOMBANG"

Suhendra Agus Makmur
6 tahun lalu
Tontonan:

1 METODE ENSEMBLE PADA CART UNTUK PERBAIKAN KLASIFIKASI KEMISKINAN DI KABUPATEN JOMBANG MUHAMMAD JAMAL MUTTAQIN PEMBIMBING DR. BAMBANG WIDJANARKO OTOK, M.SI. SANTI PUTERI RAHAYU, M.SI., PH.D.

2 Latar belakang Klasifikasi CART (1984) Ensemble Learning (1990s) Meningkatkan akurasi klasifikasi Bagging, Boosting, Random Forest Problematika Kemiskinan Klasifikasi kemiskinan di Jombang

3 Penelitian Terkait Suryadarma, Akhmad, Nina (2005) Ukuran kesejahteraan keluarga berbedabeda untuk tiap daerah Aeni (2009) Karakteristik rumah tangga miskin di Jawa Tengah: Pekerjaan bidang pertanian Pendidikan rendah Banyaknya anggota rumah tangga Metode ensemble Arcing CART meningkatkan akurasi klasifikasi 12,7% Permatasari (2013) Karakteristik penentu daerah miskin: Penggunaan jamban Rata-rata lama sekolah Sektor pekerjaan Angka melek huruf Metode ensemble Boosting MARS meningkatkan akurasi klasifikasi 7,9%

4 Rumusan masalah Penerapan CART? Peningkatan akurasi Bagging, boosting, random forest? Perbandingan akurasi dan stabilitas ensemble untuk mencapai akurasi konvergen?

5 Classification and regression trees (CART) Dikembangkan Leo Breiman, Jerome H. Friedman, Richard A. Olshen, dan Charles J. Stone pada 1984 Pohon keputusan Algoritma penyekatan rekursif biner Mengelompokkan ke dalam simpul agar homogen

6 Ilustrasi CART t 1 t 2 t 5 Pemilah 1 Pemilah 2 Pemilah 3 t 4 t 6 Pemilah 4 Pemilah 5 t 3 t 7 Parent node Child node t 8 t 9 Pemilah 6 t 10 t 11 Terminal node t 12 t 13

7 Pemilihan Pemilah i( t) = p( j t) p( i t) φ (,) st = it () pit ( ) pit ( ) j i L L R R i(t) = fungsi heterogenitas pada simpul t p L = proporsi pengamatan simpul kiri p R = proporsi pengamatan menuju simpul kanan i(t L ) = fungsi heterogenitas pada simpul anak kiri i(t R ) = fungsi heterogenitas pada simpul anak kanan φ(s,t) = goodness of split

8 Metode ensemble Menggabungkan prediksi klasifikasi dari banyak pohon klasifikasi melalu proses voting prediksi mayoritas Prediksi 1 Pohon klasifikasi 1 Prediksi akhir Voting Prediksi 2 Pohon klasifikasi 2 Prediksi T Pohon klasifikasi T

9 Bagging Bootstrap Aggregating Resampling acak dengan pengembalian Prediksi 1 CART 1 Dataset hasil resampling 1 Voting Prediksi 2 CART 2 Dataset hasil resampling 2 Prediksi T CART T Dataset hasil resampling T

10 Boosting Keluarga ensemble dengan banyak algoritma Dataset yang digunakan bergantung dari pohon klasifikasi sebelumnya Berfokus kepada data sampel yang salah diprediksi Prediksi 1 CART 1 Dataset (terboboti) 1 Voting Prediksi 2 CART 2 Dataset (terboboti) 2 Prediksi T CART T Dataset (terboboti) T

11 Algoritma adaboost.m1

12 Random Forest Perlu ada penambahan layer dari proses bagging Saat penentuan pemilah, variabel yang digunakan diambil secara acak Prediksi 1 CART 1 (prediktor acak) Dataset hasil resampling 1 Voting Prediksi 2 CART 2 (prediktor acak) Dataset hasil resampling 2 Prediksi T CART T (prediktor acak) Dataset hasil resampling T

13 Konsep kemiskinan BPS: ketidakmampuan untuk memenuhi standar minimum kebutuhan dasar, baik makanan maupun bukan makanan Pengukuran kemiskinan BPS: tingkat konsumsi baik makanan/non makanan Garis Kemiskinan Susenas

14 Sumber data Data sekunder Survey Verifikasi rumah tangga miskin Kabupaten Jombang 2010 Bappeda Kabupaten Jombang Data sampel rumah tangga miskin berjumlah 1353 Data sampel rumah tangga sangat miskin berjumlah 618 Perbandingan antarkelas 2,19 : 1

15 Variabel Penelitian Variabel Definisi Operasional Skala Pengukuran Y Status kemiskinan rumah tangga Nominal x1 Status penguasaan bangunan tempat tinggal Nominal x2 Luas kavling termasuk bangunan (m 2 ) Rasio x3 Luas lantai (m 2 ) Rasio x4 Jenis atap terluas Nominal x5 Jenis dinding terluas Nominal x6 Jenis lantai terluas Nominal x7 Tempat buang air besar (jamban) Nominal x8 Tempat pembuangan air tinja Nominal x9 Sumber penerangan utama Nominal x10 Sumber air minum Nominal x11 Bahan bakar memasak Nominal x12 Pengobatan Nominal x13 Ijazah terakhir kepala keluarga Ordinal x14 Penghasilan tiap bulan (Rp) Rasio

16 Langkah-langkah penelitian Pre-processing Data Analisis Klasifikasi dengan CART Analisis Klasifikasi Bagging CART Analisis Klasifikasi Boosting CART Analisis Klasifikasi Random Forest Membandingkan Klasifikasi antarmetode ensemble Menarik Kesimpulan Penelitian

17 Ukuran akurasi klasifikasi Tabel Klasifikasi Kelas Prediksi 1-APER Sensitivity Specificity Kelas Sebenarnya y 1 = -1 y 2 = 1 h 1 = -1 TN FN h 2 = 1 FP TP TP + TN TP + FP + TN + FN TP TP + FN TN TN + FP G-means sensitivity Luas AUC specificity

18 Uji Press s Q Press's Q = [ N ( nk) ] 2 N( K 1) N = Jumlah pengamatan total n = Jumlah pengamatan yang benar diklasifikasikan K = Jumlah kelas

19 Analisis CART Variabel menentukan klasifikasi kemiskinan: Penghasilan kepala Rumah Tangga (x14) Luas Lantai Bangunan (x3) Luas kavling termasuk bangunan (x2) Sumber air minum (x10) Dihasilkan 4 simpul kelas miskin dan 3 simpul kelas sangat miskin

20 Analisis CART x14< 2.125e+05 miskin 432/141 x3>=4.5 x10=abdefg x2< 49 miskin 770/363 x3>=13.5 miskin 14/9 sanga 0/11 x14< 8.75e+05 sangat 4/11 miskin 130/74 sangat 3/9

21 Akurasi Klasifikasi Akurasi CART Bagging Boosting Random Forest 1-APER 0,6986* 0,7438* 0,9006* 0,9812* Sensitivity 0,0502 0,1926 0,7589 0,9466 Specificity 0,9948 0,9956 0,9653 0,9970 G-Means 0,2234 0,4378 0,8559 0,9715 Luas AUC 0,568 0,872 0,967 0,999 Keterangan : * Statistik Press s Q signifikan

22 Performa Ensemble untuk mencapai akurasi konvergen Metode Klasifikasi St. Dev 1-APER Bagging CART 0,014 Boosting CART 0,069 Random Forest 0, Ensemble Bagging Boosting RF APER Jumlah Pohon 15 20

23 Kesimpulan CART Var x14, x3, x2, dan x10 paling menentukan klasifikasi Akurasi Ensemble Akurasi Lebih baik dibanding pohon klasifikasi tunggal CART Performa Ensemble Akurasi Random Forest paling baik Bagging CART paling cepat mencapai akurasi yang konvergen

dokumen-dokumen yang mirip

Metode Ensemble pada CART untuk Perbaikan Klasifikasi Kemiskinan di Kabupaten Jombang

1 Metode Ensemble pada CART untuk Perbaikan Klasifikasi Kean di Kabupaten Jombang Muhammad Jamal Muttaqin, Bambang W. Otok, dan Santi Puteri Rahayu Jurusan Statistika, Fakultas MIPA, Institut Teknologi