Data Mining I. Mata kuliah Data Warehouse Universitas Darma Persada Oleh: Adam AB

Transkripsi

1 1

2 2

3 Data Mining I Mata kuliah Data Warehouse Universitas Darma Persada Oleh: Adam AB

4 Bussiness Intelligent proses perubahan data menjadi informasi dan dari kumpulan informasi yang ada akan diambil polanya menjadi pengetahuan 4

5 Data Mining - definisi Istilah yang digunakan untuk menguraikan penemuan pengetahuan dalam database Data mining menggunakan teknik statistik, matematika, kecerdasan buatan dan machine learning untuk mengekstraksi dan mengidentifikasi informasi yang bermanfaat dan pengetahuan yang terkait dari berbagai database besar 5

6 Data Mining-definisi (lanj) Analisis otomatis dari data yang berjumlah besar atau kompleks dengan tujuan menemukan pola atau kecenderungan yang penting yang biasanya tidka disadari keberadaannya. (pramudiono, 2006) Analisis dari peninjauan kumpulan data untuk menemukan hubungan yang tidak diduga dan meringkas data dengan cara yang berbeda dengan sebelumnya yang dapat dipahamidan bermanfaat bagi pemilik data (Larose, 2005) 6

7 Data Mining-definisi (lanj) Data Mining ~ Knowledge Discovery ~ pattern recognition 7

8 Data mining-definisi (lanj) Disiplin ilmu yang mempelajari metode untuk mengekstrakpengetahuan atau menemukan pola dari suatu data 1. Data: fakta yang terekam dan tidak membawa arti 2. Pengetahuan: pola, aturan atau model yang muncul dari data Sehingga Data mining sering disebut Knowledge Discovery in Database(KDD) Konsep Transformasi Data Informasi Pengetahuan 8

9 Data Tidakmembawaarti, merupakan kumpulandarifakta-faktatentangsuatu kejadian Suatucatatanterstrukturdarisuatu transaksi Merupakanmateripentingdalam membentukinformasi 9

10 Pengetahuan Gabungandarisuatupengalaman, nilai, informasi kontekstual dan juga pandangan pakaryang memberikansuatuframework untuk mengevaluasi dan menciptakan pengalaman baru dan informasi (Thomas H. Davenport, Laurence Prusak) Bisaberupasolusipemecahansuatumasalah, petunjuk suatu pekerjaan dan ini bisa ditingkatkan nilainya, dipelajari dan juga bisa diajarkan kepada yang lain 10

11 Data Informasi - Pengetahuan Data Kehadiran Pegawai NIP TGL DATANG PULANG /12/ :20 15: /12/ :45 15: /12/ :51 16: /12/ :00 15: /12/ :01 16: /12/ :49 17:00 11

12 Data Informasi - Pengetahuan Informasi Akumulasi Bulanan Kehadiran Pegawai NIP Masuk Alpa Cuti Sakit Telat

13 Informasi Kondisi Kehadiran Mingguan Pegawai Senin Selasa Rabu Kamis Jumat Terlambat Pulang Cepat Izin Alpa

14 Pengetahuan apa yang diperoleh? Pengetahuantentangkebiasaan pegawaidalamjam datang/pulang kerja Pengetahuantentangbagaimana teknik meningkatkankehadiranpegawai kebijakan 14

15 Kebijakan penataan jam kerja karyawan khusus untuk hari senin dan jumat Peraturan jam kerja: HariSenindimulaijam 10:00 Hari Jumat diakhiri jam 14:00 Sisa jam kerja dikompensasi ke hari lain: 1. Senin pulang setelah maghrib, toh jalanan jakarta macet total di sore hari (bayar hutang 2 jam) 2. Rabu dan kamis bayar hutang setengah jam di pagi hari dan setengah jam di sore hari (bayar hutang 2 jam) 15

16 Irisan bidang ilmu data mining 1. Statistik: Lebih bersifat teori Fokus ke pengujian hipotesis 2. Machine Learning: Lebih bersifat heuristik Fokus pada perbaikan performansi dari suatu teknik learning 3. Data Mining: Gabungan teori dan heuristik Fokus pada seluruh proses penemuan knowledge dan pola Termasuk data cleaning, learning dan visualisasi hasilnya 16

17 Mengapa Data minng Manusia dalam suatu organisasi, sadar atau tidak sadar telah memproduksi berbagai data yang jumlahnya sangat besar Contoh data: bisnis, kedokteran, ekonomi, geografi, olahraga, Pada dasarnya, data adalah entitas yang tidak memiliki arti, meskipun kemungkinan memiliki nilai di dalamnya 17

18 Faktor perlunya Data Mining Pertumbuhan data yang cepat Penyimpanan data dalam data warehouse, sehingga seluruh perusahaan memiliki akses ke dalam DB yang handal Peningkatan akses data melalui web dan intranet Tekanan kompetisi bisnis Ketersediaan teknologi Perkembangan komputasi yang sangat maju dan pesat dan kapasitas media simpan 18

19 Hal penting terkait data mining Proses otomatisasi terhadap data yang sudah ada Data yang akan diproses berupa data yang sangat besar Tujuan data mining mendapatkan hubungan atau pola yang mungkin memberikan indikasi yang bermanfaat 19

20 Fungsi data mining Fungsi deskripsi (description) Fungsi estimasi (estimation) Fungsi prediksi (prediction) Fungsi klasifikasi (classification) Fungsi pengelompokan (clustering) Fungsi asosiasi (association) Fungsi minor Fungsi major 20

21 Estimation Association Prediction Clustering Classification 21

22 Data mining-deskripsi Sebagai kasus akan diberi suatu data nilai UAS matakuliah Datawarehouse kelas pagi dan malam 22

23 Data Mining-deskripsi (lanj) Ketika diberi kumpulan data kita sukar menangkap arti kumpulan data tersebut sehingga data harus dirangkum sedemikian rupa agar berbicara sehingga kita memiliki gambaran mengenai kumpulan data tersebut Bayangkan bila datanya adalah ribuan bahkan jutaan data. jutaan angka 23

24 Data Mining-deskripsi (lanj) Diperlukan suatu cara untuk menggambarkan sekumpulan data secara ringkas deskripsi Metode Statistika 24

25 Data Mining-deskripsi (lanj) Terdapat beberapa cara untuk memberikan gambaran secara ringkas. 1. Deskripsi grafis mendeskripsikan data dalam bentuk gambar a. diagram titik b. histogram 2. Deskripsi lokasi memberikan informasi mengenai data pada posisi tempat tertentu 25

26 Data mining-deskripsi (lanj) 3. Deskripsi keberagaman meski deskripsi lokasi sudah memberikan gambaran tentang lokasi pusat data (mean, median, modus) kita masih belum memiliki gambaran atas keberagaman data. 26

27 Data mining-deskripsi(lanj) Sebagai gambaran akan kita lihat studi kasus nilai UAS MK datawarehouse Nilai UAS terdiri dari 2 kelas yaitu kelas pagi dan malam Kelas pagi ditampilkan pada tabel berikut 27

28 Data mining-deskripsi(lanj) 28

29 Data mining-deskripsi(lanj) Mengapa kita perlu memproses data di atas? Apakah data di tabel tersebut memberikan arti bagi kita? Bagaimana kita mengetahui makna sekumpulan data di atas? Bagaimana bila data di atas berjumlah ribuan bahkan jutaan data? 29

30 Data mining-deskripsi grafis Mendeskripsikan data dalam bentuk visual a picture paints a thousand words Berupa diagram titik dan histogram 30

31 Data mining-deskripsi grafis(lanj) Diagram titik setiap data digambarkan sebagai sebuah titik (dot) Misal nilai kelas pagi digambarkan tiitik penuh sementara kelas malam digambarkan titik dengan lubang tengah 31

32 Data mining-deskripsi grafis(lanj) Diagram histogram Misalnya kita mempunyai data nilai UAS kelas pagi 32

33 Data mining-deskripsi grafis(lanj) Langkah pertama dalam membuat histogram adalah membuat beberapa interval dalam hal ini misalnya membuat interval sesuai dengan klasifikasi nilai = A = B = C = D 45 0 = E 33

34 Data mining-deskripsi grafis(lanj) Langkah kedua adalah menghitung seberapa banyak data yang menjadi anggota tiap interval Langkah ketiga, membuat histogram berdasarkan data di atas 34

35 Data mining-deskripsi grafis(lanj) 35

36 Data mining-deskripsi grafis(lanj) histogram berdasarkan interval nilai S e rie s jum la h fre k ue ns i 36

37 Data mining-deskripsi grafis(lanj) Pengetahuan apa yang diperoleh? Dengan melihat batang-batang tersebut kita dapat melihat lokasi kecenderungan mengumpulnya data dari batang tertinggi. Histogram yang menunjukkan data yang merata menunjukkan keberagaman data beragam dan menyebar 37

38 Data mining-deskripsi lokasi Meskipun deskripsi grafis sudah menggambarkan karakteristik data, sifatnya masih terlalu kasar dan kurang praktis untuk dilakukan. Kita memerlukan angka yang cukup mewakili data dan diperoleh secara praktis daripada grafis. 38

39 Data mining-deskripsi lokasi(lanj) 1. Rata-rata (Mean) membuat menjadi rata. Rumus mean adalah jumlah semua data dibagi dengan banyaknya data 39

40 Data mining-deskripsi lokasi(lanj) Melihat kasus nilai UAS kelas PAGI dan MALAM maka bisa dilihat masingmasing mean nilai UAS tersebut 40

41 Data mining-deskripsi lokasi(lanj) Rata-rata / mean Pengetahuan apa yang bisa diperoleh? Dengan mudah bisa kita katakan bahwa PADA UMUMNYA nilai kelas malam memiliki nilai 70.3 dan kelas pagi Nilai rata-rata kelas malam lebih tinggi daripada kelas pagi. Mengapa? 41

42 Data mining-deskripsi lokasi(lanj) Median / nilai tengah Dengan median, kita mencari nilai di tengah. Langkah pertama adalah mengurutkannya. Data asli: Data urut: Karena data kita ganjil (15) maka nilai tengahnya adalah 70 Bila banyaknya data genap maka pertengahan data dijumlahkan kemudian dibagi 2 42

43 Data mining-deskripsi lokasi(lanj) Pengetahuan apa yang dapat diperoleh? Bila kita mengurutkan data nilai dari yang terendah sampai ke tertinggi maka ditengahnya adalah 70. Keuntungan menggunakan median adalah tidak terpengaruh nilai ekstrim. Bila ratarata/mean akan terpengaruh nilai ekstrim. Contohnya? 43

44 Data mining-deskripsi lokasi(lanj) Modus nilai yang paling banyak muncul. Data nilai : Nilai yang menjadi modus adalah 55 3x dan 65 3x Pengetahuan apa yang muncul? Nilai mahasiswa UAS pagi banyak yang memperoleh 55 dan 65 Modus mencerminkan lokasi kecenderungan berkumpulnya sebagian besar data dibanding yang lain. 44

45 Data mining-deskripsi lokasi(lanj) Contoh: sebuah perusahaan menyatakan bahwa gaji rata-rata perusahaan XYZ adalah Rp. 10 juta. Kenyataann 90 karyawan digaji Rp. 1 Juta, dan hanya 10 karyawan yang digaji Rp. 100 juta. Dibandingkan rata-rata, informasi yang lebih tidak menyesatkan dan berguna adalah bahwa sebagian besar / modus karyawan digaji sekitar Rp. 1 juta 45

46 Data mining-deskripsi lokasi(lanj) Kuartil : membagi seluruh data menjadi empat bagian dan mencari nilai di tiap seperempat bagian/kuartil tersebut Pengetahuan apa yang bisa diperoleh? Bila kita mengurutkan data nilai UAS pagi kemudian urutan kita bagi empat maka akan diperoleh angka 55, 62.5, 70, 77.5, 95 46

47 Data mining-deskripsi lokasi(lanj) Persentil : pembagian data dengan 100 bagian

48 Data mining-deskripsi lokasi(lanj) Pengetahuan yang diperoleh: Bila kita mengurutkan data nilai UAS kelas pagi dari yang terendah sampai tertinggi akan diperoleh angka tersebut 48

49 Data mining-deskripsi keberagaman Deskripsi lokasi sudah memberikan gambaran tentang lokasi pusat data (rata-rata, modus, median) tetapi kita belum memiliki keberagaman data. Data I 6, 6, 7, 7, 7, 8, 8 mean = 7, median = 7, modus = 7 Data II 0, 1, 3, 7, 7, 12,19 mean = 7, median = 7, modus = 7 49

50 Data mining-deskripsi keberagaman Mean, median dan modus nya sama apakah data di atas sama? Data di atas tidak sama karena persebarannya beda. Pada data I cenderung berkumpul di 7, sementara data II beragam dan menyebar. Tiga ukuran untuk melihat keberagaman yaitu range, varians dan standar deviasi 50

51 Data mining-deskripsi keberagaman 1. Rentang menyatakan besarnya rentang jarak antara data terkecil dengan data terbesar. Rentang yang besar menandakan bahwa data relatif beragam dan sebaliknya Contoh: Data I 6, 6, 7, 7, 7, 8, 8 Data II 0, 1, 3, 7, 7, 12,19 range data I 8 6 = 2 range data II 19 0 = 19 51

52 Data mining-deskripsi keberagaman Pengetahuan apa yang kita peroleh? Kelompok data II memiliki data lebih beragam dengan range yang lebar. Tetapi karena ukuran yang diambil nilai min dan max maka kurang terlihat juga keberagaman data nya 52

53 Data mining-deskripsi keberagaman Contoh 2: memodifikasi contoh 1 Data I 6, 15, 15, 16, 16, 16, 25 Data II 0, 1, 3, 7, 7, 12,19 Meski range nya sama, data I masih relatif lebih seragam/kurang beragam dibanding data II 53

54 Data mining-deskripsi keberagaman 2. Varians dan standar deviasi Range tidak dapat dijadikan pijakan yang kokoh untuk menilai keberagaman data. Oleh karena itu ukuran varians yang menggunakan prinsip pencarian jarak antara setiap data dengan pusatnya (mean) sering digunakan. 54

55 Data mining-deskripsi keberagaman Setiap data observasi dikurangi dengan rata-rata seluruh data. Setiap hasl pengurangan dikuadratkan kemudian semuanya dijumlahkan. Hasil penjumlahan dibagi dengan (n-1), dengan n menyatakan banyaknya data. 55

56 Data mining-deskripsi keberagaman Bila data I dan II di olah dengan varians dan standar deviasi maka (Data ke n mean) 2 Jumlah (Data ke n mean) 2 /banyaknya data 56

57 Data mining-deskripsi keberagaman Berdasarkan varians nya Pengetahuan apa yang diperoleh? Data pada kelompok II berjarak relatif lebih jauh dengan pusatnya (dalam hal ini rata-ratanya) sehingga variansinya lebih besar. Dengan kata lain data pada kelompok II lebih beragam dibanding data I 57

58 Data mining-deskripsi keberagaman Standar deviasinya adalah 5.5 dan 6.7 Pengetahuan apakah yang bisa digali? Data pada kelompok II lebih beragam dibanding kelompok I. 58

59 penutup Kegunaan fungsi deskripsi Berbagai cara menjalankan fungsi deskripsi Ukuran yang digunakan dalam caracara deskripsi Ilmu yang digunakan dalam data mining 59

60 Pertanyaan? 60

61 Latihan Berikut adalah catatan temperatur tertinggi tiap jam dalam sebuah lemari pendingin: 4.2; 4.7; 4.7; 5.0; 3.8; 3.6; 3.0; 5.1; 3.1; 3.8; 4.8; 4.0; 5.2; 4.3; 2.8; 2.0; 2.8; 3.3; 4.8 dan 5.0 Gambar dan interpretasikan dengan histogram Hitung mean, median, modus Hitung range, varians dan standar deviasi nya 61

62 62

63 catatan Dalam ilmu statistik standar deviasi digunakan untuk membandingkan penyebaran atau penyimpangan data dua kelompok atau lebih. Apabila standar deviasi suatu data tersebut kecil maka hal tersebut menunjukkan data-data tersebut berkumpul disekitar rata-rata hitungnya, dan jika standar deviasinya besar hal tersebut menunjukkan penyebaran yang besar dari nilai rata-rata hitungnya. Salah satu penerapan standar deviasi ini misalnya dalam bidang ekonomi. Standar deviasi dapat digunakan untuk menghitung perbandingan pertumbuhan ekonomi suatu negara, misalnya mengukur pertumbungan ekonomi negara-negara ASEAN. Dalam kurun waktu lima tahun terakhir misalnya, standar deviasi pertumbuhan ekonomi Negara Singapura adalah 0.55, Malaysia sebesar 0.87, Indonesia sebesar 1.03, dan Thailand sebesar Dari hasil penghitungan tersebut dapat diketahui dan dianalisis mengenai pertumbuhan ekonomi Indonesia yang memiliki standar deviasi lebih besar dibanding 3 Negara ASEAN lainnya, hal ini mengindikasikan pertumbuhan ekonomi Indonesia yang lebih fluktuatif dan ketidakmenentuan dibandingkan 3 negara laiinya. 63

64 64

65 65

66 66