POLITEKNIK ELEKTRONIKA NEGERI SURABAYA DEPARTEMEN TEKNIK INFORMATIKA DAN KOMPUTER PROGRAM STUDI TEKNIK INFORMATIKA Regresi Linier Metode Numerik Zulhaydar Fairozal Akbar zfakbar@pens.ac.id 2017
TOPIK Pengenalan Regresi Regresi Linier Regresi Non-Linier 2
Pendahuluan Pada pembahasan interpolasi, data dianggap telah diperoleh dengan teliti tanpa kesalahan yang signifikan. Kurva polinom penginterpolasi melintasi setiap titik / simpul data secara langsung. Pada data dengan tingkat kesalahan yang signifikan, kurva dikehendaki menyatakan kecenderungan umum dari data (mengikuti pola titik-titik data yang diperoleh). Pendekatan ini dinamakan regresi kuadrat terkecil. 3
Pendahuluan Regresi adalah teknik percocokan kurva untuk data yang berketelitian rendah. Contoh data yang berketelitian rendah data hasil pengamatan, percobaan di laboratorium, atau data statistik. Data seperti itu kita sebut data hasil pengukuran. Untuk data hasil pengukuran, pencocokan kurva berarti membuat fungsi mengampiri (approximate) titik-titik data. Kurva fungsi hampiran tidak perlu melalui semua titik data tetapi dekat dengannya tanpa perlu menggunakan polinom berderajat tinggi. 4
Pendahuluan Contoh : diberikan data jarak tempuh (y) sebuah kendaraan dalam mil setelah x bulan seperti pada tabel di bawah ini. x y 1.38 1.83 3.39 2.51 4.75 3.65 6.56 4.10 7.76 5.01 5
Pendahuluan Dari kedua pencocokan tersebut, terlihat bahwa garis lurus memberikan hampiran yang bagus, tetapi belum tentu yang terbaik. Pengertian terbaik disini bergantung pada cara kita mengukur error hampiran. 6
Pendahuluan Prinsip penting yang harus diketahui dalam mencocokan kurva untuk data hasil pengukuran adalah : Fungsi mengandung sesedikit mungkin parameter bebas Deviasi fungsi dengan titik data dibuat minimum Kedua prinsip di atas mendasari metode regresi kuadrat terkecil. Manfaat pencocokan kurva untuk data hasil pengukuran : 1. Bagi ahli sains/rekayasa : mengembangkan formula empirik untuk sistem yang diteliti. 2. Bagi ahli ekonomi : menentukan kurva kecenderungan ekonomi untuk meramalkan kecenderungan masa depan. 7
Regresi Linier Misalkan (x i,y i ) adalah data hasil pengukuran. Kita akan menghampiri titik-titik tersebut dengan sebuah garis lurus. Garis lurus tersebut dibuat sedemikian sehingga errornya sekecil mungkin dengan titik-titik data. 8
Regresi Linier Karena data mengandung error, maka nilai data sebenarnya, g(x $ ), dapat ditulis sebagai : g x $ = y $ + e $ i = 1,2,, n (1) Yang dalam hal ini, ei adalah error setiap data. Diinginkan fungi linier : f x = a + bx (2) Yang mencocokkan data sedemikian sehingga deviasinya, minimum. r $ = y $ f(x $ ) = y $ (a + bx $ ) (3) Total kuadrat deviasi persamaan (4) adalah : R = 9 $:; r 8 $ = 9 (y $ a + bx $ ) 8 $:; (4) 9
Regresi Linier Agar R minimum, maka haruslah : R b = 2 = x $(y $ a bx $ ) = 0 R a = 2 =(y $ a bx $ ) = 0 Untuk selanjutnya, notasi ditulis saja. 10
Regresi Linier Penyelesaian : Masing-masing ruas kedua persamaan dibagi dengan -2 : y $ a bx $ = 0 y $ a bx $ = 0 x $ y $ a bx $ = 0 x $ y $ ax $ bx 8 $ = 0 Selanjutnya, = a + = bx $ = = y $ = ax $ + = bx $ 8 = = x $ y $ atau na + b = x $ = = y $ a = x $ + b = x $ 8 = = x $ y $ 11
Regresi Linier Kedua persamaan terakhir ini dinamakan persamaan normal, dan dapat ditulis dalam bentuk persamaan matrikx : n = x $ = x $ =x $ 8 a b = =y $ =x $ y $ Solusi (nilai a dan b) bisa dicari dengan metode eliminasi Gauss Atau langsung dengan rumus : b = n x $ y $ x $ y $ n x $ 8 ( x $ ) 8 a = ya bx 12
Regresi Linier Untuk menentukan seberapa bagus fungsi hampiran mencocokkan data, kita dapat mengukurnya dengan error RMS (Root-mean-squareerror) : 9 E DEF = 1 n = f x $ y $ 8 $:; ;/8 Semakin kecil nilai E DEF semakin bagus fungsi hampiran mencocokkan titik-titik data. 13
Algoritma Regresi Linier 1. Tentukan N titik data yang diketahui dalam (x $, y $ ) untuk i = 1,2,3,, N 2. Hitung nilai a dan b dengan menggunakan formulasi dari regresi linier. 3. Tampilkan fungsi linier. 4. Hitung fungsi liniertersebut dalam range x dan step dx tertentu. 5. Tampilkan hasil tabel (x 9, y 9 ) dari hasil fungsi linier tersebut. 14
Contoh Regresi Linier Contoh : Tentukan persamaan garis lurus yang mencocokkan data pada tabel di bawah ini. Kemudian, perkirakan nilai y untuk x = 1.0. Penyelesaian : i x i y i 2 x i x i y i 1 0.1 0.61 0.01 0.061 2 0.4 0.92 0.16 0.368 3 0.5 0.99 0.25 0.495 4 0.7 1.52 0.49 1.064 5 0.7 1.47 0.49 1.029 6 0.9 2.03 0.81 1.827 = x $ = 3.3 = y $ = 7.54 = x $ 8 = 2.21 = x $ y $ = 4.844 15
Contoh Regresi Linier Diperoleh sistem persamaan linier : 6 3.3 3.3 2.21 a b = 7.54 4.844 Solusi SPL di atas adalah : a = 0.2862 b = 1.7645 Persamaan garis regresinya adalah : f x = 0.2862 + 1.7645x 16
Contoh Regresi Linier Perbandingan antara nilai y $ dan f(x $ ) : i x i x i f x i = a + bx i Deviasi f x i y i (deviasi) 2 1 0.1 0.61 0.46261 0.147389 0.02172 2 0.4 0.92 0.99198 0.07198 0.00518 3 0.5 0.99 1.16843 0.17844 0.03184 4 0.7 1.52 1.52135 0.00135 1.82E-06 5 0.7 1.47 1.52135 0.05135 0.00264 6 0.9 2.03 1.87426 0.15574 0.02425 Taksiran nilai y untuk x = 1.0 adalah : y = f 1.0 = 0.2862 + 1.7645 1.0 = 2.0507 = = 0.08563 Errror RMS adalah E DEF = ( 0.08563 ) ;/8 = 0.119464 6 17
Linierisasi Persamaan Non-Linier Regresi linier hanya tepat bila data memiliki hubungan linier antara peubah bebas dan peubah terikatnya. Gambar berikut memperlihatkan bahwa garis lurus tidak tepat mewakili kecenderungan titiktitik data. Fungsi kuadratik lebih tepat menghampiri titik-titik tersebut. 18
Linierisasi Persamaan Non-Linier Langkah pertama dalam analisis regresi seharusnya berupa penggambaran titik-titik data pada diagram kartesian. Kemudian secara visual memeriksa data untuk memastikan apakah berlaku suatu model linier atau model non-linier. Penggambaran titik-titik ini sekaligus juga sangat membantu dalam mengetahui fungsi yang tepat untuk mencocokkan data. Meskipun fungsi hampiran berbentuk non-linier, namun pencocokan kurva dengan fungsi nonliniertersebut dapat juga diselesakan dengan cara regresi linier. 19
Linierisasi Persamaan Non-Linier Tiga macam fungsi non-linier di bawah ini : 1. Persamaan pangkat sederhana y = Cx Z, C dan b konstanta. 2. Model eksponensial y = Ce Z[, C dan b konstanta. Contoh : - model pertumbuhan populasi - model peluruhan zat radioaktif 3. Persamaan laju pertumbuhan jenuh (saturation growth-rate) y = \[ ]^[, C dan b konstanta. Contoh : model pertumbuhan bakteri kondisi pembatas (misalnya dibatasi oleh jumlah makanan) 20
Linierisasi Persamaan Non-Linier 21
Pelinieran Persamaan Pangkat Sederhana Misalkan kita akan mencocokkan data dengan fungsi : y = Cx Z Lakukan pelinieran sebagai berikut : y = Cx Z ln y = ln C + b ln (x) Definisikan : y = ln y ; a = ln C ; X = ln (x) Persamaan regresi linier adalah : Y = a + bx Lakukan pengubahan dari (x $, y $ ) menjadi (ln (x $ ),ln (y $ )), lalu hitung a dan b dengan cara regresi linier. Dari persamaan a = ln (C), kita dapat menghitung nilai : C = e e Masukkan nilai b dan C dalam pangkat y = Cx Z 22
Contoh fungsi y = Cx Z Contoh : Cocokkan data berikut dengan fungsi y = Cx Z i x i y i x i = ln(x i ) y i = ln(y i ) x 2 i x i y i 1 0.1500 4.4964-1.971 1.5033 3.5990-2.8519 2 0.4000 5.1284-0.9163 1.6348 0.8396-1.4980 3 0.6000 5.6931-0.5108 1.7393 0.2609-0.8884 4 1.0100 6.2884 0.0100 1.8387 0.0001 0.0184 5 1.5000 7.0989 0.4055 1.9599 0.1644 0.7947 6 2.2000 7.5507 0.7885 2.0216 0.6217 1.5940 7 2.4000 7.5106 0.8755 2.0163 0.7665 1.7653 =x $ = 1.2447 = y $ = 12.7139 = x i 2 =6.2522 = x i y i = 1.0659 23
Contoh fungsi y = Cx Z Diperoleh sistem persamaan linier 7 1.2477 1.2447 6.2522 a b = 12.7139 1.0659 Solusi SPL di atas a = 1.81515 dan b = 0.1981 Hitung C = e e = e ;.h;i;i = 6.369366 Jadi, titik-titik (x, y) pada tabel di atas dihampiri dengan fungsi pangkat sederhana f x = 6.369366x j.;kh; 24
Pelinieran Model Eksponensial y = Ce Z[ Misalkan kita akan mencocokkan data dengan fungsi : y = Ce Z[ Lakukan pelinieran sbb : y = Ce Z[ ln y = ln C + bx ln e ln y = ln C + bx à ln e = 1 Definisikan : Y = ln y a = ln C à C = e e X = x Persamaan Regresi Liniernya : Y = a + bx Lakukan pengubahan (x $,y $ ) à (x $, ln (y $ )) lalu hitung a dan b dengan cara regresi linier. Dari persamaan a = ln C di dapat C = e e Masukkan nilai b dan C dalam persamaan eksponensial y = Ce Z[ 25
Soal Hubungan antara variabel X dan variabel Y x 1 2 3 4 5 6 y 6 4 3 5 4 2 Buatkan persamaan regresinya Tentukan nilai Y, jika x = 8. 26
Soal Hubungan antara variabel X dan variabel Y x 1 2 3 4 5 6 y 6 4 3 5 4 2 Buatkan persamaan regresinya Tentukan nilai Y, jika x = 8. 27
Soal Hubungan antara kompetensi (x) dan kinerja pegawai (y) kita ambil sampel acak 15 orang pegawai sebagai berikut : x 40 55 32 55 50 52 61 44 30 22 40 64 58 48 44 y 4 16 12 24 15 24 22 17 4 14 24 26 20 9 14 Buatkan persamaan regresinya Tentukan nilai Y, jika x = 35. Hitung nilai ERMS 28