Pengenalan Pola. Regresi Linier

Transkripsi

1 Pegeala Pola Regresi Liier PTIIK - 014

2 Course Cotets 1 Defiisi Regresi Liier Model Regresi Liear 3 Estimasi Regresi Liear 4 Studi Kasus da Latiha

3 Defiisi Regresi Liier Regresi adalah membagu model utuk memprediksi ilai dari data masuka yag diberika. Prediksi berbeda dega klasifikasi (catata: dalam machie learig, klasifikasi diaggap sebagai salah satu jeis dari prediksi). Klasifikasi diguaka utuk memprediksi label kelas/kategori. Metode utama utuk melakuka prediksi : Membagu model regresi yaitu dega mecari hubuga atara satu atau lebih variabel idepede atau prediktor (X) dega variabel depede atau respo (Y).

4 Defiisi Regresi Liier Macam-Macam Aalisis Regresi : Liear ad multiple regressio. No-liear regressio (eural etworks, support vector machies). Other regressio methods : geeralized liear model, Poisso regressio, log-liear models, regressio trees.

5 Model Regresi Liier Model regresi liier sederhaa medefiisika hubuga liier yag tepat atara ilai yag diharapka atau rata-rata Y, variabel terikat Y, da variabel idepede atau prediktor X: m y = a+b Nilai yag diamati Realisasi Y (y) berbeda dari ilai yag diharapka (m y ) dega kesalaha yag tak dapat dijelaska atau acak (): y = m y + = a+b +

6 Model Regresi Liier Model Regresi Liier Sederhaa : y= a + b + dega m y =a+b y adalah variabel respo (depedet), atau variabel yag igi kita prediksi, adalah variabel prediktor (idepede) da adalah variabel tigkat kesalaha yag merupaka satu-satuya kompoe acak dalam model regresi. a adalah titik potog garis regresi pada sumbu koordiat. b adalah besarya gradie/kemiriga garis regresi. m y adalah mea dari y dega syarat telah ditetuka, atau disebut sebagai rata-rata bersyarat y.

7 Model Regresi Liier Model Umum Regresi Liier : y= a + b + Keteraga : a da b adalah parameter yag aka ditetuka ilaiya utuk membagu persamaa regresi. Parameter tersebut tidak diketahui sebelumya. Kita perkiraka ilaiya dega meghitug dari data yag ada. b meujukka tigkat perubaha utuk setiap keaika ilai X. X telah diketahui sebelumya da berilai kosta. Deviasi/Peyimpaga ilai bersifat idepedet da berdistribusi Normal ~ N(0, ). Hasil Estimasi Persamaa Regresi : ˆ b b y 0 1

8 Visualisasi Regresi Liier Y y N(m y, y ) LINE assumptios of the Simple Liear Regressio Model m y =a + b Idetical ormal distributios of errors, all cetered o the regressio lie. Hubuga atara X da Y adalah Stright-Lie (liear). Nilai-ilai variabel X idepede diasumsika tetap (tidak acak), satu-satuya keacaka dalam ilai-ilai Y berasal dari kesalaha Kesalaha tidak berkorelasi (yaitu Idepedet) dalam pegamata berturut-turut. Kesalaha biasaya didistribusika dega mea 0 da varias yaitu: ~ N(0, ) X

9 Estimasi Regresi Liier Estimasi Persamaa Umum Regresi : Meghitug sum of squared errors (SSE): SSE ( y ˆ i yi ) i1 i1 y b b yˆ b0 b1 Metode least squares/ kuadrat terkecil memberika kita hasil estimasi "terbaik" utuk kita set pada data sampel. Metode least squares / kuadrat terkecil memilih ilai-ilai b 0 da b 1 utuk memiimalka sum of squared errors (SSE). b 1 y y y - b 1 b 0 y b 1

10 Y y i yˆi Error e y yˆ i i i. { yˆ ab the fitted regressio lie yˆ the predicted value of Y for i X

11 Y Y Data Y X e Three errors from the least squares regressio lie X Three errors from a fitted lie X Errors from the least squares regressio lie are miimized X

12 Cotoh Studi Kasus Perhatika data biaya ikla yag diguaka (X) da hubugaya dega Tigkat pejuala (Y) diberika dalam dataset berikut : No X Y Tetuka persamaa Regresiya!

13 Peyelesaia : Megestimasi least squares/kuadrat terkecil dari koefisie Regresi : 7 b b y 368 y 9630 ( ) y (508695) (9630)(368) 1 y - b1 y 7( ) (9630) (9630) 0 yˆ b0 b Hasil Estimasi Persamaa Regresiya adalah : ŷ

14 Latiha Idividu Perhatika dataset berikut : No (X) (Y) Tetuka persamaa Regresiya da hitug SSE-ya!

15 /