Anlis Regresi Liner Anlis regresi digunkn untuk mermlkn nili dri stu peubh (peubh Terikt) berdsrkn peubh yng yng lin (peubh bebs). Peubh Terikt: dituliskn sebgi Y Peubh Bebs: dituliskn sebgi X1, X2,, Xk Jik hny terdpt stu peubh bebs, mk i disebut regresi liner sederhn, yng modelny dlh sebgi berikut: Regresi Liner Sederhn dn Korelsi Yng kit lkukn dlh memperkirkn β0 dn β1 dri dt yng telh dikumpulkn. 17.1 Anlis Regresi Liner 17.2 Akibt dri nili σε yng membesr Peubh: X = Peubh Bebs (Hrus tersedi) Y = Peubh Terikt (kn diperkirkn) Prmeter: β0 = Y Intercept Hrg Rumh Vrisi rendh vs. tinggi β1 = Slope ε ~ Peubh Ack yng mengikuti distribusi Norml (με = 0, σε =???) [Noise] 25K$ Hrg rumh= 25,000 + 75(Size) + Ukurn Rumh 17.3 17.4
Teori Model Liner 1. Membngun Model mengumpulkn Dt Nili ujin 2= β0 +β1*(nili ujin1) Dri Dt: Estimsi β0 Estimsi β1 Estimsi σε 17.5 17.6 Anlis Korelsi -1 < < 1 Liner Regression Anlysis Jik kit hny ingin mengethui pkh trdpt relsi (hubungn) ntr du peubh, mk gunkn nlis korelsi. contoh: Bert bdn dn Tinggi bdn. Plot of Height vs Weight Plot of Height vs Weight 7 7 6.6 6.2 Height Height 6.6 5.8 5.4 6.2 5.8 5 4.6 140 180 220 5.4 260 Weight 260 6.6 80 6.2 6.2 Height Height 6.5 90 Test B2 220 Plot of Height vs Weight 6.8 180 Weight Plot of Height vs Weight Plot of Fitted Model 140 5.9 70 5.6 60 5.3 5.4 50 60 70 80 Test B1 90 140 180 220 260 Weight 50 17.7 5.8 5 140 180 220 260 Weight 17.8
Anlis Korelsi -1 < < 1 Regresi: Model X=ukurn rumh, Y=chrg rumh Jik koefisien korelsi dekt ke +1 rtiny terdpt hubungn positif yng kut ntr du peubh. Jik koefisien korelsi dekt ke 1 rtiny terdpt hubungn negtif yng kut ntr du peubh. ik koefisien korelsi dekt ke 0 rtiny tidk terdpt hubungn ntr du peubh. Model Deterministik: sebuh tu kumpuln persmn yng memperbolehkn kit untuk memperkirkn secr keseluruhn nili dri peubh terikt yng dipengruhi olehpeubh bebs. y = $25,000 + (75$/ft2)(x) Derh lingkrn: A = *r2 Pd nlis korelsi, bis dilkukn uji hipotesi H0: = 0 17.9 Model Regresi Liner Sederhn Arti dri dn > 0 [slope positif] Model Probbilistik: sebuh metode yng digunkn untuk menngkp keckn yng merupkn bgin dri proses sebenrny yng terjdi. y = 25,000 + 75x + ε Contoh. Apkh rumh dengn ukurn yng sm kn terjul dengn hrg yng sm? 17.10 Yng mn gris terbik? < 0 [slope negtif]??? y nik lri =slope (=nik/lri) =y-intercept x 17.11 17.12
Memperkirkn Koefisien Gris Lest Squres Dengn dsr yng sm untuk memperkirkn dengn, perkirkn dengn b0 dn dengn b1, y intercept dn slope dengn metode lest squres tu gris regresi diberikn oleh: y =b 0 +b1 x (Penggunkn metode lest squres dn menghsilkn gris lurus yng meminimilkn jumlh bed kudrt ntr titik sebenrny dengn gris regresi) 17.13 d be t dr ku Bed ini disebut h l residul tu jum ris n n g error k l im ik d nim r tit i em t i m An n i pt ris rce e t G n? y-i ini n ntuk m 4 u ers 0.93 pe?? p slo n tkn rim p ntuk...d end 14 u m.1 it n 2 k d n im g B Gris Lest Squres Line Gris lest Squre Nili b1 dn b0 f line Recll Sttistik Dt dihitung sebgi berikut: 17.14 Informsi Dt Points: x y 1 6 2 1 3 9 4 5 5 17 6 12 y =.934 + 2.114x 17.15 17.16
Syrt yng hrus dipenuhi Gris Lest Squres Dlm menggunkn metode regresi, syrt berikut hrus dipenuhi, jik tidk mk model yng didpt tidk vlid. Syrt tersebut dlh: 1. Distribusi pelung dri ε dlhnorml. 2. Men dri distribusi ε dlh 0, yitu The men of the E(ε ) = 0. 3. Stndr devisi dri ε yitu σε, dlh konstn berppun nili dri x. Nili ε yng berhubungn dengn nili y tertentu dlh sling bebs dengn nili ε yng berhubungn dengn y yng lin. 17.17 17.18 Meliht kecocokn model Sum of Squres for Error (SSE) Metode lest squre kn sellu menghsilkn gris lurus, wlupun sebenrny tidk d hubungn ntr kedu peubh, tu hubungn kedu peubh buknlh hubungn liner (misl kudrt, tu log). Sum of squres for error dihitung sebgi berikut: Sehingg selin meliht koefisien dri gris lest squre, hrus diliht pul seberp cocok (benr) model yng dipilih. Untuk meliht kecocokn ini, mk hrus diliht nili dri sum of squres for errors (SSE). Dn digunkn untuk menghitung estimsi stndrd error : Jik Sε mk semu titik kn berd pd gris regresi. 17.19 17.20
Stndrd Error Stndrd Error Untuk mengethui pkh nili Stndrd Error cukup kecil, bndingkn dengn nili dri men smpel peubh terikt. ( ). Pd contoh, =.3265 nd = 14.841 Jik Sε bernili kecil, mk model sngt cocok untuk dt yng dipki. Jik tidk mk model tidk sesui. 17.21 Bis diktkn bhw nili stndrd Error cukup kecil, sehingg model cukup bgus. 17.22 Menguji Slope Menguji Slope Jik tidk terdpt hubungn liner ntr du peubh, mk gris regresi sehrusny berbentuk gris horisontl, rtiny slope sehrusny bernili nol (0). Untuk menguji hipotesis mk digunkn sttistik berikut: H0: β1 = 0 Untuk meliht pkh hubungn kedu peubh dlh liner, mk kit uji menggunkn hipotesis sebgi berikut:: H1: 0 Null hypothesis dlh: H0: = 0 Liht kembli bb hipotesis! 17.23 Dimk Sb1 dlh stndr devisi dri b1, didefinisikn: Jik error berdistribusi norml, mk sttistik dits mengikuti distribusi Student tdengn df n 2. Derh penolkn bisny menggunkn 2 sisi. 17.24
Menguji Slope Menguji Slope Uji hipotesis untuk meliht pkh slope secr signifikn berbed dri 0 (dengn tingkt kepercyn 5%) Yng diuji dlh: H1: 0 H0: = 0 Selng kepercyn diberikn oleh: Sehingg: Derh penolkn dlh: Mk perkirn selng dri koefisien slope dlh.0768 dn.0570 ATAU liht p vlue. Atu dptkn selng kepercyn dri slope. Ingt bhw perkirn dlh b1. 17.25 17.26 Koefisien Determinsi Koefisien Determinsi Selin meliht pkh kedu peubh mempunyi hubungn liner, penting jug untuk meliht ukurn kekutn hubungn ntr keduny. Untuk itu perlu diliht coefisien determinsi R2. Nili dri R2 dlh 0.6483. Artiny 64.83% vrisi dri peubh terikt (y) bis dijelskn oleh model regresi. Sisny, yitu 35.17% tidk mmpu dijelskn oleh model, bis jdi kren dtny tidk mencukupi Koefisen determinsi bukn merupknt nili uji sttistik, sehingg tidk mempunyi titik kritis yng memungkinkn kit mengmbil keputusn. Secr umum, semkin besr nili R2, semkin bgus modelny. R2 = 1: Semu titik dt berd dlm gris regresi. R2 = 0: Tidk terdpt hubungn liner nty x dn y. Koefisien detrminsi dlh kudrt dri koefisien korelsi (r), sehingg R2 = (r)2 17.27 17.28
ANOVA Menggunkn Persmn Regresi Tbel Anlysis of vrince (ANOVA) untuk model regresi liner sederhn diberiknoleh: Persmn regresi: y = 17.250.0669x Bis digunkn untuk merml hrg mobil dengn x = 40: y = 17.250.0669x = 17.250.0669(40) = 14, 574 Mk perkirn hrg mobil dlh ($14,574). 17.29 Dignos Regresi Nonnormlits Tig syrt (kondisi) yng hrus dipenuhi untuk menggunkn nlis regresi yitu: Peubh error hrus berdistribusi norml, Peubh error hrus mempunyi vrins yng konstn, & Errors hrus sling bebs dtu sm lin. Tbulsi residul dn but histogrm merek Untuk melkukn dignos kondisi dits, mk hrus dilkukn nlis residul, yitu meliht perbedn ntr nili dt sebenrny dengn hsil perkirn persmn regresi 17.31 17.30 Jik histogrm berbentuk lonceng dengn men disekitr nol (0), mk bis diktkn bhw residul mengikuti distribusi norml. 17.32
Heteroscedstisits Heteroscedstisits Ketik syrt (kondisi) vrins yng konstn tidk terpenuhi, kondisi tersebut disebut dengn heteroscedstisits. Jik vrins dri peubh error ( ) tidk konstn, mk terdpt heteroscedstisits. Plot dibwh dlh plot error terhdp nili perkirn y: Tidk terdpt perubhn rentng pd titik-titk plot, mk bis diktkn tidk terdpt heteroscedstisits Heteroscedstisits bis diliht dengn cr mem plot residul terhdp nili perkirn y. 17.33 17.34 Peubh error tk sling bebs Peubh error tk sling bebs Dt yng kit kumpulkn dlm bentuk tip jm, hri, minggu kn berbentuk dt deret berkl (time series). Jik terdpt pol pd grfik residu terhdp wktu, mk terdpt utokorelsi: Dt yng berbentuk deret berkl, pd umumny errorny kn sling berkorelsi. Bentuk error yng demikin diktkn sebgi utokorelsi tu korelsi berseri. Autokorelsi bis diliht dengn cr menggmbr residul terhdp periode wktu. Jik terdpt pol, mk syrt (kondisi) sling bebs tidk terpenuhi. 17.35 Terdpt pol kren residul positif Dn residul negtif teerpish Residu berkisr di nol. 17.36
Penciln (Outlier) Penciln (Outlier) Penciln (outlier) dlh observsi yng bisny terllu kecil tu terllu besr. Penciln bis terjdi kren: Terdpt keslhn dlm menctt dt Titik tersebut sehrusny tidk d dlm smpel * Mungkin observsi tersebut memng tidk vlid. Penciln bis dengn mudh diliht hri plot sctter. Jik nili mutlk dri residul > 2, mk kemungkinn besr titik tersebut dlh penciln dn perlu diliht lebih lnjut.. Penciln hrus diteliti lebih lnjut kren bid dengn mudh mempengruhi gris lest squres 17.37 Lngkh Dignos Regresi 1. Bngun model berdsrkn teori yng telh d. 2. Dptkn dt untuk kedu pubh yng kn dimsukkn dlm model. 3. Gmbr digrm sctter untuk meliht pkh model liner sesui. Liht pkh terdpt penciln (outlier). 4. Dptkn persmn regresi. 5. Hitung residul dn liht pkh sudh memenuhi syrt (kondisi) model regresi 6. Perhtikn pkh model sesui. 7. Jik model sesui, gunkn persmn regresi untuk memperkirkn nili peubh terikt. 17.39 17.38