LECTURE NOTES # Model Regres Sederhaa I. Pegatar Aalsa regres merupaka salah satu topk utama ekoometrka. Dega regres, kta berupaya megugkapka hubuga atar varabel dega memasukka usur kausaltas. Dega kata la kta g megetahu jka suatu varabel berubah (msalya x=tgkat peddka) maka apa yag terjad dega varabel laya (msalya y=tgkat gaj/upah). Aalsa regres dalam pegembagaya dapat bersfat sagat kompleks dsebabka karakterstk data, pelaggara asums statstk, o statoarty, dsb. Utuk memperoleh pemahama yag bak maka pelajara megea aalsa regres aka dmula dega model yag palg sederhaa. Model haya melbatka varabel, yak varabel bebas da varabel tergatug. II. Represetas Regres Sederhaa Dalam aalsa regres sederhaa, kta g megetahu perubaha varabel tergatug (dsebut y) yag dsebabka oleh berubahya varabel bebas (dsebut x). Dalam represetas model regres tersebut terdapat tga aspek yag perlu dperhatka, yak a. No determstc relato. Aalsa regres tdak perah bersfat determstc. Dega demka kta memerluka suatu perlakua terhadap varabel-varabel yag tdak dmasukka kedalam model. b. Fuctoal form. Bagamaa betuk fugsoal atara varabel y da x, apakah selalu ler? c. Ceters Parbus. Bagamaa kta dapat memasukka asums ceters parbus (lhat lecture otes ) kedalam model? Suatu model regres sederhaa dapat drepresetaska sbb: y = β + β x+ u ) 0 Dmaa y adalah varabel tergatug da x varabel bebas. Sebelum melajutka ada bakya megetahu termology la yag serg dguaka utuk x da y. y Depedet Varable Explaed Varable Respose Varable Predcted Varable Regressad x Idepedet Varable Explaatory Varable Cotrol Varable Predctor Varable Regressor
Varabel u dsebut sebaga error term atau dsturbaces yag berfugs utuk meampug seluruh factor yag mempegaruh y sela x (tdak terbatas pada varabel la amu mugk juga kesalaha betuk fugsoal, kesalaha pegukura, dsb). Varabel u juga serg dsebut sebaga varabel tak terobservas (uobserved). Parameter β dsebut slope, dalam aalsa ekoometr parameter adalah focus utama. Sedagka parameter β 0 dsebut dega tersep, dalam kebayaka aalsa ekoometrs tdak terlalu mejad perhata. Parameter β meujukka kuattas hubuga atara varabel bebas dega varabel tergatug dega megasumska seluruh factor la (yag tercakup dalam u) adalah kosta. Dalam persamaa, β adalah lear dega demka perubaha x sebesar x aka bermplkas pada perubaha y sebesar y. Sebaga suatu lustras kta dapat megguaka persamaa utuk megestmas hubuga atara gaj dega peddka. Hal drumuska dalam model sbb: Gaj = β + β Ddk + u ) 0 Katakalah kta megukur gaj dalam satua rbua rupah da ddk sebaga jumlah bula sekolah (termasuk trag). Dega demka perubaha bula sekolah aka bermplkas pada perubaha gaj sebesar β rbua rupah. Aalsa regres sepert yag dtujukka persamaa da adalah sagat sederhaa. Beberapa permasalaha yag tmbul dar pemodela sepert adalah:. Beberapa hubuga ekoom tdak dapat ddeskrpska secara ler. Sebaga cotoh hubuga atara peddka da gaj memlk sfat creasg retur, dega demka tambaha ut peddka aka berla berbeda dega ut sebelumya.. Permasalaha dalam mplemetas ceters parbus. Bagamaa kta aka meerapka ceters parbus (dampak perubaha varabel tergatug akbat berubahya satu varabel bebas dega asums varabel la adalah kosta) semetara tdak ada satupu varabel la ada dalam model. 3. Persamaa da destmas dar data, dega demka perlu dperhatka asums statstk yag medasar prosedur pegambla kesmpula duktf semacam. Tga asums yag terpetg dataraya
Eu ( ) = 0 Eux ( ) = Eu ( ) = 0 E( y x) = β + β x 0 3) 4) 5) Persamaa 3 meyataka bahwa, rata-rata dar resdual adalah ol. Asums tercapa khususya jka kta megasumska bahwa parameter tersep adalah buka ol. Persamaa 4 meyataka bahwa tdak ada dampak (korelas) dar varabel bebas terhadap resdual. Sebaga suatu lustras, pada persamaa jka kta megasumska bahwa u mecakup varabel yag dsebut skll, maka persamaa 4 bermplkas bahwa skll tdak berubah dega bertambahya peddka. Persamaa 4 serg dsebut sebaga zero codtoal mea assumpto. Terpeuhya persamaa 3 da 4 memugkka kta utuk megguakapersamaa 5 ddalam megtrepretaska persamaa. Dega kata la rata-rata y pada x yag tertetu dapat dberka sebaga E(y x). Persamaa 5 dsebut sebaga populato regresso fucto (PRF). Secara grafk hal dgambarka pada grafk. Grafk. Populato Regresso Fucto Sumber: Wooldrdge (005) hal 6. 3
III. Peurua Estmator Ordary Least Squares Sepert yag telah duraka ddepa kta megestmas populato regresso fucto/prf (persamaa 5) dar suatu sampel. Hasl dar estmas dsebut dega sample regresso fucto/srf yag berbetuk persamaa. Error term dperluka meggat hasl yag dperoleh dar sampel haya merupaka suatu dugaa yag dharapka berlaku atas dasar asums/prsp statstk tertetu. Dega kata la selalu terdapat kemugka kesalaha atas dugaa populas karea megguaka data dar sample. Prsp adalah umum dguaka dalam statstk duktf. Terdapat beberapa metoda utuk megestmas parameter β 0 da β msalya ordary least squares, maxmum lkelhood da methods of momets. Dalam dktat aka dlustraska suatu metoda yag palg sederhaa da palg bayak dguaka yak ordary least squares (OLS). Itus pegguaa metoda OLS dapat dberka dega mempelajar grafk. Pegguaa OLS dalam megestmas parameter SRF adalah berupaya memmumka kuadrat resdual. Jka kta memlk data varabel y da x sebayak, maka parameter β 0 da β, dapat dperoleh dega meyelesaka masalah berkut: M u y x β0; β = ( β0 β ) = = 6) Grafk. Prsp OLS Sumber: Wooldrdge (005), hal 3 Secara tutf, peyelesaa persamaa 6 adalah mecar berbaga gars ler yag melewat ttk-ttk data pada grafk sedemka rupa sehgga 4
jumlah kuadrat resdualya adalah yag palg kecl. Dega megguaka tekk kalkulus da peerapa atura pejumlaha dapat dtujukka bahwa parameter β 0 da β adalah (lhat appedks utuk dervas): ( x x)( y y) = β = = ( x x) = 0 β = y β x Cov( x, y) Var( x) 7) 8) Parameter yag dperoleh dar persamaa 7 da 8 dsebut dega estmator OLS. Dar estmator kta dapat memperoleh ftted value dar y ketka x = x, yag dberka sebaga y = β + β x 9) 0 I adalah la predks dar y jka kta megetahu la x adalah tertetu. Selajutya resdual dar observas ke dapat dhtug dega cara β 0 β u = y y = y x 0) Cotoh. Sebaga suatu lustras cara kerja prsp OLS berkut dsajka suatu cotoh yag dberka oleh Wooldrdge (005). Fle CEOSAL.RAW bers data gaj CEO da berbaga varabel laya (msalya ROE, Sales, dummy kategor perusahaa, dsb) dega jumlah observas sebayak 09. Ds kta aka mecoba melhat regres atara gaj CEO (dukur dalam satua rbu USD) terhadap Retur O Equty (dukur dalam po persetase). Dega megguaka software EVIEWS ver. 5.0 da mejalaka pertah: ls salary c roe pada commad wdow maka dperoleh output sbb: 5
Depedet Varable: SALARY Method: Least Squares Date: 05/06/08 Tme: 07:54 Sample: 09 Icluded observatos: 09 Varable Coeffcet Std. Error t-statstc Prob. C 963.93 3.403 4.56930 0.0000 ROE 8.509.35.66390 0.0978 R-squared 0.0389 Mea depedet var 8.0 Adjusted R-squared 0.0084 S.D. depedet var 37.345 S.E. of regresso 366.555 Akake fo crtero 7.8750 Sum squared resd 3.87E+08 Schwarz crtero 7.3948 Log lkelhood -804.543 F-statstc.76653 Durb-Watso stat.04990 Prob(F-statstc) 0.097768 Tabel. Output Regres Salary Terhadap ROE Dar kolom dega header: coeffcet, kta dapat meulska SRF bag regres sebaga (dega pembulata) Salary = 963,9+ 8,50ROE ) Beberapa trepretas yag dapat dlakuka terkat dega persamaa adalah: a. Jka ROE=0, maka predks dar gaj CEO adalah 963,9 rbu USD. b. Jka ROE ak perse maka gaj CEO aka ak sebesar 8,50 rbu USD (da sebalkya jka turu). Karea kta megestmas betuk ler maka perubaha tdak dpegaruh oleh poss awal gaj CEO. c. Jka ROE=30% maka gaj CEO adalah 963,9 + 8,50(30) = 58, (rbu USD). Secara grafs regres yag dperoleh dapat dgambarka sbb: 6
Grafk 3. SRF da PRF regres Gaj CEO terhadap ROE Sumber: Wooldrdge (005), hal 33. Perlu dperhatka bahwa regres yag dperoleh datas (persamaa ) adalah estmas dar PRF. Kta tdak aka perah tahu PRF yag sebearya (kecual kta bekerja pada data populas, yag hampr tdak perah dtemu pada keyataa). Data sampel yag la aka memberka SRF yag berbeda, yag mugk lebh dekat (atau mugk juga tdak) dega PRF. IV. Karakterstk OLS Terdapat beberapa karakter yag bergua dar estmator OLS, dataraya:. Jumlah (da dega demka rata-rata) dar resdual adalah ol, atau = u = 0 ) Karakterstk adalah mplkas otomats dar OLS.. Kovaras dar regresor da resdual adalah ol. = xu = 0 3) 3. Ttk rata-rata ( x, y) selalu berada pada gars regres, dega kata la y 0 = β + β x 4) 7
Selajutya kta dapat memadag OLS sebaga medekomposs y kedalam baga, yak ftted value da suatu resdual. Ftted value da resdual tdak memlk korelas pada sampel. Utuk melhat hal dapat merujuk pada termology sebaga berkut: 7) SST adalah ukura varas sample y (meujukka seberapa besar dspers sample y dsektar rata-rataya). SSE meujukka varas sample y pada da SSR megukur varas dar u. Dapat dtujukka ds bahwa total varas pada y adalah sama dega jumlah SSE da SSR, atau Pembukta terhadap peryataa dapat dlhat pada appedks. Selajutya dega membag persamaa 9 dega SST kta dapat memperoleh Kta dapat medefska R, koefse determas (R ) sebaga = Sepert yag dapat dlhat pada persamaa, koefse determas meujukka propors varas varabel tergatug (y) yag dapat djelaska oleh varas varabel bebas (x). Nla R selalu terletak atara 0 da karea SSE da SSR tdak mugk melebh la SST. R adalah suatu ukura kesuaa model (model ft). Sum Square Total (SST) = ( y y) y y = y y = u = = Sum Square Explaed (SSE) = ( ) Sum Square Resdual (SSR) = ( ) SST = SSE + SSR SSE SSR = + SST SST R SSE SSR = = SST SST ˆ 5) 6) 9) 0) ) 8
Kembal pada cotoh regres gaj CEO da ROE datas (tabel ), dapat dlhat ds bahwa la R adalah 0.03. Dega kata la varas pada varabel ROE mejelaska.3% varas pada gaj CEO. Perlu dcatat ds bahwa meskpu R adalah suatu ukura kesuaa model, a buka satu-satuya ukura. Peekaa yag berlebh pada koefse dapat memberka hasl yag msleadg. Pada cotoh datas la R adalah sagat redah amu tdak meutup kemugka bahwa model yag dperoleh adalah mecermka populas. Pada peelta lmu sosal, la R yag redah pada suatu model adalah buka feoema yag jarag (Wooldrdge, 005, hal 40). 9