BAB LANDASAN TEORI. Aalss Regres Regres merupaa alat uur yag dguaa utu meguur ada atau tdaya orelas atar varael. Istlah regres yag erart ramala atau tasra pertama al dpereala oleh Sr Fracs Galto pada tahu 877, sehuuga dega peeltaya terhadap tgg mausa, yatu atara tgg aa da tgg orag tua. Dalam peeltaya, Galto meemua ahwa tgg aa dar orag tua yag tggya cederug megat atau meuru dar erat rata-rata populas. Gars yag meujua huuga terseut dseut gars regres. Te yag umum dguaa utu megaalss huuga atara dua atau leh varael dalam lmu statst adalah aalss regres. Aalss regres adalah teh statst yag ergua utu memersa da memodela huuga atara dua varael atau leh terutama utu meyelusur pola huuga dua varael atau leh da terutama utu meelusur pola huuga yag modelya elum detahu dega sempura, sehgga dalam peerepaya leh ersfat esploratf. Aalss regres setda-tdaya meml 3 (tga) eguaa, yatu: utu tujua desrps dar feomea data atau asus yag sedag dtelt, utu tujua otrol, serta utu tujua preds. Regres mampu medesrpsa feomea data melalu teretuya suatu model huuga yag ersfat umer. Regres juga dapat dguaa utu melaua pegedala terhadap suatu asus atau hal-hal yag sedag damat melalu pegguaa model regres yag dperoleh. Sela tu, model regres juga dapat dmafaata utu melaua preds utu varael terat. Namu perlu dgat, preds d dalam osep regres haya oleh dlaua Uverstas Sumatera Utara
ddalam retag data dar varael-varael eas yag dguaa utu memetu model regres terseut. Kosep dseut seaga terpolas. D dalam suatu model regres aa dtemua oefse-oefse. Koefse pada model regres seearya adalah la duga parameter ddalam model regres utu ods yag seearya, sama halya dega statst mea (rata-rata) pada osep statsta dasar. Haya saja, oefse-oefse utu model regres merupaa la rata-rata yag erpeluag terjad pada varael (varael terat) la suatu la (varael eas) dera. Koefse regres dapat dedaa mejad macam, yatu:. Itersep (tercept) Itersep adalah suatu tt perpotoga atara suatu gars regres dega sumu pada dagram/sumu artesus saat la. Sedaga defs secara statsta adalah la rata-rata pada varael apala la pada varael erla. Dega ata la, apala tda memera otrus, maa secara rata-rata, varael aa erla seesar tersep. Perlu dgat, tersep hayalah suatu ostata yag memuga muculya oefse la ddalam regres. Itersep tda selalu dapat atau perlu utu dterpretasa. Apala data pegamata pada varael tda mecaup atau medeat, maa tersep tda meml maa yag erart, sehgga tda perlu dterpretasa.. Slope Secara matemats, slope merupaa uura emrga dar suatu gars. Slope adalah oefse regres utu varael (varael eas). Dalam osep statsta, slope merupaa suatu la yag meujua seerapa esar otrus (sumaga) yag dera suatu varael terhadap. Nla slope dapat pula darta seaga rata-rata pertamaha (peguraga) yag terjad pada varael utu setap pegata satu satua varael. Persamaa gars regres adalah merupaa model huuga atara dua varael atau leh, yatu atara varael ergatug (depedet varael) dega varael easya (depedet varale) sedaga yag dmasud gars regres (regresso le/le of the est ft/estmatg le) adalah suatu gars yag dtar d atara tt-tt (scatter dagram) sedema rupa sehgga dapat dguaa utu Uverstas Sumatera Utara
measr esarya varael yag satu erdasara esar varael yag la, dapat juga duguaa utu megetahu orelasya (postf atau egatfya). Apala dua varael x da y mempuya huuga atau orelas, maa peruaha la varael darta seaga varael yag satu mempegaruh varael laya... Regres Ler Sederhaa Regres ler sederhaa merupaa aga regres yag mecaup huuga ler satu peuah ta eas dega satu peuah eas. Huuga ler da dar suatu populas dseut gars regres populas yag dyataa persamaa seaga erut: µ. E( / ) (.) Keteraga: µ. rata-rata utu la tertetu jara tt pagal dega tt potog gars regres dega sumu (tercept) la tapa pegaruh emrga (slope atau grade) gars regres Besarya peruaha seaga aat peruaha satu satua Kalau g meduga rataa µ., maa la perlu dtetua utu satua tertetu. Nla terseut utu dyataa dega. Nla da µ. pada umumya tda sama. Peredaa terseut tergatug pada etepata model utu meggamara eadaa yag seearya da etepata peguura peuah da. Peredaa atara da µ. dseut galat aca (radam error) da dyataa dega smol ε. Dega dema: ε µ atau µ. ε. Dar persamaa dperoleh model regres ler sederhaa dar suatu populas seaga erut: Uverstas Sumatera Utara
ε (.) I Parameter da dduga dega megguaa gars regres cotoh. Betu persamaaa gars regres cotoh adalah seaga erut: (.3) Keteraga: tersept, jara tt pagal da tt potog gars regres dega sumu emrga atau grade gars regres Keteraga: merupaa peduga tt ag merupaa peduga tt ag da Ŷ merupaa peduga tt ag µ. Pedugaa terseut dlaua dega megaml cotoh aca eruura dar suatu populas. Hasl pegamata erupa pasaga da seaga erut: (, ), (, ),.., (, ) Data erpasaga terseut dgamara pada sumu oordatf su-su, aa dperoleh gamar yag dseut dagram pecar (scatter dagram) sepert pada gamar erut. Nla-la data terseut delmas dalam persamaa dperoleh: Pada umumya tda sama dega Ŷ, peredaa atara da Ŷ dyataa dega e yag dseut ssa (resdual). Dalam hal : e atau e Dega dema dperoleh model regres ler sederhaa dar cotoh seaga erut: I e (.4) Uverstas Sumatera Utara
Gamar. Dagram Pecar, Gars Regres, da Ssa Utu Pegamata Berpasaga (, ) Nla da dperoleh dega megguaa metode uadrat terecl (least-squares method). Metode uadrat terecl merupaa satu cara memperoleh da dega memmuma jumlah uadrat ssa: ( ) ( ) e S (.5) Syarat optmum adalah: ( ) S ( ) S Dar dua persyarata optmum peroleh persamaa ormal seaga erut: Uverstas Sumatera Utara
(.6) Dar persamaa ormal dperoleh: ( )( ) ( ) (.7) (.8).. Regres Ler Gada Regres ler gada merupaa regres ler yag melata huuga fugsoal atara seuah varael ta eas dega dua atau leh varael eas. Sema aya varael eas yag telat dalam suatu persamaa regres sema rumt meetua la statst yag dperlua hgga dperoleh persamaa regres estmas. Regres ler ergada ergua utu medapata pegaruh dua varael rterumya atau utu mecar huuga fugsoal dua varael predtor atau leh dega varael rterumya, atau utu meramala dua varael predtor atau leh terhadap varael rterumya. Uverstas Sumatera Utara
Huuga ler leh dar dua varael yag dyataa dalam etu persamaa matemats adalah:... ε (.9) Keteraga: : varael ta eas,... : varael eas,,..., : parameter regres ε : la esalaha (error) Metode uadrat terecl dar estmas yag terdr dar mmum ε yag ereaa dega, dmaa mmum ε ' ε megea, yatu: ( ) ( ) ε ' ε ' ' ' ' ' ' ε ' ε Peredaa ε ' ε megea da persamaa, dperoleh: ' ' atau ' ' (.) ( ' ) ' (.) Kemuda utu : ( )' ( ) ( ) ' ( ) ( )' ( ) ( )' ' ( ) ( )' ( ) Uverstas Sumatera Utara
Mmum dar ( ) ( ) solus utu melhat mmum ' adalah ( )' ( ) ε ' ε. dcapa pada..3 Regres Noler Sederhaa Regres oler adalah regres yag varael-varaelya ada yag erpagat. Betu graf regres oler adalah erupa leguga. Utu mempelajar peuah respo () erdasara peuah la (), apala ada alasa atau dugaa uat ahwa atara da terdapat pertauta, maa dapat megguaa te regres da orelas yag etu ler. Regres terseut datas pada etu ler Ŷ a yag perlu duj dahulu megea etu da eerartaya seelum dguaa utu megaml esmpula. Utu mecar regres atas yag etuya oler atau legug, eerapa d ataraya adalah: a. Paraola atau polom pagat dua a c. Paraola u atau polom pagat tga 3 a c d c. Polom pagat ( ) 3 3 a a a a... a d. Espoe a e. Espoe (husus) atau pertumuha ae f. Geometr a g. Logst a Uverstas Sumatera Utara
h. Hperola a Regres-regres model (d), (e), (f), (g), da (h) dapat dselasaa dega megguaa te regres ler sederhaa da orelas area dega trasformas yag coco, etu-etu terseut dapat mejad ler. Trasformas yag dguaa adalah logartma, sehgga: etu (d) mejad: log log a log, yag ler dalam da log etu (e) mejad: l l a, yag ler dalam da l, (l adalah logartma dega laga poo e) etu (f) mejad: log log a log, yag ler dalam log da log etu (g) mejad: log log a log, yag ler dalam da log etu (h) mejad: log log a log log yag ler dalam log da log Dega te yag djelasa dalam regres ler sederhaa da orelas dalam regres ler sederhaa, oefse-oefse a da melalu log a da log dapat dtetua. Dalam pelasaaaya harus eerja dega data dar da sudah duat logartmaya terleh dahulu, utu (d), (e), (g) tetap mash. Uverstas Sumatera Utara
Regres-regres etu (a) da () merupaa hal husus dar etu (c) masg-masg utu da 3. Betu-etu tda dapat duat ler sepert utu (d), (e), (f) da (g)...3. Model Espoe Perraa utu model, yag persamaaya: a (.) Keteraga: varael ta eas varael eas a, ostata atau peduga teryata dapat demala epada model ler yag daml logartmaya, dalam logartma persamaaya mejad : log log a (log) (.3) daml Ŷ log Ŷ, a log a da log, dperoleh model: a a da dapat dhtug da selajutya area a log a da log, a da juga dapat dhtug. Lagsug d dalam logartma, a da dapat dcar dar rumus: log log a a log ( log) a ( log ) ( )( log ) ( ) (.4) Uverstas Sumatera Utara
Model espoe dalam rumus (.) serg pula dseut model pertumuha area serg aya dguaa dalam megaalss data seaga hasl pegamata megea feomea yag sfatya tumuh. Dalam hal model persamaaya mejad: ae (.5) Keteraga: Ŷ varael ta eas varael eas a, ostata atau peduga e laga poo logartma asl atau logartma Naper hargaya hgga empat empat desmal adalah e,783.. searag harus daml logartma Naper da ua logartma asa. Persamaaya (.5) searag mejad: l l a (.6) I ler dalam da l sehgga a da dapat dcar sepert asa. Daftar logartma Naper tda terseda, dapat dguaa daftar logartma asa, persamaa (.6) dalam rumus mejad: log log a, 4343 (.7)..4 Regres Noler Gada Uverstas Sumatera Utara
Dalam sua.. telah dahas seperluya regres ler gada dega uah ( ) varael eas,,...,, dregresa terhadap varael respo dalam etu ler gada yag dtasr eretu:... Keteraga: varael ta eas,..., varael eas,...,, parameter regres Ja haya ada dua varael eas da, maa regresya terhadap dalam etu uadrat adalah:. 3 4 5 Suatu regres yag damaa regres oler gada, tepatya regres uadrat gada. Dega mejau septas tetag regres oler gada ersfat multplatf. Model multplatf yag palg sederhaa utu dua varael eas da msalya adalah: a C Keteraga: varael ta eas varael eas a,, c ostata atau peduga Uverstas Sumatera Utara
Seaga tasra terhadap model regres dalam populasya. Pada dasarya, model oler dapat demala pada model ler dega jala megaml logartma e dua ruas persamaa. Haslya mejad: log log a log c log Beretu model ler gada dalam log, log da log. Model espoe utu regres oler gada dega dua varael eas, daml: e Keteraga: varael ta eas, varael eas, parameter regres, Dapat demala pada etu ler gada dega megaml logartma asl (l) pada e dua ruas persamaa. Betuya mejad: l Selajutya dselesaa dega cara regres ler gada megguaa varael eas aslya sedaga varael depedeya dalam etu logartma asl dar varael, alah l. Model la yag juga o ler gada utu dua predtor tetap dapat demala pada etu ler gada adalah model eala, eretu: Uverstas Sumatera Utara
Keteraga: varael ta eas, varael eas, parameter regres, Dega megaml eala e dua ruas persamaa, ta peroleh: Ler dalam, da /. I erart model dapat dselesaa dega cara sepert meyelesaa regres ler gada megguaa data asl da da varael depedeya ua tetap /. Tetu saja mash ada model la yag o ler gada da juga model-model terseut dapat dperluas utu tga, empat, da seterusya varael eas. Peyelesaaya, dusahaa demala pada etu ler gada dega megguaa trasformas yag sesua.. Metode Kuadrat Terecl Metode uadrat terecl, yag leh eal dega ama least-squares method adalah salah satu metode pedeata yag palg petg dalam dua etea utu: a) Regres ataupu pemetua persamaa dar tt-tt data dsretya (dalam pemodela) ) Aalss sesata peguura (dalam valdas model) Metode uadrat terecl termasu dalam eluarga metode-metode pedeata sesata terdstrus ( dstruted error approxmato methods), erdasara areterst erjaya yag melaua peguraga sesata meyeluruh (gloal error) yag teruur erdasara terval pedeata eseluruha (whole approxmato Uverstas Sumatera Utara
terval) sesua dega order pedeata yag megat. Metode ereda dega metode-metode asmptots, hususya yag demaga melalu pedeata deret Taylor, area metode asmptots meml areterst erja yag memperecl sesata pada eerapa tt tertetu, sesua dega order pedeata yag megat. Metode uadrat terecl juga memaa peraa petg dalam teor statst, area metode sergal dguaa dalam peyelesaa prolemprolem yag melata umpula data yag tersusu secara aca, sepert sesatasesata percoaa. Ad Supagat (8) Metode Ordary Least Square (OLS) atau serg juga dataa seaga metode uadrat terecl (least square) pada dasarya merupaa aggapa-aggapa tertetu, aggapa-aggapa pada metode uadrat terecl adalah dmasuda seaga pemetua model Normal Hesse, yag dguaa utu meetua perhtuga esara tercept da oefses regres sampel atau esara a da pada model regres ler y a x. Begtu pu tetuya pada model-model regres laya, sepert pada model ler multple, model udarats, model sem, model espoesal. Metode uadrat terecl sela utu meetua la-la tercept da oefse regres, juga ergua utu memuat pedugaa terval serta meguj hpotess regres populas. Berut dugapa eerapa aggapa petg metode uadrat terecl, d ataraya: a. Nla rata-rata dar tgat esalaha (error) atau la espetas (expected value) dar setap la x sama dega ol. Aggapa dyataa sepert pada Gamar.5, ahwa utu setap x, msala x, x, da x 3 terdapat eerapa la y. la terseut terdapat d awah da d atas gars reges, amu la rata-rata dar y erada d tt tegah, yatu pada gars regres. Karea urva ersfat smetrs, maa la d awah gars regres sama dega la d atas regres, sehgga la harapa dar E utu setap x dar x, samapa x sama dega ol. Uverstas Sumatera Utara
Gamar. Nla rata-rata dar tgat esalaha (error) atau la espetas (expected value) dar setap la x sama dega ol. Nla error dar E da Ej dataa seaga covara yag salg depedet (tda erhuuga), da oleh area atara E da Ej tda ada huuga, maa dapat darta ahwa la cov (E, E j ), dmaa j. erdasara uraa d atas, dalam setap la x aa ddapat tgat esalaha (error) seesar E dema pu halya dega la x j aa ddapat tgat esalaha (error) seesar E j. c. Varas ( σ ) dar error erla: Var ( E / E j ) E( e e j ) σ. Perhata pada gamar seelumya, la E ( yag dlamaga dega tada tt) utu setap x yatu x, x, da x 3 tersear secara tetap seesar la varaya ( σ ). Nla E teresar d awah urva ormal sejauh satu stadar devas dawah gars reegres da satu stadar devas d atas gars regresya. d. Varael eas x tda erhuuga dega esarya la E (error), utu eyataa d tulsa seaga Covara atau Cov(E, x ). dega dema model regresya dtuls: ŷ a x e, terlhat dar model terseut ahwa la x da E secara yata tda salg mempegaruh, amu dema edua varael terseut mempegaruh varael y. seadaya atara varael x da varael E salg mempegaruh, maa pegaruh masg-masg varael terseut tda aa dapat dpsaha. Secara luas model regres d atas dapat darta, ahwa fator Uverstas Sumatera Utara
yag mempegaruh y sela x adalah fator e, maa oleh areaya varas dar E da x salg terpsah atau tda erhuuga (tda erorelas). e. Aggapa-aggapa terseut sagat petg artya dalam melaua aalss regres, sea apala aggapa-aggapa terseut dapat dpeuh, maa lala peduga yatu a da (utu model regres ler sederhaa), la-la a, a, a (utu model regres ler multple ŷ a a x a x ε) ataupu la-la tercept da oefse regres pada model laya aa mempuya sfat-sfat sepert erut: Tda as, meml varas yag mmum, hasl perhtuga (pedugaa) dapat represetatf terhadap parameter populasya walaupu jumlah sampelya dperesar, meml la tercept da oefse regres yag erdstrus ormal dega dega la rata-rata harapa dar pedugaa sampel E (a) A da varas (a) σ a. da la rata-rata harapa dar pedugaa sampel E () B da varas () σ. f. Secara umum metode uadrat terecl, dtuls dalam etu Normal Hesse, yatu: Utu Model Regres Ler Sederhaa ŷ a x e Persamaa Normal Hesse-ya: y a x.) y a x x..).. Persoala Estmas Metode Kuadrat Terecl dalam Model Espoe Bergada Metode uadrat terecl dapat dguaa utu memperraa oefse regres dalam regres ler ergada. Merupaa metode yag palg populer da sagat erpegaruh dalam aalss gars regres. Utu memperraa parameter parameter,,..., dapat dguaa metode uadrat terecl sehgga jumlah uadrat dar devas/smpaga atara oservas- oservas da gars regres mejad mmum. Uverstas Sumatera Utara
Hes da Motgomery (99) mejelasa ahwa fugs uadrat terecl adalah: j j j L ε (.8) Fugs L terseut doptmuma terhadap,...,,. Estmator uadrat terecl,...,, merupaa syarat mutla harus memeuh: ',..., j j j L da (.9) ',..., j j j j j L j,,., Peyerdehaaa Persamaa (.9), dperoleh persamaa-persamaa ormal uadrat terecl:...... (.)... Berdasara estmas pada persamaa (.) dalam regres ler gada dega metode uadrat terecl, dapat dperoleh rumus estmas regres oler gada utu model espoe dega metode uadrat terecl seaga erut: dega memsala: l y l Uverstas Sumatera Utara
y l etu persamaa-persamaa ormal uadrat terecl yag dguaa utu model espoe ergada adalah: l... l... (.) l... Keteraga: l varael depede dalam etu logartma asl dar varael. Ada p persamaa ormal, satu utu setap oefse regres yag tda detahu. Peyelesaa utu persamaa ormal mejad estmator-estmator uadrat terecl dar oefse-oefse regres,...,,.. Metode Matrs Matrs ddefsa seaga suatu hmpua aga, varael atau parameter dalam etu suatu perseg pajag, yag tersusu d dalam ars da olom. Pada umumya, matrs d otasa dalam huruf esar sedaga eleme-elemeya dalam hurup ecl, seaga erut: Atau Uverstas Sumatera Utara
d maa: A Matrs A [ ] atau ( ) Notas matrs adalah eleme dar matrs A, dmaa meyataa ars da meyataa olom. Msalya: adalah eleme dar matrs A yag terleta pada ars e- da olom e-. (PUDJIASTUTI,6) Jes-jes matrs adalah seaga erut:. Matrs dagoal Adalah suatu matrs ujur sagar yag semua eleme d luar eleme dagoal utama sama dega ol, da palg tda satu eleme pada dagoal utamaya tda sama dega ol.. Matrs dettas Adalah suatu matrs ujur sagar yag eleme-eleme d luar dagoal utamaya sama dega ol, da semua eleme pada dagoal utama sama dega satu. Matrs dettas yag erorde asaya der smol I 3. Matrs segtga atas Adalah matrs ujur sagar yag eleme-eleme d awah dagoal utama erla ol. Jad yag tda sama dega ol adalah eleme-eleme pada segtga atasya da palg tda satu eleme pada dagoal utama tda sama dega ol. 4. Matrs segtga awah Adalah matrs ujur sagar yag eleme-eleme d atas dagoal utama erla ol. Jad yag tda sama dega ol adalah eleme-eleme pada segtga awahya da palg tda satu eleme pada dagoal utama tda sama dega ol. 5. Matrs ol Adalah suatu matrs yag semua elemya erla ol. Matrs asaya der smol O da etuya tda selalu ujur sagar. 6. Matrs ars Uverstas Sumatera Utara
Adalah matrs yag haya terdr dar satu ars. Matrs serg dseut dega vetor ars. 7. Matrs olom Adalah matrs yag haya terdr dar satu olom. Matrs serg dseut dega vetor olom. 8. Matrs smetrs Adalah suatu matrs ujur sagar yag meml, sehgga trasposeya sama dega matrs semula.... Trapose suatu matr Trapose suatu matrs adalah meruah ordo suatu matrs dar x mejad x. Ja atau adalah traspose dar matrs, maa ars pada matrs mejad olom pada matrs da sealya olom pada matrs mejad ars pada matrs.... Determa Determa adalah suatu salar (aga) yag dperoleh dar suatu matrs ujur sagar selalu operas husus. Dseut operas husus area dalam proses peurua determa dlaua perala-perala. Determa dotasa dega tada...3 Ivers Matrs Ivers matrs serg dseut dega matrs eala. Basaya dtulsa seaga erut: ja A adalah suatu matrs ujur sagar maa merupaa verst matrsya. Uverstas Sumatera Utara
..3 Persoala Metode Matrs dalam Model Espoe Bergada Dega megguaa persamaa matrs (.) Persamaa regres dugaa dyataa dega persamaa (.3) Dega (.4) Metode uadrat terecl merupaa suatu metode utu medapata lala vetor dega memmuma adalah seaga erut: (.5) Lagah-lagah utu meetua la oefse dar parameter pada regres ler ergada adalah seaga erut: Lagah Meghtug la matrs dega cara seaga erut: Uverstas Sumatera Utara
(.6) Lagah Meghtug la determa matr dega cara seaga erut: Lagah 3 Mecar Adjot matrs, d maa: (.7) (.8) Lagah 4 Mecar vers matrs dega cara seaga erut: (.9) Lagah 5 Mecar la matrs dega cara seaga erut: Uverstas Sumatera Utara
(.3) Sehgga utu memperoleh la oefse dar seaga erut: adalah dega cara (.3) Betu model espoe ergadaya mejad: dega memsala: l l l Sehgga utu memperoleh la oefse dar seaga erut: Adj D l l l l adalah dega cara (.3) Keteraga: l varael depede dalam etu logartma asl dar varael. Uverstas Sumatera Utara