BAB LANDASAN TEORI. Aalss Regres Perubaha la suatu varabel tda selalu terjad dega sedrya amu perubaha la varabel tu dapat pula dsebaba oleh berubahya varabel la yag berhubuga dega varabel tersebut. Utu megetahu pola la suatu varabel yag dsebaba oleh varabel la dperlua alat aalss yag memuga ta utu membuat perraa la varabel tersebut pada la tertetu varabel yag mempegaruhya. Te yag umum dguaa utu megaalss hubuga atara dua atau lebh varabel dalam lmu statst adalah aalss regres. Aalss regres adalah te statst yag bergua utu memersa da memodela hubuga datara varabel-varabel. Aalss regres bergua dalam meelaah hubuga dua varabel atau lebh da terutama utu meelusur pola hubuga yag modelya belum detahu dega sempura sehgga dalam peerapaya lebh bersfat esploratf. Persamaa regres yag dguaa utu membuat tasra megea la varabel terat dsebut persamaa regres estmas yatu suatu formula matemats yag meujua hubuga eterata atara satu atau beberapa varabel yag laya sudah detahu dega satu varabel yag laya belum detahu. Sfat hubuga atarvarabel dalam persamaa regres merupaa hubuga sebab abat. Regres yag berart peramala peasra atau pedugaa pertama al dpereala pada tahu 877 oleh Sr Fracs Galto (8 9) sehubuga Uverstas Sumatera Utara
dega peeltaya terhadap mausa. Peelta tersebut membadga atara tggg aa la-la da tgg bada orag tuaya. Istlah regres pada mulaya bertujua utu membuat perraa la suatu varabel (tgg bada aa) terhadap suatu varabel yag la (tgg bada orag tua). Pada perembaga selajutya aalss regres dapat dguaa sebaga alat utu membuat perraa la suatu varabel dega megguaa beberapa varabel la yag berhubuga dega varabel tersebut... Regres Ler Sederhaa Regres ler sederhaa adalah aalss regres yag melbata hubuga fugsoal atara satu varabel terat dega satu varabel bebas. Varabel terat merupaa varabel yag laya selalu bergatug dega la varabel la. Dalam hal varabel terat yag laya selalu dpegaruh oleh varabel bebas sedaga varabel bebas adalah varabel yag laya tda bergatug pada la varabel la. Da basaya varabel terat dotasa dega sedaga varabel bebas dotasa dega X. Hubuga-hubuga tersebut dyataa dalam model matemats yag membera persamaa-persamaa tertetu. Betu umum persamaa regres ler sederhaa yag meujua hubuga atara dua varabel yatu varabel X sebaga varabel bebas da varabel sebaga varabel terat adalah dmaa: X varabel terat e- varabel bebas e- a (.) bx a tersep (tt potog urva terhadap sumbu ) b emrga (slope) urva ler Uverstas Sumatera Utara
Gambar. Dagram pecar Metode uadrat terecl adalah suatu metode utu meghtug a da b sebaga perraa A da B sedema rupa sehgga jumlah devas uadrat ( e ) SSD meml la terecl. Model sebearya Model perraa : A BX ε : a bx e Dmaa a b merupaa perraa / tasra atas A B. Ja X durag dega rata-rataya ( X X ) baru dega. Maa persamaaya mejad: aa dperoleh varabel a b e e ( a b ) [ ( a b )] e SSD (.) Metode memmuma jumlah devas uadrat (regres uadrat terecl) yag ddasara pada pemlha a da b sehgga memmala jumlah uadrat devas tt-tt data dar gars yag dcocoa. Uverstas Sumatera Utara
Gambar. Suatu pegamata (data) yag tda tepat pada gars regres Kemuda aa dtasr a da b sehgga ja tasra dsubsttusa e dalam persamaa (.) maa jumlah devas uadrat mejad mmum. Dega medfferesala persamaa (.) terhadap a da b dega meetapa dervatf parsal yag dhasla sama dega ol dperoleh: e a a ( a b ) a b aˆ (.3) e b b ( a b ) a b ˆ b (.4) Nla â da bˆ yag dperoleh dega cara dsebut tasra uadrat terecl masg-masg dar a da b. Dega dema tasra persamaa regres dapat dtuls sebaga ˆ aˆ bˆ X yag dsebut persamaa preds. Gars regres bergua utu meetua hubuga pegaruh perubaha varabel yag satu terhadap varabel yag laya. Selajutya dar hubuga dua varabel dapat dembaga utu aalsa tga varabel atau lebh. Uverstas Sumatera Utara
.. Multple Regres Multple regres (regres ler gada) merupaa regres ler yag melbata hubuga fugsoal atara sebuah varabel terat dega dua atau lebh varabel bebas. Sema baya varabel bebas yag terlbat dalam suatu persamaa regres sema rumt meetua la statst yag dperlua hgga dperoleh persamaa regres estmas. Regres ler bergada bergua utu medapata pegaruh dua varabel rterumya atau utu mecar hubuga fugsoal dua varabel predtor atau lebh dega varabel rterumya atau utu meramala dua varabel predtor atau lebh terhadap varabel rterumya. Hubuga ler lebh dar dua varabel yag bla dyataa dalam betu persamaa matemats adalah: dmaa: X X ε varabel terat X X varabel bebas pada varabel e-sampa varabel e-... parameter regres ε la esalaha (error) Metode uadrat terecl dar estmas yag terdr dar mmum ε yag bereaa dega dmaa mmum ε ' ε X megea yatu: ' ε ε ( X )'( X ) ' ' X ' ' X ' X ε ' ε Perbedaa ε ' ε megea da persamaa dperoleh: X ' X ' X atau X ' X X ' (.5) Uverstas Sumatera Utara
( X ' X ) X ' ˆ (.6) Kemuda utu ( X )'( X ) [ X X ( ˆ ˆ )] ' [ X X ( ˆ ˆ )] ( X ˆ ) ' ( X ˆ ) ( ˆ ) ' X ' X ( ˆ ) ( X ˆ ) ' ( X ˆ ) Mmum dar ( X ) ( X ) Solus utu melhat mmum ' adalah ( X ˆ ) ' ( X ˆ ) ε ' ε. dcapa pada ˆ.. Estmas Estmas adalah measr cr-cr tertetu dar populas atau memperraa la populas (parameter) dega memaa la sampel (statst). Dega statsta ta berusaha meympula populas. Dalam eyataaya meggat berbaga fator utu eperlua tersebut dambl sebuah sampel yag represetatf da berdasara hasl aalss terhadap data sampel esmpula megea populas dbuat. Cara pegambla esmpula tetag parameter berhubuga dega cara-cara measr harga parameter. Jad harga parameter sebearya yag tda detahu aa destmas berdasara statst sampel yag dambl dar populas yag bersaguta. Sfat atau cr estmator yag ba yatu tda bas efse da osste:. Estmator yag tda bas Estmator dataa tda bas apabla a dapat meghasla estmas yag megadug la parameter yag destmasa. Msala estmator θˆ dataa estmator yag tda bas ja rata-rata semua harga θˆ yag mug aa sama dega θ. Dalam bahasa espetas dtuls E ( θ ) θ. ˆ Uverstas Sumatera Utara
. Estmator yag efse Estmator dataa efse apabla haya dega retag la estmas yag ecl saja sudah cuup megadug la parameter. Estmator bervaras mmum alah estmator dega varas terecl datara semua estmator utu parameter yag sama. Ja ˆ θ da ˆ θ dua estmator utu θ dmaa varas utu ˆ θ lebh ecl dar varas utu ˆ θ maa ˆ θ merupaa estmator bervaras mmum. 3. Estmator yag osste Estmator dataa osste apabla sampel yag dambl berapa pu besarya pada retagya tetap megadug la parameter yag sedag d estmas. Msala θˆ estmator utu θ yag dhtug berdasara sebuah sampel aca beruura. Ja uura sampel ma besar medeat uura populas meyebaba θˆ medeat θ maa θˆ dsebut estmator osste. Estmas la parameter meml dua cara yatu estmas tt (pot estmato) da estmas selag (terval estmato). a. Estmas tt (pot estmato) Estmas tt adalah estmas dega meyebut satu la atau utu megestmas la parameter. b. Estmas terval (terval estmato) Estmas terval dega meyebut daerah pembatasa dmaa ta meetua batas mmum da masmum suatu estmator. Metode memuat la-la estmator yag mash daggap bear dalam tgat epercayaa tertetu (cofdece terval). Uverstas Sumatera Utara
.. Estmas Masmum Lelhood Suatu cara yag petg utu medapat estmator yag ba adalah metode masmum lelhood yag dpereala oleh R. A. Fsher. Masmum lelhood merupaa suatu cara medapat estmator a utu parameter b yag tda detahu dar populas dega memasmuma fugs emuga. Utu data sampel dar dstrbus yag otu dega fugs padat f( ; α) dtetua fugs lelhood sebaga L( ; α) f( ;α) f( ; α). Utu data sampel dstrbus yag dsrt dega la emuga p(x ) p (α) r da freues f f r dtetua dega fugs lelhood sebaga: L f f r (... ; α ) ( p ( α ))...( pr ( α )) f Karea l L merupaa trasformas yag mooto a darpada L maa l L mecapa masmumya pada la α yag sama. Meurut htug dfferesal l L persamaaya mejad α ˆ. Suatu aar persamaa a (... ) memasmuma L dsebut estmas masmum lelhood utu α. α yag.. Masmum Lelhood dalam Multple Regres Masmum lelhood adalah metode yag dapat dguaa utu megestmas suatu parameter dalam regres. ( X X ) Ja X durag dega rata-rataya maa aa dperoleh varabel baru da selsh atara X dega X merupaa perhtuga yag sederhaa area jumlah dar la tersebut adalah sama dega ol Da persamaa multple regresya mejad:. Uverstas Sumatera Utara
dmaa:... ε (.7) varabel terat e- selsh atara varabel bebas X dega la rata-rataya pada pegamata e- parameter regres ε la esalaha (error) Te estmas masmum lelhood mempertmbaga berbaga populas yag mug dega perpdaha gars regres da regres tersebut megellg dstrbus utu semua poss yag mug. Perbedaa poss yag berhubuga dega perbedaa la percobaa utu.... Dalam hal pegamata lelhood aa d estmas. Utu estmas masmum lelhood dplh hpotess populas yag masmum dalam lelhood. Secara umum adaa ta mempuya sampel beruura da ta g megetahu emuga sampel yag damat. Dperlhata fugs la emuga utu... : p (...... ) (.8) Meggat emuga la pertama adalah: p ( ) ( ) e π (.9) Hal d atas adalah dstrbus ormal sederhaa dega rata-rata p da varas ( ) ( ) µ e π yag dsubsttus e dalam. Kemuga la edua sama dega (.9) ecual aga satu dgat dega dua da seterusya utu semua la amata laya. Uverstas Sumatera Utara
(.8) dmaa: Utu la bebas dega megala semua emuga bersama dalam p (...... ) ( ) ( ) e π e π ( ) e π (.) Dega meyataa hasl al emuga bersama utu la yag pegguaaya deal utu espoesal. Hasl (.) dapat dperlhata dega pejumlaha espoe: p (...... ) e π ( ) ( ) (.) Meggat amata yag dbera dpertmbaga utu berbaga la.... Sehgga persamaa (.) damaa fugs lelhood: dmaa: (... ) ( π ) L e (... ) L fugs masmum lelhood pada parameter... (.) parameter yag merupaa smpaga bau utu dstrbus π la osta (π 346) baya data sampel e blaga osta (e 783) varabel terat e- parameter regres e- Uverstas Sumatera Utara
Dar persamaa (.) dperoleh l L(... ) yatu: ( ) ( ) Λ L l l... l π (.3) Dega medfferesala Λ terhadap setap parameter... da meetapa dervatf parsal yag dhasla sama dega ol dperoleh: ( ) Λ ˆ (.4) ( ) Λ (.5) ( ) Λ (.6) Maa hasl yag dperoleh dar peurua parsal d atas dapat dhtug la parameter ˆ ˆ ˆ. Uverstas Sumatera Utara