MODEL REGRESI LINEAR DALAM PRESPEKTIF MODEL LINEAR TERAMPAT 1. Setiawan 2

Transkripsi

1 Semnar Nasonal Statstka IX Insttut Teknolog Sepuluh Nopember, 7 November 009 MODEL REGRESI LINEAR DALAM PRESPEKTIF MODEL LINEAR TERAMPAT Setawan Jurusan Statstka FMIPA Insttut Teknolog Sepuluh Nopember, Surabaya, Indonesa setawan@statstka.ts.ac.d ABSTRAK Secara umum, metode pendugaan parameter model regres lnear, yang melput lnear klask, lnear dalam parameter, serta lnear ntrnsk adalah kuadrat terkecl dengan asums bahwa sebaran peubah respon normal. Sedangkan bla sebaran peubah respon tdak normal msal : bnomal, posson, bnam negatf dan lan-lan, maka dgunakan metode kemungknan maksmum. Model lnear terampat merampatkan (generalzaton berbaga bentuk sebaran dar galat (peubah respon. Dengan demkan, model regres lnear merupakan salah satu kasus dar model lnear terampat. Jens sebaran peubah respon berakbat pada pemlhan fungs penghubung. Kata kunc : model lnear terampat, regres lnear, fungs penghubung. PENDAHULUAN Secara umum yang dmaksud dengan pemodelan (membangun model adalah membuat suatu model yang dapat menggambarkan fenomena (real world. Apabla model dnyatakan dalam persamaan matemats yang menunjukkan hubungan antar peubah, maka dnamakan model matemats. Secara umum apabla y, y, y n merupakan realsas dar peubah acak Y maka y dapat durakan menjad komponen sstematk (terkendal dan komponen acak (tak terkendal. y komponen sstematk + komponen acak atau : y ( dengan : y dan merupakan komponen acak, sedangkan p x j j j Xβ adalah komponen sstematk Dsampakan pada Semnar Nasonal Statstka IX Jurusan Statstka FMIPA-ITS, 07 Nopember 009 Staf Pengajar pada Jurusan Statstka FMIPA-ITS Surabaya

2 MODEL REGRESI LINEAR Regres merupakan suatu model yang menunjukkan hubungan matemats antara satu peubah respon (Y dengan satu atau lebh peubah predktor (X, dan dsebut model regres lnear bla modelnya berupa persamaan gars lurus. Dalam notas matemats, model regres lnear adalah : y x x... xp,,..., n 0 ( Metode pendugaan yang palng populer adalah kuadrat terkecl yang mengasumskan bahwa y ~ N(, ~ N(0, selan tu peubah predktor X, X,, X p, berskala kontnu. Pengertan lnear ada dua macam, yatu : a Lnear dalam parameter, yang dapat ddekat dengan teknk-teknk regres berganda, termasuk model-model polnomal. b Tak lnear dalam parameter atau dsebut juga lnear ntrnsk, yatu bla dengan cara transformas dapat membuat menjad lnear, termasuk dsn adalah model log dan eksponensal. -model Sedangkan model yang tdak dapat dlnearkan melalu transformas dkatakan tdak lnear ntrnsk atau dsebut model non-lnear. Lnear Y X 0 Kuadratk : Y Kubk Y Tabel. Beberapa Model Regres Lnear Intrnsk Polnomal Eksponensal Logartma 0 X X 3 0 X X 3X ( e E Y 0X X E Y 0 E Y ( 0 ln X ( ln ( Y X E 0 E ( Y X E( Y ln X 0 ln 0 Selan model tersebut, terdapat pula model-model regres dengan sebaran peubah respon tdak normal, msalnya bnomal, posson dan lan-lan. Suatu model regres dengan sebaran peubah respon bnomal dsebut regres logstk, sedangkan bla sebaran peubah respon posson, maka dsebut regres posson.

3 MODEL LINEAR TERAMPAT Model Lnear Terampat (Generalzed Lnear Model merupakan pengembangan dar model lnear klask. Secara umum, model lnear terampat merupakan model statstka yang terdr atas tga komponen, yatu :. Fungs sebaran peluang komponen acak Y, f(y, yang termasuk dalam keluarga eksponensal.. Komponen sstematk yang dnyatakan dalam bentuk kombnas lnear 0 x x... xp yang dsebut predktor lnear yang ddefnskan sebaga berkut : p x j j j x x 0... x p 3. Fungs penghubung (lnk functon, g(., yang menggambarkan hubungan antara predktor lnear dengan. Hubungan n dapat dtuls sebaga berkut : g ( Komponen Acak Dalam model lnear terampat komponen acak Y mempunya sebaran keluarga eksponensal, msalnya : normal, bnomal, multnomal, Posson, bnomal negatf, geometrk, gamma dan lan-lan, dengan bentuk sebaga berkut : y b( f Y ( y, exp c( y, (3 a( dengan a(., b(., c(. merupakan fungs khusus, adalah parameter dspers. adalah parameter kanonk, serta Jka dalam model hanya terdapat satu peubah respon Y, maka dsebut peubah tunggal (unvarate, sedangkan bla lebh dar satu dsebut multrespon atau peubah ganda (multvarate. Komponen Sstematk Kovarate X,...,, X Xpdapat berupa pengukuran kontnu, kualtatf, atau gabungan keduanya. Suatu model dengan hanya kovarat kontnu serngkal dsebut model regres, sedangkan bla kovarat kualtatf dsebut model sdk ragam (ANOVA. 3

4 Bla kovarat merupakan campuran antara kontnu dan kualtatf, maka bsa ddekat dengan model regres dengan peubah dumm atau dengan pendekatan analss peragam. Dengan demkan kombnas antara komponen acak dengan komponen sstematk terdapat beberapa kemungknan model Tabel. Macam-macam model lnear Jens Peubah Respon Y a. Peubah Tunggal Jens Kovarat Nama Model. Kontnu Kontnu Regres Klask. Kontnu Kualtatf Analss Ragam (ANOVA 3. Kontnu Campuran - Regres dengan peubah dummy - Analss Peragam (ANCOVA 4. Dskret Kontnu/ Dskret - Regres logstk, bla sebaran Y bnomal - Regres Posson, bla sebaran Y Posson - Regres Bnom Negatf, bla sebaran Y bnomal negatf - Dan lan-lan tergantung sebaran dar Y b. Peubah Ganda. Kontnu Kontnu - Regres Peubah Ganda - Seemngly Unrelated Unregresson. Kontnu Dskret Analss Ragam Peubah ganda (MANOVA 3. Kontnu Campuran - Regres Peubah Ganda - Analss Peragam Peubah Ganda 4. Dskret Kontnu/ Dskret - Regres Logstk Multvarat - Regres Posson Multvarat Fungs Penghubung Fungs penghubung dapat dcar berdasarkan bentuk fungs sebaran peubah respon, dengan cara dbawa menjad bentuk keluarga eksponensal sesua dengan persamaan 3. Dengan demkan, jens fungs penghubung tergantung dar sebaran peubah respon. Fungs penghubung kanonk lebh sederhana dar non-kanonk. Beberapa fungs penghubung kanonk yang serng dgunakan dantaranya adalah : Identtas : g ( 4

5 Logt : g ( log( /( Probt : g ( (, dengan adalah sebaran kumulatf normal baku Log : g ( log( Complementary log-log : g ( log( log( REGRESI LINEAR, LOGISTIK, SERTA POISSON DALAM KONTEKS MODEL LINEAR TERAMPAT. Regres Lnear Pada model lnear klask y ~ N(,, maka fungs peluang adalah sebaga berkut : p y dengan Xβ x j j ( y f Y ( y, exp (4 ( y / y exp log( j (5 serta dengan parameter kanonk dan parameter dsperse. Dengan demkan regres lnear klask dapat dpandang sebaga model lnear terampat dengan fungs penghubung p x j j j Xβ atau dsebut fungs penghubung denttas. Regres Polnomal ( lnear dalam parameter Model umum ( derajat dua dengan dua peubah bebas Z dan Z : y 0 z z 3z 4z 5z z (6 Model n dapat dbawa menjad model lnear klask dengan cara transformas sebaga berkut : X Z, X Z, X3 Z, X4 Z, X5 ZZ sehngga model menjad : y x x... 5x5,,..., n 0 (7 Jka sebaran Y normal, maka model n merupakan salah satu kasus khusus dalam model lnear terampat dengan fungs penghubung denttas. Model-model Lnear Intrnsk a.model Cobb-Douglas Y Z Z... 0 p 0 Z p logy log logz... logz log p p 5

6 dengantransformas: Y logy 0 log 0 X logz... X p logz p serta log, maka model dapat dbawa ke model lnear menjad sebaga berkut : y x x... pxp,,..., n 0 (8 Sehngga jka Y atau log Y mempunya sebaran normal, maka model Cobb-Duglas dapat dpandang sebaga model lnear terampat dengan fungs penghubung denttas. b.model Eksponensal y exp( 0 x x... pxp,,..., n log y 0 x x... pxp,,..., n dengan transformas berkut : (9 (0 Y logy maka model dapat dbawa ke model lnear menjad sebaga y x x... pxp,,..., n 0 ( Jka sebaran dar Y atau log Y sebaga model lnear terampat dengan fungs penghubung log. normal, maka model eksponensal dapat dpandang Dengan kata lan, regres lnear yang melput : lnear klask, lnear dalam parameter (polnomal, lnear ntrnsk merupakan salah satu bentuk khusus dalam model lnear terampat dengan fungs penghubung denttas..regres Logstk Jka peubah respon Y mempunya sebaran bnomal, maka fungs peluang adalah sebaga berkut : P n r n r ( r,, x [ P( x ] P x r n r [ ( ] 0,,,..., ( exp log n r r logp( x ( n r log( P( x Fungs peluang tersebut merupakan keluarga eksponensal dengan : a ( b( c( y, logp ( x n n log r log( log( P( x P( x e n log e (3 6

7 Dengan demkan regres logstk dapat dpandang sebaga salah satu bentuk khusus dar model lnear terampat dengan fungs penghubung g ( log( /( 3.Regres Posson Suatu model regres dengan peubah respon mempunya sebaran Posson, maka fungs peluang adalah sebaga berkut : P( y, t e exp ( x, t [ t ( x, y! ( x, ] y y logt ( x, log( y! Fungs peluang n merupakan keluarga eksponensal dengan : a ( log t[ ( x, ] b( t[ ( x, ] e c( y, log( y! Dengan demkan regres Posson dapat dpandang sebaga salah satu bentuk khusus dar model lnear terampat dengan fungs penghubung BEBERAPA CONTOH KASUS Kasus : Model Lnear Klask Y 0 X. g ( log( Terdapat pasangan data X dan Y dar hasl pengamatan. Dengan mengasumskan sebaran y normal, dlakukan pendugan model (parameter regres dengan dua metode, yatu metode kuadrat terkecl serta model lnear terampat ( prosedur GENMOD. Hasl pendugaan dengan metode kuadrat terkecl adalah sebaga berkut : Program data log nput x y cards proc reg data=log model y=x run X 7

8 Hasl Keluaran komputer Dependent Varable: y Analyss of Varance Sum of Mean Source DF Squares Square F Value Pr > F Model <.000 Error Corrected Total Root MSE R-Square Dependent Mean Adj R-Sq Coeff Var Parameter Estmates Parameter Standard Varable DF Estmate Error t Value Pr > ltl Intercept X <.000 Hasl pendugaan dengan prosedur GENMOD Program data log nput x y cards data proc genmod model y=x/dst=normal lnk=dentty run Hasl keluaran komputer Crtera For Assessng Goodness Of Ft Crteron DF Value Value/DF Devance Scaled Devance Pearson Ch-Square Scaled Pearson X Log Lkelhood Analyss Of Parameter Estmates Standard Wald 95% Confdence Ch- Parameter DF Estmate Error Lmts Square Pr>ChSq Intercept <.000 x <.000 Scale Kasus : Model lnear Intrnsk a. Model Cobb-Douglas Y 0 X e Data pengamatan untuk pasangan dan tekanan (atm dan volume (lter. Dengan asums sebaran log Y (logtek normal, dlakukan pendugaan model dengan dua metode, yatu metode kuadrat terkecl serta model lnear terampat (prosedur GENMOD. 8

9 Hasl pendugaan dengan metode kuadrat terkecl adalah sebaga berkut : Program data cd nput volume tekanan logvol=log(volume logtek=log(tekanan cards proc reg data=cd model logtek=logvol run Hasl keluaran computer Dependent Varable: logtek Analyss of Varance Sum of Mean Source DF Squares Square F Value Pr > F Model ` <.000 Error E-7 Corrected Total Root MSE R-Square.0000 Dependent Mean Adj R-Sq.0000 Coeff Var Parameter Estmated Parameter Standard Varable DF Estmate Error t Value Pr > ltl Intercept <.000 Logvol <.000 Hasl pendugaan dengan prosedur GENMOD Program data cd nput volume tekanan logvol=log(volume logtek=log(tekanan cards data prog genmod model logtek=logvol/dst=normal lnk=dentty run 9

10 Hasl keluaran komputer Crtera For Assessng Goodness Of Ft Crteron DF Value Value/DF Devance Scaled Devance Pearson Ch-Square Scaled Pearson X Log Lkelhood Analyss Of Parameter Estmates Standard Wald 95% Confdence Ch- Parameter DF Estmate Error Lmts Square Pr>ChSq Intercept E7 <.000 logvol <.000 Scale b. Model Eksponensal Lhat kembal data pada kasus. Dengan asums sebaran logy normal, dlakukan pendugaan model dengan dua metode, yatu metode kuadrat terkecl serta model lnear terampat ( prosedur GENMOD Hasl pendugaan dengan metode kuadrat terkecl adalah sebaga berkut : Program data log nput x y logy=log(y cards data proc reg data=log model logy=x run Hasl keluaran komputer Dependent Varable: logy Analyss of Varance Sum of Mean Source DF Squares Square F Value Pr > F Model <.000 Error Corrected Total Root MSE R-Square Dependent Mean.9383 Adj R-Sq Coeff Var.573 Parameter Estmates Parameter Standard Varable DF Estmate Error t Value Pr > ltl Intercept <.000 x <.000 0

11 Hasl pendugaan dengan prosedur GENMOD Program data log nput x y cards data proc genmod model y=x/dst=normal lnk=log run Hasl keluaran komputer Dependent Varable: logy Analyss of Varance Sum of Mean Source DF Squares Square F Value Pr > F Model <.000 Error Corrected Total Root MSE R-Square Dependent Mean.9383 Adj R-Sq Coeff Var.573 Parameter Estmates Parameter Standard Varable DF Estmate Error t Value Pr > ltl Intercept <.000 x <.000 Kasus 3 : Regres Posson Data hasl peneltan Hdayat (00tentang faktor-faktor yang mempengaruh penyakt demam Typhod d Jawa Tmur. Faktor-faktor tersebut adalah : kepadatan peduduk (X, persentase cakupan penduduk pemaka ar bersh (X, persentase cakupan penduduk pemaka jamban keluarga (X 3, persentase perumahan yang memenuh syarat (X 4, persentase cakupan tempat pembuangan sampah sementara yang memenuh syarat (X 5, persentase tempat pengolahan makanan yang memenuh syarat (X 6, serta persentase cakupan penduduk pemaka sarana pembuangan ar lmbah (X 7. Sedangkan peubah responnya adalah jumlah penderta penyakt demam Typhod pada usa tahun sampa 4 tahun d Jawa Tmur (y. Dengan mengasumskan sebaran y Posson, pada makalah n akan dlakukan pendugaan model dengan model lnear terampat ( prosedur GENMOD. Sedangkan pada peneltan Hdayat metode pendugaan yang dgunakan adalah analss regres Posson yang terseda pada perangkat lunak S-PLUS.

12 Program data posson nput no y x x x3 x4 x5 x6 x7 cards data proc genmod model y=x x x3 x4 x5 x6 x7/dst=posson lnk=log run Hasl keluaran komputer Crtera For Assessng Goodness Of Ft Crteron DF Value Value/DF Devance Scaled Devance Pearson Ch-Square Scaled Pearson X Log Lkelhood Analyss Of Parameter Estmates Standard Wald 95% Confdence Ch- Parameter DF Estmate Error Lmts Square Pr>ChSq Intercept <.000 x <.000 x <.000 x x <.000 x <.000 x <.000 x <.000 Analyss Of Parameter Estmates Standard Wald 95% Confdence Ch- Parameter DF Estmate Error Lmts Square Pr>ChSq Scale Kasus 4 : Regres Logstk Kasus dar Lzards (Mc Cullagh dan Nelder, 989 yatu data tentang perlaku dua jens Lzard ( graham dan opalnus yang damat d berbaga lokas pada waktu sang har. Peubah respon yang damat adalah jumlah graham (Gh dan opalnus (Op, sedangkan peubah bebasnya adalah : ( shade dengan dua kategor ( sun dan shade, ( Heght (ketnggan dengan dua kategor ( <5ft dan 5ft, (3 Dam (dameter dengan dua kategor (., serta (4 Tme (waktu dengan tga kategor (early, md-day, dan late.

13 Dengan mengasumskan sebaran y bnomal, dlakukan pendugaan model metode model lnear terampat ( prosedur GENMOD. Program data lzards nput No Tme Shade Dam Heght Gh Op Total cards dst proc genmod class Tme Shade Dam Heght Model Gh/Total = Heght Dam Shade Tme / dst=bnom lnk=logt Run Hasl keluaran komputer Crtera For Assessng Goodness Of Ft Crteron DF Value Value/DF Devance Scaled Devance Pearson Ch-Square Scaled Pearson X Log Lkelhood Analyss Of Parameter Estmates Standard Wald 95% Confdence Ch- Parameter DF Estmate Error Lmts Square Pr>ChSq Intercept <.000 Heght <.000 Heght Dam Dam Shade Shade Tme Tme Tme Scale KESIMPULAN Model Lnear terampat merupakan pengembangan dar model lnear klask yang merampatkan model lnear klask. Dengan demkan model regres lnear merupakan salah satu kasus khusus dalam model lnear terampat. 3

14 DAFTAR PUSTAKA Hdayat, N. 00. Analsa Regres Posson terhadap Faktor-faktor yang Mempengaruh Penyakt Demam Typhod d Propns Jawa Tmur, TA D3-Statstka FMIPA ITS. McCullag, P. dan J.A. Nelder Generalzed Lnear Models. Chapman & Hall. London. Myers, R. H Classcal and Modern Regresson wth Applcaton. PWS-KENT Publshng Company, Boston. 4