Regresi Kontinum dengan Prapemrosesan Transformasi Wavelet Diskret (Continum Regression with Discrete Wavelet Transformation Preprocessing)

Transkripsi

1 Jural ILMU DASAR Vol 8 No Jul 7 : Regres Kotum dega Prapemrosesa rasformas Wavelet Dsret (Cotum Regresso th Dscrete Wavelet rasformato Preprocessg) Setaa ) da Kharl Aar Notodputro ) ) Staf Pegaar Jurusa Statst FMIPA Isttut eolog Sepuluh Nopember ) Staf Pegaar Departeme Statsta FMIPA Isttut Pertaa Bogor ABSRAC I the multple regresso modelg serous problems ll be occurred f depedet varables are correlated to be amed ll codtoed problem ad the umber of observatos s much less tha the umber of depedet varables t s a sgulart problem Cotum Regresso (CR) approach t s better to overcome the problem of ll codtoed but f the umber of observatos s much less tha the umber of depedet varables usuall facg the problem computg So the frst step t eedes dmeso reducto of depedet varables (o as a preprocessg method) Dscrete avelet trasformato (DW) s oe of a good method hadle the problem of sgulart he research e have studed combato of CR ad DW as a preprocessg method ca solved the problems of ll codtoed ad sgulart he result of emprcal research th smulato data has cocluded that performace of CRDW have ver good potec to overcome the problems of the umber of observatos much less tha the umber of depedet varables ad ll codtoed Keords : cotum regresso sgulart dscrete avelet trasformato ll codtoed PENDAHULUAN Pada pemodela regres gada permasalaha serus aa mucul a baaa pegamata () auh lebh ecl dar pada baaa peubah bebas (p) serta terada orelas ag tgg d atara peubah bebas (Naes 985) Regres las (regres uadrat terecl ag basa RK) tda dapat megatas masalah tersebut area bla orelas d atara peubah bebas tgg (oleartas gada) maa aa terad ods ag sat (ll codtoed) Sedaga bla baaa peubah bebas lebh besar dar pada baaa pegamata (p>) maa strutur matrs peubah bebas X mead sgular (masalah sgulartas) Beberapa metode statsta ag telah dembaga utu megatas masalah tersebut atara la : Regres Kompoe Utama (RKU) Regres Kuadrat erecl Parsal (RKP) Regres Rdge (RR) pedeata Baes Regres atas Koefsse Fourer (RKF) Jarga Saraf rua (JS) serta rasformas Wavelet Metode la ag dpereala Stoe da Broos (99) adalah Regres Kotum (RK) ag merupaa pegembaga dar RK RKU serta RKP Hasl aa Setaa da Notodputro (5a 5b) meuua baha RK lebh uggul dar pada RKU da RKP dalam megatas masalah oleartas gada RK merupaa pedeata ag ba utu megatas masalah ll codtoed da sgulartas tetap bla baaa pegamata auh lebh ecl dar pada baaa peubah bebas ( << p ) aa megalam edala omputas Sehgga pada tahap aal dperlua peredusa dmes peubah bebas Pemampata dmes peubah ag semula berdmes tgg X(xp) mead peubah baru msala Z (x) sehgga < ( ) < p dsebut metode prapemrosesa Beberapa metode prapemrosesa ag sudah dpelaar adalah : aalss ompoe utama (AKU) trasformas Fourer trasformas avelet dsret (WD) serta pursut proes (Naes et al ) Hasl peelta Suaro (5) meuua baha dar aa empr WD merupaa metode prapemrosesa ag sagat ba utu meredus dmes matrs peubah bebas Maalah bertuua utu mega ombas atara RK dega WD da dsebut Regres Kotum dega rasformas Wavelet Dstret (RKWD) utu megatas masalah ll codtoed da sgulartas Kaa dlaua secara empr dega data bagta hasl smulas Regres Kotum Msala X matrs data ag sudah dpusata (cetred) beruura xp da dsebut peubah bebas sedaga adalah vetor peubah respo beruura x ag sudah dpusata β vetor parameter regres beruura p serta ε adalah vetor galat beruura Regres Kotum

2 4 Regres Kotum (Setaa da Kahrl Aar N) dembaga berdasara model regres lear las sebaga berut : Xβ + ε () Pada model regres lear terbobot formula matemats dapat dtuls sebaga berut masmuma x ( s ) r S ( x ) dega x () adalah vetor pegamata peubah bebas e- ( ) beruura (px) s X da S X X Regres ompoe utama pada prspa adalah memasmuma : ( x ) S S (3) Dar formula (3) tersebut dapat delasa baha prsp dasar dalam RKU adalah memasmuma eragama dar peubah bebas X sehgga dbetu peubah baru berupa beberapa ompoe utama ag merupaa ombas lear dar peubah-peubah asal (X) Selauta data peubah respo dregresa dega beberapa ompoe utama tersebut dega megguaa te regres gada RKP prspa adalah memasmuma : S x ( s) (4) Dar formula (4) tersebut dapat dlhat baha prsp RKP adalah memasmuma oragam atara peubah bebas dega peubah respo Pada RK peubah baru dformulasa dalam model sebaga berut h ξ + ε (5) dega : h XW h (6) da W h ( h ) matrs bers h olom peubah dega h<p da dsebut matrs pembobot Stoe & Broos (99) memformulasa matrs pembobot tersebut sebaga berut : arg max { ( ) ( ) } [ δ /( δ )] Cov X Var X (7) dega edala da Cov( X X ) utu < sedaga parameter peesuaa δ merupaa blaga real δ Alteratf la adalah formula ag dembaga oleh Malpass (996) sebaga berut : ( 4 + δ δ arg max ) ( + Cov X Var X { ( ) ( ) } δ ) (8) Dar formula 7 dbuat suatu formula ag umum sebaga berut : G ( ) ( ) [( δ /( δ X X X )) ] (9) selauta dsebut metode Stoe Formula 8 dapat dubah mead : (+ δ 4δ ) ( + δ ) ( X ) ( X ) G X () selauta dsebut metode Portsmouth (Malpass 996) Formula tersebut merupaa geeralsas dar RK RKU serta RKP dega betu eterata sebaga berut : ( ) ( ) Utuδ maa G s S formula evale dega persamaa arta pada δ RK merupaa RK ( ) Utuδ 5 maa G s formula evale dega persamaa 4 sehgga pada δ 5 RK merupaa RKP ( Utu δ maa S formula evale dega persamaa 3 sehgga pada δ RK merupaa RKU Dega ata la RK RKU serta RKP merupaa betu husus dar RK Pedugaa parameter regres ξ pada persamaa (5) dlaua dega megguaa metode uadrat terecl ag dformulasa sebaga berut : ξˆ δ h ( h h ) h () βˆ δ h G ) ˆ XW ξˆ δ h h δ h Wh h h h ( ) ()

3 Jural ILMU DASAR Vol 8 No Jul 7 : dega δ merupaa parameter peesuaa da h baaa ompoe rasformas Wavelet Ada dua es fugs avelet atu mother avelet (ψ ) serta father avelet (φ ) Suatu fugs dataa avelet a memeuh dua sarat atu : φ ( x) dx ψ ( x) dx (father avelet) ψ ( x ) dx (mother avelet) (3) Wavelet ag sederhaa atu avelet Haar ag deala oleh Alferd Harr pada tahu 99 (Vdocovc da Meuller 99) Bla dlhat dar blaga dlatas da traslas terdapat dua es fugs avelet atu : trasformas avelet otu (WK) bla blaga tersebut real serta trasformas avelet dsret (WD) bla blaga tersebut bulat Fugs bass dperoleh dega dlatas da traslas fugs father avelet da mother avelet (Naso da Slverma 994) Dar fugs avelet ψ (x) dapat dbagta fugs bass dalam suatu ruag fugs L ( R) dega cara traslas da dlatas dar ψ (x) Betu umum fugs-fugs bass tersebut adalah ψ x b ( x ) ; a > < b < a a a b ψ (4) Pada la husus a b ; Z { ± maa dperoleh seumpula fugs bass ag salg ortogoal sehgga grafa tda salg tumpag tdh Betu fugs bass ortogoal ag dperoleh dega cara dlatas da traslas dar fugs mother avelet ψ (t) / { ψ ( x) ψ ( x ); Z} (5) Dar fugs father avelet φ (t) dapat dbagta fugs bass ortoormal ag meusu ruag L ( R) Betu umum fugs bass dalam ruag L ( R) adalah { φ o ψ o Z} (6) dega φ ( t) dsebut fugs sala ag berhubuga dega ψ ( t) Hmpua { φ o Z} membetu aa ruag ag ψ Z sama sepert { } Fugs sala atau father avelet φ merupaa peelesaa dar persamaa φ( t ) l φ(t ) (7) Fugs φ(t) dapat membagta suatu eluarga ortoormal pada ruag L R o ( ) φ ( t) φ( t ) Z (8) selauta ddapata mother avelet ψ dar fugs φ melalu persamaa : ψ ( t ) h φ(t ) (9) dega h ( ) l (Vdacovc da Meuller 99) da dsebut quadrature mrror flter relato Sedaga l da h merupaa oefse-oefse dar lo pass da hgh pass flters da dsebut quadrature mrror flters da dapat dguaa meghtug WD (Morett 997) Koefse-oefse tersebut ddefsa sebaga berut : φ( t) φ(t ) ψ ( t) (t l dt ; h φ ) dt () Persamaa (7) da (9) dsebut persamaa dlatas Berdasara sstem persamaa ortoormal : φ ( t) ψ ( t) Z maa { } o f ( t) L ( R) dapat ddeomposs mead : f t) c φ ( t) + d ( t) ( o o ψ o ()

4 6 Regres Kotum (Setaa da Kahrl Aar N) dega : o f ( t) φ o ( t) d f ( t) ψ ( t) dt c dt da rasformas Wavelet Dsret Msala terdapat vetor data M x ( x x x q ) dega q M> teger WD ddefsa sebaga berut : d q ( ψ ) xtψ ( t) t () M da sehgga dperoleh ( q ) oefse da satu oefse c sama dega dmes matrs peubah X Dega otas matrs trasformas pada persamaa () dapat dtuls : d Bx (3) area B ortogoal maa dapat dtuls : x B d (4) dega d ( c d d d d d d d d ) ' da B adalah matrs ag eleme-eleme oloma adalah la dar φ (t) da ( ) 3 ψ t utu berbaga t [ ] Sfat-sfat husus dar matrs B adalah : ortoormal olom pertama berla sama serta umlah usur tap olom ag la sama dega ol Vetor data x dapat dhubuga dega fugs f pada terval [) da ddefsa sebaga : (5) Fugs deal dega fugs tagga da termasu dalam L ([]) sehgga deomposs avelet dar f (t) adalah : f ( t) c M φ ( t) + d ψ ( t) (6) utu φ ( t) dsebut fugs sala utu avelet Haar Persamaa (6) dsebut trasformas avelet dsret area la haa dambl pada blaga bulat postf saa Blaga pada persamaa (6) dsebut level resolus da f(t) dapat dperoleh secara tepat a dambl semua level resolus utu deomposs atu level resolus sampa dega (M-) Koefse c dsebut oefse pemulusa atau baga pedeata dar suatu fugs sedag d dsebut oefse avelet atau uga dsebut baga detal suatu fugs Cotoh betu matrs B dar Haar avelet utu M3 M ( 8 ) adalah : x x x 3 x4 x 5 x6 x 7 x8 c d d d d d d d 3

5 Jural ILMU DASAR Vol 8 No Jul 7 : Regres Kotum Dega rasformas Wavelet Dsret RKWD pada dasara adalah regres otum atara peubah respo Y dega peubah bebas D hasl WD Matrs D hasl trasformas Wavelet tda dam salg bebas Suaro (5) meuua baha peubah baru hasl WD mash mempua orelas ag cuup tgg alaupu laa lebh ecl dar pada orelas atar peubah asal Oleh area tu pemodela regres atara peubah respo (Y) dega peubah hasl WD tda dapat megguaa RK area mash ada masalah oleartas gada ahapa-tahapa dalam RKWD dapat delasa sebaga berut : ahap Medapata matrs D dega megguaa WD Ja matrs X ( xp ) [ x x x p ] ; M dega pq (Mblaga bulat postp) maa WD dapat dtuls : D ( xp ) X( xp) B( pxp) (7) Karea dmes dar B sagat besar maa dplh level-level resolus tertetu sedema hgga baaa oefse avelet ag terplh sebesar p dega p ' < ( ) < p maa aa dperoleh D ( xp') X( xp) B( pxp') (8) ag meredus pegamata dar p tt taptap cotoh mead p tt oefse avelet ag terplh ahap Meregresa atara peubah respo (x) terhadap peubah bebas D (xp') dega megguaa metode regres otum D(xp' ) β + ξ (9) Walaupu dmes dar D (xp') sudah ecl tetap orelas datara oefse-oefse Wavelet mash tgg (Suaro 5) Sehgga dar matrs peubah bebas D (xp') dlaua trasformas mead : h D W h (3) dega W ( ) h h matrs beruura p xh dmaa h< p' < ( ) da dsebut matrs pembobot sedaga h adalah matrs peubah baru beruura xh Dega dema persamaa (9) dapat dubah mead sebaga berut : h ξ + ε (3) Karea pada matrs sudah tda ada masalah sgulartas atau ll codtoed maa pedugaa parameterξ pada persamaa (3) dapat dlaua dega megguaa metode uadrat terecl dega megguaa persamaa MEODE Pada peelta dguaa aa empr dega megguaa data bagta smulas dega megguaa program SAS Ada dua data atu : () da p8 serta () da p 56 Kedua es data tersebut mempua tgat orelas atar peubah bebas ag sagat tgg (r 99) Selauta dar data hasl bagta tersebut dlaua peduguaa model dega megguaa metode RKWD Hasl pedugaa tersebut dbadga dega hasl metode RKUWD da RKPWD Utu megevalus era RKWD ada beberapa rtera ag dbadga atara la : R s serta plot atara dega ŷ Model dataa lebh ba a R lebh tgg s lebh ecl serta hasl pegepasa lebh deat e gars lurus dega grade 45 o melalu pusat oordat Utu meghtug matrs oefse avelet dguaa peragat lua (softare) avetresh 3 sepert ag delasa oleh Naso (998) Sedaga utu RKWD RKUWD serta RKP WD dguaa peragat lua SAS HASIL DAN PEMBAHASAN Rgasa uura ebaa model hasl pedugaa RK RKP RKU dega metode pra-pemrosesa WD dsaa pada abel Sedaga dagram pecar atara dega ŷ hasl pedugaa metode RKWD RKUWD serta RKPWD dsaa pada Gambar da h

6 8 Regres Kotum (Setaa da Kahrl Aar N) abel Rgasa uura ebaa model hasl pedugaa RK RKP RKU dega metode pra-pemrosesa WD Data Krtera δ RKPWD 6 7 Smulas h N p8 RKUWD R R s Smulas h N R P56 R s Scatterplot of vs -duga() -duga(5) -duga() -duga(opt) Varable -duga() -duga(5) -duga() -duga(opt) duga Gambar Dagram pecar atara dega ŷ hasl pedugaa metode RKWD RKUWD RKPWD utu data smulas Scatterplot of vs -duga() -duga(5) -duga() -duga(opt) Varable -duga() -duga(5) -duga() -duga(opt) duga Gambar Dagram pecar atara dega ŷ hasl pedugaa metode RK-WD RKU-W+D RKP-WD utu data smulas Hasl pedugaa pada data smulas ( p8) dega megambl 6 oefse avelet pada resolos 3 serta oefse utu fugs sala trasformas avelet dsret membera hasl ag memuasa Hal dapat dlhat pada abel ag tampa baha pada δ (RKWD) meghasla oefse determas palg besar (R 94%) serta smpaga bau palg ecl (s64) dbadga dega δ 5 (RKPWD)

7 Jural ILMU DASAR Vol 8 No Jul 7 : serta δ (RKUWD) ag meghasla R da s masg-masg 838% 389 serta 575% da 734 Hal dtuag dega Gambar ag terlhat baha pada δ tt-tt ag ada lebh deat e gars 45 o dar pada δ 5 serta δ Utu data smulas ( p56) hasl WD terba pada 8 oefse avelet dega resolus serta oefse fugs sala Pada abel dapat dlhat baha pada δ (RKWD) meghasla oefse determas palg besar (R 975 %) serta smpaga bau palg ecl (s73) dbadga dega δ 5 (RKPWD) serta δ (RKUWD) Hal dtuag dega Gambar ag terlhat baha pada δ tt-tt ag ada lebh deat e gars 45 o dar pada δ 5 (RKPWD) serta δ (RKUWD) Smulas dlaua berulag-ulag dega cara resamplg hasl merupaa salah satu hasl smulas ag telah dcobaa Hasl ag dperoleh dega resamplg meuua baha pedugaa dega RKWD lebh ba dar pada RKUWD maupu RKPWD (Setaa da Notodputro 5b) KESIMPULAN Dar hasl aa empr dega data smulas terata regres otum dega metode prapemrosesa trasformas avelet (RKWD) mempua potes ag sagat ba utu megatas masalah ods ag sat da sgulartas R R serta s belum cuup sebaga rtera utu melhat ebaa suatu model Perlu dlaua peelta lebh laut dega megguaa Root Mea Squares Error of Predcto (RMSEP) sebaga rtera ebaa model Ucapa ermaash ermaash peuls sampaa epada DIJEN DIKI DEPDIKNAS ag telah meduug peelta melalu Hbah Peelta Pascasaraa IPB ag detua oleh Prof Dr Ir H Kharl Aar Notodputro MS DAFAR PUSAKA Mallpass J 996 Improved Mathematcal Methods for Drugs Desg : Cotum Regresso SAS Macro Uverst of Portsmouth Morett PA 997 Wavelets Statstcs Isttute of Math Ad Stat Uverst of Sao Paulo Brazl Naes 985 Multvarate Calbrato Whe the Error Covarace Matrx s Structured J echometrcs 7: 3-3 Naes Isasoo Fear Davs A User Fredl Gude to Multvarate Calbrato ad Classfcato NIR Publcato UK Naso GP Slverma BW 994 he dscrete avelet trasform S J Comp graph Stat 3: 63-9 Naso GP 998 Wavethresh 3 softare Departmet of Mathematcs Uverst of Brstol UK sh [ u 3] Percval DB 5 Wavelets : Data Aalss Algorthms ad heor Uverst Washgto [8 aprl 5] Setaa Notodputro KA 5a Regres Kotum sebaga Betu Umum dar RK RKU serta RKP Prosdg Semar Nasoal Statsta VII Jurusa Statsta FMIPA IS Surabaa taggal 6 Nopember 5 Setaa Notodputro KA 5b Regres Kotum dega Prapemrosesa rasformas Wavelet dalam Model Kalbras Prosdg Semar Nasoal MIPA FMIPA UNESA Surabaa taggal 7 Desember 5 Stoe M & Broos RJ 99 Cotum Regresso:cross-valdated equetall costructed predcto embracg ordar least squares partal least squares ad prcpal compoet regresso (th dscusso) Joural of the Roal Statstcal Socet Seres B 5: Suaro S 5 Model Kalbras dega rasformas Wavelet sebaga Metode Pra-pemrosesa Dsertas ag tda dpublasa Bogor : Seolah Pascasaraa Isttut Pertaa Bogor Vdacovc B Meuller P 99 Wavelets for Kds A utoral Itroducto AMS Subect Classfcato Due Uverst