BAB 2 LANDASAN TEORI

Transkripsi

1 BAB 2 ANDAAN EOI Pada a aa dperlhata teor-teor yag erhuuga dega peelta sehgga dapat djada seaga ladasa erfr dalam melaua peelta da aa mempermudah dalam hal pemahasa hasl utama pada a erutya. eor terseut mecaup pegerta dar pegeala pola secara statsta (statstcal patter recogto), cotoh statstcal patter recogto, matrs ovaras, cotoh matrs ovaras, la ege da vetor ege,cotoh la ege da vetor ege, aalss dsrma ler, aalss dsrma ler 2-dmes da aalss dsrma ler 2-dmes smetrs. 2. Pegeala Pola ecara tatsta (tatstcal Patter ecogto) Pegeala pola atau deal dega seuta patter recogto merupaa salah satu caag lmu sas. Pegeala pola pada dasarya adalah suatu sstem yag tujuaya adalah meglasfasa oje-oje e dalam ategor-ategor atau elas-elas erdasara a pada apror pegetahua atau pada formas statst yag daml dar pola (heodords, 2003). Fuuaga (990) meyaja cara-cara dasar perhtuga matemata utu proses pemuata eputusa secara statst dalam pegeala pola. ujua utama patter recogto adalah meglarfasa measas sult yag serg dtemua dalam dua sehar-har sepert lagah dalam permaa catur ddasara pada pola yag ada d papa catur, pemela atau persedaa pejuala dputusa melalu suatu pola formas yag omples. eaga esar aplas-aplas petg Uverstas umatera Utara

2 2 dalam patter recogto daratera e dalam satu etu urva atau pola gamar geometr. eaga cotoh, pegetesa suatu mes laya atau tda meampla pola eretu urva. Masalah meredus utu pemsaha urva dar mes yag agus da yag tda agus. Pada cotoh la, pegeala pola huruf hasl ceta tulsa taga dlasfasa dalam etu gamar geometr. Dalam proses utu peglasfasaya, pertama ta uur araterstaraterst pegamata dar sampel. Kemuda, estras seluruh formas yag terdapat dalam sampel utu meghtug la sampel-atu utu suatu pola eretu urva, x( t),..., x( t ), da tgat ehtama psel utu suatu fgur, x(),..., x( ) sepert yag dtujua dalam gamar 2.. x(t) Pxel # 0 t t 2 t 3... (a) t - t t () Pxel # Gamar 2.: Cotoh dua peguura pola (a) gelomag () huruf Karea put dar pegeala pola merupaa suatu vetor aca dega peuah, maa, a utu pola eretu gelomag ataupu huruf, eduaya despresa e dalam etu vetor dalam suatu ruag dmes-. eaga cotoh, pegamata x() ervaras dar huruf A yag satu e huruf A yag laya da oleh area tu, x() merupaa suatu varael aca, da X merupaa vetor aca. 2.. Vetor Aca da Dstrusya epert yag telah ddsusa pada aga 2., put dar jarga pegeala pola merupaa suatu vetor aca dega peuah seaga erut X= xx 2...x (2.) Uverstas umatera Utara

3 3 dmaa adalah traspos dar vetor. uatu vetor aca dapat daratersasa oleh suatu fugs dstrus peluag, yag ddefsa oleh P( x,..., x ) Pr x x,..., x x (2.2) (Fuuaga, 990) ela tu, suatu vetor aca mempuya suatu paramater dstrus. Parameter dstrus yag aa dahas dalam peelta adalah matrs ovaras Matrs Kovaras Matrs ovaras adalah matrs ovaras sampel yag ddefsa seaga erut: = E [ X M ] [ X M ] (Fuuaga, 990) (2.3) X adalah data pada masg-masg elas, M adalah rata-rata elas e-. Matrs ovaras ers la varas pada dagoal utama seaya p varael da la ovaras pada eleme laya seaya p ovaras. uatu matrs dataa matrs ovaras populas ja matrs terseut adalah matrs smetrs yag dagoalya harus ers eleme-eleme oegatf sehgga matrs terseut merupaa matrs deft oegatf. Ja A = [ a, a 2,..., a ] mempuya rata-rata elas M a, maa utu melhat etapa deatya orelas atar elas, harus datur agar masg-masg la mempuya jumlah selsh rata-rata sama dega 0, yatu dega cara megurag setap a dega rata-rata elasya. Kemuda meempata la-la terseut e dalam seuah matrs sepert erut: X a M a M a M a M Uverstas umatera Utara

4 4 a M a M a M a M a M a M a M a M (2.4) Kompoe dagoal dar matrs ovaras adalah varas dar masg-masg elas peuah aca. Utu leh jelasya tetag matrs ovaras, perhata cotoh 2..2 erut. Cotoh 2..2 Detahu suatu data la 7 mahassa melput la tugas rumah, uja da uja ahr seaga erut. Mahassa Nla ugas umah Uja Uja Ahr MH MH MH MH MH MH MH ata-rata Dar data pada cotoh 2..2 aa dperlhata agamaa erja mahassa dega memadga atara elompo uja atau la tugas. Agar terlhat etapa deatya dua elompo la salg erorelas, harus datur agar masg-masg la terseut mempuya rata-rata sama dega 0, yatu dega cara megurag setap la dalam olom dega rata-rata la pada olom yag sama sehgga la yag telah dtraslasa aa mempuya jumlah selsh atau devas terhadap rata-rata sama dega 0. Kemuda, tempata la-la yag telah dtraslasa terseut e dalam matrs Uverstas umatera Utara

5 Ja terdapat leh dar dua elompo data, maa dapat detu seuah matrs X dmaa olom-olomya memperlhata smpaga dar rata-rata utu setap elompo da emuda memetu seuah matrs ovaras dega meetapa X X - Matrs ovaras utu etga elompo data la matemata adalah , ,5 725, 7 437,5 546,0 830,0 725, 7 830,0 84,3 Etr-etr dagoal matrs adalah varas utu etga elompo la da etretr d luar dagoal adalah ovaras-ovaras Nla Ege da Vetor Ege Defs. Aggap A adalah suatu matrs. alar dseut seaga suatu la ege atau la araterst dar A ja terdapat suatu vetor ta ol x, sehgga Ax = x. Vetor x dseut vetor ege dar A yag erasosas dega (Hor ad Johso, 985). Uverstas umatera Utara

6 6 Utu megetahu leh jelas megea la ege da vetor ege, perhata cotoh 2..3 erut. Cotoh Msala A da x Karea A x x, dar peyelesaa cotoh soal d atas terlhat aha = -3 adalah la ege dar A da x = - 3 merupaa vetor ege yag erasosas dega = -3. Hasl Kal da Jumlah Nla Ege Ja p() adalah polom araterst dar matrs A yag erorde, maa p( ) det( A I) a a a 2 a a a a a a 2 (2.5) Dega meguraa determa sepajag olom pertama, dperoleh det( A- I) ( a - )det( M ) a (-) det( M ) d maa mor-mor M, = 2,..., tda megadug edua eleme dagoal ( a ). Dega meguraa det(m ) dega cara yag sama, dapat dsmpula aha ( )( )...( ) (2.6) a a22 a adalah satu-satuya suu dalam espas det( A I) yag meyeaa suatu hasl al leh dar 2 eleme dagoal. Ja persamaa (2.7) duraa, maa oefse dar aa mejad (-). Jad, oefse utama dar p() adalah (-) da dega dema ja,..., adalah la-la ege dar A, maa p 2 ( ) ( ) ( )( )...( ) (2.7) utu meghtug la ege da vetor ege, la p( ) harus sama dega 0, sehgga dperoleh Uverstas umatera Utara

7 7 p( ) ( )( )...( ) 2 Dar persamaa (2.5) da (2.7) maa dperoleh. 2 p(0) det( A) Dar persamaa (2.6), juga dperoleh a seaga oefse dar (-). Ja dega persamaa (2.7). Dega dema, maa = Jumlah eleme dagoal dar (A) damaa trace dar A, da dlamaga dega tr(a), catata aha tr(a + B) = tr(a) + tr(b) (Hor ad Johso, 985). a Cotoh Ja A 3 2 maa det(a) = (-6) 6 = -2 da tr(a) = = - Polom araterst dar A dera oleh persamaa da seaga aatya la-la ege dar A adalah -4 da 3. Dapat dtjau aha + 2 = - = tr(a) da. 2 = -2 = det(a). Dalam peelta dguaa la ege da vetor ege. Fugs la ege pada peelta ya area trace = jumlah la ege = jumlah eleme dagoal aa dguaa utu meetua la fugs ojetf yag erupa salar ua dalam etu matrs. Vetor ege dguaa utu megetahu omas ler matrs da yag merupaa matrs trasformas r da aa oleh AD2-D. Matrs da selajutya aa dguaa utu meetua matrs seara dalam elas ja atau tetap da mats seara atar elas ja atau tetap,,,. Matrs da terseut emuda aa dguaa utu meghtug trasformas ler sehgga dperoleh peredaa atar elas da hasl lasfas yag a. Uverstas umatera Utara

8 8 2.2 Aalss Dsrma er (AD) Aalss dsrma adalah te statst multvarat yag terat dega pemsaha (separatg) atau aloas/lasfas (classfcato) seelompo oje atau oservas e dalam elompo (group) yag telah terleh dahulu ddefsa. Dalam tujua pegeala oje (oservas), metode mecoa meemua suatu dscrmat yag laya secara umers sedema sehgga mampu memsaha oje yag araterstya telah detahu. edaga dalam tujua lasfas oje, metode aa mesortr oje (oservas) e dalam 2 atau leh elas (Fuuaga, 990). Ja dera suatu matrs data meemua suatu trasformas G A N, metode AD las ertujua N l yag memetaa setap olom a dar matrs A, utu, dalam ruag dmes N e vetor dalam ruag dmes l. Ya G : N a G a l ( l N). Dega ata la, AD ertujua meemua suatu ruag vetor dretaga oleh { g } l d maa G= [g, g 2,,g l ], sehgga setap a dproyesa e oleh ( g. a,...,. ) l gl a (Ye et. al, 2004). Asumsa aha data asl dalam A dparts e dalam elas sehgga A = {, 2,, }, dmaa memuat tt data dar elas e, da. AD las ertujua utu meemua trasformas optmal G sehgga strutur elas dar data ruag erdmes tgg yag asl duah e dalam ruag erdmes redah (Ye et. al, 2004). Dalam AD, trasformas e suruag yag erdmes leh redah yatu y (uo et al, 2007) (2.8) G x d maa G merupaa trasformas e suruag. erg juga dtulsa dega (y,..., y ) = G (x,..., x ) atau Y = G X. ujua utama dar AD adalah mecar la G sehgga elas dapat leh terpsah dalam ruag trasformas da dega mudah dapat dedaa dar yag laya. Uverstas umatera Utara

9 9 Dalam metode Aalss Dsrma er, terdapat dua matrs seara yatu matrs seara dalam-elas dsmola dega, da matrs seara atar-elas dsmola dega, masg-masg ddefsa seaga erut: c x (2.9) [ x m ][ x m ] c [ m m][ m m] (2.0) d maa adalah jumlah sampel pada elas x, da m adalah mage rata-rata dar elas e- da m adalah rata-rata eseluruha. umus rata-rata elas da rata-rata eseluruha adalah seaga erut: m x adalah mea (rata-rata) dar elas e-, da x adalah rata-rata eseluruha (Fuuaga, 990). m x x epert dutaraa seelumya, metode Aalss Dsrma er dharapa dapat memmuma jara dalam matrs seara dalam-elas ( ) semetara jara matrs seara atar-elas ( ) dapat dmasmuma sehgga dapat terlhat peredaa atau pemsaha atar elas. Dalam hasl ruag dmes yag leh redah dar trasformas ler G (atau proyes ler e dalam ruag vetor ), da mejad ( Y ) G ( X ) G, (2.) ( Y) G ( X ) G. (2.2) rasformas optmal G aa memasmuma trace( ) da memmuma trace( ). Optmsas umum dalam Aalss Dsrma er 990) : max{ trace(( ) )} da m{ trace(( ) )} G G Hal dtulsa dalam fugs ojetf optmum: melput (lhat Fuuaga, (2.3) Uverstas umatera Utara

10 20 ( Y ) G ( X ) G max J ( G) tr tr (2.4) G ( Y ) G ( X ) G Catata aha trace(a/b) = trace(b - A) = trace (AB - ) Masalah optmsas dar persamaa (2.4) d atas evale dega masalah geeralsas la ege erut: x x, utu 0. Peyelesaaya dapat dperoleh dega meerapa ege-deomposs e matrs x ja osgular, atau x ja osgular. erdapat palg aya vetorvetor ege yag coco e la ege ta ol, area edudua dar matrs datas oleh. Oleh area tu, dmes yag dredus oleh AD las terleta pada. Gamar erut meujua hasl dar peerapa metode Aalss Dsrma er (AD) dalam peglasfasa. Gamar 2.2 Hasl Klasfas dega Aalss Dsrma er Dalam hal trasformas setap data, Fuuaga (990) meglasfasa hmpua data da vetor uj e dalam ruag trasformas melalu dua pedeata yag ereda seaga erut:. rasformas Class-depedet yatu pedeata yag memasmuma raso varas atar-elas e varas dalam-elas. 2. rasformas Class-depedet yatu memasmuma raso seluruh varas dalam-elas. ela tu, a juga meyaja operas matemata utu mempermudah lasfas sejumlah oje yatu: Uverstas umatera Utara

11 2. Formulasa hmpua data da data uj yag aa dlasfasa dalam ruag aslya. Utu memudaha pegerta, peelt megguaa dua data da drepresetasa e dalam matrs yag ers ftur dalam etu sepert erut a a set a a a a m m2 set m m2 2. Htug rata-rata setap hmpua data da rata-rata dar seluruh data. Aggap da 2 adalah rata-rata dar hmpua data da 2, serta 3 seaga rata-rata dar seluruh data yag dperoleh dar p p d maa p da p 2 adalah peluag dar masg-masg elas. Pada asus dua elas, fator peluag dasumsa seesar 0,5. 3. Matrs seara dalam elas merupaa espetas ovaras dar setap elas. dega perhtuga seaga erut p cov Utu permasalaha dua elas, j j j 0, 5cov 0, 5cov2 emua matrs ovaras adalah matrs yag smetrs. Matrs ovaras dhtug megguaa persamaa erut cov ( x )( x ) j j j j j Matrs seara atar-elas dhtug dega megguaa persamaa erut ( )( ) j 3 j 3 j Fator optmsas dalam tpe depedet-class trasformas dapat dhtug seaga crtero j v( cov ) Fator optmsas dalam tpe depedet-class seaga crtero v( ) j trasformas dapat dhtug Uverstas umatera Utara

12 Aalss Dsrma er 2-Dmes Aalss Dsrma er 2-Dmes (AD2-D) adalah suatu metode aru yag merupaa peremaga dar Aalss Dsrma er. Beerapa tahu elaaga, metode-metode AD2-D telah dpereala. ad Yua (2005), da Xog et. al (2005) memformulasa gamar erdasara perhtuga matrs seara dalam elas da atar elas. Metode-metode terseut tda merepresetasa gamar e dalam vetor sehgga teredus secara dmesoal e dalam matrs gamar. og et. al (2005) da Yag et. al (2003) megguaa orelas olom dem olom utu meredus sejumlah olom. elajutya Yag et. al (2005) mempera da memera suatu algortma utu meredus lagalaga pada olom pertama da meredus laga-laga pada ars erutya. Metode merupaa suatu algortma depede. Ye et. al (2005) mempereala suatu AD2-D depede dega suatu algortma solus teratf. Utu Aalss Dsrma er 2 Dmes, peredaa utama atara AD las da AD2-D yag peelt usula dalam peelta adalah tetag perala (represetas) data. AD las megguaa represetas vetor, sedaga AD2-D eerja dega data dalam represetas matrs. Dalam pegguaa metode AD2-D aa terlhat aha represetas megarah e egedeomposs pada matrs dega uura leh ecl. eh husus, AD2-D melata ege-deomposs matrs dega uura r r da c c, yag jauh leh ecl darpada matrs AD las (Ye et. al, 2005). Dalam AD2-D telah dsepaat aha suatu hmpua gamar dsmola rc dega X =(X, X 2,..., X ), X. Dega tus yag sama dega AD las, AD2-D mecoa utu mecar suatu trasformas ler Y X (2.5) sehgga elas-elas yag ereda dpsaha. Kucya adalah agamaa memlh ruag aga da erdasara matrs seara dalam elas da atar elas (uo et. al, 2007). Uverstas umatera Utara

13 23 da sepert AD las, AD2-D megaggap hal erut (l l 2 ) - ruag dmes merupaa perala tesor (roecer product) dua ruag erut: dretag oleh { u } l da dretaga oleh 2 { v } l da ddefsa seaga dua r l matrs =[ u,...,ul ] c l2 da = [ v,..., vl 2 ]. Kemuda, hmpua gamar X r c dproyesa e ruag sehgga hasl proyesya adalah X l l2 (Ye et. al, 2004). c l2 r l Kroecer product (perala tesor) ddefsa seaga: aggap, maa Kroecer product (perala tesor) da ddefsa seaga matrs l l l lr lrl r l da apala c l2 da smetrs maa smetrs (Hor ad Johso, 985). eaga cotoh a a a 2 a 2 22 da maa a a 2 a2 a22 Ja dmsala A rc, utu =, 2,, adalah gamar (pola) dalam dataset, emuda masg-masg pola delompoa e dalam, 2,, dmaa meml dar elas e,, da gamar (pola). Msala x M X adalah rata-rata x M X erart rata-rata eseluruha, dalam 2DDA, peelt megaggap gamar seaga syal dua dmes da rl cl2 ertujua utu meemua dua matrs trasformas da yag memetaa setap aggota A sehgga B = A. rc l l2 utu x, e suatu matrs B ama halya sepert AD las, AD2D ertujua utu mecar trasformas (proyes) optmal da sehgga strutur elas dar ruag Uverstas umatera Utara

14 24 erdmes tgg yag asl duah e ruag erdmes redah. uatu esamaa metr alam atara matrs adalah orma Froeus (Ye, et. al, 2004). D aah metr uadrat jara dar th-class (dalam elas) da etee class (atar elas) dapat dhtug seaga erut: 2, F x D X M 2 F (2.6) D M M trace (M M )= M 2 F, utu suatu matrs M, maa dperoleh D trace X M 2 F (2.7) x D trace X M 2 F (2.8) x Dalam ruag erdmes redah, hasl dar trasformas ler da, jara thclass da etee class mejad: _ D trace X M X M x (2.9) _ D trace X M X M (2.20) rasformas optmal da aa memasmuma D _ da memmuma D, oleh area esulta meghtug optmal da secara smulta, erut adalah algortma utu AD2D. eh hususya, utu suatu tetap, ta dapat meghtug optmal dega memecaha permasalaha optmsas yag sama dega persamaa (2.4). Dega meghtug, ta emuda dapat memperaharu dega memecaha masalah optmsas la seaga satu-satuya peyelesaa dalam persamaa (2.4). _ Uverstas umatera Utara

15 25 Beerapa otas petg yag dguaa dalam peelta terdaftar dalam ael 2. daah : ael 2. Notas Petg dalam Aalss Dsrma er 2 Dmes Notas Keteraga N jumlah gamar dalam dataset K jumlah olom dalam dataset A a C Gamar e- dalam represetas matrs gamar e- dalam represetas vetor jumlah ars dalam matrs A jumlah olom dalam matrs A N Dmes dar a (N= r * c) j I B Kelas e- j dalam dataset matrs trasformas (r) oleh AD2D matrs trasformas (aa) oleh AD2D jumlah teras dalam AD2D Peredusa represetas A oleh AD2D l l2 jumlah ars dalam B jumlah olom dalam B Perhtuga Utu suatu tetap, D _ da D _ dapat dtuls emal seaga _ D _ trace, D trace (2.2) d maa ( ) ( ), ( ) ( ) X X M X M M M M M (2.22) ama sepert masalah yag terdapat pada persamaa (2.4), optmal dapat dhtug dega memecaha masalah optmsas erut: max trace(( ) ( )). Peyelesaaya dapat dperoleh dega memecaha masalah geeralsas la Uverstas umatera Utara

16 26 ege erut: x x. Karea secara umum adalah osgular, maa optmum dapat dperoleh dega meghtug suatu ege-deomposs pada ( ). Catata aha uura dar matrs da adalah r r (matrs ujursagar), yag uuraya leh ecl dadga uura matrs da dalam AD las. Perhtuga Kemuda meghtug utu suatu yag tetap. D _ da D _ dapat dtuls emal seaga _ D _ trace, D trace (2.23) d maa X (2.24) ( X M ) ( X M ), ( M M ) ( M M ) ama sepert masalah yag terdapat pada persamaa (2.4), optmal dapat dhtug dega memecaha masalah optmsas erut: max trace (( ) ( )). Peyelesaaya dapat dperoleh dega memecaha masalah geeralsas la ege erut: x x. Karea secara umum adalah osgular, maa optmum dapat dperoleh dega meghtug suatu ege-deomposs pada ( ). Catata aha uura dar matrs da adalah r r (matrs ujursagar), yag uuraya leh ecl dadga uura matrs da dalam AD las. Algortma 2.2 AD2D ( A,,A, l, l 2 ) Iput: A,,A, l, l 2 Output:,, B,, B. Htug rata-rata M dar elas e- utu setap seaga M x X 2. Htug rata-rata gloal M x X Uverstas umatera Utara

17 27 3. I l2 0,0 4. Utu j dar sampa I 5. X M X M j j x j j X M X M l 6. Htug ege vetor l pertama { l } dar ( ) - 7. {,..., } j l 8. X M X M j j x j j X M X M l2 9. Meghtug ege vetor l 2 pertama { l } l dar ( ) 0. {,..., }. Ed for j l2 2., I 3. B A, utu l,2,..., l 4. etur (,, B,,B ) (Ye, et.al, 2004) l I - Namu, dalam AD2-D ta aa melhat ada suatu masalah eragua yag sagat medasar ya ada dua cara utu medefsa matrs seara dalam elas j j j x j ( XX ) ( X M )( X M ) (2.25) j j j x j ( X X ) ( X M ) ( X M ) (2.26) da ada 2 cara utu medefsa matrs seara atar elas j j j j ( XX ) ( M M )( M M ) (2.27) j j j j ( X X ) ( M M ) ( M M ) (2.28) Uverstas umatera Utara

18 28 Oleh area tu, dalam ruag trasformas, dapat dtulsa seaga ( YY ), ( Y Y ), ( YY ), ( Y Y ), Pada umumya, gamar tda ersfat smetrs: X X, maa ( YY ) ( Y Y ), ( YY ) ( Y Y ), Karea alasa, fugs ojetf AD mejad ermaa gada da memula eragua maaah fugs ojetf yag a ya mempuya sejumlah plha seaga erut: J J 2 ( YY ) tr ( YY ) (2.29) ( Y Y ) tr ( Y Y ) (2.30) da la-la. J J J ( YY ) ( Y Y ) tr ( YY ) ( Y Y ) ( Y Y) ( YY ) tr, ( Y Y) ( YY ) ( YY ) ( Y Y ) tr, ( YY ) ( Y Y ) (2.3) (2.32) (2.33) 2.3. rasformas Bler uatu trasformas ler ddefsa seaga: Y X, (uo, et.al, 2007) (2.34) Y X Dega megguaa trasformas symmetrs, matrs seara mejad tuggal da masalah eragua yag terdapat dalam AD2-D dapat dselesaa. Kemuda, erut dtujua aha trasformas ler pada persamaa (2.34) evale e trasformas ler pada persamaa (2.5): Uverstas umatera Utara

19 29 maa Y = X. X X X X (2.35) Pada Fuuaga(990), matrs Γ ddefsa seaga: ya matrs yag dagoal utamaya merupaa la varas dar suatu hmpua data da eleme la dalam matrs erla 0. Uverstas umatera Utara