BAB II LANDASAN TEORI Pada bagia ii aka dibahas tetag teori-teori dasar yag diguaka utuk dalam megestimasi parameter model.. MATRIKS DAN VEKTOR Defiisi : Trace dari matriks bujur sagkar A a adalah pejumlaha = ij eleme-eleme diagoalya atau ( ) ii i Defiisi : Tr A = a Jika a, a,..., a adalah vektor-vektor tak ol maka persamaa vektor ca + c a + + c a = 0... mempuyai palig tidak satu peyelesaia, yaitu c = 0 c = 0,..., c = 0 Jika ii adalah satu-satuya peyelesaia, maka a, a,..., a disebut liearly idepedet. Jika adalah peyelesaia laiya, maka a, a,..., a disebut liearly depedet. Defiisi 3 : Rak dari suatu matriks A didefiisika sebagai berikut Estimasi Model..., Erma Harviai, FMIPA UI, 008 9
5 Rak (A) = bayakya baris yag liearly idepedet pada A = bayakya kolom yag liearly idepedet pada A Defiisi 4 : Jika A matriks berukura x p da memiliki rak yag merupaka ilai terkecil atara da p maka A memiliki full rak atau dapat disebut full colum rak atau full row rak. Defiisi 5 : Misalka A merupaka matriks simetris. Maka A adalah matriks defiit positif jika da haya jika utuk sembarag vektor x yag buka vektor 0 berlaku x'ax > 0.. VARIABEL RANDOM Misalka terdapat suatu percobaa radom pelempara sebuah koi dega kemugkia hasil yaitu muka atau belakag. Ruag sampel dari percobaa ii adalah C = {c; c adalah muka atau c adalah belakag}. Misalka X adalah sebuah fugsi sedemikia sehigga X(c) = 0 jika c adalah muka da X(c) = jika c adalah belakag, maka X merupaka sebuah fugsi yag memetaka eleme-eleme himpua ruag sampel C dega himpua bilaga real A = {0,}. Estimasi Model..., Erma Harviai, FMIPA UI, 008
6 Defiisi 6 : Misalka sebuah percobaa radom mempuyai ruag sample C. Sebuah fugsi X yag memetaka masig-masig eleme c C ke satu da haya satu bilaga real X(c)=x, disebut variable radom. Ruag ilai dari X adalah himpua bilaga real A = {x; x = X(c), c C }. Misalka X suatu variable radom dega pegamata yag dilakuka sebayak kali maka pegamata tersebut diotasika sebagai X, X,..., X jika ilai-ilai utuk X = x, X = x,..., X = x maka X dapat diotasika dalam betuk vektor sebagai berikut. X x x x =.3 EKSPEKTASI, VARIANSI, KOVARIANSI da KORELASI Misalka X suatu variabel radom yag memiliki sifat: Utuk X diskret, x f ( x) Utuk X kotiu, ( ) koverge ke suatu limit berhigga x x f x dx koverge ke suatu limit berhigga maka ilai ekspektasi dari variabel radom X didefiisika sebagai: ( ) xf ( x ) E X =, utuk X diskret i i i Estimasi Model..., Erma Harviai, FMIPA UI, 008
7 atau Defiisi 7 : ( ) ( ) E X = xf x dx utuk X kotiu Dega defiisi ekspektasi yag telah dijelaska, mome ke-k dari k distribusi X didefiisika sebagai E( X ). Misalka X memiliki mea μ maka E( X) Sifat-sifat ekspektasi:. Sifat : = μ Misalka X da Y merupaka variabel radom maka. Sifat : E( X + Y) = E( X) + E( Y) Misalka X suatu variabel radom da k suatu kostata maka 3. Sifat 3: ( ) = ke( X) E kx Misalka X da Ymerupaka variabel radom yag idepede maka ( ) = E( X) E( Y) E XY Misalka X suatu variabel radom dega mea μ maka variasi dari X didefiisika sebagai var ( ) ( X) = σ = E [ X μ] x ( Xμ + μ ) ( ) ( μ ) + ( μ ) = E X = E X E X E Estimasi Model..., Erma Harviai, FMIPA UI, 008
8 ( ) ( ) = E X E X μ + μ ( ) ( ) ( ) + ( ) ( ) E( X) = E X E X E X E X = E X Misalka X adalah variabel radom dega mea μ x da variasi (.) sedagka Y adalah variabel radom dega mea μ y da variasi σy maka kovariasi X da Y didefiisika sebagai [ XY] = E( [ X μx][ Y μy] ) = E( XY XμY Yμx + μxμy) = E( XY) E( XμY) E( Y) + μxμy = E( XY) μye( X) μxe( Y) + μxμy = E( XY) E( X) E( Y) E( Y) E( X) + E( X) E( Y) = E( XY) E( X) E( Y) cov, σ x (.) Sifat-sifat variasi. Sifat 4 Misalka X suatu variabel radom da a suatu kostata maka ( ) = var ax a var( X ). Sifat 5 Misalka X da Y suatu variabel radom maka Estimasi Model..., Erma Harviai, FMIPA UI, 008
9 ( X + Y) = ( X) + ( Y) var var var X da Y merupaka variabel radom yag tidak berkorelasi jika da haya jika cov( X,Y ) = 0 Bukti: ( XY) cov, ρ = σ σ dega ρ merupaka koefisie korelasi X Y Jika ( ) cov XY, = 0 maka ρ =0 yag megartika bahwa X da Y tidak berkorelasi sedagka ρ =0 terjadi ketika cov ( XY, ) = 0 (terbukti).4 KONVERGEN DALAM PROBABILITAS Defiisi 8 : Variabel radom X dega pegamata disebut koverge dalam probabilitas ke c atau plim X ε > 0 berlaku ( X c ε ) lim Pr < = = c jika utuk sembarag bilaga positif Teorema : Jika X memiliki mea c da memiliki variasi σ dega limit adalah 0 maka plim X = c Estimasi Model..., Erma Harviai, FMIPA UI, 008
0 Bukti: Pembuktia ii megguaka dalil pertidaksamaa Chebyshev. Dalil tersebut berisi sebagai berikut. variasi Misalka X merupaka barisa variabel radom dega mea μ da σ maka pertidaksamaa Chebyshev adalah sebagai berikut: dega k suatu kostata. k ( X μ < kσ) Pr Dari pertidaksamaa Chebyshev diperoleh Pr ( X c < kσ ) (.3) k Ambil ε = kσ maka k ε = σ sehigga persamaa (.3) mejadi: σ Pr ( X c < ε ) ε Dega megambil limit utuk pada kedua ruas persamaa di atas maka diperoleh σ lim Pr ( X c < ε ) lim ε Karea lim σ = 0 maka diperoleh ( X c ε ) lim Pr < Karea ilai probabilitas adalah dari 0 higga maka Estimasi Model..., Erma Harviai, FMIPA UI, 008
( X c ε ) lim Pr < = Berdasarka defiisi 8 maka plim X = c (terbukti).5 PENAKSIR KONSISTEN Defiisi 9 : Suatu statistik ˆ θ disebut peaksir yag kosiste utuk parameter θ jika da haya jika ˆ θ koverge dalam probabilitas ke parameter θ atau plim ˆ θ= θ.6 MODEL REGRESI LINIER Model regresi merupaka persamaa yag meggambarka hubuga atara variabel depede dega variabel idepede. Jika parameter pada model regresi berhubuga secara liear dega variabel depede maka disebut model regresi liier. Selajutya model ii dapat diguaka utuk memprediksi ilai variabel depede apabila diberika ilai dari variabel idepede. Oleh karea itu taksira model yag didapatka sebaikya memeuhi kriteria model yag baik sehigga mampu diguaka sebagai prediksi dega error yag terkecil. Misalka y i adalah observasi dari variabel depede Y utuk pegamata ke-i, x it adalah ilai variabel idepede ke-t utuk pegamata ke-i da ε i merupaka error pegamata ke-i. Misalka terdapat k variabel Estimasi Model..., Erma Harviai, FMIPA UI, 008
idepede da pegamata. Maka model regresi dapat dituliska sebagai berikut: y = x β + x β +... + x β + ε k k y = x β + x β +... + x β + ε k y = x β + x β +... + x β + ε k k k atau dapat ditampilka dalam betuk matriks sebagai berikut: y = Xβ + u (.4) Dimaa y = vektor observasi variabel depede berukura x X = matriks k variabel idepede atau variabel regressor berukura x k β = vektor parameter berukura k x u = vektor error ( x ) Utuk meaksir vektor parameter β, salah satu metode peaksira yag dapat diguaka adalah Ordiary Least Squares (OLS). Metode peaksira ii megguaka prisip memiimumka jumlah peyimpaga kuadrat atara ilai prediksi dega ilai sebearya. Utuk medapat taksira yag baik dalam megguaka metode peaksira ii ada beberapa asumsi yag harus dipeuhi yaitu:. X berukura x k mempuyai rak k. E ux = 0 Estimasi Model..., Erma Harviai, FMIPA UI, 008
3 3. E uu' X = σ I 4. u Norma l Dega metode OLS diperoleh taksira utuk β, yaitu ( ' ) βˆ = XX Xy ' (.5) yag merupaka taksira yag kosiste utuk β. Bukti: Berdasarka defiisi tetag peaksir yag kosiste aka dibuktika bahwa plim βˆ = β. Dega mesubtitusika persamaa (.4) ke persamaa (.5) didapatka betuk ( ) (( ) ) + ( ) βˆ = XX ' X'( Xβ + u) = XX ' XXβ ' XX ' Xu ' ˆ β = β+ XX ' ' Xu (.6) Dega megambil betuk probabilitas limit pada kedua ruas tersebut maka diperoleh persamaa ˆ plim β = β+ plim XX ' plim ' Xu (.7) Utuk medapatka hasil plim βˆ = βdapat dilakuka dega membuktika bahwa plim Xu ' = 0. Utuk membuktika hal ii dapat diguaka Estimasi Model..., Erma Harviai, FMIPA UI, 008
4 teorema dega mecari mea dari X ' u da limit dari variasi ' Xu. Misalka x i adalah vektor baris yag berisi ilai dari variabel-variabel idepede utuk pegamata ke-i, maka, x u E ' E x u Xu = x u = E ( x x x ) u u u x iui i = i = E (.8) berdasarka sifat da sifat maka dimaa E xu = E xu ( ) i i i i i= i= ( x ) = cov( x, ) + ( x ) ( ) E u u E E u i i i i i i Jika diasumsika u pada masig-masig observasi tidak berkorelasi dega X maka cov ( xi, u i) = 0. Karea disumsika bahwa E ux = 0maka Estimasi Model..., Erma Harviai, FMIPA UI, 008
5 ( x ) 0 E u = Oleh karea itu didapatka hasil utuk persamaa (.8) yaitu E = X'u 0 i i Selajutya aka dicari limit dari variasi ' X u. Karea E ( uu' ) = σ I maka ' var Xu ' E ' ' = Xu Xu = E Xu ' ux ' = E E E σ = E ( X' ) E( X) ( X ') ( uu' ) ( X) lim var ' = X u 0 Karea mea dari Xu ' adalah 0 da variasiya koverge ke 0 berdasarka teorema maka bahwa plim X ' u = 0. Sehigga didapatka hasil plim βˆ = β Berdasarka defiisi 9 maka ˆβ merupaka taksira yag kosiste utuk β. ( terbukti ) Estimasi Model..., Erma Harviai, FMIPA UI, 008
6. 7 MODEL SPASIAL DEPENDEN Pada aalisis regresi serigkali dijumpai adaya ketergatuga atar lokasi (depedesi spasial) pada ilai observasi da atau errorya. Model regresi yag memperhatika efek depedesi spasial ii disebut model spasial depede. Terdapat dua jeis depedesi spasial yaitu spasial lag da spasial error. Ada kemugkia suatu data spasial memeuhi kedua karateristik depedesi ii. Spasial lag mucul akibat adaya ketergatuga ilai observasi pada suatu daerah dega daerah lai yag berhubuga degaya. Dega kata lai misalka lokasi i berhubuga dega lokasi j maka ilai observasi pada lokasi i merupaka fugsi dari ilai observasi pada lokasi j dega i j. Model yag memperhatika kodisi ii disebut model spasial lag. Misalka y i adalah ilai observasi variabel depede pada lokasi ke-i, x it adalah ilai variabel idepede ke-t pada lokasi ke-i, w ij adalah bobot yag meggambarka hubuga atara lokasi ke-i da lokasi ke-j, da u i merupaka error pada lokasi ke-i. Misalka terdapat k variabel idepede da lokasi pegamata, maka model spasial lag adalah sebagai berikut. y = x β + x β +... + x β + λ( w y + w y +... + w y ) + u k k 3 3 y = x β + x β +... + x β + λ( w y + w y +... + w y ) + u k k 3 3 y = xβ+ xβ +... + xkβk + λ( wy+ wy +... + w y) + u Estimasi Model..., Erma Harviai, FMIPA UI, 008
7 atau dalam betuk matriks: y=xβ + λwy+u (.9) y = vektor observasi variabel depede berujura x X = matriks k variabel idepede berukura x k W = matriks bobot spasial terstadarisasi wij = berukura x j β = vektor parameter regresi berukura k x λ = parameter skalar spasial lag u = vektor error berukura x Spasial error mucul akibat adaya ketergatuga ilai error suatu lokasi dega error pada lokasi yag lai yag berhubuga degaya. Hal ii terjadi apabila terdapat variabel-variabel yag mempegaruhi ilai variabel depede tapi tidak diikutsertaka dalam model, berkorelasi atar lokasi. Model yag memperhatika kodisi ii disebut model spasial error. Misalka y i adalah ilai observasi variabel depede pada lokasi ke-i, x it adalah ilai variabel idepede ke-t pada lokasi ke-i, u i adalah ilai error pada lokasi ke-i, m ij adalah bobot yag meggambarka hubuga atara lokasi ke-i da lokasi ke-j, da ε i merupaka iovasi pada lokasi ke-i. Iovasi ii merepresetasika error utuk model spasial error. Misalka terdapat lokasi pegamata da k variabel idepede, maka model spasial error dapat dituliska sebagai berikut. Estimasi Model..., Erma Harviai, FMIPA UI, 008
8 y = x β + x β +... + x β + u k k y = x β + x β +... + x β + u k y = x β + x β +... + x β + u k k k dega u = ρ( m u + m u +... + m u ) + ε 3 3 u = ρ( m u + m u +... + m u ) + ε 3 3 u = ρ( m u + m u +... + m u ) + ε atau dalam betuk matriks: y = Xβ + u u= ρ Mu+ ε (.0) y = vektor observasi variabel depede berukura x X = matriks k variabel idepede berukura x k u = vektor error berukura x M = matriks bobot spasial terstadarisasi mij = berukura x j ρ = parameter skalar spasial error ε = vektor iovasi berukura x Estimasi Model..., Erma Harviai, FMIPA UI, 008