PENGGGUNAAN ALGORITMA GAUSS-NEWTON UNTUK MENENTUKAN SIFAT-SIFAT PENAKSIR PARAMETER DAN DALAM SUATU MODEL NON-LINIER Abstrak Nur ei 1 1, Jurusa Matematika FMIPA Uiversitas Tadulako Jl. Sukaro-Hatta Palu, Idoesia 94118 Model statistik o-liier merupaka model yag diguaka utuk mejelaska hubuga atara variabel da beberapa prosedur pedeteksia, sehigga model o-liier telah megalami perkembaga yag sagat pesat terutama dalam hal tekik-tekik estimasi utuk meyelesaika permasalaha, walaupu model-model o-lier secara umum lebih sulit diaalisa daripada model liier. Utuk megetahui sifatsifat dari peaksir parameterya maka diguaka algoritma Gauss-Newto da OLS, sehigga model o-liier tersebut dapat ditrasformasika mejadi model liier yag disebut liear pseudomodel. Kata Kuci: No-Liier, Alogaritma Gauss- Newto, Ordiary Least Square, liear pseudomodel, I. PENDAHULUAN I.1 Latar Belakag Model statistik o-liier serig mucul dalam keyataa sehari-hari, misalya dalam betuk model-model ekoomi, seperti model fugsi produksi Cobb-Douglas, yaki Qt = L 1 t K t e t Dalam bayak kasus, model o-liier dapat ditrasformasika ke dalam model liier. Sejauh ii, telah dikaji model-model yag liier. Da dalam peelitia sekarag ii aka dikaji model statistik o-liier. Secara umum, model o-liier mempuyai betuk y = f(x,) + e. Dega pegetahua tetag aljabar matriks da algoritma Gauss-Newto, model o-liier tersebut dapat ditrasformasika mejadi model liier. Model liier yag diperoleh tersebut oleh Malivaud diamaka liear pseudomodel. Karea suatu model o-liier dapat diubah mejadi betuk pseudomodel liier, maka utuk mecari peaksir parameterya dapat diguaka metode OLS yag sudah serig diguaka dalam model liier. Dalam peelitia ii aka dikaji sifat-sifat peaksir parameter da dalam suatu model o-liier. Juga aka ditetuka iterval kepercayaa utuk peaksir parameter yag diperoleh dega (tigkat ketelitia) level of sigificat tertetu. I. Permasalaha Permasalaha utama dalam peelitia ii adalah mecari peaksir parameter da meyelidiki sifat-sifat peaksir tersebut pada suatu model o-liier. I.3 Tujua Peelitia Tujua dalam peelitia ii adalah : 1. Metrasformasika suatu model o-liier mejadi pseudomodel liier.
Peggguaa Algoritma Gauss-Newto Utuk Meetuka Sifat-Sifat Peaksir Da Dalam Suatu Model No-Liier II.. Mecari peaksir da melihat sifat-sifatya dari parameter yag tidak diketahui. 3. Meerapka algoritma Gauss-Newto utuk mecari peaksir terbaik. 4. Mecari iterval keperyaa dari peaksir parameter. 5. Membuat histogram distribusi empirik dari peaksir parameter. LANDASAN TEORI II.1. Noliear Least Squares Estimatio of Padag suatu model o-liier y = f(x,) + e, dimaa E(e) = da E(ee ) = peaksir parameter o-liier least square berarti memiimumka residual sum of squares S() = e e = [y - f(x, )] [y f(x, )]. I. Mecari Dega pegetahua tetag matriks da kalkulus, utuk memiimumka S() sama artiya mecari turua parsial pertamaya sama dega vektor, yaki Misalka ditulis : Z() = S f ( X, )' [ y f ( X, )] f ( x1, ) f (X, )' 1, maka diperoleh Z() = f ( xt, ) 1 Maka The first-order coditios utuk miimum adalah Z() [y f(x, )] =. f ( x1, ) k. f ( xt, ) k Disii, utuk mecari peaksir parameter diguaka algoritma Gauss-Newto. Utuk itu, aproksimasi f(x, ) dega ekspasi Deret Taylor order satu disekitar titik awal 1. Aproksimasi utuk observasi ke-t adalah f ( x, ) (, ) (, ) (, 1) t f xt f x t f xt ( 1). 1 k 1 1 Dega demikia, utuk seluruh T observasi meghasilka f ( X, ) f ( X, 1) Z( 1)( 1) da membetuk pseudomodel liier y( 1 ) y - f ( X, 1 ) Z( 1) 1. Dega megguaka metode OLS, dapat diperoleh peaksir parameter utuk iterasi kedua, 1 [ 1 1 1 1 yaki = Z( )' Z( )] Z( )' y( ) 1 [ 1 1 1 1 = 1 + Z( )' Z( )] Z( )'[ y f ( X,( )]. Jika proses ii dilajutka sampai iterasi ke-, algoritma Gauss-Newto memberika 1 +1 = + [ Z( )' Z( )] Z( )'[ y f ( X,( )]. Jika proses koverge +1 =, maka the first-order coditios utuk miimum Z( )'[ y f ( X,( )] harus dipeuhi. II. Peaksir utuk Matriks Variasi-Kovariasi Taksira Matriks variasi-kovariasi taksira utuk peaksir parameter adalah ˆ ˆ 1 b [ Z ( b)' Z( b)] 1
JIMT, Vol. 6, No. 1, MEI 9 : 11 19 dimaa S( b) ˆ. T K III. IV. PROSEDUR PENELITIAN 1. Memilih model o-liier tertetu yag aka ditaksir parameter yag tidak diketahui.. Megubah model o-liier pada prosedur (1) mejadi pseudomodel liear. 3. Meerapka algoritma (iterasi) Gauss-Newto da metode OLS pada pseudomodel liear yag diperoleh utuk mecari peaksir terbaikya. 4. Meyelidiki sifat-sifat peaksir yag diperoleh da membadigkaya dega ilai parameter yag sebearya. 5. Membuat iterval taksira utuk masig-masig peaksir parameter. 6. Membuat program komputer dega MATLAB utuk megerjaka semua prosedur di atas. HASIL DAN ANALISIS PENELITIAN IV.1. Meghitug Peaksir Da Dega Megguaka Beberapa Jeis Iitial Value Dala hal ii iitial value yag diguaka adalah [1;1;1;1], [5.;.1;.1;.5], [4;1;3;1], utuk 3 sampel dega rumus yag diguaka : y=5*oes(3,1)+.*(l.^+.5*k)+ormrd(,1,3,1) serta matriks L da K adalah sebagai berikut 5.3893.8.8 6.699.49.58 8.73.771.81 4.5986.511.767 9.1976.758.495 7.555.45.487 7.414.45.678 6.1688.817.748 6.6444.845.77 5.55.958.695 4.359.84.458 6.58.1.981 5.8841.95. Y = 7.4877 K =.77 L =.49 7.7.546.31 5.5195.19.664 3.6358.17.631 6.15.96.59 5.83.3.811 13
Peggguaa Algoritma Gauss-Newto Utuk Meetuka Sifat-Sifat Peaksir Da Dalam Suatu Model No-Liier 4.5147.145.758 5.614.161.5 6.9419.6.83 7.159.836.483 6.185.51.68 5.5394.93.116 5.6764.495.44 5.465.185.456 5.5435.9.34 7.456.485.358 6.16.934.16 Tabel 1: Taksira parameter dega iitial value [1; 1; 1; 1] 1 3 1 1. 1. 1. 1. 4.5451 1.755.3635.514 3 4.8855 1.9846 1.91.5358 4 4.613 1.9989 1.9986.5 Tabel : Taksira parameter dega iitial value [5.;.1;.1;.5] 1 3 1 5..1.1.5 4.1563 1.9987.3.53 3 3.6...5 4 4.555...5 Tabel 3: Taksira parameter dega iitial value [4; 1; 3; 1] 1 3 1 4. 1. 3. 1. 3.493 1.914.571.718 3 5.3433 1.88 1.347.5636 4 5.9446 1.9167.9.4973 5 7.3719 1.9949 1.985.511 6 5.5198 1.9999 1.9999.5 14
JIMT, Vol. 6, No. 1, MEI 9 : 11 19 Aalisa tabel: Dari tabel di atas terlihat bahwa peaksir koverge tidak pada jumlah iterasi yag sama. Utuk ilai awal [1;1;1;1] da [5.;.1;.1;.5], koverge pada iterasi ke-4 dega Residual Sum of Square adalah 4.165e-6 da 6.853e-4. Semetara dega megguaka ilai awal [4;1;3;1], koverge pada iterasi ke-6, dega megguaka presisi 1-9. Dari tabel-tabel di atas, peaksir merupaka peaksir kurag efisie karea adalah itercept dalam model o-liier yag kita puya. Residual Sum of square utuk iitial value yag diguaka adalah1.139e-8. Utuk kasus iitial value [4;1;3;1], matrik variasi kovariasi dari peaksir adalah sebagai berikut: 15.13 -.5.5 -.8 ˆ b = 1.e-8* -.5.74.4 -.48.5.4.11 -.54 -.8 -.48 -.54.44 IV.. Iterval Cofidece Utuk Peaksir, 1,, 3 Dega Sigificace Level = 5% Aalisa Tabel 4 Tabel 4: Iterval Cofidece utuk Sigificace level = 5% Iterval Cofidece utuk ilai awal [1,1,1,1] [5.;.1;.1;.5] [4;1;3;1] [4.61 4.61] [4.553 4.557] [5.519 5.598] 1 [1.9981 1.9996] [1.9991.9] [1.9989.81] [1.9881 1.9996] [1.9991.9] [1.9989.81] 3 [.491.51] [.4993.57] [.4991.59] Dari tabel 4 terlihat bahwa, iterval taksira utuk ilai awal [5.;.1;.1;.5] memberika taksira yag palig efisie diatara iterval dega ilai-ilai awal yag lai. IV.3. Meghitug No-Liear Least Square Estimates Yag Memeuhi Kasus Sebagai Berikut 1 = Tabel 5: Taksira parameter dega iitial value [4;3;1] 1 = 3 1 4. 3. 3. 1. 5.18.9796.9796.473 3 5.14.415.415.6114 4 6.47.684.684 -.9464 5 5.153 1.6931 1.6931.81 6 5.35 1.848 1.848.485 7 5.3683 1.5753 1.5753.5853 8 5.5 1.768 1.768.4487
Peggguaa Algoritma Gauss-Newto Utuk Meetuka Sifat-Sifat Peaksir Da Dalam Suatu Model No-Liier Aalisa tabel 5: Dari tabel 5 di atas terlihat bahwa peaksir koverge pada iterasi ke-8 dega Residual Sum of Square adalah 9.84 dega megguaka presisi 1-9. Nilai peaksir 1 ilai peaksir utuk parameter. dalam hal ii adalah IV.4. Meghitug No-Liear Least Square Estimates Yag Memeuhi Kasus Sebagai Berikut 1 = 1/3 Aalisa Tabel 6: Tabel 6: Taksira parameter dega iitial value [4;3;1] 1=1/3 3 1 4. 1. 3. 1. 4.7866 1.369.579.89 3 5.187 6.514.6979.1536 4 6.1918 3.6643.98.79 5 4.567.3838 1.358.4195 Dari tabel 6 di atas terlihat bahwa peaksir koverge pada iterasi ke-5 dega Residual Sum of Square adalah 9.85 dega megguaka presisi 1-9. IV.5. Meghitug o-liear least square estimates yag memeuhi kasus sebagai berikut 1 = da 1 = 1/3 Aalisa Tabel 7: Tabel 7: Taksira parameter dega iitial value [4;3;1] 1=1/3 =1/3 3 1 4. 1. 1. 1. 6.454 1.6664 1.6664.61 3 4.9977 1.84 1.84.549 Dari tabel 7 di atas terlihat bahwa peaksir koverge pada iterasi ke-3 dega Residual Sum of Square adalah.7 dega megguaka presisi 1-9. Secara umum megakibatka peaksir 1 da cukup efisie. IV.6. Selajutya Aka Dihitug Rata-Rata Nilai Peaksir da Dibadigka Dega Nilai Sebearya Yaitu = [5;;;.5] da utuk 1 Sampel da = 1. Utuk beberapa iitial value yag dicoba, diperoleh hasil taksira seperti pada tabel berikut 16
JIMT, Vol. 6, No. 1, MEI 9 : 11 19 Tabel 8: Taksira Da No Iitial value Rata koverge Utuk 1 Sampel (Dega Beberapa Iitial Value) 1 3 1 [1,1,1,1].66 5.856 1.856.1833.3679.579 [5.;.1;.1;.5] 5.4 4.956 1.9997.5.51 3.49e-1 3 [4;3;3;1] 3.79 5.8757 1.975.454.5491 3.34e-4 Aalisa tabel 8: Dari tabel 8 di atas dapat dilihat bahwa, utuk replikasi 1, yag artiya medapatka 1 buah peaksir yag koverge, peaksir tetap kurag efisie. Selai itu dapat dilihat pula bahwa, utuk iitial value yag jauh dega ilai sebearya memberika ilai taksira yag kurag efisie. IV.7 Grafik Batag Utuk Setiap Nilai Peaksir, 1,, 3 Da Dalam hal ii iitial value yag diambil adalah disekitar ilai da da [6;3;3;1] Tabel 9 : Distribusi Empirik utuk Peaksir da dega dua iitial value INITIAL VALUE [5.;.1;.1;.5] [6;3;3;1] Utuk 1 Sampel. yaitu [5.;.1;.1;.5] 9 8 7 6 14 1 1 5 4 3 8 6 4 1 1 3 4 5 6 7 8 9 1 3 4 5 6 7 8 9 Distribusi empirik utuk taksira 8 7 6 5 4 3 1 1.9975 1.998 1.9985 1.999 1.9995.5.1.15. 5 45 4 35 3 5 15 1 5 1.85 1.9 1.95.5.1 Distribusi empirik utuk 1 taksira 17
Peggguaa Algoritma Gauss-Newto Utuk Meetuka Sifat-Sifat Peaksir Da Dalam Suatu Model No-Liier 8 7 6 5 4 3 1 1.997 1.998 1.999.1..3.4 5 45 4 35 3 5 15 1 5 1.7 1.8 1.9.1..3.4 Distribusi empirik utuk taksira 8 7 6 5 4 3 1.4997.4998.4999.5.51.5.53.54.55.56 5 45 4 35 3 5 15 1 5..3.4.5.6.7.8.9 Distribusi empirik utuk 3 taksira 8 8 7 7 6 6 5 5 4 4 3 1 3 1 - -1.5-1 -.5.5 1 1.5.5 Distribusi empirik utuk taksira Dari tabel 9 diatas, dapat dilihat bahwa, utuk peaksir ilai taksiraya sagat bervariasi. Ii disebabka karea taksira tidak koverge ke ilai yag sebearya. Semetara itu, utuk peaksir 1,, da 3, serta ilai taksiraya efisie da koverge ke ilai sebearya, sehigga diperoleh diagram seperti terlihat di tabel di atas, dimaa ilai-ilai taksiraya meumpuk di ilai sebearya. V. KESIMPULAN 1. Peaksir kurag efisie, karea merupaka itercept (aditif) dalam model oliier yag diguaka. x 1-11 -1.5-1 -.5.5 1 1.5 x 1-3 18
JIMT, Vol. 6, No. 1, MEI 9 : 11 19 VI.. Secara umum, jika iitial value lebih dekat dega ilai sebearya, jumlah iterasi utuk koverge semaki sedikit. 3. Utuk model oliier dega substitusi parameter- parameterya maka peaksirya tidak berubah secara sigificat. Dalam kasus seperti ii, peaksir tetap kurag efisie, karea selalu mucul sebagai itercept dalam model. 4. Utuk peaksir 1,, da 3, serta ilai taksiraya koverge ke ilai sebearya, sehigga diperoleh diagram seperti di atas, dimaa ilai-ilai taksiraya meumpuk di ilai sebearya. REFERENSI [1] Draper N. R. ad Smith H., 1998, Applied Regressio Aalysis, third editio. Joh Wiley & Sos, New York. [] Duae H., Bruce L., 1998, Masterig Matlab 5: A Comprehesive Tutorial ad Referece, Pretice Hall, New Jersey. [3] Judge, G.G., et.al., 1988, Itroductio To The Theory Ad Practice of Ecoometrics, secod editio, Joh Wiley & Sos, New York. [4] Muirhead, R.J., 198, Aspects of Multivariate Statistical Theory, Joh Wiley & Sos, New York. 19