9 Oktober 2013
Topik Inferensi dalam Regresi Nonlinear Contoh Kasus
Regresi linear berganda secara umum sesuai untuk kebanyakan kasus. Namun, banyak kasus peubah respons dan bebas berhubungan melalui fungsi nonlinear. Banyak terjadi dalam bidang kimia, biologi, kependudukan, dll. Contoh: model regresi eksponensial Y i = γ 0 exp(γ 1 X i ) + ε i (1) dengan γ 0 dan γ 1 adalah parameter, X i konstanta ang diketahui dan ε i saling bebas N(0, σ 2 ).
Contoh: model regresi logistik Y i = dengan galat ε i saling bebas N(0, σ 2 ). γ 0 1 + γ 1 exp(γ 2 X i ) + ε i (2) Apa yang bisa kita amati dari kedua contoh di atas?
Bagaimana memodelkan regresi nonlinear? Idealnya berdasarkan pertimbangan teoretis (theoretical consideration). Artinya berdasarkan pengetahuan secara kimiawi, fisika, atau biologi. Berdasarkan pengetahuan ini dibuat model mekanistik (mechanistic model). Contoh: model pertumbuhan Gompertz Y i = β 1 exp( β 2 exp( β 3 X i )) + ε (3) atau model pertumbuhan Weibull Y i = β 1 β 2 exp( β 3 X β 4 i ) + ε. (4)
Bagaimana memodelkan regresi nonlinear? Dalam sejumlah aplikasi model harapan respons berupa solusi dari persamaan diferensial. Model ini sering disebut model kompartemen (compartment model). Contoh: model kinetika tingkat kedua yang dinyatakan oleh da t dt = ka 2 t (5) dengan solusi A t = A 0 /(1 + A 0 tk) dan k = C 1 exp( E a /RT ). Selanjutnya diperoleh model regresi nonlinear berbentuk A t = β 1 1 + β 2 t exp( β 3 /T ) + ε (6) dengan β 1 = A 0, β 2 = C 1 A 0, dan β 3 = E a /R.
Model umum Dari urain di atas secara umum dapat dituliskan model regresi nonlinear: Y = f (X, β) + ε (7) dengan β adalah vektor parameter yang tidak diketahui berdimensi p 1 dan ε adalah galat acak yang tidak berkorelasi dengan E(ε) = 0 dan var(ε) = σ 2. Fungsi harapan E(Y ) = E[f (X, β) + ε] = f (X, β). (8)
Misalkan terdapat model Y = β 1 exp(β 2 )X ε. Fungsi harapannya E(Y ) = β 1 exp(β 2 )X ε (9) Ambil logaritma pada kedua sisi log E(Y ) = log β 1 + β 2 )X + log ε = α 0 + α 2 X + ε (10) Selanjutnya? Jika ε N dengan varians konstan semua prosedur regresi linear yang telah dipelajari bisa digunakan!
Model regresi nonlinear yang bisa distransformasikan menjadi model regresi linear disebut linear secara intrinsik (intrinsically linear). Bagaimana kalau kita memiliki model Y = β 1 exp(β 2 X ) + ε? (11)
Bagaimana estimasi parameter? Misalkan model regresi nonlinear: Fungsi kuadrat terkecil Y i = f (X i, β) + ε i, i = 1, 2,..., n. (12) S(β) = n (Y i f (X i, β)) 2. (13) i=1 Untuk mencari β yang meminimumkan kita akan punya persamaan normal sebanyak p: n i=1 (Y i f (X i, β)) 2 [ f (Xi, β) β j ] β=b = 0. (14)
Secara umum fungsi harapannya adalah juga fungsi nonlinear! Contoh misalkan model regresi Hitung normal kuadrat terkecilnya! Y = β 1 exp(β 2 X ) + ε (15)
Metode lain adalah metode kemungkinan maksimum. Jika galat berdistribusi normal dan saling bebas dengan rata-rata nol dan varians σ 2 maka fungsi likelihoodnya adalah L(β, σ 2 ) = 1 n/2 [ 2πσ 2 exp 1 σ 2 dan log-likelihoodnya n ] (Y i f (X i, β)) 2 i=1 (16) ln L(β, σ 2 ) = n 2 ln(2πσ2 1 σ 2 n (Y i f (X i, β)) 2 (17) i=1
Selanjutnya diperoleh fungsi skor (scor function): 1 σ 2 n i=1 Apabila µ i = f (X i, β) dan (Y i f (X i, β)) 2 [ f (Xi, β) β j ] β=b = 0. (18) D ij = f (X i, β) β j (19) kita dapat tuliskan dalam bentuk matriks persamaan skor di atas sebagai: 1 σ 2 DT (Y µ i ) = 0 (20)
Ada pertanyaan?