Analisis Regresi Nonlinear (I)

Transkripsi

1 9 Oktober 2013

2 Topik Inferensi dalam Regresi Nonlinear Contoh Kasus

3 Regresi linear berganda secara umum sesuai untuk kebanyakan kasus. Namun, banyak kasus peubah respons dan bebas berhubungan melalui fungsi nonlinear. Banyak terjadi dalam bidang kimia, biologi, kependudukan, dll. Contoh: model regresi eksponensial Y i = γ 0 exp(γ 1 X i ) + ε i (1) dengan γ 0 dan γ 1 adalah parameter, X i konstanta ang diketahui dan ε i saling bebas N(0, σ 2 ).

4 Contoh: model regresi logistik Y i = dengan galat ε i saling bebas N(0, σ 2 ). γ γ 1 exp(γ 2 X i ) + ε i (2) Apa yang bisa kita amati dari kedua contoh di atas?

5 Bagaimana memodelkan regresi nonlinear? Idealnya berdasarkan pertimbangan teoretis (theoretical consideration). Artinya berdasarkan pengetahuan secara kimiawi, fisika, atau biologi. Berdasarkan pengetahuan ini dibuat model mekanistik (mechanistic model). Contoh: model pertumbuhan Gompertz Y i = β 1 exp( β 2 exp( β 3 X i )) + ε (3) atau model pertumbuhan Weibull Y i = β 1 β 2 exp( β 3 X β 4 i ) + ε. (4)

6 Bagaimana memodelkan regresi nonlinear? Dalam sejumlah aplikasi model harapan respons berupa solusi dari persamaan diferensial. Model ini sering disebut model kompartemen (compartment model). Contoh: model kinetika tingkat kedua yang dinyatakan oleh da t dt = ka 2 t (5) dengan solusi A t = A 0 /(1 + A 0 tk) dan k = C 1 exp( E a /RT ). Selanjutnya diperoleh model regresi nonlinear berbentuk A t = β β 2 t exp( β 3 /T ) + ε (6) dengan β 1 = A 0, β 2 = C 1 A 0, dan β 3 = E a /R.

7 Model umum Dari urain di atas secara umum dapat dituliskan model regresi nonlinear: Y = f (X, β) + ε (7) dengan β adalah vektor parameter yang tidak diketahui berdimensi p 1 dan ε adalah galat acak yang tidak berkorelasi dengan E(ε) = 0 dan var(ε) = σ 2. Fungsi harapan E(Y ) = E[f (X, β) + ε] = f (X, β). (8)

8 Misalkan terdapat model Y = β 1 exp(β 2 )X ε. Fungsi harapannya E(Y ) = β 1 exp(β 2 )X ε (9) Ambil logaritma pada kedua sisi log E(Y ) = log β 1 + β 2 )X + log ε = α 0 + α 2 X + ε (10) Selanjutnya? Jika ε N dengan varians konstan semua prosedur regresi linear yang telah dipelajari bisa digunakan!

9 Model regresi nonlinear yang bisa distransformasikan menjadi model regresi linear disebut linear secara intrinsik (intrinsically linear). Bagaimana kalau kita memiliki model Y = β 1 exp(β 2 X ) + ε? (11)

10 Bagaimana estimasi parameter? Misalkan model regresi nonlinear: Fungsi kuadrat terkecil Y i = f (X i, β) + ε i, i = 1, 2,..., n. (12) S(β) = n (Y i f (X i, β)) 2. (13) i=1 Untuk mencari β yang meminimumkan kita akan punya persamaan normal sebanyak p: n i=1 (Y i f (X i, β)) 2 [ f (Xi, β) β j ] β=b = 0. (14)

11 Secara umum fungsi harapannya adalah juga fungsi nonlinear! Contoh misalkan model regresi Hitung normal kuadrat terkecilnya! Y = β 1 exp(β 2 X ) + ε (15)

12 Metode lain adalah metode kemungkinan maksimum. Jika galat berdistribusi normal dan saling bebas dengan rata-rata nol dan varians σ 2 maka fungsi likelihoodnya adalah L(β, σ 2 ) = 1 n/2 [ 2πσ 2 exp 1 σ 2 dan log-likelihoodnya n ] (Y i f (X i, β)) 2 i=1 (16) ln L(β, σ 2 ) = n 2 ln(2πσ2 1 σ 2 n (Y i f (X i, β)) 2 (17) i=1

13 Selanjutnya diperoleh fungsi skor (scor function): 1 σ 2 n i=1 Apabila µ i = f (X i, β) dan (Y i f (X i, β)) 2 [ f (Xi, β) β j ] β=b = 0. (18) D ij = f (X i, β) β j (19) kita dapat tuliskan dalam bentuk matriks persamaan skor di atas sebagai: 1 σ 2 DT (Y µ i ) = 0 (20)

14 Ada pertanyaan?