3.7 Further Results and Technical Notes. Yenni Angraini-G

Transkripsi

1 3.7 Further Results and Technical Notes Yenni Angraini-G

2 Outline Nonlinear Gauss-Seidel Algorithm (NLGSA) Sifat asimtotik dari penduga Penalized Generalized Weighted Least Squares (PGWLS) Mean Square Error (MSE) dari Empirical Best Predictor Mean Square Predictor Error (MSPE) dari Model-Assisted EBP

3 Nonlinear Gauss-Seidel Algorithm (NLGSA) Digunakan untuk menghitung Maximum Posterior Estimators (MPE)--- Jiang (2000) Pengembangan dari Gauss-Seidel Algorithm dalam analisis numerik untuk menyelesaikan persamaan linear yang dimensinya besar Menyelesaikan l J α = 0 bersyarat β

4 Nonlinear Gauss-Seidel Algorithm (NLGSA) Misalkan pengaruh acak saling bebas (dan menyebar normal). Dengan kata lain matriks G, matriks koragam dari α = α k 1 k m adalah matriks diagonal (G = diag(d 1,, d m )). Selanjutnya diasumsikan juga fungsi penghubung kanonik ξ i = η i. Elemen matriks rancangan pengaruh acak, Z, dituliskan sebagai z i = z ik 1 k m sehingga l J = 0 dapat dituliskan sebagai α α k d k + n i=1 z ik a i (φ) b x i β + m l=1 x il α l = n i=1 z ik a i (φ) y i, 1 k m

5 Misalkan f k (α 1,, α k 1, α k+1,, α m ) menyatakan solusi unik dari λ untuk persamaan berikut ini : λ d k + n i=1 z ik a i (φ) b x i β + z ik λ + l k z il α l = n i=1 z ik a i (φ) y i Algoritma rekursif ditandai dengan α k (t) = fk α t t 1,, α k 1, α t 1 t 1 k 1,, α m, Untuk t = 1,2,, atau ekuivalen dengan 1 k m α k (t) d k + n i=1 1 k m z ik a i (φ) b x i β + k l=1 z il α l (t) + m l=k+1 z il α l (t 1) = n i=1 z ik a i (φ) y i,

6 Jiang (2000b) membuktikan teorema berikut ini terkait dengan kekonvergenan dari NLGSA atau dikenal dengan Global Convergence of NLGSA Theorem : Untuk β yang tetap dan sembarang nilai awal, maka NLGSA konvergen ke suatu solusi yang unik α = α(β) pada persamaan g μ i = η i = x i β + z i α.

7 Sifat asimtotik dari penduga Penalized Generalized Weighted Least Squares (PGWLS) Teori asimtotik terkait pengaruh acak sangat berbeda dengan paremeter tetap. Hal ini disebabkan oleh beberapa hal : 1. Pengaruh acak individu biasanya tidak dapat diidentifikasi 2. Jumlah pengaruh acak (m) dimungkinkan meningkat dengan meningkatnya ukuran contoh

8 Sifat asimtotik dari penduga Penalized Generalized Weighted Least Squares (PGWLS) Penduga Penalized Generalized Weighted Least Squares (PGWLS) dari γ = β, α didefenisikan sebagai maximizer dari l P γ = n i=1 dimana λ adalah konstanta positif. w i y i η i b i (η i ) λ 2 P Aα 2 Penduga PGWLS didapatkan dengan menyelsaikan l P γ = 0

9 Sifat asimtotik dari penduga Penalized Generalized Weighted Least Squares (PGWLS) Untuk mengekplorasi lebih lanjut sifat asimtotik dari penduga PGWLS, perlu diasumsikan bahwa m meningkat sangat lambat dari n ( m n 0). Teknik dasar yang digunakan adalah penalization. Tujuan dari penalization adalah agar pengaruh individu dapat diidentifikasi Mengacu ke persamaan l P γ = n i=1 w i y i η i b i (η i ) λ P 2 Aα 2, salah satu alasan dibutuhnya suatu penalizer (P A ) adalah karena l C γ = n i=1 w i y i η i b i (η i ) tergantung pada γ = β, α hanya melalui η = Xβ + Zα. Namun γ tidak dapat diidentifikasi melalui η sehingga akan banyak vektor γ yang bersesuaian dengan η yang sama. Perlu dilakukan pembatasan ruang S = γ: P A α = 0, akibatnya γ dapat ditentukan unik oleh η

10 Sifat asimtotik dari penduga Penalized Generalized Weighted Least Squares (PGWLS) Ada tahapan yang harus dilakukan untuk mengekplorasi sifat asimtotik dari penduga PGWLS, pertama adalah bagaimana cara pemilihan matriks P A pada l P γ = n i=1 w i y i η i b i (η i ) λ P 2 Aα 2. Ketika matriks P A dapat dipilih dengan tepat maka penduga PGWLS dari pengaruh tetap dan acak akan konsisten.

11 MSE dari EBP Suatu prediksi terbaik ζ adalah prediksi yang memiliki Mean Square Error (MSE) paling minimum. Prediksi terbaik tergantung pada y S dan ψ, ζ = u(y S, ψ) Biasanya ψ tidak diketahui, dan diduga dengan ψ Sehingga ζ = u(y S, ψ) dan disebut sebagai prediksi terbaik empirik (EBP)

12 Aproksimasi MSE dari EBP Diasumsikan parameter dispersi φ diketahui MSE dari EBP : MSE ζ = MSE ζ + E ζ ζ 2 = b ψ + E( ζ ζ) 2, b ψ = b(θ) MSE dari BP : b θ = MSE ζ = E ζ 2 E ζ 2 = E ζ β, α S 2 E u(y S, θ) 2 Aproksimasi ζ ζ dimana ζ = u y S, θ, ζ = u y S, θ ζ ζ = u y S, θ u y S, θ = u θ θ θ + o(m 1/2 ) Sehingga E ζ ζ 2 = m 1 E u θ m θ θ 2 + o m 1

13 Aproksimasi MSE dari EBP Asumsi yang digunakan untuk menghitung aproksimasi MSE dari EBP: Mengasumsikan θ adalah penduga yang diperoleh berdasarkan pada y S, sebagai konsekuensinya θ adalah bebas terhadap Y S Misalkan θ = θ S maka E u θ m θ S θ 2 = E E u θ m θ S θ 2 ys = w w=ys = E u w, θ θ V S θ θ u w, θ w=ys = E u ys, θ θ V S θ u ys, θ θ = e S (θ) dimana V S θ = me( θ S θ)( θ S θ) Dengan memisalkan ζ 1 = u(ys, θ S ) maka akan diperoleh MSE ζ 1 = b θ + m 1 e S θ + o m 1

14 Aproksimasi MSE dari EBP Misalkan θ adalah penduga yang diperoleh berdasarkan semua data. Diasumsikan θ S memenuhi θ S θ = O(m 1 2) dan θ θ S = o(m 1 2). Sehingga aproksimasi MSE adalah sebagai berikut: 2 MSE ζ = E ζ ζ 1 + 2E ζ ζ 1 ζ 1 ζ + E ζ 1 ζ 2 = MSE ζ 1 + o m 1 = b θ + m 1 e θ + o m 1 dimana e θ = e S θ, V S θ digantikan V(θ) = me( θ θ)( θ θ)

15 Penduga MSE dari EBP θ pada e θ dapat digantikan dengan θ, namun θ pada b θ tidak dapat digantikan karena bias E b θ b θ nol. Namun jika θ θ = O(m 1 2) dan E θ θ deret Taylor akan diperoleh = O(m 1 2) atau dengan kata lain belum tentu konvergen ke b θ = b θ + b θ θ θ θ θ 2 b θ θ = O(m 1 ) dengan menggunakan θ θ + o m 1 E b θ = E b θ + b θ θ θ θ θ 2 b θ θ θ θ + o m 1 = b θ + m 1 b θ me θ θ E m θ θ 2 b θ θ m θ θ + o m 1 E b θ = b θ + m 1 B θ + o m 1 B(θ)

16 Penduga MSE dari EBP Jika pendugaan bagi MSE adalah sebagai berikut : MSE ζ = b θ + m 1 e θ B θ Dengan menggunakan beberapa persamaan diatas, sehingga dapat ditunjukkan persamaan berikut ini terpenuhi E MSE ζ MSE ζ = o m 1

17 Aproksimasi MSPE dari Model-Assisted EBP Sifat penting dari Model-Assisted EBP konsisten MSPE sama seperti MSE namun MSPE adalah suatu arbitary predictor dari Y i atau dilambangkan dengan ζ i. Dimana Y i adalah rata-rata dari populasi yang terbatas. Populasi terbatas ini dibagi dalam m domain dan N i adalah ukuran populasi dari domain ke-i sehingga MSPE ζ i = E( ζ i Y i ) 2 ζ i Y i 2 = ζ i ζ i 2 + OP (N i 12 ) 2 Sehingga MSPE ζ i akan diaproksimasi melalui E ζ i ζ i dengan asumsi ukuran populasi N i lebih besar dari m

18 Aproksimasi MSPE dari Model-Assisted EBP 2 MSPE ζ i = MSPE ζ + E ζ i ζ i + 2E ζ i ζ i ζ i ζ i + o(m 1 ) 2 n i w ije y ij v i MSPE ζ = E ζ i 2 E ζ i 2 = E j=1 Seperti yang diperoleh pada MSE dari EBP, E ζ i ζ i 2 = ei θ m 1 + o m 1, dimana e i θ = E + E u i 2 y iw, θ b i (θ) dengan V θ = me( θ θ)( θ θ) dan E ζ i ζ i ζ i ζ i = g i θ m 1 + o(m 1 ) Sehingga MSPE ζ i = b i θ + e i θ + 2g i θ m 1 + o(m 1 ) u i θ V(θ) u i θ

19 Penduga MSPE dari Model-Assisted EBP Dimana MSPE ζ i = b i θ + e i θ + 2g i θ B i (θ) m 1 B i θ = m b i θ E θ θ E θ θ 2 b i θ θ θ θ Selajutnya akan diperoleh E MSPE ζ i MSPE ζ i = o(m 1 )

20 Butir penting terkait GLMM sesuai dengan pemahaman saya GLMM adalah perluasan dari model GLM dimana peubah responnya harus mengikuti sebaran keluarga eksponensial sedangkan peubah bebasnya terdiri dari peubah tetap dan acak Sama halnya seperti pada model campuran, penentuan pengaruh tetap dan pengaruh acak yang masuk ke dalam model merupakan hal penting yang perlu diperhatikan Sama halnya seperti GLM, GLMM memiliki tiga komponen yaitu peubah tak bebas Y (komponen acak) yang mengikuti sebaran tertentu yang berasal dari keluarga eksponential (Ballinger 2004), komponen sistematik yang terdiri dari beberapa peubah kovariat X yang dapat dikombinasikan dalam bentuk fungsi linier serta fungsi hubung yang menghubungkan komponen acak dan komponen sistematik Fungsi likelihood pada GLMM Metode prediksi bagi pengaruh acak pada model GLMM

21