TINJAUAN PUSTAKA Kalibrasi Ganda Regresi Kuadrat Terkecil Parsial ( Partial Least Squares/PLS) 1. Model PLS

Transkripsi

1 TINJAUAN PUSTAKA Kalibrasi Ganda Kalibrasi adalah suatu fungsi matematik dengan data empirik dan pengetahuan untuk menduga informasi pada Y yang tidak diketahui berdasarkan informasi pada X yang tersedia (Martens dan Naes, 1989). Dalam bidang kimia, model kalibrasi merupakan suatu fungsi hubungan antara absorban (X) dari spectrometer dengan konsentrasi (Y) larutan unsur atau senyawa yang akan dianalisis (Nur dan Adijuwana, 1989). Dengan kalibrasi, konsentrasi larutan contoh dapat diketahui berdasarkan absorbannya. Pendugaan model kalibrasi tergantung pada jenis spektrometer yang digunakan. Spektrometer UV-VIS menghasilkan spektrum yang berbentuk satu puncak absorban, sehingga model kalibrasinya adalah model peubah tunggal. Spektrometer NIR (Near Infrared) menghasilkan spektrum dengan banyak puncak absorban, sehingga terbentuk suatu model kalibrasi peubah ganda. Model kalibrasi suatu senyawa lebih tepat menggunakan spektrum dengan banyak puncak daripada satu puncak absorban (Nur dan Adijuwana, 1989). Pada pendugaan model kalibrasi ganda sering timbul masalah kolinieritas diantara peubah absorban (Naes, 1985), sehingga metode baku seperti Metode Kuadrat Terkecil tidak dapat digunakan. Salah satu metode yang mampu mengatasi masalah kolinieritas diantara peubah absorban adalah Regresi Kuadrat Terkecil Parsial (PLS) (Martens dan Naes, 1989). Regresi Kuadrat Terkecil Parsial (Partial Least Squares/PLS) 1. Model PLS PLS adalah salah satu metode di kemometrik, dengan proses pembentukan model melalui struktur keragaman peubah bebas (X) dan struktur keragaman peubah tak bebas (Y) yang dilakukan secara iterasi. Menurut Skokes dan Rodriguez (1998), prosedur PLS mencari kombinasi linier dari peubah bebas (yang disebut faktor atau komponen) yang menjelaskan secara optimal keragaman peubah bebas ataupun keragaman peubah tak bebas. Proses penentuan model dilakukan secara iteratif dimana struktur ragam dalam Y mempengaruhi perhitungan komponen kombinasi linier dalam X dan sebaliknya struktur ragam

2 6 dalam X berpengaruh terhadap kombinasi linier dalam Y. Pemodelan dilakukan tanpa asumsi sebaran (Wigena dan Aunuddin, 1997). PLS mendekomposisikan matrik X dalam bentuk faktor bilinier : X = t 1 p 1 ' + t 2 p 2 ' + + t A p A ' + E A dimana t a adalah vektor skor yang berdimensi n, t a saling ortogonal di ruang R n. Sedangkan p a adalah vektor loading yang berdimensi k, saling ortogonal di ruang R k. Matriks E A adalah matriks sisaan yang berukuran n x k. Dasar dari PLS adalah hubungan antara X dan Y melalui peubah internal t sehingga : Y = t 1 q 1 + t 2 q t A q A + f A dengan q a, a = 1,2,,A skalar dan f A vektor sisaan. Matriks X dengan vektor-vektor kolomnya x 1,x 2,,x k masing-masing berdimensi n seperti halnya dengan vektor Y, yang berkaitan dengan n buah pengamatan. Vektor skor t a, vektor loading p a maupun skalar q a diperoleh secara iteratif. 2. Algoritma PLS Salah satu algoritma pendugaan regresi kuadrat terkecil parsial adalah SIMPLS (Straightforward Implementation Partial Least Square). Algoritma SIMPLS ini dikemukakan oleh De Jong pada tahun 1993(Norliza, 2006). Algoritma ini didasarkan pada matriks peragam empiris antara peubah tak bebas dan peubah bebas pada regresi linier. Metode SIMPLS mengasumsikan peubah-peubah X dan Y dihubungkan dalam model bilinier seperti berikut ini : (1) (2) Dalam model tersebut, dan merupakan rata-rata dari peubah X dan Y. t i adalah skor berdimensi k, dengan k < p dan i = 1,,n. P adalah matriks loading X berdimensi pxk, sedangkan sisaan dalam model ini dinotasikan dengan g i dan f i. Matriks A direpresentasikan sebagai matriks koefisien regresi (2) berdimensi qxk. Berdasarkan struktur model bilinier (1) dan (2), algoritma SIMPLS adalah sebagai berikut (Norliza, 2006) : 1. Pusatkan data peubah dan

3 7 2. Untuk setiap a = 1,2,,k vektor bobot SIMPLS r a dan q a, didefinisikan sebagai vektor yang memaksimumkan, dimana adalah matriks peragam antara peubah X dan Y, dengan normalisasi r a dan q a terdapat restriksi bahwa komponen tidak berkorelasi (ortogonal) agar diperoleh solusi lebih dari satu dan menghindari multikolinieritas antara peubah-peubah bebas. 3. Hitung skor SIMPLS: dengan skor pertama SIMPLS yaitu : 4. Periksa restriksi: dimana komponen ortogonal agar diperoleh solusi lebih dari satu dan menghindari multikolinieritas antara peubah-peubah bebas. 5. Hitung loading-x yaitu p j yang menggambarkan hubungan linier antara peubah X dan komponen ke-j. dimana merupakan matriks ragam peragam dari peubah X dan j = 1, k. 6. Langkah 5 terpenuhi ketika untuk a > j. 7. Hitung sebuah basis ortonormal {v 1,,v a-1 } terhadap loading-x {p 1,,p a-1 } untuk 2 a k Basis,

4 8 8. Hitung matriks peragam silang dan, untuk 2 a k 9. Tentukan vektor bobot SIMPLS r a dan q a, untuk 2 a k Vektor-vektor bobot SIMPLS yang pertama, q 1 adalah vektor ciri dari S yx S xy dan r 1 adalah vektor ciri dari S xy S yx. Sedangkan sepasang vektor bobot SIMPLS (r a,q a ) dengan 2 a k adalah vektor ciri dan. 10. Hitung skor SIMPLS berikutnya untuk 2 a k 11. Ulangi langkah 3 untuk 2 a k 12. Regresikan skor SIMPLS dengan peubah tak bebas. Model regresi secara matematis diberikan seperti berikut : Penduga koefisien regresi diperoleh dengan menggunakan metode kuadrat terkecil. 13. Hitung pendugaan algoritma SIMPLS dimana S y dan S t merupakan matriks peragam peubah y dan t 14. Hitung koefisien regresi SIMPLS terhadap peubah asli (penduga paremeter untuk regresi linier y i = β 0 + q B' p x i + e i ) Proses untuk menentukan banyaknya komponen (peubah laten) yang diperlukan (k) digunakan validasi silang. Pada setiap iterasi kumpulan data dibagi ke dalam M kelompok. Sebuah kelompok dihapus dan dilakukan kalibrasi terhadap (M-1) kelompok sisanya. Kemudian dilakukan pendugaan terhadap titik data dalam kelompok yang dihapus. Jumlah kuadrat dari selisih Y dan (dugaan y) dari titik-titik data yang dihapus disebut PRESS (Prediction Sum of Squares). Langkah berikutnya kelompok data ke-dua dihapus, lakukan seperti langkah

5 9 sebelumnya, jumlah kuadrat selisih Y dan dalam langkah ke-dua ini ditambahkan pada PRESS sebelumnya, demikian seterusnya sampai kelompok data ke-m dihapus (Wold et al. 1984). Banyaknya komponen k sesuai dengan iterasi yang memberikan PRESS minimal (Geladi dan Kowalski, 1986). Regresi Penduga-M Model analisis regresi berganda yang melibatkan p peubah bebas adalah y = Xβ + ε (3) dengan y adalah vektor berukuran n x 1 yang unsur-unsurnya merupakan nilainilai amatan peubah tak bebas. X adalah matriks berukuran n x p yang unsurunsurnya merupakan peubah bebas, β adalah vektor berukuran p x 1 yang elemenelemennya berupa parameter regresi yang tidak diketahui dan ε adalah vektor galat berukuran n x 1, dengan asumsi bahwa galat menyebar normal dengan E(ε) = 0 dan Var(ε) = Iσ 2 untuk i = 1,2,,n. Salah satu metode yang digunakan untuk menduga parameter regresi dalam analisis regresi berganda adalah Metode Kuadrat Terkecil (OLS). Konsep dasar dari OLS adalah menduga parameter regresi dengan meminimumkan kuadrat sisaan Akan tetapi, jika galat menyebar tidak normal, sekalipun sebarannya mirip dengan normal namun memiliki ekor lebih panjang, maka OLS tidak tepat digunakan untuk menduga parameter regresi. Masalah ini, dapat diatasi dengan menggunakan metode pendugaan yang bersifat kekar yaitu penduga-m. Penduga-M diperoleh dengan mengganti fungsi kuadrat dalam (4) dengan fungsi kerugian (loss function) ρ sebagai berikut : dengan fungsi kerugian ρ simetrik dan merupakan fungsi tidak turun. Dengan mengambil ρ(u) = u 2, untuk u sembarang fungsi, maka kriteria meminimumkan akan sama dengan persamaan (4), sehingga penduga kuadrat terkecil tampak

6 10 sebagai kasus khusus. Untuk mengurangi pengaruh sisaan yang besar dipilih fungsi kerugian ρ tertentu sehingga menghasilkan penduga yang lebih kekar dari kuadrat terkecil. Misalkan r i = y i - x i β merupakan sisaan model dan w y adalah bobot dari sisaan yang didefinisikan sebagai berikut: Persamaan (5) dapat ditulis kembali sebagai Pendugaan koefisien regresi dengan penduga-m dilakukan dengan metode pendugaan kuadrat terkecil dengan pembobot yang dilakukan secara iteratif (Lu 2004). Nilai w y akan berubah pada tiap iterasinya sehingga diperoleh. Penduga-M hanya resisten terhadap pencilan sisaan. Oleh karena itu, agar resisten terhadap tipe pencilan lain yaitu pengamatan berpengaruh (leverage point) maka bobot pada persamaan (6) akan dikalikan dengan bobot pengamatan berpengaruh w x (Serneels et al. 2005), yaitu : Pengamatan berpengaruh adalah pengamatan yang menyebabkan terjadinya perubahan koefisien regresi bila pengamatan tersebut disisihkan dari pemodelan data, sehingga suatu pencilan belum tentu menjadi pengamatan berpengaruh. Pengamatan berpengaruh dapat didiagnosa berdasarkan nilai leverage, yakni pencilan ditinjau dari nilai-nilai peubah bebas. Semakin besar nilai leverage-nya, pengamatan tersebut semakin berpotensi berpengaruh dalam pendugaan parameter regresi. Pengamatan berpengaruh (pengamatan peubah bebas) yang berada dekat dengan pusat data akan diberi bobot w x mendekati atau sama dengan satu, dan sebaliknya untuk data yang jauh dari pusatnya akan diboboti mendekati nol. Dengan demikian penduga parameter pada persamaan (8) akan resisten terhadap pencilan sisaan dan pengamatan berpengaruh. Penduga ini selanjutnya disebut Penduga-M kekar.

7 11 Regresi-M Kekar Parsial (Partial Robust Regression-M/PRM) Jika terdapat masalah multikolinieritas pada kalibrasi ganda, maka model yang sesuai adalah model Regresi Kuadrat Terkecil Parsial (Serneels et al. 2005). Idenya adalah bahwa cukup meregresikan peubah bebas pada jumlah peubah laten k terbatas. Nilai peubah laten ini ditempatkan bersama dalam matriks skor T n,k, yang mempunyai vektor t i sebagai kolom, dengan 1 i n. Model regresi laten diberikan sebagai berikut: dengan mengasumsikan bahwa Y dan X telah dipusatkan. Karena dimensi A rendah, yakni k, vektor A dapat diduga sama dengan sebelumnya yaitu dengan meregresikan peubah bebas terhadap peubah laten dengan bantuan penduga-m kekar. Perbedaan utamanya adalah bahwa bobot w y dihitung dari sisaan, yaitu dan bobot w x untuk pengamatan berpengaruh akan dihitung dari skor t i, sebagai ganti dari peubah bebas asli. Pembobot yang dibutuhkan agar resisten terhadap pencilan sisaan dan pengamatan berpengaruh, adalah : w i = w y *w x atau w i = min (w y,w x ) dan menghasilkan penduga yang disebut dengan Penduga-M Kekar Parsial. Selanjutnya adalah untuk memperoleh matriks T n,k yang tidak dapat diamati secara langsung. Matriks T n,k diperoleh dengan menggunakan algoritma SIMPLS. Sewaktu dihasilkan, maka akhir pendugaan bagi β adalah. PLS tampak sebagai kasus khusus jika semua bobot w i yang diambil sama, sehingga menghasilkan penduga tak kekar. Dengan menganggap bahwa bobot telah ditetapkan, maka tidak akan sulit untuk mendapatkan yang merupakan penduga PLS yang dihitung dari amatan berbobot. 1) Beberapa fungsi pembobot yang dapat digunakan, antara lain : 1, untuk, untuk

8 12 w y u Gambar 1. Fungsi Pembobot Penduga-M Huber fungsi pembobot f disebut fungsi pembobot Huber dan konstanta c disebut tuning constant dan u adalah pengukur simpangan relatif dari Huber. 2) w y u Gambar 2. Fungsi Pembobot Penduga-M Fair fungsi pembobot f disebut fungsi pembobot Fair, adalah penduga skala sisaan, c disebut tuning constant dan u adalah pengukur simpangan relatif dari Fair. Cummins dan Andrews (1995) telah melakukan kajian bahwa penduga-m Fair akan efektif digunakan ketika c = 4, penduga-m Huber akan efektif digunakan ketika c = (Kuzmic et al. 2004) dan sebagai pembanding akan digunakan c = 2. Pengukur simpangan relatif u pada persamaan (10) dan (11) dihitung dari standar sisaan (standardized residuals) yaitu sisaan dibagi dengan penduga skala agar prosedur regresi mempunyai skala ragam yang sama (scale equivariant). Salah satu penduga skala yang paling kekar dan sederhana adalah MAD (Median Absoblute Deviation) yang diperkenalkan oleh Hampel pada tahun MAD dapat dihitung sebagai berikut : A

9 13 Bobot w x setelah dilakukan penskalaan setiap vektor skor t i dihitung sebagai berikut : dimana merupakan norm vektor dan pembobot f sama seperti persamaan (10) dan (11). T merupakan median-l 1 yang dihitung dari vektor skor {t 1,,t n }, yaitu penduga kekar dari pusat data awan dari vektor skor berdimensih. Median-L 1 merupakan median contoh berganda, juga disebut spatial median. Implementasi Langsung Kuadrat Terkecil Partial M Kekar (Robust Straightforward Implementation Partial Least Square-M/RSIMPLS-M) Kajian mengenai RSIMPLS-M terdiri dari Analisis Komponen Utama Kekar (Robust Principal Component Analysis/ROBPCA) dengan menggabungkan konsep projection pursuit (PP) dengan penduga ragam kekar, yaitu Determinan Peragam Minimum (Minimum Covariance Determinant, MCD) (Ismah, 2010). MCD merupakan penduga yang sangat kekar untuk menduga parameter nilai tengah dan matriks peragam dengan konsep menentukan subhimpunan yang memiliki nilai determinan peragam minimum. Dengan kata lain, MCD bertujuan untuk mendapatkan h pengamatan dari n pengamatan yang memiliki determinan peragam terkecil. Misalkan X = {x 1, x 2,, x n,} merupakan suatu contoh dari n pengamatan dalam R k dan h, dengan sedemikian hingga: dimana = det, cari subhimpunan J* berukuran h adalah matriks peragam berdasarkan pada pengamatan x i dengan (Notiragayu, 2008). Penduga MCD diberikan sebagai berikut : dan Metode MCD yang lebih efisien adalah dengan menggantikan rataan dan matriks peragam klasik dengan penduga pusat dan ragam MCD terboboti. dan

10 14 dimana masing-masing x i diberikan bobot w i, w i = 1 apabil dan untuk lainnya (Rousseeuw et al. 2004). Metode PP bertujuan untuk mendapatkan struktur data peubah ganda dengan memproyeksikan pada subhimpunan berdimensi rendah (Huber, 1985). PP tepat digunakan untuk menganalisis data dengan jumlah peubah yang besar. Subhimpunan berdimensi rendah dipilih dengan memaksimumkan indeks proyeksi tertentu. Untuk menghasilkan komponen utama yang kekar, indeks proyeksi diganti dengan penduga peragam yang kekar. Metode MCD diterapkan ke dalam jumlah komponen yang terbentuk, untuk memperoleh penduga pusat kekar dari dan peragamnya, dimana dapat didekomposisikan sebagai berikut : dengan vektor ciri Z yaitu dan akar ciri Z yaitu diag(l k,k ). Langkah-langkah dalam metode RSIMPLS-M adalah sebagai berikut: 1. Pembentukan skor kekar RSIMPLS-M Pembentukan skor-skor kekar, berdimensi k, berdasarkan penduga pusat kekar dan ragamnya yang diperoleh menggunakan metode ROBPCA. Vektor bobot RSIMPLS-M, r a dan q a diperoleh menggunakan metode SIMPLS, tetapi matriks peragam S diganti dengan. Sedangkan vektor loading X didefinisikan, kemudian diperoleh serupa pada tahap SIMPLS. Dan pada masing-masing tahap skor kekar dihitung. 2. Pendugaan model regresi Sama seperti pada SIMPLS dimana skor-skor kekar yang diperoleh pada langkah 1 diregresikan dengan peubah tak bebas. Model regresi secara matematis ditulis sebagai berikut : dimana penduga pusat μ dan peragam dari peragam terboboti yaitu rataan dan matriks

11 15 dengan w i = 1 apabila pengamatan ke-i tidak didentifikasi sebagai pencilan dengan metode ROBPCA dalam (x,y) dan w i 0 untuk lainnya. Fungsi pembobot pada metode RSIMPLS-M adalah sebagai berikut: jika dimana jika jika jika jika jika (18) dimana (jarak kekar) (jarak ortogonal) dan adalah penduga rataan dan ragam dengan MCD (Ismah, 2010). Setelah dan diperoleh, proses selanjutnya penduga koefisien regresi diperoleh menggunakan metode kuadrat terkecil. Penentuan jumlah komponen k menggunakan kriteria RMSECV (Root Mean Squared Error Cross Validation). Jumlah komponen ditentukan dari komponen k yang memiliki nilai RMSECV minimum. Validasi Model Salah satu jenis validasi model yaitu dengan menghitung nilai Root Mean Squared Error of Prediction (RMSEP) dengan rumus: n p 1 2 RMSEP ŷi yi (19) n p i 1 dimana y i menyatakan nilai pengamatan ke-i pada kelompok data validasi, menyatakan nilai dugaan pengamatan ke-i dan n p menyatakan banyak sampel yang digunakan dalam model validasi. ŷ i

12 16 Pendugaan Parameter dengan Jackknife Pendekatan jackknife diperkenalkan oleh Maurice Henry Quenouille pada tahun 1949 untuk mengoreksi bias suatu penduga. Kemudian pada tahun 1958, John Wilder Tukey mengusulkan penduga ragam. Ide dasar metode jackknife dengan menghapus pengamatan ke-i untuk i = 1,..,n dan melakukan pendugaan parameter. Misalkan X 1,,X n merupakan contoh acak berukuran n pengamatan yang menyebar secara bebas stokastik dan identik dari suatu sebaran peluang F yang tidak diketahui. Dari contoh tersebut dilakukan penarikan contoh kembali (resample) sebanyak n kali dimana setiap resample terdiri dari n-1 pengamatan (terhapus 1 pengamatan secara berturut-turut). Misalkan penaksir β yang diperoleh dengan menyisihkan data ke-i dan diperoleh penduga b(i), yang disebut statistik jackknife, untuk i = 1,..,n (Dudewicz dan Mishra, 1988). Penduga bias Jackknife dihitung dengan menggunakan persamaan berikut : Bias jack = (n - 1) (b(i) b) dan ataan ias (20) b adalah dugaan dari parameter β dan b(i) adalah dugaan dari parameter β yang dihitung dari penghapusan pengamatan ke-i (statistik jackknife). Selanjutnya penduga bias Jackknife ini digunakan untuk menghasilkan bias terkoreksi penduga Jackknife (b j )yang disebut sebagai penduga Pseudo, didefinisikan dengan : ias sedangkan penduga Jackknife (b J ) didefinisikan sebagai : (21), dengan (22) Penduga ragam Jackknife dengan mengapus pengamatan ke-i berdasarkan pada nilai pseudo, didefinisikan sebagai berikut :

13 17 Selang kepercayaan untuk (1 - α)% bagi koefisien regresi adalah : (24) dimana adalah sebaran t dengan derajat bebas n 1.