Parameter Estimation of Multivariate Adaptive Regression Spline Model With Binary Response Using Generalized Least Square

Transkripsi

1 JTRISTE, Vol.2, No.2, Oktober 2015, pp. 8~17 ISSN: Parameter Estimation of Multivariate Adaptive Regression Spline Model With Binary Response Using Generalized Least Square Program Studi Matematika, FKIP Universitas Darussalam Ambon [email protected] Abstrak Penelitian ini bertujuan untuk menaksir parameter model Multivariate Adaptive Regression Spline (MARS) dengan respon biner menggunakan metode Generalized Least Square (GLS). Metode yang digunakan untuk menaksir parameter pada model MARS dengan respon biner adalah metode GLS. penaksiran parameter pada model MARS dengan respon biner dilakukan dengan mencari terlebih dahulu model MARS terbaik. Model MARS terbaik dipilih berdasarkan pada nilai Generalized Cross Validation (GCV) minimum. Hasil penelitian menunjukkan bahwa estimasi parameter model MARS dengan respon biner menggunakan metode GLS diperoleh hasil yang tidak konvergen. Hal ini juga ditunjukkan oleh nilai Mean Square Error (MSE) paling besar. Kata kunci : Multivariate Adaptive Regression Spline (MARS), Generalized Least Square (GLS), Generalized Cross Validation (GCV), Mean Square Error (MSE). Abstract The research aimed to estimate the parameter of Multivariate Adaptive Regression Spline Model (MARS) model with binary response using Generalized Least Square (GLS) Method. The research was conducted by estimating the parameter, on the MARS model with binary response using GLS methods. Estimating the parameter by minimizing the sum of square errors. The parameter estimation on the MARS model with binary response using GLS methods was carried out by previously searching the best MARS model, the best MARS model was chosen based on the minimum Generalized Cross Validation (GCV) value. The research result indicates that the parameter estimation of MARS model with binary response using GLS method obtained were not convergent. This is indicated by the biggest of value Mean Square Error (MSE). Key word : Multivariate Adaptive Regression Spline (MARS), Generalized Least Square (GLS), Ordinary Least Square (OLS), Generalized Cross Validation (GCV), Mean Square Error (MSE). 1. Pendahuluan Pada penaksiran kurva atau parameter regresi, ada dua pendekatan yang biasa digunakan yaitu pendekatan regresi parametrik dan pendekatan regresi nonparametrik. Beberapa penelitian menunjukkan model dengan pendekatan regresi nonparametrik secara adaptive banyak diminati, Friedman [4], Budiantara,dkk [2], Prahutama [6]. Friedman [4] mengemukakan model MARS adalah salah satu kelompok model statistik modern dengan pendekatan regresi nonparametrik yang merupakan kombinasi kompleks dari spline dan recursive partition regression (RPR). Model MARS mampu mengatasi kelemahan

2 RPR dan regresi spline yaitu mampu menghasilkan model yang kontinyu pada knot dan secara otomatis mampu menentukan banyaknya knot sekaligus. Penerapan MARS pada umumnya digunakan untuk menyelesaikan dua permasalahan utama dalam statistika, yaitu respon kontinu dan respon kategorik (biner). Pada respon kontinu, beberapa penelitian yang telah dilakukan diantaranya dapat dilihat pada Otok,dkk.[5], Adamoski,dkk.,[1]. Sedangkan pada respon kategorik (biner) beberapa penelitian yang telah dilakukan diantaranya dapat dilihat pada Xiang & Meullenet [8], Aziz [3], Purnomo [7], Otok [5]. Aziz [3] mengemukakan model MARS untuk data dengan variabel respon biner saat ini masih dalam taraf pengembangan karena masih memerlukan sejumlah batasan-batasan. Aziz [3] menerapkan MARS untuk data respon biner dalam pemodelan resesi di Indonesia, dalam mengestimasi koefisien fungsi - fungsi basis digunakan metode least square (kuadrat terkecil) dan memperlihatkan hasil yang menjanjikan untuk peramalan resesi di dalam contoh. Sedangkan peramalan di luar contoh model MARS dapat membantu tetapi secara umum tidak memberikan hasil yang tepat. Metode lain yang dapat digunakan untuk mengestimasi parameter pada model MARS dengan respon biner adalah maximum likelihood. Menurut Otok (200), metode estimasi maximum likelihood pada model MARS dengan respon biner merupakan salah satu metode penaksiran yang memenuhi kriteria penaksir yang baik. Sifatsifat penaksir likelihood antara lain konsisten, berdistribusi normal, dan efisien. Berdasarkan beberapa penelitian terdahulu dan pendapat yang dikemukakan Aziz (2005) dan Purnomo (2008), maka pada penelitian ini akan diselidiki estimasi parameter model MARS dengan respon biner menggunakan metode Generalized Least Square (GLS). Estimasi GLS sebagai salah satu bentuk estimasi least square, dimana GLS merupakan bentuk estimasi yang dibuat untuk mengatasi sifat heteroskedastisitas yang memiliki kemampuan untuk mempertahankan sifat efisiensi estimatornya tanpa harus kehilangan sifat unbiased dan konsistensinya Tujuan dari penelitian ini adalah menaksir parameter model MARS dengan respon biner menggunakan metode GLS dan mengaplikasikan model MARS dengan respon biner menggunakan GLS pada data hasil belajar pengantar dasar matematika Fakultas Keguruan dan Ilmu Pendidikan (FKIP) Jurusan Matematika dan Ilmu Pengetahuan Alam (MIPA) Program Studi Pendidikan Matematika Universitas Pattimura Ambon Tahun Metode Penelitian Lokasi penelitian untuk kajian teoritis adalah Universitas Hasanuddin, Makassar. Namun, untuk proses pengambilan data penelitian dilakukan di Universitas Pattimura Ambon Rancangan penelitian ini merupakan kajian teoritis dan penelitian terapan. Kajian teoritis dilakukan pada estimasi parameter terhadap model MARS dengan respon biner menggunakan metode GLS yang kemudian diaplikasikan pada studi kasus dengan menggunakan data hasil belajar pengantar dasar matematika FKIP Jurusan MIPA Program Studi Pendidikan Matematika Universitas Pattimura Ambon Tahun 2013, dengan jumlah sampel sebanyak 5 mahasiswa dan variabel respon ( ) pada penelitian ini adalah Hasil evaluasi (nilai/prestasi akademik) mahasiswa untuk nilai pengantar dasar matematika serta variabel prediktor ( ) terdiri dari lima variabel yaitu lokasi pendidikan di Sekolah Menengah Atas, nilai matematika di SMA, jenis kelamin, jalur masuk perguruan tinggi dan rata-rata nilai ujian tengah semester mata kuliah pengantar dasar matematika. Data yang digunakan dalam penelitian dapat dilihat pada Tabel 4 (Lampiran ). 3. Analisis Data Pada penelitian ini, akan dilakukan estimasi parameter model MARS dengan respon biner menggunakan metode GLS. Penaksiran parameter pada model MARS dengan respon biner menggunakan metode GLS dilakukan dengan cara menaksir parameter melalui proses meminimumkan jumlah kuadrat galat. Setelah dilakukan analisis dengan metode GLS didapatkan hasil taksiran dan matriks variansi kovariansi dari untuk model MARS dengan respon biner kemudian mengaplikasikannya pada data real. Data yang digunakan adalah data hasil belajar pengantar dasar matematika mahasiswa FKIP Jurusan MIPA Program Studi

3 10 Pendidikan Matematika Universitas Pattimura Ambon Tahun Setelah dilakukan analisis terhadap data dengan metode GLS pada model MARS dengan respon biner didapatkan hasil taksiran dan kriteria model, selanjutnya dilakukan uji signifikansi parameter kemudian pemilihan model terbaik yang diukur berdasarkan nilai MSE. Dengan demikian dapat dilihat bahwa metode mana yang baik untuk model MARS dengan respon biner. Analisis yang dilakukan pada model MARS dengan respon biner menggunakan metode GLS pada penelitian ini digunakan program software MARS versi 2.0. Langkah langkah yang akan digunakan dalam penelitian ini dapat dilihat pada Gambar 1 (Lampiran ). 4. Hasil Penelitian Penaksiran parameter pada Model MARS dengan Respon Biner menggunakan Metode GLS Model MARS didefinisikan sebagai berikut : Y Persamaan tersebut merupakan bentuk linier dalam parameter. Metode yang digunakan dalam menaksir parameter yang belum diketahui dalam model MARS pada persamaan di atas adalah GLS. Misalkan Y (1.1) maka Persamaan (1.1) dapat dituliskan sebagai Y (1.2) dimana : dengan asumsi Untuk memenuhi asumsi variansi konstan, maka kedua ruas pada Persamaan (1.1) dikalikan dari kiri dengan, sehingga menjadi : (1.3) (1.4) dimana sehingga, (1.5) Dengan demikian, Karena, maka ditulis sebagai berikut :

4 11 ) (1.6) Jadi Persamaan (1.1) memiliki variansi konstan Selanjutnya akan dilakukan penaksiran parameter kovariansi dari sebagai berikut : Penaksir parameter Berdasarkan Persamaan (1.3), dan penaksiran matriks variansi sehingga diperoleh : (1.7) Misalkan Maka berdasarkan Persamaan (1.7) diperoleh : Oleh karena Jadi, = adalah skalar, maka matriks transposenya adalah Selanjutnya, (1.8) kedua ruas pada Persamaan (1.8) dikalikan dengan (1.) Karena, maka Persamaan (1.) dapat ditulis sebagai berikut : Jadi, (1.10)

5 12 Persamaan (1.10) adalah taksiran Generalized Least Square untuk Menaksir matriks variansi kovariansi dari Berdasarkan Persamaan (1.10), Subtitusikan ke Persamaan (1.10), diperoleh : Oleh karena itu, Sehingga : (1.11) (1.12) Pada Persamaan (1.12), merupakan matriks variansi kovariansi dari 5. Pembahasan Model MARS dengan Respon Biner menggunakan Metode GLS Pada model MARS, penentuan model terbaik didasarkan pada nilai GCV paling minimum yang diperoleh dengan cara mengkombinasikan nilai BF, MI, dan MO sampai mendapatkan model terbaik. Dari keseluruhan model yang telah diperoleh dengan berdasarkan pada nilai GCV paling minimum maka model MARS terbaik yang dipilih yaitu model dengan nilai BF = 10, MI = 2, dan MO = 2 dan 3 serta nilai GCV sebesar 1,646. Model MARS yang dihasilkan sebagai berikut : Selanjutnya mencari parameter-parameter dalam model MARS untuk data hasil belajar pengantar dasar matematika yang akan di estimasi dengan menggunakan metode GLS. Dengan menggunakan GLS dapat diperoleh dengan terlebih dahulu mencari matriks variansi kovariansi (V), dan diperoleh : setelah diperoleh seperti di atas, selanjutnya menghitung invers dari matriks, hasil yang diperoleh adalah Langkah selanjutnya adalah menghitung dimana adalah taksiran Generalized Least Square untuk, Dengan demikian,, maka model MARS dengan respon biner menggunakan metode GLS adalah sebagai berikut : (1.18)

6 13 dengan, (Lokasi pendidikan SMA di ambon) atau (nilai matematika SMA atau (jenis kelamin laki-laki) atau (Jalur masuk perg.tinggi secara mandiri) atau (rata-rata nilai MID (Lokasi pendidikan selain SMA di ambon) atau (nilai matematika SMA atau (jenis kelamin perempuan) atau (Jalur masuk perg.tinggi secara undangan) atau (rata-rata nilai MID atau (nilai matematika SMA atau (jenis kelamin laki-laki) atau (Jalur masuk perg.tinggi secara mandiri) atau (rata-rata nilai MID atau (nilai matematika SMA atau (jenis kelamin laki-laki) atau (Jalur masuk perg.tinggi secara mandiri) atau (rata-rata nilai MID Setelah dilakukan taksiran parameter untuk menduga koefisien model (, selanjutnya pada model MARS dilakukan uji signifikansi fungsi basis yang meliputi uji serentak dan uji Individu. Uji signifikansi yang dilakukan secara bersamaan/serentak terhadap fungsi basis-fungsi basis yang terdapat dalam model MARS ini menggunakan Hipotesis sebagai berikut : : Paling tidak untuk itu, akan dicari nilai, berdasarkan hasil perhitungan dapat diketahui bahwa nilai sebesar 13, Dengan menggunakan maka diperoleh sehingga daerah kritis yaitu, maka keputusan yang diambil yaitu menolak, artinya paling sedikit ada satu yang tidak sama dengan nol yang dapat dinyatakan pula bahwa minimal terdapat satu fungsi basis yang memuat variabel prediktor yang berpengaruh terhadap variabel respon. Uji yang dilakukan secara parsial/ individu menggunakan hipotesis sebagai berikut : : : untuk itu akan dicari nilai dan dengan menggunakan maka didapatkan :. Daerah kritis adalah maka menolak. Berdasarkan hasil perhitungan dapat dilihat pada Tabel 1 berikut ini : Tabel 1. Uji Signifikansi Fungsi Basis Pada Model MARS dengan Respon Biner Menggunakan Metode GLS Parameter keputusan 0,18151 Tolak 0,0154 Tolak Sumber : Hasil analisis data ,60304 Tolak 1,86161 Tolak

7 14 Berdasarkan Tabel 1 dapat dilihat bahwa dan mempunyai nilai signifikansi sehingga keputusan yang diambil adalah Tolak yang berarti parameter fungsi basis dan tidak mempunyai pengaruh yang signifikan terhadap model sedangkan parameter fungsi basis dan mempunyai nilai signifikansi sehingga keputusan yang diambil adalah menolak yang berarti parameter fungsi basis dan mempunyai pengaruh yang signifikan terhadap model. Dengan demikian, Model pada persamaan (1.18) di atas menunjukkan bahwa ada 2 fungsi basis yang berpengaruh untuk model MARS dengan respon biner melalui metode GLS yaitu dan yang didalamnya memuat 5 variabel prediktor yaitu Asal Sekolah, Nilai Matematika SMA, Jenis kelamin, Jalur masuk perguruan tinggi dan rata-rata nilai MID untuk mata kuliah Pengantar dasar matematika. Setelah dilakukan taksiran dan pengujian parameter, selanjutnya dilakukan pemilihan model terbaik yaitu berdasarkan nilai Mean Square Error (MSE). Dengan demikian nilai MSE dari Model MARS respon biner menggunakan metode GLS adalah 17,6582 Estimasi parameter model MARS dengan respon biner menggunakan metode GLS diperoleh hasil yang tidak konvergen disebabkan karena struktur matriks dari fungsi basis yang sebagian besar bernilai nol, struktur matriks dari fungsi basis ini dipengaruhi oleh penentuan titik knot, banyaknya knot disesuaikan dengan perilaku data. Jumlah knot perlu ditetapkan terlebih dahulu dan penempatannya dapat dilakukan dengan mencoba semua knot yang mungkin, Friedman [4] menyarankan Minimum observasi antara knot (MO) adalah 0, 1, 2, dan 3. Namun dalam penelitian MO yang digunakan hanya 0, 2 dan 3. Nilai knot 1 tidak digunakan karena akan membentuk matriks dalam perhitungan yang hampir singular, sehingga persamaan normal tidak dapat diselesaikan, hal inilah yang merupakan kelemahan dari model MARS dengan respon biner menggunakan metode GLS dalam penelitian ini. Demikian pula karena Keterbatasan data yang tersedia untuk estimasi parameter model MARS dengan respon biner menggunakan metode GLS dimana jumlah pengamatan relatif sedikit sedangkan jumlah fungsi basis sebagai variabel prediktor yang diperoleh dari model MARS dengan respon biner relatif besar (10 sampai 20), sehingga diperoleh hasil yang tidak menjanjikan. Friedman [4] melakukan penelitian tentang hubungan komposisi kimia minyak zaitun dengan asal geografis di portugis menggunakan model MARS respon biner dengan jumlah pengamatan sebesar 417 dan fungsi basis dan memperlihatkan hasil yang menjanjikan. Apabila dibandingkan dengan jumlah pengamatan dan jumlah fungsi basis pada penelitian Friedman maka pengamatan pada penelitian ini jauh lebih kecil sedangkan jumlah fungsi basisnya jauh lebih besar sehingga diperoleh hasil yang tidak menjanjikan. 6. Kesimpulan dan Saran Berdasarkan hasil dan pembahasan dapat disimpulkan bahwa taksiran Generalized Least Square untuk pada model MARS dengan respon biner adalah, dimana merupakan invers dari matriks variansi kovariansi. Aplikasi model MARS dengan respon biner menggunakan metode GLS pada data hasil belajar pengantar dasar matematika menunjukkan bahwa ada 2 fungsi basis yang berpengaruh yaitu dan yang didalamnya memuat 5 variabel prediktor yaitu asal Sekolah, nilai matematika SMA, jenis kelamin, jalur masuk perguruan tinggi dan rata-rata nilai MID untuk mata kuliah Pengantar dasar matematika. Estimasi parameter model MARS dengan respon biner menggunakan metode GLS diperoleh hasil yang tidak konvergen disebabkan karena struktur matriks dari fungsi basis yang sebagian besar bernilai nol. Demikian juga karena Keterbatasan data yang tersedia dimana jumlah pengamatan relatif sedikit sedangkan jumlah fungsi basis sebagai variabel prediktor yang diperoleh dari model MARS dengan respon biner relatif besar (10 sampai 20), sehingga estimasi parameter model MARS dengan respon biner menggunakan metode GLS diperoleh hasil yang tidak konvergen. Penelitian ini masih bisa dikembangkan lagi antara lain mengkaji lebih lanjut tentang estimasi parameter model MARS dengan respon biner menggunakan metode selain GLS dan menggunakan kombinasi basis fungsi, maksimum interaksi, dan minimum observasi yang lain, terutama dalam penentuan jumlah minimun observasi di tiap knot, serta untuk peneliti yang ingin mengkaji lebih lanjut tentang estimasi parameter model

8 15 MARS dengan respon biner perlu memperhatikan jumlah pengamatan dan jumlah fungsi basis sebagai variabel prediktor, karena ini merupakan faktor penentu untuk mendapat estimasi yang baik sehingga dapat menjadi peluang penelitian kedepan. 7. Daftar Pustaka [1] Adamowski, J., Hiu Fung Chan, Shivo. Prasher and Vishwa Nath Sharda Comparison of Multivariate Adaptive Regression Splines with Coupled Wavelet Transform Artificial Neural Networks for Runoff Forecasting in Himalaya Micro-Watersheds with Limited Data. Journal of Hydroinformatics. 2012; 8(1): 143. [2] Budiantara,I.N., Lestari,B., Islamiyati,A., Wibowo,W. Pemilihan Knot Optimal dalam Estimator Spline Terbobot pada Regresi Nonparametrik Heteroskedastik Data Longitudinal. Prosiding Seminar Nasional Statistika XI, Institut Teknologi Sepuluh November, Surabaya [3] Aziz, Azwirda. Penggunaan regresi spline adaptiv berganda untuk data respon biner. Tesis. Bogor : Sekolah Pascasarjana Institut Pertanian Bogor [4] Friedman, J.H,.11. Multivariate Adaptive Regression Splines, The Annals of Statistics. 11;1(1). Hal [5] Otok, B.W. Konsistensi dan Asimtotik Normalitas Model Multivariate Adaptive Regression Spline (MARS) Respon Biner. Jurnal Ilmu Dasar. 200; 10(2). Hal [6] Prahutama,Alan. Model Regresi Nonparametrik dengan Pendekatan Deret Fourier pada Kasus Tingkat Pengangguran Terbuka di Jawa Timur. Prosiding Seminar Nasional Statistika, Universitas Diponegoro [7] Purnomo. Estimation penalized least square Multivariate Adaptive Regression Splines, Proceedings of The First International Conference on Mathematics and Statistics (IcoMS- 1), Bandung, West Java, Indonesia [8] Xiang R. & Meullenet JF. Comparasion of Logistic Regression and MARS in modeling the effects of water activity, ph and potassium sorbate on growth no growth of Saccharomyces cerevisiae. Food Science Department. University of Arkansan. Lampiran Tabel 4. Data Mahasiswa S1 Prodi Pend. Matematika FKIP Unpatti Ambon Tahun 2013/2014 Jalur Rata- Nilai Jenis Nilai Mat Masuk Rata Nama Asal Sekolah Akhir No kelamin SMA Perg. Nilai PDM Tinggi MID AAL L SMAN 5 Ambon 78 Mandiri 65 B AB L SMAN 13 Ambon 84 Undangan 68 C AER P SMAN 1 Werinama 67 Undangan 55 D AK P SMA LKMD Laha 67 Undangan 6 B AL L SMA LKMD Laha 65 Undangan 55 E AEL L SMAN 5 Ambon 63 Mandiri 70 B AMK L SMAN 1 TANIWEL 88 Undangan 65 C AR L SMA LKMD Laha 54 Mandiri 6 D AS P SMAN 2 Ambon 77 Mandiri 5 C AS L SMAN 1 Tehoru 80 Mandiri 67 D 0 AIS P SMAN 5 Ambon 82 Undangan 63 B 1 AT L MAN Geser 64 Undangan 65 B 2 BGS P SMA LKMD Laha 81 Mandiri 76 E

9 16 No Nama Jenis kelamin Asal Sekolah Nilai Mat SMA Jalur Masuk Perg. Tinggi Rata- Rata Nilai MID BW L SMAN 5 Ambon 67 Undangan 63 C BWL P SMAN 1 Tehoru 73 Mandiri 54 D CK P SMAN 4 Kairatu 56 Undangan 65 B CNS P SMAN 2 Ambon 77 Undangan 70 C DAB L SMAN 1 Tual 67 Mandiri 70 E DHW L SMAN 1 Tual 70 Mandiri 64 C DK P SMA Kristen Tanut 63 Undangan 70 D DK P SMA Kristen Tanut 76 Undangan 63 B DP P SMAN Selaru 75 Undangan 65 B DSR P SMAN 14 Ambon 67 Mandiri 68 D DER L SMAN 1 Tehoru 84 Mandiri 70 C EDM L SMAN 1 Taniwel 75 Mandiri 65 D Nilai Akhir PDM EMB P SMAN 1 Seram Barat 73 Undangan 75 B ERGG L SMAN 1 Seram 75 Mandiri 67 C Barat FG P SMAN 1 Tual 6 Mandiri 66 D FI L SMAN 1 Tual 67 Mandiri 70 C FKB P SMAN N Waeputih 73 Undangan 63 D FKT P SMAN 5 Ambon 6 Mandiri 65 B FML L SMK N Taniwel 74 Mandiri 64 C FN P SMAN Wuarlabobar 70 Undangan 72 D FP L SMAN Wuarlabobar 73 Undangan 66 C FP L SMAN 2 Ambon 82 Mandiri 65 E FR P SMA LKMD Laha 66 Mandiri 70 B FSA L SMA LKMD Laha 63 Mandiri 65 C GA L SMAN 5 Ambon 73 Mandiri 67 D GWS P SMAN 13 Ambon 72 Mandiri 50 C

10 17 No Nama Jenis kelamin Asal Sekolah Nilai Mat SMA Jalur Masuk Perg. Tinggi Rata- Rata Nilai MID Nilai Akhir PDM HMK P SMAN 14 Ambon 75 Mandiri 55 D 0 HN P SMAN 14 Ambon 6 Undangan 50 B 1 HIN L SMA 1 Leihitu 67 Undangan 50 C 2 IA L SMAN 2 Namlea 78 Mandiri 50 D 3 IB L SMAN 2 Namlea 88 Mandiri 25 C 4 IE P SMAN 4 Seram 6 Undangan 67 D 5 Barat IHM L SMAN 2 Ambon 6 Mandiri 35 B 6 IML L SMAN 2 Ambon 72 Undangan 60 C 7 ISA P SMAN 2 Ambon 67 Mandiri 55 D 8 ISP L SMAN 5 Ambon 6 Mandiri 55 C JBT L SMAN 5 Ambon 67 Mandiri 67 D 0 JFS L SMAN 3 Kei Kecil 82 undangan 30 B 1 JHA L SMAN 2 Ambon 2 Mandiri 70 C 2 LS P SMAN 4 Leihitu 77 Undangan 60 D 3 LSH L SMAN 13 Ambon 70 Mandiri 50 C 4 M L SMAN 4 Ambon 73 Undangan 55 D 5 MDL P SMAN 2 Ambon 83 Mandiri 54 B 6 MGN L SMAN 14 Ambon 88 Mandiri 55 C 7 MIP L SMAN 2 Ambon 72 Mandiri 66 D 8 ML L MA Al Hilaal 82 Undangan 50 C Namlea Sumber : Mahasiswa dan Program Studi Pendidikan Matematika FKIP Unpatti Ambon Angkatan 2013