BAB I PENDAHULUAN 1.1. Latar Belakang Analisis regresi merupakan salah satu analisis statistika yang digunakan untuk menentukan hubungan sebab-akibat antara satu variabel dengan variabel-variabel lainnya, sehingga salah satu variabel bisa diramalkan dari variabel lainnya.pada analisis regresi terdiri dua jenis variabel, yaitu variabel bebas (variabel independen) dan variabel tak bebas (variabel dependen).variabel bebas (variabel independen) adalah variabel yang mempengaruhi atau yang menjadi sebab perubahan atau timbulnya variabel tak bebas, sedangkan variabel tak bebas (variabel dependen) adalah variabel yang dipengaruhi atau yang menjadi akibat adanya variabel bebas.analisis regresi adalah salah satu analisis yang paling popular dan luas pemakaiannya.hampir semua bidang ilmu yang memerlukan analisis sebab -akibat boleh dipastikan menggunakan analisis ini. Analisis regresi binari adalah suatu analisis regresi di mana variabel responnya berskala biner/dikotomus dengan variabel prediktor berskala kontinu, dikotomus, ataupun polikotomus.variabel dikotomus adalah variabel yang memiliki 2 kemungkinan (sukses atau gagal).biasanya analisis regresi binari dimodelkan dengan menggunakan analisis regresi logistik. Dalam regresi logistik ini diharuskan memenuhi asumsi-asumsi yang ada seperti halnya dalam regresi OLS (Ordinary Least Square) sehingga nantinya estimasi parameter yang dihasilkan akan memenuhi kriteria Best, Linear, Unbiased Estimator (BLUE). Namun regresi logistik ini sangatlah peka terhadap asumsi-asumsi yang sudah ada, sehingga kalau ada salah satu asumsi yang tidak terpenuhi, maka regresi ini kurang cocok digunakan karena dapat menghasilkan kesimpulan yang bias. Salah satu asumsi yang seringkali tidak terpenuhi adalah adanya data dalam variabel independen yang mengandung pencilan 1
2 (outlier). Data pencilan ini nantinya akan mengakibatkan heteroskedastisitas pada data, di mana variansi galat akan berubah-ubah (tidak konstan). Jika data mengandung pencilan (outlier), maka data tidak lagi berbentuk simetris sehingga nilai mean kurang tepat digunakan karena tidak dapat mewakili keseluruhan dari data. Terkadang untuk mengatasi hal tersebut, peneliti akan melakukan transformasi terhadap data dengan maksud agar asumsi terpenuhi. Namun seringkali asumsi tersebut masih belum terpenuhi meskipun telah dilakukan transformasi yang pada akhirnya mengakibatkan estimasi parameter yang dihasilkan tetap bias. Dengan adanya fenomena tersebut, maka berkembanglah metode regresi binari kuantil yang tidak membutuhkan asumsi galat dalam model dan estimatornya bersifat tegar (robust) terhadap pencilan (outlier) pada variabel independen.m etode regresi binari kuantil ini merupakan perluasan dari metode regresi kuantil yang variabel responnya berskala dikotomus.pendekatan regresi kuantil yaitu dengan memisahkan atau membagi data yang dicurigai ada perbedaan nilai taksiran pada kuantil-kuantil tertentu. Metode yang digunakan untuk proses pemilihan variabel dan estimasi parameter regresi binari kuantil ini adalah Least Absolute Shrinkage Selection Operator (LASSO). Dengan menggunakan fungsi penalti LASSO ini nantinya dapat menghasilkan regresi yang robust dengan penduga parameter yang bagus dan lebih mengecilkan galat dari model regresi logistik.fungsi penalti LASSO ini juga berperan dalam mengidentifikasikan variabel prediktor mana saja yang penting untuk variabel respon. Selanjutnya dengan menggunakan analisis Bayesian akan didapatkan estimasi parameter yang dicari. Analisis Bayesian adalah suatu metode yang diperlukan untuk mengestimasi parameter dengan memanfaatkan informasi awal dan bentuk distribusi awal (prior) dari suatu populasi.informasi ini kemudian digabungkan dengan informasi dari sampel yang digunakan dalam mengestimasi parameter populasi.pada analisis Bayesian, peneliti harus menentukan distribusi prior dari parameter yang
3 ditaksir.distribusi prior ini dapat berasal dari data penel itian sebelumnya atau berdasarkan intuisi seorang peneliti. Dugaan penentuan distribusi parameter sangatlah subyektif (Hogg dan Craig, 1978). Setelah informasi data digabungkan dengan informasi prior, maka didapatkan distribusi posterior yang nantinya a kan menjadi informasi untuk mencari parameter regresi dengan mudah. Secara analitik, memperoleh marginal posterior merupakan hal yang sulit. Dalam model yang rumit, mengintegralkan parameter dari distribusi posterior bersama atau menentukan kenormalan dari distribusi posterior secara umum adalah hal yang sangat sulit dan tak mungkin dilakukan. Metode Bayesian mengatasi permasalahan ini dengan menggunakan bantuan algoritma MCMC (Markov Chain Monte Carlo) yaitu Gibbs sampling. Dengan bantuan algoritma ini dengan mudah mendapatkan distribusi posterior bahkan dalam kasus yang kompleks. 1.2. Pembatasan Masalah Model regresi binari kuantil bayesian terpenalti memiliki ruang lingkup yang sangat luas untuk dibahas. Oleh karena itu dalam skripsi ini hanya akan dibaha s estimasi model regresi binari kuantil dengan LASSO sebagai fungsi penalti-nya menggunakan analisis bayesian melalui algoritma Gibbs sampling, serta terbatas pada model regresi binari dengan melibatkan semua variabel independen yang sudah terbukti secara teoritis. 1.3. Tujuan Penulisan Berdasarkan latar belakang dan batasan masalah di atas, maka tujuan penulisan skripsi ini adalah sebagai berikut : a) Mempelajari model regresi binari kuantil dengan penalti Lasso. b) Mempelajari analisis Bayesian dan mengimplementasikannya melalui metode Markov Chain Monte Carlo dengan algoritma Gibbs sampling untuk mengestimasi parameter model regresi binari kuantil dengan penalti Lasso.
4 c) Mengaplikasikan regresi binari kuantil Bayesian terpenalti untuk menganalisis faktor apa saja yang mempengaruhi kualitas air sungai yang melewati Kabupaten Bantul. 1.4. Tinjauan Pustaka Model regresi binari kuantil ini merupakan perluasan dari model regresi kuantil di mana variabel responnnya berskala biner.regresi kuantil dikenalkan oleh Koenker dan Basset pada tahun 1978. Regresi ini berguna untuk menganalisis sejumlah data yang mengandung pencilan (outlier) dan heteroskedastisitas. Pada tahun 2001 Keming Yu dan Rana A. Moyeed mempopulerkan m etode bayesian pada regresi kuantil. Mereka memperkenalkan gagasan regresi kuantil menggunakan fungsi likelihood yang didasarkan pada Asymmetric Laplace Distribution. Penggunaan distribusi ini merupakan cara alami dan efektif untuk pemodelan regresi kuantil bayesian. Yu dan Moyeed juga memperkenalkan regresi kuantil bayesian menggunakan algoritma MCMC untuk inferensi posteriornya. Dalam metodenya mereka menggunakan algoritma Metropolis Hasting untuk menganalisis kuantil bayesian. Selanjutnya tahun 2009, Hiedo Kozumi dan Kobayashi mengembangkan regresi kuantil Bayesian menggunakan Asymmetric Laplace Distribution dan mengemukakan metode MCMC dengan bantuan algoritma Gibbs sampling yang berdasarkan pada mixture representation dari Asymmetric Laplace Distribution. Mereka memaparkan bahwa dengan menggunakan kondisi tersebut, de nsitas dari posterior akan sangat mudah dikerjakan. Pada tahun 2010, Li et al. mengenalkan Bayesian Regularized Quantile regression dengan menggunakan penalti LASSO, group LASSO, dan net penalti. Alhamzawi et al. pada tahun 2011 juga mengenalkan Bayesian Adaptive Lasso Quantile Regresion. Dan tahun 2012 Alkenani et al. memperkenalkan Penalized
5 Flexibel Bayesian Quantile Regression dengan LASSO dan Adaptive LASSO dengan asumsi distribusi galat infinite mixture of Gaussian Densities. Pada tahun 2012, Benoit dan Van den Poel mulai mengembangkan regresi kuantil untuk variabel respon yang berskala dikotomus/biner.mereka mengembangkan regresi tersebut dengan menggunakan pendekatan Bayesian melalui algoritma Metropolis Hasting untuk mencari estimasi parameter regresi binari kuantil. Kemudian pada tahun 2013, Rahim Alhamzawi et al.menyempurnakan jurnal sebelumnya dengan mengembangkan regresi binari kuantil dengan tambahan penalti Lasso dengan menggunakan analisis Bayesian melalui algoritma Gibbs sampling. Pada tahun 2014, Afifka Fitri Nugrahwati dalam skripsinya membahas regresi kuantil terpenalti dengan menggunakan estimasi bayesian.dalam skripsi tersebut menggunakan metode MCMC dengan algoritma Gibbs sampling. 1.5. Metode Penulisan Metode yang digunakan dalam penulisan skripsi ini adalah studi literatur yang didapat dari perpustakaan, buku-buku, jurnal-jurnal, dan situs-situs internet yang berhubungan dengan tema skripsi ini.pengerjaan skripsi ditunjang oleh perangkat lunak (software) SPSS 19, Microsoft Excel 2010, Minitab 14, R 2.11.1, R 3.1.2 dengan package bayesqr untuk mencari nilai estimasi parameter regresi binari kuantil bayesian dengan penalti Lasso. 1.6. Sistematika Penulisan Skripsi ini disusun dengan sistematika penulisan sebagai berikut : BAB I PENDAHULUAN Bab ini membahas latar belakang penulisan skripsi, pembatasan masalah dalam skripsi, tujuan yang ingin dicapai dalam penulisan, tinjauan pustaka, metode penulisan yang digunakan, dan sistematika penulisan yang memberikan arah dan tujuan dalam penulisan skripsi ini.
6 BAB II LANDASAN TEORI Bab ini membahas tentang teori-teori yang menunjang pembahasan regresi binari kuantil bayesian dengan penalti Lasso. BAB IIIANALISIS BAYESIAN UNTUK REGRESI BINARI KUANTIL DENGAN PENALTI LASSO Bab ini berisi pembahasan mengenai penggunakaan metode bayesian dalam mengestimasi parameter model regresi binari kuantil terpenalti dengan menggunakan algoritma Gibbs sampling. BAB IV STUDI KASUS Bab ini berisi tentang deskripsi data, estimasi parameter menggunakan metode regresi binari kuantil Bayesian terpenalti dan estimasi parameter dengan menggunakan regresi logistic dan regresi probit.data yang digunakan adalah data sekunder yang bersumber dari Badan Lingkungan Hidup Kabupaten Bantul. Data menunjukkan ada hubungan antara kualitas air sungai terhadap ph air, suhu air, salinitas, kadar fluorida, phospat, dan ammonia. BAB V PENUTUP Bab ini membahas tentang kesimpulan dari materi yang telah dibahas dari skripsi ini.serta saran atas kekurangan dari hasil pembahasan yang bisa diberikan sebagai bahan acuan untuk penelitian lanjutan.