Aditya Noor Sandy

Transkripsi

1 SISTEM PENGAMANAN DAN PELAPORAN INTRUSI DARI SERANGAN WEB SERVER MENGGUNAKAN MODSECURITY SKRIPSI Disusun Oleh : Aditya Noor Sandy PROGRAM STUDI TEKNIK INFORMATIKA FAKULTAS TEKNOLOGI INDUSTRI UNIVERSITAS PEMBANGUNAN NASIONAL VETERAN JAWA TIMUR 2014

2 LEMBAR PENGESAHAN SISTEM PENGAMANAN DAN PELAPORAN INTRUSI DARI SERANGAN WEB SERVER MENGGUNAKAN MODSECURITY Disusun oleh : ADITYA NOOR SANDY Telah disetujui mengikuti Ujian Negara Lisan Gelombang II Tahun Akademik 2014 / 2015 Pembimbing I Pembimbing II Henni Endah W., S.T, M.Kom NPT I Made Suartana, S.Kom, M.Kom NIP Mengetahui, Ketua Program Studi Teknik Informatika Fakultas Teknologi Industri Universitas Pembangunan Nasional Veteran Jawa Timur Budi Nugroho S.Kom, M.Kom NPT

3 SKRIPSI SISTEM PENGAMANAN DAN PELAPORAN INTRUSI DARI SERANGAN WEB SERVER MENGGUNAKAN MODSECURITY Disusun Oleh : ADITYA NOOR SANDY Telah dipertahankan dan diterima oleh Tim Penguji Skripsi Program Studi Teknik Informatika Fakultas Teknologi Industri Universitas Pembangunan Nasional Veteran Jawa Timur Pada Tanggal 23 Desember 2014 Pembimbing : 1. Tim Penguji : 1. Henni Endah W., S.T, M.Kom. NPT Wahyu Syaifullah JS., S.Kom, M.Kom NPT I Made Suartana, S.Kom, M.Kom. NIP Henni Endah W., S.T, M.Kom. NPT I Gede Susrama, S.T, M.Kom. NIP Mengetahui, Dekan Fakultas Teknologi Industri Universitas Pembangunan Nasional Veteran Jawa Timur Ir. Sutiyono, MT. NIP

4 YAYASAN KESEJAHTERAAN PENDIDIKAN DAN PERUMAHAN UNIVERSITAS PEMBANGUNAN NASIONAL VETERAN JAWA TIMUR FAKULTAS TEKNOLOGI INDUSTRI KETERANGAN REVISI Kami yang bertanda tangan di bawah ini menyatakan bahwa mahasiswa berikut : Nama : ADITYA NOOR SANDY NPM : Jurusan : Teknik Informatika Telah mengerjakan revisi / tidak ada revisi*) pra rencana (design) / skripsi ujian lisan gelombang II, TA 2014/2015 dengan judul: SISTEM PENGAMANAN DAN PELAPORAN INTRUSI DARI SERANGAN WEB SERVER MENGGUNAKAN MODSECURITY" Surabaya, 2 Januari 2015 Dosen Penguji yang memeriksa revisi 1) Wahyu Syaifullah JS., S.Kom, M.Kom. NPT { } 2) Henni Endah W., S.T, M.Kom. NPT ) I Gede Susrama, S.T, M.Kom. NIP { } { } Mengetahui, Dosen Pembimbing Pembimbing I Pembimbing II Henni Endah W., S.T, M.Kom NPT I Made Suartana, S.Kom, M.Kom. NIP

5 Judul Pembimbing I Pembimbing II Penyusun : SISTEM PENGAMANAN DAN PELAPORAN INTRUSI DARI SERANGAN WEB SERVER MENGGUNAKAN MODSECURITY : Henni Endah W., S.Kom, M.Kom : I Made Suartana, S.Kom, M.Kom : Aditya Noor Sandy ABSTRAK Perkembangan jaringan berbasis web sekarang ini, banyak jenis sumber daya dan layanan yang disediakan oleh internet popular saat ini, seperti e- shopping, transaksi bisnis dan industri game online. Namun, dengan kenyamanan dan fasilitas ini, semakin banyak bahaya yang mengintai dan memicu perkembangan serangan web semakin pesat. Dalam penelitian ini diimplementasikan sebuah system yang dapat mengatasi meningkatkan keamanan web secara efektif dengan menggunakan Web Application Firewall (WAF) yang berbasis aplikasi dalam bentuk modul web server dengan menggunakan metode rule base detection untuk mengatasi jenis serangan Sql Injection dan XSS terhadap web server serta mengimplementasikan sistem pelaporan intrusi menggunakan Jwall Auditconsole. Dalam 10 kali uji coba serangan menggunakan 4 teknik serangan dengan dua scenario tanpa Waf dan menggunakan Waf didapatkan hasil yang menunjukan system dapat menangkal semua uji coba serangan dan mengenali serta melaporkan serangan dengan benar. Dengan ini didapatkan kesimpulan, sistem dapat meningkatan keamanan web dengan menangkal intrusi Sql Injection Dan XSS serta memberikan alert serangan kepada administrator web sehingga terbentuk interaksi yang baik antara system keamanan web dengan web administrator. Kata Kunci : Web Application Firewall, Serangan Web, Modsecurity

6 KATA PENGANTAR Dengan memanjatkan puji dan syukur atas Kehadirat Allah SWT atas segala rahmat, taufiq, serta Hidayah-Nya sehingga penyusun dapat menyelesaikan tugas akhir ini. Tugas ini untuk memenuhi persyaratan untuk menempuh ujian sarjana pada Fakultas Teknologi Industri Program Studi Sistem Informasi Universitas Pembangunan Nasional Veteran Jawa Timur. Laporan ini disusun berdasarkan data data yang diperoleh dan analisa yang dilakukan dengan judul Sistem Pengamanan dan Pelaporan Intrusi dari Serangan Web Server Menggunakan Modsecurity Dengan selesainya Tugas Akhir ini, tak lupa penyusun mengucapkan terima kasih yang sebesar besarnya, pada : 1. Allah SWT, Terimakasih atas Rahmat dan HidayahNya 2. Ibu dan Bapak saya yang telah banyak memberikan dukungan moril dan materiil. 3. Bpk. Budi Nugroho, S.Kom, M.Kom. selaku Ketua Program Studi Sistem Informasi FTI Universitas Pembangunan Nasional Veteran Jawa Timur, saya ucapkan terimakasih atas izin dan segala akses kemudahan yang diberikan selama pengerjaan tugas akhir berlangsung. 4. Bapak I Made Suartana, S.Kom, M.Kom dan Ibu Henni Endah W., S.T, M.Kom Selaku dosen pembibing yang selalu mendampingi saya, memberi ilmu dan arahan serta banyak membantu saya selama pengerjaan tugas akhir ini. Mohon maaf apabila ada tindakan maupun perkataan saya yang kurang berkenan di hati bapak dan Ibu. terimakasih banyak atas saran, nasehat, dan ilmu yang sudah diberikan kepada saya, semoga bermanfaat dimasa mendatang. 5. Seluruh dosen dan staf jurusan Teknik Informatika Universitas Pembangunan Nasional Veteran Jawa Timur yang telah banyak memberi ilmu, dukungan, bantuan, serta pengalaman yang akan sangat berguna bagi masa depan saya. 6. Bapak Ir. Sutiyono, MT selaku dekan Fakultas Teknologi Industri

7 7. Teman-teman Mahasiswa Teknik Informatika, sahabat - sahabat saya Heru, Affan, dan sahabat kost seperjuangan yang turut memberi masukkan dan dukungan, Suwun rek!!. 8. Dan semua pihak yang tidak dapat saya sebutkan satu persatu yang telah membantu dalam penyusunan sampai terselesaikannya tugas akhir ini. Penyusun menyadari bahwa tugas akhir ini masih banyak kekurangan, oleh karena itu saran dan kritik yang membangun akan penyusun terima dengan lapang dada. Akhir kata semoga laporan ini dapat memberikan manfaat bagi semua pihak yang berkepentingan dan Allah SWT memberikan balasan kepada semua pihak yang telah memberikan bantuan. Surabaya, 15 Desember 2014

8 DAFTAR ISI Kata Pengantar... ii Daftar Isi... iii Daftar Gambar... vi Daftar Tabel... x BAB I - Pendahuluan Latar Belakang Rumusan Masalah Batasan Masalah Tujuan Manfaat Sistematika Penulisan... 5 BAB II - Tinjauan Pustaka Peneliti Terdahulu Website Sejarah Website Web Server Serangan Website Database Firewall Host Based Application Firewalls... 29

9 2.7 Modsecurity Jwall Auditconsole The Mole BAB III - Metodelogi Penelitian Deskripsi Sistem Alur Penelitian Studi Literatur Definisi Kebutuhan Sistem Kebutuhan Hardware Kebutuhan Software Rancangan Implementasi Rancangan Implementasi Web Server Rancangan Implementasi Modsecurity Rancangan Implementasi Jwall Auditconsole Rancangan Implementasi The Mole Rancangan Uji Coba dan Evaluasi Uji Coba Skenario 1 (satu) Uji Coba Skenario 2 (dua) Rancangan Hasil Uji Coba BAB IV - Hasil Dan Pembahasan Implementasi Implementasi Web Server... 52

10 4.1.2 Implementasi Modsecurity Implementasi Jwall Auditconsole Implementasi Tool The Mole Uji Coba dan Evaluasi Uji Coba Skenario 1(Satu) Uji Coba Skenario 2 (Dua) Hasil Uji Coba BAB V - Kesimpulan Dan Saran Kesimpulan Saran Daftar Pustaka... 94

11 DAFTAR GAMBAR Gambar 2.1 Penggambaran Metode Request di Web Server (jenkov, 2010) Gambar 2.2 Alur serangan Sql Injection (binushacker, 2012) Gambar 2.3 Web yang mempunyai kerentanan terhadap serangan Sql Injection Gambar 2.4 Alur serangan blind XSS (Acunetix, 2012) Gambar 2.5 Illustrasi cara kerja Firewall secara umum Gambar 2.6 Illustrasi cara kerja web application firewall (Paolo Passeri,2012) Gambar 2.7 Illustrasi cara kerja modsecurity.(ivan Ristic, 2013) Gambar 2.8 Alur Kerja Modsecurity Gambar 2.10 Illustrasi cara kerja Jwall.(OWASP, 2013) Gambar 2.11 Tampilan awal The Mole Gambar 3.1 Blok Diagram Perancangan Gambar 3.2 Diagram Alur Rancangan Penelitian Gambar 3.3 Rancangan Implementasi Gambar 3.4 Rancangan Implementasi Web Server Gambar 3.5 Rancangan implementasi modsecurity Gambar 3.6 Rancangan implementasi Jwall Auditconsole Gambar 3.7 Rancangan implementasi The Mole Gambar 3.8 Rancangan Analisa Pembuktian Serangan Gambar 4.1 proses install Apache web server Gambar 4.2 proses restart Apache web server... 53

12 Gambar 4.3 proses install Mysql Server Gambar 4.4 proses install Phpmyadmin Gambar 4.5 Halaman awal Phpmyadmin Gambar 4.6 Web Server Apache bekerja Gambar 4.7 Halaman utama web uji coba Gambar 4.8 installasi library Modsecurity Gambar 4.9 installasi Modsecurity Gambar 4.10 Gedit Modsecurity.conf Gambar 4.11 setting Modsecurity.conf Gambar 4.12 mengaktifkan Modsecurity Gambar 4.13 Proses restart web server Gambar 4.15 reply setelah modsecurity terpasang Gambar 4.16 proses install Jwall Auditconsole Gambar 4.17 start Jwall Auditconsole Gambar 4.18 halaman awal Jwall Auditconsole Gambar 4.19 halaman setting Jwall Auditconsole Gambar 4.20 Proses install JDBC Driver Gambar 4.21 Halaman Setting Sensor Jwall Gambar 4.22 setting konfigurasi Mlogc Gambar 4.23 Tampilan penetration test Gambar 4.24 Tampilan Hasil Audit Log Jwall Gambar 4.25 Tampilan detil laporan serangan... 70

13 Gambar 4.26 Install Phyton3-lxml Gambar 4.27 Langkah Installasi The Mole Gambar 4.28 Tampilan awal The Mole Gambar 4.29 Perintah injeksi the Mole Gambar 4.30 syntax Sql Injection mencari column Gambar 4.31 syntax Sql Injection menemukan jumlah column Gambar 4.32 syntax Sql Injection mencari nama tabel Gambar 4.33 syntax Sql Injection mencari isi tabel Gambar 4.34 syntax Sql Injection mencari data username dan password Gambar 4.35 Tampilan awal The Mole Gambar 4.36 Proses injeksi Sql The Mole Gambar 4.37 Database berhasil ditampilkan Gambar 4.38 Database berhasil ditampilkan Gambar 4.39 isi table berhasil di tampilkan Gambar 4.40 Tampilan Web setelah dilakukan uji coba time delay Sql Injection Gambar 4.41 Tampilan login palsu XSS Gambar 4.42 Informasi data web phising Gambar 4.43 Hasil script XSS alert Gambar 4.44 Pesan Forbbiden modsecurity Gambar 4.45 Log file mendeteksi Sql Injection Gambar 4.46 Audit Console Menampilkan informasi Log file Gambar 4.47 Modsecurity Block serangan dari Tool The Mole... 85

14 Gambar 4.48 Jwall Menampilkan Laporan adanya serangan Sql Injection Gambar 4.49 Modsecurity Block serangan Time Delay Sql Injection Gambar 4.46 Modsecurity Block serangan XSS Gambar 4.47 Alert XSS dari Jwall Auditconsole... 87

15 DAFTAR TABEL Tabel 4.1 Parameter serangan Sql Injection Tabel 4.2 Hasil Uji Coba Serangan Blind Sql Injection Tabel 4.3 Hasil Uji Coba Serangan Tool Sql Injection Tabel 4.4 Hasil Uji Coba Serangan Sql Injection Tabel 4.5 Hasil Uji Coba Serangan XSS... 92

16 BAB I PENDAHULUAN 1.1 Latar Belakang Dalam generasi jaringan berbasis web sekarang ini, banyak jenis sumber daya dan layanan yang disediakan oleh internet popular saat ini, seperti e- shopping, transaksi bisnis dan industri game online. Namun, dengan kenyamanan dan fasilitas ini, semakin banyak bahaya yang mengintai. Misalnya, cyber-crime yang sering terjadi pada game on-line, informasi pelanggan dari bank local yang bocor dan perampokan cyberbank yang terjadi pada salah satu bank dalam negeri. Oleh karena itu, berbagai perusahaan pengembang telah mengerahkan berbagai jenis fasilitas keamanan jaringan seperti Honeypot, Intrusion Detection System (IDS), dan Firewall. Perkembangan jaringan berbasis web sekarang ini, berbagai perusahaan penyedia layanan jaringan telah menawarkan banyak layanan web seperti Penyimpanan halaman web, album web, blog. Setiap orang dapat memasukan request Http pribadi ke manapun seseorang terhubung ke Internet. Hal ini membuka kesempatan terhadap hacker dan cracker untuk menjalankan aksinya Namun disisi lain, kemampuan Intrusion Detection Sistem untuk

17 mendeteksi berbagai kegiatan serangan web yang bersifat fleksibel sangat terbatas.sebagai contoh, banyak spread dijaring berasal dari CNN pada bulan Agustus 2008, terdapat banyak situs Phishing beredar, dan Flash Malware BOTNET(Gartner Report, 2010). Selain itu, perkembangan serangan web semakin pesat, menurut laporan OWASP top 10 web attack dalam rentang waktu 2012 hingga 2013 serangan web tertinggi yang terjadi adalah Sql Injection dan XSS(OWASP, 2013), Hal ini mendorong peningkatan kebutuhan akan keamanan web server terhadap serangan tersebut. Dalam tradisi perkembangan IDS saat ini masih sering menggunakan Regular Expressions untuk pencocokan pola serangan yang menjadikan hal ini tidak efisien dan tidak berguna ketika diserang oleh serangan web yang terbaru dan lebih fleksibel. Dalam hal ini dibutuhkan sebuah system yang dapat mengatasi masalah ini secara efektif, salah satunya adalah web application firewall (WAF) yang berbasis aplikasi dalam bentuk modul web server dengan menggunakan metode rule base detection. hal ini lebih fleksibel dari pada metode pencocokan pola (signature base), kerena metode serangan Web baru-baru ini biasanya menggunakan serangan multi-level atau multi-decoded yang selalu berubah ubah untuk menghindari serangan terdeteksi oleh IDS. Tujuan dari tugas akhir ini adalah membuat sistem pengamanan dan pelaporan dengan menggunakan Waf Modsecurity dan tools audit console Jwall yang dibuat khusus untuk menampilkan dan mengkaji isi dari log file Modsecurity. Intrusi yang di cegah dari system ini adalah serangan Sql Injection dan Cross Site Scripting (XSS). 8

18 12 Manfaat dari Sistem yang akan di implementasikan ini adalah untuk menjaga validitas dan integritas data pada web server serta menjamin ketersediaan layanan bagi penggunanya dan melindungi web server dari serangan Sql Injection dan XSS serta, memudahkan administrator untuk mengontrol dan memantau keamanan web server secara langsung tanpa harus mengawasi langsung dari computer host/ server. 1.2 Rumusan Masalah Sistem deteksi penyusupan jaringan yang ada saat ini umumnya mampu mendeteksi berbagai jenis serangan tetapi tidak mampu mengambil tindakan lebih lanjut. Selain itu sistem yang ada pada saat ini tidak memiliki interaktivitas dengan administrator pada saat administrator tidak sedang mengawasi sistemnya. Hal ini merupakan suatu hal yang tidak efektif terutama pada saat sistem berada dalam kondisi kritis. beberapa rumusan permasalahan yang ada dalam membangun sistem ini yaitu: a. Bagaimana mengimplementasikan web application firewall Modsecurity untuk meningkatkan keamanan web terhadap serangan Sql Injection dan XSS. b. Bagaimana mengolah log file menggunakan Audit Console guna memisahkan isi dari log file Modsecuriy. c. Bagaimana mengiplementasikan website laporan serangan Jwall Audit Console yang terintergrasi dengan log Modsecurity. 1.3 Batasan Masalah

19 13 Pada penyelesaian tugas akhir ini terdapat beberapa batasan masalah yang dikaitkan dengan pembuatan pelaporan intrusi pada web server ini, antara lain : a. Operating system yang digunakan adalah Ubuntu bit. b. Tool web application firewall adalah Modsecurity. c. Tool yang digunakan untuk mengolah log file adalah Jwall audit console. d. Intrusi yang difilter adalah XSS (Cros Site Scripting) dan Sql Injection. 1.4 Tujuan Pada tugas akhir ini diimplementasikan system pengamanan dan pelaporan intrusi dari serangan web server. Adapun tujuan dari tugas akhir ini adalah : a. Mendeteksi dan mencegah terjadinya intrusi terhadap Website dari serangan Sql Injection dan XSS. b. Mengimplementasikan Website laporan untuk melaporkan aktifitas log serangan Sql Injection dan XSS (cross side scripting) yang terjadi pada Web server. 1.5 Manfaat Keamanan Web server sebagai bagian dari sebuah sistem informasi adalah sangat penting untuk menjaga validitas dan integritas data serta menjamin ketersediaan layanan bagi penggunanya.maka dari itu, Sistem harus dilindungi dari segala macam serangan dan usaha-usaha penyusupan atau pemindaian oleh pihak yang tidak berhak. Sistem deteksi penyusupan jaringan yang ada saat ini umumnya mampu mendeteksi berbagai jenis serangan tetapi tidak mampu

20 14 mengambil tindakan lebih lanjut.beberapa manfaat dari tugas akhir ini adalah sebagai berikut : a. Meningkatkan keamanan Website Membuat Website dengan tingkat keamanan yang tinggi sehingga tidak mudah untuk dirusak atau dimasuki oleh pihak pihak yang tidak bertanggung jawab. b. Terhindar dari Phising Website bebas dari ulah perusak tampilan dan peniru tampilan website yang telah dibangun, bahkan menghapus data penting yang ada di dalam database. c. Memudahkan administrator Dengan adanya sistem ini administrator dapat mengawasi website yang di kelolanya dengan lebih fleksibel karena dalam sistem ini diinplementasikan website laporan serangan yang bisa diakses kapanpun. 1.6 Sistematika Penulisan Sistematika penulisan tugas akhir ini akan membantu memberikan informasi tentang tugas akhir yang dijalankan dan agar penulisan laporan ini tidak menyimpang dari batasan masalah yang ada, sehingga susunan laporan ini sesuai dengan apa yang diharapkan. Sistematika penulisan laporan tugas akhir ini adalah sebagai berikut.

21 15 Bab I Pendahuluan Bab ini berisi mengenai gambaran umum penelitian tentang latar belakang masalah, perumusan masalah, batasan masalah, tujuan tugas akhir, manfaat tugas akhir, dan sistematika penulisan. Bab II Tinjauan Pustaka Tinjauan pustaka berisi tentang berbagai konsep dasar penyerangan, tool pendukung, Web Aplication Firewall serta analisa yang digunakan dan teori-teori yang berkaitan dengan topik masalah yang diambil dan hal-hal yang berguna dalam proses analisis permasalahan. Bab III Metode Penelitian Metode tugas akhir ini berisi tentang rancangan jaringan, rancangan serangan-serangan, rancangan sistem klasifikasi, dan konfigurasi-konfigurasi yang digunakan dalam mendeteksi, serta metode-metode lain yang digunakan untuk menyelesaikan tugas akhir ini. Bab IV Hasil dan Pembahasan Dalam implementasi sistem ini berisi tentang hasil dan pembahasan tentang beberapa konfigurasi yang dilakukan pada bab sebelumnya untuk mengimplementasikan mesin sistem deteksi intrusi dengan Snort menggunakan Modsecurity core rule untuk meningkatkan efektifitas pendeteksian serangan web Sql Injection dan Cros Site

22 16 Scripting serta melakukan serangkaian uji coba untuk menganalisa kinerja sistem yang telah dibuat. Bab V Kesimpulan Dan Saran Berisi kesimpulan dan saran dari penulis yang sudah diperoleh dari hasil penulisan tugas akhir.