PENDETEKSIAN DAN PENCEGAHAN SERANGAN REMOTE COMMAND EXECUTION PADA HTTP FILE SERVER DENGAN MENGGUNAKAN SNORT

Transkripsi

1 PENDETEKSIAN DAN PENCEGAHAN SERANGAN REMOTE COMMAND EXECUTION PADA HTTP FILE SERVER DENGAN MENGGUNAKAN SNORT SKRIPSI Disusun sebagai salah satu syarat menyelesaikan Jenjang Strata I Pada Program Studi Informatika Fakultas Komunikasi dan Informatika Universitas Muhammadiyah Surakarta Oleh: YUDHI PRASETYO NIM : L PROGRAM STUDI INFORMATIKA FAKULTAS KOMUNIKASI DAN INFORMATIKA UNIVERSITAS MUHAMMADIYAH SURAKARTA 2015

2

3

4

5 v PERSEMBAHAN Sebagai rasa syukur penulis persembahkan karya ini kepada : 1. Allah SWT yang selalu melimpahkan rahmat dan hidayah bagi hambanya serta yang selalu menunjukan jalan yang lurus. 2. Kedua orang tuaku tercinta, Bapak Kastono dan Ibu Selly Waltini yang telah membimbing saya dari kecil hingga sekarang ini, untuk setiap nasihat dan doa yang dipanjatkan untuk kesuksesan penulis, serta dukungan moril dan materiilnya. 3. Kepada kakak saya Sonny Hartono dan Agung Hartanto yang telah memberikan nasihat, semangat dan motivasi. 4. Kepada Bapak Eka Indarto dan Ibu Irma Indarto yang selalu memberikan motivasi, nasihat dan pandangan dalam pengerjaan skripsi. 5. Kepada keluarga besar saya yang ada di Solo. 6. Kepada sahabat saya Imam, Fahri, Ikhsan yang selalu memberikan motivasi, semangat dan keceriaan dalam proses pengerjaan tugas akhir. 7. Kepada Dewi, Dona, Nisa, dan lainnya yang secara tidak langsung telah memberikan dukungan dan memotivasi saya dalam penulisan tugas akhir. 8. Kepada semua teman - teman saya yang tidak dapat saya sebutkan satu per satu yang selalu memberikan semangat serta motivasi. 9. Kepada Lenny yang telah bertahan dari awal hingga akhir perkuliahan. Tidak sampai hati untuk menggantimu dengan laptop lainnya. 10. Almamater

6 vi KATA PENGANTAR Alhamdulillahirabbil alamin atas segala nikmat iman, Islam, kesempatan, serta kekuatan yang telah diberikan Allah Subhanahuwata ala sehingga Penulis dapat menyelesaikan skripsi ini. Shalawat beriring salam untuk tuntunan dan suri tauladan Rasulullah Shallallahu alaihiwasallam beserta keluarga dan sahabat beliau yang senantiasa menjunjung tinggi nilai-nilai Islam yang sampai saat ini dapat dinikmati oleh seluruh manusia di penjuru dunia. Skripsi ini dibuat sebagai salah satu syarat untuk menyelesaikan jenjang strata I program studi Informatika Universitas Muhammadiyah Surakarta. Judul skripsi ini adalah Pendeteksian dan Pencegahan Serangan Remote Command Execution Pada HTTP File Server dengan Menggunakan Snort. Sehingga dalam kesempatan ini penulis mempersembahkan ucapan terima kasih kepada : 1. Allah Subhanahu Wata ala yang maha segalanya. 2. Bapak Husni Thamrin, S.T., M.T., Ph.D. selaku Dekan Fakultas Komunikasi dan Informatika Universitas Muhammadiyah Surakarta. 3. Bapak Dr. Heru Supriyono, M.Sc. selaku ketua Program Studi Informatika Universitas Muhammadiyah Surakarta. 4. Bapak Fatah Yasin Al Irsyadi, S.T., M.T. selaku Pembimbing Akademik dan Pembimbing Skripsi yang telah berkenan untuk meluangkan waktu dan membimbing serta mengarahkan penulis dari awal perkuliahan sampai akhir perkuliahan sehingga terselesaikannya penyusunan skripsi ini.

7

8 viii ABSTRAK Perkembangan teknologi komputer semakin memudahkan user untuk berbagi informasi maupun data. Web application menjadi wadah untuk melakukan kegiatan sharing data tersebut. Institusi pendidikan serta perusahaan juga ikut ambil bagian dalam pemanfaatan wadah untuk berbagi informasi tersebut. Kemudahan dalam melakukan sharing data memancing serangan yang dapat dilakukan berbagai pihak. Serangan dimaksudkan untuk mendapatkan data yang berharga ataupun hanya sekedar ingin mengganggu konektivitas yang sedang dilakukan oleh user lainnya. Penelitian ini akan membahas mengenai bagaimana cara mendeteksi suatu serangan remote command execution yang dilakukan terhadap media sharing data Rejetto HTTP File Server dengan menggunakan sistem pendeteksi serangan berupa snort dan dilakukan pencegahan dengan membangun rule firewall aktif. Rule snort akan mengidentifikasi setiap data yang masuk dan menentukan apakah data tersebut merupakan bagian dari serangan remote command execution atau bukan. Hasil dari penelitian ini adalah sistem keamanan jaringan komputer yang mampu mendeteksi terjadinya serangan remote command execution yang menyerang Rejetto HTTP File Server dan di kolaborasikan dengan konfigurasi firewall secara manual yang digunakan sebagai tindakan pencegahan agar serangan tersebut tidak terjadi kembali. Kata kunci : Sharing Data, Web Application, HTTP File Server, Remote Command Execution.

9 ix DAFTAR ISI HALAMAN JUDUL... LEMBAR PERSETUJUAN... LEMBAR PENGESAHAN... DAFTAR KONTRIBUSI... PERSEMBAHAN... KATA PENGANTAR... ABSTRAK... DAFTAR ISI... DAFTAR GAMBAR... DAFTAR TABEL... i ii iii iv v vi viii ix xii xiv BAB I PENDAHULUAN Latar Belakang Masalah Rumusan Masalah Batasan Masalah Tujuan Penelitian Manfaat Penelitian Sistematika Penulisan... 6 BAB II TINJAUAN PUSTAKA Telaah Pustaka Landasan Teori Jaringan Komputer... 11

10 x Intrusion Detection System Snort Metasploit Rejetto HTTP File Server Firewall Remote Command Execution Web Application BAB III METODOLOGI PENELITIAN Alokasi Waktu Perangkat yang Dibutuhkan Komputer Server Hardware Software Komputer Client Hardware Software Metode Penelitian Tahapan Penelitian Perancangan Sistem Konfigurasi HTTP File Server Konfigurasi Metasploit pada client Konfigurasi IDS Software Installasi Kiwi Log Viewer Konfigurasi Firewall Pengujian Sistem... 52

11 xi BAB IV HASIL DAN PEMBAHASAN Hasil Penelitian Tahapan Pendeteksian Serangan Tahapan Pencegahan Serangan Pembahasan BAB V PENUTUP Kesimpulan Saran DAFTAR PUSTAKA PROFIL PENULIS... 73

12 xii DAFTAR GAMBAR 1.1 Presentase Pengguna Internet Cara Kerja Firewall Tampilan HFS ketika dijalankan HFS yang diakses Melalui Web Browser Tampilan awal metasploit Pencarian HFS pada metasploit Menentukan obyek penyerangan Tampilan set rhost dan set rport Setting pada metasploit Metasploit melakukan serangan terhadap target Alur serangan metasploit Tampilan interface network yang terbaca oleh snort Tampilan Snort telah siap digunakan Tampilan interface kiwi log viewer Tampilan konfigurasi firewall Tampilan profil firewall Tampilan Aturan Inbound atau Outbound Tampilan pembuatan New Rule Tampilan pemilihan program Protokol dan Port panel Panel scope IP address... 50

13 xiii 3.20 Action panel Profile panel Nama rule firewall Tampilan Konfigurasi firewall telah selesai IP address server (target) IP address client (attacker) Menentukan HFS sebagai objek serangan Metasploit berhasil masuk ke sistem server Tampilan shell Tampilan membuat folder pada sistem Skenario penyerangan Skenario Penyerangan Mengubah nama file Skenario Penyerangan Tampilan sebelum dan sesudah data di hapus Skenario Penyerangan Mengambil data dari sistem Skenario Penyerangan Mengganti isi dari data Terdeteksi Serangan dari Attacker Rule RCE diaktifkan pada firewall Metasploit gagal menyerang target... 67

14 xiv DAFTAR TABEL 4.1 Tabel Kelebihan dan Kekurangan dari Firewall... 69