SIMULASI PERANCANGAN KEAMANAN JARINGAN DENGAN MENGGUNAKAN IPS (INTRUSION PREVENTION SYSTEM) PADA UNIT INFOKOM UNIVERSITAS MUHAMMADIYAH MALANG

Transkripsi

1 SIMULASI PERANCANGAN KEAMANAN JARINGAN DENGAN MENGGUNAKAN IPS (INTRUSION PREVENTION SYSTEM) PADA UNIT INFOKOM UNIVERSITAS MUHAMMADIYAH MALANG TUGAS AKHIR Diajukan Untuk Memenuhi Persyaratan Guna Meraih Gelar Sarjana Strata 1 Teknik Informatika Universitas Muhammadiyah Malang Oleh : AKHMAD MUZAKIR JURUSAN TEKNIK INFORMATIKA FAKULTAS TEKNIK UNIVERSITAS MUHAMMADIYAH MALANG 2013

2

3 KATA PENGANTAR Assalamu'alikum Wr. Wb. Syukur alhamdulillah penulis haturkan kehadirat Allah SWT, atas limpahan rahmat, nikmat dan hidayah-nya serta anugerah yang diberikan kepada penulis berupa kekuatan, kesempatan, kesehatan, kesabaran, dan kepahaman. Shalawat serta salam semoga terlimpahkan kepada nabi besar Muhammad SAW yang telah membawa tauladan yang khasanah sebagai penunjuk kita, sehingga penulis dapat menyelesaikan tugas akhir yang berjudul "SIMULASI PERANCANGAN KEAMANAN JARINGAN DENGAN MENGGUNAKAN IPS (INTRUSION PREVENTION SYSTEM) PADA UNIT INFOKOM UNIVERSITAS MUHAMMADIYAH MALANG" tanpa kesulitan yang berarti. Tugas akhir ini penulis susun sebagai salah satu persyaratan untuk memperoleh gelar Sarjana Teknik Informatika Universitas Muhammadiyah Malang. Dalam kesempatan ini, ijinkan penulis menyampaikan rasa terimakasih kepada : 1. Kedua orang tua dan segenap keluarga, yang tanpa henti-hentinya selalu mendoakan, mendukung, dan memotivasi penulis sehingga dapat menyelesaikan tugas akhir ini dengan lancar dan tepat waktu. 2. Kedua dosen pembimbing, Bapak Ir. Lailis syafa ah, MT dan Bapak Setio Basuki ST. Terimakasih karena telah memberikan bimbingan, masukan, semangat dan nasehat sehingga skripsi ini bisa terselesaikan dengan baik. 3. Bapak Nashar dan dan teman teman di Unit Infokom yang telah memberikan kesempatan untuk belajar bersama di Infokom selama ini. 4. Bapak Harry Widjaya dan Ibu ibu dan Bapak-bapak dari UPT Perpustakan UMM yang telah memberikan kesempatan belajar. 5. Kepada teman teman seperjuangan terutama Infomatika 08B, serta teman teman yang ada dan pernah tinggal di Malang bersama.

4 6. Dan semua pihak yang telah membantu dalam menyelesaikan penyusunan tugas akhir ini. Penulis meyadari sepenuhnya bahwa dalam penulisan tugas akhir ini masih banyak kekurangan dan keterbatasan. Oleh karena itu penulis mengharapkan saran yang membangun agar tulisan ini bermanfaat bagi perkembangan ilmu pengetahuan kedepan. Wassalamu'alikum Wr. Wb. Malang, 18 Juli 2013 Penulis

5 DAFTAR ISI ABSTRAK... i ABSTRACT... ii DAFTAR ISI... v DAFTAR GAMBAR... viii DAFTAR TABEL... x BAB I PENDADULUAN Latar Belakang Rumusan Masalah Tujuan Batasan Masalah Metodologi Sistematika Penulisan... 4 BAB II LANDASAN TERORI Jaringan Komputer Model TCP/IP Bridge Model Komunikasi Data Ubuntu Server VMware Web Server Apache Web Server MySQL Intrusion Prevention System Snort Inline Security Network BAB III PERANCANGAN SISTEM Analisa Kebutuhan Sistem Kebutuhan Perangkat Lunak Pengalamatan Internet Protocol Skema Perancangan Sistem Perancangan Sistem... 24

6 3.3.1 Instalasi Ubuntu Server LTS Instalasi Apache, PHP, MySQL dan Library Snort Instalasi Snort Konfigurasi pada Snort Mode Mode Snort IPtables Jenis Jenis Tool Pengujian BAB IV IMPLEMENTASI DAN PENGUJIAN Prosedur Pengujian Implementasi Sistem Instalasi Ubuntu Server Konfigurasi IP Address Instalasi Snort Mode Inline Konfigurasi Snort IPS Mengaktifkan Snort IPS Instalasi BASE Pengujian Pengujian Fungsionalis Sistem Pengujian Sistem IPS Pengujian Kinerja Server IPS Monitoring Jaringan BAB V PENUTUP Kesimpulan Saran DAFTAR PUSTAKA... 50

7 DAFTAR GAMBAR Gambar 3.1. Arsiterktur Sistem Gambar 3.2 Tahap Proses Input, Proses dan Output Gambar 3.3. Skema Perancangan Sistem Gambar 3.4. Setting IP Addres Pada ServerIntrusion Prevention System (IPS).. 24 Gambar 3.5. Instalasi Apache, PHP, MySQL, dan Library Snort Gambar 3.6. Instalasi Snort Mode Inline Gambar 3.7. Konfigurasi IP address Protecting Snort Gambar 3.8. Rules Snort Gambar 3.9. Packet Header TCP/IP Gambar Aplikasi berjalan pada TCP/UDP/ICMP Gambar Snort Header dari Data Link Layer Gambar IPtables yang telah Terinstal Gambar Aplikasi LOIC Gambar Aplikasi Advanced Port Scanner Gambar Aplikasi Webserver Strees Tool Gambar 4.1. Gambar Prosedur Pengujian Gambar 4.2. Instalasi Bridge-util Gambar 4.3. Konfigurasi IP Server Gambar 4.4. Snort Mode Inline Gambar 4.5. Konfigurasi Snort dengan MySQL Gambar 4.6. Konfigurasi Rule Snort Gambar 4.7. Mengaktifkan Snort Gambar 4.8. Pengujian Menjalankan Web Server Gambar 4.9. Pengujian Menjalankan MySQL... 39

8 Gambar Pengujian Menjalankan IPtables Gambar Pengujian Menjalankan Snort Gambar Pengujian Paket Size Gambar Pengujian LOIC Method TCP Gambar Hasil Pengujian LOIC Method TCP Gambar Pengujian LOIC Method UDP Gambar Hasil Pengujian LOIC Method UDP Gambar Pengujian LOIC Method HTTP Gambar Hasil Pengujian LOIC Method HTTP Gambar Port Scanning Gambar Hasil dari Snort Scanning Gambar Grafik Transfer Data System Memory dan CPU load Gambar Grafik Transfer Data System Memory dan CPU load Gambar Monitoring BASE Gambar Alert Pada BASE... 47

9 DAFTAR TABEL Tabel 2.1 Struktur tujuh Lapis model OSI (Sukaridhoto, 2007)... 9 Tabel 3.1 Address Server Intrusion Prevention System (IPS) Tabel 3.2 Addres intruder... 22

10 DAFTAR PUSTAKA [1] Community: Snort and Snort Report Instalation for ubuntu LTS, diakses pada tanggal 18 juli [2] Ilyas, M Desain dan Implementasi Clustering pada WEB dan Database Server sebagai upaya peningkatan reliabilitas jaringan lokal di Universitas Muhammadiyah Malang. [3] Install Snort Inline mode di Ubuntu Lucid. diakses pada tanggal 18 juli [4] Low Orbit Ion Canon, diakses pada tanggal 18 juni [5] Ubuntu Documentation Team. (n.d.). Retrieved Oktober 11, 2012,from Official Ubuntu Documentation: [6] Rafirosah, E.A Perancangan sistem pengontrolan aktifitas web server IDS (Intrusion Detection System) berbasis SMS (Short Message Service). [7] Roesch, Martin, Snort User Manual 2.4.0RCI. [8] Sekilas tentang Webstress Stress Tool, diakses pada tanggal 18 juni [9] Snort Inline Part1 diakses pada tanggal 18 juli 2013.

11 [10] Snort Inline + Base on Ubuntu, diakses pada tanggal 18 juli [11] Gullet, David, Snort and Snort Report on Ubuntu LTS Installation Guide. [12] Subagyo, S.E Implementasi snort sebagai deteksi penyusupan keamanan jaringan dengan notifikasi sms. [13] Syarwoqi. Desain dan implementasi high avability server dan duplikasi data real time berbasis NAS. [14] Openmaniak, diakses pada tanggal 18 juni [15] Putty, diakses pada tanggal 18 juli 2013.