ANALISIS SISTEM FIREWALL PADA JARINGAN KOMPUTER MENGGUNAKAN IPTABLES UNTUK MENINGKATKAN KEAMANAN JARINGAN

Transkripsi

1 ANALISIS SISTEM FIREWALL PADA JARINGAN KOMPUTER MENGGUNAKAN IPTABLES UNTUK MENINGKATKAN KEAMANAN JARINGAN KOMPETENSI KOMPUTASI [SKRIPSI] I WAYAN SUPRIANA JURUSAN MATEMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS UDAYANA 2008

2 KATA PENGANTAR Puji Syukur penulis panjatkan kehadapan Ida Sang Hyang Widhi Wasa karena atas berkat-nya maka penulis dapat menyelesaikan Tugas Akhir dengan judul : Analisis Sistem Firewall Pada Jaringan Komputer Menggunakan IPTables untuk Meningkatkan Keamanan Jaringan. Penulisan tugas akhir ini dimaksudkan sebagai sebagian syarat untuk memperoleh gelar Sarjana Sains Jurusan Matematika Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Udayana. Sehubungan dengan telah terselesaikannya Tugas Akhir ini, penulis mengucapkan terimakasih kepada semua pihak yang telah membantu, antara lain: 1. Bapak Drs. G. K. Gandhiadi, MT selaku Ketua Jurusan Matematika Fakultas MIPA Universitas Udayana; 2. Bapak Drs. I Wayan Santiyasa, M.Si sebagai Calon Pembimbing I yang telah banyak membantu dan memberikan saran yang membangun dalam menyempurnakan Tugas Akhir ini; 3. Bapak Cokorda Rai Adi Pramartha,S.T, M.M sebagai calon pembimbing II yang telah bersedia membantu, memeriksa dan menyempurnakan Tugas Akhir ini; 4. Bapak-bapak dan ibu-ibu dosen di Jurusan Matematika khususnya Bapak Drs. GK. Gandiadhi, MT, Bapak Agus Muliantara, S.Kom, dan Bapak Ir. I Putu Eka Nila Kencana, MT selaku penguji yang telah memberikan saran dan masukan dalam penyempurnaan Tugas Akhir ini; 5. Kawan-kawan di Jurusan Matematika yang telah memberikan dukungan moral dalam penyelesaian Tugas Akhir ini; Penulis menyadari bahwa masih banyak kekurangan-kekurangan dalam penulisan Tugas Akhir ini, untuk itu kritik dan saran dari pembaca sangat diharapkan demi kesempurnaan Tugas Akhir ini. Jimbaran, September 2008 Penulis i

3 DAFTAR ISI KATA PENGANTAR... Halaman i DAFTAR ISI.... DAFTAR TABEL... DAFTAR GAMBAR..... DAFTAR LAMPIRAN... ii v vi vii BAB I. PENDAHULUAN Latar Belakang Rumusan Masalah Tujuan Batasan Masalah Manfaat Sistematika Penulisan... 4 BAB II. LANDASAN TEORI Konsep Dasar Sistem Definisi Sistem Karakteristik Sistem Sistem Development Life Cycle (SDLC) Identifikasi Masalah, Peluang, dan Tujuan Penentuan Kebutuhan Informasi Analisis Kebutuhan Sistem Perancangan Sistem yang Direkomendasikan Pengembangan dan Dokumentasi Perangkat Lunak Ujicoba dan Pemeliharaan Sistem Implementasi dan Evaluasi Sistem Konsep Pengamanan Jaringan (Network Security) Perencanaan security Mengenali ancaman terhadap network security ii

4 2.3.3 Kontrol terdistribusi Menentukan security policy Jaringan Komputer Topologi Jaringan Model referensi OSI dan Standarisasi Protokol TCP/IP User Datagram Protocol (UDP) Internet Control Message Protocol (ICMP) Network Port DMZ (De-Militarised Zone) Firewall Fungsi Dasar Firewall Teknik Yang Digunakan Oleh Sebuah Firewall Cara kerja Firewall Langkah-langkang membangun Firewall IPTables Syntax IPTables Penggunaan IPTables BAB III METODELOGI PENELITIAN Metode Pengembangan Sistem Identifikasi Masalah, Kesempatan dan Tujuan Penentuan Kebutuhan Informasi Analsis Sistem Perancangan Sistem yang Direkomendasikan Pengembangan dan Dokumentasi Perangkat Lunak Pengujian Sistem BAB IV HASIL DAN PEMBAHASAN Analisa Sistem SWOT dan Tujuan Sistem iii

5 4.1.2 Tinjauan Sudut Pandang Proses Identifikasi Kebutuhan Informasi Analisis Kebutuhan Sistem Analisis Proses Arsitektur Sistem Spesifikasi Kebutuhan Perangkat Lunak Perancangan Sistem Perancangan Sistem Secara Umum (general system design) Perancangan Sistem Secara Terinci (detailed system design) Pengujian Sistem Hasil Pengujian BAB V PENUTUP Kesimpulan Saran DAFTAR PUSTAKA LAMPIRAN iv

6 DAFTAR TABEL Halaman Tabel 2.1 Hubungan referensi model OSI dengan protokol Internet Tabel 2.2 Port TCP Tabel 4.1 Protokol TCP dan UDP Interface Ethernet0 pada Chain Input Tabel 4.2 Protokol ICMP Interface Ethernet0 pada Chain Input Tabel 4.3 Protokol TCP dan UDP Interface Ethernet2 pada Chain Input Tabel 4.4 Protokol ICMP Interface Ethernet2 pada Chain Input Tabel 4.5 Protokol TCP dan UDP Interface Ethernet1 pada Chain Input Tabel 4.6 Protokol ICMP Interface Ethernet1 pada Chain Input Tabel 4.7 Protokol TCP dan UDP Interface Ethernet0 pada Chain Forward 56 Tabel 4.8 Protokol ICMP Interface Ethernet0 pada Chain Forward Tabel 4.9 Protokol TCP dan UDP Interface Ethernet2 pada Chain Forward 57 Tabel 4.10 Protokol ICMP Interface Ethernet2 pada Chain Forward Tabel 4.11 Protokol TCP dan UDP Interface Ethernet1 pada Chain Forward 58 Tabel 4.12 Protokol ICMP Interface Ethernet1 pada Chain Forward Tabel 4.13 Sistem Firewall yang Mmasuk ke Ethernet eth0, eth2, eth Tabel 4.14 Ulogd Menit Pertama Tabel 4.15 Ulogd Menit Kedua Tabel 4.16 Ulogd Menit Ketiga Tabel 4.17 Ulogd Menit Keempat v

7 DAFTAR GAMBAR Halaman Gambar 1.1 Konsep Firewall Jurusan Matematika... 2 Gambar 2.1 Karakteristik Sistem Gambar 2.2 Tujuh Tahapan SDLC... 9 Gambar 2.3 Topologi Bus Gambar 2.4 Topologi Star Gambar 2.5 Topologi Tree Gambar 2.6 Format ICMP Message Gambar 2.7 Timbulnya ICMP Gambar 2.8 Konfigurasi Sederhananya Firewall Gambar 4.1 Proses Sistem firewall Gambar 4.2 Topologi firewall Gambar 4.3 Arsitektur Sistem Gambar 4.4 Alur Data sistem Gambar 4.5 Konfigurasi Jaringan Pengujian Gambar 4.6 Global Traffic Statistics Gambar 4.7 Global Protocol Distribution Gambar 4.8 Host Information Gambar 4.9 Network Traffic Gambar 4.10 Network Activity Gambar 4.11 Network Traffic Protokol TCP/IP Gambar 4.12 ICMP Watch Gambar 4.13 Info Localhost Gambar 4.14 Interface eth0 dan eth Gambar 4.15 Statistika Interface eth0 dan eth vi

8 DAFTAR LAMPIRAN Lampiran 1 Lampiran 2 Installasi dan Konfigurasi Rule IPTables Sebagai Firewall Di Jurusan Matematika vii