UNIVERSITAS BINA NUSANTARA. Jurusan Teknik Informatika Skripsi Sarjana Komputer Semester Ganjil tahun 2006 / 2007

Transkripsi

1 UNIVERSITAS BINA NUSANTARA Jurusan Teknik Informatika Skripsi Sarjana Komputer Semester Ganjil tahun 2006 / 2007 KEAMANAN JARINGAN MENGGUNAKAN UNIFIED THREAT MANAGEMENT (UTM) PADA SERVER BERBASISKAN LINUX Wahyu Hento Benny Defendy Abstrak Dalam kesempatan yang baik ini, penulis berusaha untuk memperkenalkan suatu sistem baru dalam bidang keamanan jaringan dengan nama UTM (Unified Threat Management). UTM adalah suatu aplikasi yang mengintegrasikan berbagai fitur keamanan menjadi suatu platform hardware tunggal. Kualifikasi didalam kategori ini meliputi kemampuan firewall jaringan, network intrusion detection and prevention (IDP), dan anti-virus gateway. Aplikasi yang penulis bangun merupakan paket UTM dalam sistem operasi Linux dengan menggunakan tools yang sudah berjalan dengan stabil. Alasan penulis membangun sistem ini adalah untuk memberikan proteksi menyeluruh pada jaringan di sekolah St. Bellarminus. Metode yang penulis gunakan adalah metode spiral dimana pengembangan aplikasi ini akan bersifat berkelanjutan dan dapat dengan mudah diubah jika ada versi terbaru dari tools keamanan yang digunakan dalam aplikasi atau jika ada tools keamanan yang lebih baik. Jadi, aplikasi ini dapat dikatakan memiliki kemampuan yang tidak terbatas selama operator sistem melakukan update dari tools tersebut. Hasil yang diberikan oleh aplikasi ini dapat dikatakan sangat baik karena memberikan proteksi jaringan yaitu: (1) cross-platform firewall, dimana firewall dapat diterapkan di dalam lingkungan Linux (sebagai server) maupun Windows (sebagai client). (2) Intrusion Detection System yang dapat mendeteksi intrusion seperti masquerade dan backdoor program. (3) Proxy Server yang memantau kegiatan jaringan dan memberikan batasan akses terhadap situs-situs yang termasuk blacklisted sites. (4) Proteksi terhadap yang mengandung virus dan spam. Keunggulan lain dari aplikasi yang dibuat dalam sistem operasi Linux ini adalah bahwa proteksi dapat dilakukan di sistem operasi Linux dan Windows secara bersama-sama. Simpulan yang penulis tarik dari aplikasi ini adalah aplikasi ini dapat menghasilkan efektivitas kerja yang lebih dengan biaya rendah dan aplikasi ini sangat berguna dalam memantau kondisi jaringan dan mengkonfigurasi jaringan di sekolah St. Bellarminus. Kata Kunci : Network, Keamanan Jaringan, UTM, Unified Threat Management, Aplikasi Jaringan, Firewall, Proxy, Anti Virus, Anti Spam, Intrusion Detection System. iv

2 PRAKATA Puji syukur penulis panjatkan kepada Tuhan Yang Maha Esa atas segala berkat dan karunia-nya sehingga penulis dapat menyelesaikan skripsi ini dengan baik dan tepat pada waktunya. Tujuan dari penulisan ini adalah sebagai salah satu syarat akhir di dalam menyelesaikan program Strata-1 Jurusan Teknik Informatika pada Universitas Bina Nusantara. Skripsi ini memiliki judul Keamanan Jaringan Menggunakan Unified Threat Management pada Server Berbasiskan Linux. Pada kesempatan ini, penulis juga ingin menyampaikan ucapan terima kasih kepada pihak-pihak yang berperan di dalam penyusunan skripsi ini dari awal hingga akhir, antara lain : 1. Keluarga penulis yang telah banyak memberikan dukungan baik material maupun spiritual kepada penulis selama penulis menempuh pendidikan di Universitas Bina Nusantara. 2. Bapak Prof. Dr. Gerardus Polla, M.App.Sc. selaku Rektor Universitas Bina Nusantara. 3. Bapak Ir. Sablin Yusuf, M.Sc., M.Comp.Sc selaku. Dekan Fakultas Ilmu Komputer Universitas Bina Nusantara. 4. Bapak H. Mohammad Subekti, BE, M.Sc selaku Kepala Jurusan Teknik Informatika Universitas Bina Nusantara. 5. Bapak Fredy Purnomo, S.Kom., M.Kom selaku Sekretaris Jurusan Teknik Informatika Universitas Bina Nusantara. v

3 6. Bapak Bambang Heru T, Ir., M.Sc. selaku Dosen Pembimbing yang telah membimbing penulis dalam banyak hal di dalam penyusunan skripsi ini. 7. Sr. Maria Goretti, OSU selaku koordinator pelaksana harian yayasan St.Bellarminus yang telah memberikan ijin dalam melaksanakan survey skripsi ini. 8. Bapak Fendi Widjaja dan Bapak Judian Inanda Kolloh selaku staff IT dari yayasan St. Bellarminus yang telah memberikan banyak kemudahan dan saran-saran kepada penulis dalam penyusunan skripsi ini. 9. Pihak-pihak lain yang tidak dapat penulis sebutkan satu per satu, yang telah memberikan dukungan baik dalam bentuk material maupun spriritual kepada penulis. Penulis juga menyadari bahwa masih terdapat banyak kekurangan di dalam penulisan skripsi ini, oleh karena itu penulis sangat mengharapkan adanya kritik dan saran yang membangun sehingga penulis dapat menyempurnakan skripsi ini dengan lebih baik. Pada akhirnya, penulis berharap skripsi ini dapat berguna bagi pengembangan pengetahuan dan wawasan bagi pihak yayasan St.Bellarminus, dan seluruh civitas akademik Universitas Bina Nusantara maupun bagi pembaca lainnya. Jakarta, 12 Januari 2006 Penulis vi

4 DAFTAR ISI Halaman Judul Luar.. i Halaman Judul Dalam.... ii Halaman Persetujuan Softcover..... iii Abstrak... iv Prakata... v Daftar Isi.... vii Daftar Tabel... xiii Daftar Gambar... xiv BAB 1 PENDAHULUAN 1.1 Latar Belakang Masalah Ruang Lingkup Tujuan dan Manfaat Metodolog Pengembangan Piranti Lunak Sistematika Penulisan.. 7 BAB 2 LANDASAN TEORI 2.1 Jaringan (Network) Local Area Network (LAN) Metropolitan Area Network (MAN) Wide Area Network (WAN) Network Addresing vii

5 2.2.1 Physical Address Logical Address Internet Protocol Ipv Ipv Subnet Mask Ancaman Jaringan Program Berbahaya (Malicious Software) Intruder Keamanan Jaringan Antivirus Firewall Linux Linux Fedora Core Piranti Lunak Keamanan dan Pemantauan Jaringan Iptables Squid Qmail dan Qmail-scanner ClamAV Spamassasin Snort Unified Threat Management Web Server Apache viii

6 2.10 PHP DataBase MySQL BAB 3 ANALISIS DAN PERANCANGAN SISTEM 3.1 Sejarah dan Struktur Organisasi Yayasan St. Bellarminus Sejarah Yayasan St. Bellarminus Visi dan Misi Yayasan St. Bellarminus Struktur Organisasi Yayasan St. Bellarminus Analisis Sistem Sistem yang Sedang Berjalan Analisis Permasalahan Analisis Pemecahan Masalah Perancangan Sistem Solusi Perancangan Model Sistem Solusi Perancangan Fitur Sistem Solusi Perancangan STD Perancangan STD Login Perancangan STD Home Perancangan STD Firewall > Manage Perancangan STD Firewall > Add Perancangan STD Mail Monitoring Perancangan STD Spam Management > Manage Perancangan STD Spam Management > Add ix

7 Perancangan STD Proxy Monitoring Perancangan STD Proxy Management > Manage Perancangan STD Proxy Management > Add New Perancangan STD IDS Perancangan STD User > Manage Perancangan STD User > Add New Perancangan STD Help Perancangan STD Logout Perancangan Layar Sistem Solusi Halaman Login Halaman Home Halaman Firewall > Manage Halaman Firewall > Add New Halaman Mail Utilities > Mail Monitoring Halaman Mail Utilities > Spam Manag. > Manage Halaman Mail Utilities > Spam Manag.t > Add Halaman Proxy > Proxy Monitoring Halaman Proxy > Proxy Management > Manage Halaman Proxy > Proxy Management > Add Halaman IDS Halaman User > Manage Halaman User > Add New Halaman Help Halaman Logout x

8 3.3.5 Perancangan Basis Data Sistem Solusi Firewall Proxy Spam User Perancangan Modul Sistem Solusi Perancangan Modul Program Server Perancangan Modul Program Client BAB 4 IMPLEMENTASI DAN EVALUASI 4.1 Spesifikasi Sistem Prosedur Operasional Prosedur Instalasi dan Konfigurasi Sistem Prosedur Penggunaan Sistem Memulai Program Evaluasi Sistem Evaluasi Kemampuan Fitur Sistem Evaluasi dari Sisi Teknis dan Kelebihan BAB 5 SIMPULAN DAN SARAN 5.1 Simpulan Saran DAFTAR PUSTAKA xi

9 RIWAYAR HIDUP FOTOCOPY SURAT SURVEI 148 xii

10 DAFTAR TABEL Tabel 2.1 Format heksadesimal penulisan MAC address Tabel 2.2 IP kelas A Tabel 2.3 IP kelas B Tabel 2.4 IP kelas C Tabel 2.5 IP kelas D Tabel 2.6 IP kelas E Tabel 3.1 Tabel Perbandingan Sistem Solusi Keamanan Jaringan Tabel 3.2 Skema tabel basis data Firewall Tabel 3.3 Skema tabel basis data Proxy Tabel 3.4 Skema tabel basis data Spam Tabel 3.5 Skema tabel basis data User Tabel 4.1 Tabel Hasil Pengujian Penyaringan Spam Tabel 4.2 Tabel Hasil Pengujian Pengiriman bervirus xiii

11 DAFTAR GAMBAR Gambar 2.1 MAC address dalam NIC Gambar 2.2 Susunan bit dalam IPv Gambar 2.3 Kelas kelas IP dalam IPv Gambar 2.4 Taxonomy dari program berbahaya Gambar 2.5 Contoh Penyebaran Virus melalui Surat Elektronik Gambar 2.6 Behaviour dari intruder dan authorized user Gambar 2.7 Penempatan firewall di dalam jaringan Gambar 2.8 Protokol di tingkat masing-masing layer TCP/IP Gambar 3.1 Struktur Organisasi Yayasan St. Bellarminus Gambar 3.2 Skema Jaringan Yayasan St. Bellarminus Gambar 3.3 Gambar Arsitektur UTM Gambar 3.4 Skema Peletakan UTM pada jaringan Yayasan St.Bellarminus Gambar 3.5 Gambar Perancangan Fitur Sistem Solusi Gambar 3.6 State Transition Diagram Layar Login Gambar 3.7 State Transition Diagram Layar Home Gambar 3.8 State Transition Diagram Layar Firewall > Manage Gambar 3.9 State Transition Diagram Layar Firewall > Add New Rule Gambar 3.10 State Transition Diagram Layar Mail Monitoring Gambar 3.11 State Transition Diagram Layar Spam Rule Management > Manage.. 67 Gambar 3.12 State Transition Diagram Layar Spam Rule Management > Add New. 68 Gambar 3.13 State Transition Diagram Layar Proxy Monitoring Gambar 3.14 State Transition Diagram Layar Proxy Management > Manage xiv

12 Gambar 3.15 State Transition Diagram Layar Proxy Management >Add New Gambar 3.16 State Transition Diagram Layar IDS Gambar 3.17 State Transition Diagram Layar User > Manage Gambar 3.18 State Transition Diagram Layar User > Add New Gambar 3.19 State Transition Diagram Layar Help Gambar 3.20 State Transition Diagram Layar Logout Gambar 3.21 Rancangan Layar Halaman Login Gambar 3.22 Rancangan Layar Home Gambar 3.23 Rancangan Layar Firewall > Manage Gambar 3.24 Rancangan Layar Firewall > Add New Gambar 3.25 Rancangan Layar Mail Utilities > Mail Monitoring Gambar 3.26 Rancangan Layar Mail Utilities > Spam Rule Management > Manage 81 Gambar 3.27 Rancangan Layar Mail Utilities>Spam Rule Management > Add New 82 Gambar 3.28 Rancangan Layar Proxy > Proxy Monitoring Gambar 3.29 Rancangan Layar Proxy > Proxy Management > Manage Gambar 3.30 Rancangan Layar Proxy > Proxy Management > Add New Gambar 3.31 Rancangan Layar IDS Gambar 3.32 Rancangan Layar User > Manage Gambar 3.33 Rancangan Layar User > Add New Gambar 3.34 Rancangan Layar Help Gambar 3.35 Rancangan Layar Logout Gambar 4.1 Halaman Login Gambar 4.2 Halaman Login Salah Gambar 4.3 Halaman Home xv

13 Gambar 4.4 Halaman Firewall Gambar 4.5 Halaman Menambah Rule Firewall Gambar 4.6 Halaman Menambah Rule Firewall Sukses Gambar 4.7 Halaman Mengubah Rule Firewall Gambar 4.8 Halaman Mengubah Rule Firewall Sukses Gambar 4.9 Halaman Menghapus Rule Firewall Sukses Gambar 4.10 Halaman isoqlog Gambar 4.11 Halaman isoqlog yearly report Gambar 4.12 Halaman Spam Gambar 4.13 Halaman Menambah Rule Spam Gambar 4.14 Halaman Menambah Rule Spam Sukses Gambar 4.15 Halaman Mengubah Rule Spam Gambar 4.16 Halaman Mengubah Rule Spam Sukses Gambar 4.17 Halaman Menghapus Rule Spam Sukses Gambar 4.18 Halaman sarg Gambar 4.19 Halaman sarg daily report Gambar 4.20 Halaman Proxy Management Gambar 4.21 Halaman Menambah Rule Proxy Gambar 4.22 Halaman Menambah Rule Proxy Sukses Gambar 4.23 Halaman Mengubah Rule Proxy Gambar 4.24 Halaman Mengubah Rule Proxy Sukses Gambar 4.25 Halaman Menghapus Rule Proxy Sukses Gambar 4.26 Halaman ACID Gambar 4.27 Halaman User xvi

14 Gambar 4.28 Halaman Menambah User Gambar 4.29 Halaman Menambah User Sukses Gambar 4.30 Halaman Mengubah User Gambar 4.31 Halaman Mengubah User Sukses Gambar 4.32 Halaman Menghapus User Sukses Gambar 4.33 Halaman Help Gambar 4.34 Halaman Logout Gambar 4.35 Tampilan pembatasan akses situs 137 Gambar 4.36 Tampilan Proxy Monitoring > Denied Reports xvii