IMPLEMENTASI DAN PERBANDINGAN FIREWALL SECURITY MENGGUNAKAN MIKROTIK DAN M0N0WALL PADA LOCAL AREA NETWORK DRAFT SKRIPSI HENDRA H.

Transkripsi

1 IMPLEMENTASI DAN PERBANDINGAN FIREWALL SECURITY MENGGUNAKAN MIKROTIK DAN M0N0WALL PADA LOCAL AREA NETWORK DRAFT SKRIPSI HENDRA H.SINAGA PROGRAM STUDI EKSTENSI S1 ILMU KOMPUTER FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2012

2 sssssimplementasi DAN PERBANDINGAN FIREWALL SECURITY MENGGUNAKAN MIKROTIK DAN M0N0WALL PADA LOCAL AREA NETWORK SKRIPSI Diajukan untuk melengkapi tugas dan memenuhi syarat mencapai gelar Sarjana Ilmu Komputer HENDRA H.SINAGA PROGRAM STUDI EKSTENSI S1 ILMU KOMPUTER FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2012

3 PERSETUJUAN Judul : IMPLEMENTASI DAN PERBANDINGAN FIREWALL SECURITY MENGGUNAKAN MIKROTIK DAN M0N0WALL PADA LOCAL AREA NETWORK Kategori : SKRIPSI Nama : HENDRA H.SINAGA Nomor Induk Mahasiswa : Program Studi : EKSTENSI (S1) ILMU KOMPUTER Fakultas : ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA Diluluskan di Medan, Komisi Pembimbing : Pembimbing I Pembimbing II Prof. Dr. Opim Salim Sitompul M. Umar Saleh T, ST NIP NIP Diketahui/Disetujui oleh Departemen Ilmu Komputer FMIPA USU Ketua, Dr. Poltak Sihombing, M.Kom. NIP

4 PERNYATAAN IMPLEMENTASI DAN PERBANDINGAN FIREWALL SECURITY MENGGUNAKAN MIKROTIK DAN M0N0WALL PADA LOCAL AREA NETWORK. SKRIPSI Saya mengakui bahwa skripsi ini adalah hasil kerja saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing disebutkan sumbernya. Medan, 24 Juni 2012 HENDRA H.SINAGA

5 PENGHARGAAN Puji dan syukur penulis panjatkan kepada Tuhan Yang Maha Esa, dengan limpahan kasih dan karunia-nya kertas kajian ini berhasil diselesaikan dalam waktu yang telah ditetapkan. Dalam menyelesaikan Skripsi ini, Penulis telah banyak mendapatkan bimbingan moril dan material dari berbagai pihak. Maka pada kesempatan ini, Penulis mengucapkan terima kasih kepada seluruh pihak yang telah banyak membantu antara lain kepada : 1. Bapak Dr. Poltak Sihombing, M.Kom, selaku Ketua Departemen Ilmu Komputer. 2. Ibu Maya Silvi Lydia, B.Sc., M.Sc, selaku Sekretaris Departemen Ilmu Komputer 3. Bapak Prof. Dr. Opim Salim Sitompul dan Bapak M. Umar Saleh T, ST selaku Dosen Pembimbing Skripsi. 4. Bapak Drs. Agus Salim Harahap, M.Si dan Bapak Drs. Dahlan Sitompul, M.Eng Sebagai Dosen Pembanding Skripsi. 5. Kepada Ayahhanda S.M. Sinaga dan Ibunda Miarta Pandiangan serta Seluruh Keluarga Besar yang banyak memberikan bantuan moril maupun material di sertai Doa yang akhirnya Skripsi ini selesai. 6. Seluruh Staf-staf Pengajar (Dosen) dan dan Pembantu Dekan Fakultas Ilmu Komputer. 7. Kepada Teman Penulis yaitu, Bambang Hadi Pranowo, Fahrie Rezeki Pane, Kristian Sinaga, Evi novita sinaga, S.Pd dan Alexander Sinaga yang telah memotivasi serta memberi dukungan serta semangat untuk Penulis dalam menyelesaikan Skripsi ini. 8. Seluruh teman satu kelas Penulis yaitu Kom A 2010 yang telah memberi motivasi dan dukungannya dalam menyelesaikan Skripsi ini. Atas semua motivasi dan bantuan semua pihak, Penulis mengucapkan banyak terima kasih, Semoga Tuhan membalas semua kebaikan yang telah di berikan, semoga Skrispsi ini bermanfaat bagi kita semua.

6 ABSTRAK Dalam sebuah jaringan istilah firewall adalah tembok api, yang berperan sebagai pembatas jaringan luar yang terkoneksi dengan internet. Dengan pesatnya perkembangan internet, dapat memberikan dampak positif bagi kita sebagai penyedia layanan informasi dan komunikasi, selain itu internet juga dapat memberikan dampak negatif sekaligus ancaman bagi penggunanya. Sehingga akses jaringan kita dengan internet harus dibatasi oleh sebuah pembatas yang dikenal dengan firewall. Bertujuan untuk implementasi sistem firewall security menggunakan mikrotik dan m0n0wall pada local area network. Firewall merupakan suatu perangkat keamanan jaringan yang memperkenankan berbagai bagian ruas jaringan untuk melaksanakan komunikasi antara satu dengan yang lainnya sesuai dengan definisi kebijakan keamanan yang telah diterapkan sebelumnya. firewall peka terhadap kesalahan konfigurasi dan kegagalan untuk menerapkan kebijakan, sehingga diperlukan tambahan atau peningkatan keamanan lain. Oleh karena itu, konfigurasi firewall yang digunakan dalam Mikrotik dan M0n0wall harus dilakukan secara hati-hati, sehingga organisasi seharusnya dapat bertahan dengan mengurangi kerapuhan dan gangguan baru. Dalam Perancangan Firewall pada mikrotik dan m0n0wall pada local area network menggunkan paket filtering, NAT, transparant proxy, application dan port address yang dapat mengurangi ancaman dan gangguan yang terjadi pada local area network Diperlukan usaha kerja keras untuk memelihara semua sistem di dalam cara mengamankan dan tidak semata-mata mengandalkan pada firewall untuk menghentikan ancaman keamanan tersebut. Kata Kunci : Filter Packet, NAT, Transparant proxy, Application dan Port Address.

7 IMPLEMENTATION AND COMPARISON USING MIKROTIK AND M0N0WALL FIREWALL SECURITY IN LOCAL AREA NETWORK ABSTRACT In a networking term "firewall" is a fire wall, which acts as a barrier to the outside network connected to the internet. With the rapid development of Internet, can have a positive impact for us as a provider of information and communication services, in addition to the internet can also have a negative impact as well as a threat to users. So that we network with internet access should be restricted by a barrier known as a firewall. Destination for system implementation and the mikrotik firewall security using m0n0wall on a local area network. A firewall is a network security device that allows various parts of the network segment to implement the communication between each other according to the definition of security policy that has been applied previously. Firewalls are sensitive to configuration errors and failure to implement the policy, requiring additional or other security enhancements. Because of, the firewall configuration and administration must be done carefully, so that the organization should be able to survive by reducing brittleness and a new disorder.in the design of the mikrotik and m0n0wall Firewall on local area network use the packet filtering, NAT, transparent proxy, application address and port that can reduce the threat and disruption of the local area network.takes hard work to keep all systems in a secure how to and not just rely on the firewall to stop security threats. Keywords: Packet Filter, NAT, Transparent Proxy, Application and Port Address.

8 DAFTAR ISI Halaman PERSETUJUAN... ii PERNYATAAN... iii PENGHARGAAN... iv ABSTRAK... v ABSTRACT... vi DAFTAR ISI... vii DAFTAR TABEL... x DAFTAR GAMBAR... xi BAB 1 PENDAHULUAN Latar Belakang Rumusan Masalah Batasan Masalah Tujuan Penelitian Manfaat Penelitian Metodologi Penelitian Sistematika Penulisan... 5 BAB 2 LANDASAN TEORI Pengertian Jaringan Pengertian Jaringan Jenis-Jenis Jaringan Local Area Network Metropolitan Area Network Wide Area Network Komponen Jaringan Kabel Hub/Switch Router Topologi Jaringan Topologi Bus Topologi Ring Topologi Star Protokol Jaringan Komputer Model Referensi OSI TCP/IP (Transmission Control Protocol / Internet Protokol) IP (Internet Protocol) Subnetting Gateway... 21

9 2.5 Sejarah Mikrotik Pengertian Mikrotik Jenis-Jenis Mikrotik Mikrotik Sebagai Firewall Network Address Translator (NAT) Sejarah M0n0wall Fitur-Fitur M0n0wall BAB 3 ANALISIS DAN IMPLEMENTASI SISTEM Analisis Sistem Analisis Masalah Topologi Jaringan Topologi Yang Sedang Berjalan Sistem Yang Sedang Berjalan Teknik Firewall Masalah Yang Dihadapi Pada Sistem Solusi Yang Ditawarkan Perancangan Sistem Tipe dan Alur Kerja Firewall Topologi Firewall Pada Lan Implementasi Sistem Implementasi Awal Sistem Tampilan Settingan Firewall Mikrotik Tampilan Settingan Firewall M0n0wall BAB 4 IMPLEMENTASI DAN PERBANDINGAN Spesifikasi Sistem Perangkat Keras Perangkat Lunak Perangkat Lainnya Rancangan Implementasi Implementasi Perangkat keras (Hardware) Implementasi Perangkat lunak (Software) Perangkat Lunak Mikrotik Perangkat Lunak M0n0wall Konfigurasi Operating Sistem Konfigurasi IP Address Mikrotik Konfigurasi NAT Firewall Mikrotik Konfigurasi NAT Rule Mikrotik Konfigurasi IP Address M0nowall Konfigurasi NAT Firewall M0nowall Konfigrasi Firewall Rules Hasil Pengujian Sistem Hasil Pengujian Menggunakan Mikrotik dan M0n0wall Perbandingan Operating Sistem Perbandingan Menggunkan Mikrotik Perbandingan Menggunkan M0n0wall... 71

10 BAB 5 KESIMPULAN DAN SARAN Kesimpulan Saran DAFTAR PUSTAKA LAMPIRAN... 74

11 DAFTAR TABEL Halaman 3.1 Pengalamatan Piranti Jaringan Perbandingan Menggunakan Mikrotik dan M0nowall 71

12 DAFTAR GAMBAR Halaman 2.1 Jaringan LAN Jaringan MAN Jaringan WAN Kabel Coaxial Kabel STP dan UTP Kabel Fiber Optic Hub dan Switch Router Topologi Bus Topologi Ring Topologi Star Model Referensi OSI Lapisan TCP/IP Pergerakan Data Dalam Layer TCP/IP Mikrotik Router Board Firewall Memisahkan Jaringan Public dan Local Skema Firewall LAN Skema Topologi Star pada LAN Flowchart Firewall Packet Filter Alur Kerja Firewall Topologi Firewall pada LAN Setting Address LAN Setting Firewall Rule Hasil Filter Rules Pada Firewall Menu NAT Inbound Menu NAT Outbound Setting NAT Firewall Firewall Rules Konfigurasi Firewall Rules Traffic Shaper Rules Tampilan Awal Mirotik Tampilan Menu Winbox Tampilan Web Gui M0nowall Konfigurasi IP Address Konfiguarasi NAT Firewall Konfigurasi NAT Action Firewall NAT Masquared NAT Rules Mikrotik Terminal Mikrotik Filter Rules Untuk Virus Filter Rules Ddos, Port Scanning, Backdoor 63

13 4.12 Halaman M0n0wall Menu General Setup Menu LAN Menu NAT Inbound Menu NAT Outbound Menu NAT Firewall Firewall Rules Konfigurasi Firewall Rules Traffic Shapper Rules Jaringan Client Komputer tidak terinfeksi Virus Website yang mengandung virus di block Hasil pengujian port scan pada client Hasil pengujian Ddos pada server 69