IMPLEMENTASI NETWORK MONITORING DAN PACKET CAPTURING PADA CAMPUS NETWORK MENGGUNAKAN METODE RANDOM EARLY DETECTION (RED) SKRIPSI

Transkripsi

1 IMPLEMENTASI NETWORK MONITORING DAN PACKET CAPTURING PADA CAMPUS NETWORK MENGGUNAKAN METODE RANDOM EARLY DETECTION (RED) SKRIPSI MUHAMMAD SURYANSYAH MANIK PROGRAM STUDI TEKNOLOGI INFORMASI FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2016

2 IMPLEMENTASI NETWORK MONITORING DAN PACKET CAPTURING PADA CAMPUS NETWORK MENGGUNAKAN METODE RANDOM EARLY DETECTION (RED) SKRIPSI Diajukan untuk melengkapi tugas dan memenuhi syarat memperoleh ijazah Sarjana Teknologi Informasi MUHAMMAD SURYANSYAH MANIK PROGRAM STUDI S1 TEKNOLOGI INFORMASI FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2016

3 iii PERSETUJUAN Judul : IMPLEMENTASI NETWORK MONITORING DAN PACKET CAPTURING PADA CAMPUS NETWORK DENGAN METODE RANDOM EARLY DETECTION (RED) Kategori : SKRIPSI Nama : MUHAMMAD SURYANSYAH MANIK Nomor Induk Mahasiswa : Program Studi : S1 TEKNOLOGI INFORMASI Fakultas : ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA Komisi Pembimbing : Pembimbing 2 Pembimbing 1 Romi Fadillah Rahmat B.Comp,Sc,M.Sc NIP Baihaqi Siregar, S.Si., M.T NIP Diketahui/ disetujui oleh Program Studi S1 Teknologi Informasi Ketua, Muhammad Anggia Muchtar, ST., MM.IT NIP

4 iv PERNYATAAN IMPLEMENTASI NETWORK MONITORING DAN PACKET CAPTURING PADA CAMPUS NETWORK MENGGUNAKAN METODE RANDOM EARLY DETECTION (RED) SKRIPSI Saya mengakui bahwa skripsi ini adalah hasil karya saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing telah disebutkan sumbernya. Medan, Juni 2016 Muhammad Suryansyah Manik

5 v UCAPAN TERIMA KASIH Segala puji dan syukur penulis sampaikan kepada Tuhan Yang Maha Esa yang telah memberikan berkat-nya yang melimpah sehingga penulis dapat menyelesaikan skripsi ini dengan baik untuk memperoleh gelar Sarjana Komputer, Program Studi S1 Teknologi Informasi. Skripsi ini penulis persembahkan kepada orangtua penulis, Bapak Sahnan Manik dan Ibu Wati Suriyani yang selalu memberikan doa, semangat, dukungan, perhatian, kasih sayang, dan pengorbanan. Semoga Allah SWT memberikan kebahagiaan kepada kedua orangtua penulis. Terima kasih penulis ucapkan kepada adik dan sepupu penulis, Nur Ellysah Manik, Afif Ramadhansah Manik dan Ichsyan Suwandiyang selalu memberikan semangat dan dukungan dalam pengerjaan skripsi ini. Penulis menyadari bahwa penelitian ini tidak akan terwujud tanpa bantuan banyak pihak. Dengan kerendahan hati, penulis ucapkan terima kasih kepada : 1. Bapak Baihaqi Siregar, S.Si.,M.T sebagai dosen pembimbing I dan BapakLukman Adlin Harahap, S.TP., M.Si sebagai dosen pembimbing II yang telah meluangkan waktu, pikiran, saran, dan kritiknya untuk penulis dalam menyelesaikan skripsi ini. 2. Ketua dan Sekretaris Program Studi S1 Teknologi Informasi, Bapak M. Anggia Muchtar, S.T., MM.IT. dan bapak Mohammad Fadly Syahputra, B.Sc.,M.Sc.IT. 3. Bapak M. Anggia Muchtar, S.T., MM.IT selaku dosen pembimbing akademik yang selalu memberi saran dalam proses akademik penulis. 4. Seluruh dosen yang mengajar serta staf Tata Usaha Program Studi Teknologi Informasi. 5. Teman-teman seperjuangan, Bang Bro, Ilham Leboy, Trian Saputra, Dani Tikto, Deno Sumarta,Bang Fran,Azmi,Faisal Fadli, Indera Surya Satria, Irzal Sofyan, Indi Andiradan seluruh anggota Ruang Delapan yang tidak penulis sebutkan satu persatuyang telah bersedia menjadi teman diskusi dan memberikan dukungan

6 vi kepada penulis.kepada teman teman Simpel Adventure dan KPG-TI USU juga penulis ucapkan banyak terima kasih. 6. Teman - teman angkatan 2011 Teknologi Informasi, semoga kita meraih kesuksesan. 7. Teman-teman seperjuangan di Information Technology Competition based Group (ITCG). 8. Semua pihak yang terlibat langsung ataupun tidak langsung yang tidak dapat penulis ucapankan satu persatu yang telah membantu menyelesaikan skripsi ini. Penulis menyadari bahwa masih banyak kekurangan dalam skripsi ini, untuk itu penulis mengharapkan saran dan kritik yang bersifat membangun dari semua pihak demi kesempurnaan skripsi ini. Akhir kata penulis ucapkan terima kasih.

7 vii ABSTRAK Pertumbuhan jumlah pengguna dan perkembangan dari aplikasi-aplikasi yang memanfaatkan jaringan atau internet berdampak pada peningkatan jumlah data yang di transfer melalui jaringan. Semakin meningkatnya transfer data di dalam jaringan, maka traffic (arus) data juga mengalami peningkatan. Sehingga diperlukan sebuah sistem monitoring dan analysis terhadap sebuah sistem atau jaringan komputer dengan melakukan capturing pada aliran paket-paket data jaringan. Pengolahan paket data jaringan sangat penting buat para sys admin. Sistem monitoring dan packet capturing menganalisa dan mengidentifikasi adanya jenis flooding dan packet loss dengan menggunakan algoritma random early detection (RED) yang membandingkan nilai counter paket berdasarkan jenisnya dengan nilai ambang batas (threshold value) yang bersifat user defined. Sistem monitoring dan packet capturing diimplementasikan pada jaringan wireless LAN kampus Teknologi Informasi pada saat jam aktif. Hasil dari implementasi sistem yang dilakukan selama beberapa hari berturut diperoleh paket yang aktif jenis TCP, UDP dan Ethernet. Untuk jenis intrusi yang sering terjadi adalah TCP/SYN flooding dan packet loss pada TCP packet. Kata Kunci: sistem monitoring, packet capturing, RED, intrusi, jpcap, wireless LAN.

8 viii ABSTRACT The Growth in the number of users and the development of applications that utilize the network or the Internet, impact on increasing the amount of data transferred over the network. The increasing transfer of data in the network, then traffic (flow) data is also increased. So, we need a monitoring and analysis system to a computer system or network by capturing the flow of network data packets. Processing network data packets are very important for system administrators. System monitoring and packet capturing analyze and identify the types of flooding and packet loss algorithms using random early detection (RED) comparing the packet counter value by type with the threshold value (threshold value) that are user-defined. System monitoring and packet capturing implemented onwireless LAN of the campus of Information Technology University of North Sumatra during active hours.results of the implementation of the system is done for several consecutive days obtained active packet type of TCP, UDP and Ethernet. For this type of intrusion that often occurs is the TCP / SYN flooding and TCP packet loss. Keywords: monitoring system, packet capturing, RED, intrusion, jpcap, wireless LAN.

9 ix DAFTAR ISI Halaman Persetujuan iii Pernyataan iv Ucapan Terima Kasih v Abstrak vii Abstract viii Daftar Isi ix Daftar Tabel xi Daftar Gambar xii BAB 1 PENDAHULUAN Latar Belakang Rumusan Masalah Batasan Masalah Tujuan Penelitian Manfaat Penelitian Sistematika Penulisan 4 BAB 2 TINJAUAN PUSTAKA Network Communication Enkapsulasi Data Java Packet Capture (Jpcap) Windows Packet Capture (Winpcap) Campus Wireless LAN Campus Network IEEE Ethernet Ethernet Frame TCP Segment Penelitian Terdahulu 20 BAB 3 ANALISIS DAN PERANCANGAN 23

10 x 3.1 Analisis Permasalahan Arsitektur Jaringan Kampus Arsitektur Umum Alur Kerja Sistem Proses Algoritma Random Early Detection (RED) Pseudocode Perancangan Sistem Use Case Diagram Perancangan Database Rancangan antarmuka sistem 37 BAB 4 IMPLEMENTASI DAN PENGUJIAN Implementasi Sistem Spesifikasi perangkat keras dan perangkat lunak Implementasi Perancangan Antarmuka 43 Menu Login 43 Menu Utama 43 Menu Capture Net Packet 44 Tampilan MSS Live Traffic 44 Menu Log Packet Data History 45 Menu Log Alert Pengujian Sistem Network Monitoring dan Packet Capturing 46 BAB 5 KESIMPULAN DAN SARAN Kesimpulan Saran 54 DAFTAR PUSTAKA 55

11 xi DAFTAR TABEL Halaman Tabel 2.1 Daftar Penelitian Terdahulu 22 Tabel 3.1 Deskripsi Use Case Sistem 34 Tabel 4.1 Daftar Network Devices 47 Tabel 4.2 Daftar Data Log Alert 50 Tabel 4.3 Tipe Alert System 52

12 xii DAFTAR GAMBAR Halaman Gambar 2.1 Ilustrasi Pengiriman Paket Data 6 Gambar 2.2 Ilustrasi Protokol Komunikasi Data 7 Gambar 2.3 Proses Enkapsulasi Data 9 Gambar 2.4 Contoh Enkapsulasi Data Pada Pengiriman 10 Gambar 2.5 Logical Structure Of Winpcap 13 Gambar 2.6 Access Point Pada Arsitektur Wireless 16 Gambar 2.7 Struktur Ethernet Frame 18 Gambar 2.8 TCP Segment 19 Gambar 3.1 Arsitektur Jaringan Kampus 24 Gambar 3.2 Arsitektur Umum 26 Gambar 3.3 Alur Kinerja Sistem 27 Gambar 3.4 Tahapan Capturing 28 Gambar 3.5 Gambar Alur Proses RED 29 Gambar 3.6 Use Case Sistem Monitoring Dan Packet Capturing 34 Gambar 3.7 Database Design 37 Gambar 3.8 Rancangan Menu Login 38 Gambar 3.9 Rancangan Menu Utama 38 Gambar 3.10 Rancangan Menu Capture Net Packet 39 Gambar 3.11 Rancangan Menu Log Packet Data History 40 Gambar 3.12 Rancangan Menu Log Alert 41 Gambar 4.1 Tampilan Menu Login 43 Gambar 4.2 Tampilan Menu Utama 44 Gambar 4.3 Tampilan Menu Capture Net Packet 44 Gambar 4.4 Tampilan MSS Live Traffic 45 Gambar 4.5 Tampilan Menu Log Packet Data History 45

13 xiii Gambar 4.6 Tampilan Menu Log Alert 46 Gambar 4.7 Tampilan Report Statistik Paket 48 Gambar 4.8 Daftar UDP Packet Data 48 Gambar 4.9 Daftar TCP Packet Data 49 Gambar 4.10 Tampilan Pesan Log Alert System 49 Gambar 4.11 Tampilan Report Log Alert System 50 Gambar 4.12 Grafik MSS TCP Packet 52