ANALISIS DAN PENCEGAHAN METODE SERANGAN FLOODING PADA JARINGAN KOMPUTER

Transkripsi

1 ANALISIS DAN PENCEGAHAN METODE SERANGAN FLOODING PADA JARINGAN KOMPUTER Herry Alfianto M. Vincent S Bria Yudis Saputra Jurusan Teknik Informatika STMIK PalComTech Palembang Abstrak Flooding adalah sejenis serangan Denial of Service (DOS) dimana flooding melakukan serangan terhadap sebuah komputer atau server di dalam jaringan lokal maupun internet dengan cara menghabiskan sumber (resource) yang dimiliki oleh komputer tersebut sampai komputer tersebut tidak dapat menjalankan fungsinya dengan benar sehingga secara tidak langsung mencegah pengguna lain untuk memperoleh akses layanan dari komputer yang diserang tersebut.penelitian ini untuk menganalisis indikasi serangan flooding dan menjaga keamanan sebuah sistem. Untuk itu diperlukan sebuah alat deteksi yang dapat mengenali adanya serangan flooding dengan cara menyadap paket data kemudian membandingkannya dengan database rule IDS (berisi signature - signature paket serangan). IDS engine akan membaca alert dari IDS (antara lain berupa jenis serangan dan IP address penyusup) agar dapat meminimalisasi serangan flooding terhadap jaringan LAN (Local Area Network) dan server. Metode pengujian serangan flooding dengan menggunakan metode penetration testing. Adapun tiga buah sampel pengujian yaitu serangan flooding terhadap protocol ICMP, UDP dan TCP dengan menggunakan aplikasi flooding. Hasil yang diperoleh saat melakukan pengujian serangan flooding dimana sensor alat deteksi dapat mendeteksi seluruh serangan dan seluruh sampel serangan dapat dicegah atau di filtering dengan menggunakan sistem keamanan jaringan berbasis firewall. Kata kunci: Intrusion Detection System, Denial of Service, Flooding, Firewall, action research PENDAHULUAN Perkembangan pesat teknologi internet dan implementasinya dalam sebuah Local Area Network (LAN) telah menyebabkan arus informasi dari dalam atau ke luar perusahaan semakin padat. Akses internet tanpa batas telah menghadirkan banyak keuntungan bagi semua pihak, tidak hanya mempermudah pencarian informasi yang diinginkan tanpa batas waktu dan lokasi, akan tetapi dunia luar dapat berinteraksi dengan LAN (Local Area network) yang ada. Hal inilah yang memungkinkan meningkatnya tindak kejahatan dalam dunia maya. Salah satu permasalahan yang sering terjadi pada sistem keamanan jaringan komputer adalah sering terjadi serangan flooding. Flooding adalah sejenis serangan Denial of Service (DOS), dimana flooding melakukan serangan terhadap sebuah komputer atau server di dalam jaringan lokal maupun internet dengan cara menghabiskan sumber (resource) yang dimiliki oleh komputer tersebut sampai komputer tersebut tidak dapat menjalankan fungsinya dengan benar sehingga secara tidak langsung mencegah pengguna lain untuk memperoleh akses layanan dari komputer yang diserang tersebut. Salah satu solusi dari permasalahan tersebut adalah diperlukan cara untuk menganalisis indikasi serangan flooding dan menjaga kemanan sebuah sistem yang dapat meminimalisasi serangan flooding terhadap jaringan LAN (Local Area Network) dan server. Alat deteksi sangat diperlukan dalam kondisi ini, yang dapat mendeteksi terjadinya serangan flooding pada sistem server jaringan. Alat deteksi yang dimaksud adalah Intrusion Detection 1

2 System (IDS). IDS dapat mengenali adanya serangan flooding dengan cara menyadap paket data kemudian membandingkannya dengan database rule IDS (berisi signature - signature paket serangan). Jika paket data mempunyai pola yang sama dengan (setidaknya) salah satu pola di database rule IDS, maka paket tersebut dianggap sebagai serangan, dan demikian juga sebaliknya, jika paket data tersebut sama sekali tidak mempunyai pola yang sama dengan pola di database rule IDS, maka paket data tersebut dianggap bukan serangan. Kemudian IDS engine akan membaca alert dari IDS (antara lain berupa jenis serangan dan IP address penyusup) untuk kemudian memerintahkan firewall untuk mencegah serangan tersebut. LANDASAN TEORI Analisis Menurut Jogiyanto (2009:129), Analisis dapat didefinisikan sebagai penguraian dari suatu sistem informasi yang utuh ke dalam bagian-bagian komponennya dengan maksud untuk mengidentifikasikan dan mengevaluasi permasalahan-permasalahan, kesempatankesempatan, hambatan-hambatan yang terjadi dan kebutuhan-kebutuhan yang diharapkan sehingga dapat diusulkan perbaikan-perbaikannya. Jaringan Komputer Menurut Pratama (2014:12), jaringan komputer adalah hubungan dari sejumlah perangkat yang dapat saling berkomunikasi satu sama lain. Perangkat yang dimaksud pada definisi ini mencakup semua jenis perangkat komputer ( komputer desktop, komputer jinjing, smartphone, tablet) dan perangkat penghubung (router, switch,modem dan hub) Menurut Syafrizal (2005:2), jaringan komputer adalah himpunan interkoneksi antara 2 komputer autonomous atau lebih yang terhubung dengan media transmisi kabel atau tanpa kabel (wireless ). Dua unit komputer dikatakan terkoneksi apabila keduanya bisa saling bertukar data atau informasi, berbagi resource yang dimiliki seperti file, printer, media penyimpanan. Menurut Herlambang (2008:2), jaringan komputer dapat dikelompokkan berdasarkan luas area yang dapat dijangkau atau dilayani. Secara umum jaringan komputer terbagi menjadi 4 (empat) jenis, yaitu LAN (Local Area Network), MAN (Metropolitan Area Network), WAN (Wide Area Network) dan Internet. Keamanan Komputer Menurut Ariyus (2006:2) keamanan komputer terdiri dari empat bagian yaitu Aspekaspek Keamanan Komputer, Aspek-aspek Ancaman Keamanan, Jenis-jenis Serangan dan Pendeteksian Serangan. Aspek-aspek Keamanan Komputer Menurut Ariyus (2006:2) keamanan komputer meliputi berbagai aspek diantaranya adalah Authentication, Integrity, Nonrepudiation, Authority, Confidentiality, Privacy, Availability, Access Control. Aspek-aspek Ancaman Kemanan Menurut Ariyus (2006:3) ancaman terhadap komputer meliputi aspek-aspek diantaranya Interruption, Interception, Modification, Fabrication. 2

3 Jenis-jenis Serangan Menurut Ariyus (2006:12) jenis dan teknik serangan yang mengganggu komputer beraneka macam. Serangan-serangan umum yang terjadi pada sistem komputer diantaranya adalah Port Scanning, Denial Of Service (DOS), IP Spoofing, Land Attack, Smurf Attack, Man In The Middle, UDP Flood, Packet Sniffing, ICMP Flood. Pendeteksian Serangan Menurut Ariyus (2007:57) untuk mengenali sebuah serangan yang dilakukan oleh para hacker atau cracker, digunakan data diperoleh. Pendekatan yang sering digunakan untuk mengenali serangan antara lain Misuse Detection, Anomali Detection. Intrusion Detection System (IDS) Menurut Ariyus (2007:28), Intrusion Detection System (IDS) dapat didefinisikan sebagai tool, metode, sumber daya yang memberikan bantuan untuk melakukan identifikasi, memberikan laporan terhadap aktivitas jaringan komputer Intrusion Detection System sebenarnya tidak cocok diberi pengertian tersebut karena IDS tidak mendeteksi penyusup tetapi hanya mendeteksi aktivitas pada lalu lintas jaringan yang tidak layak terjadi. Basic Analysis and Security Engine (BASE) Menurut Kohlenberg (2007:432), BASE (Basic Analysis and Security Engine) merupakan analisis dasar sebagai keamanan suatu mesin yang berfungsi untuk mencari dan mengolah database dari alert network security yang dibangkitkan oleh perangkat lunak pendeteksi serangan yaitu Intrusion Detection System (IDS). Teknik Pengembangan Sistem Menurut Kock (2007:45), Metode Action Research merupakan penelitian tindakan. Metode action research penelitian yang bersifat partisipatif dan kolaboratif. Maksudnya penelitiannya dilakukan sendiri oleh peneliti, dengan penelitian tindakan. Teknik Pengujian Teknik pengujian yang dilakukan menggunakan teknik penetrasi yaitu tindakan yang membahayakan data (Whitaker, 2005) karena pelaku pengujian bersifat aktif dalam melakukan berbagai serangan untuk mencari kelemahan sistem. Penelitian Terdahulu Sugiantoro dan Istianto (2010), melakukan penelitian Analisa sistem keamanan Intrusion Detection System (IDS), Firewall System, Database System dan Monitoring System menggunakan Agent bergerak dengan hasil penelitian sistem keamanan yang terintegrasi antara Intrusion Detection System (IDS), Firewall System, Database System dan Monitoring System dikaitkan dengan tinjauan agent bergerak. Elleithy, Blagovic dan Sideleau (2010), melakukan penelitian dengan judul Denial of Service Attack Techniques: Analysis, Implementation and Comparison, dengan hasil penelitian yaitu sebuah serangan penolakan layanan ( DOS ) adalah jenis serangan terhadap sebuah jaringan struktur untuk menonaktifkan server dari pelayanan yang klien. 3

4 HASIL DAN PEMBAHASAN Analisis Kebutuhan Kebutuhan alat deteksi sangat diperlukan dalam kondisi untuk menganalisis indikasi serangan flooding dan menjaga kemanan sebuah sistem yang dapat meminimalisasi serangan flooding terhadap jaringan LAN (Local Area Network) dan server yang dapat mendeteksi terjadinya serangan flooding pada sistem server jaringan. Alat deteksi yang dimaksud adalah Intrusion Detection System (IDS). IDS dapat mengenali adanya serangan flooding dengan cara menyadap paket data kemudian membandingkannya dengan database rule IDS (berisi signature - signature paket serangan) Analisis Permasalahan Perkembangan pesat teknologi internet dan implementasinya dalam sebuah LAN (Local Area Network) telah menyebabkan arus informasi dari dalam atau ke luar perusahaan semakin padat. Akses internet tanpa batas telah menghadirkan banyak keuntungan bagi semua pihak, tidak hanya mempermudah pencarian informasi yang diinginkan tanpa batas waktu dan lokasi, akan tetapi dunia luar dapat berinteraksi dengan LAN (Local Area network) yang ada. Hal inilah yang memungkinkan meningkatnya tindak kejahatan dalam dunia maya. Topologi Jaringan Desain topologi yang digunakan menggunakan topologi star. Gambar 1. Topologi Jaringan Teknologi Jaringan Adapun kebutuhan alat dan bahan yang digunakan dalam penelitian ini adalah sebagai berikut: 1. Perangkat Keras (Hardware) - Satu Unit Komputer Server (IDS) - Satu Unit Laptop sebagai Flooding Attacker - Satu Unit Laptop sebagai Monitoring - Switch Hub - Kabel UTP 2. Perangkat Lunak (Software) - Linux Ubuntu Server LTS - Software Snort 4

5 - Software Apache Web Server - Web BASE (Basic Analysis and Security Engine) - Database MySQL Server - Tools Nettols - Tools Digiblast - Tools Synattack Implementasi Alat Deteksi IDS Proses installasi linux Ubuntu Server LTS dilakukan sebagai tahap awal proses implementasi, setelah selesai proses installasi sistem dilanjutkan installasi komponen tambahan atau pendukung sensor alat deteksi snort. Adapun paket software pendukung IDS atau aplikasi yang diinstall adalah mysql-server, libpcap0.8-dev, libmysqlclient15-dev, bison, flex, apache2, php5, libapache2-mod-php5, php5-gd, php5-mysql, libtool, libpcre3-dev dan php-pear dengan menggunakan perintah apt-get install, Kemudian membuat folder snort, kemudian download file base.tar.gz dan adodb.tar.gz dengan menggunakan perintah wget Intallasi dan konfigurasi BASE dari client dengan cara buka browser di client, kemudian ketik untuk konfigurasi snort, mysql dan BASE. Gambar 3 Konfigurasi database base Skema Pengujian dan Hasil Pengujian Dalam pengujian serangan flooding penulis menggunakan BASE (Basic Analysis and Security Engine) sebagai hasil dari pantauan atau catatan serangan yang bisa diamati melalui web browser. Dibawah ini adalah merupakan display atau tampilan utama BASE (Basic Analysis and Security Engine) yang menampilkan sampel hasil serangan flooding pada protocol TCP, UDP dan ICMP. 5

6 Gambar 4. Traffik Serangan Flooding Dari Gambar 5, penyerangan dilakukan oleh penyusup dengan mengirimkan paket data dengan kapasitas 64 byte dan melakukan proses ping sebanyak 1000x pada ip server yaitu , hal yang dinamakan ping attack dengan tujuan membuat sistem menjadi crash atau hang, ping attack merupakan jenis serangan DOS atau flooding yang dilancarkan melalui pengiriman paket-paket tertentu, biasanya paket-paket sederhana dengan jumlah yang sangat banyak dengan maksud mengacaukan keadaan jaringan target. Gambar 5. Flooding Ping Attack Dari gambar 6, penyerangan dilakukan oleh penyusup dengan melakukan serangan flooding terhadap port 80 pada ip address server atau alat deteksi yang berfungsi menbanjiri paket jaringan dengan menggunakan aplikasi Digiblast dan Syn Attack yang membuat sistem server menjadi hang. 6

7 Gambar 6. Serangan flooding Protocol TCP dan UDP Synattack merupakan jenis serangan flooding yang berfungsi untuk membanjiri sistem oleh penyusup dengan menyerang lubang keamanan dari implementasi protocol tcp/ip dengan tujuan membuat sistem menjadi crash atau hang. Adapun cara menjalankan aplikasi Synattack dengan memasukkan ip address target yaitu , setelah itu masukan port yang terbuka 80, alamat port yang terbuka didapat dari proses port scanning. Gambar 7. Serangan Flooding Synattack Untuk pencegahan terhadap serangan atau attacker keamanan jaringan diperlukan sebuah aplikasi firewall untuk mengatasi permasalahan tersebut salah satunya adalah dengan mengaktifkan iptables dengan memblok protokol icmp yang masuk ke interface eth0. 7

8 Gambar 8. Perintah Untuk Membatasi PING Attack Gambar 9. Hasil Reject PING Attack Pada gambar 10 dimana jika ada paket serangan SYN yang dikirim hanya akan di ACCEPT oleh firewall ( iptables) dengan 3 paket permenit dengan sisa paket serangan akan di DROP. Gambar 10. Mengatasi Serangan Flooding dengan Iptables 8

9 Pada Gambar 11 menunjukkan bahwa hasil serangan flooding ke port http 80 dengan flooding mode protocol tcp dan udpsetelah di filter dengan firewall dimana serangan memgalami kegagalan akan tampil error completing flood. Gambar 11. Flooding Attack DOS Failed Sedangkan pada Gambar 12 menunjukkan bahwa hasil serangan floodingsyn attackke port http 80 setelah di filter dengan firewall dimana serangan memgalami kegagalan akan tampil can t find server on specified port. Gambar 12. Flooding Synattack Failed PENUTUP Dari penelitian ini diperoleh kesimpulan bahwa berdasarkan pengujian serangan flooding dengan menggunakan tiga buah sampel pengujian menghasilkan sensor alat deteksi dapat mendeteksi seluruh serangan, seluruh sampel serangan dapat dicegah dengan menggunakan sistem keamanan jaringan berbasis firewall dan mempermudah administrator untuk memperoleh data-data guna meningkatkan keamanan jaringan komputer dari serangan DOS (flooding) sehingga administrator dapat mengambil kebijakan-kebijakan untuk memperbaikinya berdasarkan alert / log yang dihasilkan oleh sensor IDS (Instrusion Detection System) melalui web BASE. DAFTAR PUSTAKA Ariyus Dony Computer security. Yogyakarta: Andi Offset Ariyus, Dony Intrusion Detection System. Yogyakarta: Andi Offset. 9

10 Elleithy, Khaled Denial of Service Attack Techniques: Analysis, Implementation and Comparison. Computer Science Departement. University of Bridgeport. USA. Systematic, Cybernetics and Informatics. Vol 3 No 1 Hal Herlambang Linto, Catur Azis Panduan Lengkap Menguasai Router Masa Depan Menggunakan Mikrotik RouterOS. Yogyakarta: Andi Offset. Jogiyanto Analisis dan Desain Sistem Informasi. Yogyakarta: Andi Offset. Kohlenberg, Toby Snort Intrusion and Prevention Toolkit. Syngress Publishing Inc. Burlington Kock, Ned Information systems Action Research An Applied View Of emerging Concepts and Methods. Texas A & M International University. USA Pratama, Eka Agus I Putu Handbook Jaringan Komputer ( Teori dan Praktek Berbasiskan Open Source. Bandung: Informatika. Sugiantoro, Bambang & Istianto, Jazi Analisa sistem keamanan Intrusion Detection System (IDS), Firewall System, Database System dan Monitoring System menggunakan Agent bergerak. UPN Veteran.Makalah Ilmiah. Hal Syarizal, Melwin Pengantar Jaringan Komputer. Yogyakarta: Andi Offset. Whitaker, A., Newman, D.P Penetration Testing and Network Defense. Indianapolis: Cisco Press. 10