RANCANG BANGUN SISTEM PENCEGAHAN DATA FLOODING PADA JARINGAN KOMPUTER

Transkripsi

1 MAKALAH SEMINAR TUGAS AKHIR PERIODE Januari 2010 RANCANG BANGUN SISTEM PENCEGAHAN DATA FLOODING PADA JARINGAN KOMPUTER Johan Anggi Pratama Wahyu Suadi, S.Kom, M.M, M.Kom. Bagus Jati Santoso, S.Kom. Jurusan Teknik Informatika, Fakultas Teknologi Informasi, Institut Teknologi Sepuluh Nopember, Abstrak Suatu serangan dalam server jaringan komputer dapat terjadi kapan saja. Baik pada saat administrator sedang rja ataupun tidak. Dengan demikian dibutuhkan pertahanan didalam server itu sendiri yang bisa menganalisa langsung apakah setiap pat yang masuk tersebut adalah data yang diharapkan ataupun data yang tidak diharapkan. Kalau pat tersebut merupakan data yang tidak diharapkan, diusahakan agar komputer bisa mengambil tindakan yaitu dengan mengeblok IP asal pat tersebut. Pemodelan suatu yang digunakan untuk mengatasi flooding data pada suatu jaringan. didesain dengan jalan membuat suatu firewall yang aktif yang bisa mendefinisikan setiap data yang masuk dalam server, apakah data yang datang itu merupakan sebuah data flood atau data yang diperlukan oleh user. Kata kunci: Data flooding, jaringan komputer, TCP Syn flood. 1. Pendahuluan Sudah banyaknya perusahaan yang menggunakan internet sebagai sarana untuk membantu dalam melaksanakan aktifitas rutin perusahaan dan aktifitas rutin lainnya. Dalam hal ini tidak hanya perusahaan yang bergerak di bidang telekomunikasi saja yang menggunakan internet, tetapi juga perusahaan lain yang tidak bergerak di bidang tersebut. Kecenderungan penggunaan internet ini disebabkan oleh dengan adanya internet akan didapatkan mudahan dalam hal komunikasi dan transfer data. Kenyataan ini bisa kita lihat pada bidang perbankan. komunikasi data sangat berguna membantu perusahaan tersebut untuk melayani para nasabahnya, juga dalam bidang marting suatu barang hasil industri suatu perusahaan. Kemudahan dan praktisan merupakan kunci dari mengapa dipilihnya internet ini. Tetapi disamping untungan yang banyak tersebut, internet juga menyimpan banyak kurangan yang sangat mengkhawatirkan bagi para penggunanya. Salah satu yang sangat menjadi ndala adalah dalam bidang amanan. Banyak kasus yang membuktikan bahwa perusahaan yang tersambung di internet sering kali mendapatkan gangguan baik dalam data yang dimiliki maupun 1 peralatannya. Kerugian yang diderita akan hal ini bisa dibilang tidak cil. Kasus pencurian atau manipulasi data perusahaan saja dapat mencapai rugian sampai jutaan dollar amerika. Belum lagi rusakan peralatan yang digunakan oleh perusahaan tersebut, yang bisa dibilang tidak murah. Dalam faktor amanan ini biasanya perusahaan menempatkan administrator untuk menjaga. Tetapi fungsi administrator tentunya akan terbatas waktunya, saat jam rja. Meskipun di jam rja pun kadang kala karena terlalu banyaknya aliran data tentunya administrator tentunya akan sulitan menganalisa apakah data yang diterima oleh server adalah data yang diharapkan atau data yang tidak diharapkan. Sedangkan suatu serangan amanan bisa terjadi kapan saja. Baik pada saat administrator sedang rja atupun tengah malam dimana tidak ada yang menjaga server tersebut. Dengan demikian dibutuhkan pertahanan didalam server itu sendiri yang bisa menganalisa langsung apakah setiap pat yang masuk tersebut adalah data yang diharapkan ataupun data yang tidak diharapkan. Kalau pat tersebut merupakan data yang tidak diharapkan, diusahakan agar komputer bisa mengambil tindakan untuk mengantisipasi agar serangan yang terjadi tidak menimbulkan rugian yang besar. Akan lebih baik kalau server bisa mengantisipasinya langsung, sehingga rugian bisa mendekati nol atau tidak ada sama sekali. Salah satu serangan yang menimbulkan efek parah pada server adalah TCP Syn flood. Patpat SYN adalah salah satu jenis pat dalam protokol Transmission Control Protocol yang dapat digunakan untuk membuat koneksi antara dua host dan dikirimkan oleh host yang hendak membuat koneksi, sebagai langkah pertama pembuatan koneksi dalam proses "TCP Three-way Handsha". Dalam sebuah serangan SYN Flooding, si penyerang akan mengirimkan pat-pat SYN dalam port-port yang sedang berada dalam adaan "Listening" yang berada dalam host target. Normalnya, pat-pat SYN yang dikirimkan berisi alamat sumber yang menunjukkan aktual, tetapi pat-pat SYN dalam serangan ini didesain sedemikian rupa, sehingga pat-pat tersebut memiliki alamat sumber yang tidak menunjukkan aktual.

2 Ketika target menerima pat SYN yang telah dimodifikasi tersebut, target akan merespons dengan sebuah pat SYN/ACK yang ditujukan pada alamat yang tercantum di dalam SYN Pact yang ia terima (yang berarti tersebut tidak ada secara aktual), dan mudian akan menunggu pat Acknowledgment (ACK) sebagai balasan untuk melengkapi proses pembuatan koneksi. Tetapi, karena alamat sumber dalam pat SYN yang dikirimkan oleh penyerang tidaklah valid, pat ACK tidak akan pernah datang target, dan port yang menjadi target serangan akan menunggu hingga waktu pembuatan koneksi "kadaluwarsa" atau timed-out. Jika sebuah port yang listening tersebut menerima banyak patpat SYN, maka port tersebut akan meresponsnya dengan pat SYN/ACK sesuai dengan jumlah pat SYN yang ia dapat menampungnya di dalam buffer yang dialokasikan oleh operasi. 2. Jaringan Komputer Kebutuhan akan adanya suatu jaringan informasi meningkat dengan pesat. Kebutuhan kita akan informasi bertambah besar. Bagi sebagian masyarakat, informasi telah menjadi barang butuhan primer, dan hal tersebut berkaitan erat dengan permbangan dunia jaringan komputer. Sebelum era penggunaan jaringan komputer, penggunaan komputer sangat terbatas untuk mesin-mesin standalone yang terpisah dan independent antara satu dengan yang lainnya. Tetapi setelah memasuki era penggunaan jaringan, kumpulan komputer-komputer standalone tersebut dihubungkan satu dengan yang lainnya dan menjadi suatu jaringan sehingga seluruh informasi dari masing-masing komputer dapat dikorelasikan. Beberapa tujuan dari penggunaan jaringan : 1. Resources sharing, bertujuan agar seluruh program, peralatan (hardware) ataupun data dapat diakses oleh setiap orang yang berada dalam jaringan tanpa dipengaruhi lokasi pemakai atau resources. Sehingga dapat diringkas bahwa tujuan dari resources sharing ini adalah untuk menghilangkan ndala jarak. 2. Reliabilitas atau andalan yang tinggi. Bila suatu proses dijalankan oleh 2 atau lebih CPU maka dapat dimungkinakan proses tersebut akan lebih memiliki andalan walaupun tiba-tiba ditengah proses salah satu CPU down. 3. Biaya, karena kinerja dari PC (Personal Komputer) lebih baik dibandingkan main frame. Hal ini menyebabkan para perancang membangun suatu dengan model server-; dalam suatu terdapat komputer-komputer yang bertindak sebagai. 4. Skalabilitas, yaitu mampuan untuk meningkatkan kinerja secara berangsur-angsur sesuai dengan beban perjaan dengan hanya menambah sejumlah prosesor. Meningkatnya kuantitas dan kualitas butuhan akan informasi dan jaringan informasi mendorong perluasan jaringan yang telah tersedia baik dari segi ukuran, mampuan maupun teknologi. Kebutuhan dan ekspansi jaringan direspon dengan baik oleh perusahaanperusahaan (vendors) komputer, sehingga bermunculan - dan peralatan (equipment) baru seperti local dan remote bridges, multiprotocol routers, distributed hubs dan switching hubs. Kebutuhan akan bandwith yang lebih lebar untuk aplikasi LAN-to-LAN networking telah memunculkan TI DSU/CSU units atau frame relay interfaces. 3. Data flooding Traffic data yang ada dalam suatu jaringan akan turun naik selama pemakaiannya. Pada jam-jam sibuk traffic suatu data akan sangat padat, sehingga traffic data tersebut akan terganggu. Baik data yang akan dikirim maupun data yang akan datang akan antrian data yang mengakibatkan lambatan dalam pengiriman dan penerimaan data. Tetapi adakalanya data-data yang berada dalam traffic merupakan data yang tidak perlu. Data-data tersebut memang sengaja di dikirim oleh sesorang untuk merusak jaringan data yang ada. Perngiriman data tersebut dapat mengakibatkan lambatnya jalur traffic yang ada dalam jaringan, dan juga bisa mengakibatkan rugian lain yang cukup berarti, misalnya rusakan alat ataupun rusakan program karena adanya intruder yang masuk dalam jaringan. Pengiriman data yang berlebihan baik dari besar pat maupun jumlah pat dalam suatu jaringan dan umumnya merupakan data yang tidak berguna biasa disebut flood. Macam-macam Flood attack : Ping of death Pengiriman pat echo request ICMP dalam suatu jaringan secara berlebihan. Pengiriman pat ini dapat mengakibatkan crash, hung ataupun reboot. Smurf Attack Hampir sama dengan Ping of death tetapi untuk smurf attack pat ICMP tidak dikirim secara langsung korban, melainkan melalui perantara. Pada awalnya dikirim sebuah pat ICMP echo request sebuah host lain, pat ini bertujuan 2

3 agar host tersebut mengirimkan pat ICMP PING secara terus menerus korban terakhirnya. Syn Flooding Dalam proses pengiriman data yang melalui TCP, proses data yang terjadi adalah sebagai berikut : Jaringan 1 SYN A C K Gambar 3.1 Proses data TCP jaringan2 S Y N -A C K Hubungan TCP dimulai dengan mengirimkan pat SYN-TCP host yang dituju, pengiriman pat SYN adalah merupakan pembuka untuk membuka jalur koneksi antara dua host melalui protokol TCP. Apabila hubungan tersebut disetujui host tujuan akan mengirimkan pat SYN-ACK sebagai tanda bahwa jalur sudah terbentuk. Dan bagian terakhir adalah pengiriman pat ACK dari host awal host tujuan sebagai konfirmasi. Sedangkan flood SYN terjadi bila suatu host hanya mengirimkan pat SYN TCP saja secara kontinyu tanpa mengirimkan pat ACK sebagai konfirmasinya. Hal ini akan menyebabkan host tujuan akan terus menunggu pat tersebut dengan menyimpannya dalam backlog. Meskipun besar pat cil, tetapi apabila pengiriman SYN tersebut terus menerus akan memperbesar backlog. Hal yang terjadi apabila backlog sudah besar akan mengakibatkan host tujuan akan otomatis menolak semua pat SYN yang datang, sehingga host tersebut tidak bisa dikoneksi oleh host-host yang lain. Gambar 3.2 Proses TCP Syn flood 4. WinPcap WinPcap adalah open source library yang digunakan untuk meng-capture dan menganalisis jaringan pada platform win32. 3 Kebanyakan aplikasi jaringan mengakses jaringan menggunakan operasi primitif seperti soct. Sangat mudah untuk mengakses data pada jaringan dengan pendekatan seperti ini semenjak operasi mampu mengatasi detildetil dari aplikasi level bawah (protocol handling, pact reassembly, dll.) dan menyediakan interface yang familiar. WinPcap menyediakan fasilitas untuk : Meng-capture raw pact, baik yang menuju sebuah mesin yang menjalakannya maupun mesin lain yang sedang bertukar data dengannya. Memfilter pat-pat berdasarkan butuhan pengguna sebelum memanfaatkannya dalam aplikasi. Mentransmisikan raw pact dalam jaringan. Mendapatkan informasi statistic dari trafik jaringan. Pemrograman antar muka WinPcap dapat digunakan oleh banyak tipe peralatan analisis jaringan, troubleshooting, security, dan pengawasan. Tools yang mengandalkan WinPcap antara lain : network and protocol analyzer network monitors traffic loggers traffic generators user-level bridges and routers network intrusion detection systems (NIDS) network scanners security tools WinPcap mengirim dan menerima pat secara terpisah dari host protocol, seperti TCP-IP. Hal ini berarti WinPcap tidak bisa melakukan blok, filter, atau manipulasi dari trafik yang di-generate oleh program lain pada mesin yang sama. WinPcap hanya melakukan sniffing pat yang datang. 5. IPSec Policies Internet Protocol security (IPSec) policies, dapat digunakan untuk membantu melindungi komputer berbasis operasi Windows 2000, Windows XP, dan Windows Server 2003 dari ancaman berbasis jaringan seperti virus dan worm. IPSec policies dapat diaplikasikan secara lokal atau diaplikasikan pada anggota domain sebagai bagian dari domain s group policies. IPSec policies yang bersifat lokal dapat distatikkan atau dinamik. IPSec policies statik ditulis registry lokal dan terus ada setelah operasi direstart. IPSec policies dinamik tidak secara permanen ditulis di registry dan akan dihapus tika operasi atau IPSec policies agent service di-restart. 6. DESAIN DAN IMPLEMENTASI

4 Sebelum melakukan proses pembuatan, terlebih dahulu ditentukan spesifikasi. Spesifikasi akan menjadi titik tolak sekaligus menjadi acuan untuk pembuatan dan juga menentukan kapabilitas dan mampuan apa saja yang harus bisa dipenuhi yang dimaksud. yang dibangun memiliki spesifikasi sebagi berikut: 1. beroperasi pada platform Windows. 2. yang digunakan harus bisa mengambil data-data dari jaringan. 3. Semua data yang dikumpulkan disimpan dalam database. 4. Resource yang digunakan harus seminimal mungkin. Start Terima data jaringan Flood? Parsing data Block IP & Port 6.1. Desain Secara Umum Secara umum yang akan dibangun adalah sebagai berikut. Keterangan dari gambar 6.1 ialah input dari program adalah data jaringan yang masuk mudian akan di proses apakah data yang ada tersebut melakukan flooding atau tidak. Jika data yang datang adalah flooding maka alamat IP asal pat dan port yang digunakan akan diblok. Jika tidak melakukan flood maka pat akan diteruskan. Gambar 6.2 adalah flowchart dari pendeteksian data flooding. Pertama akan melihat apakah data merupakan data kiriman atau data dari dalam. Jika data merupakan data kiriman, maka dicek port yang digunakan tersedia atau tidak. Jika tidak tersedia maka langsung diblok. Jika port tersedia, pat-pat tersebut dicek, apakah pat-pat tersebut merupakan pat TCP syn. Jika pat TCP Syn lebih besar dari TCP Syn maksimum yang ditetapkan, maka akan diblok. End Gambar 6.1 Desain umum program pemblokiran otomatis pada flood Start Terima data jaringan Pat kiriman? Port aktif? pat Syn > Max pat Syn? Parsing data Blok IP dan port End Gambar 6.2 Flowchart pendeteksian data flooding 7. UJI COBA Pada bab ini akan dibahas mengenai pengan terhadap. Pertama-tama akan dibahas mengenai fungsionalitas dan cepatan, mudian dijabarkan pula bagaimana penulis melakukan pengan tersebut. Setelah itu pembahasan berlanjut hasil pengan. 4

5 7.1. fungsionalitas coba ini bertujuan untuk mengetahui apakah berjalan sesuai dengan butuhan dan fungsi proses yang telah diuraikan pada Bab III. Untuk melakukan pengan tersebut tersebut penulis melakukan hal-hal berikut : 1. Menjalankan sebuah virtualisasi prototype dari sebuah hubungan host-tohost. 2. Melakukan pemantauan pada prototype LAN tersebut. 3. Melakukan flooding host yang telah diberi. 4. Melihat hasil dari apakah data flood dapat di block atau tidak. Berikut adalah tabel hasil pengan pencegahan data flooding pada jaringan komputer : Tabel 7.1 Tabel Pengiriman pada port yang tersedia Port Periode Pemblokiran TCP Syn Tabel 7.2 Tabel Pengiriman pada port yang tidak tersedia Port Periode Pemblokiran TCP Syn Koneksi yang mengirim pat-pat TCP Syn melebihi batas yang sudah ditentukan langsung diblok alamat IP asal pat dan port-nya. Demikian pula jika menggunakan port yang tidak tersedia. Makan alamat IP asal pat dan port-nya langsung diblok oleh Ketahanan coba ini ditujukan untuk meng pada aplikasi dalam menghadapi beban traffic yang datang. Sebuah program peng akan melakukan tekanan server dengan beban traffic jaringan yang besar, dan akan diukur seberapa besar jumlah beban traffic yang bisa diatasi oleh aplikasi. 5 Untuk melakukan simulasi ini digunakan sebuah aplikasi bantu yang bernama Network Traffic Generator. Aplikasi ini meng-generate TCP/UDP traffic dari klien server untuk meng router/firewall dibawah beban jaringan yang besar.gambar 4.11 adalah tampilan dari aplikasi klien dari Network Traffic Generator. Tabel 7.3, 7.4, 7.5, 7.6, dan 7.7 merupakan hasil yang dilakukan pada : Tabel 7.3 Tabel pada pada >10 2 >10 3 >10 4 >10 5 >10 Tabel 7.4 Tabel pada pada >10 2 >10 3 >10 4 >10 5 >10 Tabel 7.5 Tabel pada pada >10 2 >10 3 >10 4 >10 5 >10

6 Tabel 7.6 Tabel pada pada >10 2 >10 3 >10 4 >10 5 >10 Tabel 7.7 Tabel pada pada >4 2 >4 3 >4 4 >4 5 >4 tidak. mampu memblokir alamat IP dan port dari asal pat yang melakukan flooding. mampu mengatasi sendiri dengan melakukan pengambilan putusan data masuk apakan flood atau tidak. 3. koneksi terhadap berbanding terbalik terhadap kinerja dari. 9. DAFTAR PUSTAKA Vulnerability Note VU# Syn flood How to block specific network protocols and ports by using ipsec Delphi Developers Information and ComponentsWilliam Stalling William,2002,Jaringan Komputer. Stalling William,2001,Komunikasi Data dan Komputer. Pada menggunakan 500. gangguan pada -4. Gambar 4.13 menunjukkan gangguan pada 500. Ketahanan bergantung dari jumlah koneksi yang terjadi. Berdasarkan hasil tahan dengan spesifikasi seperti yang disebutkan di lingkungan coba dan variabel yang ditetapkan pada aplikasi Network Traffic Generator, mampu mengatasi jumlah koneksi kurang dari 500. Ketika jumlah lebih besar atau sama dengan 500, maka akan gangguan. 8. KESIMPULAN Dari pengan yang ada maka dapat diambil simpulan bahwa yang dibuat memiliki unggulan sebagai berikut : 1. dapat mengambil data dari Ethernet card, sehingga semua data bisa dilihat apakah data itu merupakan data yang dibutuhkan atau tidak. 2. mampu mendeteksi apakah data yang masuk merupakan data flood atau 6