ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5) DAN AFFINE BLOCK CIPHERTERHADAP SERANGAN DICTIONARY ATTACK UNTUK KEAMANAN ROUTER WEBLOGIN HOTSPOT

Transkripsi

1 ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5) DAN AFFINE BLOCK CIPHERTERHADAP SERANGAN DICTIONARY ATTACK UNTUK KEAMANAN ROUTER WEBLOGIN HOTSPOT TESIS AIDIL HALIM LUBIS PROGRAM STUDI S2 TEKNIK INFORMATIKA FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2016

2 ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5) DAN AFFINE BLOCK CIPHER TERHADAP SERANGAN DICTIONARY ATTACK UNTUK KEAMANAN ROUTER WEBLOGIN HOTSPOT TESIS Diajukan untuk melengkapi tugas dan memenuhi syarat memperoleh ijazah Magister Teknik Informatika AIDIL HALIM LUBIS PROGRAM STUDI S2 TEKNIK INFORMATIKA FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2016

3 PERSETUJUAN Judul : ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5) DAN AFFINE BLOCK CIPHER TERHADAP SERANGAN DICTIONARY ATTACK UNTUK KEAMANAN ROUTER WEBLOGIN HOTSPOT Kategori : TESIS Nama : AIDIL HALIM LUBIS Nomor Induk Mahasiswa : Program Studi : S2 TEKNIK INFORMATIKA Fakultas : ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA Komisi Pembimbing : Pembimbing 2 Pembimbing 1 Dr. Poltak Sihombing, M.Kom Prof. Dr. Opim Salim Sitompul, M.Sc Diketahui / disetujui oleh Program Studi S2 Teknik Informatika Ketua, Prof. Dr. Muhammad Zarlis NIP

4 PERNYATAAN ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5) DAN AFFINE BLOCK CIPHER TERHADAP SERANGAN DICTIONARY ATTACK UNTUK KEAMANANROUTER WEBLOGIN HOTSPOT TESIS Saya mengakui bahwa tesis ini adalah hasil karya saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing telah disebutkan sumbernya. Medan, Agustus 2016 Aidil Halim Lubis Nim

5 PERNYATAAN PERSETUJUAN PUBLIKASI KARYA ILMIAH UNTUK KEPENTINGAN AKADEMIS Sebagai sivitas akademika, saya yang bertanda tangan bawah ini : di Nama : AIDIL HALIM LUBIS NIM : Program Studi : S2 TEKNIK INFORMATIKA Jenis Karya Ilmiah : TESIS Demi pengembangan ilmu pengetahuan, menyetujui untuk memberikan kepada Universitas Sumatera Utara Hak Bebas Royalti Non-Eksklusif (Non-Exclusive Royalty Free Right) atas tesis saya yang berjudul : ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5) DAN AFFINE BLOCK CIPHER TERHADAP SERANGAN DICTIONARY ATTACK UNTUK KEAMANANROUTER WEBLOGIN HOTSPOT Beserta perangkat yang ada (jika diperlukan). Dengan Hak Bebas Royalti Non-Eksklusif ini, berhak menyimpan, mengalih media, memformat, mengelola dalam bentuk database, merawat dan mempublikasikan tesis saya tanpa meminta izin dari saya selama tetap mencantumkan nama saya sebagai penulis dan sebagai pemegang dan/atau sebagai pemilik hak cipta. Demikian pernyataan ini dibuat dengan sebenarnya. Medan, 26 Agustus 2016 Aidil Halim Lubis NIM

6 Telah diuji pada Tanggal : 26 Agustus 2016 PANITIA PENGUJI TESIS Ketua : 1. Prof. Dr. Opim Salim Sitompu, M.Sc 2. Dr. Poltak Sihombing, M.Kom 3. Prof. Dr. Muhammad Zarlis 4. Dr. Erna Budhiarti Nababan, M.IT

7 RIWAYAT HIDUP DATA PRIBADI Nama Lengkap : Aidil Halim Lubis, S.Kom Tempat dan Tanggal Lahir : Binjai, 27 Mei 1988 Alamat Rumah : Jl. Hah. Hasan No.82 A Binjai Telepon : halimlubis.aidil@gmail.com Instansi Tempat Bekerja : SMK Negeri 2 Binjai Alamat Kantor : Jl. Bejomuna DATA PENDIDIKAN SD : SDN Binjai Tamat : 2000 SLTP : SMPN 5 Binjai Tamat : 2003 SLTA : SMKS Tunas Pelita Binjai Tamat : 2006 DIPLOMA : D-III Politeknik Negeri Medan Tamat : 2010 S1 : Universitas Pembangunan Panca Budi Tamat : 2013 S2 : Teknik Informatika USU Tamat : 2016

8 i KATA PENGANTAR Assalamu alaikum Wr.Wb Puji dan syukur penulis panjatkan Kehadirat Allah SWT karena atas berkah dan rahmat serta karunia-nya sehingga tesis ini dapat diselesaikan tepat pada waktunya. Pada kesempatan ini pula penulis ingin mengucapkan terima kasih yang sebesar-besarnya kepada berbagai pihak yang telah banyak membantu peneliti baik secara moril maupun materil, langsung maupun tidak langsung. Untuk itu penulis ingin mengucapkan terimakasih kepada : 1. Rektor, Prof. Dr. Runtung, S.H., M.Hum atas kesempatan yang diberikan kami untuk mengikuti dan menyelesaikan pendidikan Program Magister. 2. Bapak Prof. Dr. Opim Salim Sitompu, M.Sc, selaku Pembimbing Utama, Dekan Fakultas Ilmu Komputer dan Teknologi Informasi yang penuh perhatian telah memberikan dorongan, bimbingan dan arahan. 3. Bapak Prof. Dr. Muhammad Zarlis, selaku ketua komisi pembanding, Ketua Program Studi Magister Teknik Informatika atas kesempatan yang diberikan kepada saya menjadi mahasiswa Program Magister. 4. Bapak M. Andri Budiman, M.Comp.Sc., M.E.M selaku sekretaris Program Studi Magister Teknik Informatika. 5. Bapak Dr. Poltak Sihombing, M.Kom selaku Pembimbing Anggota yang telah membimbing penulis hingga selesainya penelitian ini. 6. Ibu Dr. Erna Budhiarti Nababan selaku anggota komisi pembanding 7. Seluruh Dosen Pengajar Pascasarjana Program Studi Magister Teknik Informatika yang telah memberikan banyak ilmu pengetahuan selama penulis mengikuti pendidikan. 8. Teristimewa kepada Orang tua penulis, ayahanda Ahmad Rifai Lubis dan Ibunda Mislah, serta Istri Tercinta Wahyuni Adha Purba, S.Pd yang senantiasa

9 ii memberikan semangat dan dukungan baik berupa moril maupun materil hingga selesai proses pendidikan ini. 9. Rekan-rekan seperjuangan pada Program Studi Magister Teknik Informatika yang tergabung dalam Kom A 2013, serta teman-teman yang tidak bisa penulis sebutkan namanya satu-persatu yang senantiasa memberikan dukungan. Akhirnya, penulis menyadari didalam penulisan tesis ini masih terdapat banyak kekurangan, oleh karena itu untuk kesempurnaan penulisan tesis ini penulis mengharapkan kritik dan saran yang bersifat membangun. Semoga Allah SWT selalu mengabulkan doa-doa kita dalam meraih cita-cita dan harapan kita semua, serta dengan S2 ini mampu mencerdaskan kehidupan bangsa. Akhir kata penulis berharap semoga tesis ini dapat bermanfaat bagi semua pihak, khususnya dalam bidang pendidikan. Wassalamu alaikum Wr.Wb Medan, 26 Agustus 2016 Aidil Halim Lubis

10 iii ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5) DAN AFFINE BLOCK CIPHER TERHADAP SERANGAN DICTIONARY ATTACK UNTUK KEAMANAN ROUTER WEBLOGIN HOTSPOT ABSTRAK Kriptografi adalah ilmu yang digunakan untuk menyamarkan pesan yang akan dikirim oleh pengirim ke penerima pesan. Salah satu algoritma yang cukup banyak digunakan sampai saat ini yaitu algoritma message-digest 5 atau MD5. Output yang dihasilkan oleh algoritma MD5 berupa hash. Namun algoritma ini telah banyak ditemui kelemahannya karena panjang bit yang digunakan. Pada penelitian ini, penulis menganalisa kinerja dari algoritma MD5serta mengkombinasikan dengan algoritma affine block cipher untuk dapat mengurangi kelemahan yang ada pada algoritma MD5. Hasil yang diperoleh dari penelitian ini adalahalgoritma affine block cipher memiliki tingkat keamanan yang cukup baik karena memiliki panjang kunci yang bernilai n sebesar dan memiliki bilangan relatif prima yang tersedia sebanyak Kata kunci : message-digest, MD5, affine block cipher,hash,

11 iv ANALYSIS OF THE COMBINATION MESSAGE-DIGEST ALGORITHM 5 (MD5) AND AFFINE BLOCK CIPHER AGAINTS ATTACK OF DICTIONARY ATTACK TO ROUTER SECURITY HOTSPOT WEBLOGIN ABSTRACT Cryptography is the science of disguising the messages so that only well known by the provider and the recipient. One of the algorithm that is quite a lot of used until this time is algorithm message-digest 5 or MD5. The output produced by the algorithm MD5 be hash. But this algorithm has many found weakness because the length of the bit is used. In this research, the authors analyze the performance of the algorithm MD5 and combine with affine algorithm block cipher for can reduce the weakness that exist on the algorithm MD5. The results obtained from this research is the affine algorithm block cipher have a good security level because it has the key length of value n of and have numbers relatively prima available as much as Keywords : message-digest, MD5, affine block cipher,hash,

12 v DAFTAR ISI Hal KATA PENGANTAR i ABSTRAK iii DAFTAR ISI v DAFTAR GAMBAR viii DAFTAR TABEL ix BAB I PENDAHULUAN 1.1. Latar Belakang Rumusan Masalah Batasan Masalah Tujuan Penelitian Manfaat Penelitian 3 BAB II TINJAUAN PUSTAKA 2.1. Keamanan Mekanisme Kriptografi Tujuan Kriptografi Kriptografi Simentrik dan Asimentris Kriptografi Simetris Kriptografi Asimetris Keamanan Sistem Kriptografi Algoritma Message Digest Serangan Pada Algoritma Message-Digest Analisa Keamanan Algoritma MD Algoritma Affine Cipher Analisa Keamanan Algoritma Affine Block Cipher 17

13 vi BAB III METODOLOGI PENELITIAN 3.1. Bahan-bahan Analisis Algoritma Analisis Algoritma Message Digest 5 (MD5) Analisis Algoritma Affine Cipher Analisis Algoritma Affine Block Cipher Rancangan Penelitian 32 BAB IV HASIL DAN PEMBAHASAN 4.1. Hasil dan Implementasi Fungsi Hash Menggunakan Algoritma MD Percobaan Pertama Fungsi Hash Menggunakan Algoritma MD Percobaan Kedua Fungsi Hash Menggunakan Algoritma MD Percobaan Ketiga Fungsi Hash Menggunakan Algoritma MD Proses Enkripsi Menggunakan Algoritma Affine Block Cipher Percobaan Pertama Proses Enkripsi Menggunakan Algoritma Affine Block Cipher Percobaan Kedua Proses Enkripsi Menggunakan Algoritma Affine Block Cipher Percobaan Ketiga Proses Enkripsi Menggunakan Algoritma Affine Block Cipher Kombinasi Algoritma MD5 dengan Algoritma Affine Block Cipher Percobaan Pertama Kombinasi Algoritma MD5 dengan Algoritma Affine Block Cipher Percobaan Kedua Kombinasi Algoritma MD5 dengan Algoritma Affine Block Cipher Percobaan Ketiga Kombinasi Algoritma MD5 dengan Algoritma Affine Block Cipher Analisa Waktu Analisa Waktu Algoritma MD Analisa Waktu Algoritma Affine Block Cipher Analisa Waktu Kombinasi Algoritma MD5 dengan Algoritma Affine Block Cipher 57

14 vii 4.6. Analisa Keamanan Analisa Keamanan Kombinasi Algoritma MD5 dan Algoritma Affine Block Cipher 59 BAB V KESIMPULAN DAN SARAN 5.1. Kesimpulan Saran 61 DAFTAR PUSTAKA 62

15 viii DAFTAR GAMBAR HAL Gambar 2.1. Mekanisme Kriptografi 6 Gambar 2.2. Kriptografi Berbasis Kunci 7 Gambar 2.3. Diagram Proses Enkripsi dan Dekripsi 9 Gambar 2.4. Diagram Proses Enkripsi dan Dekripsi Algoritma Simetris 11 Gambar 3.1. Ilustrasi Pembuatan Message Digest Algoritma MD5 21 Gambar 3.2. Pengolahan Blok 512 bit 21 Gambar 3.3. Proses Operasi Dasar MD5 22 Gambar 3.4. Proses Hash Algoritma MD5 27 Gambar 3.5. Proses Enkripsi dan Dekripsi pada Algoritma Affine Cipher 28 Gambar 3.6. Proses Enkripsi dan Dekripsi pada Algoritma Affine Cipher 30 Gambar 3.7. Proses Enkripsi dan Dekripsi pada Algoritma Affine Block Cipher 32 Gambar 3.8. Rancangan Penelitian Kombinasi Algoritma MD5 dengan Algoritma Affine Block Cipher 33 Gambar 4.1. Analisa Waktu Algoritma Affine Block Cipher 56 Gambar 4.2. Analisa Waktu Kombinasi Algoritma MD5 dan Algoritma Affine Block Cipher 59

16 ix DAFTAR TABEL HAL 3.1. Fungsi-fungsi Dasar MD Nilai T[i] Rincian Operasi pada fungsi F(b,c,d) Rincian Operasi pada fungsi G(b,c,d) Rincian Operasi pada fungsi H(b,c,d) Rincian Operasi pada fungsi I(b,c,d) Proses Enkripsi pada Algoritma Affine Cipher Proses Dekripsi pada Algoritma Affine Cipher Proses Enkripsi pada Algoritma Affine Block Cipher Hasil putaran 1 dan 2 Message-Digest dari Plainteks medan Hasil Putaran 3 dan 4 Message-Digest dari Plainteks medan Operasi Hasil Penambahan dan Konversi Hasil Putaran 1 dan 2 Message-Digest dari Plainteks Universitas Hasil Putaran 3 dan 4 Message-Digest dari Plainteks Universitas Operasi Hasil Penambahan dan Konversi Hasil Putaran 1 dan 2 Message-Digest dari Plainteks Informatika Hasil Putaran 3 dan 4 Message-Digest dari Plainteks Informatika Operasi Hasil Penambahan dan Konversi Analisa Waktu pada Algoritma MD Analisa Waktu pada Algoritma Affine Block Cipher Analisa Waktu pada Kombinasi Algoritma MD5 dan Algoritma Affine Block Cipher 57