TEKNIK HACKING KUNCI ALGORITMA RIVEST SHAMIR ADLEMAN (RSA) 512-BIT DENGAN METODE DIFFERENCE OF SQUARES SKRIPSI MAHADI Z

Transkripsi

1 TEKNIK HACKING KUNCI ALGORITMA RIVEST SHAMIR ADLEMAN (RSA) 512-BIT DENGAN METODE DIFFERENCE OF SQUARES SKRIPSI MAHADI Z PROGRAM STUDI S1 ILMU KOMPUTER FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2013

2 TEKNIK HACKING KUNCI ALGORITMA RIVEST SHAMIR ADLEMAN (RSA) 512 BIT DENGAN METODE DIFFRENCE OF SQUARES SKRIPSI DiajukanuntukmelengkapitugasakhirdanmemenuhisyaratmencapaigelarSarjana Ilmu Komputer MAHADI Z PROGRAM STUDI S1 ILMU KOMPUTER FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2013

3 ii PERSETUJUAN Judul : TEKNIK HACKING KUNCI ALGORITMA RIVEST SHAMIR ADLEMAN (RSA) 512-BIT DENGAN MENGGUNAKAN METODE DIFFERENCE OF SQUARES Kategori : SKRIPSI Nama : MAHADI Z Nomor Induk Mahasiswa : Program Studi Fakultas : SARJANA (S1) ILMU KOMPUTER : ILMU KOMPUTER DAN TEKNOLOGI INFORMASI Diluluskan di Medan, 27 Agustus 2013 Komisi Pembimbing : Pembimbing 2 Pembimbing 1 Dian Rachmawati, S.Si, M.Kom M.Andri Budiman, ST, M.Comp.Sc, MEM NIP NIP Diketahui/Disetujui oleh Program Studi S1 Ilmu Komputer Ketua, Dr. Poltak Sihombing, M.Kom NIP

4 iii PERNYATAAN TEKNIK HACKING KUNCI ALGORITMA RIVEST SHAMIR ADLEMAN (RSA) 512-BIT DENGAN METODE DIFFRENCE OF SUARES SKRIPSI Saya mengakui bahwa skripsi ini adalah hasil karya saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing telah disebutkan sumbernya. Medan, September 2013 MAHADI Z

5 iv PENGHARGAAN Puji dan syukur kehadirat Allah SWT, yang hanya dengan rahmat dan izin-nya penulis dapat menyelesaikan penyusunan skripsi ini, sebagai syarat untuk memperoleh gelar Sarjana Komputer, pada Program Studi S1 Ilmu Komputer Fakultas Ilmu Komputer dan Teknologi Informasi. Ucapan terima kasih penulis sampaikan kepada: 1. Bapak Prof. Dr. dr. Syahril Pasaribu, DTM&H, MSc(CTM). Sp.A(K) selaku Rektor. 2. Bapak Prof. Dr. Muhammad Zarlis selaku Dekan Fakultas Ilmu Komputer dan Teknologi Informasi. 3. Bapak Dr. Poltak Sihombing, M.Kom selaku Ketua Program Studi S1 Ilmu Komputer. 4. Ibu Maya Silvi Lydia, B.Sc, M.Sc selaku Sekretaris Program Studi S1 Ilmu Komputer dan Dosen Pembimbing Akademik. 5. Bapak M. Andri Budiman, ST, M.CompSc, MEM, dan Ibu Dian Rachmawati, S.Si, M.Kom Selaku Dosen Pembimbing. 6. Bapak Drs. James Peter Marbun M.Kom dan Bapak Syahriol Sitorus, S.Si, MIT Selaku Dosen Pembanding. 7. Semua dosen pada Departemen Ilmu Komputer FASILKOM-TIUSU, dan pegawai di Ilmu Komputer FASILKOM-TI USU. 8. Ayahanda Zakaria R dan ibunda Artuti, serta abangda Irwandi, kakanda Fauziah dan Rita Irmayani, serta adik-adik Rizky Hasan, Kurnia Ramadhan Mirza Arifin, Fahmi Idris dan Basyaruddin selalu memberikan kasih sayang dan dukungannya kepada penulis.

6 v 9. Rekan-rekan senior khususnya: abangda Suharsono S.Kom, Ridho Simanungkalit ST., Heri Wibowo S.Kom., Eko Verdianto S.Kom, Azizah Endarstati S.Kom, Zainuddin Siregar S.Kom dan yang lainya yang selalu memberikan semangat dan dorongan dan motivasi kepada penulisselama menyelesaikan skripsi ini. 10. Rekan-rekan kuliah: Isman Santoso, Mhd.Arisandy Pratama, Zuwarbi Wiranda Hsb, Basrah Nasution, Anton Gumala Putra, Budi Satria Mukhlis, Huzaifa yang selalu memberikan semangat dan dorongan, serta motivasi kepada penulisselama menyelesaikan skripsi ini. 11. Rekan-rekan junior: Aulia Akbar Harahap, Azizah Mei Sari S, Yayang Kurniati, Arifin, Almizfar, Eddo Affan dan lainya, yang selalu memberikan semangat dan dorongan kepada penulisselama menyelesaikan skripsi ini. 12. Rekan-rekan IKLC, Sobat Bumi Se-Indonesia, Ukmi Al-Khuwarizmi, Pema Fasilkom-TI, IMILKOM dan lainya yang tidak bisa disebutkan satu persatu, yang selalu memberikan semangat dan dorongankepada penulisselama menyelesaikan skripsi ini. Semoga Allah SWT melimpahkan berkah kepada semua pihak yang telah memberikan bantuan, perhatian, serta dukungan kepada penulis dalam menyelesaikan skripsi ini. Medan, 27Agustus2013 Penulis

7 vi ABSTRAK Ukuran kunci pada penerapan algoritma Rivest Shamir Adleman (RSA) sangat menentukan keamanan pesan yang akan dirahasiakan. Semakin panjang ukuran kunci yang digunakan pada algoritma RSA, maka semakin sulit suatu metode kriptanalisis melakukan faktorisasi maupun bruce force attack terhadap pemecahan sepasang elemen kunci algoritma RSA. Sayangnya, semakin panjang ukuran kunci, semakin lama proses pengimplementasian algoritma ini. Celah inilah yang menjadi peluang bagi seorang hacker atau kriptanalisis untuk menemukan kombinasi angka melalui kunci publik algoritma RSA yang tidak dirahasiakan.banyak metode yang digunakan untuk pemecahan kunci algoritma RSA, seperti trial and error, faktorisasi, serangan common modulus, dan sebagainya.dalam penelitian ini penulis mencoba melakukan pemecahan kunci dengan menggunakan metode faktorisasi, tepatnya dengan menggunakan metode difference of squares. Pengimplementasian dilakukan menggunakan bahasa pemrograman Visual C# 2012, melalui beberapa uji coba sample menggunakan parameter waktu untuk menentukan efisiensi metode. Hasil pengujian menunjukan bahwa faktor selisih kunci dari nilai kunci p dan q, lebih berpengaruh dibandingkan ukuran panjang kunci.hal ini diperkuat dari pengujian ukuran kunci sebesar 30 digit secara acak dengan selisih kunci pembentuknya yang besar memerlukan waktu sekitar 5 jam. Sementara untuk panjang kunci pada rentang 100 sampai 400 digit, dengan selisih kunci p dan q kecil dalam pengujian selisih 5, 900 dan 90000, waktu yang diperlukan sekitar 150 sampai 250 milisecond. Kata Kunci:RSA, Faktorisasi, Difference of Squares, Kriptanalisis, hacking.

8 vii ABSTRACT Key size on the application of algorithms Rivest Shamir Adleman (RSA) is critical to message security that will be in secret. The longer of key size used in the RSA algorithm, the more difficult perform a factorization method and bruce force attack against splitting a pair of key elements of the RSA algorithm.unfortunately, the longer the key size, the longer the process of implementing this algorithm. Thisgapcan be opportunity fora hackerorcryptanalysistofindcombinations of numbersthrough thersapublic keyalgorithmsarenotsecret. Many methodsareusedtohacking of RSAkeyalgorithm, such astrial and error, factorization, commonmodulusattack, andso on. Inthis study the authorsattempt to crackkeyusingfactorizationmethod, preciselybyusing thedifferenceofsquaresmethod. Implementationis doneusingthe programminglanguagevisualc#2012,throughasampletestusingthe timeparametertodeterminethe efficiency ofthe method. The test results showedthat thekeyfactorofthe difference inthe value ofpandqkey, an effectgreaterthanthelength ofthe key. This was confirmedfromtestingkey sizeof 30randomdigitswiththe keydifferenceof theconstituentwhichtakes about5hours. As for thekey lengthin the range of100 to400digits, with thekeydifference betweenpandqsmalldifferenceintest5, 900and90000around the timeit will take150to 250milliseconds. Keyword: RSA, Factorization, Difference of Squares, Cryptanalysis, Hacking.

9 viii DAFTAR ISI Halaman Persetujuan Pernyataan Penghargaan Abstrak Abstract Daftar Isi Daftar Tabel Daftar Gambar Daftar Lampiran ii iii iv vi vii viii ix x xi Bab I Pendahuluan 1.1 Latar Belakang Perumusan Masalah Batasan Masalah Tujuan Penelitian Manfaat Penelitian Sistematika Penulisan 5 Bab II Landasan Teori 2.1 Sistem Keamanan Craker, Hacker, dan Motif Kriptografi Cryptographic system ( cryptostem) Skema Pertukaran Kunci Deffie-Hellman Algortima Rivest Shamir Adleman (RSA) Fungsi Totien Euler φ Proses Pembuatan Kunci Proses Enkripsi Proses Dekripsi RSA 512-Bit Cryptanalysis Metode Kriptanalisis pada RSA Serangan pada algoritma RSA Faktorisasi fermat Metode difference of squares Fermat s Little Theorem 21 Bab III Analisis dan Perancangan Sistem

10 ix 3.1 Analisis Sistem Analisis Masalah Cause and Effect Diagram Analisis Kebutuhan sistem Kebutuhan Fungsional Sistem Kebutuhan Nonfungsional Sistem Pemodelan Use Case Diagram Activity Diagram Sequence Diagram Pseudo Code Pseudo CodeDifference of Squares Pseudo Code Algoritma RSA Pseudo Code Fermat s Little Teorem Flowchart Flowchart Gambaran Umum Pembentukan RSA Cryptosystem Flowchart Pembentukan Kunci Algortima RSA Flowchart Metode Difference of Squares Flowchart Proses Enkripsi Algoritma RSA Flowchart Proses Dekripsi Algoritma RSA Perancangan Antarmuka sistem Rancangan Antarmuka Splash Screen Rancangan Antarmuka Aplikasi Penerapan RSA Rancangan Antarmuka Aplikasi Hacking Algoritma RSA Rancangan Antarmuka Tentang 50 Bab IV Implementasi dan Pengujian 4.1 Implementasi Sistem Spesifikasi kebutuhan Perangkat keras Spesifikasi Kebutuhan Perangkat Lunak Tampilan Aplikasi Form Splash Screen Form Penerapan Aplikasi RSA FormImplementasiAplikasi Hacking Algoritma RSA Form Tentang Pengujian Pengujian Sistem Penerapan Algoritma RSA Pengujian Sistem Hacking algortima RSA 66 Bab V Kesimpulan dan Saran 5.1 Kesimpulan Saran 82 Daftar Pustaka 83

11 x DAFTAR TABEL Nomor Tabel Nama Tabel Kebutuhan non-fungsional sistem DokumentasiNaratifProses Enkripsi Algoritma RSA Dokumentasi Naratif Proses Dekripsi Algoritma RSA DokumentasiNaratif Use Case Proses Hacking Algoritma RSA Perbandingan antara waktu eksekusi program dengan panjang kunci Algoritma RSA Perbandingan waktu eksekusi dengan ukuran file Algoritma RSA Uji coba proses hacking algoritma RSA berdasarkan panjang kunci secara acak Pengujian proses hacking kunci rentang 1-10 digit dari nilai kunci p dan q pada beberapa kali pengujian Pengujian pengaruh selisih p dan q kunci terhadap lamanya proses pemecahan kunci (dimana selisih = 5) Pengujian pengaruh selisih p dan q kunci terhadap lamanya proses pemecahan kunci (dimana selisih = 900) Pengujian pengaruh selisih p dan q kunci terhadap lamanya proses pemecahan kunci (dimana selisih = 90000) Perbandingan selisih kunci dengan lamanya waktu eksekusi dengan panjang kunci konstan = 8 digit Halaman DAFTAR GAMBAR

12 xi Nomor Gambar Nama Gambar Proses enkripsi dan dekripsi algoritma RSA Proses enkripsi dan dekripsi pada Symmetric Cryptosystem Proses enkripsi dan dekripsi pada Assymmetric Cryptosystem Analisis masalah aplikasi Hacking Algoritma RSA 512-Bit Interaksi aktor dengan sistem Pembuatan dan Hacking Agoritma RSA Activity Diagram aplikasi enkripsi Algoritma RSA Activity Diagram aplikasi enkripsi Algoritma RSA Activity Diagram aplikasi Hacking Algoritma RSA Sequence Diagram aplikasi Enkripsi Algoritma RSA Sequence Diagram aplikasi Dekripsi Algoritma RSA Sequence Diagram aplikasi Hacking Algoritma RSA Pseudocode Metode difference of squares Pseudocode Algoritma RSA Pseudocode Fermat s Little Teorm Proses Umum Algoritma RSA Proses Pembentukan Kunci Algoritma RSA Faktorisasi Bilangan n Dengan Metode Difference of Squares Proses enkripsi RSA Proses dekripsi RSA Rancangan Interface Splash Screen Rancangan Antarmuka Aplikasi Penerapan Algortima RSA Rancangan Antarmuka Aplikasi Hacking Algoritma RSA Rancangan Interface Form Tentang Form Splash Screen Form Aplikasi Algoritma RSA Form Aplikasi Hacking Algoritma RSA Form Tentang Proses uji coba sistem aplikasi Algoritma RSA Plaintext untuk uji coba proses enkripsi dekripsi algoritma RSA Perbandingan lamanya waktu eksekusi proses generate kunci Algoritma RSA terhadap panjang kunci (dalam digit) Perbandingan lamanya waktu eksekusi proses enkripsi Halaman

13 xii Algoritma RSA terhadap panjang kunci (dalam digit) Perbandingan lamanya waktu eksekusi proses dekripsi Algoritma RSA terhadap panjang kunci (dalam digit) Perbandingan Ukuran file (dalam Kb) dengan lama waktu eksekusi (dalam digit) Proses uji coba aplikasi hacking algoritma RSA Grafik perbandingan waktu hacking dengan panjang kunci Grafik perbandingan rata-rata panjang kunci antara 1-10 digit dengan lamanya waktu hacking Grafik perbandingan pengaruh selisih kunci dengan lama waktu eksekusi dimana (selisih = 5) Grafik perbandingan pengaruh selisih kunci dengan lama waktu eksekusi dimana (selisih = 900) Grafik perbandingan pengaruh selisih kunci dengan lama waktu eksekusi dimana (selisih = 90000) Grafik perbandingan Selisih kunci P dan Q dengan lamanya waktu eksekusi sistem dengan panjang kunci konstan (n = 8 digit) DAFTAR LAMPIRAN

14 xiii Halaman A. Listing Program A-1 B. Daftar Riwayat Hidup B-1