KRIPTOANALISIS RSA DENGAN KURVA ELLIPTIK (CRYPTANALYSIS OF RSA WITH ELLIPTIC CURVES)

Transkripsi

1 KRIPTOANALISIS RSA DENGAN KURVA ELLIPTIK (CRYPTANALYSIS OF RSA WITH ELLIPTIC CURVES) Skripsi untuk memenuhi sebagian persyaratan mencapai derajat Sarjana S-1 Program Studi Matematika diajukan oleh Zeni Fera Bhakti Kepada PROGRAM STUDI MATEMATIKA FAKULTAS SAINS DAN TEKNOLOGI UIN SUNAN KALIJAGA YOGYAKARTA 2013

2 ii

3 iii

4 iv

5 KATA PENGANTAR Puji syukur penulis panjatkan kehadirat Allah SWT yang telah melimpahkan rahmat dan hidayah-nya sehingga penulis dapat menyelesaikan penulisan skripsi ini. Salawat dan salam semoga selalu tercurahkan kepada Nabi Muhammad Saw. Penyusunan skripsi ini dimaksudkan untuk memenuhi sebagian persyaratan guna memperoleh gelar Sarjana Program Studi Matematika. Skripsi ini berisi pembahasan mengenai kriptoanalisis RSA dengan kurva elliptik. Penulis menyadari bahwa tanpa bimbingan dan doa dari berbagai pihak, skripsi ini tidak dapat selesai dengan baik. Oleh karena itu ucapan terima kasih disampaikan sebesar-besarnya kepada : 1. Dekan Fakultas Sains dan Teknologi Universitas Islam Negeri Sunan Kalijaga Yogyakarta. 2. Ketua Program Studi Matematika Fakultas Sains dan Teknologi Universitas Islam Negeri Sunan Kalijaga Yogyakarta. 3. Muhamad Zaki Riyanto, S.Si., M.Sc. selaku pembimbing yang telah meluangkan waktu untuk membantu, memotivasi dan mengarahkan sehingga skripsi ini dapat terselesaikan. 4. Mochammad Farhan Qudratullah, M.Si selaku Penasihat Akademik yang telah meluangkan waku untuk membantu dan mengarahkan selama menempuh studi juga segenap dosen dan karyawan Fakultas Sains dan Teknologi Universitas Islam Negeri Sunan Kalijaga Yogyakarta. v

6 5. Ari Dwi Hartanto, S.Si. yang telah bersedia membagi ilmunya. Terimakasih untuk waktu dan bimbingannya. Tiada gading yang tak retak. Tiada karya yang sempurna. Tentunya penulis menyadari bahwa dalam penulisan skripsi ini tidak lepas dari kekurangan. Oleh karena itu, saran dan kritik yang membangun sangat penulis harapkan untuk menyempurnakan skripsi ini. Semoga skripsi ini dapat memberikan manfaat bagi semua pihak. Yogyakarta, 18 Desember 2012 Penulis vi

7 PERSEMBAHAN Untuk Bapak dan Ibuku tercinta, yang telah memberikan kasih sayang dan doanya. Ku persembahkan karya sederhana ini untuk mereka, semoga dapat memberikan kebanggaan atas jerih payahnya selama ini. Untuk Adikku, yang selalu menjadi alasanku untuk terus semangat. Semoga dapat termotivasi untuk memberikan yang lebih baik dariku. Special Thank s to Nanang Bayu Herjunantiyo, yang tak lelah menyemangati dan mendoakanku. Terimakasih. ^_^ Juga untuk Lia Setyawati, S.Si, Rossi Fauzi S.Si, Fanny Brilliyanti. S.Si, Hanifah Nurlatifah, S.Si, Purwanti Cahyaningtyastuty, S.Si dan si cantik Dewi Sri Suharsono. Thank s for all... Almamaterku, Prodi Matematika Fakultas Sains dan Teknologi Universitas Islam Negeri Sunan Kalijaga Yogykarta. vii

8 MOTTO Kalau kita yakin sama sesuatu, kita harus percaya, terus berusaha bangkit dari kegagalan, jangan pernah menyerah dan taruh keyakinan itu di kening kamu. Lima centimeter di depan kening kamu. Jadi dia nggak akan pernah lepas dari mata kamu. Bawa mimpi dan keyakinan kamu setiap hari, kamu lihat setiap hari dan percaya bahwa kamu bisa. Sehabis itu yang kamu perlu cuma.. Cuma kaki yang akan berjalan lebih jauh dari biasanya, tangan yang akan berbuat lebih banyak dari biasanya, mata yang akan menatap lebih lama dari biasanya, leher yang akan lebih sering melihat ke atas. Lapisan tekad yang seribu kali lebih keras dari baja dan hati yang akan bekerja lebih keras dari biasanya. Serta, mulut yang akan selalu berdoa... ( Novel 5 cm ) Lakukan yang terbaik dan tetap semangat (Nanang Bayu H.) viii

9 DAFTAR ISI HALAMAN JUDUL... SURAT PERSETUJUAN SKRIPSI... HALAMAN PENGESAHAN... HALAMAN PERNYATAAN KEASLIAN... KATA PENGANTAR... HALAMAN PERSEMBAHAN... HALAMAN MOTTO... DAFTAR ISI... ARTI LAMBANG DAN SINGKATAN... DAFTAR TABEL... i ii iii iv v vii viii ix xi xiii DAFTAR GAMBAR... xiv ABSTRAK... ABSTRACT... xv xvi BAB I PENDAHULUAN Latar Belakang Batasan Masalah Rumusan Masalah Tujuan Penelitian Manfaat Penelitian Tinjauan Pustaka... 4 ix

10 BAB II LANDASAN TEORI Bilangan Bulat Dasar Struktur Aljabar BAB III METODE PENELITIAN BAB IV SISTEM KRIPTO RSA Kriptografi Sistem Kripto RSA BAB V KRIPTOANALISIS RSA DENGAN KURVA ELLIPTIK Kriptoanalisis Kurva Elliptik Kriptoanalisis RSA dengan Kurva Elliptik BAB VI IMPLEMENTASI KRIPTOANALISIS RSA DENGAN KURVA ELLIPTIK Sarana Implementasi Implementasi Kriptoanalisis RSA dengan Kurva Elliptik Uji Coba Program BAB VII PENUTUP Kesimpulan Saran DAFTAR PUSTAKA DAFTAR LAMPIRAN LAMPIRAN A. Skrip Program LAMPIRAN B. Tabel Kode ASCII x

11 ARTI LAMBANG DAN SINGKATAN : himpunan semua bilangan bulat : himpunan semua bilangan asli : himpunan semua bilangan bulat modulo m : x anggota himpunan A a n : a membagi habis n : tidak sama dengan > : lebih besar dari : lebih kecil dari atau sama dengan : lebih besar dari atau sama dengan : harga mutlak a : bilangan bulat terbesar yang lebih kecil atau sama dengan ( ) : great common division (faktor persekutuan terbesar) dari a dan b : nilai a dimasukkan ke x : perkalian : a modulo b ( ) : a kongruen b modulo m ( ) : a tidak kongruen b modulo m : invers dari a : A himpunan (subset) atau sama dengan X : H subgrup dari G : banyaknya elemen G : suatu pemetaan dari grup G ke grup G : G isomorfis dengan G : Berakibat atau bukti implikasi ke arah kanan xi

12 : bukti implikasi ke arah kiri : biimplikasi atau jika dan hanya jika : penjumlahan : himpunan semua bilangan real : r kombinasi dari n unsur yang berbeda : akhir dari suatu pembuktian : n faktorial xii

13 DAFTAR TABEL Tabel 2.1. Perhitungan gcd(101,17) menggunakan algoritma Euclide Tabel 2.2. Perhitungan x dan y menggunakan Teorema Tabel 2.3. Perhitungan menggunakan algoritma Euclide yang diperluas Tabel 2.4. Beberapa nilai Euler Tabel 2.5. Perhitungan Tabel 4.1. Konversi karakter pesan menjadi kode ASCII Tabel 4.2. Cipherteks pesan milik Bayu Tabel 4.3. Bilangan-bilangan cipherteks yang diterima Fera Tabel 4.4. Plainteks hasil dekripsi Tabel 5.1. Waktu yang diperlukan untuk Exhaustive Key Search Tabel 5.2. Sisa Kuadratik atas Tabel 6.1. Spesifikasi Perangkat Keras Tabel 6.2. Spesifikasi Perangkat Lunak xiii

14 DAFTAR GAMBAR Gambar 4.1. Skema Algoritma Simetris Gambar 4.2. Skema Algoritma Asimetris Gambar 4.3. Sistem kripto RSA (Stinson, 2006) Gambar 5.1. Penjumlahan P + Q = R Gambar 5.2. Menggandakan P + P = R Gambar 6.1. Uji Coba Program titik.m Gambar 6.2. Uji Coba Program pemfaktoran.m xiv

15 KRIPTOANALISIS RSA DENGAN KURVA ELIPTIK ABSTRAKSI Zeni Fera Bhakti NIM Sistem kripto RSA merupakan suatu sistem kripto asimetris yang bekerja pada himpunan bilangan bulat modulo n atau biasa ditulis, dengan n adalah suatu bilangan hasil kali dua bilangan prima ganjil yang berbeda. Disebut asimetris karena kunci pada RSA mencakup dua buah kunci, yaitu kunci publik dan kunci rahasia. Kunci publik digunakan untuk melakukan enkripsi, dan dapat diketahui oleh orang lain. Sedangkan kunci rahasia tetap dirahasiakan dan digunakan untuk melakukan dekripsi. Keamanan sistem kripto RSA ini terletak pada bilangan n yang cukup besar dan sulit difaktorkan. Selain kriptografi dalam kriptologi (ilmu persandian) dikenal juga istilah kriptoanalisis, yakni sebuah teknik memecahkan kunci dari suatu sistem persandian. Pembahasan skripsi ini difokuskan pada kriptoanalisis RSA dengan memanfaatkan kegunaan kurva elliptik dalam pemfaktoran n. Pemfaktoran ini dilakukan untuk memperoleh kunci rahasia. Kurva elliptik adalah himpunan dari semua titik-titik yang merupakan solusi dari persamaan kurva elliptik dua variabel yang mana di dalam kurva elliptik ini berlaku beberapa aturan penjumlahan titik yang dapat digunakan untuk mendapatkan faktor dari n. Kata kunci: bilangan prima, faktorisasi, kriptologi, RSA, kurva eliptik. xv

16 CRYPTANALYSIS OF RSA WITH ELLIPTIC CURVES ABSTRACT Zeni Fera Bhakti NIM System crypto RSA is an asymmetric crypto system that works on the set of integers modulo n or regular written where n is a number the product of two distinct odd primes. It is called asymmetric because the RSA key includes two keys, the public key and the secret key. The public key is used to do encryption, and be known by others. While the secret key is kept secret and used to decryption. Security RSA crypto system which is located on a number n is quite large and difficult to be factored. Besides cryptography, in crytology also known as the term cryptanalysis. Cryptanalysis is a technique of key solving a system of coding. Discussion of this paper focused on cryptanalysis RSA with the application of elliptic curves in factoring n. Factoring is done to obtain the secret key. Elliptik curves is the set of all points which is a solution of the equation of the elliptic curves two variable. In elliptic curves applies some point sum rules which can be used to get a factor of n. Key word : primes, factorization, cryptology, RSA, eliptik curves. xvi

17 BAB I PENDAHULUAN 1.1 Latar Belakang Masalah Seiring berkembangnya teknologi informasi maka kebutuhan akan jaringan keamanan yang aman pun semakin meningkat. Apalagi jika sudah menyangkut hal-hal yang penting dan sangat rahasia. Oleh karena itu, salah satu upaya yang dapat dilakukan yaitu dengan menyandikan pesan menjadi pesan bersandi yang tidak mudah dimengerti. Sistem kripto RSA merupakan salah satu sistem penyandian yang dapat digunakan untuk menyandikan pesan menjadi pesan bersandi. Sistem ini pertama kali dipublikasikan pada tahun 1978 oleh Ron Rivest, Adi Shamir dan Leonard Adleman dari Massachussetts Institute of Technology (MIT). Nama RSA adalah singkatan dari nama belakang mereka bertiga. Sekarang kriptografi RSA sudah digunakan hampir di segala bidang yang terkait dengan penggunaan jaringan komputer. Bahkan kehidupan kita saat ini tidak lepas dari kriptografi; mulai dari transaksi di mesin ATM, transaksi di bank, transaksi dengan kartu kredit, percakapan melalui telepon genggam serta mengakses internet. RSA termasuk dalam kelompok algoritma kunci publik maka sistem ini memiliki dua macam kunci, yakni kunci publik dan kunci rahasia. Di dalam sistem ini terdapat algoritma dan kunci untuk menyandikan pesan, selain itu juga terdapat kunci lain, yaitu kunci yang berfungsi untuk mengembalikan pesan bersandi menjadi pesan 1

18 2 asli. Algoritma penyandian tersebut dapat diketahui, digunakan dan dipelajari oleh siapapun. Akan tetapi, kunci rahasia yang digunakan untuk mengembalikan pesan bersandi menjadi pesan asli harus dijaga kerahasiaannya. Sejalan dengan berkembangnya ilmu pengetahuan, ada kemungkinan pesan bersandi dapat dipecahkan oleh pihak yang tidak berwenang. Hal semacam ini di dalam kriptografi disebut dengan kriptoanalisis. Sistem kripto RSA ini dikenal sebagai sistem kripto yang keamanannya terletak pada bilangan n yang cukup besar dan sulit difaktorkan (Rinaldi Munir, 2006). Walaupun demikian, karena bilangan ini terdapat dalam kunci publik yang dipublikasikan maka tentu saja sembarang orang dapat mengetahuinya. Tidak menutup kemungkinan akan ditemukan suatu cara untuk dapat memecahkannya. Seiring berkembangnya ilmu matematika pada tahun 1980-an ditemukanlah salah satu kegunanaan kurva elliptik dalam kriptoanalisis RSA, yakni menemukan faktor dari n sehingga keamanan pesan menjadi terancam (L.C. Washington, 2008). Jika pihak yang tidak berwenang terhadap pesan tersebut dapat menemukan faktor dari n dan jika pihak tersebut memahami algoritma kriptografi RSA maka pesan dapat didekrip sehingga dapat diperoleh pesan asli. 1.2 Batasan Masalah Pembatasan masalah sangat penting dilakukan dalam suatu penelitian untuk memfokuskan objek yang diteliti. Pembahasan penelitian ini dibatasi pada pembahasan sistem kripto RSA meliputi konsep matematis yang melandasinya, proses penyandian dan proses kriptoanalisis menggunakan kurva elliptik.

19 3 1.3 Rumusan Masalah Berdasarkan latar belakang yang telah dijabarkan maka dirumuskan permasalahan sebagai berikut : 1. Bagaimana konsep-konsep matematis yang melandasi pembentukan sistem kripto RSA? 2. Bagaimana proses pembentukan kunci, enkripsi dan dekripsi sistem kripto RSA? 3. Bagaimana proses kriptoanalisis RSA dengan kurva elliptik? 4. Bagaimana implementasi kriptoanalisis RSA dengan kurva elliptik dalam bentuk program sederhana menggunakan MATLAB? 1.4 Tujuan Penelitian Penelitian ini bertujuan untuk : 1. Mengkaji tentang konsep-konsep matematis yang melandasi sistem kripto RSA. 2. Mengkaji tentang proses penyandian. 3. Mengkaji tentang proses kriptoanalisis. 4. Mengkaji implementasi kriptoanalisis RSA dengan kurva elliptik dalam bentuk program sederhana menggunakan MATLAB. 1.5 Manfaat Penelitian Manfaat penelitian ini adalah sebagai berikut : 1. Memberikan kontribusi dalam dunia kriptografi khususnya kriptoanalisis bahwa dalam sebuah sistem kripto RSA yang dikenal aman karena

20 4 sulitnya pemfaktoran bilangan n yang bahkan masih digunakan hingga saat ini, tetap terdapat celah untuk mengancam keamanannya. 2. Selain itu, dapat menjadi referensi bagi peneliti selanjutnya. 1.6 Tinjauan Pustaka Penulisan skripsi ini terinspirasi dari paper yang ditulis oleh M. Zaki Riyanto dan Ardhi Ardhian (2008) dan skripsi yang ditulis oleh Ari Dwi Hartanto (2010). Keduanya membahas tentang kriptografi kunci publik khususnya sandi RSA mulai dari konsep dasar perhitungan matematis, pembentukan kunci, enkripsi hingga dekripsi dengan terperinci sehingga sangat membantu penulis dalam memahami sandi RSA. Selain itu, terdapat tesis yang ditulis oleh Michael Pemberton (2009). Dalam tesis ini, salah satunya memuat penjelasan bahwa pada tahun 1980-an ditemukan aplikasi kurva elliptik dalam kriptografi, yakni dapat menemukan faktor n, dimana n merupakan bagian dari kunci publik sandi RSA yang mana jika ada pihak yang dapat menemukan faktor dari n tersebut maka dapat dipastikan keamanan pesan menjadi terancam. Stinson (2006) memberikan penjelasan mengenai sistem kripto RSA. Pembahasan mengenai konsep dasar matematis, seperti teori bilangan bulat, persamaan kongruen dan struktur aljabar abstrak yang meliputi grup, homomorfisma dan gelanggang diberikan oleh Buchmann (2000). Pembahasan mengenai bilangan bulat juga diberikan oleh Rosen (1992). Fraleigh (2000) juga ambil bagian dalam skripsi ini dengan memberikan penjelasan mengenai struktur aljabar abstrak. Walaupun demikian, tidak ada pembahasan yang mengaitkan secara langsung dengan sistem kripto RSA. Sedangkan untuk beberapa algoritma diberikan oleh Menezes, Oorschot dan

21 5 Vanstone (1996). Selanjutnya, juga ada buku dari L.C. Washington (2008) dan J.H. Silverman (1986) yang menjelaskan tentang kurva elliptik.

22 BAB VII KESIMPULAN 7.1. Kesimpulan Berdasarkan hasil studi literatur tentang kriptoanalisis RSA dengan kurva elliptik yang dilakukan penulis dapat ditarik kesimpulan sebagai berikut : 1. Konsep-konsep matematis yang melandasi sistem kripto RSA dibagi menjadi dua bagian yaitu bilangan bulat dan dasar struktur albajar. Bilangan bulat meliputi: pembagi persekutuan terbesar (greatest common divisor), algoritma Euclide dan algoritma Euclide diperluas. Sedangkan dasar struktur aljabar meliputi: grup, ring dan lapangan. 2. Dalam proses penyandian sistem kripto RSA terdapat proses pembentukan kunci, enkripsi dan dekripsi. 2.1 Algoritma pembentukan kunci RSA adalah sebagai beikut: Input : Bilangan prima ganjil yang berbeda, p dan q. Output : Kunci publik (n,b) dan kunci rahasia (p,q,a). Langkah : 1. Hitung dan ( ) ( )( ). 2. Pilih sebarang bilangan b, ( ( )), dengan ( ( )). 3. Hitung invers dari b, yaitu ( ). 4. Diperoleh kunci publik (n,b) dan kunci rahasia (p,q,a). 95

23 Algoritma enkripsi RSA adalah sebagai berikut: Input : Suatu pesan (misal panjangnya t karakter) dan kunci publik RSA ( ) Output : Cipherteks: Langkah : 1. Konversikan karakter karakter pesan menjadi bilangan plainteks 2. Untuk i dari 1 sampai t dikerjakan: Hitung 3. Diperoleh cipherteks 2.3 Algoritma dekripsi RSA adalah sebagai berikut: Input : Cipherteks dan kunci rahasia RSA ( ). Output : Pesan asli. Langkah : 1. Untuk i dari 1 sampai t dikerjakan : Hitung 2. Konversikan bilangan menjadi karakter pesan menggunakan Tabel ASCII. 3. Gabungkan karakter-karakter pesan sehingga diperoleh pesan asli.

24 97 3. Kriptoanalisis RSA dengan kurva elliptik merupakan suatu teknik memecahkan pesan dengan menemukan faktor suatu bilangan n dengan memanfaatkan aturan penjumlahan titik-titik pada kurva elliptik. Pemfaktoran ini bertujuan untuk menemukan kunci rahasia Algoritma Pemfaktoran dengan Kurva Elliptik adalah sebagai berikut: Input : Bilangan bulat n. Output : Bilangan prima ganjil yang berbeda, p dan q. Langkah : 1. Pilih kurva elliptik E modulo n dan titik P. 2. Pilih bilangan bulat B dan hitung (B!)P di E. 3. Jika (2) gagal karena gradien garis modulo n tidak ada maka faktor dari n ditemukan. 4. Jika (2) sukses, pilih B yang lebih besar atau pilih kurva elliptik dan titik P baru, dan mulai dari awal Algoritma kriptoanalisis RSA dengan kurva elliptik adalah sebagai berikut: Input : Bilangan bulat n dan cipherteks. Output : Pesan asli hasil kriptoanalisis.

25 98 Langkah : 1. Faktorkan nilai n menggunakan aturan penjumlahan titik dalam kurva elliptik sehingga nilai p dan q ditemukan. (Algoritma 5.1.) 2. Temukan kunci rahasia dengan memanfaatkan nilai p dan q hasil pemfaktoran. (Algoritma 3.1.) 3. Dekripsi cipherteks menggunakan kunci rahasia hasil kriptoanalisis. (Algoritma 3.3.) 7.2. Saran Berdasarkan pada proses penelitian yang dilakukan tentang kriptoanalisis RSA dengan kurva elliptik maka saran-saran yang ingin disampaikan penulis adalah : 1. Perlu dilakukan penelitian kembali tentang kriptoanalisis RSA menggunakan cara lain selain dengan kurva elliptik. 2. Implementasi kriptoanalisis RSA dengan kurva elliptik menggunakan program komputer selain software MATLAB, misalkan dengan Maple, Delphi, Java dsb. Demikian saran-saran yang dapat disampaikan penulis. Semoga skripsi ini dapat menjadi inspirasi bagi pembaca untuk mengembangkan lebih lanjut tentang kriptoanalisis RSA dengan kurva elliptik.

26 DAFTAR PUSTAKA Buchmann, J. A Introduction to Cryptography. USA : Springer-Verlag New York, Inc. Fraleigh, J. B A First Course in Abstract Algebra. Sixth Edition. USA : Addison-Wesley Publishing Company, Inc. Hartanto, Ari Dwi Manfaat General Linear Grup pada Sistem Kripto RSA. Skripsi S1. Yogyakarta : Jurusan Matematika FMIPA UGM. diakses pada 17 Desember 2012 pukul WIB. diakses pada 8 Januari 2013 pukul WIB. J.H. Silverman The Arithmetic of Elliptic Curves. New York : Springer- Verlag. L.C. Washington Elliptik curves : Number Theory and Cryptography. Second Edition. New York : Chapman & Hall/CRC. Menezes, Oorcshot, dan Vanstone Handbook of Applied Cryptography. USA : CRC Press, Inc. Rinaldi Munir Kriptografi. Bandung : Informatika. 99

27 100 Riyanto, M.Zaki dan Ardhi Ardhian Kriptografi Kunci Publik : Sandi RSA. Paper. Yogyakarta : Kelompok Studi Sandi. Rosen, K.H Elementary Number Theory and Its Applications. USA : AT and T Bell Laboratories. Schneier, Bruce Applied Cryptography, Second Edition : Protocol, Algorithms and Source Code in C. John Wiley and Sons, Inc. Stinson, D.r Cryptography Theory and Practice. Third Edition. Florida : CRC Press, Inc. Widiarsono, Teguh Tutorial Praktis Belajar MATLAB. Jakarta.

28 LAMPIRAN-LAMPIRAN

29 LAMPIRAN A SKRIP PROGRAM Listing A.1. : Skrip program untuk menentukan titik-titik kurva elliptik. Listing A.2. : Skrip program untuk mencari faktor dari m. 101

30 102

31 103 LAMPIRAN B TABEL KODE ASCII Kode ASCII

32 Kode ASCII Extended 104