ANALISIS DAN IMPLEMENTASI KEAMANAN JARINGAN VOICE OVER INTERNET PROTOKOL (VOIP) MENGGUNAKAN VPN TUNNELING PPTP DAN L2TP/IPSEC

Transkripsi

1 ANALISIS DAN IMPLEMENTASI KEAMANAN JARINGAN VOICE OVER INTERNET PROTOKOL (VOIP) MENGGUNAKAN VPN TUNNELING PPTP DAN L2TP/IPSEC Suci Monalisa Olii Mukhlisulfatih Latief 1 Tajuddin Abdillah 2 SI Sistem Inforrnasi/Teknik Informatika Intisari Di dunia informatika, teknologi komunikasi yang saat ini berkembang memungkinkan untuk melewatkan trafik suara melalui jaringan komputer adalah Voice over Internet Protocol (VoIP). VoIP merupakan teknologi yang memilki kemampuan melakukan panggilan suara, video, data yang dijalankan diatas infrastruktur jaringan packet network. Masalah keamanan menjadi kebutuhan yang mendasar karena VoIP dikirimkan melewati jaringan publik yang bersifat tidak aman, dimana Real-time Transport Protocol (RTP) sebagai protokol pembawa suara yang umum digunakan pada VoIP rawan akan serangan sniffer dengan melihat isi dari RTP payload, sehingga paket RTP dapat ditangkap, direkontruksi dan di playback, sehingga cara untuk membangun keamanannya yaitu dengan menggunakan VPN Tunneling Point To Point Protocol (PTPP) dan Layer 2 Tunniling Protocol/Internet Protokol Security (L2TP/IPSec) yang merupakan keamanan dengan membuat terowongan virtual diatas jaringan public, data akan dienkapsulasi dan dienkripsi agar terjamin kerahasiaanya. Penelitian ini bertujuan untuk membangun suatu jaringan komunikasi beserta keamanannya. Metode penelitian menggunakan Experimental Research merupakan penelitian yang dilakukan untuk mengetahui akibat yang ditimbulkan dari suatu perlakuan yang diberikan secara sengaja oleh peneliti. Hasil penelitian menunjukkan bahwa tanpa keamanan percakapan pada VoIP dapat di sniffer dengan merekam pembicaraan yang berlangsung melalui VoIP calls pada tools wireshark backtrack dan setelah adanya keamanan VPN tunneling PPTP dan L2TP/IPsec sniffer tidak dapat menangkap informasi sehingga kerahasiaan dapat terjaga, selain itu analisis terhadap performance VoIP setelah menggunkan PPTP dan L2TP/IPSec sangat baik karena banyak panggilan yang success dilihat dari SIP statistics Kata Kunci : VoIP, RTP, VPN Tunneling PPTP dan L2TP/IPSec PENDAHULUAN Perkembangan teknologi khususnya teknologi informasi membawa perubahan yang sangat mendasar bagi dunia telekomunikasi. Dalam teknologi komunikasi, komunikasi suara merupakan suatu hal yang akan menjadi bagian yang sangat penting, karena saat ini komunikasi suara dianggap komunikasi yang

2 paling praktis. teknologi komunikasi yang saat ini berkembang yang memungkinkan untuk melewatkan trafik suara melalui jaringan komputer adalah Voice over Internet Protocol (VoIP). Dengan adanya jaringan komunikasi VoIP maka dibangun pemanfaatan jaringan VoIP di SMA Negeri 1 Bongomeme untuk memudahkan komunikasi antar kepala sekolah, wakil kepala sekolah dan staf guru. Namun, berkembangnya layanan Voice bukan berarti tidak akan ada masalah yang muncul. Salah satu kelemahannya bahwa data yang terkirim tidak terjamin kerahasiaannya, karena siapapun bisa melakukan penyadapan, perekaman dan memanipulasi suara tersebut terhadap data VoIP dari percakapan user. Oleh karena itu, Penggunaan metode VPN (Virtual Private Network) tunneling merupakan salah satu alternatif komunikasi suara berbasiskan open source untuk membuat koneksi encrypted tunnels secara virtual dengan menggunakan autentikasi dengan yang lainnya menggunakan pre-shared secret dan menggunakan algoritma sha dan 3DES. VPN tunneling merupakan suatu teknik keamanan membuat terowongan diatas jaringan publik menggunakan Protocol Point To Point Protocol (PTPP) dan layer 2 Tunneling Protocol / IP Security (L2TP/IPSEC). PPTP dan L2TP/IPSEC adalah layer 2 Tunneling Protocol, keduanya melakukan pembungkusan payload pada frame PPTP untuk dilewatkan pada jaringan. PPTP dan L2TP/IPSEC dibuat dengan menggunakan OS Mikrotik. Dari metode tunneling akan dilakukan pengujian tingkat pengaruh adanya system kemanan yang dibuat terhadap performance VoIP. Pengertian Voip Menurut Saputra (2010 : 6) tentang Implementasi dan Analisa Unjuk kerja secure VoIP telah dikemukakan Voice over Internet Protocol (VoIP) dikenal juga dengan sebutan IP Telephony didefinisikan sebagai suatu sistem yang menggunakan jaringan internet untuk mengirimkan paket data suara dari suatu tempat ke tempat lainya menggunakan perantara protocol IP. Dengan kata lain teknologi ini mampu melewatkan trafik suara berbentuk paket melalui jaringan IP.

3 VPN Tunneling 1. Point To Point Protocol (PTPP) PPTP dikembangkan oleh Microsoft dan Cisco merupakan protokol jaringan yang memungkinkan pengamanan transfer data dari remote client ke server dengan membuat sebuah VPN melalui TCP/IPPoint to Point Tunneling Protocol (PPTP) beroperasi pada Layer 2 pada model referensi OSI dan didasarkan pada standar Point to Point Protocol (PPP) untuk jaringan dial-up yang memungkinkan semua pengguna dengan PPP client menggunakan ISP untuk terkoneksi ke internet. 2. Layer 2 Tunneling Protocol L2TP adalah suatu standar yang dikembangkan oleh Internet Engineering Task Force (IETF) (RFC 2661) pada layer 2, yang merupakan kombinasi dari keunggulan-keunggulan fitur dari protokol L2F (dikembangkan oleh Cisco) dan PPTP (dikembangkan oleh Microsoft), yang didukung oleh vendor-vendor seperti: Ascend, Cisco, IBM, Microsoft, dan 3Com. L2TP juga mendukung protokolprotokol non-ip. Protokol L2TP lebih banyak digunakan pada VPN non-internet Umunnya L2TP menggunakan port 1702 dengan protokol UDP untuk mengirimkan L2TP encapsulated PPP frames sebagai data yang di tunnel 3. IPSec IPSec merupakan jenis protokol yang mengintegrasikan fitur security yang meliputi proses authentifikasi, integritas, dan kepastian kedalam internet protokol (IP). Dimana proses tersebut dilakukan pada network layer atau layer ketiga dalam model OSI. Dengan menggunakan IPSec Tunnel, kita dapat melakukan enkripsi dari algoritma kriptografi. METODE PENELITIAN Metode yang digunakan dalam penelitian ini adalah Experimental Research yaitu penelitian yang dilakukan untuk mengetahui akibat yang ditimbulkan dari suatu perlakuan yang diberikan secara sengaja oleh peneliti. Sejalan dengan hal tersebut, Latipun (2002) mengemukakan bahwa penelitian eksperimen merupakan penelitian

4 yang dilakukan dengan melakukan manipulasi yang bertujuan untuk mengetahui akibat manipulasi terhadap penelitian yang diamati. Penelitian yang dibuat berkaitan dengan suatu Experimen, dimana dalam membuat suatu jaringan VoIP di rancang dan dilakukan pengujian metode keamanannya, dengan menggunakan tunneling PPTP dan LT2P/IPSEC untuk mengetahui sebab akibat terhadap pengaruh keamanan yang dibuat terhadap dampaknya performance VoIP. TAHAPAN PENELITIAN Identifikasi dan Perumusan Masalah Analisis Kebutuhan Untuk VoIP dan VPN 1. Studi Literatur 2. Pengamatan/wawanca ra Pengamatan 1. Permasalahan 2. Kebutuhan User Kebutuhan Sistem Perancangan Arsitektur VoIP dan VPN Tunneling Desain Arsitektur Arsitektur VoIP dan VPN Tunneling Pembangunan VoIP Software, Hardware, konfigurasi VoIP Pembangunan VPN Tunneling Analisis Keamanan Software, Settingan, Tunneling PPTP, L2TP/IPSEC Penyadapan menggunakan backtrack Keamanan PPTP & L2TP/IPSEC Pengaruh Terhadap Implementasi VoIP & Keamanan Software, Hardware, konfigurasi, Settingan VoIP & VPN Tunneling Gambar 1. Alur Penelitian A. Survey Pada tahap ini dilakukan survey terhadap studi kasus yang diambil yaitu dengan pengambilan data-data di SMA NEGERI 1 BONGOMEME dengan mewawancarai admin yang menangani IT di sekolah tersebut terutama mengenai jaringan. B. Identifikasi masalah Setelah melakukan survey dan mendapatkan data-data maka pada tahap selanjutnya mengidentifikasi masalah dari hasil pengamatan yang dilakukan,

5 identifikasi masalah dilakukan dengan cara mengetahui masalah yang didapat dan pengamatan dari studi literature VoIP dari penelitian-penelitian sebelumnya C. Analisis Kebutuhan Pada tahap ini setelah permasalahan didapat maka dilakukan analisis kebutuhan dengan melakukan kebutuhan perangkat yang diperlukan berdasarkan kebutuhan jaringan VoIP yang akan dibangun dan system keamanannya. Kebutuhan yang di analisis terdiri dari kebutuhan Hardware dan Software, selain itu mengetahui perlunya pemanfaatan teknologi yang digunakan untuk menghasilkan jaringan VoIP. D. Perancangan Jaringan VoIP Setelah dilakukan analisis kebutuhan dari teknologi yang digunakan, maka dilakukan perancangan jaringan VoIP dengan menggunakan Operating System Trixbox berbasis linux dan opensource dan perangkat pendukung lainnya. Pada tahap ini dirancang arsitektur VoIP yang menggambarkan jaringan VoIP berdasarkan pemanfaatan teknologi yang digunakan dari analisis kebutuhan serta rancangan IP Address dan nomor Extention sesuai tujuan E. Pembangunan dan VoIP Pada tahap ini setelah rancangan di buat maka dibangun jaringan VoIP sebagai suatu uji coba untuk memastikan sistem voip berjalan dengan baik sebelum di implementasikan di SMA Negeri 1 Bongomeme F. Pembangunan keamanan PPTP dan L2TP/IPSEC Setelah pembangunan VoIP di bangun berdasarkan pengujian yang dilakukan, maka tahap selanjutnya di bangun sistem keamanan dari VoIP dengan menggunakan teknik VPN (Virtual Private Network) Tunneling, yang terdiri dari metode tunneling PPTP dan L2TP/IPSEC. Pembangunan tunneling dibuat menggunakan mikrotik pada server dan pada client dibanguan pada jaringan VPN G. Analisis Keamanan Pada tahap ini dilakukan analisis metode keamanan VPN Tunneling berupa penyadapan komunikasi antara client 1 dengan lainnya, analisis dibuat

6 untuk mengetahui seberapa jauh pengaruh Performance VoIP terhadap metode tunneling yang terdiri dari PTPP dan L2TP/IPSEC H. Implementasi VoIP dan Keamanan Tahap implementasi merupakan tahap puncak dari penelitian yang dilakukan, karena pada tahap ini sudah dilakukan penerapan VoIP di SMA Negeri 1 Bongomeme dengan uji coba sebelumnya, sehingga pada implementasi VoIP dan keamanannya sudah teruji dan sukses untuk di implementasikan. Pada tahap implementasi dilakukan juga penjelasan secara praktik kepada Kepala Sekolah, Wakil Kepala Sekolah dan guru mengenai sistematika VoIP dari unjuk kerja yang dilakukan. HASIL DAN PEMBAHASAN Gambar 2. Percakapan Melalui VoIP Gambar 2 memperlihatkan hasil percakapan yang dilakukan melalui VoIP yang telah dibangun, proses percakapan menampilkan video conference antar client satu dengan client yang dihubungi dengan nomor tujuan yang telah di calling.

7 Gambar 2. Keamanan Dan Performance VoIP Tanpa Tunneling Gambar 2 menjelaskan bahwa hasil dari paket data yang tertangkap dapat diketahui bahwa untuk paket data VoIP tidak ada metode keamanan yang digunakan untuk mengamankan paket RTP, selain itu di jelaskan untuk performance VoIP yang dilihat dari SIP Statistics. Gambar 3. Keamanan Dan Performance VoIP Dengan Tunneling PPTP Gambar 3 Menjelaskan bahwa dengan adanya tunneling PPTP protokol yang lewat berubah menjadi UDP dan infonya tertulis destination yang artinya percakapan tidak dapat disadap.

8 Gambar 4. Keamanan Dan Performance VoIP Dengan Tunneling PPTP Dan L2TP/IPSec Gambar 4 Menjelaskan bahwa sama seperti halnya dengan adanya tunneling PPTP dan dengan di tambahkannya tunneling L2TP/IPSec keamanan menjadi lebih tinggi karena adanya penggunaan enkripsi 3DES dan Sha. Hasil penelitian yang didapat dari pengujian keamanan tanpa menggunakan VPN tunneling semua informasi dapat di tangkap oleh sniffer dalam protocol RTP hal ini dikarenakan karena tidak adanya keamanan yang dibangun, sedangkan untuk yang menggunakan VPN tunneling dengan 1 tunneling yang dipakai yaitu PPTP keamanan dapat terjaga karena data tidak dapat disadap seperti halnya dengan menggunakan 2 tunneling yaitu menggabungkan antara PPTP dan L2TP/IPSec tingkat keamanan semakin tinggi karena adanya enkripsi sha dan 3DES yang ada pada L2TP/IPSec. Sedangkan untuk performance VoIP tingkat pengaruh tanpa menggunakan VPN tunneling berdasarkan hasil SIP statistik yang didapat panggilan yang sukses hanya sedikit, sedangkan untuk yang 1 tunneling jumlah panggilan yang sukses masih lebih banyak dari yang tanpa tunneling dan gabungan dari 2 tunneling menghasilkan jumlah panggilan sukses yang lebih banyak seperti yang telah di tampilkan pada gambar 2, 3 dan 4

9 KESIMPULAN DAN SARAN Kesimpulan 1. VoIP bisa dijadikan sebagai suatu alternatif hubungan komunikasi karena dalam implementasinya sangat mudah dengan penggunaan alat yang sederhana sehingga biaya relatif lebih murah, dan tidak adanya tarif pulsa. 2. Trixbox sebagai Sistem Operasi berbasis Linux yang bersifat open source yang dikhususkan untuk VoIP juga masih memiliki beberapa kelemahan salah satunya adalah akses konfigurasi yang masih menggunakan HTTP yang dapat dengan mudah dilakukan sniffing untuk mendapatkan administrator account. 3. VPN Tunneling PPTP dan L2TP/IPSec sangat baik untuk dijadikan keamanan Voip, karena sniffer tidak bisa mendapatkan informasi dari percakapan yang dilakukan. 4. Menggunakan 2 tunneling yaitu PPTP Dan L2TP/IPSecc sangat baik untuk performance VoIP, karena tercatat banyaknya calls yang tertangkap selama percakapan dalam sejam yaitu total calls 130 dibandingkan dengan tanpa VPN Tunneling dan hanya 1 tunneling yaitu PPTP panggilan yang success hanya menghasilkan 88 calls dan 102 calls Saran Analisis Keamanan penelitian ini hanya teruji pada penyadapan voice, sehingga perlu adanya penyadapan berupa video call DAFTAR PUSTAKA Olii, M.S Analisis Dan Implementasi keamanan jaringan Voice Over Internet Protokol (VoIP) Menggunakan VPN Tunneling PPTP Dan L2TP/IPSec. [Skripsi] diterbitkan. Universitas Negeri Gorontalo. Arkaah. F. B VoIP in the Context of Security. Stockholm : Department of Computer and Systems Sciences Stockholm University / Royal Institute of Technology.

10 Saputra, A. T Implementasi dan Analisis Unjuk Kerja Secure VoIP Pada Jaringan VPN Berbasis MPLS Dengan Menggunakan Tunneling IPSec. [Skripsi] diterbitkan. Universitas Indonesia.(online), ( diakses 3 April 2013). Marjan, I dan Syarif, S Model Teknik Keamanan VoIP Dengan VPN Kriptografi Pada Jaringan Wireless LAN B Dan Korelasi Terhadap Intellibility Suara Dan Bandwith VoIP, (Online), Vol.7, No. 1 ( diakses 10 April 2013)