Muhammad Azmi Alfian. Program Studi Teknik Komputer, Politeknik Telkom. ABSTRACT

Transkripsi

1 ANALISIS DAN PERANCANGAN KEAMANAN VOICE OVER INTERNET PROTOCOL (VOIP) BERBASIS GNU LINUX TRIXBOX MENGGUNAKAN VIRTUAL PRIVATE NETWORK PADA JARINGAN LOKAL Muhammad Azmi Alfian Program Studi Teknik Komputer, Politeknik Telkom ABSTRACT According to the development of technology, many multimedia services has developed in the internet. One of those service is VoIP. VoIP technology has a lot of benefit because its uses IP based network that has complex networking in the world. Therefore the cost to make long distance call is more efficient than using analog telephone. But VoIP have weakness which is there no guarantee of security. Because of its IP based, then everyone can sniffed and record VoIP data traffic. From this case, a research on how to make VoIP data secure without reducing the performance of the VoIP network itself came to our thought. One of it was Virtual Private Network (VPN) method. VPN itself has known as one of the powerfull method to handle security problem, especially securing important data. To implement this idea than a VoIP over VPN system is made. Than the performance and security of VoIP before and after using the VPN is analyzed. Wheater the voice that created by VoIP over VPN system is fulfill the ITU-T standar based on delay, jitter and packet loss. From the testing with VPN, delay and jitter on VoIP has increased, although still within the ITU-T standard, VPN can secure data from security threats. Before using VPN, VoIP data can be recorded and replay with audio player. The payload data is captureable and visible but after using VPN, VoIP data can t be record and the payload data is invisible. Key Word : VoIP, VPN, ITU-t, delay, jitter, packet loss 1. PENDAHULUAN 1.1 Latar Belakang VoIP adalah teknologi yang menawarkan telepon melalui jaringan IP (Internet Protocol) dengan teknologi ini mengubah suara menjadi kode digital melalui jaringan paketpaket data, bukan sirkuit analog telepon biasa. Penggunaan jaringan IP memungkinkan penekanan biaya dikarenakan tidak perlu membangun sebuah infrastruktur baru untuk komunikasi suara dan penggunaan lebar data (bandwidth) yang lebih kecil dibandingkan telepon biasa. Penggunaan teknologi VoIP yang lebih efisien akan semakin dipermudah karena dapat digabungkan dengan jaringan telepon lokal yang sudah ada, dengan menggunakan VoIP gateway yang akan disambungkan dengan PABX. Setiap individu dapat membangun dan mengembangkan infrastrukturnya secara mandiri, dikarenakan penggunaan sistem operasi berbasis open source Trixbox yang memang dikhususkan untuk menangani VoIP. Penggunaan teknologi VoIP jelas menguntungkan bagi penggunanya. Namun, penggunaan komunikasi yang murah dari sisi keamanan kurang begitu diperhatikan. Oleh karena itu keamanan ketika melakukan komunikasi suara merupakan sesuatu yang sangat penting, karena menyangkut privasi penggunanya. Penggunaan VPN (Virtual Private Network) merupakan salah satu alternatif pelewatan komunikasi suara yang bersifat private atau aman, karena penggunaan koneksi yang telah terenkripsi serta penggunaan private keys, certificate, dan username atau password untuk

2 melakukan otentikasi dalam membangun koneksi. 1.2 Rumusan Masalah Berdasarkan latar belakang di atas, maka rumusan masalah yang dapat diambil adalah : 1. Bagaimana mencegah terjadinya penyadapan saat komunikasi VoIP sedang berlangsung? 2. Bagaimana transmisi data setelah service keamanan sudah terpasang? 1.3 Tujuan Dari penelitian ini diharapkan akan diperoleh hasil sebagai berikut : 1. Membuat suatu service keamanan VoIP dengan menggunakan VPN. 2. Menganalisis transmisi data sesudah terpasang service keamanan VPN. 1.4 Batasan Masalah Ruang lingkup dalam penyusunan proyek akhir ini adalah : 1. Pengaturan dan konfigurasi VoIP server Trixbox. 2. Penggunaan VoIP gateway untuk melakukan panggilan dari VoIP client ke nomor Client yang lain. 3. Pemanggilan Video Call antar client beserta penggunaan OpenVPN sebagai implementasi keamanan dalam jaringan VoIP. 4. Penyadapan komunikasi VoIP Trixbox menggunakan Cain & Abel. 5. Pengujian VoIP pada jaringan lokal. 6. Pengujian dilakukan dengan jarak 1 meter -10 meter. 1.5 Methodologi Penelitian Metode yang digunakan untuk menyelesaikan proyek akhir ini adalah: a. Studi literature Studi litelatur ini dimaksudkan untuk mempelajari konsep dan teori yang dapat mendukung proses implementasi sistem. b. Perancangan dan realisasi Meliputi proses perancangan VoIP dan VPN. c. Pengujian dan analisis implementasi Melakukan pengujian dan menganalisis implementasi yang telah dikerjakan yaitu dengan mengukur QoS pada jaringan yang telah diintegrasikan dengan VPN pada komunikasi VoIP. Berdasarkan metodologi yang digunakan maka berikut adalah langkah-langkah pengerjaan proyek akhir yang akan dilakukan : 1. Menentukan spesifikasi kebutuhan berdasarkan judul proyek akhir 2. Analisis permasalahan yang ada. 3. Membuat desain awal jaringan yang akan dibangun 4. Implementasi dan pengujian. 2. LANDASAN TEORI 2.1 VoIP VoIP (Voice Over Internet Protocol) adalah teknologi berupa hardware atau software yang memungkinkan percakapan telepon dengan menggunakan jalur komunikasi data pada suatu jaringan komputer. Teknologi ini dengan cara merubah suara menjadi format digital tertentu sehingga dapat dilewatkan melalui jaringan IP Parameter Penentu Kualitas Layanan (QoS) Dari VoIP a. Throughput Throughput adalah jumlah data per satuan waktu yang dikirim untuk suatu terminal tertentu di dalam sebuah jaringan, dari suatu titik jaringan, atau dari suatu titik ke titik jaringan yang lain. Throughput maksimal dari suatu titik atau jaringan komunikasi menujukkan kapasitasnya. Secara matematis throughput dapat dituliskan sebagai berikut : Throughput=

3 b. Delay 1. Waktu yang dibutuhkan untuk mengirimkan data dari sumber (pengirim) ke tujuan (penerima). 2. Delay maksimum yang direkomendasikan oleh International Telecommunication Union (ITU) untuk aplikasi suara adalah 150 ms, dan yang masih bisa diterima pengguna adalah 250 ms. 3. Beberapa delay yang dapat mengganggu kualitas suara dalam VoIP: a. Propagation delay Delay yang terjadi akibat transmisi melalui jarak antar pengirim dan penerima. b. Serialization delay Delay pada saat proses peletakan bit kedalam circuit. c. Processing delay Delay yang terjadi saat proses coding, compression, decompression dan decoding. d. Packetization delay Delay yang terjadi saat proses paketisasi digital voice sample. e. Queuing delay Delay akibat waktu tunggu paket sampai dilayani. f. Jitter buffer Delay akibat adanya buffer untuk mengatasi jitter. Gambar 1 c. Loss packet Kehilangan paket ketika terjadi peak load dan congestion (kemacetan transmisi paket akibat padatnya trafik yang harus dilayani) dalam batas waktu tertentu. d. Jitter Jitter atau variansi delay diakibatkan oleh variasi-variasi dalam panjang antrian, dalam waktu pengolahan data, dan juga dalam waktu penghimpuanan ulang paket-paket diakhir perjalanan jitter Indikator Serangan Terdapat berbagai model serangan dan gangguan yang umum terjadi pada protokol SIP, beberapa diantaranya yaitu: 1. Registration Hijacking Penyerang mencoba mencuri informasi yang dikirimkan oleh pengguna ketika akan mendaftar pada sebuah registrar server. Penyerang kemudian dapat menggunakan informasi ini untuk mendaftarkan dirinya sendiri dan mengalihkan seluruh trafik yang menuju pengguna sebenarnya. 2. Tearing Down Sessions Penyerang mencoba melakukan modifikasi terhadap sesi yang sedang berlangsung dengan mengirimkan sebuah pesan palsu. Sebagai contoh, penyerang dapat mengirimkan pesan BYE untuk

4 memutuskan sesi, atau mengirimkan pesan re-invite untuk memodifikasi deskripsi sesi sehingga dapat mengalihkan aliran data media menuju suatu titik tertentu. 3. Impersonating a Server Penyerang bertindak seakanakan sebagai server dan mengirimkan pesan respons tertentu kepada pengguna. Melalui pesan respons ini penyerang dapat mengalihkan pengguna menuju sumber daya yang tidak aman, atau setidaknya menggagalkan request yang dikirim oleh pengguna. 4. Tampering The Message Bodies Memodifikasi isi pesan SIP yang dikirimkan pengguna. Sebagai contoh, dalam beberapa kasus kunci enkripsi untuk sesi media ditampung pada badan pesan SIP. Dengan mengubah parameter kunci ini penyerang akan mampu mendekripsi sesi media yang berlangsung. Penyerang juga mungkin ingin mengubah pesan SDP pada badan pesan SIP untuk mengalihkan sesi. 2.2 TRIXBOX Trixbox CE (Community Edition) adalah sebuah VoIP Phone System berbasiskan sistem open source paling populer didunia karena mengkombinasikan paket-paket open source telepon terbaik yang disertakan didalam sistem operasi tersebut. Sebelumnya kebanyakan user yang ingin mengimplementasikan teknologi VoIP harus dengan usaha yang besar dikarenakan harus menjadi seorang programer untuk menghadapi user interface yang tidak friendly, oleh karena itu untuk mengatasi masalah seperti itu diluncurkannya trixbox dengan penggunaan yang sangat mudah karena menu utama yang berbasiskan web untuk menkonfigurasi dan mengatur sistem, serta paket-paket untuk VoIP Server dijadikan dalam satu bundle dengan operating system CentOS sehingga menjadi sistem TrixboxCE. 2.3 VPN VPN (Virtual Private Network) adalah teknik pengamanan jaringan dengan cara membuat suatu tunnel misalkan pada jaringan publik atau internet sehingga jaringan bersifat private dan aman. VPN dikatakan bersifat private karena ketika akan terbentuknya sebuah koneksi VPN dibutuhkannya otentikasi untuk memastikan bahwa kedua ujung dalam koneksi adalah user yang sesuai yang diberi kewenangan untuk mengakses suatu server. Setelah terbentuknya suatu koneksi VPN maka data akan di enkripsi untuk menjaga kerahasiaan paket yang dikirimkan. Penggunaan otentikasi dan enkripsi yang dipadukan dalam VPN membuat suatu sistem keamanan yang lebih baik. 3. PERANCANGAN 3.1 Analisis Sistem Analisis dan perancangan keamanan jaringan VoIP menggunakan Linux TrixboxCE adalah sebagai langkah awal untuk membangun konsep rancangan sistem yang akan di bangun, untuk menghasilkan output yang optimal. Keamanan jaringan VoIP merupakan sistem yang di rancang untuk menghindari pengaksesan dari client yang tidak di inginkankan. 3.2 Kebutuhan Perangkat a. Kebutuhan perangkat keras : 1. 1 laptop yang berfungsi sebagai server Trixbox sekaligus VPN server atau 3 laptop yang berfungsi sebagai client VoIP sekaligus VPN client. 3. Kabel UTP

5 4. Konektor RJ45 5. Switch yang berguna sebagai penghubung jaringan lokal b. Kebutuhan perangkat lunak : 1. Sistem operasi linux TrixboxCE Sistem operasi Windows 3. OpenVPN 4. X-Lite 5. Cain & Abel, Metasploit, Wireshark 6. Virtual Box 7. VQManager 8. WinSCP 9. Wireshark 3.3 Perancangan Server Implementasi keamanan OpenVPN bekerja pada layer 2 dan 3 referensi OSI. Penggunaan versi ini dikarenakan ketika tulisan ini dibuat merupakan versi terakhir yang dirilis oleh OpenVPN.net. Setelah proses instalasi OpenVPN maka dapat dilakukan pembuatan Certificate Authority (CA) certificate dan key dengan bantuan tools easy-rsa. Penggunaan Certificate Authority (CA) certificate dan key ini berfungsi sebagai kunci antara server VPN dengan client. Gambar Perancangan Client Perancangan pada sisi client dengan menyiapkan PC agar mampu melakukan dan menerima panggilan. Tahap - tahap perancangan ini dapat dilakukan dengan instalasi softphone, kemudian mengaktifkan softphone untuk melakukan registrasi ke server VoIP. Softphone yang digunakan adalah X-Lite. Pada PC yang memerlukan keamanan lebih untuk melakukan panggilan, dapat ditambahkan OpenVPN client. Diagram Alir pada sisi client dapat dilihat pada Gambar 2. Gambar 3 4. ANALISIS dan PENGUJIAN 4.1 Penyadapan Ketika data akan disadap komunikasi antara klien1 menuju server akan di alihkan terlebih dahulu menuju klien3 (sniffer) dan baru akan di teruskan menuju server. Begitu juga proses antara klien2 menuju server akan dialihkan terlebih dahulu menuju klien3 (sniffer). Sehingga data percakapan klien1 dan klien2 akan disadap oleh klien3. Langkah-langkah : 1. Jalankan Cain & Able 2. Jalankan ARP Poison dengan menekan start sniffer 3. Buka tab sniffer, klik kanan pilih scan mac address 4. Pilih IP klien1 lalu buka tab APR 5. Pilih gateway dan IP klien2 6. Pilih tab VoIP

6 4.2 Analisis QOS a. Throughput b. Delay c. Jitter Gambar 5 Gambar 6 Gambar 4 Gambar 7 Dari hasil perbandingan diatas dapat dapat diuraikan kelebihan dan kekurangan pada layanan VPN yang dirancang: a. Kelebihan 1. Proses keamanan lebih terjaga karena data yang dikirim ter-enkripsi. 2. IP yang digunakan merupakan IP virtual, sehingga user yang tidak diinginkan tidak bisa mengakses server. 3. Proses enkripsi data pada alur komunikasi membuat intregitas data bertambah. b. Kekurangan 1. Delay menjadi lebih besar karena proses authentikasi VPN. 2. Jitter pada aliran data komunikasi lebih besar sehingga voice yang dikirimkan tidak sebaik VoIP tanpa menggunakan VPN. 5. PENUTUP 5.1 Kesimpulan Dari hasil analisis dan pengujian sistem, maka dapat ditarik kesimpulan yaitu: 1. Dengan mengimplementasikan VPN pada server yang digunakan pada jaringan VoIP mampu memberikan service keamanan dalam penyadapan komunikasi. 2. Parameter QoS (Quality of Service) yang meliputi Throughput, Jitter, Packet loss dan Delay menunjukkan hasil yang bagus dan stabil. Peningkatan Delay, Jitter, dan Throughput yang terjadi tetap menghasilkan kualitas VoIP yang baik. 5.2 Saran 1. Pembangunan disesuaikan dengan sistem jaringan yang ada sehingga dapat dicocokkan keadaan system dengan tipe yang akan digunakan. 2. Pada perancangan VPN server dan client, hal yang harus sangat diperhatikan adalah konfigurasi server dan certificates untuk pembuatan client agar client dapat dikenali dengan baik

7 3. Penambahan MOS (Mean Opinion Score) pada analisis VoIP menggunakan VPN untuk mengetahui apakah ada penurunan kualitas suara sebelum dan sesudah menggunakan VPN. MOS bisa melalui perhitungan atau dengan mendengarkan suara dari sistem VoIP. REFERENSI [1] Blog Berbagi Informasi. (2007, Desember 4). Dipetik Juni 9, 2011, dari Lapisan-lapisan Jaringan Komputer dan Sistem Proteksinya: blogspot.com/2010/01/lapisanlapisan-jaringan-komputer-dan.html [2] repository. (2007, April 8). Dipetik Mei 16, 2011, dari repositosy.usu: /26824/4/ChapterII.pdf [3] eepis-its. (2008, Maret 24). Dipetik Mei 30, 2011, dari lecturer.eepis-its: [4] Aspek Keamanan Jaringan. (2009, April 6). Dipetik Mei 18, 2011, dari INFORMATIKA STT DUTA BANGSA BLOG: 06/aspek-keamanan-jaringan/ [5] eepis-its. (2009, Mei 8). Dipetik Mei 26, 2011, dari lecture.eepis-its: an_ajar/voip.pdf [6] Pengertian Protokol OSI Layer dan TCP/IP. (2010, Mei 2). Dipetik Mei 27, 2011, dari AditSubang: 10/05/02/pengertian-protokol-osilayer-dan-tcp-ip/ [7] Jaringan Komputer. (2011, April 14). Dipetik Mei 26, 2011, dari Wikipedia: komputer [8] Keamanan Sistem Informasi. (2011, Maret 9). Dipetik Mei 26, 2011, dari BEBAS.vLSM.org: -Keamanan-Sistem-Informasi /2005 /123/123P-03-final1.0- network_security.pdf [9] Local Area Network. (2011, April 6). Dipetik Mei 25, 2011, dari Wikipedia: ea_network [10] Trixbox CE Comunity Edition. (2011, April 26). Dipetik Mei 28, 2011, dari Hendrajana Just another WordPress Weblog: [11] WAN. (2011, April 21). Dipetik Mei 25, 2011, dari Wikipedia: [12] Charlie, S., Wolfe, P., & Erwin, M. (1999). Virtual Private Networks, Second Edition. O' Reilly. [13] Demster, B., & Garrison, K. (2006). Trixbox Made Easy. Birmingham: Packet Publishing. [14] Junaedi, F. (2008). Tunnel dan Virtual Private Network. Routing The World, 17. [15] Kambau, Andi, R., & Tarigan, E. R. (2005). Physical Security. Jakarta: Kelompok 124 IKI-83408T MTI UI. [16] Mochammad, T. (2005). Membuat SIP Extensions Pada Linux Trixbox untuk Server VoIP. [17] Mugiyono, A., & Tamatjita, N. (2009). Telnologi VPN. Report, 19. [18] S, M. I. (2004). MEKANISME DAN IMPLEMENTASI KEAMANAN PADA SESSION INITIATION PROTOCOL (SIP). Bandung: Martinus Indra S. [19] W, P. O. (2007). Cikal Bakal Telkom Rakyat (Panduan Lengkap Setting Voip). Jakarta: PT. Prima Infosarana Media. [20] W, P. O. (2007). Dasar-dasar Pengunaan Editor vi. Jakarta: Suhardi Pakpahan.