PERANCANGAN SISTEM Perancangan Topologi Jaringan Komputer VPN bebasis L2TP dan IPSec

Transkripsi

1 BAB 4. PERANCANGAN SISTEM Pada bab ini akan menjelaskan tahap perancangan sistem Virtual Private Network (VPN) site-to-site berbasis L2TP ( Layer 2 Tunneling Protocol) dan IPSec (Internet Protocol Security), yang meliputi perancangan infrastruktur VPN atau topologi jaringan, instalasi dan konfigurasi perangkat lunak Perancangan Topologi Jaringan Komputer VPN bebasis L2TP dan IPSec Setelah melakukan analisa terhadap sistem yang saat ini berjalan di PT XYZ, Penulis mencoba untuk mengambil kesimpulan bahwa secara keseluruhan tidak perlu ada perubahan topologi yang ada di PT XYZ sehingga topologi secara garis besar masih sama seperti pada gambar berikut, yang membedakannya adalah adanya fitur Virtual Private Network secara site-to-site berbasis L2TP ( Layer 2 Tunneling Protocol) dan Internet Protocol Security. Gambar 4-1 Desain Topologi Jaringan dengan VPN site-to-site L2TP dan IPSec 4-59

2 Rancangan desain topologi jaringan komputer pada gambar 4-1, menggunakan 2 buah router Mikrotik sebagai router kantor pusat dan router kantor cabang, yang terhubung dengan jaringan Internet (ISP) dengan dua jalur berbeda antara kantor pusat dengan kantor cabang. Kedua router (kantor pusat dan kantor cabang) memiliki masing-masing IP address LAN lokal (private), dimana setiap IP Address lokal setiap kantor cabang berbeda network dengan IP address kantor pusat Perancangan Topologi Simulasi Sistem Sebelum dilakukan implementasi ke real network, Dalam simulasi sistem ini dimaksudkan untuk melihat kinerja awal dari network VPN site-to-site berbasis L2TP dan IPSec yang akan dibangun secara jaringan lokal. Tool software simulasi yang digunakan adalah GNS3 dengan fitur QEMU untuk membuat virtual router, adapun desain topologi jaringan simulasi yang digunakan adalah sebagai berikut : Gambar 4-2 Desain Topologi Simulasi Pada topologi jaringan komputer menggunakan simulasi network di GNS3 seperti pada gambar 4-2 semua perangkat keras ( router, device client, host sniffing dan server ) sudah terhubung dan terkonfigurasi sesuai dengan desain jaringan computer pada gambar 4-1. Sehingga device client sudah bisa mengakses device server FTP, sedangkan untuk device host sniffing difungsikan sebagai sniffer untuk 4-60

3 melakukan monitoring jaringan, lalu untuk router ISP 1 dan ISP 2 dikonfigurasi sesuai dengan kondisi jaringan yang berjalan, sedangkan untuk router kantor pusat dan kantor cabang juga sudah dikonfigurasi dengan fitur VPN site-to-site berbasi L2TP dan IPSec. Untuk device client, host sniffing dan server, menggunakan VPC (Virtual PC) dan Network Interface yang digunakan adalah VirtualBox Host-Only Adapter, sehingga PC yang kita gunakan terkoneksi ke dalam simulasi jaringan komputer pada GNS3. Perangkat pendukung pada simulasi site-to-site VPN berbasis L2TP dan IPSec terdiri dari beberapa hardware dan software seperti yang tertera dalam tabel di bawah: Tabel 4-1 Perangkat pendukung infrastruktur simulasi 1 Router dan Sebagai Server VPN dan IPSec kantor pusat 1 Router dan Sebagai client VPN dan IPSec kantor cabang 1 Router sebagai ISP 1(Internet) HARDWARE 1 Router sebagai ISP 2 (Internet) PC sebagai FTP server PC sebagai Client VPN dan FTP Kabel UTP category 5 dan konektor RJ-45 Mikrotik Router OS v sebagai server VPN, client VPN dan Router Windows 7 ultimate sebagai server dan sebagai client SOFTWARE Wireshark win sebagai protocol analyzer NMAP 7.50 tools port scanning File zilla (FTP Server) GNS3 sebagai simulator Network VirtualBox sebagai simulator device server dan client 4-61

4 Winbox v3.11 Digunakan sebagai terminal untuk konfigurasi router Mikrotik 4.3. Perancangan Pengalamatan IP Selain kebutuhan hardware dan software yang tertera pada tabel di atas, terdapat pembagian alokasi IP address yang akan digunakan pada saat simulasi. Pada server VPN telah dilakukan konfigurasi DHCP, sehingga IP Address client akan bersifat dinamis. Dibawah ini merupakan tabel alokasi IP Address pada saat simulasi: Tabel 4-2 Alokasi IP Address untuk desain simulasi router ISP Device IP Address Interface /30 Eth0 arah router pusat Router sebagai ISP /29 Kearah publik internet /30 Eth0 arah router cabang Router sebagai ISP /29 Kearah publik internet Tabel 4-3 Alokasi IP Address untuk desain simulasi router kantor pusat Device IP Address Interface Eth1 arah router ISP 1 Router pusat Sebagai VPN Server /24 Eth0 / lokal /30 IP Server VPN Server sebagai FTP Server Eth0 / lokal Tabel 4-4 Alokasi IP Address untuk desain simulasi router kantor cabang Device IP Address Interface Eth1 arah router ISP 2 Router cabang Sebagai VPN client Eth0 / lokal IP Client VPN PC sebagai FTP dan VPN client Eth0 / lokal 4-62

5 Dikarenakan simulasi ini berjalan pada LAN, maka diperlukan penganturan bandwidth agar simulasi yang dilakukan dapat mempresentasikan kondisi ideal internet. Untuk mempresentasikan kondisi ideal tersebut, dalam penelitian ini digunakan Queque bandwidth management, dan bandwidth yang digunakan adalah sebesar 5 Mbps untuk router kantor pusat, sedangkan untuk router kantor cabang bandwidth yang digunakan sebesar 3 Mbps. Selanjutnya, untuk skenario pengujian dan analisis perbandingan data simulasi VPN dan IPSec, akan di jelaskan pada bagian implementasi dan pengujian yang tertera pada bab V Perancangan Konfigurasi fitur VPN site-to-site Konfigurasi VPN site-to-site berbasis L2TP dan IPsec pada router kantor pusat dan kantor cabang adalah tahap dimana dilakukannya pengaturan-pengaturan parameter yang terdapat pada sebuah perangkat lunak. Adapun parameter-parameter yang akan kita setting pada komputer server, router dan client adalah : 1. Komputer yang digunakan sebagai router Internet Public (ISP). Tahapan konfigurasi yang harus di lalukan dalam tahap perancangan router Internet Public (ISP) adalah : a. Tahap konfigurasi router mikrotik (IP Address, DNS, firewall NAT, statics routes).. b. Tahap pengentesan ping antar perangkat router. c. Tahap konfigurasi queue bandwidth limit. Untuk lebih memperjelas, tahap konfigurasi akan ditampilkan dengan flowchart seperti pada gambar dibawah ini : 4-63

6 Mulai Konfigurasi Router ( IP Address, firewall NAT, DNS, static routes) Tidak Melakukan test ping antar perangkat Ya Konfigurasi queue bandwidth limit Selesai Gambar 4-3 Flowchart konfigurasi pada sisi Router ISP 2. Komputer yang digunakan sebagai router VPN server kantor pusat. Tahapan konfigurasi yang harus di lakukan dalam tahap perancangan router VPN server kantor pusat adalah: a. Tahap konfigurasi router mikrotik (IP Address, DNS, firewall NAT, statics routes, bandwidth). b. Tahap konfigurasi L2TP sebagai server VPN c. Tahap konfigurasi IP security Untuk lebih memperjelas, tahap konfigurasi akan ditampilkan dengan flowchart seperti pada gambar dibawah ini : 4-64

7 Mulai Tidak Konfigurasi Router ( IP Address, firewall NAT, DNS, static routes, bandwidth) Melakukan test ping antar perangkat Ya Konfigurasi L2TP Server Tidak Melakukan test L2TP active status Ya Konfigurasi IPSec Selesai Gambar 4-4 Flowchart konfigurasi pada sisi Router Server kantor pusat 3. Komputer yang digunakan sebagai router VPN client kantor cabang. Tahapan konfigurasi yang harus di lakukan dalam tahap perancangan router VPN client kantor cabang adalah : a. Tahap konfigurasi router mikrotik (IP Address, DNS, firewall NAT, statics routes, bandwidth) b. Tahap pengetesan ping antar perangkat c. Tahap konfigurasi L2TP sebagai client VPN d. Tahap connecting L2TP client ke server 4-65

8 e. Tahap pengetesan IP address tunnel L2TP f. Tahap konfigurasi IP security sisi client Untuk lebih memperjelas, tahap konfigurasi akan ditampilkan dengan flowchart seperti pada gambar dibawah ini : Mulai Konfigurasi Router ( IP Address, firewall NAT, DNS, static routes, bandwidth) Tida Melakukan test ping antar perangkat Ya Konfigurasi L2TP Client Tida Melakukan test Ping IP Tunnel VPN antar router Ya Konfigurasi IPSec client Selesai Gambar 4-5 Flowchart konfigurasi pada sisi router kantor cabang 4-66

9 4.5. Perancangan dan Konfigurasi Router ISP, Kantor Pusat dan Cabang Konfigurasi mikrotik sebagai router ISP 1 Setelah proses desain topologi simulasi selesai, selanjutnya kita akan melakukan konfigurasi. Adapun konfigurasi yang di lakukan sebagai berikut : 1. Sebelum memulai konfigurasi, terlebih dahulu kita mengakses router simulasi ISP dengan login, caranya klik kanan pada router, pilih console lalu isikan mikrotik login : admin dan Password : kosong, seperti pada gambar dibawah: Gambar 4-6 proses console login router ISP 2. Setelah login, langkah selanjutnya adalah merubah nama router dan setting IP address pada interface router ISP seperti gambar dibawah : Gambar 4-7 proses merubah default nama router menjadi router-isp Gambar 4-8 proses setting nama router ISP dan IP address 4-67

10 3. Setelah selesai, langkah selanjutnya adalah konfiguari routing static pada router ISP1, dimana routing static berfungsi untuk menghubungkan (interkoneksi) antar interface ethernet seluruh router, seperti pada gambar dibawah : Gambar 4-9 proses konfigurasi routing static pada ISP1 4. Setelah selesai konfigurasi IP address, langkah selanjutnya adalah membuat queue bandwidth limit pada setiap interface router ISP2. Dalam hal ini, bandwidth yang kita setting untuk queue-to-pusat adalah 512 Kbps upload dan 5Mbps download, seperti pada gambar dibawah. Gambar 4-10 proses konfigurasi bandwidth pada router ISP Konfigurasi mikrotik sebagai router ISP 2 Setelah proses konfigurasi router ISP1 selesai, selajutnya kita akan melakukan konfigurasi router ISP2. Adapun konfigurasi yang di lakukan sebagai berikut : 1. Sebelum memulai konfigurasi, terlebih dahulu kita mengakses router simulasi kantor pusat dengan login, dengan cara klik kanan pada router, pilih console lalu isikan mikrotik login : admin dan Password : kosong, seperti pada gambar dibawah: 4-68

11 Gambar 4-11 proses console login pada router ISP2 2. Setelah login, langkah selanjutnya adalah merubah nama router dan setting IP address pada interface router ISP seperti gambar dibawah : Gambar 4-12 proses konfigurasi merubah nama, setting IP address router ISP2 3. Setelah selesai, langkah selanjutnya adalah konfiguari routing static pada router ISP2, dimana routing static berfungsi untuk menghubungkan (interkoneksi) antar interface ethernet seluruh router, seperti pada gambar dibawah : Gambar 4-13 proses konfigurasi routing static router ISP2 4. Setelah selesai konfigurasi IP address, langkah selanjutnya adalah membuat queue bandwidth limit pada setiap interface router ISP2. Dalam hal ini, bandwidth yang kita setting untuk queue-to-pusat adalah 512 Kbps upload dan 3Mbps download, seperti pada gambar dibawah. Gambar 4-14 proses konfigurasi bandwidth pada router ISP1 4-69

12 4.5.3 Konfigurasi mikrotik sebagai router VPN server kantor pusat Setelah proses konfigurasi router ISP selesai, selajutnya kita akan melakukan konfigurasi router kantor pusat. Adapun konfigurasi yang di lakukan sebagai berikut : 1. Sebelum memulai konfigurasi, terlebih dahulu kita mengakses router simulasi kantor pusat dengan login, dengan cara klik kanan pada router, pilih console lalu isikan mikrotik login : admin dan Password : kosong, seperti pada gambar dibawah: Gambar 4-15 proses login pada router kantor pusat 2. Setelah proses login selesai, langkah selanjutnya adalah mengganti default name router menjadi HeadOffice dan konfigurasi IP address pada masing-masing interface ethernet yang ada pada router, seperti pada gambar dibawah : Gambar 4-16 proses setting IP address dan nama router kantor pusat 3. Setelah proses konfigurasi IP address pada router kantor pusat, langkah selanjutnya adalah konfigurasi DNS, seperti pada gambar dibawah : 4-70

13 Gambar 4-17 proses konfigurasi DNS server router kantor pusat 4. Tahap konfigurasi selanjutnya, yaitu konfigurasi IP Firewall Nat, Firewall Dstnat dan Firewall Nat Bypass pada router kantor pusat, seperti pada gambar dibawah : Gambar 4-18 proses konfigurasi IP Firewall NAT kantor pusat 5. Tahap konfigurasi selanjutnya adalah konfigurasi static route pada router kantor pusat, seperti pada gambar dibawah : Gambar 4-19 proses konfigurasi static route kantor pusat 4-71

14 6. Tahap konfigurasi selanjutnya adalah konfigurasi bandwidth limit pada router kantor pusat, dimana untuk tx (upload) sebesar 512kbps sedangkang untuk rx (download) sebesar 5Mbps, seperti pada gambar dibawah : Gambar 4-20 proses konfigurasi bandwidth router kantor pusat 7. Tahap konfigurasi selanjutnya adalah konfigurasi L2TP sebagai server VPN pada router kantor pusat, berikut dibawah ini tahap-tahap konfigurasi L2TP server : a. Tahap pertama adalah konfigurasi L2TP secret, seperti pada gambar dibawah : Gambar 4-21 proses membuat secret (user login) L2TP server b. Tahap kedua adalah konfigurasi enable L2TP server, seperti pada gambar dibawah : 4-72

15 Gambar 4-22 proses konfigurasi enable L2TP server c. Tahap ketiga adalah konfigurasi membuat interface L2TP server, seperti pada gambar dibawah : Gambar 4-23 proses konfigurasi menambah interface L2TP server 4-73

16

17 1) Tahap konfigurasi proposal ipsec, seperti pada gambar dibawah : Gambar 4-26 proses konfigurasi IPsec Proposal kantor pusat 2) Tahap konfigurasi IPSec Policies, seperti pada gambar dibawah : 4-75

18

19

20 Gambar 4-33 proses konfigurasi static route router kantor cabang 6. Tahap terakhir adalah konfigurasi bandwidth limit pada router kantor pusat, dimana untuk tx (upload) sebesar 512kbps sedangkang untuk rx (download) sebesar 5Mbps, seperti pada gambar dibawah : Gambar 4-34 proses konfigurasi bandwidth router kantor cabang Setelah proses konfigurasi selesai, pada router ISP, kantor pusat dan cabang, langkah selanjutnya akan masuk ke tahap implementasi dan pengujian sistem. Dalam tahap ini, akan dilakukan beberapa tahap impelementasi dan pengujian untuk mengetahui kinerja dari sistem VPN berbasis L2TP dan IPSec. Adapun di dalam implementasi dan pengujian sistem akan dilakukan beberapa skenario diantaranya : 1) Implementasi VPN site-to-site berbasis L2TP dan IPSec. a) Melakukan Dial Out, untuk menghubungkan antara router kantor cabang sebagai L2TP client ke L2TP server yang sudah di konfigurasi pada router kantor pusat. b) Melakukan pengechekan status Active Connections pada router kantor pusat, untuk mengechek apakah proses dial out berhasil atau tidak. c) Melakukan pengechekan status IPSec Remote Peers pada router kantor pusat dan cabang d) Melakukan pengechekan status IPSec Installed SAs pada router kantor pusat dan cabang 4-78

21 2) Menguji konektivitas VPN L2TP dan IPSec: a) Melakukan test ping IP tunnel destination kantor cabang dari router kantor pusat dan sebaliknya. b) Melakukan test ping IP tunnel destination kantor pusat, IP address FTP server dari device host. c) Melakukan test ping IP destination lokal kantor pusat dari IP lokal device host kantor cabang. d) Melakukan traceroute/tracert dari device server, untuk mengechek rute yang dilewati sebuah paket yang dikirim berdasarkan alamat IP tujuan. e) Melakukan traceroute/tracert dari device host, untuk mengechek rute yang dilewati sebuah paket yang dikirim berdasarkan alamat IP tujuan 3) Menguji keamanan data dan performansi VPN dan IPSec: a) Melakukan download file melalui jaringan tanpa VPN dan IPSec dan melakukan teknik sniffing untuk menguji keamanan data yang dikirim. b) Melakukan download file melalui jaringan VPN dan IPSec dan melakukan teknik sniffing dan spoofing untuk menguji keamanan data yang dikirim. c) Melakukan pengukuran performansi QoS seperti throughput, packet loss, dan delay data menggunakan wireshark dan menganalisa perbandingan datanya. 4-79