IMPLEMENTASI INTERKONEKSI VIRTUAL PRIVATE NETWORK (VPN) PROTOKOL L2TP/IPSec DENGAN MENGGUNAKAN FOREFRONT THREAT MANAGEMENT GATEWAY (FTMG)

Transkripsi

1 IMPLEMENTASI INTERKONEKSI VIRTUAL PRIVATE NETWORK (VPN) PROTOKOL L2TP/IPSec DENGAN MENGGUNAKAN FOREFRONT THREAT MANAGEMENT GATEWAY (FTMG) Muhammad Noval Riswandha Sekolah Tinggi Manajemen Informatika dan Komputer (STMIK) YADIKA Bangil ABSTRAK Kebutuhan atas informasi di masa sekarang sangat diperlukan untuk kelangsungan bisnis dari suatu perusahaan. Informasi bisa didapat dari data-data yang ada diperusahaan dengan jaringan internal atau dengan jaringan internet, dengan memanfaatkan jaringan internet sebagai penghubung jaringan internal dengan karyawan yang akan mengakses data-data tersebut maka akan menghemat biaya apabila karyawan tersebut jauh dari lokasi kerja. Tetapi ada beberapa factor dimana menjadi perhatian khusus oleh perusahaan terutama adalah masalah keamanan akses data tersebut. Salah satu teknologi yang sering digunakan banyak perusahaan adalah teknologi Virtual Private Network (VPN), dimana VPN memberikan suatu jalur komunikasi melalui jaringan internet dengan proses tunneling dan enkripsi data, sehingga data yang akan ditransmisikan dapat diakses oleh user dan terjaga kerahasiannya. Dengan menggunakan layanan protocol L2TP/IPSec (Layer 2 Tunneling Protocol/IP Security), maka secara langsung teknologi VPN menjadi teknologi yang handal diperusahaan dalam memberi perlindungan ganda melalui otentifikasi L2TP dan IP Sec dan computer user yang mengakses akan mendapatkan virtual IP address yang satu subnet dengan jaringan internal, sehingga computer lain melihat remote client seolah-olah ada di internal network. Untuk interkoneksi VPN dengan layanan protocol tersebut, pada server digunakan Forefront Threat Management Gateway (FTMG) sebagai firewall. Kata kunci : VPN, Internet, L2TP/IPSec, Remote Client, Internal Network, FTMG, Firewall. 1. PENDAHULUAN Informasi adalah data yang diolah dan dibentuk menjadi lebih berguna dan lebih berarti bagi yang menerimanya. Informasi juga merupakan pengumpulan dan pengolahan data untuk memberikan keterangan atau pengetahuan, maka dengan demikian sumber informasi adalah data. Kebutuhan atas informasi di masa sekarang sangat diperlukan untuk kelangsungan bisnis dari suatu perusahaan. Informasi bisa didapat dari data-data yang ada diperusahaan dengan computer yang terkoneksi dengan jaringan internal atau dengan jaringan internet. Internet merupakan suatu jaringan terbuka yang bisa diakses oleh khalayak ramai untuk komunikasi dan bertukar informasi. Dengan semakin banyaknya penyedia layanan internet maka semakin memudahkan untuk mendapatkan akses internet. Pemanfaatan jaringan internet sebagai penghubung jaringan internal perusahaan dengan karyawan atau user yang akan mengakses data-data tersebut akan menghemat biaya apabila user tersebut jauh dari lokasi kerja. Dikarenakan internet adalah jalur terbuka, maka factor keamanan adalah menjadi salah satu factor terpenting yang menjadi perhatian khusus bagi perusahaan terhadap keamanan akses data dari luar lokasi kerja kedalam jaringan internal perusahaan. Salah satu teknologi yang sering digunakan banyak perusahaan adalah teknologi Virtual Private Network (VPN), dimana VPN memberikan suatu jalur komunikasi melalui jaringan internet dengan proses tunneling dan enkripsi data, sehingga data yang akan ditransmisikan dapat diakses oleh user dan terjaga kerahasiannya. Secara implementasinya VPN dibagi menjadi menjadi dua jenis yaitu remote access dan site-to-site VPN. Dalam penelitian ini, akan menggunakan site-to-site VPN untuk menghubungkan dua tempat yang berjauhan. Ada banyak protocol didalam VPN yaitu Point to Point Tunneling Protokol (PPTP), Layer 2 Tunneling Protokol (L2TP), masing-masing protocol memiliki aturan dan karakteristik berbeda-beda. Dengan menggunakan layanan protocol L2TP/IPSec (Layer 2 Tunneling Protocol/IP Security), maka secara langsung teknologi VPN menjadi teknologi yang handal diperusahaan dalam memberi perlindungan ganda melalui otentifikasi L2TP dan IP Sec dan computer user yang mengakses akan mendapatkan virtual IP address yang satu subnet dengan jaringan internal, sehingga computer lain melihat remote client seolah-olah ada di internal network. Untuk interkoneksi VPN dengan layanan protocol tersebut, pada server digunakan Forefront Threat Management Gateway (FTMG) sebagai firewall yang mempunyai kecerdasan application-layer dan kemampuan anti-malware yang dapat digunakan untuk mendeteksi dan mengurangi berbagai macam ancaman jaringan. Forefront TMG merupakan generasi penerus dari Microsoft ISA Server, jadi semua fungsi yang ada di ISA Server juga ada pada Forefront TMG. Berikut adalah gambar dari model VPN 95

2 Gambar 1. Model VPN 2. ISI 2.1. Virtual Private Network (VPN) VPN merupakan suatu jaringan komunikasi lokal yang terhubung melalui media jaringan publik. Infrastruktur publik yang paling banyak digunakan adalah internet. Untuk memperoleh komunikasi yang aman (private) melalui internet, diperlukan protokol khusus untuk mengatur pengamanan datanya.[1] Teknologi virtual networking ini menciptakan tunnel dalam jaringan yang tidak harus direct. Sebuah terowongan diciptakan melalui public network seperti internet. Jadi seolah-olah ada hubungan point-to-point dengan data yang dienkapsulasi. Sedang Private Networking, data yang dikirimkan terenkripsi, sehingga tetap rahasia meskipun melalui public network. [2] Peningkatan penggunaan koneksi VPN dari tahun ke tahun sangat signifikan karena murahnya infrastruktur yang dibutuhkan serta mudahnya dalam instalasi, maka koneksi ini lebih efieisn dibandingkan dengan metode WAN. Ada beberapa alasan mengapa saat ini penggunaan perusahaan banyak membangun solusi VPN, diantaranya: [3] 1. Menekan biaya interkoneksi 2. Memperluas interkoneksi ke user yang selama ini susah dijangkau 3. Dapat mengirimkan aplikasi-aplikasi baru berbasis Internet Protokol (IP) 4. Fleksibel dalam pemilihan topology 5. Skalabilitas Network terjaga 6. Meningkatkan tingkat Security Mengapa aman, karena sistem keaman di VPN menggunakan beberapa lapisan dan dapat dijabarkan beberapa metode keamanan VPN, diantaranya: 1. Metode tunneling (terowongan) Metode ini membuat terowongan virtual diatas jaringan publik menggunakan protokol seperti Point to Point Protokol (PPTP), Layer 2 Tunneling Protokol (L2TP), Generic Routing Encapsulation (GRE) atau IPSec. 2. Metode Enkripsi Metode ini untuk encapsulations (membungkus) paket data yang lewat di dalam tunneling, dimana data akan dienkripsi pada saat dilewatkan. Data disini akan dirubah dengan metode algoritma cripthograpy tertentu seperti DES, 3DES, atau AES 3. Metode Otentikasi User Karena banyak user yang akan mengakses dari banyak titik, maka digunakan beberapa metode protokol otentikasi user tertentu, seperti Remote Access Dial In User Services (RADIUS) dan Digital Certificates. 4. Integritas Data Karena paket data yang dilewatkan dijaringan public, maka diperlukan penjaminan itegritas data atau kepercayaan data apakah terjadi perubahan atau tidak. Metode VPN dapat menggunakan HMA C-MD5 atau HMA C-SHA1 untuk menjamin paket tidak dirubah pada saat pengiriman. Berikut adalah skema Tunneling dan Encapsulations VPN. 96

3 Gambar 2. Skema Tunneling dan Encapsulations VPN 2.2. Protokol L2TP/IPSec Layer 2 Tunneling Protocol (disingkat sebagai L2TP) adalah sebuah standar Internet Engineering Task Force (IETF) untuk masalah protokol tunneling yang digunakan untuk melakukan enkapsulasi terhadap frame-frame protokol Point-to- Point Protocol (PPP) untuk ditransmisikan melalui jaringan TCP/IP, X.25, frame relay atau jaringan Asynchronous Transfer Mode (ATM). [4] L2TP sering digunakan untuk membuat sebuah Virtual Private Network (VPN) yang terdapat di dalam sebuah jaringan publik, seperti Internet. Karena merupakan standar IETF, protokol ini menawarkan interoperabilitas yang sangat tinggi antar vendor komputer dan jaringan komputer yang bahkan tidak dimiliki oleh protokol tunneling lainnya seperti halnya protocol Point-to-Point Tunneling Protocol dari Microsoft dan Layer 2 Forwarding (L2F) dari Cisco Systems, meskipun L2TP hanyalah penggabungan dari dua jenis protokol tersebut dan merupakan ekstensi dari dua protokol yang sudah ada terlebih dahulu. Pihak-pihak di belakang pengembangan L2TP adalah Microsoft dan Cisco Systems. Protokol ini juga didukung oleh banyak produk dari Cisco dan sistem operasi Windows NT 5.x. Karena kurangnya kerahasiaan yang terdapat di protokol L2TP, mendorong penggunaan L2TP bersama-sama dengan IPSec. Penggunaan IPSec menjamin kerahasiaan data yang lewat, dalam hal ini paket L2TP. Kombinasi ini disebut sebagai L2TP/IPsec. Proses pembentukan VPN dengan protokol L2TP/IPSec adalah sebagai berikut : 1. Negosiasi IPSec Security Association, dengan Internet Key Exchange 2. Membentuk komunikasi Encapsulating Security Payload dengan transport mode 3. Negosiasi dan pembentukan L2TP tunnel Penggunaan L2TP/IPSec memberi perlindungan ganda melalui otentikasi IPSec dan L2TP. Keuntungan lain adalah client akan mendapat virtual IP address yang satu subnet dengan jaringan internal, sehingga komputer lain melihat remote client seolah-olah ada di internal network. Tetapi terdapat kerugian di sisi performance karena banyaknya overhead. Berikut adalah format paket L2TP/IPSec. 97

4 Gambar 3. Format paket L2TP/IPSec 2.3. Forefront Threat Management Gateway (FTMG) Microsoft Forefront Threat Management Gateway 2010 (TMG) adalah firewall yang mempunyai kecerdasan applicationlayer dan kemampuan anti-malware yang dapat di gunakan untuk mendetaksi dan mengurangi berbagai macam ancaman jaringan. Forefront TMG merupakan generasi penerus dari Microsoft ISA Server, jadi semua fungsi yang ada di ISA Server juga ada pada Forefront TMG. Berikut adalah tampilan dari FTMG Gambar 4. Tampilan FTMG Apa yang terbaru dari Forefront TMG 2010? [5] Dukungan terhadap Windows 2008 dan Windows 2008 R2 64 bit. jika pada versi sebelumnya yaitu ISA server, ISA server tidak dapat di install pada sistem operasi Windows 64 bit. Seiring dengan meningkatnya jumlah pengguna 98

5 pada jaringan, mempunyai perangkat yang cepat untuk melayani trafik pada ISA server sebagai sebuah software firewall merupakan hal yang sangat penting. TMG mendukung penggunaan Ram lebih dari 4 GB karena di jalankan pada sistem operasi 64 bit, hal ini sangat penting karena akan meningkatkan jumlah non-paged pool memory, performance dan stabilitas. Web antivirus and anti-malware Support. untuk meningkatkan pengalaman dan keamanan pengguna, TMG firewall dapat mendeteksi dan mengisolasi konten yang berbhaya pada trafik HTTP sebelum sampai ke klien. Fitur ini memberikan perlindungan lapisan tambahan dan meningkatkan keamanan untuk semua host pada jaringan TMGprotected, HTTP Malware filter sebagai sebuah web filter akan mencegat trafik antara klien dan web server, kemudian di simpan pada memori selanjutnya konten tersebut akan di scan oleh The TMG MPEngine (Microsoft Malware Protection Engine) sebelum di kirimkan ke klien. Enhanced User Interface, Management, and reporting. TMG menambahkan sebuah reporting engine: SQL Server Reporting Services (SRS) yang dapat menggenerate laporan dari database SQL, dengan SRS anda dapat mendesain laporan, penyimpanan laporan, mengexportnya ke beberapa format, programmable Web service interface dan lainlain. URL Filtering. memungkinkan anda untuk meningkatkan kebijakan kemanan dan produktifitas. Dengan menggunakan URL filtering anda dapat mem-blok akses ke sebuah site yang bisa menimbulkan resiko kemanan atau juga untuk menegakan kebijkana perusahaan. anda dapat melakukan blok-ing terhadapap sebuah website berdasarkan kategori antra lain : malware, adult, religion, new dan lain lain. Https Inspection. sebuah fitur yang memungkikan untuk melihat session Secure Sockets Layer (SSL) dari komputer yang ada pada jaringan. fitur ini memainkan peran utama dalan inspeksi maleware yang membantu melindungi dari Virus yang di download dari Web-based servers seperti Outlook Web Access (OWA) and site HTTPS yang lain. anti-malware and anti-spam Support. TMG menyediakan sebuah antarmuka untuk mengontrol aliran , anti spam dan anti malware. TMG akan melakukan scaning dan memindai terhadap semua yang masuk, apakah merupakan spam atau mengandung malware. Hal ini tentu akan melindungi klien dari virus dan spam. Network Intrusion prevention. merupakan sebuah Intrusion Prevention System (IPS) yang dapat di gunakan untuk mendekteksi setiap ancaman yang mencoba mengeksploitasi jaringan atau klien. IPS umumnya juga di anggap sebagai Intrusion Detection System (IDS) yang tidak hanya bisa mendeteksi aktivitas yang mencurigakan tetapi juga mengambil langkah-langkah proaktif untuk menghentikan aktifitas yang mencurigakan tersebut. The Session Initiation protocol (SIP) Filter. mendukung streaming audio dan video melalui TMG firewall dan jua memungkinkan pengguna untuk menstransfer file dan aplikasi dan whiteboard. TMG Firewall akan melakukan preauthenticates traffc untuk pengguna dari luar ke TMG dan menganalisa protokol SIP. Hal ini memungkinkan untuk mempublikasikan layanan SIP melaui TMG firewall. TFTP Filter. Trivial File Transfer Protocol (TFTP). Umumnya di gunakan oleh klien BootP untuk mendownload sistem operasi selain itu juga banyak Voice Over IP (VoIP) menggunakan TFTP untuk mendownload file konfigurasi. Network Functionality enhancements. dalam versi sebelumnya ISA server, ketika sebuah Network Address Translation (NAT) relationship ada di antara jaringan, ISA tidak akan mengijinka alamat IP external sampai interface eksternal mempunyai multiple IP address. Berikut perkembangan fitur firewall FMTG Gambar 5. Perkembangan Fitur Firewall FTMG 99

6 2.4. Perancangan Teknis Dan Hasil Pengujian Adapun deskripsi kerja yang dilakukan untuk membangun jaringan VPN pada jaringan internal adalah konfigurasi server ForeFront Threat Management Gateway (FTMG) sebagai VPN Server dan konfigurasi komputer client sebagai VPN client Konfigurasi VPN Server pada server ForeFront Threat Management Gateway (FTMG) VPN Server menggunakan spesifikasi sebagai berikut: - IBM X3650 M4, Xeon 4C E W, 2.4GHz/1066MHz/10MB, 1x4GB, O/Bay HS 2.5in SAS/SATA, SR M5110e, 550W p/s rack - IBM 2x500GB, 2.5in SFF HS 7.2K 6Gbps NL SATA HDD - OS Windows Server 2008R2 - ForeFront Threat Management Gateway (FTMG) 2010 Pada penelitian ini, menggunakan Internet Protokol Address sebagai berikut: - VPN Server : (local) - IP Public 1 : (Internet) - IP Public 2 : (VPN Gateway) - Client : (local) Untuk VPN Properties, pada FTMG, centanglah Access Network untuk External, seperti pada gambar Gambar 6. VPN Properties Untuk tab Address assignment, isikan Static address pool : Start Address dan End Address , dan untuk tab Authentication, centanglah Method MS-CHAPv2 dan Allow custom IPSec policy for L2TP connection. Dan selanjutnya berikan password pada text box Pre-shared key (PSK), dengan tujuan proses autentikasi terjadi tanpa intervensi user dan implementasinya lebih sederhana, seperti pada gambar berikut 100

7 Gambar 7. Method dan PSK Authentication Setelah setting untuk VPN Properties selesai, langkah selanjutnya menuju ke VPN Client Properties dengan mencetangkan Enable VPN client access pada tab general dan isikan di text box jumlah user yang di ijinkan menggunakan VPN, seperti gambar berikut: Gambar 8. Enable VPN client access 101

8 Selanjutnya, pada tab Protocols, centanglah tipe protocol yang akan digunakan, seperti gambar berikut Gambar 9. Protocols VPN Client Lalu, buatlah Firewall Policy untuk VPN Client Network, seperti gambar berikut ini Gambar 10. Firewall Policy untuk VPN Client Network 102

9 Langkah terakhir, untuk setting di VPN Server adalah membuat Network Rules, seperti gambar dibawah ini Gambar 11. Network Rules VPN Server Konfigurasi VPN Client pada komputer Client Pada tahap konfigurasi VPN Client, penelitian ini menggunakan computer client sebagai mobile user dengan spesifikasi sebagai berikut: - Fujitsu Lifebook LH530 - Intel Core i3-330m(2.1g, 3M, 1066 MHz) - 3 Gb DDR3, 320 Gb - Windows 7 Basic 64 Bit - Internet connection: Modem TelkomselFlash Huawei HSPA E1750 Adapun tahapan konfigurasi secure vpn (L2TP/IPSec) mobile user sebagai berikut: 1. Buatlah new connection or network di control panel, dengan memilih Use my Internet connection (VPN) 2. Isikan Internet Address dengan IP address VPN Gateway Selanjutnya isikan user name dan password sesuai dengan vpn user account yang telah ditentukan. 4. Setelah itu masuk kedalam Change adapter settings pada Network and Sharing Center, dan pilihlah properties koneksi yang telah dibuat pada langkah sebelumnya, seperti pada gambar berikut ini 103

10 Gambar 12. Properties Connection Client 5. Masuk ke tab Security, dan pilihlah type of VPN L2TP/IPSec dan centang hanya MS-CHAP v2 seperti gambar berikut ini Gambar 13. Type of VPN 104

11 6. Setelah itu, tekanlah tombol Advanced settings pada tab security dan isilah text box Use preshared key for authentication sesuai dengan psk pada setting vpn server, seperti gambar berikut Gambar 14. Use psk for authentication 7. Setelah itu tekan tombol OK, maka setting untuk computer client sudah selesai Hasil Pengujian Pengujian dilakukan dengan computer client yang mobile user dengan menggunakan koneksi internet modem telkomsel flash, tahapannya sebagai berikut 1. Setelah dipastikan internet sudah terkoneksi, pilihlah short-cut VPN Server seperti gambar dibawah ini dan tahapantahapan berikutnya Gambar 15. Tampilan awal koneksi ke VPN Server 105

12 Gambar 16. Koneksi ke IP VPN Gateway Gambar 17. Verifying user name and password Gambar 18. Registering your computer on the network 2. Setelah terhubung dengan VPN Server dari computer client mobile user, untuk memastikan bahwa VPN sudah terkoneksi dengan baik, dapat di lihat dari VPN Server Status, seperti gambar berikut Gambar 19. VPN SERVER Status 106

13 Gambar 20. Detail VPN SERVER Status Pada gambar 20, terlihat, koneksi ke VPN Server sudah berjalan dengan baik dengan tertera IP address VPN Client adalah dan IP address VPN Server adalah sesuai dengan IP yang didaftarkan. Selain itu tertera destination address adalah IP Public sebagai VPN Gateway nya yaitu Selanjutnya, untuk memastikan bahwa computer client mobile user bisa terkoneksi dengan jaringan internal perusahaan, maka dilakukan test ping dan mengakses kedalam folder tertentu pada Data Server, seperti gambar berikut ini. Gambar 21. Hasil Test Ping IP

14 Gambar 22. Akses folder Data Server Pengujian Sistem Autentikasi Pada pengujian ini akan dibandingkan antara sistem autentikasi pada jaringan yang belum menggunakan firewall FTMG dan yang sudah menggunakan firewall FTMG. Jaringan yang belum menggunakan firewall dengan menggunakan username dan password dapat dilihat mudah dengan menggunakan tools chain wireshark pada port 80. Dengan demikian sangat dimudahkan untuk mengetahui password yang telah diinputkan pada suatu aplikasi di computer kita. Berikut adalah gambar hasil monitoring aplikasi yang belum menggunakan firewall. Gambar 23. Aplikasi tanpa firewall FTMG Pada monitoring seperti gambar 23, terlihat jelas semua aktifitas yang dilakukan jaringan tercatat username dan password di aplikasi monitoring. Oleh sebab itu diperlukan adanya enkapsulasi data untuk menyembunyikan username dan password. Dengan menerapkan VPN dengan firewall, maka elemen otentikasi dan protocol tersebut akan dienkapsulasi (dibungkus). Berikut gambar hasil monitoring pada jaringan VPN yang terkoneksi dengan jaringan local yang menggunakan firewall. 108

15 Gambar 24. Aplikasi dengan firewall FTMG 3. PENUTUP Kesimpulan dari hasil penelitian ini adalah: 1. Berdasarkan hasil monitoring menggunakan tools chain wireshark bahwa jaringan yang tidak menggunakan firewall FTMG tidak lah aman karena tidak dapat di bungkus oleh suatu proptokol. 2. Implementasi VPN dapat dibangun dan berjalan dengan baik menggunakan Protokol L2TP/IPSec dan menggunakan Firewall ForeFront Threat Management Gateway (FTMG). 3. VPN Server dengan menggunakan Preshared Key (PSK) untuk authentication, lebih secure dan lebih mudah untuk diimplementasikan karena lebih sederhana dan mengizinkan proses autentikasi terjadi tanpa intervensi pengguna. 4. Penggunaan Protokol L2TP/IPSec memberi perlindungan ganda melalui otentikasi IPSec dan L2TP serta data tidak dapat terbaca tanpa proses otentikasi. Keuntungan lain adalah client akan mendapat virtual IP address yang satu subnet dengan jaringan internal, sehingga komputer lain melihat remote client seolah-olah ada di internal Networks. 5. Penerapan Protokol L2TP/IPSec menambah tingkat keamanan pada suatu jaringan karena jalur komunikasi yang dilewati dienkapsulasi dan ditambah dengan adanya login username dan password yang dapat meningkatkan keamanan suatu jalur institusi atau office. 6. Kinerja karyawan akan meningkat dengan menggunakan VPN dapat mengakses informasi atau data yang ada dikomputer jaringan internal dengan jaminan data yang availability, security, scalability dan flexibility. 7. Dengan adanya implementasi ini, meningkatkan efisiensi yang luar biasa kepada fasilitas komputasi perusahaan ini sehingga bisa lebih maksimal dan memberikan kapasitas pelayanan yang jauh lebih besar dari sebelumnya. DAFTAR PUSTAKA [1] Deni Dwi Kisworo, Pemanfaatan Virtual Private Network Menggunakan Protokol L2TP Sebagai Penghubung Antar Cabang CV. Karta Widjaya Group, Sekolah Tinggi Managemen Informatika dan Komputer AMIKOM Yogyakarta, [2] Debra Littlejohn Shinder, Computer Networking Essentials, Cisco Press, Indianapolis, [3] Deris Stiawan, Dian Palupi Rini, Optimalisasi Interkoneksi Virtual Private Network (VPN) Dengan Menggunakan Hardware Based dan IIX (Indonesia Internet Exchange) Sebagai Altenatif Jaringan Skala Luas (WAN), Jurusan Sistem Komputer, Fakultas Ilmu Komputer Universitas Sriwijaya, Jurnal Ilmiah Generic Volume 4, Nomor 1, Januari [4] ( [5] ( 109

16 Halaman ini sengaja dikosongkan 110