TUGAS AKHIR IMPLEMENTASI VIRTUAL PRIVATE NETWORK MENGGUNAKAN OTENTIKASI RADIUS PADA UBUNTU SERVER Oleh: M. HARRY MURSYIDAN R. NIM : 040402039 DEPARTEMEN TEKNIK ELEKTRO FAKULTAS TEKNIK UNIVERSITAS SUMATERA UTARA MEDAN 2010
IMPLEMENTASI VIRTUAL PRIVATE NETWORK MENGGUNAKAN OTENTIKASI RADIUS PADA UBUNTU SERVER Oleh : M. HARRY MURSYIDAN R. NIM : 04 0402 039 Tugas Akhir ini diajukan untuk melengkapi salah satu syarat untuk memperoleh gelar Sarjana Teknik Disetujui oleh : Pembimbing, Soeharwinto, ST. MT. NIP :1971 05272000 031001 Diketahui oleh : Ketua Departemen Teknik Elektro FT USU Prof.Dr.Ir.Usman Baafai NIP : 1946 10221973 021001 DEPARTEMEN TEKNIK ELEKTRO FAKULTAS TEKNIK UNIVERSITAS SUMATERA UTARA MEDAN 2010
ABSTRAK Virtual Private Network atau yang sering disebut dengan VPN adalah suatu sarana untuk sharing resource baik antar komputer maupun antar jaringan. VPN atau Virtual Private Network merupakan jaringan private yang mempergunakan sarana jaringan komunikasi publik (dalam hal ini Internet) dengan memakai tunnelling protocol dan prosedur pengamanan atau enkripsi, VPN tidak didefinisikan oleh rangkaian khusus atau rute, tetapi diddefinisikan oleh mekanisme keamanan dan prosedur prosedur yang hanya mengizinkan pengguna pengguna yang ditunjuk akses ke VPN dan informasi yang mengalir melaluinya, yang dalam tugas akhir ini menggunakan RADIUS (Remote Authentication Dial In User Service) untuk mencapai tujuan dalam mengirimkan resource data. Kata Kunci : PPTP (Point to Point Tunneling Protocol), freeradius
KATA PENGANTAR Puji syukur penulis ucapkan kehadirat ALLAH SWT atas rahmat dan karunia yang dilimpahkan sehingga dapat menyelesaikan Tugas Akhir ini. Adapun Tugas Akhir ini dibuat untuk memenuhi syarat kesarjanaan di Departemen Teknik Elektro, Fakultas Teknik, yang penulis beri judul IMPLEMENTASI VIRTUAL PRIVATE NETWORK MENGGUNAKAN OTENTIKASI RADIUS PADA UBUNTU SERVER. Di samping itu penulis mengucapkan terima kasih yang sebesar-besarnya kepada: 1. Ayahanda Ir. H. Jalaluddin Ritonga dan Ibunda Hj. T. Nailun Natalisa Harumy yang telah membesarkan dan memberikan kasih sayang yang tulus kepada penulis 2. Kakanda Dina Aditya Ritonga, SH.,M.Kn, Teddy Taufik, SH.,M.Kn, Rizky Rinaldi Rahmad Ritonga, Amd dan Thareq Kemal Ritonga yang selalu menjadi tempat berbagi penulis baik suka maupun duka. 3. Bapak Soeharwinto ST, MT, selaku dosen pembimbing penulis yang sangat banyak membantu dalam penulisan Tugas Akhir ini. 4. Bapak Ir. Djendanari Sembiring dan Bapak Ir. Syahrawardi selaku dosen wali penulis, atas bimbingan selama penulis belajar di Departemen Teknik Elektro, Fakultas Teknik, Universitas Sumatera Utara. 5. Bapak Prof. Dr. Ir. Usman S. Baafai dan Bapak Rahmad Fauzi, ST, MT, selaku Pelaksana Harian Ketua dan Sekretaris Departemen Teknik Elektro, Fakultas Teknik,. 6. Seluruh staf pengajar dan pegawai Departemen Teknik Elektro, Fakultas Teknik,. 7. Teman-teman stambuk 2004, Muhfi, Luthfi, Bismo, Hans, Aris, Faisal, Rozi, Hilman, Bayu, Bismo, Ai, Ronal, M. Ade, Hafiz, Firdaus, Jhoni, Nurul, Wahyu, Marzuki, Zulkifli, Syafrizal, Eko, Fahmi, Salman, Adinata, Kurniadi, Syamsi, Parlindungan, Franklin, Fauzan, Nando, Jefri, Juan Rio, Roy, dan teman-teman yang belum
disebut namanya, yang selama ini menjadi teman diskusi di Kampus. 8. Teman-teman staf pengajar Rumah Pintar S@SCO dan teman-teman penulis serta rekan-rekan junior stambuk 2005 dan 2006 Rizky, Luthfi, Riky, Prindi, Megi, Reza, Su ib, Rozy, Salman, Rizky Akbar, Teuku. 9. Dan pihak-pihak yang tidak dapat penulis sebutkan satu persatu. Berbagai usaha telah penulis lakukan demi terselesaikannya Tugas Akhir ini dengan baik, tetapi penulis menyadari akan kekurangan dan keterbatasan penulis.tugas Akhir ini masih jauh dari sempurna dan banyak kesalahan dan kekurangan, namun penulis tetap berharap semoga tugas akhir ini bisa bermanfaat dan memberikan inspirasi bagi pengembangan selanjutnya, diharapkan saran dan kritik dengan tujuan menyempurnakan. Akhir kata penulis berharap supaya Tugas Akhir ini dapat bermanfaat bagi pembaca dan penulis. Medan, Desember 2010 Penulis, M. Harry Mursyidan R. NIM 040402039
DAFTAR ISI ABSTRAK... KATA PENGANTAR... DAFTAR ISI... DAFTAR TABEL... DAFTAR GAMBAR... iii iv vi ix x BAB I PENDAHULUAN I.1 Latar Belakang... 1 I.2 Rumusan Masalah... 1 I.3 Tujuan Penelitian... 1 I.4 Batasan Masalah... 1 I.5 Metode Penulisan... 2 I.6 Sistematika Penulisan. 2 BAB II DASAR TEORI 2.1 Jaringan Komputer... 4 2.1.1 Jenis Jaringan Komputer... 4 2.1.2 Tipe Jaringan Komputer... 6 2.1.3 Arsitektur Jaringan Komputer... 7 2.2 Mekanisme Kerja TCP/IP... 9 2.2.1 Security Lapisan Aplikasi (Application Layer Security)... 10 2.2.2 Security Lapisan Transport (Transport Layer Security)... 11 2.2.3 Security Lapisan IP (IPSec) 2.3 Pengertian Virtual Private Network... 13 2.3.2 Kelebihan VPN Dibandingkan Dengan Teknologi Leased Line 2.3.3 Perangkat VPN... 15 2.3.4 Jenis VPN... 16 2.3.4.1 Intranet VPN... 16 2.3.4.2 Ekstranet VPN... 16 2.3.4.3 Model Remote Access VPN... 16
2.3.4.4 Client-Initiated... 17 2.3.4.5 Network Access Server-initiated... 17 2.4 Teknologi VPN... 17 2.4.1 Teknologi Tunneling... 18 2.4.2 Teknologi Enkripsi... 18 2.5 Point to Point Tunneling Protocol (PPTP)... 19 2.5.1 Klien PPTP... 20 2.5.2 Network Access Server (NAS) pada ISP... 21 2.5.3 Server PPTP... 21 2.6 Arsitektur... 21 2.7 PPTP Control Connection... 22 2.8 Protokol PPTP... 23 2.9 RADIUS (Remote Access Dial In User Services)... 25 2.9.1 Paket Data RADIUS... 26 2.9.2 Tujuan Standar 802.1x IEEE... 29 2.9.3 Pemfilteran alamat MAC... 29 2.9.4 Keamanan RADIUS Server... 30 BAB III KONFIGURASI VPN 3.1 Persiapan Server VPN... 3.2 Cara Kerja VPN dengan protokol PPTP... 3.3 Transmisi Data PPTP... 3.4 Keamanan VPN dengan menggunakan PPTP... 3.4.1 Otentikasi... 3.4.2 Access Control... 3.4.3 Enkripsi Data... 3.4.4 PPTP Packet Filtering... 3.5 FreeRADIUS... BAB IV IMPLEMENTASI DAN PENGUJIAN VPN 4.1 Pengujian Koneksi VPN menggunakan Windows XP... BAB V KESIMPULAN DAN SARAN 5.1 Kesimpulan...
5.2 Saran... DAFTAR PUSTAKA... LAMPIRAN A : INSTALASI DAN KONFIGURASI PPTP, FreeRADIUS dan MySQL
Daftar Tabel 2.1 PPTP Control Message Type...
Daftar Gambar 2.1 Jaringan Peer to Peer... 2.2 Jaringan Client Server... 2.3 Topologi Bus... 2.4 Topologi Ring... 2.5 Topologi Star... 2.6 Protokol dan network di dalam model TCP/IP... 2.7 Posisi TLS pada lapisan protokol ip... 2.8 SSL merupakan lapisan terpisah dalam susunan protokol internet... 2.9 Teknologi VPN... 2.10 PPTP TCP datagram dengan control message... 2.11 PPTP Control Connection ke server PPTP melalui PPP Connection menuju ISP... 2.12 Dial-Up networking PPP Connection ke ISP 2.13 Paket Data RADIUS... 2.14 Mekanisme otentikasi meggunakan RADIUS Server... 2.15 Filterasi alamat MAC dengan RADIUS Server... 3.1 PPTP Tunnel... 3.2 Koneksi Jaringan Dial-Up Clien PPTP ke VPN... 3.3 Penempatan Paket PPTP pada network media... 3.4 IP datagram dengan paket PPP terenkripsi... 4.1 Koneksi Client ke Server...