JETri, Volume 2, Nomor 1, Agustus 2002, Halaman 53-68, ISSN 1412-0372 Virtual Server Ferrianto Gozali & Alex Dosen Jurusan Teknik Elektro-FTI, Universitas Trisakti Abstract The rapid development of Internet technology can be reflected by the increasing number of the Internet users, the complexity of the applications in the Internet and its related computer network technology. Nowadays, more and more companies are moving their businesses on the Internet. Once the companies have decided that they want to utilize the internet to support their business activities, their consideration not only based on their needs when the system is set up but also the prediction about future condition. Any interrupt or stop of services on the servers means business losses, and high availability of these servers becomes increasingly important. The load on popular Internet sites is growing rapidly, some have already got tens of millions hits per day. More and more administrators have met the performance bottleneck problem of their servers, and with the increasing access requests the servers will be easily overloaded for a short time. This condition sometimes exceeds their prediction when they first set up the system. This paper presents how to create Linux virtual servers or in brief we called LVS. LVS implements parallel processing concepts in the Linux based computer network. LVS is a high-performance and highly available server built on a cluster of real servers. By utilizing one computer as a LVS Director which is responsible to distribute user accesses, LVS will be able to schedule and distribute the load into number of LVS real server. In the system, we utilize the method of IP-level load balancing to make parallel services of the cluster to appear as a virtual service on a single IP address via Network Address Translation. They are two scheduling algorithms used, a Round Robin and Weight Least Cost load balancing. In order to test the performance of the LVS system, an LVS Web server is developed in the Computer System Laboratory, Electrical Engineering Department, Trisakti University. The response of the web server using different number of real servers and different load balancing algorithm, round robin and weight least cost, is monitored. Keywords: Internet, LVS, NAT, komputer Cluster, Round Robin, Weight Least Cost. 1. Pendahuluan Teknologi jaringan komputer global atau dikenal dengan nama Internet merupakan salah satu penemuan terbesar di abad ke dua puluh ini. Dengan menggunakan internet, seseorang dapat mengirimkan suatu surat elektronik dengan menggunakan fasilitas e-mail, mencari informasi yang dibutuhkan dengan menggunakan suatu search engine, atau melakukan pemasaran terhadap suatu produk bahkan melakukan transaksi bisnis secara virtual dengan menggunakan halaman web yang disediakan oleh suatu server. * Alumni Jurusan Teknik Elektro-FTI, Universitas Trisakti
JETri, Tahun Volume 2, Nomor 1, Agustus 2002, Halaman 53-68, ISSN 1412-0372 Suatu organisasi yang memanfaatkan penggunaan web untuk mendukung kegiatannya bukan hanya harus memperhitungkan fasilitas, kemampuan serta teknologi web server yang digunakan pada saat pertama kali fasilitas tersebut diadakan, namun juga sepanjang fasilitas tersebut digunakan. Perubahan fasilitas yang disediakan serta peningkatan jumlah akses pada server umumnya berjalan sesuai dengan perkembangan serta persaingan bisnis yang terjadi (Abie, 2000 & Imran, 2002). Peningkatan jumlah akses serta tingkat kompleksitas dari aplikasi menuntut tersedianya suatu web server yang handal, cepat serta mempunyai kemampuan yang memadai. Seringkali peningkatan jumlah akses terjadi lebih cepat dan diluar antisipasi pada saat web server tersebut dirancang pada waktu pertama kali. Untuk menghadapi masalah diatas, berbagai alternatif solusi dapat diterapkan, antara lain dengan membatasi akses pada web server hanya untuk pelanggan, menggunakan proxy untuk memfilter informasi yang tidak dikenal atau ilegal, ataupun dengan menambah kapasitas server yang digunakan. Berbagai cara diatas seringkali akan menurunkan kinerja web server yang ada, penambahan biaya ataupun timbulnya down time yang cukup lama. Pada penelitian ini akan dibahas suatu alternatif lain yang mungkin untuk dilakukan yaitu dengan memanfaatkan beberapa komputer yang sedianya berfungsi sebagai komputer client didalam suatu jaringan komputer berbasiskan sistem operasi Linux menjadi beberapa server yang dikenal dengan nama Linux Virtual Server atau LVS (Joseph, 1999). Pembahasan diawali dengan memberikan gambaran tentang penggabungan beberapa komputer didalam jaringan komputer membentuk suatu komputer cluster yang merupakan dasar dari konsep LVS dilanjutkan dengan pembahasan tentang komponen pendukung, cara kerja dan proses penjadwalan pada LVS. Implementasi LVS dilakukan pada Laboratorium Komputer Jurusan Teknik Elektro FTI Usakti ditujukan untuk menganalisis kemampuan LVS dengan mengamati kinerja web server jaringan dengan menggunakan beberapa realserver yang berbeda dan menggunakan metoda penjadwalan yang berbeda pula (Turbo Linux User Guide, 2002: 33). 2. Komputer Cluster Yang dimaksud dengan Komputer Cluster adalah sekumpulan komputer yang terhubung didalam suatu jaringan komputer bekerja secara bersama dan saling berhubungan satu sama lain untuk mendukung suatu kerja yang biasa ditangani oleh sebuah komputer tunggal (Turbo Linux User Guide, 2000: 33). 54
Ferrianto Gozali & Alex, Virtual Server Komputer Cluster dikenal pertama kali pada tahun 1980 an dimana sistem operasi VAX/VMS yang digunakan pada platform komputer Digital VAX menyediakan untuk membentuk suatu komputer cluster diantara komputer Digital VAX sehingga memungkinkan untuk penggunaan hardware secara bersama. Pada suatu jaringan komputer, pembentukan suatu komputer cluster biasanya ditujukan untuk meningkatkan kemampuan komputasi dan kinerja sistem komputer didalam menyelesaikan suatu permasalahan dengan cara mendistribusikan beban pekerjaan yang ada pada beberapa komputer. Jadi komputer Cluster merupakan salah satu bentuk implementasi dari komputasi paralel pada jaringan komputer. Didalam suatu komputer cluster umumnya akan dijumpai satu komputer yang berperan sebagai Cluster Manager serta komputer lainnya yang berperan sebagai Cluster Node pada cluster tersebut. Cluster Manager bertugas untuk mendistribusikan pekerjaan yang harus diselesaikan oleh komputer lainnya yang dikonfigurasikan sebagai cluster node tergantung pada tipe cluster yang digunakan. Beberapa tipe komputer cluster yang digunakan dalam implementasi dari cluster antara lain (Turbo Linux User Guide, 2000: 44). a. Shared Processing Tipe ini dipakai oleh Beowulf clustering dimana melalui sistem clustering, kemampuan komputasi dari beberapa sistem komputer digabungkan untuk memperoleh sebuah sistem dengan kemampuan komputasi yang lebih besar. b. Load Balancing Tipe ini menyerupai tipe shared processing diatas namun setiap cluster node akan memproses bagian pekerjaan yang diberikan kepadanya oleh cluster manager tanpa melakukan komunikasi dengan cluster node lainnya dalam menyelesaikan pekerjaan tersebut. c. Fail-over Tipe ini menyerupai tipe load balancing diatas Fail-over hampir mirip dengan load balancing, namun proses tidak didistribusikan pada seluruh cluster node tetapi hanya pada suatu node tertentu saja. Cluster node lainnya bertugas mengambil alih proses bila node yang sebelumnya bertugas down atau gagal menyelesaikan pekerjaan yang diberikan oleh cluster manager. d. High Availability High availability merupakan metode dimana seluruh fasilitas komputasi yang dimiliki sistem dijaga keberadaannya dan dapat dimanfaatkan atau 55
JETri, Tahun Volume 2, Nomor 1, Agustus 2002, Halaman 53-68, ISSN 1412-0372 mengambil alih proses komputasi yang dilakukan oleh bagian lain bilamana dibutuhkan. High availability dapat dimplementasikan baik secara software maupun hardware. High availability dapat dicapai pada komputer cluster tipe load balancing dan fail over diatas. 3. Linux Virtual Server Linux Virtual Server atau disingkat LVS merupakan suatu teknologi clustering yang dapat digunakan untuk membangun suatu server dengan menggunakan kumpulan dari beberapa buah realserver. LVS merupakan implementasi dari komputer cluster dengan metoda High Availbalility. LVS mengimbangi berbagai bentuk dari service jaringan pada banyak mesin dengan memanipulasi paket sebagaimana diproses TCP/IP stack. Satu dari banyak peran yang paling umum dari Linux Virtual Server adalah bertindak sebagai server yang berada pada garis terdepan dari kelompok server web. Seperti ditunjukkan pada Gambar 1. Linux Virtual Server atau LVS ini terdiri dari sebuah Director dan beberapa realserver yang bekerja bersama dan memberikan servis terhadap permintaan user. Permintaan User diterima oleh Director yang seolah olah berfungsi sebagai IP Router yang akan meneruskan paket permintaan user tersebut pada realserver yang siap memberikan servis yang diminta. USER (CLIENT) Local / melalui Internet (ROUTER) VIRTUAL IP DIRECTOR Dengan 1 atau 2 buah N I C Realserver 1 Realserver 2 Realserver 3 Gambar.1. Struktur Dasar Linux Virtual Server dengan 3 buah realserver 56
Ferrianto Gozali & Alex, Virtual Server Dengan demikian virtual server akan terdiri dari beberapa komputer yang mempunyai image yang sama tetapi ditempatkan pada IP yang berbeda. User dapat mengakses virtual server tersebut dengan bantuan suatu Director, yang bertugas untuk melakukan pemetaan IP dari server dan komputer lainnya yang berperan sebagai virtual server. LVS Director adalah modifikasi dari sistem Linux yang bertanggung jawab untuk mendistribusikan permintaan user/client terhadap realserver pada kelompok server. Realserver melakukan pekerjaan untuk memenuhi permintaan serta memberikan atau membuat laporan balik kepada user/client. LVS Director memelihara rekaman daripada sejumlah permintaan yang telah ditangani oleh masing-masing realserver dan menggunakan informasi ini ketika memutuskan server mana yang akan ditugaskan untuk menangani suatu permintaan berikutnya. LVS juga dapat memiliki Director cadangan yang akan menggantikan bilamana suatu saat Director utama mengalami suatu kegagalan sehingga membentuk suatu LVS failover. Masing-masing realserver dapat bekerja dengan menggunakan berbagai sistem operasi dan aplikasi yang mendukung TCP/IP dan Ethernet. Pembatasan dan pemilihan sistem operasi pada realserver serta jenis servis yang didukung oleh realserver dilakukan pada saat proses konfigurasi LVS dijalankan. Servis yang dapat didukung oleh LVS (Turbo Linux User Guide, 2000: 53), antara lain: Web site (HTTP, HTTPS) FTP (File Transfer Protocol) Email (SMTP, POP3, dan IMAP) News (NNTP) DNS (Domain Name Service) LDAP (Lightweight Directory Access Protocol) Suatu LVS terdiri dari beberapa komponen pendukung yang bertugas untuk menyimpan informasi yang dibutuhkan, mengatur proses kerja LVS serta proses lainnya. Pembagian tugas dari tiap komponen dapat dilihat pada tabel 1. sedangkan hubungan antar komponen LVS (Linux Refference, 2000: 130 131), dapat dilihat pada Gambar.2. 57
JETri, Tahun Volume 2, Nomor 1, Agustus 2002, Halaman 53-68, ISSN 1412-0372 Tabel 1. Komponen LVS serta fungsinya KOMPONEN Pulse LVS Nanny /etc/lvs.cf Piranha Web Interface Send_arp FUNGSI Merupakan komponen yang bertugas untuk mengontrol proses jalannya daemon yang sesuai dengan kebutuhan proses. Pulse bekerja pada LVS director dan dapat dijalankan dengan perintah /etc/rc.d/init.d/pulse start, atau dapat dijalankan setiap kali boot. Pulse merupakan heartbeat yang mengirimkan sinyal pada aktif director maupun untuk file-over sistem. Merupakan LVS daemon bekerja pada lvs director. LVS Daemon ini bertugas untuk membaca file konfigurasi dan memanggil program IPVSADM dan menampilkan tabel routing dari IPVS. Merupakan komponen yang bertugas untuk memonitor deaemon yang bekerja pada aktif director. Dengan nanny, director dapat mengetahui bahawa realserver mana yang aktif, dan dapat memonitor beban kerja dan jumlah user/client yang ditangani oleh tiap realserver LVS. Merupakan file configurasi dari LVS cluster. Baik secara langsung maupun tidak, semua daemon mengambil informasi konfigurasi dari file ini. Merupakan tool yang berbasiskan web, untuk memonitor, mengatur dan mengkonfigurasi LVS cluster. Seacara normal, tool ini adalah untuk memonitor file lvs.cf, melakukan restart deaemon yang bekerja, dan memonitor LVS cluster. Merupakan program yang bertugas untuk mengirimkan arp broadcast ketika alamat virtual server berubah dari satu node ke node yang lainnya. 58
Ferrianto Gozali & Alex, Virtual Server Backup LVS Router Primary Router LVS pulse Heartbeat pulse lvs ipvsadm Real Server #1 nanny ipvsadm nanny Monitor Monitor ftp service web service ipvsadm nanny Monitor Real Server #2 web service ipvsadm Gambar.2. Hubungan antar komponen LVS Didalam proses pengaturan beban yang dilakukan oleh LVS director, LVS menjalankan metoda routing dengan menggunakan Network Address Translation (NAT) seperti terlihat pada Gambar 3. (Adopted from Zhang, 2000) pada halaman berikut. Beberapa keuntungan yang didapatkan dengan penggunaan NAT ini adalah dimungkinkannya LVS realserver menggunakan sistem operasi apa saja yang mendukung protokol TCP/IP, real server dapat menggunakan alamat internet private, dan hanya alamat IP public yang dibutuhkan oleh load balancer/director (Zhang, 2000:.). Namun demikian, keandalan dari LVS via NAT menjadi terbatas. Hal ini disebabkan karena Load balancer akan mengalami bottleneck dari seluruh sistem yang ada ketika jumlah realserver yang ada mencapai diatas 20 buah. Hal ini disebabkan karena adanya permintaan paket dan paket respon yang diperlukan oleh load balancer untuk dituliskan kembali.dan diperkirakan panjang rata rata dari TCP/IP stack adalah 56 Bytes dengan 59
JETri, Tahun Volume 2, Nomor 1, Agustus 2002, Halaman 53-68, ISSN 1412-0372 delay rata-rata dalam menulis kembali paket sekitar 60µs pada prosessor Pentium. Untuk mengurangi kerugian tersebut diatas atau menambah jumlah realserver, maka komputer yang digunakan harus memiliki kecepatan komputasi yang lebih tinggi. Cara lain yang digunakan untuk masalah ini adalah dengan menggunakan pendekatan secara DNS hybrid, yaitu LVS via IP tunneling atau via direct routing. Dalam pendekatan secara Domain Name Service (DNS) hybrid, dipergunakan beberapa load balancer yang diletakan pada masing-masing kelompok server untuk kemudian seluruh load balacer yang ada dikelompokkan menjadi satu nama domain oleh Round Robin DNS (Mack, 1999 & Zhang, 2000). Gambar.3. Struktur LVS via NAT 60
Ferrianto Gozali & Alex, Virtual Server Untuk kebutuhan pengamatan pada penelitian ini, pada LVS via NAT ini dilakukan dua macam penjadwalan client/user yaitu penjadwalan dengan Metoda Round Robin [RR] dan metoda penjadwalan dengan metoda Weight Least Connection [WLC] seperti dijumpai pada Gambar.4. berikut. Gambar.4. Metode Penjadwalan Client pada LVS 61
JETri, Tahun Volume 2, Nomor 1, Agustus 2002, Halaman 53-68, ISSN 1412-0372 4. Implementasi Linux Virtual Server Implementasi dari LVS dilakukan pada jaringan komputer Laboratorium Komputer Jurusan Teknik Elektro Fakultas Teknologi Industri UniversitasTrisakti pada ruang kelas komputer dengan meggunakan satu director dan empat realserver sebagai web server. Arsitektur jaringan yang dimanfaatkan dapat dilihat pada Gambar.5. sedangkan implementasi dari LVS dapat dilihat pada Gambar.6. berikut ini. Hub 1 Gambar.5. Arsitektur Jaringan Komputer Lab Komputer 62
Ferrianto Gozali & Alex, Virtual Server Gambar.6. Implementasi Linux Virtual Web Server Konfigurasi yang dipergunakan untuk pengukuran kinerja dari Linux Virtual Web Server dapat dilihat pada Gambar.7. berikut 63
JETri, Tahun Volume 2, Nomor 1, Agustus 2002, Halaman 53-68, ISSN 1412-0372 Gambar.7. Konfigurasi LVS dengan routing NAT 5. Analisis Dan Pengukuran Kinerja Linux Virtual Server Pada pengujian ini service yang digunakan adalah LVS untuk aplikasi Web Server dimana faktor yang diamati adalah time response dari web server dalam memproses permintaan user. Pengamatan terhadap time response web server diamati terhadap peningkatan jumlah permintaan user/client pada beberapa konfigurasi LVS berbeda. Konfigurasi yang digunakan adalah: 1. Menggunakan server tunggal 2. Menggunakan dua buah realserver dengan metoda penjadwalan user/client secara round robin 64
Ferrianto Gozali & Alex, Virtual Server 3. Menggunakan tiga buah realserver dengan metoda penjadwalan user/client secara round robin 4. Menggunakan empat buah realserver dengan metoda penjadwalan user/client secara round robin 5. Menggunakan dua buah realserver dengan metoda penjadwalan user/client secara weight least connection 6. Menggunakan tiga buah realserver dengan metoda penjadwalan user/client secara weight least connection. 7. Menggunakan empat buah realserver dengan metoda penjadwalan user/client secara weight least connection Hasil pengukuran response time (dalam detik) pada LVS Web Server untuk berbagai konfigurasi tersebut diatas dapat dilihat pada Tabel.2. berikut. Tabel 2. Konfigurasi Jumlah Request 10 40 80 100 200 400 800 1 0,010 0,019 0.360 2,150 6,870 12,420 50,060 2 0.010 0,015 0,023 0,950 4,120 8,250 42,250 3 0,010 0,014 0,016 0,710 2,960 6,790 35,250 4 0,010 0,010 0,010 0,417 1,450 4,250 32,680 5 0,010 0,015 0,021 0,800 4,260 8,020 41,050 6 0,010 0,016 0,019 0,680 2,650 6,650 34.430 7 0,010 0,010 0,010 0,392 1,290 3,890 26,440 Dari ketujuh konfigurasi pengukuran diatas, dapat digambarkan kurva time response untuk metoda penjadwalan dengan metoda Round Robin seperti pada Gambar.8.a. berikut ini. 65
JETri, Tahun Volume 2, Nomor 1, Agustus 2002, Halaman 53-68, ISSN 1412-0372 Time Response (round robin) 45 40 35 30 25 2 server 20 4 server 15 10 5 0 10 40 80 100 200 400 800 request Gambar 8.a. Time response dengan metoda penjadwalan Round Robin Metoda penjadwalan dengan metoda weight least cost seperti pada Gambar 8.b. pada halaman berikut ini. Dari gambar 8.a dan Gambar.8.b. terlihat bahwa penjadwalan user/client dengan menggunakan metoda Round Robin maupun dengan metoda Weight Least Cost menunjukkan adanya perbedaan time response yang dimiliki, namun dari masing masing gambar tersebut terlihat penambahan jumlah realserver pada LVS web server akan mempercepat time response server secara significant pada saat jumlah request meningkat. 6. Kesimpulan Dengan menggunakan metode penjadwalan yang tepat untuk setiap konfigurasi, maka peningkatan kinerja pada LVS web server dapat dirasakan, yaitu dengan meningkatnya response time dari pada web server. Faktor komunikasi seperti Ethernet mempengaruhi unjuk kerja dari 66
Ferrianto Gozali & Alex, Virtual Server distribusi permintaan {client request distribution), dan distribusi dari paket yang diminta oleh suatu client. Virtual Web Server merupakan salah satu solusi untuk memanfaatkan komputer client untuk djadikan sebuah virtual server dalam mendukung kerja web server. Semakin banyak node/komputer yang dikutsertakan dalam virtual server maka kinerja dari web server tersebut semakin baik walaupun terjadi peningkatan jumlah request dari client yang cukup besar. T i m e R e s p o n s e ( W L C ) 4 5 4 0 3 5 3 0 d e t ik 2 5 2 0 2 s e r v e r 3 s e r v e r 4 s e r v e r 1 5 1 0 5 0 1 0 4 0 8 0 1 0 0 2 0 0 4 0 0 8 0 0 r e q u e s t Gambar 8.b. Time response dengan metoda penjadwalan Weight Least Cost Daftar Pustaka 1. ---------------------, 2001. Turbo Linux Cluster Server 6, Linux User Guide. 2. Abie Habtamu, 2000. An Overview of Firewall Technologies, Norwegian Computing Center, Oslo, Norway. 3. Hameed, Imran, 2002. E-Business Technologies of Today, Internet Technology Newsletter. 67
JETri, Tahun Volume 2, Nomor 1, Agustus 2002, Halaman 53-68, ISSN 1412-0372 4. Mack, Joseph, 1999. Creating Linux Virtual Servers, LinuxExpo 1999, Conference. 5. Zhang, Wensong, et.al., 2001. Creating Linux Virtual Servers, National Laboratory for parallel and Distributed Processing, Changsha, Hunan, China. 68