Review: Demand Paging. Virtual Memory Ch. 9. Virtual Memory. Review: VM = OS big lie

Transkripsi

1 Virtual Memory Ch. 9 SISTIM OPERASI (Operating System) IKI Johny Moningka (moningka@cs.ui.ac.id) Fakultas Ilmu Komputer Universitas Indonesia Semester 2000/2001 Review: Demand Paging Asumsi pemakaian memori: Load entire process into memory. Run it. Exit. Problems? Slow (apalagi proses besar => transfer ke memori) Wastefulof space (process doesn t use all of its memory) Solusi: sebagian saja program berada di memori demand paging: ambil pages yang digunakan/diakses paging: only keep frequently used pages in memory Mekanisme: Gunakan virtual memory untuk melakukan: map address, manage replacement, manage page di disk. OS/ JM-2001/v1.1/3 Virtual Memory Background Demand Paging Page-Replacement Algorithms Allocation of Frames Thrashing Review: VM = OS big lie Objektif:disk-sized memory yang secepat akses physical memory (DRAM). Program execution: 10% program mempunyai 90% porsi diakses/digunakan (memori reference). Jadi, usahakan 10% program berada di memori dan sisanya di disk => kecepatan akses mendekati memori (90% reference). # of references Memory address Physical memory Disk OS/ JM-2001/v1.1/2 OS/ JM-2001/v1.1/4 1

2 Review: VM Mechanism LRU: perfect Ekstensi page table entry: extra 1 bit valid/invalid Apakah page di memori? 1 = ada, 0 = tidak ada. Jika bit == 1, translasi dan akses langsung ke memori. Jika bit == 0, menyebabkan page fault. What happens on page fault? OS finds a free page or replace one (which one??) Issues a disk request to read in data into that page Puts process on blocked queue, switches to other process when disk completes: set present = 1, put back on ready queue Saat mengakses page frame: Gunakan time stamp informasi kapan terakhir page diakses. Saat penggantian: cari/compare yang terlama. Problems: Page frame besar Memori: 256 MB (page: 4 KB) => 64 K entry * 1 byte stamp. Tidak ada dukungan h/w (lambat). Approximation 13 0xffdcd: add r1,r2,r3 0xffdd0: ld r1, 0(sp) 14 t=4 t=14 t=14 t=5 32 :P=1 4183:P=0 177 :P=1 5721:P=0 Disk Mem Gunakan cara sederhana tapi cepat mencari page yang tidak di reference. Tidak sempurna, tapi mewakili LRU. OS/ JM-2001/v1.1/5 OS/ JM-2001/v1.1/7 Review: Page replacement Random: sembarang page (any page). Pro: good for avoiding worst case Con: good for avoiding best case (hasil lumayan, cukup). FIFO: ganti page yang terlama di memori Adil: semua pages akan diganti (menjadi tua ). Problem: bukan objektif, tidak melihat pemakaian pages. OPT (optimal): ganti page yang tidak akan digunakan untuk waktu terlama. Sulit diramalkan (dapat dijadikan benchmark => simulasi). LRU (least recently used): ganti page yang tidak digunakan dalam waktu yang terlama. Past = future? LRU = OPT. LRU: Clock algorithm Setiap page frame => reference bit (1 bit) Hardware set pada saat diakses => OS secara periodik reset. Pages dengan bit yang di-set => recently used. Implementasi: simpan page dalam FIFO circular list OS scan: page s ref bit = 1, set to 0 & skip, otherwise replace. Good? Bad?: Waktu scan lambat/cepat? Interval pendek => informasi hilang, Interval lama => semua page di akses OS/ JM-2001/v1.1/6 OS/ JM-2001/v1.1/8 2

3 LRU: Implementation Problem: sweep interval? Gunakan: n bits per page Jika page digunakan: set use bit (1 bit) = 1. OS sweep: gunakan sisa bit sebagai counter (used count, shift register) Misalkan: n = 1 (Second chance): reset bit reference = 0; Page akan diganti jika pada saat sweep yang kedua bitnya tetap 0. Misalkan: n = 2, gunakan 1 bit untuk reference, dan 1 bit untuk counter Sweep: jika bit reference 1, maka set bit counter = 1, clear bit reference. jika bit reference 0, maka reset bit counter = 0, clear bit reference. Page yang akan diganti adalah page: 00. Allocation of Frames Setiap proses memerlukan pages jumlah minimum. Contoh: Instruksi yang panjang dan melibatkan lebih dari satu memori reference, contoh MOVE dapat mencakup 2 pages (instruksi) + 2 pages (data) Two major allocation schemes. fixed allocation priority allocation OS/ JM-2001/v1.1/9 OS/ JM-2001/v1.1/11 LRU: Unix SunOS Fixed Allocation Script started on Mon Apr 16 13:03: caplin% vmstat -s pages paged in pages paged out pages examined by the clock daemon 377 revolutions of the clock hand pages freed by the clock daemon cpu context switches system calls Alokasi jumlah page sama: Jika jumlah memori fisik (page frame): 100 pages, dan jumlah proses 5, maka setiap proses => 20 pages. Alokasi proporsionil: Sesuai ukuran besarny proses. si = size of process pi S = si m = total number of frames si ai = allocationfor pi = m S m = 64 si = 10 s2 = a1 = a2 = OS/ JM-2001/v1.1/10 OS/ JM-2001/v1.1/12 3

4 Priority Allocation Gunakan alokasi yang proporsionil sesuai dengan prioritas proses. Jika proses Pi => page fault: Pilih penggantian frame dari alokasi untuk proses tersebut (frame yang digunakan oleh Pi). Setiap proses mempunyai jatah pages yang dapat digunakan (pool). Pilih penggantian frame dari proses dengan low prioritiy number, CPU intensive etc. Why? P1 P2 P3 Real mem Setiap kali sebuah page akan di copy ke memori, terdapat page lain yang harus diganti, dan page yang akan diganti tersebut akan di referensi lagi => page fault meningkat drastis. Implikasi: Proses block => operasi I/O ke disk, I/O sibuk (full utilization), Tapi hanya melakukan swap in/out page dari memori ke disk. What we wanted: virtual memory the size of disk with access time of of physical memory What we have: memory with access time = disk access OS/ JM-2001/v1.1/13 OS/ JM-2001/v1.1/15 Thrashing Jika page frame yang dapat disediakan untuk seluruh proses tidak mencukupi. Dalam kasus tertentu proses tidak pernah dapat mempunyai jumlah pages yang cukup (misalkan jika jumlah proses terlalu banyak): Terjadi page-faults terus menerus. Low CPU utilization. operating system thinks that it needs to increase the degree of multiprogramming. another process added to the system. Thrashing a process is busy swapping pages in and out. Throughput/kemajuan proses tersebut sangat kecil/ tidak ada sama sekali. OS coping with thrashing Single process thrashing? Jika proses terlalu besar dan tidak terstruktur atau reuse memory (malloc dan free) => OS tidak dapat membantu banyak, tapi melindungi proses lain. System thrashing? Jika karena page tidak mencukupi untuk seluruh proses: Evaluasi kebutuhan pages setiap proses. Jadwal/prioritas proses yang run, hanya memori mencukupi. Menolak menerima proses baru. Note: OS tidak dapat menjamin tidak ada problem. Solusi ( rule of thumb ): upgrade memory (go to M-2). Cara lain: gunakan ps dan kill proses lain. OS/ JM-2001/v1.1/14 OS/ JM-2001/v1.1/16 4

5 Thrashing Diagram Page-Fault Frequency Scheme Why does paging work? Locality model Process migrates from one locality to another. Localities may overlap. Why does thrashing occur? Σ size of locality > total memory size Establish acceptable page-fault rate. If actual rate too low, process loses frame. If actual rate too high, process gains frame. OS/ JM-2001/v1.1/17 OS/ JM-2001/v1.1/19 Methodology for solving? Pendekatan 1: page fault frequency (PFF) PFF = page faults / instructions executed Jika PFF meningkat di atas threshold, proses memerlukan memory yang lebih banyak (give pages). Tidak mencukupi memori di sistim? Proses swap out ke disk. Jika PFF menurun jauh di bawah threshold, memory pages dapat diambil dari proses, dan memperbanyak proses yang aktif. Pendekatan 2: working set Jika kita dapat memperkirakan berapa kebutuhan pages supaya terdapat progress (needs a working set of pages). Hanya menjalankan proses yang kebutuhannya dapat dipenuhi pada saat tersebut. OS dapat melihat real demand untuk keseluruhan jumlah proses dan page frame yang tersedia. Working Set Pengamatan: Menambah jumlah alokasi frame untuk satu proses tidak berpengaruh banyak terhadap performance akses memori dari proses tsb (misalkan sulit meniadaka page fault). Mengurangi jumlah alokasi frame untuk satu proses => pada titik tertentu berpengaruh besar: page fault akan meningkat drastis => thrashing. Evaluasi kebutuhan pages oleh satu proses dalam kurun waktu T tertentu: Real need: jumlah pages untuk proses tersebut. Problem? T is magic, how long? OS/ JM-2001/v1.1/18 OS/ JM-2001/v1.1/20 5

6 WS Model WSS i (working set of Process P i ) = jumlah total pages yang direferensi dalam interval waktu tertentu. total number of pages referenced in the most recent (varies in time) if too small will not encompass entire locality. if too large will encompass several localities. if = will encompass entire program. D = Σ WSS i total demand frames untuk semua proses. if D > m Thrashing Policy if D > m, then suspend (block) one of the processes. OS/ JM-2001/v1.1/21 Working set less important The concept is a good perspective on system behavior. As optimization trick, it s less important: Early systems thrashed lots, current systems not so much. Have OS designers gotten smarter? No. It s the hardware guys (cf. Moore s law): Obvious: Memory much larger (more to go around) Less obvious: CPU faster so jobs exit quicker, return memory to freelist faster. Some app can eat as much as you give, the percentage of them that have enough seems to be increasing. OS/ JM-2001/v1.1/23 How to implement working set? Kita memerlukan informasi idle time untuk setiap page frame: Idle time => berhubungan dengan jumlah waktu CPU proses tsb, sejak page diakses. Jika page s idle time > T? page bukan bagian dari working set. Scan semua page di memori oleh proses tsb. Use bit di set (1)? Reset page s idle time. Use bit masih reset (0)? Tambahkan CPU time proses tersebut ke idle time. Unix: Scan dilakukan dalam orde detik. T dalam orde menit. OS/ JM-2001/v1.1/22 Other Considerations Prepaging Pada saat proses start (suspend, baru), jumlah pages yang diberikan ke proses tersebut memenuhi perkiraan working set untuk proses tersebut Sekaligus ditransfer ke memori (sehingga page faults akan berkurang pada saat awal). Masalah: kemungkinan page tersbut tidak penah diakses. Page size selection Ukuran dari 512 bytes 16 KB. Pertimbangan: besarnya page table (setiap proses) => large Internal fragmentation => small Transfer time dari disk ke memori => large Page faults => large OS/ JM-2001/v1.1/24 6