IKI20210 Pengantar Organisasi Komputer Kuliah no. 6c:Cache Memory. Bobby Nazief Johny Moningka

Transkripsi

1 IKI20210 Pengantar Organisasi Komputer Kuliah no. 6c:Cache Memory diadaptasikan dari materi kuliah CS61C/2000 & CS152/ /1997 UCB Bobby Nazief Johny Moningka bahan kuliah: 1 Agenda Trend Teknologi Memori Evolusi DRAM => DDR SDRAM, RDRAM Manajemen Memori Hirarkis Konsep organisasi memori komputer modern Mengapa model ini bekerja dengan baik! Prinsip lokalitas program Referensi: Ch. 5 (Computer Organization, Harmarcher) 2 1

2 Ringkasan (..to remember) Fakta: memori dengan kapasitas besar (murah!) lambat, sedangkan memori cepat kapasitasnya kecil (mahal). Organisasi Memori Hirarkis: menyediakan (ilusi) memori akses cepat dengan kapasitas besar dan murah! (Big IDEA) Konsep Kunci: Prinsip Lokalitas Program (ruang dan waktu): pada satu saat instruksi dan data yang sedang dijalankan akan digunakan lagi dalam waktu dekat (berulang) Bagian program sedang dieksekusi berada pada memori yang tercepat (cache) => most of the time akses program pada tingkat memori tsb (hit) Bagian (copy) program (siap dieksekusi) berada di main-memory dan disk. 3 Example: Cache Processor Reg Cache Cache Memory-I/O bus bus Memory I/O I/O controller I/O I/O controller I/O I/O controller disk Disk disk Disk Display Display Network 4 2

3 What is a cache? Kecil, storage cepat untuk meningkatkan average access time dibandingkan memori Memanfaatkan spacial & temporal locality Sebenarnya cache terlihat pada hirarkis penyimpanan Registers a cache on variables software managed First-level cache a cache on second-level cache Second-level cache a cache on memory Memory a cache on disk (virtual memory) 5 How is the hierarchy managed? Registers <-> Memory by compiler (programmer?) cache <-> memory by the hardware memory <-> disks by the hardware and operating system (virtual memory) by the programmer (files) 6 3

4 Cache Design Bagaimana organisasi cache? (ingat: cache akan meneriman alamat memori dari prosesor, tidak ada perubahan pada rancangan prosesor ada/tanpa cache). Bagaimana melakukan mapping (relasi) antara alamat memori dengan cache (ingat: sepandan karena prosesor hanya melihat memory byte addressable) Bagaimana mengetahui elemen data tsb berada di cache (hit) atau tidak ada (miss) (ingat: cache jauh lebih kecil dari main memory)? 7 Cache: Blok Memory Transfer data antara cache dam memori dalam satuan blok (kelipatan words) Mapping (penerjemahan) antara blok di cache dan di main memory (ingat: cache copy dari main memory) To Processor Cache Main Memory From Processor Blk X Blk Y Hit 8 4

5 Direct-Mapped Cache (1/2) Skema direct-mapped cache, setiap alamat memori di-asosiasikan dengan dengan kemungkinan satu (direct) lokasi blok dalam cache. Blok: unit transfer data antara cache dan memori Hubungan blok cache dan blok memori: one-toone. Jadi kita hanya perlu mencari lokasi tunggal (satu) pada cache untuk mengambil data tsb. Satu saat cache akan penuh: blok data cache akan diganti dengan yang baru, terdapat kemungkinan lebih dari satu blok akan dimapped ke blok cache. 9 Memory Address A B C D E F Direct-Mapped Cache (2/2) Memory Cache Index Byte Direct Mapped Cache Lokasi cache 0 dapat diisi data lokasi dari: Lokasi memori:0, 4, 8,... Secara umum: lokasi memori yang merupakan kelipatan 4 (jumlah blok cache) 10 5

6 Issues with Direct-Mapped Masalah: multiple alamat memori map ke indeks blok yang sama! Bagaimana kita mengetahui apakah alamat blok yang diinginkan berada di cache? Harus ada identifikasi blok memori dikaitkan dengan alamat Bagaimana jika ukuran blok > 1 byte? Solusi: bagai alamat dalam bentuk fields ttttttttttttttttt iiiiiiiiii oooo tag index byte to check to offset if have select within correct block block block 11 Direct-Mapped Cache Terminology Semua fields untuk penerjemahan dianggap sebagai bilaingan positif integer. Index: indeks pada blok cache, dimana blok (baris, entry) dari cache alamat tersebut harus berada. Offset: sekali kita telah menemukan blok tsb, manakah byte pada blok tersebut akan diakses. Tag: sisa bit dari alamat setelah field index dan offset; digunakan untuk membedakan alamat memory yang mappingnya pada blok yang sama dari cache. 12 6

7 Direct-Mapped Cache Example (1/3) Misalkan kita mempunya 16KB data dengan skema direct-mapped cache. Setiap blok terdiri dari 4 word Tentukan ukuran field: tag, index, dan offset jika menggunakan komputer 32-bit. Offset Diperlukan untuk mengambil satu byte dalam blok blok mempunyai: 4 words 16 bytes 2 4 bytes diperlukan 4 bits untuk menentukan alamat byte 13 Direct-Mapped Cache Example (2/3) Index: (~index into an array of blocks ) diperlukan untuk menentukan blok yang mana pada cache (rows yang mana) cache mempunyai 16 KB = 2 14 bytes blok mempunyai 2 4 bytes (4 words) # rows/cache = # blocks/cache (sebab setiap rows terdiri dari satu blok) = bytes/cache / bytes/row = 2 14 bytes/cache / 2 4 bytes/row = 2 10 rows/cache diperlukan 10 bits untuk menentukan indeks pada rows dari cache 14 7

8 Direct-Mapped Cache Example Contoh direct mapped cache tsb membagi field atas 4 bits offset 10 bit index 18 bit tag Struktur cache: Menyimpan tag (unik untuk setiap blok) dikaitkan dengan blok/rows. 1. Akses dilakukan dengan mencari index blok / rows 2. Bandingkan tag dari alamat dan tag yang disimpan pada row tersebut 3. Jika tag sama => HIT, ambil byte (offset) 4. Jika tidak sama => MISS, ambil blok dari memori. 15 8