ANALISIS BEBERAPA TEKNIK CODING RAHMAD FAUZI, ST, MT JURUSAN TEKNIK ELEKTRO FAKULTAS TEKNIK UNIVERSITAS SUMATERA UTARA BAB I PENDAHULUAN

Transkripsi

1 ANALISIS BEBERAPA TEKNIK CODING RAHMAD FAUZI, ST, MT JURUSAN TEKNIK ELEKTRO FAKULTAS TEKNIK UNIVERSITAS SUMATERA UTARA BAB I PENDAHULUAN Sistem komunikasi dirancang untuk mentransmisikan informasi yang dibangkitkan oleh sumber ke beberapa tujuan. Sumber Informasi mempunyai beberapa bentuk yang berbeda. Sebagai contoh, dalam radio broadcasting, sumber biasanya sebuah sumber audio (suara atau musik). Dalam TV broadcasting, sumber informasi biasanya sebuah sumber video yang keluarannya berupa image bergerak. Output dari sumber-sumber ini adalah sinyal analog dan sumbernya disebut sumber analog. Kontras dengan Komputer dan tempat penyimpanan data (storage), seperti disk magnetic atau optical, menghasilkan output berupa sinyal diskrit (biasanya karakter binary atau ASCII) dan tentu sanya sumbernya disebut sumber diskrit. Baik sumber analog maupun diskrit, sebuah komunikasi digital dirancang untuk mentransmisikan informasi dalam bentuk digital. Sehingga konsekuensinya keluaran dari sumber harus diubah dahulu menjadi bentuk keluaran sumber digital yang biasanya dilakukan pada source encoder, yang keluarannya dapat diasumsikan sebuah digit biner sekuensial. Pada akhir 4-an dimana dimulainya tahun Teori Informasi, ide pengembangan metode coding yang efisien baru dimulai dan dikembangkan. Dimulainya penjelajahan Ide dari entropy, information content dan redundansi. Salah satu ide yang popular adalah apabila probabilitas dari simbol dalam suatu pesan diketahui, maka terdapat cara untuk mengkodekan simbol, sehingga pesan memakan tempat yang lebih kecil. Model pertama yang muncul untuk kompresi sinyal digital adalah Shannon- Fano Coding. Shannon dan Fano (948) terus-menerus,mengembangkan algoritma ini yang menghasilkan codeword biner untuk setiap simbol (unik) yang terdapat pada data file. Huffman coding [952] memakai hampir semua karakteristik dari Shannon- Fano coding. Huffman coding dapat menghasilkan kompresi data yang efektif dengan mengurangkan jumlah redundansi dalam mengkoding simbol. Telah dapat dibuktikan, bahwa Huffman Coding merukan metode fixed-length yang paling efisien. Pada limabelas tahun terakhir, Huffman Coding telah digantikan oleh arithmetic coding. Arithmetic coding melewatkan ide untuk menggantikan sebuah simbol masukan dengan kode yang spesifik. Algoritma ini menggantikan sebuah aliran simbol masukan dengan sebuah angka keluaran single floating-point. Lebih banyak bit dibutuhkan dalam angka keluaran, maka semakin rumit pesan yang diterima. Algoritma Dictionary-based compression menggunakan metode yang sangat berbeda dalam mengkompres data. Algoritma ini menggantikan string variable-length dari simbol menjadi sebuah token. Token merupakan sebuah indek dalam susunan kata di kamus. Apabila token lebih kecil dari susunan kata, maka tken akan menggantikan prase tersebut dan kompresi terjadi. Masih banyak lagi metode dan algoritma kompresi, namun dalam makalah ini akan dibahas mengenai 23 Digitized by USU digital library

2 metode kompresi dengan menggunakan Huffman, Shannon-Fano dan Adaptif Huffman. BAB II DASAR TEORI Pandangan dasar dari source coding adalah menghilangkan redundansi dari sumber. Source Coding menghasilkan data compresi dan mengurangi rate dari transmisi. Pengurangan dari rate transmisi dapat mengurangi biaya dari sambungan dan memberikan kemungkinan untuk pengguna berbagi dalam sambungan yang sama. Secara umum kita dapat meng-kompres data tanpa menghilangkan informasi (lossless source coding) atau mengkompress data dengan adanya kehilangan informasi (loss source coding). Teori Source Encoding merupakan salah satu dari ketiga teorema dasar dari teori informasi yang diperkenalkan oleh Shannon (948). Teori Source Encoding mencanangkan sebuah limit dasar dari sebuah ukuran dimana keluaran dari sebuah sumber informasi dapat dikompresi tanpa menyebabkan probabilitas error yang besar. Kita telah mengetahui bahwa entropy dari sebuah sumber informasi merupakan sebuah ukuran dari isi informasi pada sebuah sumber. Sehingga, dari pendapat teori source encoding bahwa entropy dari sebuah sumber sangat penting. Efisiensi dari sumber ditentukan oleh H(X)/H(X)max, dimana pi merupakan probabilitas pada simbol ke-i, dan H(X) maksimum ketika sumber mempunyai simbol probabilitas yang sama. Teori Shannon Noiseless Source Coding menyatakan bahwa nilai rata-rata dari simbol biner per keluaran sumber dapat digunakan untuk mendekati entropi dari sumber. Dalam kata lain, efisiensi dari sumber dapat dihasilkan dari source coding. Untuk sumber dengan probabilitas simbol yang sama, dan/atau secara statistic tidak terikat satu dengan yang lain, maka dapat dipetakan (encode) setiap simbol dalam sebuah codeword dengan panjang n. Dalam makalah ini akan dibahas dan dianalisa source encoding berdasarkan model matematis dari sumber informasi dan pengukuran kuantitatif dari informasi yang dihasilkan oleh sumber. 23 Digitized by USU digital library 2

3 Gambar. Klasifikasi dari beberapa teknik kompresi 2. Algoritma Huffman Coding Dalam Huffman Coding, panjang blok dari keluaran sumber dipetakan dalam blok biner berdasarkan pajang variable. Cara seperti ini disebut sebagai fixed to variable-length coding. Ide dasar dari cara Huffman ini adalah memetakan mulai simbol yang paling banyak terdapat pada sebuah urutan sumber sampai dengan yang jarring muncul menjadi urutan biner. Dalam variable-length coding, sinkronisasi merupakan suatu masalah. Ini berarti harus terdapat satu cara untuk memecahkan urutan biner yang diterima kedalam suatu codeword. Seperti yang disebutkan diatas, bahwa ide dari Huffman Coding adalam memilih panjang codeword dari yang paling besar probabilitasnya sampai dengan urutan codeword yang paling kecil probabilitasnya. Apabila kita dapat memetakan setiap keluaran sumber dari probabiltas pi ke sebuah codewortd dengan panjang /pi dan pada saat yang bersamaan dapat memastikan bahwa dapat didekodekan secara unik, kita dapat mecari rata-rata panjang kode H(x). Huffman Code dapat mendekodekan secara unik dengan H(x) minimum, dan optimum pada keunikan dari kode-kode tersebut. Algoritma dari Huffman encoding adalah :. Pengurutan keluaran sumber dimulai dari probabilitas paling tinggi. 2. Menggabungkan 2 keluaran yang sama dekat kedalam satu keluaran yang probabilitasnya merupakan jumlah dari probabilitas sebelumnya. 3. Apabila setelah dibagi masih terdapat 2 keluaran, maka lanjut kelangkah berikutnya, namun apabila masih terdapat lebih dari 2, kembali ke langkah. 4. Memberikan nilai dan untuk kedua keluaran 23 Digitized by USU digital library 3

4 5. Apabila sebuah keluaran merupakan hasil dari penggabungan 2 keluaran dari langkah sebelumnya, maka berikan tanda dan untuk codeword-nya, ulangi sampai keluaran merupakan satu keluaran yang berdiri sendiri. Urutkan probabilitas dari tinggi ke rendah Gabungkan 2 keluaran yang paling bawah Jumlah elemen = 2 Yes No Berikan tanda dan Apakah elemen gabungan dari 2 simbol Yes Tambahkan codeword dengan dan No Stop Gambar 2. Alur program Huffman code Contoh Apabila kita mempunyai kalimat: "EXAMPLE OF HUFFMAN CODE" Pertama, kita kalkulasi probabilitas dari setiap simbol : 23 Digitized by USU digital library 4

5 Symbol Probability E 2/25 X /25 A 2/25 M 2/25 P /25 L /25 O 2/25 F 2/25 H /25 U /25 C /25 D /25 I /25 N 2/25 G /25 space 3/25 Huffman Tree dari kalimat tersebut adalah : 23 Digitized by USU digital library 5

6 2.2 Algoritma Shannon-Fano Encoding Teknik coding Shannon Fano merupakan salah satu algoritma pertama yang tujuannya adalah membuat code word dengan redundansi minimum. Ide dasar dari membuat code word dengan variable-code length, seperti Huffman codes, yang ditemukan beberapa tahun kemudian. Seperti yang disebutkan di atas, Shannon Fano coding didasarkan pada variable length-word, yang berarti beberapa simbol pada pesan (yang akan dikodekan) direpresentasikan dengan code word yang lebih pendek dari simbol yang ada di pesan. Semakin tinggi probabilitasnya, maka code word semakin pendek. Dalam memperkirakan panjang setiap codeword maka dapat ditentukan dari probabilitas setiap simbol yang direpresentasikan oleh codeword tersebut. Shannon Fano coding menghasilkan codeword yang tidak sama panjang, sehingga kode tersebut bersifat unik dan dapat didekodekan. Cara efisien lainnya dalam variable-length coding adalah Shannon-Fano encoding. Prosedur dalam Shannon-Fano encoding adalah : Menyusun probabilitas simbol dari sumber dari yang paling tinggi ke yang paling rendah. Membagi menjadi 2 bagian yang sama besar, dan memberikan nilai untuk bagian atas dan untuk bagian bawah. Ulangi langkah ke 2, setiap pembagian dengan probabilitas yang sama sampai dengan tidak mungkin dibagi lagi Encode setiap simbol asli dari sumber menjadi urutan biner yang dibangkitkan oleh setiap proses pembagian tersebut. Contoh Apabila kita mempunyai kalimat: "EXAMPLE OF SHANNON FANO" Pertama, kita kalkulasi probabilitas dari setiap simbol: Symbol Codewords E 2/23 X /23 A 3/23 M /23 P /23 L /23 O 3/23 F 2/23 S /23 H /23 N 4/23 space 3/23 23 Digitized by USU digital library 6

7 Coding tree dari contoh tersebut adalah : 2.3 Algoritma Adaptive Huffman Coding Adaptive Huffman coding pertama kali diperkenalkan oleh Faller dan Gallager (Faller 973; Gallaber 978). Knuth memberikan kontribusi dengan peningkatan pada algoritmanya (Knuth 985) dan menghasilkan algoritma yang dikenal dengan algoritma FGK. Versi terbaru dari adaptive Huffman Coding diperkenalkan oleh Vitter (Vitter 987). Semua metode yang ditemukan merupakan skema define-word tabf menentukan mapping dari pesan sumber menjadi codeword didasari pada perkiraan probabilitas pesan sumber. Kode bersifat adaptive, berganti sesuai dengan perkiraan optimalnya pada saat itu. Dalam hal ini, Adaptive Huffman Code merespon lokalitas. Dalam pengertian, encoder mempelajari karakteristik dari sumber. Dekoder harus mempelajari bersamaan dengan encoder dengan selalu memperbaharui Huffman tree sehingga selalu sinkron dengan encoder. Keuntungan lain dari system ini adalah kebutuhan akan lewatnya data, data akan lewat hanya sekali (tanpa table statistic). Tentu saja, metode one-pass tidak akan menarik apabila jumlah bit yang ditransmisikan lebih besar dari metoda twopass. Namun, performa dari metode ini, dalam ruang lingkup jumlah bit yang ditransmisikan, dapat lebih baik daripada static Huffman coding. Permasalahan ini tidak kontradiktif dengan optimalisasi pada metode statis, karena metode ini optimal hanya [ada metode yang mengasumsikan mapping berdasarkan time-variant. Kinerja dari metode adaptive dapat lebih buruk daripada metode static. Metode adaptive Faller, Gallager dan Knuth merupakan dasar dari UNIX utility compact. Kinerja compact ini termasuk bagus, karen factor kompresinya mencapai 3-4% 23 Digitized by USU digital library 7

8 Dasar dari algoritma FGK adalah adanya sibling (factor turunan) property, didefinisikan oleh Gallager [Gallager 978]: binary code tree mempunyai sibling apabila setiap node )kecuali root) mempunyai sebuah sibling dan apabila node-node tersebut dapat diurutkan dalam weight dengan setiap node berhubungan dengan siblingnya masing-masing. Gallager membuktikan bahwa sebuah code prefik biner merupakan Huffman code jika dan hanya jika code tree mempunyai sibling property. Dalam algoritma FGK, baik pengirim dan penerima menangani perubahan dinamis dari Huffman code tree. Daun dari setiap pohon Huffman code merepresentasikan pesan sumber dan berat dari setiap daun merepresentasikan hitungan frekuensi untuk setiap pesan. Pada titik manapun dalam satuan waktu, k dari kemungkinan n pesan sumber terdapat pada susunan pesan. Gambar 3. Algoritma FGK Pada Gambar 3, Algoritma FGK mengolah susunan EXAMPLE (a) Pohon setelah memproses "aa bb"; akan ditransmisikan untuk b selanjutnya. (b) Setelah b ketiga; akan ditransmisikan untuk tempat selanjutnya; pohon tidak berubah; 23 Digitized by USU digital library 8

9 akan ditransmisikan untuk c pertama. (c) Pohon setelah diperbaharui dengan c pertama. Pada awalnya, the code tree consists of a single leaf node, yang disebut - node. -node digunakan untuk menggambarkan pesan n-k yang tidak digunakan. Untuk setiap pesan yang ditransmisikan, kedua bagian harus menambahkan weight dan menghitung kembali code tree untuk mempertahankan simbling property. Pada titik dalam satuan waktu dimana t pesan telah ditransmisikan. Pada titik dimana t pesan telah ditransmisikan, k dari mereka berbeda, dan k < n, pohon merupakan Huffman tree asli dengan daun sebanyak k+, yaitu k pesan dan -node. Apabila pesan ke (t+) adalah salah satu dari k, maka algoritma mentrasmisikan code ke a(t+), menaikkan counter dan menghitung kembali pohon. Apabila terdapat pesan yang tidak digunakan, -node dipisah untuk membuat 2 pasang daun, satu untuk a(t+), dan siblingnya adalah -node yang baru. Sekali lagi dalam proses ini, pohon diperhitungkan kembali. Dalam kasus ini, kode untuk -node dikirimkan; sebagai tambahan, penerima harus memberitahukan pesan n-k mana yang tidak digunakan yang muncul. Pada setiap node, penyimpanan perhitngan dari pesan yang muncul dilakukan. Node diberikan nomor untuk mengindikasikan posisi mereka dalam urutan sibling propertinya. Pembaharuan dari pohon dapat dilakukan dalam sebuah single traversal dari node a(t+) sampai dengan root-nya. Traversal ini harus meningkatkan perhitungan untuk node a(t+) dan untuk setiap bagian atas dari node tersebut. Node boleh berubah untuk memelihara sibling property-nya, namun perubahan membutuhkan keterlibatan node pada path a(t+) ke root-nya. BAB III ANALISA 4. Permasalahan yang Dianalisa Untuk melakukan simulasi program kompresi data di Matlab, kami hanya menggunakan file gambar bitmap (bmp) dengan jenis yang berbeda satu sama lain. Namun pada dasarnya, file notepad.txt dan sound.wav juga dapat dikompresi dengan program simulasi ini. Analisa proses kompresi pada makalah ini hanya akan menjelaskan kompresi gambar. Analisa untuk jenis file suara dan teks pada intinya adalah sama. Permasalahan yang akan dianalisa adalah: Pengaruh banyaknya simbol terhadap gain kompresi. Pengaruh banyaknya frekuensi tiap simbol terhadap gain kompresi. Pengaruh nilai entropi terhadap gain kompresi. Kelebihan dari masing-masing metode kompresi yang digunakan dalam program simulasi. Kekurangan dari masing-masing metode kompresi yang digunakan dalam program simulasi. Gambar tersebut adalah: 23 Digitized by USU digital library 9

10 Putih.bmp (6 kb) gambar.bmp (4 kb) stone.bmp (2 kb) fish.bmp (7 kb) Dari gambar diketahui bahwa kompleksitas masing-masing gambar berbeda. Putih.bmp mempunyai kompleksitas paling rendah dan fish.bmp mempunyai kompleksitas paling tinggi. Kompleksitas gambar ditentukan oleh banyaknya gradasi warna (gray level) setiap gambar. Banyaknya gray level menentukan banyaknya simbol yang harus dikodekan. Gambar hitam-putih (grayscale) dikodekan oleh 8 bit. Artinya akan ada 2 8 level warna hitam. Warna paling hitam disimbolkan dengan, sedangkan warna paling putih disimbolkan dengan 255. Berikut adalah banyaknya graylevel dari masing-masing gambar: Nama File Banyaknya Gray Level Putih.bmp 5 Gambar.bmp 72 Stone.bmp 6 Fish.bmp 237 Berikut adalah hasil dari kompresi: 23 Digitized by USU digital library

11 Metode Huffman Nama file Entropi Codelength Codelength (before) (after) Gain % Putih.bmp bits 638 bits Gambar.bmp bits 8799 bits Stone.bmp bits 394 bits Fish.bmp bits bits 2.43 Metode Shannon-Fano Codelength Codelength Nama file Entropi Gain % (before) (after) Putih.bmp bits 638 bits Gambar.bmp bits 886 bits Stone.bmp bits 3977 bits Fish.bmp bits 6877 bits.7574 Hasil pengkodean dari masing-masing file dapat dilihat di lembar lampiran. Gambar putih.bmp memiliki entropi paling kecil (,9693). Ini berarti nilai informasi-nya sangat kecil, terbukti bahwa hampir semua simbol pada putih.bmp adalah 255 (gray level 255) yang jumlahnya 594. Jumlah simbol-simbol lain tidak terlalu besar (lihat lampiran). Simbol dengan probabilitas terbesar dikodekan hanya dengan bit. Itu berarti semua graylevel 255 dikodekan dengan bit. Simbol-simbol dengan probabilitas kecil, dikodekan dengan 6 bit. Sebelum dikodekan dengan kode Huffman, setiap simbol dikodekan dengan 8 bit. Karena itulah gain kompresi yang didapat sangat tinggi (85,2%). Berbeda dengan putih.bmp, fish.bmp mempunyai nilai entropi yang tinggi (6,87). Ini dapat ditunjukan dari banyaknya simbol dengan frekuensi yang hampir merata di setiap simbolnya (lihat lampiran). Karena itulah fish.bmp hanya dapat dikompresi dengan gain 2 % (metode Huffman). Bila kita perhatikan, gambar.bmp memiliki simbol lebih banyak dari pada stone.bmp. Namun setelah dikompresi justru gambar.bmp yang paling kecil hasilnya. Hal ini dikarenakan frekuensi dari setiap simbol pada gambar.bmp kurang merata dibandingkan stone.bmp. Pada stone.bmp frekuensi dari masingmasing simbol hampir sama (lihat lampiran). Dari segi lamanya proses pengkodean, Huffman membutuhkan waktu lebih lama dari Shannon-Fano. Ini disebabkan algoritma Huffman yang lebih panjang dan kompleks daripada algoritma Shannon-Fano. Pada Huffman, simbol-simbol harus diurutkan dari yang paling tinggi probabilitasnya hingga yang paling rendah. Kemudian dua probabilitas terkecil dijumlahkan dan hasilnya diurutkan kembali dari yang paling besar hingga yang paling kecil. Begitu seterusnya sampai pada akhir penjumlahannya bernilai. Sedangkan pada Shannon-Fano, simbol-simbol hanya satu kali diurutkan dari yang probabilitasnya paling kecil hingga yang paling besar. Kemudian dari urutan simbol-simbol tersebut dibagi dua kelompok berdasarkan probabilitasnya. Kemudian hasilnya dibagi dua kelompok lagi. Begitu seterusnya hingga setiap kelompok tidak dapat lagi dibagi dua (hanya tersisa simbol). Bagaimana cara komputer membaca dan membedakan deretan bit yang sudah dikodekan? 23 Digitized by USU digital library

12 Kita ambil contoh masukan dari user berupa teks maulana. File ini disimpan lalu dikodekan dengan Huffman Code, hasilnya adalah: Simbol Probabilitas Kode Huffman m / 7 a 3 / 7 u / 7 l / 7 n / 7 Pada saat dikirimkan, urutan bitnya menjadi: Dari urutan bit ini, komputer akan membaca bit yang terdepan (paling kiri) hingga yang terbelakang (paling kanan). Selain membaca bit, komputer juga akan membandingkan dengan tabel kode yang juga dikirimkan bersama data. Apabila dalam pembacaan urutan bit lalu dibandingkan dengan tabelnya ada kecocokan, maka komputer akan langsung menerjemahkannya ke dalam simbol aslinya. Inilah yang disebut unique prefix. Contoh: Iterasi Komputer membaca bit Komputer mencari di tabel apakah simbol untuk kode, ternyata tidak ada. Iterasi 2 Komputer membaca bit Komputer mencari di tabel apakah simbol untuk kode, ternyata tidak ada. Iterasi 3 Komputer membaca bit Komputer mencari di tabel apakah simbol untuk kode, ternyata simbol m. Iterasi 4 Komputer membaca bit Komputer mencari di tabel apakah simbol untuk kode, ternyata simbol a. dan seterusnya sampai semua kode berhasil diterjemahkan ke simbolnya masingmasing. 4.2 Verifikasi Program Untuk verifikasi kebenaran algoritma program, kita masukan data dari user.txt yang isinya berupa teks: maulana User.txt kemudian dibaca oleh program dan akan dihasilkan : Simbol Frekuensi 3 Ini artinya simbol a dinyatakan dengan kode ASCII (biner dari 97) dan begitu juga simbol-simbol yang lain dibaca dengan kode ASCII. Dengan metode Huffman maka jalannya proses pengkodean adalah sebagai berikut: 23 Digitized by USU digital library 2

13 3/7 97 /7 8 2/7 /7 /7 9 2/7 4/7 /7 7 Hasil kode Huffman dari simbol-simbol di atas adalah: Dengan demikian coding dengan program dan manual sama. Berikut adalah perhitungan entropi dari masing-masing simbol: Simbol a mempunyai probabilitas 3 / 7 maka besarnya entropi = (- 3 / 7 ) 2 log 3 / 7 =.5239 Simbol m mempunyai probabilitas / 7 maka besarnya entropi = (- / 7 ) 2 log / 7 =.4 Simbol u mempunyai probabilitas / 7 maka besarnya entropi = (- / 7 ) 2 log / 7 =.4 Simbol l mempunyai probabilitas / 7 maka besarnya entropi = (- / 7 ) 2 log / 7 =.4 Simbol n mempunyai probabilitas / 7 maka besarnya entropi = (- / 7 ) 2 log / 7 =.4 Jumlah entropi total adalah Digitized by USU digital library 3

14 Dengan demikian entropi dengan memakai program dan manual adalah sama. Metode yang kedua adalah Shannon-Fano, jalannya proses pengkodean adalah sebagai berikut: Hasil kode Shannon-Fano dari simbol-simbol di atas adalah: Dengan demikian entropi dengan memakai program dan manual adalah sama. 23 Digitized by USU digital library 4

15 BAB IV KESIMPULAN. Banyaknya simbol dan frekuensi masing-masing simbol menentukan nilai entropi suatu data. 2. Nilai entropi menentukan gain kompresi. 3. Makin besar entropi, maka akan makin kecil gain yang diperoleh pada saat pengompresan suatu data. 4. Dengan file yang sama, Huffman menghasilkan gain kompresi yang lebih baik dibandingkan Shannon-Fano. 5. Dengan file yang sama, Shannon-Fano membutuhkan waktu proses kompresi yang lebih cepat dibandingkan Huffman. 6. Hasil kompresi akan dikirimkan ke tujuan berikut dengan tabel kodenya untuk proses dekoding. Urutan biner hasil koding tidak akan salah di-dekodekan karena setiap kode memiliki unique prefix. DAFTAR PUSTAKA. Shanmugam, K. Sam, Digital and Analog Communications Systems, John Wiley & Sons, Inc., Haykin, Simon, An Introduction to Analog & Digital Communications, John Wiley & Sons, Inc., Internet, 4. Internet, Compression.html 23 Digitized by USU digital library 5