Paralelisasi Transformasi Fourier pada Arsitektur General Purpose Graphic Processing Unit Untuk Klasifikasi Alat Musik Dengan Instrumen Solo

Transkripsi

1 Paralelisasi Transformasi Fourier pada Arsitektur General Purpose Graphic Processing Unit Untuk Klasifikasi Alat Musik Dengan Instrumen Solo Ridwan Rismanto DOSEN PEMBIMBING Dr. Nanik Suciati, S.Kom, M.Kom Wahyu Suadi, S.Kom, MM, M.Kom

2 Outline Tujuan Klasifikasi Alat Musik Instrumen Solo General Purpose Graphic Processing Unit (GPGPU) Implementasi GPGPU pada Klasifikasi Alat Musik Instrumen Solo Uji Coba dan Evaluasi Kesimpulan Future Work

3 Tujuan Mempercepat proses klasifikasi Pada proses ekstraksi fitur Memanfaatkan paralelisme pada Graphic Processing Unit (GPU) Mengapa GPU? Tingkat paralelisme yang tinggi (hingga 200 core + 20 multiprocessor) Bandwith memori yang tinggi (hingga 2Gbps) Arsitektur SIMD (Single Instruction Multiple Data)

4 Klasifikasi Alat Musik Instrumen Solo

5 Klasifikasi Alat Musik Mengklasifikasi (mengenali) jenis alat musik Solo instrumen single instrumen Berdasarkan fitur-fitur yang telah diekstraksi Tahap-tahap klasifikasi Pengambilan Sampel Ekstraksi Fitur Training data dengan Neural Network

6 Klasifikasi Alat Musik

7 Pengambilan Sampel Data training dan testing

8 Pengambilan Sampel (2) Pengacakan Frame Untuk menghilangkan pengaruh elemen musik seperti beat dan not

9 Ekstraksi Fitur FFT Mengubah sinyal dari domain waktu ke domain frekuensi Discrete Fourier Transform Analisa Spektrum Analisa statistikal pada spektrum frekuensi sinyal Dapat membantu menentukan timbre Dengan menganalisa kombinasi frekuensi Centroid, Kurtosis, Slope, Spread, Skewness, Rolloff

10 Spectral Features Centroid Titik pusat dari spektrum Menunjukkan tingkat kejernihan suara Kurtosis Nilai flatness dari distribusi spektrum Slope Menunjukkan indikasi pengurangan amplitudo Spread Menunjukkan tingkat penyebaran spektrum Skewness Ukuran distribusi asimetris dari nilai rata-rata spektrum Rolloff Menunjukkan frekuensi yang sinyal energinya dibawah 95%

11 Neural Network Melakukan data training dengan menggunakan algoritma Neural Network Input berupa vektor fitur : Vektor fitur data training Vektor target training Output berupa vektor output data training Supervised Learning Single Perceptron Fungsi aktifasi unit (g) : sigmoid (logistic) x : vektor input, w : vektor bobot

12 Neural Network (2) Single Perceptron Learning Algorithm Backpropagation Optimization Quasi-Newton Iterasi : 1000

13 Arsitektur Perangkat Lunak Implementasi GPGPU

14 General Purpose Graphic Processing Unit (GPGPU)

15 General Purpose Graphic Processing Unit (1) Pemrograman parallel yang dilakukan pada Graphic Processing Unit (GPU) Perbedaan antara CPU dan GPU CPU : dirancang untuk memproses satu instruksi secara sekuensial, menangani percabangan, dll. GPU : dirancang untuk memproses satu instruksi pada set data yang besar secara parallel. NVIDIA CUDA Arsitektur general purpose pada GPU Mengapa general purpose? Pada GPU konvensional : dibagi menjadi vertex shader dan pixel shader Pada GPGPU : hanya satu unified shader pipeline, yang dapat digunakan untuk memproses perhitungan secara umum, selain visual dan grafis Bahasa C/C++ untuk memprogram GPGPU

16 General Purpose Graphic Processing Unit (2) Perbedaan arsitektur CPU dan GPU Thread, block dan grid pada CUDA Hirarki memori pada CUDA

17 General Purpose Graphic Processing Unit (4) Kernel Sebuah fungsi yang dieksekusi pada GPU Kernel akan dieksekusi sebanyak N kali pada N thread CUDA yang berbeda Contoh kode untuk menjumlahkan dua vektor A dan B dengan besar N dan menyimpan hasilnya dalam vektor C Contoh kode kernel CUDA untuk menjumlahkan dua vektor A dan B dengan besar N dan menyimpan hasilnya dalam vektor C

18 General Purpose Graphic Processing Unit (5) Invokasi kernel yang dieksekusi oleh lebih dari satu blok

19 Implementasi GPGPU pada Klasifikasi Alat Musik

20 Implementasi GPGPU

21 Tahap-tahap Zero padding dan data precission Arsitektur GPGPU dengan thread, block, grid paralel FFT lebih optimal dengan jumlah N = 2 n (powers of single factor) Beberapa tahap eksekusi Dilakukan zero padding untuk mendekati powers of single factor Dilakukan packaging, untuk menyatukan bilangan riil dan imajiner pada satu vektor Dilakukan konversi dari tipe data double precission ke single precission Mapping data ke tipe data complex pada CUDA

22 Pseudo-code

23 Eksekusi FFT Alokasi device memori untuk input Dimensi : cufftcomplex * N DFT Alokasi device memori untuk output Dimensi : cufftcomplex * TransformSize Upload Host to device FFT plan creation TransformSize : 2048 Enumerasi tipe data : COMPLEX BATCH : 1 Eksekusi FFT Jenis eksekusi : in-place Enumerasi arah FFT : FORWARD Destroy plan Download Device to host

24 Flowchart

25 Uji Coba dan Evaluasi

26 Evaluasi Perbandingan waktu eksekusi pada CPU dan GPU Pengukuran waktu tanpa mempertimbangkan MMT (Memory to Memory Transfer) Pengukuran waktu dengan mempertimbangkan MMT Secara umum, peningkatan waktu eksekusi dihitung dengan persamaan : TPC adalah waktu komputasi FFT pada CPU dan TGPU adalah waktu komputasi FFT pada GPU dan waktu yang dibutuhkan untuk transfer data antara host dan device.

27 Hardware dan Software Hardware CPU Intel Core 2 Duo 1733 MHz Memory 4096 MB DDR3 GPU NVIDIA GeForce G210M 512 MB CUDA Cores : 16 CUDA Driver : Software CUDA Toolkit 3.0 Win64 GPU Computing SDK 3.0 Win64 Microsoft Visual Studio 2008 Sistem Operasi Windows 7 64bit Matlab 7.6

28 Data dan Konfigurasi frame N-DFT point : N fs DFT T frame fs (frekuensi sampling) : Hz T frame (durasi frame) : 25 ms DFT Point : 1102 Transform size : 2048 (2 11 ) Jumlah data untuk training : 500 frame x 6 instrumen alat musik = 3000 data Jumlah data untuk testing : 250 frame x 6 insturmen alat musik = 1500 data

29 Ekstraksi Fitur CPU dan GPU CPU GPU Spectral Centroid Min Max Mean StdDev Spectral Centroid Min Max Mean StdDev Trombone Trombone Tenor Sax Tenor Sax Alto Sax Alto Sax Trumpet Trumpet Clarinet Clarinet Flute Flute Spectral Spread Min Max Mean StdDev Spectral Spread Min Max Mean StdDev Trombone Trombone Tenor Sax Tenor Sax Alto Sax Alto Sax Trumpet Trumpet Clarinet Clarinet Flute Flute Spectral Skewness Min Max Mean StdDev Spectral Skewness Min Max Mean StdDev Trombone Trombone Tenor Sax Tenor Sax Alto Sax Alto Sax Trumpet Trumpet Clarinet Clarinet Flute Flute Spectral Kurtosis Min Max Mean StdDev Spectral Kurtosis Min Max Mean StdDev Trombone Trombone Tenor Sax Tenor Sax Alto Sax Alto Sax Trumpet Trumpet Clarinet Clarinet Flute Flute Spectral Slope Min Max Mean StdDev Spectral Slope Min Max Mean StdDev Trombone -2.49E E E E-08 Trombone -2.49E E E E-08 Tenor Sax -2.46E E E E-08 Tenor Sax -2.46E E E E-08 Alto Sax -2.44E E E E-08 Alto Sax -2.44E E E E-08 Trumpet -2.42E E E E-08 Trumpet -2.42E E E E-08 Clarinet -2.42E E E E-08 Clarinet -2.42E E E E-08 Flute -2.33E E E E-08 Flute -2.33E E E E-08 Spectral Rolloff Min Max Mean StdDev Spectral Rolloff Min Max Mean StdDev Trombone Trombone Tenor Sax Tenor Sax Alto Sax Alto Sax Trumpet Trumpet Clarinet Clarinet Flute Flute

30 Hasil Klasifikasi Error rate CPU : 1670 GPU : 1081

31 Hasil Klasifikasi (2) FFT CPU FFT GPU Trombone Tenor Sax Alto Sax Trumpet Clarinet Flute Trombone 94.20% 4.80% 0.00% 0.00% 0.80% 0.20% Tenor Sax 0.80% 98.20% 0.80% 0.00% 0.20% 0.00% Alto Sax 0.00% 10.40% 89.60% 0.00% 0.00% 0.00% Trumpet 3.00% 0.00% 0.00% 95.00% 1.40% 0.60% Clarinet 0.80% 0.00% 0.00% 0.20% 98.60% 0.40% Flute 0.60% 0.20% 1.00% 12.80% 1.20% 84.20% Trombone Tenor Sax Alto Sax Trumpet Clarinet Flute Trombone 99.40% 0.00% 0.20% 0.20% 0.00% 0.20% Tenor Sax 0.40% 98.80% 0.60% 0.00% 0.00% 0.20% Alto Sax 0.60% 0.20% 97.20% 0.20% 0.00% 1.80% Trumpet 0.80% 0.00% 1.20% 94.40% 0.00% 3.60% Clarinet 0.40% 0.20% 0.40% 0.00% 97.60% 1.40% Flute 1.40% 0.00% 0.20% 0.40% 0.00% 98.00%

32 Pengukuran Waktu Waktu eksekusi Tgpu Th2d TFFT Td 2h T gpu : total waktu eksekusi FFT pada GPU T h2d : waktu transfer memori dari host ke device T FFT : waktu eksekusi FFT pada GPU T d2h : waktu transfer memori dari device ke host

33 Hasil Pengukuran Waktu Pengukuran waktu per-instrumen alat musik 0,012 0,01 Waktu (detik) 0,008 0,006 0,004 0,002 MMT GPU CPU 0 Trombone Tenor Sax Alto Sax Trumpet Clarinet Flute Instrumen

34 Hasil Pengukuran Waktu (2) Pengukuran waktu per-iterasi pada tahap ekstraksi fitur 0,012 0,01 Waktu (detik) 0,008 0,006 0,004 0,002 CPU GPU + MMT Iterasi

35 Peningkatan Kecepatan Eksekusi FFT Instrumen CPU Waktu Ekstraksi Fitur Waktu tanpa MMT GPU Waktu dengan MMT Peningkatan Kecepatan Tanpa MMT Dengan MMT 1 0, , , ,4 4,2 2 0, , , ,6 4,3 3 0, , , ,4 4,2 4 0, , , ,5 4,3 5 0, , , ,2 4,3 6 0, , , ,1 4,3 Instrumen CPU GPU Peningkatan Kecepatan 1 10, , ,5 2 9, , ,6 3 9, , ,6 4 9, , ,6 5 9, , ,6 6 9, , ,6

36 Selisih Waktu Eksekusi Waktu (detik) ^11 2^16 2^17 2^18 Jumlah Elemen h2d fft d2h Host to Device FFT Device to Host

37 Kesimpulan Peningkatan kecepatan eksekusi FFT Tanpa MMT : 25x Dengan MMT : 4x Peningkatan kecepatan proses ekstraksi fitur : 1,6x Total tahap ekstraksi fitur adalah 6 Transfer antar memori menjadi bottleneck 83% waktu eksekusi adalah transfer antar memori Transfer rate pada G210M Device to host : 1352,2 MBps Host to device : 1820,4 MBps

38 Future Work 1x proses transfer memori Proses FFT dilakukan pada tiap iterasi tanpa harus melakukan transfer data antar memori Memanfaatkan fitur batch CUFFT Memparalelisasi tahap-tahap ekstraksi fitur lainnya

39 Sekian Terima kasih