Algoritma Evolusi Evolution Strategies (ES)

Transkripsi

1 Algoritma Evolusi Evolution Strategies (ES) Imam Cholissodin

2 Pokok Bahasan 1. Struktur Dasar Evolution Strategies (ES) 2. Siklus ES (µ, λ) 3. Siklus ES (µ/r + λ) 4. Studi Kasus ES (µ + λ) 5. ES untuk Representasi Permutasi 6. Tugas

3 Pengantar Teknik optimasi evolution strategies (ES) dicetuskan sejak awal tahun 1960-an dan kemudian dikembangkan lebih lanjut pada tahun 1970-an oleh Ingo Rechenberg, Hans-Paul Schwefel, dan rekan-rekannya di Technical University of Berlin (TUB) (Beyer & Schwefel 2002). Seperti halnya GAs, ES telah diaplikasikan dalam berbagai bidang, misalnya penjadwalan pemrosesan sinyal digital pada system multiprocessor (Greenwood, G W, Gupta & McSweeney 1994), pemrosesan citra dan computer vision (Louchet 2000), optimasi pelepasan airbag secara otomatis pada mobil (Ostertag, Nock & Kiencke 1995), dan penjadwalan tugas pada real-time distributed computing systems (Greenwood, G. W., Lang & Hurley 1995). ES juga cukup efektif dikombinasikan/dihibridisasi dengan algoritma lain seperti particle swarm optimization untuk penjadwalan staff (Nissen & Günther 2009).

4 Pengantar Ciri utama evolution strategies (ES) adalah penggunaan vektor bilangan pecahan (real-vector) sebagai representasi solusi. Berbeda dengan GAs yang menggunakan crossover sebagai operator reproduksi utama dan mutasi sebagai operator penunjang, ES lebih bertumpu pada operator mutasi. Mekanisme self-adaptation digunakan untuk mengontrol perubahan nilai parameter pencarian. GAs dan ES bisa digunakan untuk menyelesaikan permasalahan yang sama. Tetapi mana yang terbaik di antara kedua metode tersebut sangat tergantung pada permasalahan yang dihadapi.

5 Struktur Dasar ES Beberapa notasi digunakan oleh ES : o µ (miu) menyatakan ukuran populasi (sama seperti popsize pada GAs). o l (lambda) menyatakan banyaknya offspring yang dihasilkan pada proses reproduksi (sama seperti crossover rate dan mutation rate pada GAs). Beberapa penelitian menyarankan besarnya nilai l sebesar 7 µ. Apabila P(t) dan C(t) merupakan populasi (parents) dan offspring pada generasi ke-t, maka siklus ES dideskripsikan sebagai berikut: procedure EvolutionStrategies begin t = 0 inisialisasi P(t): generate µ individu while (bukan kondisi berhenti) do rekombinasi : produksi C(t) sebanyak mutasi C(t) seleksi P(t+1) dari P(t) dan C(t) t = t + 1 end while end l dari P(t)

6 Struktur Dasar ES Perhatikan bahwa siklus ES serupa dengan siklus algoritma genetika (GAs). Perbedaan nyata ES dan GAs adalah pada operator yang digunakan. Perbedaan lain, mutasi pada GAs digunakan untuk menghasilkan individu baru (offspring) sebagai tambahan dari offspring yang diproduksi oleh operator crossover. Pada ES, mutasi diterapkan pada offspring yang dihasilkan proses rekombinasi. Rekombinasi pada ES mirip dengan operator crossover pada GAs tapi bisa menggunakan lebih dari satu induk. Karena ES lebih mengandalkan mutasi, maka proses rekombinasi tidak selalu digunakan. Secara umum terdapat empat tipe proses dari ES, yaitu: o (µ, l) o (µ/r, l) o (µ + l) o (µ/r + l)

7 Struktur Dasar ES Karena ES lebih mengandalkan mutasi, maka proses rekombinasi tidak selalu digunakan. Secara umum terdapat empat tipe proses dari ES, yaitu: ES rekombinasi proses seleksi seleksi melibatkan (µ, l) - Elitism Offspring (µ/r, l) Elitism Offspring (µ + l) - Elitism Induk dan Offspring (µ/r + l) Elitism Induk dan Offspring ES(µ, l) tidak menggunakan rekombinasi dalam proses reproduksi. Seleksi menggunakan elitism selection hanya melibatkan individu dalam offspring, individu induk dalam populasi tidak dilibatkan. ES(µ/r, l) serupa dengan ES(µ, l) dengan tambahan melibatkan proses rekombinasi. ES(µ+l) tidak menggunakan rekombinasi dan proses seleksi menggunakan elitism selection melibatkan individu offspring dan induk.

8 Siklus ES (µ, λ) (Studi Kasus: Maksimasi Fungsi dengan Presisi Tertentu) akan digunakan untuk menjelaskan siklus ES secara detil 1. Representasi Chromosome o Seperti halnya untuk real-coded GA pada Pert. Ke-4, variabel keputusan (x 1 dan x 2 ) langsung menjadi gen string chromosome. chromosome x 1 x 2 f(x 1,x 2 ) P 1 1,4898 2, ,8206 P 2 8,4917 2, , P 10-4,5575 0, ,4324 o Parameter tambahan yang melekat pada setiap chromosome adalah s (sigma) yang menyatakan level mutasi. Nilai ini akan ikut berubah secara adaptif sepanjang generasi. Jika P adalah satu chromosome maka P=(x 1,x 2,s 1,s 2 ) dengan panjang string sebesar 4.

9 Siklus ES (µ, λ) 2. Inisialisasi o Populasi inisial dibangkitkan secara random. Nilai x 1 dan x 2 dibangkitkan dalam rentang variabel ini (lihat Pert. Ke-3, Slide 24 ). Nilai s 1 dan s 2 dibangkitkan dalam rentang [0,1]. Misalkan ditentukan µ=4 maka akan dihasilkan populasi seperti contoh berikut: P(t) x 1 x 2 s 1 s 2 f(x 1,x 2 ) P1 1, , , , , P2 8, , , , , P3-1, , , , , P4 5, , , , ,

10 Siklus ES (µ, λ) 3. Reproduksi o Karena rekombinasi tidak digunakan maka hanya mutasi yang berperan menghasilkan offspring. Misalkan P=(x 1,x 2,s 1,s 2 ) adalah individu yang terpilih untuk melakukan mutasi, maka dihasilkan offspring P =(x 1,x 2,s 1,s 2 ) sebagai berikut: x = x + s N(0,1) o Rumusan diatas bisa didetailkan sebagai berikut: x 1 = x 1 + s 1 N(0,1) x 2 = x 2 + s 2 N(0,1) o N(0,1) merupakan bilangan acak yang mengikuti sebaran normal dengan rata-rata sebesar 0 dan standard deviasi sebesar 1. Pada program komputer, nilai N(0,1) bisa didapatkan dengan membangkitkan dua bilangan random r 1 dan r 2 pada interval [0,1]. Rumus yang digunakan adalah (Schwefel, 1995): N 0,1 2ln r1 sin 2 r 2 o Misalkan r 1 = 0,4749 dan r 2 = 0,3296 maka didapatkan N(0,1)= 1,0704

11 Siklus ES (µ, λ) 3. Reproduksi o Nilai s dinaikkan jika ada paling sedikit 20% hasil mutasi yang menghasilkan individu yang lebih baik dari induknya. Jika tidak maka nilai s diturunkan. Misalkan l=3 µ=12, maka setiap individu dalam populasi akan menghasilkan 3 offspring. Pada kasus ini, nilai s akan dinaikkan jika ada setidaknya 1 offspring yang lebih baik. o Contoh hasil mutasi diberikan sebagai berikut: C(t) Induk N1(0,1) N2(0,1) x 1 x 2 s 1 s 2 f(x 1,x 2 ) C1 P1 0,0098-0,8394 1, ,3298 0, , ,04952 C2 1,0334-0,6351 1, ,5159 0, , ,03814 C3-1,9967-1,8970 1, ,3664 0, , ,06928 C4 P2-0,0398 0,6565 8, ,1459 0, , ,40017 C5-0,7821-0,2305 8, ,3751 0, , ,82881 C6 1,3563 0,1430 9, ,6997 0, , ,00143 C7 P3-1,1466 1,3203-2,9908 2,3613 1, , ,01116 C8 1,1021-1,9381-0, ,7532 1, , ,00610 C9 0,7094-0,2813-1, ,5709 1, , ,30137 C10 P4 1,8635-0,2293 6, ,8511 0, , ,74543 C11 0,5542-1,2182 6, ,873 0, , ,29977 C12 1,4608-0,5120 6, ,5715 0, , ,40250 Perhatikan dari hasil mutasi ini; Nilai s dari offspring yang dihasilkan P 1, P 3, dan P 4 dinaikkan dengan rumusan s = s x 1,1. Nilai s dari offspring yang dihasilkan P 2 diturunkan dengan rumusan s = s x 0,9

12 Siklus ES (µ, λ) 4. Seleksi o Seleksi menggunakan elitism selection hanya melibatkan individu dalam offspring, individu induk dalam populasi tidak dilibatkan. Dari proses ini didapatkan populasi baru sebagai berikut: P(t+1) asal x1 x2 s 1 s 2 f(x1,x2) P1 C12 6, , , , , P2 C5 8, , , , , P3 C10 6, , , , , P4 C3 1, , , , ,

13 Siklus ES (µ/r + λ) Siklus ES dibahas lagi dengan melibatkan proses rekombinasi, dengan populasi inisial seperti pada Slide 9 (digunakan lagi). 1. Reproduksi: Rekombinasi dan Mutasi o Rekombinasi dilakukan untuk menghasilkan offspring sebanyak l dari sejumlah µ individu dalam populasi. o Setiap satu individu offspring dihasilkan dari beberapa induk. o Induk dipilih secara acak dari populasi. Metode rekombinasi paling sederhana adalah dengan menghitung rata-rata nilai elemen induk. Contoh proses rekombinasi diberikan sebagai berikut: Misalkan offspring didapatkan dari 2 induk. Jika P 1 dan P 3 terpilih maka akan didapatkan offspring C=(-0,17815, 1,90205, 0,57016, 0,70221). Misalkan offspring didapatkan dari 3 induk. Jika P 1, P 2 dan P 3 terpilih maka akan didapatkan offspring C=(2,71180, 2,12650, , 0,75782).

14 Siklus ES (µ/r + λ) 1. Reproduksi: Rekombinasi dan Mutasi o Pada studi kasus ini, misalkan l=6 dan offspring didapatkan dari 2 induk. Contoh hasil rekombinasi diberikan sebagai berikut P(t) x 1 x 2 s 1 s 2 f(x 1,x 2 ) P1 1, , , , , P2 8, , , , , P3-1, , , , , Dari Slide 9 P4 5, , , , , Hasil offspring (C i ), yaitu dengan menghitung rata-rata nilai elemen induk C(t) induk x 1 x 2 s 1 s 2 f(x 1,x 2 ) C1 P1 dan P3-0, , , , , C2 P2 dan P3 3, , , , , C3 P1 dan P4 3, , , , , C4 P2 dan P4 7, , , , , C5 P1 dan P3-0, , , , , Hasil Rekombi nasi C6 P3 dan P4 1, , , , ,

15 Siklus ES (µ/r + λ) 1. Reproduksi: Rekombinasi dan Mutasi o Pada studi kasus ini, misalkan l=6 dan offspring didapatkan dari 2 induk. Contoh hasil rekombinasi diberikan sebagai berikut P(t) x 1 x 2 s 1 s 2 f(x 1,x 2 ) P1 1, , , , , P2 8, , , , , P3-1, , , , , P4 5, , , , , Dari Slide 9 o Mutasi dilakukan dengan cara yang sama seperti slide sebelumnya. nilai s dinaikkan jika hasil mutasi lebih baik. Sebaliknya jika hasil mutasi lebih buruk maka nilai s diturunkan. Berikut ini contoh hasil mutasi: C (t) N1(0,1) N2(0,1) x 1 x 2 s 1 s 2 f(x 1,x 2 ) C7 0,1885 0,2747-0, , , , , C8-1,7947-0,1359 1, , , , , C9-0,5603-1,8657 3, , , , , C10 0,6189-0,4613 7, , , , , C11-0,1371-0,4201-0, , , , , C12 1,1125-0,2153 2, , , , , Hasil Mutasi

16 Siklus ES (µ/r + λ) 2. Seleksi o Seleksi menggunakan elitism selection melibatkan individu dalam offspring dan individu induk dalam populasi. Dari proses ini didapatkan populasi baru sebagai berikut P(t+1) asal x1 x2 s 1 s 2 f(x1,x2) P1 P 2 8, , , , , P2 C 7-0, , , , , P3 C 8 1, , , , , P4 P 1 1, , , , ,

17 Siklus ES (µ + λ) : Optimasi Fungsi Berkendala Perhatikan permasalahan pada sebuah perusahaan yang akan memproduksi dua jenis lemari, sebut saja lemari A dan lemari B. Untuk memproduksi kedua lemari tersebut dibutuhkan tiga macam bahan baku, yaitu: kayu, aluminium, dan kaca. Kebutuhan detil tiga bahan baku tersebut (dalam unit tertentu) untuk tiap buah lemari ditampilkan pada tabel berikut: lemari kayu aluminium kaca A B Persedian bahan baku kayu, aluminium, dan kaca di gudang berturut-turut adalah 350, 200, dan 300. Jika keuntungan penjualan sebuah lemari A sebesar 400 dan B sebesar 500, berapakah banyaknya lemari A dan B harus diproduksi agar didapatkan keuntungan maksimum?

18 Siklus ES (µ + λ) : Optimasi Fungsi Kebutuhan detil tiga bahan baku: lemari kayu aluminium kaca A B Berkendala Untuk menyelesaikan permasalahan ini dibutuhkan model matematis yang disusun atas fungsi tujuan (objective functions) dan kendala (constraints). Fungsi tujuan merepresentasikan tujuan yang ingin dioptimalkan (maksimumkan atau minimumkan). Jika banyaknya lemari yang harus diproduksi dilambangkan dengan x 1 dan x 2, maka fungsi tujuan bisa dinyatakan sebagai: o Maksimumkan f(x 1,x 2 )=400x x 2 o Kendala ketersediaan bahan baku bisa dinyatakan sebagai berikut: kendala 1 : 10x x kendala 2 : 9x 1 + 8x kendala 3 : 12x x Persedian bahan baku kayu, aluminium, dan kaca di gudang berturut-turut adalah 350, 200, dan 300. Jika keuntungan penjualan sebuah lemari A sebesar 400 dan B sebesar 500, berapakah banyaknya lemari A dan B harus diproduksi agar didapatkan keuntungan maksimum?

19 Siklus ES (µ + λ) : Optimasi Fungsi Berkendala Berdasarkan dua aturan sebelumnya, maka bisa disusun fungsi fitness sebagai berikut: fitness(x 1,x 2 ) = f(x 1,x 2 ) M(c 1 + c 2 + c 3 ), dimana M: bil. positif yang cukup besar, misalnya 1000 c c c , jika 10x1 20x x1 20x 2 350, selainnya 0, jika 9x1 8x x1 8x 2 200, selainnya 0, jika 12x1 18x , selainnya 12x1 18x 2 Contoh perhitungan fitness: x1 x2 Round(x1) Round(x2) f(x1,x2) c1 c2 c3 fitness 21,9 0, ,2 15, ,3 11, ,1 13, Nilai x 1 dan x 2 merupakan bilangan pecahan (real). Karena permasalahan ini memerlukan solusi dalam bentuk bilangan bulat maka dalam perhitungan fitness nilai x 1 dan x 2 dibulatkan terlebih dahulu.

20 Siklus ES (µ + λ) : Optimasi Fungsi Berkendala 1. Inisialisasi o Populasi inisial dibangkitkan secara random. Nilai x 1 dan x 2 dibangkitkan sebagai bilangan pecahan (real) dalam rentang [0,50]. Misalkan ditentukan µ=4 maka akan dihasilkan populasi dengan contoh sebagai berikut: P(t) x1 x2 s 1 s 2 fitness P1 21,9 0,3 0, , P2 0,2 15,9 0, , P3 10,3 11,4 0, , P4 8,1 13,6 0, ,

21 Siklus ES (µ + λ) : Optimasi Fungsi Berkendala 2. Reproduksi o Karena rekombinasi tidak digunakan maka hanya mutasi yang berperan menghasilkan offspring. Pada studi kasus ini, misalkan l=2xµ=8 dan µ=4 maka dihasilkan offspring seperti contoh berikut: C(t) Induk N1(0,1) N2(0,1) x' 1 x' 2 s 1 s ' 2 fitness C1 P1 1,8023-1, ,3189 0,2636 0, , C2-0,7837 1, ,7179 0,3348 0, , C3 P2 0,6234-0,9298 0, ,8035 0, , C4-1,2394-0,3293-0, ,8658-1, , C5 P3 1,0383-2, ,1227 9,4826 0, , C6 1,9932 1, , ,5646 0, , C7 P4-0,4513-1,6313 7, ,3662 0, , C8-1,2093 2,0348 7, ,1390 0, , Perhatikan dari hasil mutasi ini, nilai s dari offspring yang dihasilkan P 2, P 3, dan P 5 dinaikkan dengan rumusan s = s x 1,1 karena paling tidak menghasilkan 1 anak yang lebih baik. Nilai s dari offspring yang dihasilkan P 1 diturunkan dengan rumusan s = s x 0,9.

22 Siklus ES (µ + λ) : Optimasi Fungsi Berkendala 3. Seleksi o Seleksi menggunakan elitism selection melibatkan individu dalam offspring dan individu induk dalam populasi. Dari proses ini didapatkan populasi baru sebagai berikut: P(t+1) asal x1 x2 s1 s2 fitness P1 C5 11,1227 9,4826 0, , P2 P1 21,9 0,3 0, , P3 C1 22,3189 0,2636 0, , P4 C2 21,7179 0,3348 0, ,

23 ES untuk Representasi Permutasi Seperti telah diuraikan pada awal slide, ciri utama ES adalah penggunaan vektor bilangan pecahan (real-vector) sebagai representasi. Pada perkembangannya, ES juga diadopsi untuk permasalahan kombinatorial yang menggunakan representasi permutasi. Cara paling mudah adalah dengan menggunakan struktur ES yang hanya menggunakan mutasi tanpa rekombinasi. Mekanisme self-adaptation juga tidak digunakan. Pendekatan ini pada hakekatnya menghasilkan siklus yang sama seperti GAs tanpa crossover. Adopsi mekanisme self-adaptation pada representasi permutasi bisa dilakukan dengan cara sederhana jika yang digunakan adalah reciprocal exchange mutation atau insertion mutation.

24 ES untuk Representasi Permutasi Pada kasus ini, nilai s menyatakan berapa kali proses exchange atau insertion dilakukan untuk menghasilkan satu anak. Misalkan diberikan contoh dua induk dalam tabel berikut: P(t) permutasi s P1 [ ] 1,3452 P2 [ ] 2,0728 Misalkan reciprocal exchange mutation digunakan dan l=3µ. induk proses offspring tukar posisi 1 dan 3 C1 = [ ] P1 = [ ] tukar posisi 2 dan 5 C2 = [ ] tukar posisi 4 dan 5 C3 = [ ] P2 = [ ] tukar posisi 2 dan 4 tukar posisi 1 dan 5 tukar posisi 1 dan 4 tukar posisi 3 dan 4 tukar posisi 3 dan 4 tukar posisi 2 dan 4 C4 = [ ] C5 = [ ] C6 = [ ] Berdasarkan nilai s yang dibulatkan, offspring dari P 1 dihasilkan melalui proses sekali pertukaran dan offspring dari P 2 dihasilkan melalui dua kali pertukaran. Contoh offspring yang dihasilkan ditampilkan dalam tabel disamping.

25 Tugas Kelompok 1. Jelaskan ciri utama evolution strategies! 2. Jelaskan perbedaan utama ES dengan GAs? 3. Misalkan terdapat himpunan individu dalam populasi dengan µ=4 dan l=6 sebagai berikut: individu fitness P1 10 P2 9 P3 7 P4 5 Terdapat juga himpunan offspring sebagai berikut: individu fitness C1 11 C2 9 C3 8 C4 7 C5 6 C6 4 Tentukan himpunan individu yang lolos ke generasi selanjutnya pada ES(µ, l)!

26 Tugas Kelompok 4. Kerjakan ulang Soal no. 3 untuk ES(µ+l)! 5. Perhatikan fungsi berikut: f x x x sin 2x x sin 4x, 0 x 10, 0 x 10 1, Cari nilai minimum dari fungsi ini dengan menggunakan ES (µ/r+l). Gunakan nilai µ=4 dan l=8. Lakukan interasi sampai 3 putaran. 6. Untuk permasalahan pada Slide ke-17 Studi Kasus ES (µ + l): Optimasi Fungsi Berkendala, selesaikan dengan menggunakan ES (µ/r, l). Gunakan nilai µ=4 dan l=8. Lakukan interasi sampai 3 putaran. 7. Selesaikan persoalan transportasi pada Pert. Ke-6 Slide ke-21 dengan menggunakan ES (µ,l). Gunakan nilai µ=4 dan l=8. Lakukan interasi sampai 3 putaran.

27 Terimakasih Imam Cholissodin