ANALISIS PERSOALAN OPTIMISASI KONVEKS DUA TAHAP (TWO-LEVEL)

Transkripsi

1 ANALISIS PERSOALAN OPTIMISASI KONVEKS DUA TAHAP (TWO-LEVEL) TESIS Oleh LASKER PANGARAPAN SINAGA /MT SEKOLAH PASCASARJANA UNIVERSITAS SUMATERA UTARA MEDAN 2009

2 ANALISIS PERSOALAN OPTIMISASI KONVEKS DUA TAHAP (TWO-LEVEL) TESIS Diajukan Sebagai Salah Satu Syarat Untuk Memperoleh Gelar Magister Sains dalam Program Studi Magister Matematika pada Sekolah Pascasarjana Universitas Sumatera Utara Oleh LASKER PANGARAPAN SINAGA /MT SEKOLAH PASCASARJANA UNIVERSITAS SUMATERA UTARA MEDAN 2009

3 Judul Tesis : ANALISIS PERSOALAN OPTIMISASI KONVEKS DUA TAHAP (TWO-LEVEL) Nama Mahasiswa : Lasker Pangarapan Sinaga Nomor Pokok : Program Studi : Matematika Menyetujui, Komisi Pembimbing (Dr. Tulus, M.Si) Ketua (Prof. Dr. Herman Mawengkang) Anggota Ketua Program Studi, Direktur, (Prof. Dr. Herman Mawengkang) (Prof. Dr. Ir. T.Chairun Nisa. B, M.Sc) Tanggal lulus: Juni 2009

4 Telah diuji pada Tanggal Juni 2009 PANITIA PENGUJI TESIS Ketua : Dr. Tulus, M.Si Anggota : 1. Prof. Dr. Herman Mawengkang 2. Dr. Sutarman, M.Sc 3. Drs. Marwan Harahap, M.Eng

5 ABSTRAK Persoalan program konveks dua tahap merupakan alat yang bermanfaat untuk memecahkan permasalahan keputusan yang hirarkis. Program ini menggunakan persoalan optimisasi dengan dua level yang hirarkis, dimana pengambil keputusan pada level lebih tinggi (upper) dan level lebih rendah (lower) masingmasing mempunyai kendala dan fungsi tujuan berupa fungsi konveks. Pembuat keputusan pada level lower harus mengoptimalkan fungsi tujuan di bawah parameter yang diberikan oleh level upper. Tesis ini menunjukkan bahwa persoalan di atas dapat dipecahkan dengan menggunakan kombinasi dari Metode Proyeksi Gradien dan Metode Penalty, dengan membuat level lower berfungsi sebagai fungsi penalty dari himpunan yang layak, untuk menunjukkan regulerisasi. Proses regulerisasi ini dibutuhkan untuk menunjukkan analisis konvergensi barisan solusi terbatas yang dibangkitkan metode tersebut. Kata kunci : Optimisasi konveks, metode proyeksi gradien, metode penalty. i

6 ABSTRACT The two level convex programming problems are useful tools for solving the hierarchy decision problems. This programming problems are nested optimization problems with two levels in a hierarchy, the upper level and lower level decision makers who have their own objective functions and constraints are convex function. The decision maker at the lower level has to optimize its own objective function under the given parameters from the decision maker at the upper level. This paper will show that the above problem can be solved by using combination of Gradient Projection Method and Penalty Method, corresponding to taking the lower level function as penalty function of feasible set, for showing regularization. Some regularity process is needed for showing convergence analysis of generated bounded sequence of solutions of that methods. Keywords : Convex optimization, gradient projection method, penalty method. ii

7 KATA PENGANTAR Tesis ini berjudul Analisis Persoalan Optimisasi Konveks Dua Tahap (Analysis of Two Level Convex Optimization Problems). Tesis ini disusun sebagai salah satu syarat untuk memperoleh gelar Magister Sains pada Program Studi Magister Matematika, Sekolah Pascasarjana, Universitas Sumatera Utara. Penelitian ini diharapkan dapat bermanfaat dalam membantu menyelesaikan berbagai persoalan optimisasi dua tahap bersifat konveks dengan memperlihatkan proses penganalisisan kekonvergenan solusinya. Penulis sangat sadar bahwa tesis ini masih jauh dari sempurna, namun besar harapan bahwa tesis ini bermanfaat bagi para pembaca dan pada pengembangan penelitian di bidang Operasi Riset. Medan, Juni 2009 Penulis, Lasker Pangarapan Sinaga iii

8 UCAPAN TERIMA KASIH Pertama penulis panjatkan puji dan syukur kepada Tuhan Yang Maha Esa, karena atas berkat, kasih dan karunia-nya yang telah diberikan kepada penulis, sehingga penulis dapat menyelesaikan tesis ini tepat pada waktunya. Tesis ini berjudul Analisis Persoalan Optimisasi Konveks Dua Tahap (Two-Level). Tesis ini merupakan persyaratan tugas akhir pada Program Studi Matematika Sekolah Pascasarjana Universitas Sumatera Utara. Pada kesempatan ini, penulis menyampaikan ucapan terima kasih dan penghargaan yang sebesar-besarnya kepada: Prof. dr. Chairuddin P. Lubis, DTM&H, Sp.A(K) selaku Rektor Universitas Sumatera Utara. Prof. Dr. Ir. T. Chairun Nisa B, M.Sc selaku Direktur Sekolah Pascasarjana Universitas Sumatera Utara yang telah memberikan kesempatan kepada penulis untuk mengikuti Program Studi Magister Matematika di Sekolah Pascasarjana, Universitas Sumatera Utara. Prof. Dr. Herman Mawengkang selaku Ketua Program Studi Magister Matematika, Sekolah Pascasarjana, Universitas Sumatera Utara; Dr. Saib Suwilo, M.Sc selaku Sekretaris Program Studi Magister Matematika, Sekolah Pascasarjana, Universitas Sumatera Utara, yang telah banyak membantu dalam penulisan tesis ini. Dr. Tulus, M.Si selaku Ketua Komisi Pembimbing yang sangat banyak membantu penulis dengan banyak memberikan ilmu dalam penulisan tesis ini. iv

9 Dosen-dosen Magister Matematika, Sekolah Pascasarjana, Universitas Sumatera Utara : Prof. Dr. Herman Mawengkang, Dr. Saib Suwilo, M.Sc, Dr. Tulus, M.Si, Prof. Opim Salim S, M.Sc, Phd, Drs. Marwan Harahap, M.Eng, Dr. Sutarman, M.Sc, Drs. Open Darnius, M.Sc, Drs. Sawaluddin, MIT, Dra. Mardiningsih, M.Si, Dra. Esther Nababan, M.Sc, yang telah banyak memberikan masukan ilmu pengetahuan dalam konsentrasi Matematika Operasi Riset (OR). Seluruh rekan mahasiswa angkatan ke-6 ( ) Program Studi Magister Matematika, Sekolah Pascasarjana USU, atas kebersamaanya selama perkuliahan. Seluruh pegawai Sekolah Pascasarjana Universitas Sumatera Utara, secara khusus kepada Misiani, S.Si, selaku staf administrasi Program Studi Magister Matematika, yang banyak membantu penulis dalam berbagai urusan administrasi selama perkuliahan. Pimpinan SSC-Medan, Ronald Backer Simanjuntak, yang memberikan waktu bagi penulis untuk melanjutkan perkuliahan, dan juga kepada seluruh rekan pengajar dan pegawai SSC-Medan atas kerjasamanya selama ini. Secara khusus, kepada orang tua penulis: Edison Sinaga dan Relianna Saragih Sumbayak, dan kepada mertua: Budiman Damanik dan Pittauli Purba, serta kedua saudara penulis (Nenny D Sinaga dan David Saragih, Aditia Irving Saragih) dan Selpiani Sinaga, S.E. yang memberikan dukungan doa kepada penulis. v

10 Teristimewa kepada istri tercinta Fitri Yanti Damanik, S.E. yang banyak memberikan pengertian dan dukungan sepanjang waktu. Ucapan terima kasih kepada seluruh keluarga dan rekan-rekan yang tidak dapat penulis sebutkan namanya satu persatu pada kesempatan ini, atas dukungan doa yang diberikan sehingga penulis dapat menyelesaikan pendidikan ini. Akhirnya penulis berharap semoga tesis ini dapat bermanfaat bagi pembaca dan pihak-pihak lain yang memerlukannya. Medan, Juni 2009 Penulis, Lasker Pangarapan Sinaga vi

11 RIWAYAT HIDUP Lasker Pangarapan Sinaga dilahirkan di Merek Raya (Simalungun) pada tanggal 02 Agustus 1979 dan merupakan anak ke-2 dari 3 orang bersaudara dari Ayah Edison Sinaga dan Ibu Relianna Saragih Sumbayak. Menamatkan Sekolah Dasar (SD) Inpres Sihubu di Merek Raya pada tahun 1992, Sekolah Menengah Pertama (SMP) Negeri 3 Merek Raya pada tahun 1995 dan Sekolah Menengah Umum (SMU) Negeri 1 (Plus Partuha Maujana Simalungun Angkatan I) pada tahun Tahun 1998 memasuki Perguruan Tinggi Negeri Universitas Sumatera Utara, Fakultas Matematika dan Ilmu Pengetahuan Alam (FMIPA), Jurusan Matematika dan memperoleh gelar sarjana pada tahun Pada Tahun 2003 bekerja sebagai tenaga pengajar Matematika SSC Medan. Tahun 2007 mengikuti pendidikan Program Studi Magister Matematika di Sekolah Pascasarjana Universitas Sumatera Utara. Tahun 2008 menikah dengan Fitri Yanti Damanik, S.E. vii

12 DAFTAR ISI Halaman ABSTRAK i ABSTRACT ii KATA PENGANTAR UCAPAN TERIMA KASIH iii iv RIWAYAT HIDUP vii DAFTAR ISI viii DAFTAR GAMBAR x DAFTAR SIMBOL xi BAB 1 PENDAHULUAN Latar Belakang Rumusan Masalah Tujuan Penelitian Kontribusi Penelitian Metode Penelitian BAB 2 TINJAUAN PUSTAKA BAB 3 KONTINUITAS DAN KONVEKSITAS Analisis Matematika Fungsi Kontinu dan Fungsi Lipschitz Barisan (Sequence) Konveksitas Himpunan dan Fungsi Himpunan Konveks viii

13 3.2.2 Fungsi Konveks BAB 4 OPTIMISASI KONVEKS DAN OPTIMISASI DUA TAHAP SERTA METODE PROYEKSI GRADIEN Optimisasi Konveks Optimisasi Dua Tahap Metode Steepest Descent Algoritma Proyeksi Gradien (Gradient Projection Algorithms) Analisis kekonvergenan Metode Proyeksi Gradien BAB 5 PEMBAHASAN Formulasi Optimisasi Konveks Dua Tahap Regulerisasi Optimisasi Konveks Dua Tahap Kondisi Optimal dari Solusi Algoritma Proyeksi Gradien dan Analisis Kekonvergenan Solusi Optimisasi Konveks Dua Tahap BAB 6 KESIMPULAN DAN SARAN Kesimpulan Saran DAFTAR PUSTAKA ix

14 DAFTAR GAMBAR Nomor Judul Halaman 3.1 Implementasi secara geometri fungsi kontinu Konveks dan tidak konveks Polihedron P dengan irisan dari lima buah halfspaces dengan vektor normal a 1,...,a Sebuah convex cone: untuk setiap titik x 1,x 2 C dan untuk setiap 0 θ 1 maka θx 1 +(1 θ)x 2 C Sebuah hyperlane dengan dua halfspaces Sebuah ellipsoid dalam R Fungsi Konveks dan Fungsi Tidak Konveks Jika f fungsi terdifferensialkan dan x, y dom f, maka f(y) f(x)+ f(x) T (y x) Ilustrasi solusi global dan lokal Contoh ilustrasi metode proyeksi gradien Himpunan solusi upper atau solusi optimisasi S u adalah bagian dari solusi lower S l Ilustrasi sederhana minimisasi F σ (x u,x l ) dengan domain S u pada optimisasi konveks dua tahap Interpretasi kondisi optimal Ilustrasi solusi optimal pada Optimisasi Konveks Dua Tahap. 49 x

15 DAFTAR SIMBOL : Himpunan kosong f : Fungsi C : Himpunan konveks f u : Fungsi objektif level upper K : Konstanta Lipschitz f l : Fungsi objektif level lower R : Bilangan Riel g u : Fungsi kendala level upper N : Bilangan Asli g l : Fungsi kendala level lower R n : Ruang Euklidis n S u : Himpunan solusi level upper : Untuk setiap S l : Himpunan solusi level lower : Terdapat/beberapa x : Titik kumpul (cluster point) : Mendekati/menuju. : Norm(2) : Subset, : Inner product : Proper subset a T : Transpose a {x k } : Barisan solusi x Df(x) : Differensial f(x) Min : Minimize f (x) : Differensial f(x) Max : Maksimum f(x) : Gradien Inf : Infimum P C (x) : Proyeksi orthogonal pada C Dist : Distance F σ (x) : Regulerisasi F (x) Dom : Domain fu : inf{f u (x)} Lim : Limit fl : min{f l (x)} x u : Variabel level upper Arg : argumen x l : Variabel level lower L(c) : Fungsi level xi

16 BAB 1 PENDAHULUAN 1.1 Latar Belakang Masalah selalu dihadapi terus menerus di dalam kehidupan, sehingga setiap orang dituntut untuk mencari solusi yang tepat dan cepat untuk menyelesaikan setiap masalah tersebut. Setiap solusi yang diambil merupakan keputusan akhir yang harus diambil seseorang dengan atau tanpa pertimbangan. Setiap pertimbangan seharusnya benar-benar dipikirkan oleh pengambil keputusan. Hal ini dilakukan demi mengurangi risiko yang akan terjadi akibat keputusan yang diambil tersebut. Ini bukanlah sebuah permasalahan yang mudah untuk diselesaikan, karena keputusan yang tepat harus secepat mungkin diputuskan. Tentu jelas sekali bahwa pengambil keputusan harus dapat menentukan keputusan terbaik untuk mengatasi masalah yang sedang dihadapi secepat mungkin dengan tanpa menimbulkan masalah yang lain akibat keputusan tersebut. Ilmu matematika, secara khusus konsentrasi operasi riset (Research Operation) telah menanggapi dan berperan aktif dalam mengatasi masalah pengambilan keputusan seperti permasalahan pengambil keputusan di atas. Persoalan pengambilan keputusan sering diformulasikan sebagai persoalan optimisasi. Optimisasi matematika akan memodelkan berbagai kasus masalah dan mencari cara atau metode yang tepat dan cepat untuk menyelesaikannya. Optimisasi matematika ditujukan pada metode untuk mendapatkan suatu solusi yang optimal. Pusat permasalahannya adalah mendapatkan solusi yang memaksimumkan suatu fungsi tujuan atau meminimumkan risiko. 1

17 2 Secara matematis, permasalahan optimisasi adalah sebuah abstraksi masalah untuk mengambil sebuah pilihan vektor terbaik di R n dari sekumpulan pilihan vektor yang ada. Vektor terbaik berarti vektor yang dapat menjadi solusi dari permasalahan optimisasi yang diberikan, yaitu solusi optimal yang memenuhi fungsi tujuan dan kendala dari permasalahan optimisasi tersebut. Boyd dan Vandenberghe (2004). Penelitian lebih lanjut menyatakan bahwa keputusan yang telah diambil memang diharapkan dapat menyelesaikan persoalan yang sedang dihadapi tetapi sering tidak terpikirkan bahwa keputusan tersebut dapat menyebabkan masalah dibagian yang lain. Keputusan yang baik adalah keputusan yang dapat menyelesaikan permasalahan bersangkutan pada saat ini dan tidak menyebabkan permasalahan berikutnya di bagian yang lain. Kejadian seperti ini menstimulus munculnya bentuk optimisasi multi tahap. Optimisasi ini diharapkan dapat membantu si pembuat keputusan dalam mengambil keputusan yang terbaik dalam berbagai kasus berbentuk optimisasi dua tahap dalam kehidupan sehari-hari. Bard, Plummer dan Sourie (1998). Optimisasi dua tahap (Two Level Optimization) adalah bentuk optimisasi multitahap dengan dua tahap. Sebuah himpunan yang memuat variabel yang menjadi solusi awal dari masalah optimisasi ini akan menjadi parameter untuk variabel lainnya. Hal ini berarti ada proses dua tahap (Level Upper dan Level Lower) yang dilakukan yaitu dengan setiap keputusan pada level upper atau outer problem maka ditentukan keputusan pada lower problem atau inner problem. Ye (1999).

18 3 Secara umum, optimisasi dua tahap dituliskan dengan bentuk: (Level upper) Minimize xu,x l f u (x u,x l ) (1.1) s. t. g u (x u ) 0 (1.2) (Level lower) Minimize xl f l (x u, ) (1.3) s.t. g l (x u, ) 0 (1.4) x u,x l 0 (1.5) dengan x u R n,x l R n ; f u,f l : R n R n R (1.6) g u : R n R ; g l : R n R n R (1.7) Vicente (1997) dan lihat juga Wang, Wan dan Lv (2008). Jika untuk setiap nilai dari variabel upper maka didefinisikan himpunan solusi yang meminimumkan kendala pada level lower yang bergantung pada solusi level upper. Misalkan S u adalah himpunan solusi level upper dan S l adalah himpunan solusi level lower maka solusi dari bentuk optimisasi dua tahap di atas dapat diformulasikan dengan himpunan solusi berikut: S(x u,x l ) R n R n = {(x u,x l ) S u S l )} (1.8) Chio (2004) dan Audet, Haddad dan Savard (2006).

19 4 Seorang matematikawan, Chris Fricke dari Departemen Matematika dan Statistika, Universitas Melbourne menjelaskan tentang optimisasi dua tahap tersebut. Dia menerangkan bahwa perhitungan secara manual terhadap beberapa kasus optimisasi dua tahap tidak menjamin keoptimalan solusi. Dengan demikian perlu dilakukan penganalisisan yang lebih lanjut terhadap kasus ini untuk menunjukkan keoptimalan solusi dengan konvergensi barisan solusi oleh suatu algoritma dan metode penalty. 1.2 Rumusan Masalah Misalkan domain dan fungsi tujuan serta kendala pada bentuk optimisasi dua tahap ( ) dibatasi dengan bersifat konveks untuk masing masing level, maka diperoleh kelas optimisasi yang lebih khusus yaitu optimisasi konveks dua tahap (Two Level Convex Optimization). Permasalahannya adalah bagaimana memformulasi atau memodelkan optimisasi konveks dua tahap tersebut ke bentuk yang sederhana dengan regulerisasi dan menunjukkan penganalisisan kekonvergenan solusi dari barisan solusi layak yang dibangkitkan oleh sebuah algoritma untuk menunjukkan keoptimalan solusi. Proses ini memerlukan definisi, sifat dan teorema yang mendukung. 1.3 Tujuan Penelitian Optimisasi konveks dua tahap mempunyai dua himpunan solusi yaitu himpunan solusi level lower dan himpunan solusi level upper. Kedua himpunan solusi tersebut adalah terbatas dan mempunyai titik kluster. Tujuan penelitian

20 5 ini adalah menunjukkan keoptimalan solusi optimisasi konveks dua tahap dengan memperlihatkan bahwa apakah kedua titik kumpul pada kedua himpunan solusi tersebut adalah titik yang sama atau berbeda. 1.4 Kontribusi Penelitian Penelitian ini memberikan teori tentang penganalisaan optimisasi konveks multitahap dengan pembatasan masalah pada dua tahap dan menyelesaikannya dengan sebuah metode serta memberikan jaminan teori dalam memperlihatkan keoptimalan solusi layak dengan suatu regulerisasi dan analisis kekonvergenan solusi, sehingga sangat diharapkan dapat berguna untuk membantu dalam menyelesaikan berbagai kasus optimisasi pada lingkungan operasi riset atau teknik. 1.5 Metode Penelitian Penelitian ini dikerjakan dengan metode literatur dengan tahapan pelaksanaannya sebagai berikut: 1. Menjelaskan secara teori tentang konveksitas himpunan dan fungsi. 2. Menunjukkan bentuk optimisasi konveks dan optimisasi dua tahap. 3. Memformulasi bentuk optimisasi konveks dua tahap dan melakukan regulerisasi fungsi dengan regulerisasi Tikhonov serta fungsi penalty. 4. Menganalisis konveksitas fungsi terregulerisasi dan eksistensi solusi dengan menggunakan algoritma proyeksi gradien serta melakukan penganalisisan kekonvergenannya pada kedua level (upper dan lower).

21 6 5. Menganalisis titik kluster pada kedua level dan menunjukkan apakah kedua titik kluster tersebut sama atau berbeda.

22 BAB 2 TINJAUAN PUSTAKA Optimisasi konveks adalah sebuah kelas optimisasi yang mempunyai domain fungsi dan fungsi objektif serta fungsi kendala yang bersifat konveks. Dilihat dari segi modelnya maka optimisasi konveks jelas bersifat lebih umum daripada optimisasi linear. Hal ini dijelaskan oleh Boyd dan Vandenberghe (2004). Kemudian, jika ditinjau dari segi analisis kekontinuan fungsi tujuan dan kendalanya maka jika f merupakan fungsi konveks maka f adalah Lipschitz lokal sekitar titik elemen domainnya jika dan hanya jika terbatas pada lingkungan titik tersebut. Hal ini telah dijelaskan oleh Borwein dan Lewis (1999). Suatu masalah optimisasi dengan kasus minimisasi tidak berkendala dengan fungsi objektif bersifat konveks, maka metoda steepest descent akan mempunyai sifat kekonvergenan yang lebih kuat daripada masalah minimisasi dengan fungsi tujuan yang bersifat nonkonveks. Konveksitas domain fungsi pada optimisasi membuat proyeksi orthogonal sangat memungkinkan digunakan dalam menunjukkan arah yang layak dan descent, yaitu arah pergerakan gradien disetiap iterasi, oleh Iusem (2003). Hal ini terjadi karena metode proyeksi gradien meminimisasi sebuah fungsi terdifferensialkan dan kontinu f : R n R atas himpunan konveks tak kosong dan tertutup C R n yang telah dijelaskan sebelumnya oleh Calamai dan More (1987). Algoritma atau metode pendekatan adalah cara terbaik untuk menyelesaikan kasus optimisasi nonlinear. Berbagai algoritma untuk mendapatkan solusi opti- 7

23 8 misasi yang berkaitan dengan proyeksi telah dikembangkan, yaitu metode proyeksi gradien oleh Rosen dapat dilihat pada Iusem (2006) dan metode proyeksi gradien konjugasi, metode proyeksi gradien Quasi-Newton dan metode proyeksi gradien Rosen-ParTan (Parallel Tangents) oleh Chio (2004). Metode proyeksi gradien adalah sebuah generalisasi dari metode descent, dimana gradien negatif diproyeksikan pada daerah terbatas dan mencari solusi di sepanjang kurva. Luenberger (1974). Metode proyeksi gradien ini diperkenalkan pertama sekali oleh Rosen (1960) dan digunakan untuk menyelesaikan program nonlinear (Nonlinear Programming). Metode ini bekerja dengan membangkitkan sebuah barisan solusi-solusi layak yang konvergen ke solusi optimal, oleh Zhu dan Zhang (2006). Bentuk analisis kekonvergenan metode ini juga telah dijelaskan oleh Calamai (1987). Selain metode proyeksi gradien, ada sebuah metode lain yang digunakan untuk menyelesaikan program nonlinear yaitu metode fungsi penalty. Metode ini digunakan dengan prosedur descent orde pertama yaitu steepest descent, Luenberger (1974). Kedua metode ini selalu digunakan sebagai kombinasi yang serasi karena metode proyeksi gradien mempunyai proses kekonvergenan yang cukup lambat, sehingga dengan kombinasi tersebut, proses kekonvergenan dapat dicapai dengan cepat, oleh Zhu dan Zhang (2006). Dengan demikian, tujuan dari setiap algoritma jelas untuk mendapatkan bentuk kekonvergenan solusi dengan lebih cepat. Sebagai contoh, proses minimisasi yang berhubungan dengan masalah gradien yang dijelaskan oleh Polak, Sargent dan Sebastian (1974).

24 9 Sehubungan dengan masalah kekonvergenan dari metode iteratif di atas maka pendekatan regulerisasi (Tikhonov Regulerization) pada fungsi tujuan sangat perlu dilakukan untuk menunjukkan kekonvergenan barisan solusi yang dibangkitkan algoritma pada optimisasi konveks, hal ini dijelaskan oleh Ali (2005). Dari uraian diatas, perkembangan ilmu matematika berbanding lurus dengan perkembangan masalah optimisasi serta metode-metode penyelesaiannya. Sebagai contoh adalah kelas optimisasi dua tahap. Metode proyeksi gradien juga digunakan dalam menyelesaikan optimisasi dua tahap (Bilevel Optimization) oleh Solodov (2007). Kelas optimisasi dua tahap ini menampilkan aksi Leader-Follower dalam membantu mengambil keputusan (Decision Making), oleh Bard, Plummer dan Sourie (1998) dan Ye (1999). Masalah program dua tahap adalah suatu masalah optimisasi dimana kendala secara implisit ditentukan oleh masalah optimisasi yang lain. Dengan kata lain, suatu optimisasi hirarkis yang terkandung dalam dua level. Di level pertama, pembuat keputusan (pemimpin) harus memilih pertama suatu strategi x untuk meminimumkan fungsi sasaran, dan pembuat keputusan pada level kedua (pengikut) harus memilih suatu strategi y untuk meminimumkan fungsi sasarannya sendiri yang diparameteri x. Mengantisipasi reaksi dari pengikut, maka pemimpin harus menemukan nilai-nilai variabelnya yang memenuhi sasarannya dan juga memenuhi sasaran pengikutnya, oleh Ankhili dan Mansouri (2008). Kondisi kelambanan dari level lower dimasukkan ke sasaran level upper dengan suatu penalty. Kemudian menguraikan program dua level yang linier ke dalam satu barisan program linier dan mendapatkan solusi optimal, Solodov (2007).

25 10 Program dua tahap dapat diformulasi lebih sederhana dan analisis keberadaan solusi dengan menggunakan metode penalty yaitu dengan membuat level lower sebagai penalty. Hal ini dijelaskan oleh Lv, et all (2007) serta Aboussoror dan Mansouri (2005).

26 BAB 3 KONTINUITAS DAN KONVEKSITAS 3.1 Analisis Matematika Analisis matematika membicarakan masalah kekontinuan suatu fungsi dan kekonvergenan suatu barisan. Demikian halnya dengan analisis optimisasi berikut, akan membicarakan tentang keoptimalan solusi dengan memperhatikan kekontinuan fungsi serta kekonvergenan barisan solusi yang dibangkitkan oleh suatu algoritma. Pada bagian ini akan dijelaskan beberapa definisi ataupun teorema yang mendukung penganalisisan konveksitas sebuah fungsi dan kekontinuan serta kekonvergenan solusi layaknya, yang akan mendukung pembahasan pada bab berikutnya. Seperti operator norm, kekontinuan seragam, fungsi Lipschitz dan barisan terbatas dan lain-lain Fungsi Kontinu dan Fungsi Lipschitz Definisi Norm adalah operator yang disimbolkan dengan., yaitu sebuah ukuran panjang dari dua buah vektor x 1,x 2 A R n, sehingga: dist(x 1,x 2 )= x 1 x 2 dan dist(x 1,A) = inf x 1 x 2, x 2 A 11

27 12 Definisi Sebuah himpunan A R disebut himpunan terbuka jika dan hanya jika untuk setiap x A terdapat lingkungan Q dari x sedemikian sehingga Q A. Definisi Sebuah fungsi f : R n R m adalah kontinu pada x 1 dom f jika untuk setiap ε>0 terdapat δ>0 sedemikian sehingga: x 2 dom f x 2 x 1 <δ f(x 2 ) f(x 1 ) <ε Misalkan saja lim x c f(x) =L (ada) sedemikian implementasi definisi di atas dapat dijelaskan kembali secara geometri pada gambar di bawah ini: Gambar 3.1 : Implementasi secara geometri fungsi kontinu Definisi Sebuah fungsi f : A R disebut fungsi kontinu seragam pada A R jika dan hanya jika untuk setiap ε>0 terdapat δ(ε) > 0 sedemikian: x 1,x 2 A maka x 1 x 2 δ(ε) f(x 1 ) f(x 2 ) <ε

28 13 Definisi (Fungsi Lipschitz) Misalkan A R dan f : A R disebut fungsi Lipschitz jika terdapat K>0 sedemikian sehingga: f(x 1 ) f(x 2 ) K x 1 x 2, x 1,x 2 A Teorema Jika f : A R adalah fungsi Lipschitz maka f adalah fungsi kontinu seragam pada A. Bukti: Jika kondisi fungsi Lipschitz f : A R dipenuhi dengan konstanta K > 0, kemudian diberikan ε > 0 dan mengambil δ(ε) = ε/k sedemikian sehingga untuk setiap x 1,x 2 A memenuhi x 1 x 2 δ(ε) f(x 1 ) f(x 2 ) < K.ε/K = ε Barisan (Sequence) Definisi Sebuah barisan bilangan riel R adalah sebuah fungsi pada himpunan bilangan asli N dimana hasilnya berada dalam R. Definisi Sebuah barisan {x n } n=1 konvergen ke sebuah bilangan riel x jika dan hanya jika ε > 0 terdapat sebuah bilangan bulat n N sedemikian sehingga: x n x <ε Definisi Misalkan {x n } adalah sebuah barisan dalam X. Sebuah titik x X disebut titik kumpul (cluster point) dari barisan {x n } jika dan hanya jika, untuk setiap lingkungan V, himpunan {n : x n V } adalah tak berhingga.

29 14 Definisi Sebuah barisan {x n } disebut terbatas jika terdapat sebuah bilangan riel K>0 sedemikian sehingga n N, x n K. Teorema (Bolzano-Weierstrass) Setiap barisan terbatas di R mempunyai sebuah sub-barisan yang konvergen. Bukti: Misalkan {x n } adalah sebuah barisan terbatas di R m dan n N, x n K. Kemudian, untuk setiap n, misalkan juga x n =(x (n) 1,x (n) 2,...,x (n) m ). x n 1(k) 1 Barisan {x (n) 1 } adalah sebuah barisan pada bilangan riel dan karena n N, x (n) 1 x n K maka barisan tersebut adalah barisan terbatas. { } Pilih sebuah sub-barisan x n 1(k) 1 adalah barisan yang konvergen, sedemikian x n 1(k) 2 } xn1 (k) K dimana {x n 2(k) 2 adalah barisan yang terbatas sehingga konvergen. Karena x n 2(k) { } 1 adalah sub-barisan dari barisan konvergen { } maka akan konvergen juga. Dengan proses yang lebih umum maka setelah langkah ke m sebuah barisan {n m (k)} k=1 dari integer j =1,...,m, masingmasing barisan {x nm(k) j } konvergen ke x j. Karena x n m(k) x 0,k dengan x =(x 1,x 2,..., x m ) 3.2 Konveksitas Himpunan dan Fungsi Obyek yang berperan utama dalam penelitian ini adalah himpunan dan fungsi yang bersifat konveks. Berikut pendefinisian dan penjelasan secara teori tentang bentuk konveksitas himpunan dan fungsi tersebut.

30 Himpunan Konveks Definisi Himpunan C dikatakan bersifat konveks jika terdapat dua titik dalam C yang membentuk segmen garis yang juga terletak dalam C. Gambar 3.2 : Konveks dan tidak konveks Bentuk kurva yang digambarkan di atas memperlihatkan bentuk konveks dan tidak konveks suatu himpunan sesuai dengan definisi di atas. Secara matematis, bentuk definisi tersebut dapat dituliskan kembali dengan memberikan setiap titik x 1,x 2 C dan untuk setiap 0 θ 1 maka θx 1 +(1 θ)x 2 C. Beberapa himpunan yang bersifat konveks adalah: 1. Polihedral Gambar 3.3 : Polihedron P dengan irisan dari lima buah halfspaces dengan vektor normal a 1,...,a 5

31 16 2. Cone Gambar 3.4 : Sebuah convex cone: untuk setiap titik x 1,x 2 C dan untuk setiap 0 θ 1 maka θx 1 +(1 θ)x 2 C 3. Hyperplane/Halfspaces Gambar 3.5 : Sebuah hyperlane dengan dua halfspaces 4. Bola Euklidis dan Ellipsoida Gambar 3.6 : Sebuah ellipsoid dalam R 2

32 Fungsi Konveks Definisi Sebuah fungsi f : R n R adalah konveks jika domain f adalah himpunan konveks dan jika untuk setiap x 1,x 2 Dom f dan untuk setiap 0 θ 1,f(θx 1 +(1 θ)x 2 ) θf(x 1 )+(1 θ)f(x 2 ) Gambar 3.7 : Fungsi Konveks dan Fungsi Tidak Konveks Pertidaksamaan pada Definisi (3.2.2) telah ditunjukkan secara geometri pada gambar di atas, dengan arti bahwa ruas garis yang dibentuk oleh titik A(x 1,f(x 1 )) dan B(x 2,f(x 2 )), disebut dengan chord dari titik A ke titik B. Sebuah fungsi f dikatakan dapat didifferensialkan pada titik x jika terdapat sebuah matriks Df(x) R mxn sehingga memenuhi: f(z) f(x) Df(x)(z x) lim 2 = 0 (3.1) z x z x 2 dan sebuah fungsi affine dari z diberikan dengan bentuk: f(x)+df(x)(z x) (3.2)

33 18 Misalkan f adalah fungsi yang bernilai riel f : R n R dan terdifferensialkan maka Df(x) adalah sebuah matriks 1 n, dimana transposnya disebut dengan gradien: ( f(x) f(x) =,..., f(x) ) T = Df(x) T (3.3) x 1 x n dan gradien chord dari fungsi yang dimaksud dapat diformulasikan sebagai approksimasi barisan Taylor orde pertama yang merupakan fungsi affine dari x, yaitu: f(x) f(x 0 )+ f(x 0 ) T (x x 0 ) (3.4) Kemudian, untuk x 1,x 2 C R n sedemikian f : R n R adalah fungsi konveks maka kurva pada gambar di bawah ini merupakan fungsi konveks jika f terdifferensialkan dan gradiennya f(x) ada x domf dan memenuhi: f(y) f(x)+ f(x) T (y x) (3.5) Gambar 3.8 : Jika f fungsi terdifferensialkan dan x, y dom f, maka f(y) f(x)+ f(x) T (y x)

34 19 Pernyataan di atas disajikan kembali sebagai bentuk teorema di bawah ini sehingga lebih terjamin dengan sebuah pembuktian sebagai berikut: Teorema Jika x 1,x 2 C R n dan f adalah fungsi yang memenuhi f(x 2 ) f(x 1 )+ f(x 1 ) T (x 2 x 1 ) maka f adalah fungsi konveks. Bukti: Pilih x y dan 0 θ 1 serta x + θ(y x) domf. Misalkan z = x +(1 θ)y sedemikian sehingga: f(x) f(z)+f (z)(x z) dan f(y) f(z)+f (z)(y z) Dengan mengalikan pertidaksamaan pertama dengan θ dan pertidaksamaan kedua dengan 1 θ sehingga: θf(x) θf(z)+θf (z)(x z) dan f(y) θf(y) f(z) θf(z)+f (z)(y z) θf (z)(y z) Dengan menjumlahkan kedua pertidaksamaan tersebut maka diperoleh: θf(x)+(1 θ) f(z) Hasil tersebut jelas merupakan bentuk fungsi konveks. Teorema Jika f : C R adalah fungsi konveks maka f adalah fungsi Lipschitz.

35 20 Bukti: Fungsi f : C R dan x 1,x 2 C disebut fungsi konveks jika memenuhi: f(x 2 ) f(x 1 )+ f(x 1 ) T (x 2 x 1 ) atau diformulasi menjadi: f(x 1 ) f(x 2 ) f(x 1 ) T (x 1 x 2 ), dengan menggunakan operator norm maka f(x 1 ) f(x 2 ) f(x 1 ) T (x 1 x 2 ) sehingga kondisi tersebut memenuhi kondisi fungsi Lipschitz. Beberapa jenis fungsi yang bersifat konveks adalah fungsi logaritma pada R +, fungsi eksponensial pada R, fungsi norm pada R n, fungsi linear pada R n, fungsi kuadrat pada R n dan lain-lain.

36 BAB 4 OPTIMISASI KONVEKS DAN OPTIMISASI DUA TAHAP SERTA METODE PROYEKSI GRADIEN Optimisasi matematika mempunyai bentuk secara umum: Minimize f 0 (x) (4.1) s.t f i (x) 0 (4.2) h i (x) =0, (4.3) Untuk i =1, 2,...,mdan vektor x =(x 1,...,x n ) adalah variabel optimisasi dan f 0 : R n R adalah fungsi objektif serta f i,h i : R n R adalah pertidaksamaan atau persamaan kendala. Nilai x disebut solusi layak (feasible solution) jika memenuhi kendala tersebut. Jika C adalah himpunan solusi yang memenuhi kendala di atas maka nilai optimal pada permasalahan optimisasi tersebut dinotasikan: f 0 (x) =f dengan f = inf x C f 0(x) (4.4) Penguraian bentuk (4.4) dapat dilihat pada Teorema Permasalahan optimisasi ini berkembang ke berbagai bentuk kelas optimisasi, seperti optimisasi linear, optimisasi nonlinear, optimisasi konveks, optimisasi tak konveks, optimisasi dua tahap, optimisasi bersifat stokastik, dan sebagainya. 21

37 Optimisasi Konveks Optimisasi konveks adalah bentuk optimisasi dengan fungsi tujuan dan fungsi kendala merupakan fungsi konveks. Masalah pendekatan konveksitas banyak dipakai pada model program matematika karena bentuk kesulitan optimisasi bukan dilihat dari bentuk kelinearannya tetapi berdasarkan konveksitasnya. Optimisasi konveks dituliskan dengan bentuk: Min f 0 (x) (4.5) s.t. f i (x) 0 (4.6) dengan f i : R n R adalah fungsi konveks, untuk setiap x R n adalah himpunan konveks. Adakah keistimewaan optimisasi konveks dibandingkan dengan kelas optimisasi lainnya? Ada tiga alasan yang membuat bentuk optimisasi konveks lebih istimewa dibanding kelas optimisasi lainnya, yaitu sifatnya yang mempunyai solusi lokal yang juga merupakan solusi global (hal ini akan dibuktikan lebih lanjut sebagai Teorema 4.1.1), teori dualitas dan kondisi optimalitas serta metoda solusi yang sederhana (pada kasus ini akan menggunakan algoritma proyeksi gradien). Solusi layak yang optimal dari permasalahan optimisasi dibedakan atas solusi optimal lokal dan solusi optimal global. Misalkan C adalah himpunan solusi layak dari suatu permasalahan optimisasi yang diberikan, maka: Solusi optimal lokal jika memenuhi: x 2 C, x 2 x 1 R f 0 (x 2 ) f 0 (x 1 ), untuk terdapat R>0 (4.7)

38 23 Solusi optimal global jika memenuhi: x 2 C f 0 (x 2 ) f 0 (x 1 ) (4.8) Perhatikan ilustrasi solusi optimal global dan lokal pada gambar berikut: Gambar 4.1 : Ilustrasi solusi global dan lokal Teorema Pada permasalahan optimisasi konveks, solusi optimal lokal merupakan solusi optimal global. Bukti: Misalkan bahwa x 1 adalah solusi optimal lokal, karena terdapat x 2 C dengan f 0 (x 2 ) f 0 (x 1 ) maka dilakukan sedikit langkah pergeseran yang sangat kecil dari x 1 menuju x 2 yaitu z sehingga z = λx 2 +(1 λ)x 1 dengan nilai λ>0 adalah sangat kecil, sehingga z sangat dekat ke x 1 dengan f 0 (z) <f 0 (x 1 ). Hal ini kontradiksi dengan pernyataan keoptimalan lokal.

39 Optimisasi Dua Tahap Optimisasi dua tahap adalah persoalan optimisasi yang bersifat hirarkis dimana sebuah himpunan bagian yang dibatasi menjadi solusi dari persoalan optimisasi yang diberikan, yang diparameteri oleh variabel lainnya. Hal ini menggambarkan bahwa untuk setiap keputusan yang diambil pertama sekali (level upper) akan menjadi dasar untuk mengambil keputusan berikutnya (level lower). Dengan demikian opimisasi ini terdiri dengan dua tahap yang disebut dengan level upper sebagai tahap pertama dan level lower sebagai tahap kedua. Secara matematis, untuk setiap variabel pada level upper akan ditentukan beberapa variabel yang terbatas pada level lower (solusi pada level lower) pada optimisasi tahap ganda tersebut. Struktur optimisasi hirarkis ini nampak secara alami diberbagai applikasi ketika aksi dari level lower bergantung pada keputusan level upper. Formula optimisasi dua tahap ini dituliskan dalam bentuk: (Level upper) Minimize xu,x l f u (x u,x l ) (4.9) s.t. g u (x u ) 0 (4.10) (Level lower) Minimize xl f l (x u, ) (4.11) s.t. g l (x u, ) 0 (4.12) x u,x l 0 (4.13)

40 25 dengan: x u R n,x l R n ; f u,f l : R n R n R (4.14) g u : R n R g l : R n R n R (4.15) Secara umum, level upper sering disebut dengan outer problem sementara level lower disebut dengan inner problem. Untuk setiap nilai dari variabel x u pada level upper, kendala pada level lower g(x u, ) 0 mendefinisikan himpunan kendala Ω(x u ) dari persoalan level lower: Ω(x u )={x l : g l (x u, ) 0} (4.16) Jadi S l (x u,x l (x u )) adalah himpunan solusi dari level lower, dengan: S l (x u,x l (x u )) = {x l arg min{f l (x u, ) :x l Ω(x u )}} (4.17) bentuk: Sehingga optimisasi dua tahap di atas dapat diformulasikan kembali menjadi Minimize xu,x l f u (x u,x l ) (4.18) s.t. g u (x u ) 0 (4.19) x l S l (x u,x l ) (4.20) Bentuk di atas menunjukkan bahwa untuk setiap solusi level upper beraksi pertama sekali atau sering disebut Leaders Problem, sementara level lower dibuat untuk bereaksi untuk mendapatkan solusi x l secara optimal bergantung pada pilihan x u atau Followers Problem. Kemudian himpunan solusi layak dituliskan

41 26 dalam bentuk: S = {(x u,x l ) R n n : g u (x u ) 0,x l S l (x u,x l )} (4.21) Salah satu kelas optimisasi multitahap adalah optimisasi konveks dua tahap yang akan dibahas pada bab pembahasan. 4.3 Metode Steepest Descent Misalkan permasalahan optimisasi yang dibicarakan tidak mempunyai suatu solusi analitis, sehingga harus digunakan suatu pendekatan atau algoritma numerik (iteratif) untuk memecahkan masalah tersebut. Algoritma tersebut diharapkan dapat dengan cepat mencapai kondisi konvergen ke solusi yang optimal. Metode gradien descent menggunakan gradien negatif ( f) untuk mengevaluasi titik x k secara berkelanjutan sebagai arah dari setiap langkah untuk setiap iterasi algoritma. Kriteria yang memperlihatkan iterasi berhenti adalah jika mencapai kondisi final: f 2 ε (4.22) dimana ε adalah suatu nilai yang kecil dan positif. Metode gradien negatif menjamin arah setiap langkah pada algoritma adalah arah descent. Misalkan f : R n R merupakan fungsi kontinu yang dapat didifferensialkan, maka metode steepest descent membangkitkan sebuah barisan { x k} R n melalui: x k+1 = x k β k f(x k ) (4.23)

42 27 dimana β k adalah sejumlah bilangan riel positif dan memenuhi: β k = α k f(x k ) (4.24) dengan α k =, α 2 < (4.25) k k=0 k=0 Dasar dari kekonvergenan metoda gradien descent adalah pencarian garis yang tepat (linesearch) atau pelacak Armijo, diperoleh dari teorema kekonvergenan global Zangwill dan teorema kekonvergenan global, serta pernyataan bahwa setiap titik kumpul x dari { x k} R n bila ada, adalah stasioner, yaitu jika f( x) = 0. Agar keberadaan titik kumpul tersebut dapat dipastikan, maka diperlukan sebuah asumsi bahwa permulaan iterasi x 0 berada pada suatu himpunan terbatas dari fungsi f. Situasi ini akan menjadi lebih baik jika f merupakan fungsi konveks. Dengan konveksitas fungsi f maka sangat memungkinkan untuk membuktikan kekonvergenan dari barisan yang dibangkitkan oleh algoritma tersebut. Tetapi pengamatan yang lebih lanjut menyatakan bahwa kasus β k yang diberi oleh (4.24) dan (4.25) pada metoda ini tidaklah menjamin bahwa f(x k+1 ) <f(x k ) untuk semua k. 4.4 Algoritma Proyeksi Gradien (Gradient Projection Algorithms) Metoda proyeksi gradien pertama sekali diperkenalkan oleh Rosen, 1960 dan menjadi salah satu metoda yang digunakan untuk menyelesaikan program nonlinear. Metoda ini akan dipilih untuk menyelesaikan persoalan pada penelitian ini.

43 28 Adapun yang menjadi alasan untuk menggunakan metode ini adalah karena didalam penerapan, metode proyeksi gradien mampu mengidentifikasi himpunan solusi yang aktif dalam sejumlah iterasi terhitung. Setelah himpunan solusi tersebut diidentifikasi dengan benar, algoritma proyeksi gradien mereduksi algoritma descent pada subruang dari variabel-variabel bebas. Lebih jelasnya, metode ini selalu digunakan bersama-sama dengan metoda lain untuk mendapatkan tingkat kekonvergenan yang lebih cepat. Ada dua metode program nonlinear yang umum dan terkenal yaitu metode proyeksi gradien dan metode fungsi penalty, yang digunakan dengan prosedur descent orde pertama yaitu steepest descent. Metode proyeksi gradien adalah sebuah generalisasi dari metode descent, dimana gradien negatif diproyeksikan pada daerah terbatas dan mencari solusi di sepanjang kurva sehingga metode ini bekerja dengan membangkitkan barisan solusi-solusi layak. Jika himpunan domain fungsi pada kasus ini adalah himpunan konveks C, maka keadaan menjadi memungkinkan untuk menggunakan proyeksi orthogonal pada C, yaitu menunjukkan arah pergerakan gradien disetiap iterasi. Hal ini terjadi karena metode proyeksi gradien meminimisasi sebuah fungsi terdifferensialkan dan kontinu f : R n R atas himpunan konveks tak kosong dan tertutup C R n. Definisi x 1,x 2 adalah perkalian dalam (inner product) dari x 1 dan x Jika C adalah himpunan konveks tertutup, maka P C (x) adalah proyeksi or-

44 29 thogonal titik x pada C, dan jarak x ke C: dist(x, C) = x P C (x) P C (x) berperan untuk menunjukkan arah yang turun (descent) yang mungkin pada setiap langkah iterasi yang dimulai dari x (k) dengan arah f(x (k) ). Berikut adalah deskripsi dari algoritma proyeksi gradien yang dimaksud. Inisialisasi: Iterasi: Ambil x (0) C Jika x (k) adalah stasioner maka stop. Iterasi bergerak dari z (k) ke z (k+1) dan dipilih parameter skalar α (k)>0 sehingga: z (k) = P C (x (k) α (k) f(x (k) )) kemudian pilih parameter skalar kedua λ (k) [0, 1] sehingga: x (k+1) = x (k) + λ k (z (k) x (k) ) Approksimasi akhir algoritma ini bergantung pada nilai kedua parameter tersebut. Nilai parameter λ k (z (k) [0, 1] dari barisan solusi { x k} R n dapat ditentukan dari bentuk kemonotonan kondisi f(x k+1 ) <f(x k ). Parameter skalar α (k) > 0 yang dipilih merupakan langkah atau iterasi dari algoritma di atas. Nilai α (k) harus diseleksi sehingga diperoleh suatu nilai yang dapat menjamin sembarang limit titik x dari barisan { x k} R n yang memenuhi kondisi optimal yaitu: f(x ),x x 0,x C (4.26)

45 30 atau f(z) T (x z) 0, x C (4.27) Sembarang titik x yang memenuhi kondisi keoptimalan di atas disebut dengan titik stasioner dari kasus optimisasi yang akan diteliti (lihat Teorema 5.3.1). Jika f adalah kontinu Lipschitz dengan konstan Lipschitz K dan α (k) memenuhi: ε α (k) 2 (1 ε) (4.28) K dan untuk ε dalam (0,1), maka ada limit dari { x k} R n yang merupakan titik stasioner dari masalah minimisasi pada optimisasi tersebut. Perhatikan gambar di bawah ini Gambar 4.2 : Contoh ilustrasi metode proyeksi gradien Proses pada ilustrasi di atas adalah kasus pada sebuah persamaan kendala tunggal h(x) = 0. Pergerakan pertama adalah disepanjang garis yang ditunjukkan dengan f(x k ) ke arah permukaan kendala. Pergerakan berikutnya adalah bagian yang paling utama yaitu arah dari gradien negatif yang diproyeksikan dari p (yang mana sama dengan gradien negatif dari q). Pergerakan yang kedua ini identik dengan menentukan gradien descent dan kemudian menggunakan garis pelacak.

46 31 Bagaimanapun jika nilai α (k) > 0 adalah besar maka hasil dari pergerakan pertama adalah z k yang berada pada permukaan kendala. Jadi cukup jelas bahwa ide dari metode proyeksi gradien adalah meminimumkan fungsi f atas permukaan S (kendala h(x) = 0) dari titik x k pada S bergerak ke arah x k+1 pada S dengan arah yang ditentukan. 4.5 Analisis kekonvergenan Metode Proyeksi Gradien Pada analisis kekonvergenan metode proyeksi gradien, konvergensi yang kuat dari suatu solusi pada fungsi ditinjau dari bentuk kekontinuan uniformnya. Berdasarkan algoritma proyeksi gradien maka dibangkitkan sebuah barisan solusi - solusi layak {x n } yang konvergen ke solusi optimal. Berikut definisi dan teorema yang membuktikan pernyataan berikut. Definisi Misalkan C merupakan himpunan konveks tertutup maka: 1. Dipenuhi y = P C (x) jika dan hanya jika x y,z y 0 untuk setiap z C. 2. Sebuah titik x disebut pembuat minimum pada sebuah fungsi konveks f pada himpunan C, jika dan hanya jika x = P C ( x αf ( x)),α>0. Teorema Asumsikan bahwa permasalahan optimisasi di atas mempunyai solusi. Kemudian algoritma proyeksi gradien membangkitkan sebuah barisan tak hingga { x k} dan iterasi berhenti pada suatu iterasi k, yang mana x k adalah sebuah solusi dari masalah optimisasi tersebut, yang konvergen ke solusi x.

47 32 Bukti: Diasumsikan bahwa algoritma tersebut membangkitkan sebuah barisan tak hingga { x k}. Jika iterasi berhenti pada iterasi ke-k maka x k adalah stasioner. Karena f adalah konveks, titik stasioner merupakan solusi dari permasalahan. Misalkan x adalah solusi dari masalah optimisasi yang diberikan. x k+1 x k 2 + x k x 2 x k+1 x 2 =2 x k x k+1,x k x =2γ k z k x k, x x k Sifat yang telah dijelaskan pada proyeksi orthogonal (Teorema 4.5.1) dapat ditampilkan sebagai: P C (u) u, v P C (u) 0,u R n,v C, sehingga 0 z k x k + β k f(x k ), x z k = z k x k + β k f(x k ), x x k + z k x k + β k f(x k ),x k z k sehingga dengan ini: z k x k, x x k β k f(x k ),x k x z k x k + β k f(x k ),x k z k β k [ f(x k ) f( x) ] + z k x k + β k f(x k ),z k x k z k x k + β k f(x k ),z k x k = z k x k 2 + β k f(x k ),z k x k dengan menggunakan pertidaksamaan gradien pada fungsi konveks f pada pertidaksamaan yang kedua, maka diperoleh: x k+1 x k 2 + x k x 2 x k+1 x 2 2γ k [ z k x k 2 + β k f(x k ),z k x k ] dan dengan mengatur kembali, maka: =2γ 1 k x k+1 x k 2 +2γ k β k f(x k ),z k x k x k+1 x 2 x k x 2 +(1 2γ 1 k ) x k+1 x k 2 2γ k β k f(x k ),z k x k x k x 2 2γ k β k f(x k ),z k x k

48 33 dengan menggunakan kenyataan bahwa γ k [0, 1] pada ketidaksamaan yang kedua. dengan mengalikan dengan (2β k), maka σ σγ j f(x j ) T (z j x j ) f(x j ) f(x j+1 ) ε j 2β j γ j f(x j ) T (z j x j ) karena {f(x j )} tidak naik, diperoleh ε j 2β j σ [ f(x j ) f(x j+1 ) ] 2 ˆβ σ [ f(x j ) f(x j+1 ) ] dengan o j k maka k j=0 ε j 2 ˆβ σ [ f(x 0 ) f(x k+1 ) ] 2 ˆβ σ [ f(x 0 ) f( x) ] dan k j=0 ε j dapat dijumlahkan sehingga k j=0 ε j <, maka x k+1 x 2 x k x 2 + ε k Akhir perhitungan ini menunjukkan bahwa barisan solusi konvergen ke sebuah titik stasioner. Misalkan saja bahwa S adalah himpunan solusi dari permasalahan optimisasi pada kasus ini dengan x S dan ε k dapat dihitung sehingga { x k} adalah konvergen ke S. Dengan teorema di atas maka { x k} adalah sebuah barisan yang terbatas sehingga mempunyai suatu titik kumpul (cluster points) atau stasioner. Dengan sifat konveksitas fungsi, maka titik kumpul yang dimaksud adalah solusi dari masalah yang diberikan, dan barisan { x k} konvergen ke solusi tersebut.

49 34 Teorema Misalkan C R n adalah himpunan tidak kosong dan {x k } R n merupakan sebuah barisan sedemikian sehingga: x k+1 z 2 x k z 2 + ε k Untuk setiap z C dan untuk setiap k dimana {ε k } R + adalah sebuah barisan yang dapat dijumlahkan maka: 1. {x k } adalah terbatas 2. Jika sebuah titik kumpul (cluster point) x berada di C, maka seluruh barisan {x k } akan konvergen ke x. Bukti: 1. Misalkan z C, maka diperoleh bahwa: x k+1 z 2 x 0 z 2 k 1 + ε j x 0 z 2 + j=0 j=0 ε j Karena {ε k } adalah barisan yang dapat dijumlahkan maka {x k } adalah terbatas 2. Misalkan x C adalah titik kumpul dari {x k } dan ambil δ>0. Misalkan {x k } adalah sebuah subbarisan dari {x k } yang konvergen ke x. Karena {ε k } adalah sebuah barisan yang dapat dijumlahkan, terdapat k 0 sedemikian sehingga ε j < δ dan terdapat k 2 1 sehingga l k1 j=k 0 untuk k k 1. Kemudian, untuk k>l k1, dimiliki: k 0 dan x l k x 2 < δ 2

50 35 x k+1 x 2 k 1 x l k 1 x 2 + sehingga lim k x k = x. j=l k1 ε j x l k 1 x 2 + j=l k1 ε j < δ 2 + δ 2 = δ

51 BAB 5 PEMBAHASAN 5.1 Formulasi Optimisasi Konveks Dua Tahap Optimisasi konveks dua tahap (Two Level Convex Optimization Problem) adalah kelas optimisasi dua tahap (Bilevel Optimization) yang mempunyai fungsi tujuan maupun fungsi kendala bersifat konveks untuk kedua levelnya. Bentuk optimisasi dua tahap yang telah diuraikan pada Bab 3 dapat ditampilkan kembali dengan mengubah jenis himpunan domain, fungsi kendala dan tujuannya menjadi himpunan dan fungsi bersifat konveks untuk kedua levelnya sehingga diperoleh formulasi bentuk persoalan optimisasi konveks dua tahap sebagai berikut: Minimize xu,x l f u (x u,x l ) (5.1) s.t x l S l (x u,x l ) = arg min{f l (x u, ) (x u,x l ) C} (5.2) dengan C R n adalah himpunan konveks tertutup, (5.3) f u,f l : R n R n R adalah fungsi bersifat konveks. (5.4) Berdasarkan bentuk di atas, untuk setiap variabel upper (x u ), terdapat variabel lower (x l ) yang bergantung pada (x u ), yang dibatasi menjadi solusi dari level lower dengan himpunan solusi S l (x u, ). Hal ini menjelaskan bahwa semua solusi layak pada level upper, akan layak pada level lower tetapi akan lebih layak secara umum pada optimisasi dua tahap jika didapatkan variabel x(x u,x l ) yang dapat menyelesaikan kedua level. Dengan demikian, semua himpunan solusi yang layak 36

52 37 pada level lower dan level upper akan terbatas sedemikian sehingga pasangan kedua variabel ini memenuhi optimisasi tahap kedua dan pertama atau dengan kata lain, himpunan solusi tersebut merupakan solusi akhir dari persoalan optimisasi konveks dua tahap dan dikumpulkan di dalam sebuah himpunan S(x u,x l ), yaitu: S = {(x u,x l ) R n n (5.5) Perhatikan implementasi pernyataan tentang hubungan antara solusi level upper dengan solusi level lower di atas dengan contoh kasus yang sederhana pada ilustrasi gambar berikut: Gambar 5.1 : Himpunan solusi upper atau solusi optimisasi S u adalah bagian dari solusi lower S l 5.2 Regulerisasi Optimisasi Konveks Dua Tahap Dengan formulasi optimisasi konveks dua tahap ( ) yang telah dijelaskan, maka akan dilakukan regulerisasi fungsi dengan menggunakan metode penalty dan regulerisasi Tikhonov.

53 38 Definisi (Fungsi Penalty) Misalkan P adalah sebuah bentuk optimisasi: P : Minimize x f(x) s.t. g(x) 0 x R n Sebuah fungsi p(x) :R n R disebut fungsi penalty pada P jika p(x) memenuhi: 1. p(x) =0jikag(x) 0 2. p(x) > 0 jika g(x) > 0 sehingga dengan program penalty, bentuk masalah P di atas menjadi: P : Minimize x f(x)+δp(x), δ > 0 s.t. x R n Teorema (Teorema Konvergensi Penalty) Misalkan f(x), g(x) dan p(x) adalah fungsi kontinu. Misalkan { x k} adalah sebuah barisan solusi P (δ). Kemudian x dari { x k} sebagai solusi P (δ). Bukti: Misalkan x adalah limit dari { x k}. Dari sifat kekontinuan fungsi diperoleh lim k f(xk )=f( x), dan q = lim q(δ k,x k ) f(x ), sehingga: k lim δ [ kp(x k ) = lim q(δk,x k ) f(x k ) ] = q f( x) k k Karena δ k maka lim p(x k ) = 0. Kemudian dari kekontinuan g(x) dan k p(x),p( x) = 0dang( x) 0, berarti bahwa x adalah sebuah solusi layak sehingga: f(x k ) f(x ) untuk setiap k dan f(x k ) f(x ). Kemudian x dari { x k} adalah solusi dari masalah P (δ) tersebut.

54 39 Definisi (Regulerisasi) Misalkan P adalah sebuah bentuk optimisasi dengan dua fungsi objektif Ax b dan x sebagai berikut: P : Minimize x ( x, Ax b ) s.t. x R n sehingga bentuk regulerisasi dari masalah P di atas dituliskan: P (δ) : Minimize x δ x + Ax b, δ > 0 s.t. x R n untuk sebuah barisan naik (increasing sequence) konstan δ dengan δ +. Kuantitas skalar δ disebut dengan parameter penalty. Dasar dari approksimasi regulerisasi adalah mendapatkan suatu vektor x yang bernilai kecil (jika mungkin) sedemikian sehingga nilai residu (Ax b) juga kecil. Berdasarkan kedua definisi di atas, dan formulasi optimisasi konveks dua tahap ( ) yaitu fungsi objektif pada program dua tahap adalah fungsi kontinu Lipschitz lokal pada titik-titik yang disebut dengan daerah kestabilan, yaitu himpunan semua parameter (variabel upper) dimana solusi optimal pada level lower tidak akan mendapat perubahan, dengan demikian ( ) dapat diregulerisasi. Misalkan x =(x u,x l ) S R n n sebagai solusi optimisasi konveks dua tahap maka bentuk regulerisasi fungsi objektif dinotasikan dengan sebuah famili fungsi yang berparameter σ sebagai berikut: F σ (x) =σf u (x)+f l (x),σ >0 (5.6)

55 40 dimana σ berubah-ubah sepanjang iterasi, sehingga bentuk ( ) dapat dituliskan kembali menjadi: Minimize x s.t. F σ (x) x C R n tersebut. Gambar di bawah ini adalah illustrasi kasus sederhana tentang optimisasi Gambar 5.2 : Ilustrasi sederhana minimisasi F σ (x u,x l ) dengan domain S u pada optimisasi konveks dua tahap Dengan bentuk regulerisasi (5.6) berarti bahwa jika x k C adalah merupakan iterasi ke-k dan σ k adalah parameter ke-k sehingga terjadi iterasi proyeksi gradien dari F σ (x) ke titik x k, dengan σ k dapat di up-date. Kekonvergenan algoritma ke solusi persoalan optimisasi di atas akan menunjukkan: lim k σ k =0, σ k =+ (5.7) k=0

56 41 Selanjutnya perlu dibuktikan kembali bahwa apakah fungsi regulerisasi F σ (x) tersebut dapat mempertahankan konveksitas fungsi objektif dan fungsi kendala optimisasi awal atau tidak? Persoalan ini akan ditunjukkan dengan bentuk teorema berikut. Teorema Misalkan f u (x) dan f l (x) adalah fungsi objektif bersifat konveks dari masalah optimisasi dua tahap dan F σ (x) adalah fungsi regulerisasi dengan F σ (x) =σf u (x)+f l (x),σ>0 maka F σ (x) adalah merupakan fungsi konveks. Bukti: Misalkan F σ : R n R x 1,x 2 R n ; α, β R ; α + β =1,α >0,β >0 sehingga F σ (αx 1 + βx 2 ) σf u (αx 1 + βx 2 )+f l (αx 1 + βx 2 ) σ{αf u (x 1 )+βf u (x 2 )} + {αf l (x 1 )+βf l (x 2 )} αf σ (x 1 )+βf σ (x 2 ) Perhitungan akhir jelas menunjukkan bahwa sifat konveksitas (Definisi 3.2.2) pada fungsi regulerisasi F σ (x) sangat dipenuhi atau dapat dipertahankan. Setelah meregulerisasi bentuk optimisasi dan membuktikan konveksitas dapat dipertahankan maka metode proyeksi gradien akan digunakan untuk menyelesaikan masalah tersebut. Tujuan dari metode ini adalah mendapatkan kekonvergenan barisan ke solusi optimal. Berikut adalah penjelasan tentang kondisi optimal solusi.

57 Kondisi Optimal dari Solusi Teorema Misalkan f : C R adalah fungsi objektif bersifat konveks pada suatu masalah optimisasi dan terdifferensialkan sehingga untuk setiap x 1,x 2 C dan f(x 2 ) f(x 1 )+ f(x 1 ) T (x 2 x 1 ) (Teorema 3.2.1) maka x 1 adalah optimal jika dan hanya jika x 1 C dan f(x 1 ) T (x 2 x 1 ) 0, x 2 C. Bukti: Pertama sekali misalkan x 1 C memenuhi f(x 1 ) T (x 2 x 1 ) 0, x 2 C kemudian jika x 2 C maka f(x 1 ) T (x 2 x 1 ) < 0. Misalkan bahwa titik z(t) =tx 2 +(1 t)x 1, dimana t [0, 1] adalah parameter. Karena z(t) adalah chord antara x 1 C dan x 2 C dan himpunan layak adalah konveks maka adalah z(t) layak. Nyatakan bahwa t sangat kecil, sehingga d dt f(z(t)) = f(x 1 ) T (x 2 x 1 ) < 0 t=0 dan dimiliki f(z(t)) <f(x 1 ), yang membuktikan bahwa x 1 C tidak optimal. Kondisi sebaliknya adalah optimal. Perhatikan gambar di bawah ini! Gambar 5.3 : Interpretasi kondisi optimal

58 43 Misalkan A adalah himpunan solusi layak yang ditunjukkan dengan daerah arsiran dan terbatas pada daerah A, dan level kurva f(x) ditunjukkan dengan garis arsir. Titik x dikatakan optimal, f(x) mendefinisikan sebuah hyperplane penyangga yang ditunjukkan dengan garis utuh pada A di x. Teorema (Weierstrass) Misalkan S R n adalah terbatas dan tertutup dan F : R n R adalah fungsi kontinu maka min x S F (x) mempunyai solusi optimal. Bukti: Karena himpunan S adalah terbatas, F (x) dibatasi pada S. Karena S adalah himpunan tidak kosong, terdapat v = inf x S F (x). Dengan definisi bahwa untuk ε>0, S ε = {x S : v F (x) v + ε} adalah tidak kosong. Misalkan saja ε 0 dengan k dan misalkan x k S εk. Karena S adalah terbatas, terdapat sebuah subbarisan dari {x n } yang konvergen ke titik x S (Teorema 3.2.5). Dengan sifat kekontinuan F (x), maka F ( x) = lim k F (x k ) dan v F (x k ) v +ε k, hal ini berarti bahwa F ( x) = lim k F (x k )=v. 5.4 Algoritma Proyeksi Gradien dan Analisis Kekonvergenan Solusi Optimisasi Konveks Dua Tahap Pada teori konvergensi global dari algoritma program nonlinear dibuktikan dengan sebahagian titik limit atau kemungkinan semua titik limit dari barisan yang dibangkitkan memenuhi kondisi dari kasus minimisasi berkendala. Demikian halnya pada optimisasi konveks dua tahap berikut dengan algoritma proyeksi gradien yang dijelaskan sebagai berikut:

59 44 Algoritma: Pilih parameter ᾱ>0,θ (0, 1) dan η (0, 1) Pilih x 0 C dan σ>0 dan set k = 0 sebagai awal Diberikan x k, hitung x k+1 = z k (α k ) dimana, z k (α k )=P C (x k αf σ k (x k )) dan α k = η m kᾱ dengan mk adalah bilangan bulat non negatif m yang memenuhi: F σk (z k (η m ᾱ)) F σk (x k )+θ F σ k (x k ),z k (η m ᾱ) x k Pilih 0 <σ k+1 <σ k dan set k = k + 1 dan ulangi! Jika x k stasioner maka stop. Berdasarkan Teorema dan Teorema 4.5.3, algoritma proyeksi gradien telah membangkitkan barisan solusi yang terbatas. Berikut adalah bentuk penganalisisan kekonvergenan barisan solusi yang dibangkitkan oleh algoritma tersebut terhadap optimisasi konveks dua tahap. Teorema Misalkan { x k} adalah barisan yang dibangkitkan oleh algoritma proyeksi gradien dan C adalah himpunan solusi x untuk setiap k. Jika x k dan z k memenuhi algoritma tersebut maka x k berada pada C untuk setiap k. Bukti: Dengan menggunakan induksi matematika maka untuk k = 0 telah dipenuhi berdasarkan langkah awal (inisialisasi) sehingga x 0 C. Asumsikan bahwa x k C dan dengan z k (α k )=P C (x k αf σ k (x k )) maka disimpulkan bahwa z k C. Kemudian, dengan pernyataan bahwa α k [0.1] dan approksimasi algoritma x k+1 = z k (α k ) maka x k+1 C. Dengan demikian x k C.

60 45 Misalkan himpunan konveks C adalah himpunan solusi yang memenuhi fungsi objektif dan kendala suatu permasalahan optimisasi maka pada penganalisisan kekonvergenan optimisasi konveks dua tahap, diasumsikan bahwa fungsi objektif f u terbatas pada himpunan C sehingga: < f u = inf{f u (x) x C} (5.8) Misalkan saja bahwa persoalan tersebut dapat diselesaikan maka fungsi tujuan kedua juga secara otomatis terbatas pada C, sehingga: < f l = min{f l (x) x C} (5.9) Regulerisasi pada fungsi tujuan digunakan untuk menunjukkan kekonvergenan. Dengan (5.11) dan (5.12) maka regulerisasi fungsi (5.6) menjadi: F σ (x) =σ(f u (x) f u )+(f l (x) f l ),σ >0 (5.10) Asumsikan bahwa x = (x u,x l ) R n n adalah solusi masalah optimisasi tersebut. Berikut adalah penjabaran kekonvergenan fungsi F σ (x) ke suatu solusi x. Teorema Misalkan { x k} adalah barisan yang dibangkitkan oleh algoritma tersebut. Jika { x k} adalah terbatas maka { x k} juga terbatas. Bukti: Dengan Teorema dan Teorema maka { x k} adalah terbatas. Jika k maka i k. Perhatikan bahwa solusi S = S u sedemikian fungsi konveks φ : C R, dengan φ(x) = max { f l (x) f l,f u (x) f u ( x) } dan sebuah himpunan terbatas L(c) ={x C φ(x) c},c R.

61 46 Karena f u (x) f u 0 untuk setiap x C dan σ k+1 σ k sehingga dipenuhi F σk+1 (x) F σk (x k ) dan 0 F σk+1 (x k+1 ) F σk (x k+1 ) F σk (x k ). Hal ini menunjukkan bahwa { F σk (x k ) } adalah barisan tidak naik dan terbatas sehingga konvergen serta berarti bahwa { f l (x k ) f } l adalah terbatas. Dengan c 0 sedemikian sehingga f l (x k ) f l c untuk setiap k. Karena f u (x i k ) fu ( x) < 0 c maka x i k L(c) yaitu himpunan terbatas sedemikian sehingga {x i k} terbatas. Teorema Misalkan { x k} adalah barisan yang dibangkitkan oleh algoritma tersebut. Jika { x k} adalah tak berhingga, x adalah titik kumpul dari barisan tersebut dan permasalahan optimisasi di atas mempunyai solusi maka x adalah titik stasioner. Bukti: Karena C adalah tertutup, x C (oleh Teorema 5.4.1). Misalkan {x j k } adalah subbarisan dari { x k} sedemikian sehingga lim k x j k {γ k } [0, 1]; lim k β jk = β; sedemikian: 0 < σγ k F σ (x k ) T (z k x k ) F σ (x k ) F σ (x k+1 ) = x. Observasi bahwa Bentuk di atas menunjukkan { F σ (x k ) } adalah barisan turun karena { x k} C dan masalah optimisasi mempunyai solusi dan { F σ (x k ) } dibatasi maka konvergen sehingga: diperoleh [ lim Fσ (x k ) F σ (x k+1 ) ] =0 k 0 σˆγ F σ ( x) T [ P C ( x β F σ ( x)) x ] 0 dengan kekontinuan F σ dan P C sehingga perhitungan dipisah menjadi dua kasus: Kasus 1. ˆγ >0 dan ū = x β F σ ( x) sehingga: F σ ( x) T [P C (ū) x] = β 1 ( x ū) T [P C (ū) x] =0

62 47 berdasarkan (ū x) T [P C (ū) x] =0, x C, sifat proyeksi orthogonal: x = P C (ū) =P C ( x β F σ ( x)) dan β >0 dan F σ ( x) T (x x) 0, x C (Teorema 5.3.1) sehingga x adalah titik stasioner optimisasi. Kasus 2. 0 = ˆγ = lim k γ jk, n N. Karena γ jk =2 l(j k), kl(j k ) >nsedemikian: F σ (x j k 2 n (z j k x j k )) >F σ (x j k ) σ2 n F σ (x j k ) T (x j k z j k ) dengan mengambil k dan definisi z = P C ( x β F σ ( x)), diperoleh: F σ ( x 2 n ( z x)) F σ ( x)+σ2 n F σ ( x) T ( z x) dengan F σ ( x) T ( x z) 0 diperoleh F σ ( x) T ( z x) = F σ ( x) T (P C (ū) x) Kedua kasus ini mempunyai kesimpulan yang sama, sehingga berdasarkan Teorema 5.3.1, maka kondisi tersebut optimal dan x adalah titik stasioner. Teorema Dengan f u (x) dan f l (x) adalah fungsi yang bersifat konveks yang derivatifnya adalah fungsi Lipschitz kontinu pada himpunan terbatas. Fungsi f u (x) dibatasi pada himpunan konveks tertutup C dan himpunan S u adalah himpunan solusi level upper yang tidak kosong dan terbatas. Kemudian barisan { x k} memenuhi dist(x k,s u ) 0,k. Bukti: θ F σ k (x k ),x k x k+1 F σk (x k ) F σk (x k+1 ) (dengan 5.8) = σ k (f u (x k ) f u )+σ k (f u (x k+1 ) f u )+(f l (x k ) f l )+(f l (x k+1 ) f l )

63 48 Dengan melanjutkan penjumlahan untuk k =0, 1,..., k maka diperoleh: θ k F σk (x k ),x k x k+1 σ 0 (f u (x 0 ) f u )+ (σ k+1 σ k )(f u (x k+1 ) f u ) k 1 k=0 k=0 σ k(f (x k+1 u ) f u )+(f l (x 0 ) f l ) (f l (x k+1 ) f l ) σ 0 (f u (x 0 ) f u )+(f l (x 0 ) f l ) Faktanya bahwa untuk setiap k, f u (x k ) f u dan f l (x k ) f l karena x k C dan 0 <σ k+1 σ k. Kemudian dengan memberikan k, memberi kesimpulan: F σk (x k ),x k x k+1 θ 1 (σ 0 (f u (x 0 ) f u )+(f l (x 0 ) f l )) < +. k=0 Secara partikuler: F σk (x k ),x k x k+1 0,k Teorema Jika { x k} adalah sebuah barisan terbatas yang dibangkitkan algoritma proyeksi gradien maka semua titik akumulasinya berada pada S l. Bukti: Misalkan dimiliki barisan solusi { x k} di atas adalah terbatas (Teorema 4.5.3), Misalkan ˆx adalah titik akumulasi { x k}. Dengan memperhitungkan kekontinuan dari operator proyeksi dan fakta σ k 0dan0<β α k ᾱ untuk setiap k, disimpulkan dari (x k x k+1 ) 0 dan x k P C (x k α k (σ k f u(x k )+f l(x k ))) 0, k maka ˆx = P C (ˆx ˆαf l (ˆx)), ˆα >0 Berdasarkan Teorema 4.5.1(2) dan Teorema maka ˆx adalah nilai pembuat minimum dari f l pada himpunan C dengan ˆx S l C atau semua titik akumulasinya berada pada himpunan S l.

64 49 Berdasarkan definisi dan Teorema dan Teorema 5.4.5, perlu dianalisis kembali kedua titik akumulasi tersebut. Misalkan ˆx adalah titik akumulasi pada S l dan x adalah titik akumulasi pada S u maka akan diperiksa bahwa apakah setiap titik akumulasi pada s l merupakan titik akumulasi pada s u atau tidak? Perhatikan gambar di bawah ini sebagai illustrasi pernyataan diatas. Gambar 5.4 : Ilustrasi solusi optimal pada Optimisasi Konveks Dua Tahap Teorema Jika x adalah titik akumulasi { x k} pada S u dan ˆx adalah titik akumulasi { x k} pada S l maka kedua titik akumulasi tersebut adalah sama. Bukti: Misalkan x S u, dan F σk (x) konveks (Teorema 5.2.1), ditunjukkan: F σk (x k ), x x k F σk ( x) F σk (x k ) = σ k (f u ( x) f u )+(f l ( x) f l ) σ k (f u (x k ) f u )+(f l (x k ) f l ) σ k (f l ( x) f l (x k )) dimana dengan menggunakan fakta bahwa f l ( x) f l (x k ), karena x S u S l dan x k C. Selanjutnya dimiliki bahwa: