Design and Analysis of Algorithms CNH2G3- Week 3 Notasi Asymptotic dan Kelas Dasar Efisiensi

Transkripsi

1 Desig ad Aalysis of Algorithms CNH2G3- Week 3 Notasi Asymptotic da Kelas Dasar Efisiesi Dr. Putu Harry Guawa (PHN) Review. What the complexity of the followig pseudocode for to : for y <- 0 to : 2. What the complexity of the followig pseudocode for to : for y <- x to -3: 3. What the complexity of the followig pseudocode for x <- 2 to +2: for y <- x- to : Example 0. Fid the time complexity of the followig codes for basic operatio additio (+) Some algorithms have logarithmic (base 2) complexity:. i = ; // i starts from 2. while (i >= ) 3. { 4. x = x + ; // cout this lie 5. i = i / 2; // i becomes half at the ed of every iteratio 6. }

2 Iteratio value of i (at the top of loop) umber of times lie 4 is executed k 2 k 0 2 k k+ We are iterested i what k is (because that s the umber of times the lie 4 is executed). I other words, T () = = (k ) < kofthem > To derive k, we look at the relatio at the last iteratio (kth): Thus, T () = log 2 () 2 k = 0 log 2 ( 2 k ) = log 2 (0) log 2 log(2 k ) = log 2 (0) k log 2 (2) = log 2 log 2 (0) k = log 2 Pedahulua Seperti yag sudah dibahas pada bab-bab sebelumya, ruag ligkup aalisis efisiesi berfokus pada aikya orde jumlah operasi dasar sebagai idikator utama pada algoritma efisie. Utuk membadigka tigkata dari orde keaika kompleksitas waktu, Computer Scietist megguaka tiga otasi berikut:. O (big oh), 2. Ω (big omega), da 3. Θ (big theta). Dalam tulisa ii, pegeala otasi di atas aka disampaika secara tidak formal(iformal) dalam beberapa cotoh da kemudia secara formal dalam betuk defiisi. Utuk materi selajutya ka diperkealka otasi:. Fugsi t() da g() merupaka fugsi tidak egatif terdefiisi pada himpua bilaga asli. 2. Fugsi t() aka berupa waktu dari berjalaya algoritma (yag biasaya teridikasi pada jumlah operasi dasar C()). 3. Fugsi g() aka berupa beberapa cotoh fugsi yag diguaka sebagai perbadiga. 2

3 2 Pegatar tidak formal (iformal) Secara tidak formal, O(g()) merupaka sebuah himpua semua fugsi yag orde keaikaya (order of growth) berada di bawah atau sama dega fugsi orde keaika g(). Sebagai cotoh:. O( 2 ), O( 2 ), 3. 2 ( ) O(2 ). Jelas bahwa dua fugsi pertama adalah fugsi liier sehigga memiliki orde di bawah orde keaika fugsi g() = 2. Sedagka fugsi ke-tiga merupaka fugsi kuadratik yag memiliki orde keaika sama dega fugsi 2. Dilai pihak,. 3 / O( 2 ), / O( 2 ), / O( 2 ). Jelas bahwa, fugsi 3 da merupaka fugsi kubik yag memiliki orde keaika lebih dari 2. Begitu pula dega poliomial memiliki orde keaika orde empat. Notasi ke-dua Ω(g()), meyataka himpua dari semua fugsi yag memiliki orde keaika lebih besar atau sama dega g(). Sebagai comtoh:. 3 Ω( 2 ), 2. 2 ( ) Ω(2 ), tetapi / Ω( 2 ). Terakhir, Θ(g()) merupaka himpua semua fugsi yag memiliki orde keaika sama dega g(). Cotoh semua fugsi kuadratik a 2 + b + c dega a > 0 berada pada Θ( 2 ). Hal ii juga terjadi pada fugsi lai seperti 2 +si da 2 +log, keapa? 3 Formal Defiitio 3. Notasi O Defiitio 3. Sebuah fugsi t() dikataka berada dalam O(g()), diotasika sebagai t() O(g()), jika t() terbatas di atas oleh suatu kostata positif dikalika dega fugsi g() utuk yag terus membesar. Atau dapat dikataka bahwa terdapat beberapa kostata positif c da beberapa bilaga bulat tak-egatif 0 sehigga Dapat diilustrasika melalui Gambar. t() cg() for all 0. (3.) 3

4 Figure : Notasi Big-Oh: t() O(g()). Example 3.2 Mari kita buktika secara formal O( 2 ). Jelas bahwa (utuk semua 5), = Sehigga terbukti terdapat c = 0 da 0 = 5. Catata bahwa, defiisi memberika sembarag ilai c da 0, sehigga terdapat cara lai utuk membuktika, yaitu (utuk semua ), = Sehigga terbukti dega c = 05 da 0 =. 3.2 Notasi Ω Defiitio 3.3 Sebuah fugsi t() dikataka berada dalam Ω(g()), diotasika sebagai t() Ω(g()), jika t() terbatas di bawah oleh suatu kostata positif dikalika dega fugsi g() utuk yag terus membesar. Atau dapat dikataka bahwa terdapat beberapa kostata positif c da beberapa bilaga bulat tak-egatif 0 sehigga Dapat diilustrasika melalui Gambar 2. t() cg() utuk setiap 0. (3.2) Example 3.4 Aka dibuktika bahwa 3 Ω( 2 ): 3 2 utuk semua 0. Sehigga terbukti dega c = da 0 = 0. 4

5 Figure 2: Notasi Big-Omega: t() Ω(g()). 3.3 Notasi Θ Defiitio 3.5 Sebuah fugsi t() dikataka berada dalam Θ(g()), diotasika sebagai t() Θ(g()), jika t() terbatas di atas da bawah oleh suatu kostata positif dikalika dega fugsi g() utuk yag terus membesar. Atau dapat dikataka bahwa terdapat beberapa kostata positif c da c 2 da beberapa bilaga bulat tak-egatif 0 sehigga Dapat diilustrasika melalui Gambar 3. c 2 g() t() c g() utuk setiap 0. (3.3) Figure 3: Notasi Big-Theta: t() Θ(g()). Example 3.6 Aka dibuktika bahwa 2 ( ) Θ(2 ). Perta aka dibuktika utuk pertaksamaa sebelah kaa (batas atas): 2 ( ) = utuk semua 0. 5

6 Kedua, aka dibuktika pertaksamaa sebelah kiri (batas bawah) 2 ( ) = utuk semua 2. = 4 2 Sehigga terbukti dega c 2 = 4, c = 2 da 0 = 2. 4 Properti otasi asimptotik Theorem 4. Jika diberika fugsi poliomial berderaja m, T () = a m m +am m + + a + a 0 maka T () O( m ). Theorem 4.2 Adaika T () O(f()) ad T 2 () O(g()), maka. T () + T 2 () O(f()) + O(f()) O(max(f(), g())) 2. T ()T 2 () O(f())O(g()) = O(f()g()) 3. O(cf()) = co(f()), c adalah sembarag kostata 4. f() O(f()) Example 4.3 Misalka T () O() da T 2 () O( 2 ), maka. T () + T 2 () O(max(, 2 )) = O( 2 ) 2. T ()T 2 () = O( 2 ) = O( 3 ) Example 4.4 O(5 2 ) = O( 2 ) Example 4.5 Diketahui T () = ( + 2) log( 2 + ) maka kompleksitas waktu O()-ya adalah? Misalka Dega pecaria satu-satu didapat:. f() = ( + 2) O() 2. g() = log( 2 + ), karea T () = ( + 2) log( 2 + ) = f()g() + h() log( 2 + ) log(2 2 ) = log 2 + log 2 = log log 3 log utuk > 2 6

7 3. h() = 5 2 O( 2 ) Maka, T () = ( + 2) log( 2 + ) O()O(log ) + O( 2 ) = O( log ) + O( 2 ) = O(max( log, 2 )) = O( 2 ) 5 Kelas Dasar Efisiesi Berikut adalah tabel kelas dasar efiseisi: Kelas Nama Kometar costat log log logarithmic liear liearithmic Efisisi kasus terbaik. Kompleksitas O berarti waktu pelaksaaa algoritma adalah tetap, tidak bergatug pada ukura masuka. Kompleksitas waktu logaritmik berarti laju pertumbuha waktuya berjala lebih lambat daripada pertumbuha. Algoritma yag termasuk kelompok ii adalah algoritma yag memecahka persoala besar dega metrasformasikaya mejadi beberapa persoala yag lebih kecil yag berukura sama (misalya algoritma pecaria bier). Algoritma yag waktu pelaksaaaya lajar umumya terdapat pada kasus yag setiap eleme masukaya dikeai proses yag sama, misalya algoritma pecaria berutu. Bila dijadika dua kali semula, maka waktu pelaksaaa algoritma juga dua kali semula. Waktu pelaksaaa yag log terdapat pada algoritma yag memecahka persoala mejadi beberapa persoala yag lebih kecil, meyelesaika tiap persoala secara idepede, da meggabug solusi masig- masig persoala. 7

8 2 3 quadratic cubic 2 expoetial! factorial Algoritma yag waktu pelaksaaaya kuadratik haya praktis diguaka utuk persoala yag berukura kecil. Umumya algoritma yag termasuk kelompok ii memproses setiap masuka dalam dua buah loopig bersarag, misalya pada algoritma urut maks. Seperti halya algoritma kuadratik, algoritma kubik memproses setiap masuka dalam tiga buah loopig bersarag, misalya algoritma perkalia matriks. Algoritma yag tergolog kelompok ii mecari solusi persoala secara brute force, misalya pada algoritma mecari sirkuit Hamilto. Seperti halya pada algoritma ekspoesial, algoritma jeis ii memproses setiap masuka da meghubugkaya dega masuka laiya, misalya algoritma Persoala Pedagag Kelilig (Travellig Salesperso Problem). Nilai masig-masig fugsi utuk keaika. log log 2 3 2! E+035 Figure 4: Nilai masig-masig fugsi utuk keaika. 6 Megguaka Limit utuk membadigka orde keaika Utuk mempermudah megidetifikasi kompleksitas waktu O, Ω da Θ, maka cara membadigka dapat pula dilakuka. 8

9 Defiitio 6. Terdapat tiga kasus utama dalam membadigka waktu komputasi: t() 0, artiya t() memiliki orde lebih redah dari g() lim g() = c, artiya t() memiliki orde sama dega g(), artiya t() memiliki orde lebih tiggi dari g() Catata bahwa dua kasus pertama megidetifikasika t() O(g()), dua kasus terakhir megidetifikasika t() Ω(g()) da kasus ke-dua megidetifikasika t() Θ(g()) Example 6.2 Badigka orde keaika 2 ( ) da 2. lim 2( ) 2 = 2 lim 2 2 = 2 lim ( ) = 2 Karea hasil limitya merupaka kostata positif, yag berarti bahwa memiliki orde sama, maka dapat diotasika sebagai 2 ( ) Θ(2 ). Refereces. Aay, L. (2003). Itroductio to the desig ad aalysis of algorithms. Villaova Uiversity Exercise. Tetuka otasi Ω da Θ utuk T () = Tetuka otasi O, Ω da Θ utuk T () = log. 3. Tetuka otasi O, Ω da Θ utuk T () = Tetuka otasi O utuk T () = Tetuka otasi O utuk T () = ( + )( + 3)/( + 2). 6. Tetuka otasi O, Ω da Θ dari pseudocode for to : for y <- 0 to : 7. Tetuka otasi O, Ω da Θ dari pseudocode for to : for y <- x to -3: 9

10 8. Tetuka otasi O, Ω da Θ dari pseudocode for x <- 2 to +2: for y <- x- to : 9. Tetuka otasi O, Ω da Θ dari masalah berikut Cosider the problem of fidig the value of the largest elemet i a list of umbers. For simplicity, we assume that the list is implemeted as a array. The followig is pseudocode of a stadard algorithm for solvig the problem. ALGORITHM MaxElemet(A[0.. ]) //Determies the value of the largest elemet i a give array //Iput: A array A[0.. ] of real umbers //Output: The value of the largest elemet i A maxval <-- A[0] for i <-- to - do if A[i] > maxval maxval <-- A[i] retur maxval Cosider the elemet uiqueess problem: check whether all the elemets i a give array of elemets are distict. This problem ca be solved by the followig straightforward algorithm. ALGORITHM UiqueElemets(A[0.. ]) //Determies whether all the elemets i a give array are distict //Iput: A array A[0.. ] //Output: Returs true if all the elemets i A are distict // ad false otherwise for i <-- 0 to - 2 do for j <-- i + to - do if A[i] = A[j] retur false retur true Give two matrices A ad B, fid the time efficiecy of the defiitiobased algorithm for computig their product C = AB. By defiitio, C is a matrix whose elemets are computed as the scalar (dot) products of the rows of matrix A ad the colums of matrix B. ALGORITHM MatrixMultiplicatio(A[0.., 0.. ], B[0.., 0.. ]) //Multiplies two square matrices of order by the defiitio-based algorithm //Iput: Two matrices A ad B //Output: Matrix C = AB for i <-- 0 to - do for j <-- 0 to - do C[i, j ] < for k 0 to do C[i, j] <-- C[i, j] + A[i, k] * B[k, j] retur C 0

11 Biary search algorithm. Procedure biary_search A sorted array size of array x value to be searched Set lowerboud = Set upperboud = while x ot foud if upperboud < lowerboud EXIT: x does ot exists. set midpoit = lowerboud + ( upperboud - lowerboud ) / 2 if A[midPoit] < x set lowerboud = midpoit + if A[midPoit] > x set upperboud = midpoit - if A[midPoit] = x EXIT: x foud at locatio midpoit ed while ed procedure