Kecerdasan Buatan/ Artificial Intelligence

Transkripsi

1 Kecerdasan Buatan/ Artificial Intelligence Bayesian Network Imam Cholissodin, S.Si., M.Kom.

2 Pokok Bahasan 1. Syntax & Semantics 2. Compact conditional distributions 3. Efficient Inference 4. Latihan Individu + Tugas Kelompok

3 Syntax & Semantics Bayesian Network : Notasi graf yang menyatakan conditional independence dalam suatu domain. Node menyatakan sebuah random variable. Arc (directed edge) menyatakan hubungan kausal langsung (direct influence). Arahnya dari variable sebab ke variable akibat. Node sibling menyatakan variable yang conditionally independent karena parent-nya. Conditional distribution untuk setiap node terhadap parent-nya: P(X i Parents(X i )) Tidak ada cycle di dalam Bayesian Network.

4 Syntax & Semantics Contoh kedokteran gigi : Topologi sebuah Bayesian Network menyatakan hubungan conditional independence : Keterangan : Weather independent dari semua variable lain. Toothache dan Catch conditionally independent karena Cavity.

5 Syntax & Semantics Contoh lain : Anto sedang di kantor. Tetangganya, John, menelpon mengatakan alarm anti-perampoknya bunyi. Tetangganya, Mary, tidak menelpon. Kadang-kadang alarmnya nyala karena gempa bumi. Apakah ada perampok di rumah Anto? Variable dalam domain : Burglar, Earthquake, Alarm, JohnCalls, MaryCalls Hubungan sebab akibat : Perampok bisa membuat alarm nyala. Gempa bumi bisa membuat alarm nyala. Alarm bisa membuat John menelpon. Alarm bisa membuat Mary menelpon.

6 Syntax & Semantics Contoh Bayesian Network :

7 Syntax & Semantics Rekonstruksi full joint distribution : Bayesian Network adalah deskripsi lengkap sebuah domain. Full joint distribution bisa diperoleh dari local conditional distribution : P n i x,..., x Px Parentsx 1 n 1 i Contoh: hitung probabilitas John menelpon, Mary menelpon, alarm nyala, tidak ada perampok, tidak ada gempa bumi. P (j m a b e) = P (j a)p (m a)p (a b, e)p ( b)p ( e) = = i

8 Syntax & Semantics Membangun Bayesian Network : Bagaimana membangun sebuah Bayesian Network? Sebuah algoritma:. Pilih ordering variable X 1,..., X n For i = 1 to n o Tambahkan X i ke network o Pilih parent dari X 1,..., X i 1 shg. P(X i Parents(X i )) = P(X i X 1,..., X i 1 ) Agar Bayesian Network sah.. X i harus conditionally independent terhadap semua X 1,..., X i 1 yang bukan anggota Parents(X i ) karena Parents(X i ).

9 Syntax & Semantics Chain rule & conditional independence : Algoritma di slide sebelumnya menggunakan chain rule : P(A, B, C, D) = P(A B, C, D)P(B, C, D) = P(A B, C, D)P(B C, D)P(C, D) = P(A B, C, D)P(B C, D)P(C D)P(D) Ini spt. membangun Bayesian Network dengan urutan D, C, B, A tanpa conditional independence. Bagaimana jika, mis: A conditionally independent thd. B karena C dan D B conditionally independent thd. C karena D: P(A, B, C, D) = P(A C, D)P(B D)P(C D)P(D)

10 Syntax & Semantics Contoh membangun Bayesian Network : Mis. kita pilih urutan : MaryCalls, JohnCalls, Alarm, Burglar, Earthquake. P(J M) = P(J)? Tidak P(A J, M) = P(A J)? P(A J, M) = P(A)? Tidak P(B A, J, M) = P(B A)? Ya P(B A, J, M) = P(B)? Tidak P(E B, A, J, M) = P(E A)? Tidak P(E B, A, J, M) = P(E A, B)? Ya

11 Syntax & Semantics Naive vs. paranoid... : Naive Bayes model Semua variable akibat dianggap saling conditionally independent karena variable sebab. Full joint distribution (paranoid?) Semua random variable dianggap saling mempengaruhi Yang kita cari: analisa domain-specific yang menghasilkan informasi conditional independence yang benar!

12 Syntax & Semantics Contoh yang lebih rumit... : Diagnosa awal: mobil mogok! Testable node: nilainya bisa diukur. Fixable node: nilainya bisa diatur. Hidden node: hanya untuk menyederhanakan struktur network-nya.

13 Syntax & Semantics Contoh yang lebih rumit... : Menentukan nilai asuransi mobil...

14 Compact conditional distributions Deterministic nodes : Conditional distribution sebuah node dgn. k parent exponential dlm. k. Ada beberapa representasi yang lebih efisien canonical distribution. Conditional distribution dari suatu deterministic node bisa dihitung sepenuhnya dari nilai parent-nya. Dengan kata lain, nilai probabilitasnya bisa dinyatakan sebagai suatu fungsi : X = f(parents(x)) Misalnya, hidden variable pada contoh mobil mogok: No_charging = Alternator_broken Fanbelt_broken Battery_flat = Battery_dead No_charging Nilainya diperoleh dari truth table

15 Compact conditional distributions Noisy-OR Distribution : Noisy-OR distribution mirip dalam logic, tapi ada uncertainty : Berapakah ketidakpastian sebuah variable gagal mengakibatkan proposition bernilai true? Contoh : P( fever cold, flu, malaria) = 0.6 P( fever cold, flu, malaria) = 0.2 P( fever cold, flu, malaria) = 0.1

16 Compact conditional distributions Variable dengan nilai kontinyu : Bagaimana kalau nilai variable kontinyu? Tabel? Gunakan canonical distribution : fungsi dengan parameter. Contoh : Diskrit : Subsidy?, Buys? Kontinyu : Harvest, Cost

17 Compact conditional distributions Variable diskrit, parent kontinyu : Probabilitas dari Buy? jika diketahui Cost adalah soft threshold : Distribusi probit adalah integral dari fungsi Gaussian : x x N0, 1 xdx P(Buys? = true Cost = c) = Φ(( c + µ)/σ)

18 Compact conditional distributions Variable kontinyu : Model Linear Gaussian sering dipakai : exp 2 1,?, t t t t t t b a h c c b a h N true Subsidy h Harvest c P Cost

19 Efficient Inference Inference by enumeration : Mis. hitung probabilitas ada perampok jika John dan Mary menelpon. Pb j, m PbP epa b ep j apm a e, a Pb Pe Pa b, ep j apm a e a Perhatikan bahwa P(j a)p(m a) dihitung untuk setiap nilai e. Gunakan dynamic programming : hitung sekali, simpan hasilnya!

20 Efficient Inference Approximate inference : Pendekatan lain: jangan hitung nilai persis, tapi cukup disample (Monte Carlo). Ide dasar : Ambil N sample dari distribusi Bayes Net. Estimasi posterior probability dari query event : Pˆ Berapa kali query event terjadi dari N kali sample? Dibagi N. lim Pˆ konvergen terhadap P. N

21 Efficient Inference Contoh sampling : a. P(C,S,R,W)=? b. P(C,S,R,~W)=?

22 Latihan individu Perhatikan Bayesian Network di bawah ini. Tentukan nilai Peluang : a. John menelpon, Mary menelpon, alarm nyala, ada perampok, tidak ada gempa bumi. P (j m a b e). b. John menelpon, Mary tidak menelpon, alarm nyala, ada perampok, ada gempa bumi. P (j m a b e).

23 Tugas Kelompok Buatlah minimal 1 case study unik dan penyelesaiannya dengan Bayesian Network! Buatlah program prolog jika diketahui fakta-fakta berikut! No Judul Buku ISBN Kategori Penerbit Rating 1 Beginning Ogre 3D Games Development Apress 5 2 Programming for Newbies Programming O Reilly 4 3 Pro Android Games Pro Code Igniter Learn CCNA in 23 days Games Development Web Programming Network & Security Apress 4 Apress 3 Sams 2 Kemudian buat query buku bagus / recommended jika rating-nya lebih dari 3!

24 Selesai