Information Retrieval

Transkripsi

1 Information Retrieval Selayang Pandang Husni.Trunojoyo.ac.id

2 Bagian I Internet (Web) Mutakhir Apa itu Information Retrieval Representasi Teks dalam IR Model Temu-Kembali Boolean Model Ruang Vektor

3 Retrieval dan Search Temu-Kembali dan Pencarian Hal apa yang terpikirkan saat mendengar information retrieval? Hal apa yang paling dekat dipikiran saat membahas kata search atau search engine?

4 Retrieval and Search Search Engine

5 Internet (Web) Mutakhir

6 Ukuran Internet (per 27 Agustus 2017) Web Terindeks: setidaknya 4.59 milyar halaman

7 Jumlah Website

8 Pengguna Internet

9 Pengguna Internet

10 Update Internet

11

12

13 Pertumbuhan Tahunan

14 Search Engine Market Share

15 6,586,013,574 Pencarian per-hari... Search Engine Pencarian per-hari Google 4,464,000,000 Bing 873,964,000 Baidu 583,520,803 Yahoo 536,101,505 Other (AOL, Ask dll.) 128,427,264

16 Search Engine: Google

17

18 Recommender System

19 Information Retrieval Information retrieval (IR) is finding material (usually documents) of an unstructured nature (usually text) that satisfies an information need from within large collections (usually stored on computers) [Manning, 2008]. Information retrieval (IR) is the activity of obtaining information resources relevant to an information need from a collection of information resources [Wikipedia].

20 Information Retrieval (IR) = Temu-Kembali Informasi (TKI)

21 IR itu Arsitektur Search Engine Query User Interface Caching Pages Sisi Online Kemiripan & Ranking Sisi Offline Inverted Index Halaman Tersimpan Statistika Situs & Halaman Pembangkit Index Pengurai Halaman Pembangkit Graf Web Graf Web Halaman Kata Tautan & Anchors Crawler Ranking Halaman Analisa Tautan Internet

22 Web Crawler Sisi Online Sisi Offline Inverted Index Halaman Tersimpan User Interface Caching Pages Indexing & Ranking Pembangkit Index Analisa Tautan Pengurai Halaman Pembangkit Graf Web Graf Web Halaman Query Kata Tautan & Anchors Fungsi Mengambil (Fetch) halaman web dengan mengikuti hyperlink Me-refresh halaman secara periodik Masalah Inti Bandwidth & storage terbatas vs. volume data sangat besar Frekuensi update halaman Solusi Ranking Halaman Prioritaskan crawling berdasarkan pada ranking halaman dan statistik lain Statistika Situs & Halaman Crawler Internet

23 Page Parser: Pengurai Halaman Web Sisi Online Sisi Offline Inverted Index Halaman Tersimpan Statistika Situs & Halaman Query User Interface Caching Pages Indexing & Ranking Pembangkit Index Pengurai Halaman Pembangkit Graf Web Graf Web Halaman Kata Tautan & Anchors Crawler Internet Fungsi Mengekstrak aliran data untuk indexing a. Title: kata-kata dalam <title> </title> b. URL c. Body Teks Anchor Ranking Halaman Teks Plain Analisa Tautan H1 6 Bold, Italic, etc Large, Medium, Small Membangun peta link parsial Mengirim hyperlink yang ditemukan ke crawler Masalah Inti Fitur apa yang akan diekstrak?

24 Pembangkit Index Query User Interface Caching Pages Fungsi Membangun inverted index berdasarkan pada data halaman yang telah diparse Sisi Online Sisi Offline Inverted Index Halaman Tersimpan Statistika Situs & Halaman Indexing & Ranking Pembangkit Index Pengurai Halaman Pembangkit Graf Web Graf Web Halaman Kata Tautan & Anchors Crawler Internet Ranking Halaman Analisa Tautan Masalah Inti Efisiensi vs. memory terbatas & terdistribusi Solusi Indexing terdistribusi Partisi berdasarkan dokumen, bukan partisi berdasarkan term

25 Relevansi & Ranking Sisi Online Sisi Offline Inverted Index Halaman Tersimpan Statistika Situs & Halaman Query User Interface Caching Pages Indexing & Ranking Pembangkit Index Pengurai Halaman Pembangkit Graf Web Graf Web Halaman Kata Tautan & Anchors Crawler Internet Masalah utama dalam IR dan telah dikaji puluhan tahun Fungsi Indexing: dengan cepat menemukan halaman yang mengandung term query Ranking: mengurutkan halaman sesuai dengan relevansi terhadap query Masalah Inti Kinerja: inverted list untuk suatu term hot mungkin Ranking ratusan megabyte. Analisa Tautan Halaman Akurasi: fungsi ranking dengan ratusan parameter: Teks Anchor Ranking halaman Term proximity TF*IDF Solusi Kinerja: Top-K query & index pruning Akurasi: Tuning atau learning?

26 Caching Query User Interface Caching Pages Fungsi Men-cache hasil dari query yang sering untuk menjawab ribuan query per detik dengan waktu respon interaktif Sisi Online Sisi Offline Inverted Index Halaman Tersimpan Statistika Situs & Halaman Indexing & Ranking Pembangkit Index Pengurai Halaman Pembangkit Graf Web Graf Web Halaman Kata Tautan & Anchors Crawler Masalah Inti Apa yang dicache? Ranking Halaman Solusi Analisa Tautan Cahing banyak level Level Query Level Term Internet

27 Tentang Saya Husni Web site : Husni.trunojoyo.ac.id husni@trunojoyo.ac.id Ruang kerja: Lab. SisTer, Teknik Informatika, UTM. Bidang Keahlian: Networking Web Application Development (Web) Text Mining (Retrieval) & Searching

28 Setelah Tutorial ini, Anda akan 1. Memahami pentingnya information retrieval 2. Memperoleh pengetahuan mengenai prinsip-prinsip dari daris sistem temu-kembali informasi 3. Memahami proses pembangunan search engine sederhana, mulai dari pre-processing s.d penanganan query pengguna 4. Memperoleh pemahaman dasar dari tiga paradigm IR Wajib: Model Boolean dan Ruang Vektor

29 Outline Apa itu IR? Representasi teks dalam sistem IR Model temu-kembali Boolean Model ruang vektor Temu-kembali Probabilitas klasik Pemodelan Bahasa untuk Sistem Temu-Kembali Perangkat (tools) IR

30 Referensi C. Manning, P. Raghavan and H. Schutze (2008) Introduction to Information Retrieval, Cambridge University Press Versi gratis tersedia di: Bruce Croft, Donald Metzler, Trevor Strohman (2010) Search Engines: Information Retrieval in Practice, Addison Wesley Edisi revisi (2015) tersedia gratis di: ciir.cs.umass.edu/downloads/seirip.pdf Husni.trunojoyo.ac.id

31

32 Apa itu Information Retrieval?

33 What is IR? Information retrieval (Wikipedia) The activity of obtaining information resources relevant to a user s information need from a collection of information resources. Elemen dari suatu sistem information retrieval: Kebutuhan informasi (need, diekspresikan oleh pengguna dalam bentuk query) Sumber daya informasi (resources, biasanya tak terstruktur (unstructured): text, images, video, audio, dll. Komponen untuk retrieval sumber daya relevan secara efisien terhadap kebutuhan informasi pengguna, biasanya dari koleksi besar sumber informasi.

34 Kebutuhan Informasi Kebutuan informasi adalah kemauan individu atau kelompok untuk mencari dan mendapatkan informasi untuk memenuhi kebutuhan sadar atau bawah sadar. Kebutuhan dan ketertarikan terhadap informasi. (Robert S. Taylor: The process of asking questions, 2007) Kebutuhan informasi tersebut diekspreskan melalui query Kata atau frasa dalam text information retrieval (misal: serangan ISIS ) Citra (image) dalam image content retrieval

35 Mengapa Text Information Retrieval? Repositori besar sumber informasi tak-terstruktur Perusahaan: dokumen teknis, kontrak bisnis Pemerintah: dokumentasi, regulasi, undang-undang Materi ilmiah: naskah penelitian (seperti di Google Scholar) Personal: buku, blog, , file-file World Wide Web: paling membutuhakan IR karena skala terbesar dari semua

36 Text Information Retrieval Sistem yang memerlukan analisis teks fokus pada text information retrieval dimana model-model berlainan: Dalam merepresetasikan daftar dokumen dan query Dalam cara menetapkan relevansi dari dokumen terhadap query Relevansi dari dokumen adalah skor yang paling sering dijadikan acuan (bukan keputusan biner) Daftar dokumen diranking sesuai dengan skor kedekatan (kemiripan) terhadap query Skor relevansi biasanya melibatkan elemen ketidakpastian

37 Area Kajian Disiplin IR Web Crawling: menghimpun data dari Web Esktraksi Data: mengambil informasi dan URL dari halaman web Preprocessing: menerapkan aturan bahasa untuk memudahkan proses IR dan meningkatkan kualitas relevansi Indexing: membuat index (pemetaan term ke daftar dokumen) Penanganan Query: mendapatkan dokumen yang relevan dengan Query (kebutuhan informasi pengguna) Klasifikasi dan Klasterisasi: kategorisasi secara terpandu dan tidak Rekomendasi: memberikan dokumen yang sesuai dengan kebutuhan/profil pengguna, berdasarkan kemiripan dokumen atau kemiripan pengguna Evaluasi sistem IR: Presisi, Recall, F-Measure

38 Representasi Teks dalam IR

39 Representasi Teks dalam IR Representasi Tak-Terstruktur (unstructured) Teks diwujudkan sebagai suatu himpunan term tak-berurut (sehingga disebut representasi bag-of-words) Cukup banyak penyederhanaan: mengabaikan sintaks dan semantik Meskipun terlalu sederhana, kinerja retrieval dapat memuaskan Representasi Semi Terstruktur Beberapa term tertentu dianggap lebih penting (term lain diturunkan atau diabaikan) Frasa benda (NP), entitas bernama (named entities), dll. Representasi Terstruktur Hampir tidak digunakan dalam konteks IR Teknik Information extraction (IE) tidak cukup akurat Model IE dapat makan banyak waktu - tidak dapat diterima di IR

40 Representasi Dokumen Tak-Terstruktur Potongan dokumen One evening Frodo and Sam were walking together in the cool twilight. Both of them felt restless again. On Frodo suddenly the shadow of parting had falling: the time to leave Lothlorien was near. Bag of words {(One, 1), (evening, 1), (Frodo, 2), (and, 2), (Sam, 1) (were, 1), (walking, 1), (together, 1), (in, 1), (the, 3), (cool, 1), (twilight, 1), (Both, 1), (of, 2), (them, 1), (felt, 1), (restless, 1), (again, 1), (On, 1), (suddenly, 1), (shadow, 1), (parting, 1), (had, 1), (falling, 1), (time, 1), (to, 1), (leave, 1), (Lothlorien, 1), (was, 1), (near,1)}

41 Representasi Dokumen Semi-Terstruktur 1. Potongan y dokumen One evening Frodo and Sam were walking together in the cool twilight. Both of them felt restless again. On Frodo suddenly the shadow of parting had falling: the time to leave Lothlorien was near. Bag of nouns {(evening, 1), (Frodo, 2), (Sam, 1), (twilight, 1), (shadow, 1), (parting, 1), (time, 1), (Lothlorien, 1)} Bag of named entity terms {(Frodo, 2), (Sam, 1), (Lothlorien, 1)}

42 Preprocessing Dua langkah preprocessing paling umum Normalisasi morfologis: stemming atau lemmatization Penghapusan stop-word Normalisasi morfologis Mengubah berbagai bentuk kata yang sama ke bentuk umum Penting bagi Bahasa yang kaya morfologi, termasuk Indonesia Stemming (misal automation automat) lebih sering digunakan daripada lemmatization (misal automation automate). Bahasa lebih sering lemmatization, bukan stemming. Penghapusan stop words Penghapusan term-term yang miskin maknaseperti articles, prepositions, conjunctions, pronouns, dll. Cukup menyimpan kata berisi: nouns, verbs, adjectives, adverbs English stop words: Kedua metode mereduksi kardinalitas dari himpunan dokumen berbentuk bag-of-words dan secara umum meningkatkan kinerja IR

43 Formalisasi dari Model IR Model Retrieval Dasar adalah triple (f d, f q, r) dimana: 1. f d adalah fungsi yang memetakan dokumen ke representasi untuk retrieval, yaitu f d (d) = x d, dimana x d adalah representsi retrieval dari dokumen d, 2. f q adalah fungsi yang memetakan query ke representasi retrievalnya, yaitu f q (q) = x q, dimana x q adalah wujud retrieval dari query q, 3. r adalah fungsi ranking (pemeringkatan) Melibatkan representasi dokumen p d dan query p q Menghitung bilangan real untuk menunjukkan relevansi potensial dari dokumen d untuk query q berdasarkan p d dan p q relevansi(d, q) = r(f d (d), f q (q)) = r(x d, x q )

44 Term di Indeks & Bobotnya Index term adalah semua term dalam koleksi (atau kamus) Himpunan semua term K = {k 1, k 2,, k t }, dimana t adalah jumlah dari term Untuk setiap dokumen d j, setiap term k i diberikan suatu bobot w ij Bobot dari term yang tidak muncul dalam dokumen adalah 0 Dokumen d j direpresentasikan oleh vektor term [w 1j,w 2j, : : :,w tj ] Misalnya g adalah fungsi yang menghitung bobot, yaitu w ij = g(k i, d j ) Pilihan berbeda terhadap fungsi komputasi bobot g dan fungsi ranking r mendefinisikan model IR berbeda

45 Cara Kerja Sistem IR Cara Kerja Sistem IR

46 Indexing Dokumen Asli yang di-index Friends, Romans, About, You, Caesar, Countrymen Hapus tanda baca Ambil kata (term) Perubahan ke huruf kecil Penghapusan stop-word sinonimisasi stemming Petakan setiap term ke nomor dokumen Tokenizer Modul-modul Linguistik Indexer Aliran Token Friends Romans About You Caesar Countrymen Token hasil perubahan friend roman caesar countryman Inverted Index friend roman 1 2 caesar 3 17 countryman

47 Paradigma IR Model Information retrieval secara garis besar dibagi ke dalam 3 paradigma: Model teori himpunan Boolean model Extended Boolean model Model aljabar Vector space model Latent semantic indexing Model probabilistik Classic probabilistic model Language model Selain itu, ada model IR yang memanfaatkan algoritma analisis tautan (misalnya PageRank, HITS di Google) Biasanya digunakan dalam web retrieval yang dokumennya di (hyper)linked

48 Model Temu-Kembali Boolean

49 Model Retrieval Boolean Dokumen direpresentasikan sebagai bags of words Bobot term semuanya biner - w ij {0, 1} w ij = 1 iff term k i dapat ditemukan di dalam bag of words dari dokumen d j Query q diberikan sebagai formula logika proporsional terhadap term Term-term dihubungkan oleh operator Boolean (, ), dapat dinegasikan ( ) Setiap query q dapat diubah menjadi disjunctive normal form (DNF), q = q c1 q c2 q cn, dimana q cl adalah komponen ke-l dari DNF q Relevansi dokumen d j terhadap query q dihitung dengan rumus

50 Contoh Temu-Kembali Boolean Perhatikan himpunan term berikut: K = {Frodo, Sam, blue, sword, orc, Mord} Seandainya kita mempunyai dokumen berikut: d1: Frodo stabbed the orc with the red sword" d2: Frodo and Sam used the blue lamp to locate orcs" d3: Sam killed many orcs in Mordor with the blue sword" Dokumen mana yang relevan dengan query berikut? q1: (Frodo orc sword) (Frodo blue) {d1, d2} q2: (Sam blue) (Sam orc Mordor) {d2, d3}

51 Boolean Retrieval - Inverted Index Struktur data untuk komputasi retrieval yang efisien Inverted file berisi daftar rujukan ke dokumen untuk semua term Untuk koleksi D berisi dokumen berikut: d1: Frodo and Sam stabbed orcs." d2: Frodo stabbed the orc with the sword." d3: Sam stole Frodo's sword." Kita mempunyai inverted index berikut: L( Frodo") = {d1, d2, d3} L( Sam") = {d1, d3} L( orc") = {d1, d2} L( stab") = {d1, d2} L( sword") = {d2, d3} L( stole") = {d3}

52 Boolean Retrieval - Inverted Index Full inverted index juga menyimpan posisi setiap term dalam suatu dokumen Contoh Frodo": {(d1, 1), (d2, 1), (d3, 3)} Inverted index memungkinkan penanganan query Boolean via irisan dan gabungan himpunan q: (Frodo stab) (Sam orc) Hasilnya diperoleh dengan kpmputasi: rel (D, q) = (L( Frodo") L( stab")) (L( Sam") L( orc")) = ({d1, d2, d3} {d1, d2}) ({d1, d3} {d1, d2}) = {d1, d2} {d1} = {d1, d2}

53 Model Temu-Kembali Boolean Kelebihan Hanya satu: kesederhanaan (efisiensi komputasi) Popular di awal sistem IR komersil (seperti Westlaw) Kekurangan Mewujudkan kebutuhan informasi sebagai ekspresi bolean tidak intuitif Model murni (asli) No ranking: dokumen dihukumi relevan atau tak-relevan Kepentingan relative dari term diabaikan Model Extended Boolean: varian model Boolean yang melibatkan pengerjaan parsial dari ekspresi Boolean

54 Model Ruang Vektor (Vector Space Model)

55 Model Ruang Vektor Dokumen dan query direpresentasikan sebagai vektor dari term-term Bobot adalah bilangan pecahan > 0 dj = [w 1j, w 2j,, w tj ] q = [w 1q, w 2q,,, w tq ] Relevansi dari dokumen terhadap query diestimasi dengan menghitung jarak atau kemiripan antara dua vektor Metrik jarak: Euclidean, Manhattan, dll. Lebih relevan saat jarak semakin kecil Metrik kemiripan: Cosine, Dice, dll. Lebih relevan ketika kemiripan makin besar

56 Model Ruang Vektor: Metrik Jarak 1. Euclidean distance 2. Manhattan distance

57 Model Ruang Vektor: Metrik Kemiripan 3. Cosine similarity 4. Dice similarity

58 Model Ruang Vektor: Pembobotan Term Berapa bobot w ij dari term-term untuk dokumen yang dihitung? Dua asumsi intuitif: 1. Relevansi dari suatu term terhadap dokumen adalah sebanding dengan frekuensinya dalam dokumen tersebut (komponen term frequency = tf) Lebih sering lebih relevan 2. Relevansi suatu term terhadap suatu dokumen berbanding terbalik dengan jumlah dokumen dalam koleksi yang dirinya hadir (komponen inverse document frequency = idf) Makin umum di lintas dokumen makin kurang relevan (contoh stopwords seperti the")

59 VSM: Skema Pembobotan Skema pembobotan Biner Tidak benar-benar sekema pembobotan Mengabaikan dua asumsi tersebut w ij = 1 iff dokumen d j mengandung term k i Skema pembobotan TF-IDF Bobot dihitung sebagai perkalian dari komponen term frequency dan inverse document frequency-nya Salah satu skema popular:

60 Latihan: Perhitungan Kemiripan dalam SVM Koleksi terdiri dari N=3 dokumen: d1: new york times d2: new york post d3: los angeles times Suatu saat, ada query: new new times. Dokumen mana yang paling relevan dengan query tersebut? Rankingkan! w t,d 1 log10 tft,d, if tft,d 0 0, otherwise idft log10 N/df t

61 Gunakan Skema Popular Pembobotan term: Normalisasi panjang: Kemiripan query q dengan dokumen d, dalam model ruang vektor, menggunakan cosine similarity: i i x x 2 2 t d t N d t df / log ) log tf (1 w,, V i i V i i V i i i d q q d d d q q d q d q d q ), cos(

62 Contoh Pencarian Dokumen Relevan Koleksi dokumen (corpus): d1 = Three quarks for Master Mark d2 = The strange history of quark cheese d3 = Strange quark plasmas d4 = Strange Quark XPress problem

63 Terbentuk Inverted Index Sederhana Lexicon dan inverted index: three {d1} quark {d1, d2, d3, d4} master {d1} mark {d1} strange {d2, d3, d4} history {d2} cheese {d2} plasma {d3} xpress {d4} problem {d4}

64 Dokumen Mana Paling Relevan Jika terdapat Query: strange AND quark AND NOT cheese Himpunan hasil: {D2, D3, D4} {D1, D2, D3, D4} {D1, D3, D4} = {D3, D4}

65 Latihan Menghitung Bobot Term: tf.idf Jika terdapat koleksi 8 dokumen berikut: d 1 = Introduction to Expert Systems d 2 = Expert System Software: Engineering and Applications d 3 = Expert Systems: Principles and Programming d 4 = The Essence of Expert Systems d 5 = Knowledge Representation and Reasoning d 6 = Reasoning About Uncertainty d 7 = Handbook of Knowledge Representation d 8 = Expert Python Programming Berapa bobot term knowledge dalam dokumen d 5?

66 Contoh VSM: Cosine Similarity Q: gold silver truck D1: Shipment of gold damaged in a fire D2: Delivery of silver arrived in a silver truck D3: Shipment of gold arrived in a truck

67