PENYEDERHANAAN PEMETAAN STRUKTUR KETERGANTUNGAN VARIABEL MENGGUNAKAN TEKNIK PRINSIPAL KOMPONEN

Transkripsi

1 ABSTRAK PENYEDERHANAAN PEMETAAN STRUKTUR KETERGANTUNGAN VARIABEL MENGGUNAKAN TEKNIK PRINSIPAL KOMPONEN Mike Susmikanti *) PENYEDERHANAAN PEMETAAN STRUKTUR KETERGANTUNGAN VARIABEL MENGGUNAKAN TEKNIK PRINSIPAL KOMPONEN. Struktur pengamatan dari banyak variabel dapat dianalisis dengan perhitungan korelasi. Analisa struktur ketergantungan masing-masing variabel dilakukan, agar dapat memetakan aturan pasti untuk variabel-variabel yang bersangkutan. Persoalan yang dijumpai dalam salah satu aplikasi pengolahan citra mengenai struktur ketergantungan variabel apabila pengamatan variabel bebas yang satu berkoresponden dengan variabel lain sebanyak k variabel dan n pengamatan. Pemetaan struktur ketergantungan variabel akan lebih kompleks yaitu struktur dalam dimensi-n dengan subruang dimensi-k. Dalam persoalan penyederhanaan struktur tersebut, disarankan menggunakan tehnik prinsipal komponen yang metodologinya didasarkan pada rata-rata taksiran bidang dengan orthogonal least square yang kemudian dikembangkan untuk alasan lebih umum dengan struktur analisa korelasi. Komputasi analisis eigen dan singular value decomposition dilakukan untuk membentuk suatu dekomposisi serupa terhadap data pengamatan. Singular value decomposition merupakan tahapan pertama dalam analisis prinsipal komponen. Komputasi selanjutnya, membentuk vektor prinsipal komponen yang akan digunakan untuk pemetaan lokasi dalam ruang dimensi yang lebih sederhana. ABSTRACT The Simplification of the Mapping of Variable Dependence Structure Using Component Principle Technique. Observation structure of many variables can be analyzed using correlation calculation. The analysis of dependence variable structure of each variable is done in order to be able to map a certain rule for the dependence variable. A problem we meet in one of the applications of image processing concerning variable dependence structure when one independent variable observation corresponds with k variables in n observations. The mapping of variable dependence structure will be more complex, i.e. structure in n-dimensions with a subspace of k-dimensions. In the problem of the structure simplification, it is recommended to use component principle technique where its methodology is based on the average of fitting planes by orthogonal least square, but developed for partical purpose of analyzing correlation structures. The eigenanalysis computation and singular value decomposition used to develop a similar decomposition for observations data. Singular value decomposition is the first step then used in component principle analyses. The next computation, developed the component principle vector wich will be used for location mapping in more simply dimension space. *) Pusat Pengembangan Teknologi Informasi dan Komputasi

2 Pendahuluan Struktur pengamatan dari banyak variabel dapat dianalisis dengan menggunakan korelasi parsial dan korelasi ganda untuk menganalisa struktur ketergantungan dari populasi dengan banyak variabel bebas yang mempunyai sebaran normal. Analisis korelasi parsial diperlukan untuk memutuskan yang mana variabel yang berkorelasi dan yang mana variabel yang konstan. Sedangkan korelasi ganda mengharapkan bahwa satu variabel menjadi tidak bebas terhadap beberapa atau semua variabel yang lain. Pilihan analisis tergantung pada keadaan alamiah dari variabel-variabel tersebut dan informasi eksternal lain. Kesimpulan kita untuk dapat menggambarkan tentang struktur ketidakbebasan variabel tergantung berdasarkan pilihan tersebut diatas. Persoalan yang dijumpai dalam aplikasi pengolahan citra adalah apabila pengamatan variabel yang satu berkoresponden dengan pengamatan pada variabel-variabel lain. Apabila terdapat k variabel bebas yang mempengaruhi dengan n pengamatan, maka pemetaan struktur ketergantungan variabel akan lebih kompleks yaitu struktur dalam ruang dimensi-n dengan subruang dimensi-k. Untuk keperluan hal tersebut yaitu dalam persoalan penyederhanaan struktur disarankan menggunakan tehnik prinsipal komponen. Analisis struktur ketergantungan variabel berdasarkan pada taksiran secara statistik dari koefisien fungsi. Metodologi Tehnik prinsipal komponen didasarkan atas taksiran rata-rata bidang (orthogonal least square) yang selanjutnya dikembangkan untuk alasan lebih umum dengan struktur analisa korelasi. 2

3 Dekomposisi matriks Prinsipal komponen dari pengamatan banyak variabel mempunyai distribusi multivariat dengan rata-rata dalam bentuk vektor (terdiri dari beberapa komponen) dan matrikss kovarian. Asumsi bahwa rata-rata dan matriks kovarian ada. Taksiran dari matriks kovarian dinyatakan sebagai sampel matriks kovarian. Matriks data dinyatakan sebagai X n x p, n menyatakan banyak pengamatan bebas dan p adalah banyak variabel tidak bebas. X T X merupakan matriks order p x p yang simetris dan bujur sangkar. Secara matematik, matriks yang tidak mempunyai rank penuh p, mempunyai akar ciri atau akar karakteristik berbeda. ë 2 i adalah akar ciri dan ë i merupakan akar yang positif dari akar ciri disebut nilai-singular (singular value). Z i adalah kolom-kolom atau vektor ciri-vektor ciri. Rank dari matriks kovarian didefinisikan dengan r, dimana r p dengan akar ciriakar ciri q yaitu ë 2 1 >.. > ë 2 q. Sebelumnya nilai X ij ditransformasi ke nilai standar x ij = (X ij xj )/s j, apabila data pengamatan dari masing-masing variabel bebas mempunyai satuan yang berbeda. Matriks Z = (z 1, z 2,, z n ) dinyatakan sebagai matriks dari vektor ciri, yang memenuhi Z T Z = I. Jika L merupakan matriks diagonal, maka dekomposisi dari suatu matriks X T X adalah ZLZ T = Σë 2 i (z i z T i ). 3

4 Singular Value Decomposition Singular Value Decomposition merupakan tahap pertama dalam analisis prinsipal komponen. Analisis digunakan untuk membentuk dekomposisi serupa yang disebut dengan singular value decomposition. Jika X suatu matriks data dengan order n x p dimana n > p. X T X merupakan matriks simetris kuadrat dengan order p x p yang ingin dicari akar cirinya, maka X T X = ZLZ T (1), L adalah matriks dengan unsur-unsur akar ciri dan Z matriks vektor ciri. XX T adalah matriks simetris kuadrat dengan order n x n. Rank dari X T X paling banyak adalah p sehingga akan terdapat paling banyak p akar ciri yang tidak nol. Pada prinsipnya akar ciri yang diperoleh dari matriks XX T adalah sama seperti akar ciri pada matriks X T X. Terdapat (n-p) akar ciri dan (n-p) vektor kolom yang diabaikan. Apabila U menyatakan matriks dari vektor ciri yang berkoresponden dengan p akar ciri seperti dalam matriks X T X. Setiap vektor ciri u i mempunyai order n x 1 yang memenuhi persamaan berikut; XX T = ULU T (2) 4

5 Dari persamaan (1) dan (2) diperoleh; X = UL 1/2 Z T (3) Bentuk persamaan (3) adalah singular value decomposition dari matriks X. L 1/2 adalah matriks diagonal dengan unsur-unsurnya adalah nilai-singular dari matriks X T X. Adapun L 1/2 L 1/2 = L. Unsur-unsur matriks L 1/2 dinyatakan dengan ë i yang merupakan nilai-nilai singular, dengan memperhatikan vektor kolom matriks U dan vektor-vektor singular Z. Jika L 1/2 adalah suatu matriks diagonal, maka singular value decomposition yang dinyatakan dengan X merupakan matriks rank-1 sebagai berikut; p X = i= 1 ë i u i z i T (4) Apabila akar ciri diurutkan dari terbesar sampai dengan yang terkecil, maka matriks yang pertama yaitu matriks rank-1 adalah matrik terbaik yang mendekati X. Jumlah dua matriks pertama adalah matriks rank-2 yang terbaik sebagai pendekatan X dan seterusnya. Pendekatan taksiran terbaik untuk urutan pertama yang diberikan dalam hal ini merupakan perbandingan dari nilai akar ciri pertama ë 1 atau kuadrat dari nilai singular terhadap jumlah akar ciri seluruhnya. Jadi pendekatan rank-1 merupakan kecocokan 2 terbaik dari ë i / Σë 2 i, sedangkan pendekatan rank-2 merupakan kecocokan terbaik dari (ë ë 2 2 ) / Σ ë 2 i, dan seterusnya. 5

6 Analisis Prinsipal Komponen Dalam analisis prinsipal komponen suatu matriks data X; dengan menggunakan hasil X = UL 1/2 Z T dimana Z T Z = I, maka dapat dibentuk suatu matriks berikut; W n x p = XZ = UL 1/2 (5) Kolom pertama dari Z adalah vektor ciri pertama dari X T X. Koefisien dalam vektor ciri pertama mendefinisikan fungsi linier dari kolom X (variabel asli) yang dinyatakan dalam kolom pertama W. Kolom kedua W diperoleh dengan menggunakan vektor ciri kedua dari X T X dan seterusnya. W T W = L, W adalah suatu matriks dengan order n x p yang tidak sama dengan X, bersifat bahwa semua kolom-kolomnya adalah ortogonal. Sedangkan L adalah suatu matriks diagonal demikian sehingga semua unsur diluar diagonal utamanya, yaitu penjumlahan dari perkalian antar kolom W adalah nol. Jumlah kuadrat dari kolom ke i matriks W adalah ë 2 i, yang merupakan unsur diagonal ke i dari matriks L. Jadi jika X adalah suatu matriks n x p dengan n pengamatan dan p variabel, tiap kolom dari W adalah variabel baru yang didefinisikan sebagai transformasi linier dari variabel bebas. Kolom-kolom W adalah komponen prinsipal atau disebut dengan nilainilai prinsipal komponen. Prinsipal komponen pertama dari sample variabel yang kompleks X 1,,X p adalah komposisi linier yang dinyatakan dengan; 6

7 Y 1 = a 11 X a p1 Xp (6) dimana koefisien a i1 adalah unsur-unsur dari vektor ciri ë 2 1 yang berhubungan dengan akar ciri terbesar pada matriks kovarian. Koefisien a i1 adalah unik demikian sehingga a T 1 a 1 = 1. Transformasi adalah kumpulan variabel ortogonal demikian sehingga prinsipal komponen pertama menghitung kemungkinan terbesar jumlah dari total sebaran, yang diukur dengan ë 2 1. Prinsipal komponen kedua adalah komposisi linier; Y 2 = a 12 X a p2 X p (7) yang memenuhi batasan a T 2 a 2 = 1 dan a T 1 a 2 = 0. Prinsipal komponen kedua menghitung kemungkinan terbesar jumlah sisa sebaran ë 2 2 dan seterusnya. Total sebaran adalah jumlah dari semua akar ciri, yang sama dengan jumlah kuadrat variabel bebas tr(x T X) = tr(w T W) = Σ ë 2 i. Pembahasan Untuk persoalan berikut, Matriks X adalah data hasil pengamatan yang telah distandarisasi untuk beberapa variabel bebas dikarenakan variabel tersebut mempunyai satuan ukuran yang berbeda. Adapun variabel yang diamati antara lain menunjukkan rata- 7

8 rata temperatur minimum per hari (X 1 ), rata-rata temperatur maksimum per hari (X 2 ), total turun hujan (X 3 ) dan tingkat total pertumbuhan perhari (X 4 ) dalam enam lokasi. X = X T = X T X = Dari persamaan X T X = ZLZ T, diperoleh matriks vektor ciri z; Z = X T X = dan matriks akar ciri L yang merupakan matriks diagonal; 8

9 L = Matrix diagonal untuk nilai-nilai singular L 1/2 ; L 1/2 = XX T = Dari persamaan X T X = ULU T, diperoleh matrix U yang merupakan matriks vektor ciri dari XX T ; U =

10 Pendekatan rank-1 yang dinyatakan dengan variabel X 1 memberikan pendekatan terbaik untuk X dimana X 1 = ë 1 u 1 z T 1. Kolom pertama dari U yaitu u 1 dan kolom pertama dari Z yaitu z 1 serta nilai singular pertama ë 1 = memberikan nilai X 1 sebagai berikut; X 1 = ( ) ( ) X 1 = Kecocokan terbaik dari X 1 terhadap X diukur dengan ë 2 1 / Σë 2 i = (1,49053) 2 /4 = 2,238/4 = 0,56; atau jumlah kuadrat dari perbedaan diantara unsur-unsur X dengan X 1. Berarti terdapat 44% selisih kecocokan dari total jumlah kuadrat unsur-unsur dalam X. Hal ini bukanlah merupakan pendekatan yang baik. Pendekatan rank-2 dari X diperoleh dengan menambahkan matriks X 1 dengan T matriks X 2 = ë 2 u 2 z 2 10

11 X 2 = ( ) ( ) X 2 = X 1 + X 2 = Pendekatan X dengan matriks rank-2 yang dinyatakan dengan matriks X 1 +X 2 adalah (ë 2 1 +ë 2 2 )/ Σëi 2 = ((1,4905) 2 + (1,2432)) 2 /4 = 0,948 = 0,95. Berarti terdapat selisih kecocokan sebesar 5% diantara X dengan (X 1 + X 2 ). Hal ini sudah merupakan pendekatan yang baik. Jadi Jumlah kuadrat dari semua unsur dalam X adalah Σë 2 i. Jumlah kuadrat dari semua unsur dalam (X 1 + X 2 ) adalah (ë ë 2 2 ), dan jumlah kuadrat dari semua unsur dalam {X-(X 1 +X 2 )} adalah (ë ë 4 2 ). Jumlah kuadrat dari masing-masing prinsipal 11

12 2 komponen (akar ciri) pertama adalah ë 1 = 2,2407, dan jumlah kuadrat untuk prinsipal komponen kedua, ketiga dan keempat masing-masing ë 2 = 1,5498, ë 3 = 0,2062, ë 4 = (gambar-1). Keseluruhan nilai akar ciri berjumlah 4. Dengan cara yang sama diperoleh nilai proporsi berturut-turut untuk ë 2 i adalah 0,56; 0,387; 0,052 dan 0,001 dan nilai kumulatifnya adalah 0,56; 0,947; 0,999 dan 1,000 (tabel-1). Walaupun untuk pendekatan matriks rank-3 akan memperoleh kecocokan yang lebih baik, tetapi untuk pendekatan rank-2 sudah cukup baik. Selanjutnya setelah tahap pertama dengan dekomposisi melalui nilai singular maka dilakukan analisis prinsipal komponen. Vektor prinsipal komponen diperoleh dengan persamaan; atau W = UL 1/2 W = XZ. Diperoleh matriks W sebagai berikut; W =

13 Secara geometri, nilai kecocokan terbaik 0,95 yang diperoleh memberi arti bahwa 95% penyebaran titik dalam empat dimensi secara kenyataan hanya mengandung dua dimensi atau titik-titik dalam empat dimensi dapat didekati pada suatu bidang. Berarti hanya 5% penyebaran yang hilang jika dimensi ketiga dan keempat diabaikan dan mudah interpertasinya dalam plot data. Setiap vektor data dalam X merupakan suatu vektor dalam ruang dimensi-6 dan empat vektor yang didefinisikan sebagai sub-ruang dimensi-4. Vektor-vektor ini tidak ortogonal. Empat vektor dalam W, yang merupakan vektor prinsipal komponen adalah fungsi linier dari vektor-vektor aslinya dan mereka berada dalam ruang vektor dimensi-4. Vektor-vektor prinsipal komponen adalah ortogonal dan didefinisikan demikian sehingga vektor prinsipal komponen mempunyai kemungkinan terbesar. Arah sumbu prinsipal komponen pertama merupakan sumbu utama dengan absis nilai unsur w 1 yang berpasangan dengan nilai unsur w 2 sebagai sumbu kedua atau ordinat yang keseluruhannya membentuk elipsoida (gambar-2). Variabilitas diantara enam lokasi dalam rata-rata temperatur minimum, rata-rata temperatur maksimum, total hujan turun dan total tingkat pertumbuhan dapat disederhanakan dengan hanya memandang dua dimensi (atau variabel) yang didefinisikan oleh prinsipal komponen pertama dan prinsipal komponen kedua (gambar-2). Komponen prinsipal pertama terutama merefleksikan rata-rata temperatur. Komponen prinsipal kedua merupakan suatu ukuran dari total hujan turun dikurangi sebaran diantara temperatur maksimum dan minimum. 13

14 Akar ciri 2,2407 1,5498 0,2062 0,0034 Proporsi 0,56 0,387 0,052 0,001 Nilai Kumulatif 0,56 0,948 0,999 1,000 Tabel-1 : Analisis Ciri Matrik Korelasi 2 Akar ciri Nomer Komponen Gambar-1 : Nilai akar ciri untuk masing-masing komponen Prinsipal komponen-2 x Lokasi-5 x Lokasi-3 x Lokasi-6 W 2 0 x Lokasi-4 14

15 - 0.5 x Lokasi x Lokasi W 1 Prinsipal komponen-1 Gambar-2 : Dua prinsipal komponen yang pertama dari data rata-rata temperatur minimum, rata-rata temperatur maksimum, total hujan turun dan tingkat pertumbuhan per hari untuk enam lokasi. Kesimpulan 1. Pengamatan dengan banyak variabel bebas yang berkoresponden, dapat disederhanakan struktur ketergantungannya dalam dimensi-2 menggunakan tehnik prinsipal komponen berdasarkan taksiran kuadrat terkecil pada bidang. 15

16 2. Pembentukan matriks akar ciri dan vektor ciri sangat diperlukan dalam tehnik prinsipal komponen untuk membentuk dekomposisi data pengamatan yang serupa. 3. Single value decomposition digunakan sebagai tahap pertama dalam tehnik prinsipal komponen. Daftar Pustaka 1. Graybill, Franklin A., Introduction to Matrices with Applications in Statistics, Wadsworth Publishing Company, Inc., Belmont, California (1969) 2. Morisson, Donald F., Multivariate Statistical Methods, McGraw-Hill Int. Book Company, Tokyo, Japan (1981) 3. Rawlings, John O., Applied Regression Analysis: A Research Tool, Wadsworth & Brooks/Cole Advanced Books & Software, Pacific Grove, California (1988) 16