Canonical Correlation. I Made Sumertajaya

Transkripsi

1 Canonical Correlation I Made Sumertajaya

2 Pendahuluan Hubungan antar variabel yang telah dikenal: Dua arah 1 var dependen vs 1 var independen korelasi sederhana (simple correlation): pearson, spearman, tau kendall; tabel kontingensi (contingency table): uji khikuadrat, analisis korespondesi (correspondency analysis) 1 var dependen vs >1 var dependen korelasi parsial (parsial correlation), korelasi ganda (multiple correlation), tabel multi arah: analisis korespondensi ganda (multiple correspondency analysis)

3 Pendahuluan: lanjutan Hubungan antar variabel yang telah dikenal: Satu arah 1 var dependen vs 1 var independen Analisis regresi sederhana (simple regression analysis); Analisis perancangan percobaan: faktor tunggal; dll 1 var dependen vs >1 var dependen Analisis regresi berganda (multiple regression analysis); Analisis perancangan percobaan: faktorial, split-plot; dll

4 Apa itu korelasi kanonik? Mengkaji hubungan antar gugus var dependen dengan gugus var independen Mengkaji struktur setiap gugus var baik indepen maupun dependen Y1, Y,, Yp X1, X,, Xq Fungsi Kanonik Y: Kombinasi linier Dari Y1,, Yp Fungsi Kanonik X: Kombinasi linier Dari X1,, Xq Cari korelasi maksimum

5 Tahapan Analisis Korelasi Kanonik Rumuskan Masalah Validasi hasil Disain Pengumpulan data Interpretasi hasil Cek Asumsi T - Eksplorasi data - Transformasi Y -Duga fungsi kanonik -Hitung ukuran kesesuaiannya

6 Asumsi Beberapa asumsi yang harus diperhatikan dalam analisis korelasi kanonik yaitu: a. Korelasi antar peubah asal didasarkan pada hubungan linier b. Korelasi kanonik adalah hubungan linier antar variate c. Multivariate normal (normal ganda), asumsi ini diperlukan pada saat melakukan pengujian terhadap fungsi kanonik.

7 Pendugaan Fungsi Kanonik Misal, gugus peubah dependen Y 1, Y,, Y p dan gugus peubah independen X 1, X,, X q. Misalkan, karakteristik dari vektor peubah acak X dan Y adalah sebagai berikut: E(Y) = Y Cov(Y)= Y.Y E(X) = X Cov(Y)= X.X Cov(X,Y) = X.Y = Y.X

8 Pendugaan Fungsi Kanonik: lanjutin Kombinasi linier dari kedua gugus peubah tersebut dapat dituliskan sebagai berikut: U = a X = a 1 X 1 + a X +. + a q X q V = b Y = b 1 Y 1 + b Y +. + b p Y p Sehingga, Var (U) = a Cov(X)a = a X.X a Var (V) = b Cov(Y)b = b Y.Y b Cov (U,V) = a Cov(X,Y) b = a X.Y b Dari sini kita mencari vektor koefesien a dan b sehingga korelasinya maksimum, Corr( U, V ) a' a' X. X a X, Y b b' Y. Y b

9 Pendugaan Fungsi Kanonik: lanjutin Definisi: Peubah kanonik pertama: korelasi terbesar pertama U 1 = a 1 X Var(U 1 ) = 1 V 1 = b 1 Y Var(V 1 ) = 1 Maksimum Corr(U1,V1) = 1 Peubah kanonik kedua: korelasi terbesar kedua U = a X Var(U ) = 1 Cov(U 1,U ) = 0 Cov(U 1,V )=Cov(U,V 1 )=0 V = b Y Var(V ) = 1 Cov(V 1,V ) = 0 Maksimum Corr(U,V ) = Peubah kanonik ke-k: U = a k X Var(U k ) = 1 Cov(U k,u l ) = 0, kl Cov(U k,v l )= 0, kl V = b k Y Var(V k ) = 1 Cov(V l,v k ) = 0, kl Maksimum Corr(U k,v k ) = k

10 Pendugaan Fungsi Kanonik: lanjutin Dengan menggunakan ketaksamaan Cauchy-Schwarz atau metode langrange maka diperoleh: (Pembuktiannya dapat dilihat Johnson, 1988 hal 441) 1 > > > p adalah akar ciri-akar ciri (eigenvalues) dari matriks 1/ 1 1/ YY YX XX XY YY yang berpadanan dengan vektor ciri 1 f, f,, p f. 1 > > > p juga merupakan akar ciri-akar ciri (eigenvalues) 1/ 1 1/ XX XY YY YX XX yang berpadanan dengan vektor ciri e 1, e,, e p. Sehingga vektor koefesien a dan b diperoleh sebagai berikut: dari matriks a a 1... a p e 1 e e p 1/ XX 1/ XX 1/ XX b1 f1 b f... b p f p 1/ YY 1/ YY 1/ YY

11 Ukuran Kesesuaian Fungsi Kanonik (1). Proporsi keragaman R Z X U1,..., U r r q i k 1 1 q r r U Z i X k R Z V1,..., V Y r r p i k 1 1 p r r V Z i Y k (). Inferensia (i). Apakah secara keseluruhan peubah kanonik berhubungan? Bentuk hipotesisnya sebagai berikut: H 0 : XY = 0 vs H 1 : XY 0 Hipotesis nol ditolak jika nilai berikut besar, S XX SYY ln nln nln S i1 p 1 ˆ i p 1 ˆ i ( n 11/ ( p q 1)) ln ( ) i1 pq

12 Ukuran Kesesuaian Fungsi Kanonik: lanjutan (ii). Apakah ada sebagian peubah kanonik berhubungan? Hipotesisnya dapat dituliskan sebagai berikut: H0: 1 0,, k 0, k+1 = 0,., p = 0 H1: i 0 untuk beberapa i > k Tolak hipotesis nol pada taraf, jika p 1 ˆ i ( n 11/ ( p q 1)) ln ( ) ik 1 ( pk )( qk )

13 Interpretasi Koefesien kanonik yaitu a dan b yang telah dibakukan dapat diinterpretasikan sebagai besarnya kontribusi peubah asal terhadap variate kanonik. Loading kanonik dapat dihitung dari korelasi antara peubah asal dengan masing-masing fungsi kanonik.

14 Validasi a. Membagi sampel menjadi dua bagian, bagian pertama digunakan untuk menduga fungsi kanonik dan bagian kedua digunakan sebagai validasi. b. Analisis sensitivitas untuk peubah-peubah independen, yaitu dengan membandingkan loading kanonik apabila salah-satu dari peubah independen disisihkan dari analisis.

15 Ilustrasi Hubungan antara pengeluaran dengan karakteristik rumah tangga (penelitian mahasiswa pasca sarjana, 000)

16 Program SAS options ps=100 ls=76 nonumber nodate; title ' '; data dt; input id$ y1 y y3 y4 x1 x x3 x4; label y1='jumlah kartu kredit' y='pengeluaran untuk konsumsi (Rp)' y3='pengeluaran untuk sandang (Rp)' y4='pengeluaran lain-lain' x1='jumlah anggota keluarga' x='pendidikan (tahun)' x3='pendapatan per bulan (Rp)' x4='umur (tahun)'; cads; Id_ Id_ dst -- ; Title1 'Hasil Analisis Korelasi Kanonik'; proc cancorr redundancy ncan=3 corr data=dt; var y1-y4; with x1-x4; run;

17 Hasil Analisis Korelasi antar variabel Correlations Among the Original Variables Correlations Among the VAR Variables y1 y y3 y4 y y y y Correlations Between the VAR Variables and the WITH Variables x1 x x3 x4 y y y y

18 Hasil Analisis: lanjutan Korelasi Kanonik Canonical Correlation Analysis Adjusted Approximate Squared Canonical Canonical Standard Canonical Correlation Correlation Error Correlation

19 Hasil Analisis: lanjutan Inferensia Eigenvalues of Inv(E)*H = CanRsq/(1-CanRsq) Eigenvalue Difference Proportion Cumulative Test of H0: The canonical correlations in the current row and all that follow are zero Likelihood Approximate Ratio F Value Num DF Den DF Pr > F < < < Multivariate Statistics and F Approximations S=4 M=-0.5 N=45 Statistic Value F Value Num DF Den DF Pr > F Wilks' Lambda <.0001 Pillai's Trace <.0001 Hotelling-Lawley Trace <.0001 Roy's Greatest Root <.0001 NOTE: F Statistic for Roy's Greatest Root is an upper bound.

20 Hasil Analisis: lanjutan Fungsi Kanonik Standardized Canonical Coefficients for the VAR Variables V1 V V3 y1 Jumlah kartu kredit y Pengeluaran untuk konsumsi (Rp) y3 Pengeluaran untuk sandang (Rp) y4 Pengeluaran lain-lain Standardized Canonical Coefficients for the WITH Variables W1 W W3 x1 Jumlah anggota keluarga x Pendidikan (tahun) x3 Pendapatan per bulan (Rp) x4 Umur (tahun)

21 Hasil Analisis: lanjutan Loading kanonik Correlations Between the VAR Variables and Their Canonical Variables V1 V V3 y1 Jumlah kartu kredit y Pengeluaran untuk konsumsi (Rp) y3 Pengeluaran untuk sandang (Rp) y4 Pengeluaran lain-lain Correlations Between the WITH Variables and Their Canonical Variables W1 W W3 x1 Jumlah anggota keluarga x Pendidikan (tahun) x3 Pendapatan per bulan (Rp) x4 Umur (tahun) Correlations Between the VAR Variables and the Canonical Variables of the WITH Variables W1 W W3 y1 Jumlah kartu kredit y Pengeluaran untuk konsumsi (Rp) y3 Pengeluaran untuk sandang (Rp) y4 Pengeluaran lain-lain Correlations Between the WITH Variables and the Canonical Variables of the VAR Variables V1 V V3 x1 Jumlah anggota keluarga x Pendidikan (tahun) x3 Pendapatan per bulan (Rp) x4 Umur (tahun)

22 Terima Kasih