15/10/2014. Respon Biner

Transkripsi

1 Respon Biner 1

2 Regresi Logistik 4.1 INTERPRETING THE LOGISTIC REGRESSION MODEL 4.2 INFERENCE FOR LOGISTIC REGRESSION Model regresi logistik menggunakan peubah penjelas, jl baik bik kategorik kt atau kontinu, untuk memprediksi peluang dari hasil yang spesifik. Dengan kata lain, regresi logistik dirancang untuk menggambarkan peluang yang terkait dengan nilainilai peubah respon. 2

3 Kurva regresi logistik dan regresi linier 3

4 β>0 maka kurva akan naik β<0 maka kurva akan turun Jika β= 0 maka nilai π (x) tetap pada berapapun nilai x kurva akan menjadi garis horisontal 4.1 INTERPRETING THE LOGISTIC REGRESSION MODEL X Peubah penjelas kuantitatif Y Peubah respon biner π(x) peluang sukses peubah X Model Logit (log odds) 4

5 Interpretasi β Odds akan meningkat secara multiplikatif sebesar e β untuk setiap kenaikan 1 unit x e β rasio odds odds( X = x + 1) RasioOdds = odds( X = x) Not familiar Interpretasi alternatif logit akan meningkat sebesarβ untuk setiap kenaikan 1 cm x What Is an Odds Ratio? Anodds ratio indicates how muchmorelikely more likely, with respect to odds, a certain event occurs in one group relative to its occurrence in another group. Example: How much more likely are females to purchase 100 dollars or more in products compared to males? 5

6 4.1.1 Linear Approximation Interpretations β 0, kurva datar horizontal β = 0, Y bebas terhadap X Β > 0, kurva π(x) membentuk fkp sebaran logistik Kemiringan curam terjadi pada x yang π (x) = 0,50. Nilai x tersebut berhubungan dengan p arameter regresi logistik dengan x = α / β. nilai x ini disebut tingkat median efektif (EL 50 ). Ini merupakan tingkat di mana masing masing Hasil memiliki kesempatan 50%. 6

7 ilustrasi Horseshoe Crabs: Viewing and Smoothing a Binary Outcome The study investigated factors that affect whether the female crab had any other males, called satellites, residing nearby her. The response outcome for each female crab is her number of satellites. An explanatory variable thought possibly to affect this was the female crab s shell width, which is a summary of her size. In the sample, this shell width had a mean of 26.3 cm and a standard deviation of 2.1 cm. Y indicate whether a female crab has any satellites (other males who could mate with her). That is, Y = 1 if a female crab has at least one satellite, and Y = 0 if she has no satellite.we first use the female crab s width (in cm) as the sole predictor. ilustrasi Suatu penelitian mengenai faktor faktor yang mempengaruhi banyaknya satellite yang dipunyai kepiting betina (Y) Y= 1 jika kepiting betina memiliki paling tidak 1 satellite Y=0 jika tidak memiliki satellite. X= lebar cangkang kepiting betina (dalam cm) 7

8 Data yang belum dikelompokkan Data crab; input width sat; datalines; ; proc logistic data=crab descending; model sat=width/expb; run; Syntax SAS 8

9 Output At the minimum width in this sample of 21.0 cm, the estimated probability is exp( (21.0))/[1 + exp( (21.0))] = At the maximum width of 33.5 cm, the estimated probability equals exp( (33.5))/[1 + exp( (33.5))] = lebar minimum x= 21 cm, = lebar maksimum x= 33.5 cm =

10 Interpretasi Output Dugaan π(x) =0.5 saat x = α / ˆ β = Dugaan odds = exp ˆ β = exp = 1. ˆ / = 24.8 ( ) ( ) 64 kepiting betina yang memiliki lebar 1 cm lebih besar, memiliki kecenderungan 1.64 kali mempunyai satelit Pada mean sampel lebar 26,3 cm, π (x) = 0,674. (Bab 4.1.1), perubahan kenaikan peluang pada titik mean ( x) [ 1 ˆ π ( x) ] (0.674) (0.326) = 0.11 ˆ βπˆ = Untuk kepiting betina dengan lebar badan dekat lebar rata rata, peluang kenaikan satelit pada tingkat 0,11 per 1 cm peningkatan lebar. tingkat dugaanperubahanterbesar pada nilaix(24 (24,8) di mana π (x) = 0,50; peluang diperkirakan meningkat pada tingkat (0,497) (0,50) (0,50) = 0,12 per 1 cm peningkatan lebar 10

11 Berbeda dengan model peluang linier, model regresi logistik memungkinkan lajuperubahan bervariasi sebagaimana perubahan x Regression Fit Model paling sederhana untuk interpretasi adalah dlhmodel dlpeluang π(x) () = α + βx. Menggunakan pendekatan OLS (software GLM dengan asumsi respon normal dengan fungsi penghubung identitas) menghasilkan model 11

12 Proc GLM proc genmod data=crab; model sat=width/ dist = nor link = identity lrci; run; Horseshoe Crabs: Interpreting the Logistic Regression Fit π(x) adalah peluang kepiting betina memiliki satelit dengan lebar badan x cm Dugaan peluang (adanya) satelit akan meningkat untuk setiap peningkatan 1 cm lebar badan kepiting Interpretasi lebih sederhana, namun tidak sesuai untuk nilai ekstrim Misalkan pada contoh ini ilebar badan maksimal 33.5 cm. Dugaan peluangnya= (33.5) =

13 Grouping Untuk mendapatkan gambar dengan bentuk yang lebih jelas, dilakukan pengelompokan untuk lebar badan kepiting betina sbb: Lalu hitung rataan contoh di masing masing kategori Figure 4.2 contains eight dots representing the sample proportions of female crabs having satellites plotted against the mean widths for the eight categories. 13

14 Odds Odds Ratio Interpretation Odds sukses (respon =1) x = 26.3 ; ˆ π odds = x = 27.3 ; ˆ π x = 0.773; odds = = RasioOdds 27.3 = = ( x) = 0.674; = ( ) 40 However, this is a 64% increase; 14

15 4.1.5 Logistic Regression with Retrospective Studies Regresi logistik juga dapat digunakan pada data hasil studi restrospektif Peubah X yang acak (bukan peubah Y) Dapat digunakan bila salah satu respon kategori jarang terjadi, dan sebuah studi prospektif mungkin memiliki terlalu sedikit kasus untuk untuk dapat menduga pengaruh dari prediktor dengan baik. Retros pective Y 1(kasus) dan 0(kontrol) X diamati Case control biomedis Odds Ratio 15

16 Inferensia Regresi Logistik 4.2 INFERENCE FOR LOGISTIC REGRESSION Binary Data can be Grouped or Ungrouped 254 subjects reported snoring every night, of whom 30 had heart disease 16

17 Data crab grup data crab2; input width y n; cards; ; proc logistic data=crab2; model y/n=width/influence stb expb; output out=predict p=pi_hat lower=lcl upper=lcl; run; confidence interval for effect A large sample Wald confidence interval for the parameter β in the logistic regression model, dl logit[π(x)] = α + βx, is ˆ β ± z α 2 ( SE) 17

18 Ilustrasi data kepiting Selang kepercayaan 95% untuk β adalah 0.497± 1.96(0.102) = [0.298, 0.697] Selang kepercayaan berdasarkan likelihood ratio = (0.308, 0.709). Interval likelihood ratio untuk pengaruh pada odds setiap kenaikan 1 cm lebar cangkang = (e 308, e 709 )= (1.36, 2.03). Berarti setiap kenaikan 1 cm lebar cangkang, akan menaikkan odds satellite paling sedikit 1.36 kali dan paling banyak 2 kali 18

19 Hypothesis Testing about Effect of X Test for parameter model (β). Simultanious test G test Partial test Wald test Uji Simultan Statistik uji G adalah uji rasio kemungkinan (likelihood ratio test) yang digunakan untuk menguji peranan variabel penjelas di dalam model secara bersama sama (Hosmer & Lemeshow, 1989). Rumus umum uji G untuk menguji hipotesis : H0 : β1 = β2 = = βk = 0 H1 : minimal ada satu β yang tidak sama dengan 0 adalah likelihood G = 2ln likelihood tan pa dengan peubah bebas peubah bebas Statistik G ini, secara teoritis mengikuti sebaran χ 2 dengan derajat bebas k. 19

20 Partial Test Sementara itu, uji Wald digunakan untuk menguji parameter βi secara parsial. Hipotesis yang diuji adalah: H0 : β i = 0 H1 : β i 0 Formula statistik Wald adalah: ˆ βi Z = SE( ˆ βi ) Secara teori, statistik Zini mengikuti sebaran normal baku jika H0 benar. Atau menggunakan statistik uji mengikuti sebaran dengan db=1 yang Uji Hipotesi Data Kepiting Hipotesis H 0 : β= 0 vs H 1 : β 0 Statistik Uji : Z= 0.497/0.102 = 4.9. (This shows strong evidence of a positiveeffecteffect of width on the presence of satellites (P <0.0001)) The equivalent chi squared statistic, z 2 = 23.9, has df = 1. Software reports that the maximized log likelihoods equal L0 = under H0: β = 0 and L1 = for the full model. The likelihood ratio lih statistic ti ti equals 2(L0 L1) = 31.3, 3 with df = 1. This also provides extremely strong evidence of a width effect (P < ). 20

21 Confidence Intervals for Probabilities We illustrate by estimating the probability of a satellite for female crabs of width x = 26.5, which is near the mean width. The logistic regression fit yields πˆ = exp( (26.5))/[1 + exp( (26.5))] = From software, a 95% confidence interval for the true probability is (0.61, 0.77). Kenapa menggunakan model untuk menduga peluang?? 21

22 X=26,5 cm 6 kepiting, 4 memiliki satelit Binom p= 4/6=0.67 SK 95% untuk π(x) : (0.22, 0.96) R lit i li t d I Reality is more complicated. In practice, any model will not exactly represent the true relationship between π(x) and x. 22

23 Ilustrasi Menggunakan SAS Data CHD; input age $ cards; <=55 1 <=55 1 >55 1 >55 0 >55 0 <=55 1 <=55 0 >55 1 >55 0 >55 0 <=55 1 <=55 0 >55 1 >55 0 >55 0 <=55 1 <=55 0 >55 1 >55 0 >55 0 <=55 1 <=55 0 >55 1 >55 0 >55 0 <=55 1 <=55 0 >55 1 >55 0 >55 0 <=55 1 <=55 0 >55 1 >55 0 >55 0 <=55 1 >55 1 >55 1 >55 0 >55 0 <=55 1 >55 1 >55 1 >55 0 >55 0 <=55 1 >55 1 >55 0 >55 0 >55 0 <=55 1 >55 1 >55 0 >55 0 >55 0 <=55 1 >55 1 >55 0 >55 0 >55 0 <=55 1 >55 1 >55 0 >55 0 >55 0 <=55 1 >55 1 >55 0 >55 0 >55 0 <=55 1 >55 1 >55 0 >55 0 >55 0 <=55 1 >55 1 >55 0 >55 0 >55 0 <=55 1 >55 1 >55 0 >55 0 >55 0 <=55 1 >55 1 >55 0 >55 0 >55 0 <=55 1 >55 1 >55 0 >55 0 >55 0 <=55 1 >55 1 >55 0 >55 0 >55 0 ; 23

24 proc freq data=chd; tables age; tables CHD; tables age*chd/nopercent nocol norow expected chisq; run; proc logistic data=chd; class age; model chd=age/expb; run; Tabulasi Silang 24

25 Tugas Kelompok Kelompok 1 Prediktor Kategorik Uji Cochran Mantel Haenszel Uji Kehomogenan Rasio Odd (Bab 4.3) Kelompok 2 (RegLog Berganda) Contoh Regresi Logistik Ganda Pembandingan Model (4.4.1, 4.4.2) 25

26 Tugas Kelompok (lanjutan) Kelompok 3 (RegLog Berganda) Kelompok 4 Prediktor Kuantitatif dalam Regresi Logistik Model dengan Interaksi (Bab 4.4.3, 4.4.4) Strategi Pemilihan Model Pemeriksaan Kecocokan Model (Bab 5.1, 5.2) 26