Introduction to Stochastic Time Series Models

Transkripsi

1 Introduction to Stochastic Time Series Models We have learned several simple extrapolation techniques for Deterministic Time Series Models We will study more complex extrapolation techniques that assume the time series we are analyzing are formed random or stochastic processes.. It is assumed that the time series we are analyzing as samples drawn from bigger random processes.

2 Mathematically, y 1, y 2,... y T drawn randomly from a probability distribution it is assumed : y 1, y 2,... y T normally distributed and based on auto regressive (order 1) process. Remark: the assumption is to simplify the analysis accuracy of the model depends on how close is the assumption to the reality.

3 Random Walk The simplest stochastic time series model is a Random Walk Process. The model: y t = y t-1 + e t ; or y t -y t-1 = e t ; E(e t ) = 0; E (e t.e s ) = 0; t s What is the rational of the model?

4 If we use the model to forecast, then the prediction is the following: y R T+1 = E (y T+1 y T,... y 1 ) = y T + E (e T+1 ) = y T y R T+2 = E (y T+2 / y T,... y 1 ) = E (y T+1 + e T+2 ) = E (y T + e T+1 + e T+2 ) = y T Similarly, y R T+k = y T

5 Comments: (i). The forecasts using a random walk model is always the same and is equal to y T regardless whether one period, two periods or k periods forecasts. (ii). However, errors of the forecasts do not the same; the longer the period, the bigger the forecast error.

6 See the following analysis: e 1 = y T+1 -y R T+1 = y T + e T+1 -y T = e T+1 var (e 1 ) = var (e T+1 ) = σ 2 e e 2 = y T+2 -y R T+2 = y T + e T+1 + e T+2 -y T = e T+1 + e T+2 var (e 2 ) = var (e T+1 + e T+2 ) = σ 2 e + σ2 e = 2 σ2 e since e T+1 and e T+2 stochastically independent. Therefore, the longer the period the bigger the variance and the bigger the confidence interval as well. See Fig (Pindyck)

7 Random Walk with Trend One of the variation of the Random Walk models is by adding the trend to the model. The model accommodates the possibility of existing increasing or decreasing trend and therefore the model: y t = y t-1 + d + e t One period forecast: y R T+1 = E (y T+1 y T,... y 1 ) = y T + d k-period forecast: y R T+k = y T + k d However the error will increase as the period increases. See Fig. 16.2

8 Stationery and Non Stationery Process Since the model we are observing is from a stochastic process, we need to identify whether the process is: (i). time invariant or (ii).time variant If the stochastic process is time invariant it is called stasionery process; while if the process is time variant, it is called non-stationery process.

9 Karakteristik data time series yang stasioner atau tidak stasioner berkaitan dengan mudah tidaknya proses tersebut dimodel dan dianalisis. Jika prosesnya stasioner, proses ini dapat di model dengan suatu persamaan dengan parameter yang tetap yang dapat diestimasi dengan data masa lalu. Akan tetapi, bila prosesnya tidak stasioner, pendekatan model tersebut di atas tidak dapat dilakukan. Hal ini analog dengan model regresi satu persamaan yang telah kita pelajari. Parameter yang dibangun berdasarkan hubungan struktural dapat diestimasi dengan baik bila hubungan struktural ini tidak berubah meskipun waktunya berubah. Akan tetapi bila hubungan struktural tersebut berubah dengan berubahnya waktu, parameternya perlu diestimasi dengan pendekatan lain.

10 Properties of Stasionery Processes If the series y t is stationery, then (i). P(y t,...,y t+k ) = P(y t+m,..., y t+k+m ) m,t,k (ii). E(y t ) =μ y independent of t (iii).var(y t ) = σ 2 y = E [(y t -μ y )2 ] independent of t (iv). γ k = cov (y t, y t+k ) ; independent of t = cov (y t+m, y t+m+k ) Comment: For lag zero, or for k=0, γ 0 = cov (y t, y t ) = var (y t ) = σ 2 y

11 TimeSeries Identification through Auto- Correlation Function (ACF) Fungsi autokorelasi bermanfaat untuk menjelaskan suatu proses stokastik. Fungsi ini akan memberikan informasi bagaimana korelasi antara data-data (y t ) yang berdekatan. Fungsi autokorelasi dengan lag (jeda) k didefinisikan sebagai: ρ k = cov (y t, y t+k ) / (σ yt σ yt+k ) untuk proses yang stasioner, var (y t ) = var (y t+k ) = σ 2 y sehingga ρ k = cov (y t, y t+k ) / σ 2 y = γ k / γ 0 Dengan demikian, ρ untuk setiap proses stokastik, ρ 0 = 1

12 Bila kita mempunyai proses stokastik sederhana y t = e t ; white noise e t iid (0, σ 2 ), maka fungsi autokorelasi dari proses ini adalah: ρ k = cov (e t, e t+k ) / ( var (e t ) var(e t+k ) ) ½ ρ k = 0 karena cov (e t, e t+k ) =0 untuk k > 0 (untuk k = 0?) Ramalan k periode ke depan: y T+1 = E(e T+1 ) = 0 k. Dapat disimpulkan bahwa bila ρ k = 0 k > 0, tidak ada manfaatnya menggunakan model ini untuk membuat ramalan. Sampel dari fungsi autokorelasi didefinisikan sebagai: r k = c k / c 0 ; c k = Σ (y t -y a )(y t+k -y a ) c 0 = Σ (y t -y a ) 2 ; y a : rata-rata y t

13 Dalam praktek, kita hanya mempunyai suatu realisasi dari proses stokastik. Oleh karena itu, kita hanya dapat menghitung sampel fungsi autokorelasi. Plot antara r k dan k disebut correlogram sampel sedangkan plot antara ρ k dan k disebut correlogram populasi. Kalau kita mengetahui apakah ρ k = 0 atau tidak pada suatu nilai k atau mengetahui ρ k = 0 untuk semua k > 0 informasi ini sangat bermanfaat. Untuk melakukan ini, ada beberapa tes yang perlu diketahui (Kenapa kita perlu tahu nilai ρ k untuk semua nilai k?).

14 Tes Bartlett Jika suatu time series dibentuk melalui proses white noise, sampel auto korelasi berdistribusi normal dengan mean 0 dan standar deviasi 1/ T ½, T banyaknya pengamatan, dan dinotasikan dengan r k N (0, 1/ T ½ ). Bila T = 100, maka r k N (0, 0.1) Oleh karena itu, bila ada r k > 0.2 (dua kali standar deviasi), maka kita yakin dengan kepercayaan 95% bahwa ρ 0 dan berarti time series yang sedang kita analis bukan berasal dari proses white noise.

15 Tes Box-Pierce Untuk mengetes apakah semua ρ k = 0, kita gunakan tes Q yang dikenalkan oleh Box dan Pierce, Q = T Σ r 2 k X2 k Bila Q > X 2 k,5% kita yakin dengan kepercayaan 95% bahwa tidak semua ρ k = 0. Bila ini terjadi, time series yang kita pelajari tidak berasal dari proses white noise. Sebagai ilustrasi, lihat Gambar 16.3 (Stasioner?) Gambar ini menggambarkan pergerakan data inventory investment dari tahun Sedangkan sampel fungsi autokorelasi ditunjukkan pada Gambar Gambar fungsi autokorelasi ini memperlihatkan bahwa nilai r k turun sangat cepat seiring dengan kenaikan k. Ini menunjukkan bahwa data time series inventory investment merupakan time series yang stasioner. Sebaliknya, jika r k tidak menurun dengan cepat, indikasi ini menunjukkan bahwa data time series tidak stasioner.

16 Homogeneous Nonstationery Processes Kenyataannya, tidak banyak data time series yang stasioner. Meskipun demikian, beberapa data time series yang tidak stasioner yang merupakan data-data ekonomi maupun bisnis dapat dibuat stasioner dengan cara melihat time series dari selisih dua data yang berurutan. Data time series yang demikian itu disebut homogen. Tingkat homogenitas dari masing-masing data berbedabeda tergantung berapa kali data tersebut diselisihkan untuk menjadi stasioner. Bila dengan proses 1 kali selisih, data sudah stasioner, data ini disebut homogen tingkat satu. Secara umum, bila suatu data memerlukan n kali proses selisih baru menjadi stasioner, data ini disebut homogen tingkat n.

17 Definitions: 1 If y t non stationary w t = y t y t-1 = Δ y t stasionary, y t is first-order homogeneous non stationary. 2. If y t non stasionary z t = Δy t = y t y t-1 non stasionary, w t = Δ 2 y t = Δy - Δy t t-1 = z t z t-1 stasionary y t second-order homogeneous non stationary

18 Example: Proses Random Walk Sederhana: y t = y t-1 + e t ; tidak stasioner w t = Δ y t = y t y t-1 = e t ; white noise Dari pembahasan terdahulu, white noise mempunyai ρ 0 = 1 dan ρ k = 0; k > 0 dan series ini stasioner. Dengan demikian, random walk merupakan timeseries homogen tingkat satu.

19 Correlogram dan Stasioneritas Kalau kita melihat data time series dari suatu variabel yang cenderung tumbuh seperti: nilai penjualan, GNP, dsb; data time series ini tidak akan stasioner. Tetapi, data GNP bisa merupakan data tidak stasioner homogen tingkat satu atau tingkat yang lebih tinggi. Oleh karenanya, kalau kita membuat model time series untuk membuat ramalan GNP ke depan, kita perlu mengacu pada time series yang sudah stasioner.

20 Bagaimana kita menentukan bahwa suatu time series sudah stasioner dan berapa kali suatu time series homogen diselisihkan agar stasioner. Dengan bantuan correlogram, kita dapat menjawab pertanyaan tesebut. Untuk data yang stasioner, correlogram menurun dengan cepat seiring dengan meningkatnya k, besaran lag; sedangkan untuk data yang tidak stasioner, correlogram cenderung tidak menuju nol (tidak mengecil) meskipun k membesar.

21 Time series yang tidak stasioner dapat terus dicari barisan selisihnya beberapa kali sampai stasioner atau tidak mungkin stasioner dengan melihat correlogramnya. Lihat Gambar 16.5 (stasioner) dan Gambar 16.6 (tidak stasioner). Contoh: Mengamati Interest Rate T-Bill AS, Gambar 16.7 memperlihatkan gerakan interest T-Bill di AS yang diamati bulanan dari Dari gambar tersebut terlihat bahwa mean nya tidak mungkin konstan. Dugaan ini diperkuat dengan Gambar 16.8 yang menunjukkan bahwa correlogram tidak segera menuju nol. Dengan demikian, data time series tersebut tidak stasioner.

22 Langkah selanjutnya, data tersebut dicari selisihnya (first difference) dan series yang baru ditunjukkan pada Gambar Gambar ini memperlihatkan bahwa kali ini mean sudah konstan. Hal ini juga diperkuat dengan gambar correlogram yang cenderung menuju nol (Gambar 16.10) Kita dapat menarik kesimpulan bahwa series sudah stasioner.. Namun, series dicoba dicari lagi selisihnya lagi (firstdifference dua kali). Series yang terbentuk dapat dilihat pada Gambar dan correlogramnya disajikan pada Gambar Dari kedua gambar tersebut dapat disimpulkan bahwa series dalam keadaan stasioner. Kondisi ini tidak jauh beda dengan kondisi series pada saat first-difference satu kali. Kesimpulannya, data interest rate yang dianalisis merupakan data tidak stasioner homogen tingkat satu.

23 Contoh Pergerakan harga suatu komoditas. Harga suatu komoditas diamati tiap hari selama 250 hari. Data ini tidak stasioner tetapi series dari selisihnya stasioner. Hal ini dapat dilihat pada correlogram data aslinya dan data selisihnya. Dari correlogram tersebut dapat disimpulkan bahwa data selisihnya merupakan white noise (Gambar 16.13). Dengan demikian, data aslinya dapat diduga sebagai random walk sehingga dapat dimodel sebagai: P t = P t-1 + e t Model inilah yang sering digunakan untuk meramal harga saham dibursa efek.

24 Tes Dickey-Fuller Beberapa kajian mengatakan bahwa data time series dari variabel ekonomi dan keuangan berperilaku seperti random walk atau setidak-tidaknya memiliki komponen random walk. Kajian-kajian tersebut didasarkan pada tes Unit Root yang dikenalkan oleh David Dickey dan Wayne Fuller. Jika kita percaya bahwa suatu variabel y t tumbuh seiring dengan perjalanan waktu, y t dapat dijelaskan melalui model berikut: y t = a + b t + ρ y t-1 + e t ; b>0 Model tersebut di atas dapat dinyatakan dalam bentuk lain: y t -y t-1 = a + b t + (ρ -1) y t-1 + e t ; disebut model utuh (U). Bila b = 0 dan ρ = 1, maka modelnya menjadi model terkendala seperti berikut: y t -y t-1 = a + e t ; disebut model terkendala (T)

25 Dickey-Fuller menyatakan telah menyusun suatu distribusi untuk r (estimator ρ) yang dapat digunakan untuk menguji apakah ρ=1 atau tidak. Tes Dickey dan Fuller pada intinya adalah menguji apakah b = 0 dan ρ = 1 sehingga model tersebut menjadi model random walk. Untuk menguji hal tersebut dilakukan tahapan berikut: 1. Regresikan model utuh, hitung ESS u ; ESS = Σ e 2 t 2. Regresikan model terkendala (b=0 dan ρ=1), hitung ESS T 3. Hitung statistik F= {(ESS T ESS u )/q} / {ESS u / (N k)} k : banyaknya parameter pada model utuh q : banyaknya parameter kendala N : banyaknya pengamatan 4. Jika F > Tabel Dickey-Fuller, tolak hipotesis yang menyatakan y t random walk.

26 Komentar: 1.Tes D-F hanya mengarahkan kepada analisis untuk menolak atau tidak hipotesis bahwa y t mengikuti random walk. 2.Bila hipotesis tidak ditolak, hasilnya masih diragukan. Ilustrasi Akan dikaji apakah data time series dari harga-harga komoditas seperti: BBM, tembaga dan karet mengikuti pola random walk atau tidak. Kajian ini menggunakan data tahunan dari di AS (116 pengamatan)

27 Untuk melakukan kajian ini, lakukan tahapan berikut: 1. Model pergerakan harga yang ditawarkan (i). P t P t-1 = a + b t + (ρ -1) P t-1 + e t ; model utuh (ii). P t P = t-1 a + e t ; model terkendala 2. Regresikan model (i), hitung ESS u = (tembaga) 3. Regresikan model (ii), hitung ESS T = (tembaga) 4.F = (N k) (ESS T -ESS u ) / (q) (ESS u ) = (116 4 ) ( ) / (2)(4344.8) = 7.33 Sedangkan berdasarkan Tabel Dickey-Fuller, nilai pembanding (dari Tabel 16.1) dengan sampel 100 dan kepercayaan 95%, diperoleh angka sebesar 6.49.

28 5. Karena F > Tabel Dickey-Fuller, hipotesis yang menyatakan gerakan harga tembaga mengikuti pola random walk ditolak. Untuk data harga BBM dan karet, hasil perhitungannya sebagai berikut: ESS u ESS T F Tabel DF RW? BBM Tidak Karet Ya

29 Timeseries Ko-Integrasi Kadangkala ada dua variabel random yang masing-masing merupakan random walk akan tetapi kombinasi linier dari dua variabel tersebut merupakan time series yang stasioner. Misalkan saja, x t dan y t masing-masing random walk tetapi z t = x t - λ y t merupakan timeseries yang stasioner Pada situasi seperti ini, x t dan y t dikatakan berkointegrasi dan λ disebut parameter kointegrasi. Sedangkan λ diestimasi dengan OLS melalui regresi x t pada y t. (Ingat kepada regresi linier sederhana: x t = a + b y t + e t atau : a + e t = x t -b y t ; dengan notasi lain: z t = x t - λ y t )

30 Dalam beberapa hal, teori-teori ekonomi dan keuangan mengindikasikan adanya kointegrasi antara dua variabel tertentu. Misalnya saja ada kecenderungan pergerakan bersama antara harga saham dan dividen yang dibagikan, meskipun pergerakan harga saham dan pergerakan besaran dividen yang dibagikan masing-masing bisa merupakan random walk. Dalam hal kointegrasi antara pergerakan harga saham dan pergerakan besaran dividen, parameter kointegrasinya merupakan discount rate yang digunakan para investor dalam menghitung present value dan earnings. Contoh lain?

31 Tes Ko-Integrasi Bila x t random walk dan Δx t stasioner y t random walk dan Δy t stasioner apakah x t dan y t berkointegrasi. Tahapan yang perlu dikerjakan: 1. Lakukan regresi berikut dengan OLS x t = a + b y t + e t 2. Tes apakah e t stasioner atau tidak 3. Bila e t stasioner, maka x t dan y t berkointegrasi.

32 Ilustrasi Ko-integrasi antara Konsumsi dan Pendapatan 2. Tes Kointegrasi Regresikan konsumsi pada pendapatan C t = YD t t: (-6.65) (231.87) R 2 = ; DW = Akan dites apakah konsumsi dan pendapatan berkointegrasi dengan menggunakan data kuartalan dari tahun Tes apakah konsumsi dan Pendapatan masing-masing random walk dengan Tes Dickey Fuller. Hasil tes menunjukkan kedua series tersebut random walk. Sedangkan data time series Δkonsumsi dan Δpendapatan merupakan time series yang stasioner.

33 Kita dapat menggunakan test DW untuk menguji apakah e t (residual) dari regresi tsb. mengikuti suatu random walk. Menurut tes DW, angka < (nilai kritis pada Tabel DW (Tabel; 16.3)). Akibatnya, kita tidak dapat menolak hipotesis pada level 5% (Tetapi, hipotesis ini ditolak pada level 10%). Artinya, kita tidak terlalu yakin bahwa e t (residual) stasioner atau tidak sehingga kita juga tidak tahu dengan pasti apakah konsumsi dan pendapatan berkointegrasi.

34 The End of the Lesson