Metode Identifikasi Rekursif Zulkifli Hidayat Laboratorium Teknik Sistem Jurusan Teknik Elektro FTI - ITS
Mengapa Identifikasi Rekursif? Alasan menggunakan identifikasi rekursif Estimasi online Sistem Pengaturan Adaptif Sistem parameter berubah waktu Deteksi kegagalan RE1465 Pengolahan Sinyal Pengaturan 2 / 29
Bagaimana Caranya? Bagaimana melakukan estimasi parameter berubah waktu? Model diperbarui secara reguler (setiap waktu cacah). Menggunakan perhitungan sebelumnya dengan efisien. Prosedur dasarnya adalah dengan memodifikasi metode-metode offline. RE1465 Pengolahan Sinyal Pengaturan 3 / 29
Sifat-sifat Yang Diinginkan Diinginkan sifat-sifat metode estimasi sebagai berikut: Cepat mencapai konvergensi. Estimasi yang konsisten (untuk model time-invariant). Kemampuan tracking yang baik. Komputasi yang sederhana (dapat menyelesaikan semua perhitungan dalam satu waktu cacah). Trade-offs Tidak algoritma yang sempurna Kerumitan komputasi vs akurasi RE1465 Pengolahan Sinyal Pengaturan 4 / 29
Metode Least Square Rekursif ˆθ = arg min θ V t (ˆθ), V t (ˆθ) = t ε(k) k=1 dimana ε(k) = y(k) ϕ T (k)θ. Penyelesaiannya adalah ˆθ(k) = Rt 1 r t dimana R t = t ϕ(k)ϕ T (k) r t = k=1 t ϕ(k)y(k) k=1 Fungsi kriteria V t (ˆθ) berubah setiap saat k sehingga estimasi parameter ˆθ(k) juga berubah setiap saat. RE1465 Pengolahan Sinyal Pengaturan 5 / 29
Metode Least Square Rekursif Algoritma: 1. Untuk k = 0: pilih ˆθ(0) dan P(0). 2. Untuk setiap waktu cacah, perbarui ϕ(k) dan hitung ˆθ(k) = ˆθ(k 1) + K(k)ε(k) ε(k) = y(k) ϕ(k)ˆθ(k 1) K(k) = P (k)ϕ(k) P(k) = P(k 1) ϕ(k)p(k 1)ϕT (k)p(k 1) 1 + ϕ T (k)p(k 1)ϕ(k) RE1465 Pengolahan Sinyal Pengaturan 6 / 29
Tracking Bagaimana menghadapi sistem time-varying? Buat perkiraan model time-varying. Biasanya parameter akan bervariasi sesuai dengan random walk dan gunakan filter Kalman sebagai estimator. Modifikasi fungsi biaya sehingga kita bisa mengabaikan pengaruh data lama. Karena itu model akan sesuai dengan data yang yang paling baru (model diadaptasi untuk mendeskripsikan data terbaru). Fungsi biaya yang dimodifikasi: ˆθ(k) = arg min θ V k (θ), V k (θ) = k β(k, n)ε 2 (n) n=1 RE1465 Pengolahan Sinyal Pengaturan 7 / 29
Tracking Anggap fungsi pembobot β(k, n) memenuhi β(k, n) = λ(k)β(k 1, n), β(k, n) = 1 0 n < k Pilihan yang umum adalah memberi nilai λ(k) = λ, dimana λ disebut dengan forgetting factor. Pada kasus ini didapatkan: β(k, n) = λ k n, 0 < λ 1 λ = 1 bersesuaian dengan standar RLS. RE1465 Pengolahan Sinyal Pengaturan 8 / 29
RLS Berbobot Algoritma: Pada saat k = 0: pilih ˆθ(0) dan P(0). Untuk setiap waktu cacah, perbarui ϕ(k) dan hitung ˆθ(k) = ˆθ(k 1) + K(k)ε(k) ε(k) = y(k) ϕ T (k)ˆθ(k 1) K(k) = P (k)ϕ(k) RE1465 Pengolahan Sinyal Pengaturan 9 / 29
Kondisi Awal ˆθ(0) adalah estimasi parameter mula-mulai. Pandang P(0) sebagai estimasi dari matrix kovarians dari estimasi parameter mula-mula. P(0) (dan P(k)) adalah matriks kovarians, dan harus positif definit. Pilih P(0) = ρi. ρ besar artinya respon mula-mula besar. Ini baik jika estimasi ˆθ(0) tidak pasti. RE1465 Pengolahan Sinyal Pengaturan 10 / 29
Forgetting Factor Misal λ(k) = λ. Forgetting factor akan menentukan kemampuan tracking. Untuk menjadi konvergen haruslah λ = 1. λ kecil berarti data lama dilupakan lebih cepat, karena itu menghasilkan tracking yang lebih baik. λ kecil berarti algoritma ini sensitif terhadap noise (konvergensi menjadi buruk). Konstanta ingatan didefinisikan dengan T 0 = 1 1 λ. Karenanya pemilihan nilai λ adalah trade-off antara kemampuan tracking dan sensitifitas terhadap noise. Pilihan yang umum diambil adalah λ (0.95, 0.99). Biasanya juga membuat λ(k) naik secara eksponensial menuju 1, yaitu λ(k) = 1 λ k 0(1 λ(0)) RE1465 Pengolahan Sinyal Pengaturan 11 / 29
Filter Kalman Perhatikan sistem: x(k + 1) = Fx(k) + Gu(k) + v(k) y(k) = Hx(k) + e(k) dimana v(k) dan e(k) adalah white noise yang saling independen dengan E{e 2 (k)} = R 2 dan E{v(k)v T (k)} = R 1. RE1465 Pengolahan Sinyal Pengaturan 12 / 29
Filter Kalman Prediktor variabel state x(k) yang optimal dinyatakan dengan filter Kalman dimana ˆx(k + 1) = Fˆx(k) + Gu(k) + K(k) [y(k) Hˆx(k)] K(k) = FP(k)H T R 2 + HP(k)H T P(k + 1) = FP(k)F T FP(k)HT HPF R 2 + HP(k)H T R 1 RE1465 Pengolahan Sinyal Pengaturan 13 / 29
Filter Kalman Kita modelkan variasi parameter menurut θ(k + 1) = θ(k) + v(k) y(k) = ϕ T (k)θ(k) + e(k) Maka ˆθ(k + 1) = ˆθ(k) + K(k) [y(k) Hˆx(k)] RE1465 Pengolahan Sinyal Pengaturan 14 / 29
Filter Kalman Kemampuan tracking dipengaruhi oleh matriks kovarian R 1 (untuk penyederhanaan anggap R 2 = 1). Pandang R 1 sebagai variabel disain. Anggap R 1 adalah matriks diagonal. Elemen-elemen R 1 yang besar = variasi parameter besar dan sebaliknya. Filter Kalman lebih fleksibel dibanding dengan forgetting factor. Kita dapat dengan mudah membuat asumsi variasi yang berbeda untuk setiap parameter. RE1465 Pengolahan Sinyal Pengaturan 15 / 29
IVM Rekursif Seperti pada metode kuadrat terkecil, bentuk rekursif dari metode IV dapat dicari secara langsung [ k ] 1 [ k ] ˆθ(k) = z(k)ϕ T (k) z(k)y(k) n=1 n=1 sebagai ˆθ(k) = ˆθ(k 1) + K(k)ε(k) K(k) = P(k)z(k) ε(k) = y(k) ϕ T (k)ˆθ(k 1) RE1465 Pengolahan Sinyal Pengaturan 16 / 29
Filter Kalman Pengaruh variabel disain P(0), ˆθ(0), dan λ serupa dengan metode RLS. Metode RIV menghasilkan estimasi A(q 1 ) dan B(q 1 ) yang konsisten pada model ARMAX. Konsistensi ini bahkan berlaku pada noise berwarna (colored noise). RE1465 Pengolahan Sinyal Pengaturan 17 / 29
PEM Rekursif Untuk mendapatkan metode PEM rekursif dimulai dengan mendefinisikan fungsi biaya (untuk sistem SISO) V k (θ) = 1 2 k λ k s ε 2 (s, θ) s=1 Mendapatkan algoritma rekursif secara langsung dari metode off-line tidak dimungkinkan karena metode off-line menggunakan minimisasi numerik. Karena itu harus digunakan pendekatan. RE1465 Pengolahan Sinyal Pengaturan 18 / 29
PEM Rekursif Anggap bahwa ˆθ(k 1) meminimalkan V k (θ) and titik minimum dari V k (θ) mendekati ˆθ(k 1). Dengan menggunakan ekspansi Taylor orde kedua dari V k (θ) didapatkan V k (θ) V k (ˆθ(k 1)) + V k(ˆθ(k 1))(θ ˆθ(k 1)) + 1 2 (θ ˆθ(k 1)) T V k (ˆθ(k 1))(θ ˆθ(k 1)) Fungsi di atas diminimisasi terhadap θ dan nilai minimumnya adalah ˆθ(k): ˆθ(k) = ˆθ(k 1) [V k (ˆθ(k 1))] 1 V k(ˆθ(k 1)) T Rem: Kita harus mencari V k (ˆθ(k 1)) dan P(k) = [V k (ˆθ(k 1))] 1. RE1465 Pengolahan Sinyal Pengaturan 19 / 29
PEM Rekursif Algoritma: ˆθ(k) = ˆθ(k 1) + K(k)ε(k) K(k) = P(k)ψ(k) P(k) = 1 [ P(k 1) P(k ] 1)ψ(k)ψT (k)p(k 1) λ 1 + ψ T (k)p(k 1)ψ(k) dimana implementasi pendekatannya ε(k) ε(k, ˆθ(k 1)) yang bergantung pada struktur model. RE1465 Pengolahan Sinyal Pengaturan 20 / 29
Regresi Pseudolinier Rekursif Perhatikan model ARMAX A(q 1 )y(k) = B(q 1 )u(k) + C(q 1 )e(k) Model dapat ditulis ulang menjadi y(k)ϕ T (k) + e(k) ϕ T (k) = [ y(k 1) y(k n a ) u(k 1) u(k n b ) e(k 1) e(k n c ) ] θ = [ a 1 a na b 1 b nb c 1 c nc ] Disini e(k 1),, e(k n nc ) tidak diketahui. Dengan mengganti eror dengan prediksi eror ε(k 1),, ε(k n nc ) dan menggunakan RLS didapatkan RPLR. Perhatikan ε(k) = y(k) ϕ T ˆθ(k 1). RE1465 Pengolahan Sinyal Pengaturan 21 / 29
Regresi Pseudolinier Rekursif Perbandingan RPEM dan RPLR: Beban komputasi kedua metode sama. RPEM konvergen dengan asumsi yang lemah sedangkan konvergensi RPLR tidak selalu dijamin (bergantung pada C 0 (q 1 )). Pada beberapa kasus tertentu, RPLR memiliki perilaku transien yang lebih baik dibanding RPEM. RE1465 Pengolahan Sinyal Pengaturan 22 / 29
Masalah yang Umum Terjadi pada Identifikasi Rekursif Eksitasi Estimator Windup P(k) menjadi tak hingga RE1465 Pengolahan Sinyal Pengaturan 23 / 29
Eksitasi Sebagaimana pada identifikasi off-line, masukan saat melakukan identifikasi rekursif juga harus persistently excited dengan orde yang cukup tinggi. Ini berlaku selama proses identifikasi. RE1465 Pengolahan Sinyal Pengaturan 24 / 29
Estimator Windup Seringkali, ada periode eksperimen identifikasi yang menunjukkan eksitasi yang buruk. Kasus ini menyebabkan masalah pada algoritma identifikasi. Perhatikan keadaan ekstrim saat ϕ(k) = 0 pada algoritma RLS. Maka ˆθ(k) = ˆθ(k 1) P(k) = 1 λ P(k 1) Perhatikan: ˆθ konstan saat k naik. P naik secara eksponensial seseuai waktu untuk λ < 1 RE1465 Pengolahan Sinyal Pengaturan 25 / 29
Estimator Windup Ketika sistem dieksitasi lagi (ϕ(k) 0), maka penguatan estimator K(k) = P (k)ϕ(k) akan menjadi sangat besar. Sehingga akan ada perubahan mendadak pada estimasi ˆθ walaupun sistem tidak tidak dirubah. Ini yang disebut dengan estimator windup. Penyelesaian: Jangan perbarui P(k) jika eksitasi yang jelek. Ada beberapa algoritma yang dapat melakukan hal ini secara otomatis. RE1465 Pengolahan Sinyal Pengaturan 26 / 29
P(k) Tak Hingga P(k) adalah matriks kovarians yang harus simetris dan definit positif. Kesalahan pembulatan bisa terakumulasi yang membuat P(k) tak hingga (yang akan menjadikan estimasi divergen). Untuk menyelesaikan perlu diingat bahwa setiap matriks definit positif dapat ditulis menjadi P(k) = S(k)S T (k) Maka algoritma identifikasi dapat dirubah dengan memperbarui S(k) yang disebut dengan Algoritma Potters Square Root. RE1465 Pengolahan Sinyal Pengaturan 27 / 29
Algoritma Pendekatan Struktur dari RPEM (Newton-Raphson) ˆθ(k) = ˆθ(k [ ] 1 1) V t (ˆθ(k 1)) V t (ˆθ(k 1)) T Menghitung Hessian V t (ˆθ(k 1)) akan merepotkan. Algoritma pendekatan akan lebih lebih sederhana secara komputasi. Misalkan mengabaikan Hessian ˆθ(k) = ˆθ(k 1) γ k V t (ˆθ(k 1)) T Ini bisa menjadi algoritma steepest descent, algritma rata-rata kuadrat terkecil (LMS), dan lainnya. RE1465 Pengolahan Sinyal Pengaturan 28 / 29
Kesimpulan Kita akan sering menggunakan identifikasi rekursif (sistem parameter berubah waktu, identifikasi on-line, deteksi kesalahan). Metode LSM dan IVM mudah dikonversi ke dalam bentuk rekursif. Untuk metode PEM hanya bisa dilakukan pendekatan. Sifat-sifat metode on-line sebanding dengan metode off-line. Kemampuan tracking dapat dimasukkan dengan menggunakan forgetting factor atau dengan memodelkan variasi parameter. Ada trade off antara kecepatan konvergen dengan sifat tracking, juga antara kerumitan komputasi dan akurasi. Pada prakteknya, dapat dilakukan penyederhanaan dan modifikasi untuk menjadikan metode lebih mudah secara komputasi dan robust secara numerik. RE1465 Pengolahan Sinyal Pengaturan 29 / 29