Interpretability of parameter estimates in autoregressive models

Abstract

The aim of this thesis is to examine the interpretability of parameter estimates in autoregressive models. Robustness of parameter estimates are tested with differing sample sizes and falsely identified models. Eleven time series with 10 000 observations are simulated using different parameters in autoregressive model of second order. These time series are used to estimate parameters of autoregressive models from 1st to 12th order. There are three groups of parameter estimates; those estimated with 25, 50 and 100 observations. Robustness of these parameters is analyzed with mean squared distance from the correct value and mean parameter estimate. Also, statistical significance of overfitted parameter estimates are examined in the results.

According to the simulated time series, parameter estimates of autoregressive models can be interpreted with a certain caution. Underfitted models suffer from misleading mean parameter estimates. On the other hand, falsely identified, thus overfitted models have statistically significant excessive parameters estimates. Thus, interpretation lies heavily on carefully executed Box-Jenkins method; identification, estimation and diagnostics checking.

Tämän tutkielman tarkoituksena on tutkia mahdollisuutta tehdä tulkintoja autoregressiivisten mallien parametriestimaateista. Parametrien robustisuutta testataan eri kokoisilla otoskoilla ja väärin identifioiduilla malleilla. Tutkielmassa simuloidaan yksitoista 10000 havainnon aikasarjaa käyttäen toisen asteen autoregressiivisiä malleja eri parametriyhdistelmillä. Näitä aikasarjoja käytetään autoregressiivisten mallien estimoimiseen, jotka vaihtelevat ensimmäisen ja kahdennentoista asteen välillä. Tutkielmassa on kolmenlaisia parametriestimaatteja: 25, 50 ja 100:lla havainnolla estimoituja. Estimaattien robustisuutta arvioidaan niiden keskietäisyyden neliöstä oikeasta arvosta sekä keskiarvolla. Myös ylimääräisten parametriestimaattien tilastollinen merkitsevyys on yksi tutkimuskohdista.

Simuloiduista aikasarjoista voidaan päätellä, että autoregressiivisten mallien tulkinta on tietyin varauksin mahdollista. Liian pienet mallit kärsivät harhaanjohtavista parametrien keskiarvoista. Toisaalta, liian suurten mallien ylimääräiset parametriestimaatit ovat liian usein tilastollisesti merkitseviä. Tulkinta siis pohjautuu huomattavasti huolellisesti tehtyyn Box-Jenkins-menetelmään; identifioimiseen, estimointiin ja diagnostiikan arvioimiseen.