7 Estimação de Modelos AR, MA e ARMA
7.1 Máxima Verossimilhança
As atividades práticas mostraram como pacotes como o R possibilitam simular e estimar coeficientes de modelos de séries temporais. Neste capítulo aprofundamos o método de estimação por máxima verossimilhança (MV) para os modelos AR(\(p\)), MA(\(q\)) e ARMA(\(p\), \(q\)).
A função de verossimilhança geral é:
\[L(\theta;\, x_1, \ldots, x_n) = f(x_1;\theta) \cdots f(x_n;\theta)\]
Usando a distribuição normal:
\[\begin{aligned} L(\beta, \sigma^2 \mid \mathbf{y}) &= \prod_{i=1}^{n} \frac{1}{\sqrt{2\pi\sigma^2}} \exp\!\left[\frac{-(y_i - \beta x_i)^2}{2\sigma^2}\right] \\ \ell(\beta, \sigma^2 \mid \mathbf{y}) &= n\,\ln\!\left[\frac{1}{\sqrt{2\pi\sigma^2}}\right] - \frac{1}{2\sigma^2} \sum_{i=1}^{n}(y_i - \beta x_i)^2 \end{aligned}\]
7.2 Estimação de Modelos AR(p)
A ideia é usar as \(p\) primeiras observações como valores iniciais e maximizar:
\[\ell(\theta \mid \mathbf{y}) = \frac{T-p}{2}\ln(2\pi\sigma^2) - \sum_{t=p+1}^{T} \frac{\left(y_t - c - \sum_{i=1}^{p} \phi_i\, y_{t-i}\right)^2}{2\sigma^2}\]
As condições de primeira ordem (igualadas a zero) fornecem:
\[\begin{aligned} \hat{c} &= \bar{y} - \hat{\phi}_1\,\bar{y}_{t-1} \\ \hat{\phi}_1 &= \frac{\sum_{t=2}^{T} y_t\, y_{t-1} - \hat{c}\sum_{t=2}^{T} y_{t-1}}{\sum_{t=2}^{T} y_{t-1}^2} \\ \hat{\sigma}^2 &= \sum_{t=2}^{T} \frac{\hat{\epsilon}_t^2}{T-1} \end{aligned}\]
Manipulando as duas primeiras equações, obtemos:
\[\hat{\phi}_1 = \frac{\text{Cov}(y_t,\, y_{t-1})}{\text{Var}(y_{t-1})}\]
que é idêntico ao estimador de MQO — para o AR(1), MQO e MV coincidem.
7.3 Estimação de Modelos MA(q)
Partindo do MA(1): \(y_t = \epsilon_t + \theta\,\epsilon_{t-1}\), assumindo \(\epsilon_0 = 0\) e escrevendo recursivamente:
\[\begin{aligned} \epsilon_1 &= y_1 \\ \epsilon_2 &= y_2 - \theta\,y_1 \\ \epsilon_3 &= y_3 - \theta(y_2 - \theta\,y_1) \\ &\vdots \end{aligned}\]
Generalizando: \(\epsilon_t = \sum_{i=0}^{t-1} (-\theta)^i\, y_{t-i}\). Para um MA(\(q\)), substitui-se essa expressão na log-verossimilhança:
\[\ell(\theta \mid \mathbf{y}) = -\frac{n}{2}\ln 2\pi\sigma^2 - \sum_{t=1}^{n} \frac{\epsilon_t^2}{2\sigma^2}\]
7.4 Estimação de Modelos ARMA(p, q)
Dois métodos são comuns:
Método 1: assume-se erros iniciais nulos (\(\epsilon_0 = \epsilon_1 = \cdots = 0\)) e fixa-se o componente AR em sua média temporal (\(y_0 = y_1 = \cdots = \bar{y}\)). Maximiza-se:
\[\ell(\theta \mid \mathbf{y}) = -\frac{n}{2}\ln 2\pi\sigma^2 - \sum_{t=1}^{n} \frac{\epsilon_t^2}{2\sigma^2}\]
Método 2: assume-se erros iniciais nulos e os valores \(y\) observados. Maximiza-se:
\[\ell(\theta \mid \mathbf{y}) = -\frac{n-p}{2}\ln 2\pi\sigma^2 - \sum_{t=p+1}^{n} \frac{\epsilon_t^2}{2\sigma^2}\]
O Método 2 é o recomendado por Box et al. (1994).