O que são os modelos ARIMA e como aplicar a Metodologia Box-Jenkins? Vamos demonstrar neste post como construir um modelo linear univariado, expondo o modelo do tipo ARIMA, bem como vamos descrever a metodologia Box-Jenkins para prever séries temporais. Mostraremos os resultados de um exemplo da previsão do IPCA mensal construído no R e no Python.

Para obter todo o código em R e Python para os exemplos abaixo, faça parte do Clube AM, o repositório de códigos da Análise Macro, contendo exercícios semanais.

Introdução a modelos lineares univariados

Em termos simples, o objetivo da econometria de séries temporais univariada é encontrar a dependência dinâmica de uma série , isto é, a dependência de em relação aos seus valores passados ().

Aqui focaremos nos modelos univariados lineares, onde    depende linearmente dos seus valores passados.

Como veremos, modelos univariados podem ser uma boa forma de gerar previsões simples e rápidas para séries que, a priori, nós não temos maiores informações sobre variáveis exógenas que podem influenciar o seu comportamento.

Ademais, com processos que possuem alguma memória, esse tipo de modelagem pode ser de grande ajuda nos seus exercícios econométricos.

Nesse contexto, para termos condições de modelar e gerar previsões nessa abordagem, vamos ver alguns conceitos básicos e importantes para prosseguirmos. Em seguida, aprenderemos a analisar as famosas funções de autocorrelação, reconheceremos os termos AR e MA de um processo ARMA, aprenderemos a identificar o problema da não estacionariedade e apresentaremos, por fim, a metodologia proposta por Box et al. (2016) para construir previsões a partir de modelos univariados.

ARIMA

Estaremos interessados em modelos que possam ser representados da forma

(1)  

Onde é um ruído branco. Para o caso em que , teremos modelos como

(2)  

Onde quem irá dizer se o processo é ou não estacionário será o valor de :

(i) se , o processo é estacionário;
(ii) se , o processo será não estacionário.

Processo Autoregressivo

Suponha que tenhamos um processo como

{#eq-ar1b} Onde . Como vimos, a trajetória desse processo depende de . Se , os choques se acumulam ao longo do tempo, formando assim um processo não estacionário.

Por enquanto, entretanto, vamos considerar o caso em que , de modo que tenhamos um processo estacionário. Assim, aplicando o operador defasagem à equação acima, temos que:

Obs. O operador defasagem é definido como .

O processo descrito pela equação @eq-ar1l é conhecido na literatura como **processo autoregressivo de primeira ordem**, bastante útil na modelagem e previsão de séries onde a primeira defasagem possui significância estatística.

Processo de Média Móvel

Assumindo estacionariedade fraca, como posto em @tsay2, nós temos que , e , onde , são constantes e é uma função de , independente do tempo.

Dito isso, podemos obter a média e a variância da série como segue. Tomando o valor esperado sobre a equação @{eq-ar1b} nós obtemos

(3)  

Sob as condições de estacionariedade, e, consequentemente,

(4)  

Esse resultado tem duas implicações para .

Primeiro, a média de existe se .

Segundo, a média de será zero se (e apenas se) .

Agora, considerando o processo AR(1) pode ser reescrito como

{#eq-eq21}

Fazendo repetidas substituições, a equação anterior implica que

(5)  

Ou seja, transformamos um **processo autoregressivo** em um processo de **média móvel**.

Um processo MA(1) é representado como abaixo:

(6)  

onde é um ruído branco e e podem ser quaisquer constantes.

Processos ARMA(p, q)

Agora que temos uma noção do que são processos autoregressivos e de média móveis, podemos juntar os dois. Desta forma podemos analisar processos mistos, ou processos **ARMA**. Este processo, **ARMA(p,q)**, mais geral pode ser formulado como a seguir

(7)  

ARIMA (p, d, q)

Quando temos um processo que não necessita de diferenciação a chamamos de **processo integrado de ordem 0** ou alternativamente um **processo I(0)**.

Um segundo caso vem à tona quando é preciso **diferenciar** a série em questão para torná-la estacionária. Isto é, devemos aplicar o operador diferença sobre .

Nesse caso, se precisamos diferenciar a série uma vez para torná-la estacionária, refere-se à mesma como sendo um **processo integrado de ordem 1** ou alternativamente um **processo I(1)**.

[^3]: Em termos de operador defasagem, ou genericamente, , onde será o número de vezes que a série foi diferenciada.

No contexto da modelagem discutida anteriormente, significa dizer que teremos agora um processo **autorregressivo integrado de médias móveis** , onde refere-se à ordem de integração, isto é, ao número de vezes que a série precisou ser diferenciada para que a mesma se tornasse estacionária.

SARIMA (p, d, q)(P, D, Q)m

Os modelos ARIMA também são capazes de modelar uma ampla gama de dados sazonais.

Um modelo ARIMA sazonal é formado pela inclusão de termos sazonais adicionais, na forma , onde o segundo componente faz referência à parte sazonal e significa o número de períodos por estação.

Estimação e Seleção de ordem

Estimação

Uma vez que a ordem do modelo tenha sido identificada (ou seja, os valores de p, d e q), precisamos estimar os parâmetros .

O processo usual é a Estimação de Máxima Verossimilhança (MLE, na sigla em inglês).

Essa técnica encontra os valores dos parâmetros que maximizam a probabilidade de obter os dados que observamos.

Na prática, pacotes e funções (que contém o algoritmo de estimação) reportarão o valor do logaritmo da verossimilhança dos dados; ou seja, o logaritmo da probabilidade dos dados observados serem provenientes do modelo estimado.

Para valores dados de p, d e q, o algoritmo tentará maximizar o logaritmo da verossimilhança ao encontrar as estimativas dos parâmetros.

Critérios de Informação

Os Critérios de Informação são úteis para avaliar e comparar modelos da mesma classe, porém, com escolhas diferentes. São bastante utilizados em modelos ARIMA, como forma de comparar as estimavativas com base em diferentes ordens dos processos.

A ideia é que os critérios sejam os menores possíveis, e com essa possibilidade, há algoritmos que possibilitam escolher o número de ordens de uma modelo tal que minimize os critérios, como é o caso do Auto ARIMA.

Critério de Informação de Akaike (AIC)

onde é a verossimilhança dos dados, se e se .

Observe que o último termo entre parênteses é o número de parâmetros no modelo (incluindo , a variância dos resíduos).

Critério de Informação de Akaike corrigido (AICc)

Para modelos ARIMA, o AICc é descrito como:

Para valores pequenos de T, o AIC tende a selecionar um número excessivo de preditores, e, portanto, uma versão corrigida do AIC foi desenvolvida.

Critério de Informação Bayesiano de Schwarz

O Critério de Informação Bayesiano de Schwarz (geralmente abreviado como BIC, SBIC ou SC):

O BIC penaliza o número de parâmetros com mais rigor do que o AIC

Bons modelos são obtidos minimizando o AIC, AICc ou BIC. Nossa preferência é usar o AICc.

É importante observar que esses critérios de informação geralmente não são bons guias para selecionar a ordem adequada de diferenciação (d) de um modelo, mas apenas para selecionar os valores de p e q.

Isso ocorre porque a diferenciação altera os dados nos quais a verossimilhança é calculada, tornando os valores de AIC entre modelos com diferentes ordens de diferenciação não comparáveis. Portanto, precisamos usar outra abordagem para escolher d e, em seguida, podemos usar o AICc para selecionar p e q.

Metodologia Box-Jenkins

Uma vez que tenhamos chegado a modelos representados por um ARIMA ou SARIMA, podemos agora assim apresentar a metodologia proposta por Box et al. (2016) de modo a consolidar nossa análise univariada de séries temporais.

A metodologia Box-Jenkins é composta por quatro etapas principais:

1. Identificação do Modelo: Nesta etapa, a série temporal é analisada para identificar seus padrões, como tendência, sazonalidade e componentes de erro. Os gráficos de autocorrelação e autocorrelação parcial são utilizados para identificar os termos autorregressivos (AR) e de média móvel (MA) que podem estar presentes no modelo. Além disso, o uso de diferenciação pode ser necessário para tornar a série temporal estacionária.

2. Estimação do Modelo: Após a identificação do modelo, os parâmetros são estimados usando técnicas de estimativa, como o método dos mínimos quadrados ou a máxima verossimilhança. A seleção do modelo adequado pode ser baseada em critérios de informação, como o Critério de Informação de Akaike (AIC) ou o Critério de Informação Bayesiano (BIC). Também é útil avaliar o número de coeficientes significativos.

3. Diagnóstico do Modelo: Nesta etapa, o modelo estimado é avaliado por meio da análise dos resíduos. Os resíduos devem ser independentes, não apresentar autocorrelação significativa e ter distribuição normal. Os testes de diagnóstico, como o teste de Ljung-Box, podem ser usados para verificar a presença de autocorrelação nos resíduos.

4. Previsão: Uma vez escolhido o melhor modelo, passa-se à etapa de previsão.

Exemplo: Modelagem e Previsão do IPCA

Abaixo, temos um processo que segue o exposto por Box-Jenkins. Iremos realizar a previsão do IPCA a.m% por meio de um modelo ARIMA.

Augmented Dickey-Fuller Test 
alternative: stationary 
 
Type 1: no drift no trend 
     lag   ADF p.value
[1,]   0 -4.18    0.01
[2,]   1 -3.48    0.01
[3,]   2 -3.06    0.01
[4,]   3 -3.07    0.01
[5,]   4 -2.71    0.01
Type 2: with drift no trend 
     lag   ADF p.value
[1,]   0 -7.46    0.01
[2,]   1 -6.55    0.01
[3,]   2 -6.05    0.01
[4,]   3 -6.35    0.01
[5,]   4 -6.06    0.01
Type 3: with drift and trend 
     lag   ADF p.value
[1,]   0 -7.47    0.01
[2,]   1 -6.57    0.01
[3,]   2 -6.07    0.01
[4,]   3 -6.41    0.01
[5,]   4 -6.11    0.01
---- 
Note: in fact, p.value = 0.01 means p.value <= 0.01 

KPSS Unit Root Test 
alternative: nonstationary 
 
Type 1: no drift no trend 
 lag stat p.value
   3 4.45    0.01
----- 
 Type 2: with drift no trend 
 lag   stat p.value
   3 0.0893     0.1
----- 
 Type 1: with drift and trend 
 lag   stat p.value
   3 0.0638     0.1
----------- 
Note: p.value = 0.01 means p.value <= 0.01 
    : p.value = 0.10 means p.value >= 0.10 

ndiffs 
     0 

nsdiffs 
      0