Un modelo de aprendizaje automático genérico —un árbol de decisión, un conjunto de árboles, una red neuronal densa— no entiende, por sí mismo, qué es 'el pasado' de una serie: espera una tabla de observaciones independientes, cada una con sus variables explicativas ( features ) y su variable objetivo. La ingeniería de características es el proceso de traducir una serie temporal a ese formato tabular, construyendo explícitamente las variables que, en un modelo ARIMA, la propia estructura autorregresiva capta de forma implícita:
A partir de esta tabla de características, predecir la serie es, formalmente, un problema de regresión igual que cualquier otro en estadística aplicada: cada fila deja de ser 'el valor de la serie en el instante \(t\)' a secas, y pasa a ser un vector de variables explicativas —de dónde venía la serie, cuál era su nivel y volatilidad recientes— más el valor a predecir.
Añadir más retardos o ventanas móviles más largas da al modelo más información sobre el pasado, lo que en principio mejora el ajuste dentro de muestra. Pero cada característica adicional también consume grados de libertad y aumenta el riesgo de sobreajuste, especialmente en muestras cortas: el modelo puede empezar a ajustar el ruido idiosincrático de las observaciones de entrenamiento en lugar de la relación genuina entre pasado y futuro, lo que empeora —no mejora— la capacidad de predecir sobre datos nuevos.
El número de retardos y la longitud de la ventana móvil no son, por tanto, elecciones libres: como el orden \(p\) de un modelo AR en el Capítulo 3, deben calibrarse con un criterio de validación fuera de muestra, no simplemente maximizando el ajuste dentro de muestra.