Материал из MachineLearning.
Аннотация
Временным рядом называется последовательность упорядоченных по времени значений некоторой вещественной переменной 
. Элемент последовательности называется отсчетом временного ряда.
Задача авто регрессионного прогноза заключается в нахождении модели $)
, где 
вектор параметров модели, которая наилучшим образом приближает следущее значение временного ряда $)
.
Свертка временного ряда возникает в случае существования на множестве подпоследовательностей временного ряда некоторого инварианта. Примером инварианта является период временного ряда, который физически может означать сезонность в данных. При этом построенная модель должна учитывать наличие инварианта и сохранять данное свойство для ряда прогнозов: 
.
Постановка задачи
Пусть задан временной ряд . Предполагается, что отсчеты 
были сделаны через равные промежутки времени, и период временного ряда равен 
, при этом 
, где 
.
Требуется спрогнозировать следующий отсчет временного ряда 
.
Построим матрицу 
} \\
x_{(n-1)p} & x_{(n-1)p-1} & \ldots & x_{(n-1)p-(p-1)} \\
\vdots & \vdots & \ddots & \vdots \\
x_{p} & x_{p-1} & \ldots & x_1 \\
\end{array}
\right)
)
.
Модель имеет вид }\}, \mathbf{w}\right)= \sum_{i=1}^u{\sum_{j=1}^{p-1}{\phi^i(x_{kp-j})\cdot{w_j^i}})
, где 
, а 
набор порождающих функций.
Алгоритм
В терминах поставленной задачи следует решить следующую задачу оптимизации: 
, где
p} & \phi^1(x_{(n-1)p-1})&\dots &\phi^u(x_{(n-1)p-1})& \ldots & \phi^u(x_{(n-1)p-(p-1)}) \\
\vdots & \vdots & \ddots & \vdots & \ddots & \vdots \\
x_{p} & \phi^1(x_{p-1})&\dots &\phi^u(x_{p-1})& \ldots & \phi^u(x_{1}) \\
\end{array}
\right)=
\left(
\begin{array}{l|l}
\mathbf{y} & \mathbf{X}
\end{array}
\right).
)
Если зафиксировать набор порождающих функций , то возникает задача линейной регрессии, которую можно решать несколькими способами. Так как за счет большого количества порождающих функций у нас появится огромное количество признаков то наиболее подходящими будут методы, проводящие отбор признаков: гребневая регрессия, лассо, шаговая регрессия, метод наименьших углов(ЛАРС).
Вычислительный эксперимент
Исходный код
Смотри также
Литература
