Пересказ на русском научно-технической литературы на английском.

Введение

Желание прогнозировать будущее или понимать прошлое, ведет напрямую к поиску законов, которые могли бы объяснить такие окружающие нас явления, как нерегулярность сердцебиения или скачки курса валют. Частично эти вопросы можно решить используя результаты эксперимента, но только в том случае, если в основе явления лежат определенные уравнения с заданными начальными условиями.
Однако, ситуация становится сложнее, если такие уравнения неизвестны. В этом случае для прогнозирования явлений потребуется определить законы, которые управляют процессом изменения системы. Такие законы, опять же, могут быть основаны на опыте прошлого.

ОБЩИЕ ПОЛОЖЕНИЯ
Перед авторами статьи стоит цель провести наблюдения над процессом изменения системы. А далее ещё и описать их. Для решения поставленной задачи авторы ввели два подхода, которые обозначили как «понимание» и «обучение».
Первый термин подразумевает подробное математическое изучение поведения системы.
Второй, «обучение» базируется на алгоритмах которые могут воспроизводить структуру системы при помощи разложения во временной ряд.
Такого рода анализ (анализ разложения во временной ряд) служит трем основным целям:
1. Прогнозирование. Целью является точное предопределение краткосрочного изменения системы
2. Моделирование. Эта цель призвана описать особенности долгосрочного поведения системы.
3. Идентификация системы (характеризация). Третья цель направлена на определение основных свойств системы (с недостаточными или отсутствующими исходными значениями) как например степени свободы.
Подробнее о целях и работах будет описано далее в работе.
Попытки прогнозирования поведения систем путем экстраполяции временного ряда начались ещё в 1920-е годы. Однако приблизиться к решению это задачи удалось только после 1980 года, когда электронная вычислительная техника начала широко применяться для математических расчетов. Вычислительная техника позволяла не только записывать и просчитывать гораздо более сложные и длинные временные ряды. Кроме этого, появилась возможность интерактивной визуализации результатов.
По ходу развития ЭВМ ставящиеся задачи становились все более сложными, а результаты более точными. Но одна проблема так и оставалась не решенной. Все еще было достаточно сложно оценить полученные результаты и то, насколько они подтверждаются имеющимися в литературе выкладками. Проще говоря, не было возможности определить достоверны ли полученные ответы.
Для решения этой трудности авторами был организован "Конкурс прогнозирования и анализа временных рядов" в Санта-Фе. Основная цель которого состояла в том, чтобы исследователи предоставили структуру, позволяющую количественно сравнить результаты анализа группы наборов данных, отобранных для охвата диапазона изучаемых проблем.

КОНКУРС В САНТА-ФЕ
Этот конкурс был проведен в 1992 году. Приведем далее некоторые краткие описания структуры и результатов этого испытания. А так же кратко расскажем теоретические выкладки, необходимые для понимания работ.
Итак, для конкурса в Санта-Фе были выбраны следующие данные для анализа:
Чистое физическое лабораторное испытание (1000 отклонений приближенно описываемых тремя связанными нелинейными обыкновенными дифференциальными уравнениями).
Физиологические данные от пациента с апноэ (отсутствием дыхания) во сне. В качестве данных выбраны 34 000 точек сердечного ритма, объем грудной клетки, концентрация кислорода в крови и состояния ЭЭГ спящего пациента.
Данные колебаний курса валют. Выбирались десять сегментов по 3000 пунктов каждый в отношении колебания обменного курса между швейцарским франком и долларом США.
Численно сгенерированный ряд специально для этого соревнования.
Астрономические данные от цефеиды (переменной звезды). Выбраны 7 704 точки в 17 сегментах переменной времени интенсивности белой карликовой звезды.
Незаконченная фуга Дж. С. Баха из «Искусства фуги».
В качестве иллюстрации вышесказанного приводятся следующие изображения:

Рисунок 1. Наборы данных для испытания.
Рисунок 2. Некоторые параметры наборов данных.
Выбрав исходные данные участникам было предложено выполнить ряд действий опираясь на исходные характеристики. Требовалось спрогнозировать развитие этих наборов данных с поправкой на возможные ошибки.
В ходе испытания были замечены три интересные особенности, которые стоит отметить:
поскольку прогнозирование может быть ошибочно, следует проверять описание моделей;
изучение прогнозирования имеет множество финансовых стимулов;
всемирно возрастающий интерес к феномену машинного обучения дает надежду на то, что универсальные алгоритмы для составления прогноза смогут просто и широко применяться.

ЛИНЕЙНАЯ МОДЕЛЬ ВРЕМЕННОГО РЯДА
Перейдем к следующему пункту нашего обсуждения – линейной модели временного ряда

. У такого типа моделей есть две главные положительные особенности: их можно подробно проанализировать и они могут быть просто реализованы. Но при таких существенных преимуществах в данных моделях присутствует значительный недостаток. Их использование ограничено только простыми системами. Так как уже в системах средней сложности подобные модели не дают достоверных результатов. Рассмотрим кратко такие модели и попробуем разобраться в вопросе при каких условиях и почему такие модели не применимы.
Все размышления по этому вопросу строятся на двух базовых предположениях: исследуемая система линейна и стационарна.
Для дальнейшего рассмотрения вопроса нам потребуется обсудить две дополнительные к предыдущим выкладкам задачи.
Первая из них понять поведение выбранной модели. Проще всего эту задачу решать путем рассмотрения роли внешнего воздействия на модель (модель скользящего среднего) и внутренней памяти модели (авторегрессионная модель).
Вторая задача – найти конкретную модель, которая подходит для данного временного ряда.
Возвращаясь к решению первой задачи нам потребуется определить свойства и модели скользящего среднего, и авторегрессионной модели.
3.1 Модель скользящего среднего
Модель скользящего среднего (MA) описывается тремя эквивалентными характеристиками: во временной области, в частотной области и с точки зрения коэффициентов автокорреляции.
Математически в этом случае соотношение между входным рядом и выходным рядом записывается в виде:
xt=n=0Nbnet-n=b0et+b1et-1+…+bNet-N
3.2 Авторегрессионная модель
Авторегрессионная модель (AR) может быть сформулирована так:
xt=m=0Mamxt-m+et=b0et
Это называется авторегрессионной моделью M-го порядка или фильтром с бесконечным импульсным откликом.
3.3 ARMA-модель
И очевидно, что следующим по сложности шагом будет рассмотрение взаимодействия модель скользящего среднего с авторегрессионной моделью. Это взаимодействие описывается так:
xt=n=0Nbnet-n+m=0Mamxt-m+et=b0et=b0et
Данное выражение носит название ARMA-модели.
Уже более полувека такие модели ARMA занимают важные позиции во всех областях анализа временных рядов и обработки сигналов.
Важные задачи, которые встают перед нами после понимания модели ARMA это нахождение коэффициентов ряда и вопрос о выборе порядка модели.
На данный момент не существует единственного наилучшего выбора значений или даже количества коэффициентов для моделирования набора данных. Однако есть несколько исследовательских подходов для определения «правильного» порядка (к примеру информационный критерий Акаике), но эти подходы зависят исключительно от линейности модели и предположений о том, какие из погрешностей распределения заданы.
Таким образом, подведем итоги этой части работы. Можем сделать вывод, что коэффициенты модели ARMA хороши для описания линейных моделей. Однако в случае даже простых нелинейностей такие описания становятся не возможными.
Исторически решение этой проблемы приписывается Тонгу и Лину. Для описания нелинейности они предложили использовать не одну, а две функции. Такие функции названы пороговой авторегрессионной моделью (TAR). Такая модель является глобально нелинейной: она состоит из набора одной из двух локальных линейных авторегрессионных моделей на основе значение состояния системы.
Отсюда следующим шагом является использование многих локальных линейных моделей; однако число таких областей, которые должны быть выбраны, может быть очень большим, если система имеет даже квадратичные нелинейности.
Логично, в таком случае что естественным развитием уравнения ARMA-модели станет добавление квадратичных степеней и степени более высокого порядка. Это называется рядом Вольтерра.
Модели TAR и модели Вольтерра значительно расширяют область возможных функциональных связей для моделирования временных рядов. Однако, чтобы эти нелинейные модели были применимы, должен существовать процесс, который будет использовать особенности данных для построения модели. В следующих разделах мы рассмотрим два взаимодополняющих решения этой проблемы: построение явных моделей с реконструкцией пространства состояний и разработка неявных моделей в ассоциативной среде.

«ПОНИМАНИЕ» И «ОБУЧЕНИЕ»
Сильные модели подразумевают серьезные допущения. Они обычно выражаются в нескольких уравнениях с несколькими параметрами и часто могут объяснить множество явлений