Лукашин Ю.П. Адаптивные методы краткосрочного прогнозирования временных рядов

Подождите немного. Документ загружается.

виде взвешенной регрессии и критерий Q записать как вы-

ражение

(14.32)

с весами

(14.34)

Таким

образом, для вычисления функций потерь на каж-

дом шаге используется «окно» шириной т, передвигаемое

по

оси времени, и только данные, попавшие в это «окно»,

используются для вычисления критерия Q

Остальные дан-

ные считаются невидимыми или несущественными и в рас-

чете оценок не

участвуют.

Получить рекуррентный алгоритм для этой весовой фун-

кции

можно в два этапа, представив продвижение «окна»

на

один шаг вперед в виде

двух

событий. Сначала добавим

новую выборочную точку, т.е. расширим «окно» вправо, и с

помощью формул (14.11),

(14.13)

(14.17)

получим проме-

жуточные величины F* и ty, а. затем с помощью тех же са-

мых уравнений устраним устаревшую, ставшую несуще-

ственной точку / -* т. При этом мы лишь меняем знак

«плюс»

на

«минус»,

ах,,;»,-

на

х,_

от

(

н находим F, и р\.

На

основе изложенной процедуры полезно проводить ана-

лиз ошибок прогнозов, получаемых с помощью скользящей

регрессии с различной длиной скользящего отрезка

(окна).

Для этого можно вычислить средний квадрат ошибок про-

гнозирования

на один шаг вперед @, для различных m

(14.35)

- оценка вектора регрессионных коэффици-

ентов на временном отрезке [г

—

т, г - 1).

Величина т, при которой

достигает ми-

нимального значения, указывает на опти-

мальный объем выборки для целей прогно-

зирования

с помощью регрессионной модели

данной

спецификации.

321

Целесообразно также вычислять величину

(14.36)

где

— максимальная длина рассматриваемых скользящих от-

резков (ширина «окна»). Величина Q

отличается от Q,

лишь тем, что при

ее

вычислении принимаются во вни-

мание

ошибки,

полученные для одного

того

же

пери-

ода

от г

до

Т.

Рекуррентное оценивание регрессии с гео-

метрически убывающими весами.

Другой часто

используемой весовой функцией является

(14.37)

гдеО£а£1,/

= 1,2, ..., t

Из

выражения

(14.32)

следует,

что

умножение всех весо-

вых коэффициентов

на

одну и

ту же

константу

не

меняет зна-

чений

оценок параметров,

при

которых Q, достигает миниму-

ма. Смысл множителя

а в

выражении

(14.37)

состоит

в том,

чтобы нормализовать веса таким образом, чтобы

сумме они

давали

при

°°.

Решение

по

формуле

для

выборки объема

находится

из

уравнения

(14.38)

Для построения рекуррентного алгоритма запишем оцен-

ку

ß, в

виде

(14.39)

где

(14.40)

(14.41)

322

Справедливость такого представления оценки нетрудно

показать с помощью повторных подстановок. Отметим, что

при

а = 1 прошлые данные полностью игнорируются («за-

бываются») и имеют значение только текущие значения пе-

ременных, а при а = 0 начальная оценка остается неизмен-

ной,

все последующие наблюдения не принимаются во

внимание.

Та же последовательность переходов, которую мы при-

меняли

раньше (в § I) при выводе рекуррентного алгорит-

ма МНК, приводит в данном случае к рекуррентному алго-

ритму, состоящему из аналогичных уравнений:

(14.42)

(14.43)

(14.44)

(14.45)

Начальные оценки |L F

и g

при t

р находят по фор-

мулам (14.7),

(14.8)

(14.9)

для МНК без

учета

весов, а далее

продолжают рекуррентные вычисления с учетом весов. Вы-

бор оптимального а может быть сделан, например, методом

проб различных значений, взятых из интервала [0, 1], и срав-

нения

соответствующих сумм квадратов ошибок прогнозиро-

вания

на один шаг вперед. Наилучшему а соответствует наи-

меньшая

из этих сумм.

323

§ 5. ОЦЕНКА

ТРАЕКТОРИЙ

ПАРАМЕТРОВ

РЕГРЕССИИ

МЕТОДОМ АДАПТИВНЫХ

КОВАРИАЦИЙ

Рассмотрим еще один

метод

последовательной

корректировки

параметров линейной множественной рег-

рессии с помощью экспоненциально-взвешенных скользящих

средних, предложенный нами в [149, 150, 124]. Будем счи-

тать, что коэффициенты регрессии являются переменными

во времени, т.е.

(14.46)

Однако сначала рассмотрим оценку МНК вектора па-

раметров регрессии с постоянными коэффициентами и за-

пишем

ее в несколько преобразованном виде:

(14.47)

где

Здесь для общности обозначений индекс р + 1 присвоен

эндогенной

переменной у, т.е.

/ri

Обратим внимание

на

величину g

. Ключ к практическому решению проблемы

построения

адаптивной регрессии

(14.46)

состоит, очевидно,

том, чтобы найти хороший способ обновления оценок сред-

324

них значений

g...

Другими словами,

мы

предлагаем выбо-

рочные средние

g..

заменить

на g.

— текущие оценки

ло-

кальных средних значений. Получить

можно различны-

ми

способами. Например,

скользящей регрессии,

т.е. в

регрессии, оцениваемой МНК.

на

последовательно сдвигае-

мом отрезке времени,

фактически оцениваются как сколь-

зящие

средние. Можно также отыскивать тренды смешан-

ных произведений

аппроксимировать

их

известными

функциями

времени

или

какими-либо моделями. Однако,,

по-видимому,

лучше

заранее исключать тренд

из

перемен-

ных (регрессанда

регрессоров), переходя

разностям,

цепным

индексам, темпам приростов

т.п.

учетом

поряд-

ков

интегрированности переменных.

Таким

образом,

рассматриваемом методе в общем виде

задача сводится

изучению динамики средних значений

попарных произведений наблюдаемых переменных. Эти про-

изведения

образуют

временные ряды, которые можно

от-

кладывать

на

графике

анализировать визуально

или с

помощью математических средств.

Из

уравнения

(14.46)

видно,

что

ступенчатый скачок параметра

ß,

непременно

найдет отражение

уровне эндогенной переменной у,

сле-

довательно,

и во

всех

tpH

, i = 1, 2, ..., р, в

которых

она

участвует.

Совокупность таких графиков позволяет раскрыть

структуру

динамику процесса, локализовать точки,

ко-

торых подозревается сдвиг.

целом

уже

на стадии анализа

многомерная задача построения множественной регрессии

разлагается

на р(р

3)/2

одномерных. Отметим, однако,

что указанный одномерный анализ нельзя проводить изо-

лированно

от аналогичных параллельных задач. Все эти од-

номерные задачи должны быть согласованы, подчинены од-

ной

общей конечной цели, одному критерию. Промежуточные,

частные

или

косвенные критерии

могут

уводить

от

цели

вследствие рассогласованности отдельных частей модели,

приводить

«раскачиванию»

ее

как целого.

Перейдем теперь

практическому построению адаптив-

ной

регрессии. Будем полагать,

что все

переменные,

уча-

ствующие

модели,

не

имеют ярко выраженного тренда,

т.е.

их

средний уровень подвержен лишь слабой эволюции.

Тогда предлагается

формуле

(14.47)

заменить арифмети-

ческие средние

на

экспоненциально-взвешенные сколь-

зящие

средние

ljt

. В

этом

случае

обновление

будет

пос-

ледовательно производиться

по

формуле

325

(14.48)

где

— постоянная сглаживания, величина которой находится

интервале

0 < a < 1.

Далее по формуле

(14.47)

с g

ljt

вместо

g..

можно опреде-

лить текущие оценки

коэффициентов

(

в момент

Для нача-

ла вычислений по формуле рекуррентного типа

(14.48)

необ-

ходимо задать некое начальное значение

ij0

для

момента

0. Его можно определить, например, как простое арифме-

тическое среднее на основе первых

членов выборки,

т.е.

(14.49)

Для упрощения

дела

для

всех

пар / и

будем

задавать

параметр сглаживания

одинаковыми.

Но для

того

чтобы найти

их

оптимальные значения, необходимо задать

критерий

качества модели.

Будем считать

ту

модель лучшей,

на

основе которой

на

выборочном периоде получают более точные прогнозы

на

один шаг вперед. Ошибка прогноза равна:

(14.50)

ß,

оценка вектора параметров

момент

В задаче поиска оптимальных значений параметров со-

вокупным показателем погрешности модели

будем

считать

сумму

квадратов ошибок прогнозов:

<?(Го,а)=£^,

(14.51)

зависящую

от

параметров

и а.

Поиск

минимума суммы

квадратов ошибок можно производить итеративно. Пара-

метр

может принимать только дискретные значения

326

ограниченном диапазоне 0 <

<T.

Поэтому его оптималь-

ное значение легко найти перебором. При этом для каждого

значения

следует

определить оптимальное значение а

путем разбиения отрезка [0, 1] на сетку значений и поиска

минимума Q(T

a) на этом множестве. Постепенно переходя

от грубой сетки к более частой, оценку а можно получить с

любой желательной точностью. Этим построение адаптив-

ной

процедуры обновления регрессионных коэффициентов

завершается.

Весьма важное свойство изложенной процедуры

следу-

ет из сопоставления ее с взвешенной регрессией, рассмот-

ренной

нами в § 3 данной главы. Там установлено, что если

при

оценивании регрессии минимизировать взвешенную

сумму

квадратов ошибок с весами, геометрически убываю-

щими

в прошлое, то коэффициентами при ß, в системе нор-

мальных уравнений

(14.23)

будут

суммы экспоненциально-

взвешенных произведений регрессионных переменных,

взятых попарно, см. (14.30). Но из выражения

(14.48)

выте-

кает, что

(14.52)

Это означает, что, положив в

(14.23)

веса

(14.53)

где t - текущий момент времени, на который определяется адап-

тивная оценка, можно прийти к

выводу,

что в каждый

момент / оценка ß

полученная с помощью адаптивной

регрессии, построенной на основе экспоненциально-сгла-

женных попарных произведений

(ковариаций),

миними-

зирует экспоненциально-взвешенную

сумму

квадратов

ошибок:

(14.54)

327

Таким

образом, поиск оптимального значения а означает

выбор геометрически убывающих весов, наилучшим обра-

зом отражающих обесценение информации с течением вре-

мени,

весов, доставляющих минимум функции потерь (14.51).

Проверку метода на примерах можно найти в [124,

с.

226-229].

§ 6. СВЯЗЬ АДАПТИВНОЙ

РЕГРЕССИИ

АДАПТИВНЫМ КОРРЕЛЯЦИОННЫМ АНАЛИЗОМ

Связь

коэффициентов адаптивной регрессии с

адаптивными коэффициентами корреляции

будем

исследо-

вать в предположении, что уравнение ^регрессии записано

для первых разностей переменных

(14.55)

В соответствии с алгоритмом адаптивной регрессии те-

кущая оценка вектора параметров равна:

где

328

Формула (14.56) означает, что оценка $

(

является реше-

нием

системы линейных уравнений

(14.57)

Для того чтобы установить связь оценок регрессионных

параметров ß., с адаптивными коэффициентами корреля-

ции

(см. гл. 9), перепишем систему (14.57) в преобразован-

ном

виде

Sij,i

Величины "1 являются адаптивными коэффициента-

ми

Sij,i

Величины "1 являются адаптивными коэффициента-

ij,i

ми

корреляции r

tj(

(a), которые мы будем обозначать просто

как

ijt

Поэтому систему (14.58) можно переписать как

(14.59)

329

Система

(14.59)

выражает связь адаптивных регрессион-

ных коэффициентов с адаптивными корреляционными

коэф-

фициентами.

Отметим, что в системе

(14.59)

подразумевается, что и в

регрессионном, и в корреляционном анализе используется

одно и то же значение а, выбираемое таким образом, чтобы

наилучшим образом согласовать оценивание адаптивных

коэффициентов

корреляции для различных

пар переменных

с главной целью адаптивных вычислений

—

достижения наи-

высшей точности ретроспективных прогнозов, измеряемой

критерием Q(T

,a), представленным формулой (14.51).

§ 7. МОДЕЛИ С

АВТОРЕГРЕССИОННОЙ

УСЛОВНОЙ

ГЕТЕРОСКЕДАСТИЧНОСТЬЮ

В эконометрическом моделировании неопреде-

ленность взаимосвязей переменных отражается дисперси-

ей остаточного члена регрессии и

{

. Признавая важность

этого показателя, его влияние на те или иные экономичес-

кие

переменные, эконометриками предлагается исследовать

его движение во времени с помощью авторегрессионных

моделей.

Модель

ARCH

Простейшей моделью является модель с авторегрессион-

ной

условной гетероскедастичностью

(AutoRegressive

Conditio-

nal Heteroscedasticity -

ARCH),

предложенная Р. Энглом

[141].

В этой модели безусловная дисперсия М(и*)

=»

vär(u)

яв-

ляется постоянной, а условная дисперсия

Af(«*|l

где

1,_/~ совокупностью информации, известной на момент

t—U

включающей значения х, и лаговые значения у, и *,, Tie.

1/_,

= (Х(, х,_ , у

,,..),

изменяется во времени.

Обозначая

условную

дисперсию через

Щ,

в простейшем

случае

модель ARCH можно записать как

где а, >0.

330