Лукашин Ю.П. Адаптивные методы краткосрочного прогнозирования временных рядов

Подождите немного. Документ загружается.

ними

достижениями техники исследования временных ря-

дов. Остановимся на этой идее более подробно.

Предположим, что исследуется линейный многомерный

процесс.

Наблюденные временные ряды многомерного про-

цесса можно представить в виде вектора переменных z

1)b

2lU

•••>

,t)'

В предположении, что этот процесс

адекватно аппроксимируется многомерным процессом АРСС,

можно вслед за М. Кенуем [127] записать:

(8.1)

где щ

(е

lif

, e

, ..., е^) вектор случайных ошибок;

0 = (0

, ...', Q

) — вектор констант;

Н (В) и F (В) — матрицы операторов сдвига назад раз-

мерности (р X р), элементами которых являются полино-

мы от В конечного порядка, т. е.

и q

обозначают порядок h

(В) и f

(В) соответственно.

В отношении вектора ошибок принимается, что

где btf дельта-функция Кронекера

; 1

— единичная матри-

ВД

(Р

Х/>). •

Взаимные корреляции одновременных значений, авто-

корреляции,

а также различные дисперсии элементов век-

тора ошибок

могут

быть введены посредством соответствую-

щей

спецификации матрицы F (В). Если элементы матрицы

{В) имеют нулевой порядок от В, то (8.1) чистый АР-про-

цесс.

Если элементы матрицы Н (В) имеют нулевой по-

рядок

от В, то (8.1) чистый СС-процесс. Если и Н (В) и

(В) содержат полиномы, порядки которых отличны от

нуля, то (8.1) представляет смешанный процесс АРСС.

Если Н (В) обратима, т. е. имеет собственные значения

не

единичного круга, то можно обе части (8.1) умножить

См. стр. 29.

211

на

матрицу Н* (В), присоединенную

к матрице Н (В):

(8.2а)

где |

(В)

| — детерминант матрицы Н (В), полином от В

конечного порядка;

в"

= (8ь Эг, ..., Эр) — вектор новых констант.

Таким

образом,

система

(8.2а)

состоит

из

уравнений вида:

(8.26)

где с' обозначает i-ю строку Н*

(В)

F (В). Такие уравнения

назовем конечными уравнениями (КУ).

Из

(8.26)

видно, что отдельные элементы вектора z

опи-

сываются АРСС-процессами. Если обе части выражения не

содержат общих сокращающихся множителей, то порядок и

параметры AP-частей всех'уравнений в

(8.26)

должны быть

идентичными. Это может быть проверено анализом статис-

тических выборок. Если эмпирический анализ , каждого

временного ряда в отдельности подтверждает, что порядок

параметры AP-частей КУ идентичны, то вектор может

быть генерирован процессом (8.1) без наложения каких-

либо дополнительных ограничений на Н (В). Если, однако,

порядок

параметры AP-частей КУ оказались различными

для различных элементов г

то возможно, что

(В) имеет

•какой-либо особый вид,

например,

может быть треугольной

или

блочной диагональной матрицей.

На

основе эмпирических

результатов

изучения КУ

можно сделать выводы о возможных свойствах матрицы

H-(ß) и наложить на нее соответствующие ограничения.

В частности, в больших системах, если бы на Н

(В)

не

накладывались никакие ограничения, процессы

(8.2а)

име-

ли бы высокий порядок AP-частей, что не согласуется с

эм-

пирическими

исследованиями, которые указывают на от-

носительно низкий порядок AP-частей КУ для многих

эко-

Напомним, что присоединенной матрицей к квадратной мат-

рице

А называется матрица А*, составленная из алгебраических до-

полнений

к элементам матрицы А.

Известно,

что произведение

где d = | А | — определитель матрицы А.

212

номических переменных. Важно отметить, что независимо

от того, возможно или нет вывести свойства Н (В) из

эмпи-

рического анализа, определенные по статистическим дан-

ным

КУ позволяют генерировать прогнозы раздельно по

каждой переменной.

В эконометрических

работах

обычно предполагается,

что не все переменные равноправны: некоторые из перемен-

ных в z

заданы экзогенно, т. е. генерированы процессами,

независимыми от процессов, генерирующих остальные

переменные.

Это означает, что матрицам Я (В) и F (В) предъ-

являются определенные требования и они приобретают спе-

цифический

вид.

Разобьем z

следующим образом: z

= (y

, x

где y

— вектор эндогенных переменных размерностью

(Pi X 1);

— вектор экзогенных переменных размерностью

(р

X 1), р -pt + Ръ-

Тогда

систему (8.1) можно "записать как

(8.3)

где

(В), F (В), в, Zi расчленены в соответствии с разбие-

нием

Предположение, что x

— вектор экзогенных перемен-

ных — приводит к следующим ограничениям:

(В) . 0; F« (В) ш 0; F

(В) ш 0. (8.4)

Это означает, что на поведение x

элементы вектора e

не

оказывают влияния, а элементы вектора е

воздействуют

на

только через элементы х

(

При

этих ограничениях, наложенных на (8.3), получаем

(ниже матриц и векторов указана их размерность):

(8.5а)

(8.56)

Уравнения

(8.5а)

являются структурными, в

то

время как уравнения

(8.66)

описывают процессы, гене-

213

рирующие вектор стохастических экзогенных переменных

Предположение о том, что х, — вектор экзогенных пе-

ременных, приводя к ограничениям (8.4), сильно сказыва-

ется на форме КУ. При условии обратимости Н

(В) КУ

для элементов x

имеют вид:

(8.6)

где | Н

(В) | и Шг (В) — детерминант и присоединенная

матрица соответственно;

Щ — вектор новых констант.

Подставляя x

из'(8.6) в (8.5а) и умножая обе части на

матрицу, присоединенную к Н

(В), т. е. на tt*u(B), по-

лучаем

КУ для элементов y

где б'/ — вектор новых констант.

При

сравнении (8.6) и (8.7) видно, что КУ для элемен-

тов вектора эндогенных переменных y

имеют АР-опера-

торы, порядок которых равен или выше, чем порядок у

AP-операторов КУ для элементов x

. Если | Н

(В) | поли-

ном

нулевого порядка от В, то порядки АР-частей (8.6) и

(8.7) совпадают. Обычно же порядок АР-оператора (8.7)

будет

превосходить порядок АР-оператора (8.6). Это может

быть проверено эмпирически.

Далее, порядок СС-оператора в (8.7)

будет

выше, чем

(8.6). Это также можно проверить эмпирически. Наконец,

если, как это обычно и бывает, относительно элементов

(В)

F (В) сделаны дополнительные предположения, то их влия-

ние

на вид КУ может быть определено теоретически и про-

верено эмпирически.

§ 2. АДАПТИВНАЯ МОДЕЛЬ

МНОЖЕСТВЕННОЙ РЕГРЕССИИ

Классический

регрессионный анализ опирается

на

гипотезу о возможности аппроксимации изучаемого про-

цесса линейным уравнением с постоянными коэффициента-

ми.

Эти коэффициенты отражают степень связи различных

переменных с изучаемой величиной. В реальной жизни си-

ла взаимодействия переменных не остается неизменной,

как

не остается неизменной и внешняя среда, в которой раз-

214

вивается исследуемый процесс. Оценки же коэффициентов,

полученные на основании упомянутой гипотезы, отражают

характер связи переменных лишь в среднем по выборке,

поэтому трудно ожидать, чтобы они привели к хорошим

краткосрочным прогнозам.

Таким

образом, множественная регрессия с постоянны-

ми

коэффициентами

имеет ограниченное применение и весь-

ма желательно было бы найти способ корректировки, об-

новления

ее коэффициентов. Это открыло бы возможность

исследовать направление и характер эволюции взаимосвя-

зей переменных и получать прогнозы по модели,

лучше

от-

ражающей текущее состояние процесса. Здесь мы и пред-

лагаем способ адаптации коэффициентов множественной

регрессии.

Предположим, что исследуется связь ряда у с рядами

..., хм и что оценку значения

t/t

можно получить как

взвешенную

сумму

вида:

Это уравнение множественной регрессии.

В случае, когда х = О,

будем

решать

задачу

чистого

анализа эволюции коэффициентов связи

(о

<(1

При х >-

—

задачу

анализа эволюции

коэффициентов'

множественной

регрессии и прогнозирования на х шагов вперед на основе

текущей информации.

Сравнивая

оценку у

(t) с фактической точкой ряда

У(+т» можем вычислить ошибку:

на основе полученного

результата

произвести корректи-

ровку коэффициентов ю

Для адаптации коэффициентов (a

iiU

как и в гл. 3, вос-

пользуемся методом наискорейшего спуска, т. е. обновле-

ние

весов

будем

осуществлять по

следующему

правилу:

где \у

— вектор старых коэффициентов;

— вектор новых коэффициентов;

— коэффициент (k > 0);

Srad (е*_

) _ вектор, градиент е\+

215

Используя выражение для

t+t

находим элементы гра-

диента:

В целом градиент

будет

равен:

где X

— вектор

lti

XM.tY,

Таким образом, корректировка коэффициентов должна

осуществляться по правилу: W

= W

2ket+±X

Неизвестным в этом выражении остается лишь значение

коэффициента

й, определяющего скорость движения в наш

равлении обратном градиенту. Для того чтобы выявить его

роль в процессе адаптации, поступим следующим образом.

Вернемся в точку t и вновь сделаем прогноз, но уже с но-

выми весами W

. Получим новое значение ошибки:

где (e

)

— ошибка, полученная при старых

весах

(®

)i,r

Теперь если положить

при 0<а<2

|Ы*+т|<1Ы/+т|.

„

Следовательно, а определяет реакцию модели на полу-

ченную

текущую

ошибку

корректирует

коэффициенты

мно-

жественной регрессии так, чтобы уменьшить ошибку на

—

~-а|)

•

100%. Будем называть« параметром адап-

тации и считать его постоянным для данной модели.

Коэф-

фициент

будет

при этом меняться во времени. Оптималь-

ное значение а можно определить методом проб, т. е. в про-

цессе

«обучения»

модели.

216

Очевидно, что, для того чтобы включить в уравнение

множественной регрессии свободный член, достаточно один

экзогенный

ряд, скажем х

, задать в виде единиц. Ла-

говые, запаздывающие- переменные можно ввести в число

экзогенных, полагая, например,

Следует

сказать несколько слов о проблеме мультикол-

линеарности. Мультиколлинеарность, т. е. корреляция меж-

ду независимыми переменными уравнения, имеет место тог-

да, когда

существуют

линейные соотношения

между

экзо-

генными переменными. Сильная мультиколлинеарность час-

то возникает при введении в уравнение лаговых перемен-.

ных. Проблема мультиколлинеарности, неразрывно свя-

занная

с проблемой оценивания параметров уравнения,

рассмотрена практически во

всех

серьезных работах, посвя-

щенных регрессионному анализу. Остается отметить, что

нашем

случае

мультиколлинеарность проявляется в

ухуд-

шении

процесса адаптации. Это приводит к

тому,

что оцен-

ки

параметров

могут

значительно искажать представление

реальной

структуре

объекта в текущий момент времени.

Проведем эксперимент. Возьмем ряд натуральных чи-

сел от 1 до 20. Легко убедиться в том, что этот ряд точно

воспроизводится авторегрессионной схемой второго поряд-

ка:

f.e. й

2иа

=-1,

Значения этих коэффициентов оце-

ним

с помощью адаптивной модели множественной регрес-

сии.

В качестве начальных оценок весов произвольно поло-

жим

1I0

= 0,5 и (»2,о — 0,5. Процесс адаптации проведем

многократным прогоном модели от значения х = 3 до х =

^ 20, считая в каждом цикле (по 18 итераций в каждом)

начальными те значения параметров, которые были полу-

чены в конце предыдущего цикла. Результаты, приведен-

ные в табл. 8.1,

свидетельствуют

о медленной сходимости

оценок

к истинным значениям параметров при наличии

ильной

корреляции экзогенных переменных.

Перед построением модели адаптивной множественной

Регрессии рекомендуем строить обычную множественную

Репрессию методом наименьших квадратов. Это помогает

а начальном этапе моделирования определить

структуру

Уравнения множественной регрессии, отобрать переменные

217

Таблица

8.1

Адаптация

коэффициентов

множественной

регрессии

при

сильной

мультиколлинеарности

экзогенных

переменных

1,8

1,9

Количество

циклов

' 0

100

150

100

150

Общее

количество

итераций

900

1800

2 400

900

1800

2 400

Оценки

параметров

и,

0,5

0,99674

1,96574

1,99914

1,99992

0,5

1,22087

1,99271

1,99991

1,99995

0,5

0,04146

—0,96443

—0,99911

-0,99992

0,5

—0,29308

-0,99339

—0,99992

—0,99995

для их включения в уравнение. Полученные на этой стадии

результаты можно рассматривать как исходные для адап-

тивного моделирования, их полезно также использовать

для сопоставлений.

§ 3. АДАПТИВНАЯ МОДЕЛЬ

ПРОИЗВОДСТВЕННОЙ

ФУНКЦИИ

Построение и оценка производственных функ-

ций,

отражающих связь

между

факторами и результатами

производства, являются классической проблемой экономет-

рии

(см. [6], [27], [31]).

Производственные функции имеют достаточно общую

форму для экономического анализа. Они применяются в

исследованиях различных уровней экономики в зависимо-

сти от характера исходных данных. В одних случаях про-

изводственные функции, описывают отдельные технологи-

ческие процессы, в

других

— отражают деятельность пред-

приятия,

отрасли или экономики страны в целом. Произ-

водственная функция отражает устойчивую количествен-

ную связь,

существующую

между

затратами и выпуском

Продукции, но безотносительно к содержанию происходя-

щих при этом реальных производственных процессов. Со-

четание производственных факторов при этом условно на-

зывается абстрактной технологией,

218

, Простейшая производственная функция, функция Коб-

ба—Дугласа

имеет вид: Y =

LP;

а > 0; ß > О,

где Y — выпуск продукции, a L и К — используемые объ-

емы живого и овеществленного

труда

соответственно.

Смысл параметров а и ß, статистическая оценка кото-

рых производится на основе рядов Y, К и L, легко выявля-

ется с помощью логарифмического дифференцирования пре-

дыдущего

уравнения:

Это выражение означает, что рост в исследуемый пери-

од объема К на 1% определяет рост выпуска продукции

на

а%. Параметр ß интерпретируется аналогично для затрат

живого

труда.

Таким образом, аир являются эластично-

стями выпуска по факторам производства.

В экономической системе, описываемой производствен-

ной

функцией Кобба—Дугласа,

при а + ß > 1 имеет мес-

тоэкономия

на масштабах производства, а при а + ß < 1 —

рост

удельных

издержек. Соотношение а + ß = 1 означает,

что совокупная эластичность факторов равна единице.

Производственная функция предполагает, что

существу-

ет возможность для взаимного замещения факторов, т. е.

что производственные факторы

могут

сочетаться в различ-

ных пропорциях. Однако при любой данной комбинации

факторов можно достичь различных объемов выпуска про-

дукции в зависимости от эффективности технологии и ор-

ганизации

производственного процесса. Эффективность —

характеристика абстрактной технологии, относящаяся

только к зависимости

между

затратами и выпуском. Она

не

затрагивает отношений

между

затратами. Можно сказать,

что эффективность абстрактной технологии выступает как

масштаб преобразования затрат в выпуск, Эффективность

производственной функции отражает параметр А. Если при

прочих равных условиях параметр А в производственной

функции

для одной экономической системы выше, чем для

Другой, то первая может считаться более эффективной, так

как

равные затраты ресурсов обеспечивают в ней больший

выпуск продукции.

В связи с тем, что эффективность экономической систе-

мы,

как правило, не остается постоянной на отрезке вре-

мени,

для которого строится производственная функция,

логично отражать эффективность в производственной функ-

219

ции

переменным множителем A{t). В качестве простейше-

го способа

учета

возрастания экономической эффективности

Я.

Тинберген предложил функцию A (t) =

При этом

на

параметры производственной функции обычно наклады-

вают

ограничение а + ß = 1.

Таким образом, получаем динамическую производствен-

ную функцию:

(8.8)

где оцениваемыми параметрами являются А, а, к, причем

А теперь характеризует эффективность технологии в мо-

мент t = 0.

Если рост эффективности происходит при неизменном

отношении a/ß, то говорят, что наблюдается нейтральный

технический прогресс. Если же это соотношение меняется

во времени (a = a (t) и ß = ß (t)), то в

случае

увеличения

a/ß прогресс называется капиталорасходующим (трудосбе-

регающим), а при уменьшении a/ß — капиталосберегаю-

щим (трудорасходующим).

Перейдем к проблеме оценивания. Уравнение произ-

водственной функции относится к классу нелинейных. Меж-

ду тем наиболее распространенным методом оценки пара-

метров экономико-математических моделей является метод

наименьших квадратов

(МНК),

разработанный преимущест-

венно для оценки линейных моделей. В тех

случаях,

когда

использование линейной модели не отвечает поставленной

задаче, нелинейные модели обычно сводят к линейным, а за-

тем эти производные модели оценивают с помощью МНК.

Статистическая связь

между

тремя переменными в про-

изводственной

функции выражается в форме:

(8.9)

где e

— случайная переменная.

На

практике же оценивание параметров Л, аи« часто

осуществляют по регрессионному уравнению, получаемому

из

(8.8)

путем

почленного деления на L

и логарифмирова-

ния

обеих частей:

(8.10)

где щ — случайная переменная.

Однако применение

МНК

непосредственно к этому УР*

нению приводит к

тому,

что оценки параметров оказыва-

220