Медведев Г.А., Морозов В.А. Практикум на ЭВМ по анализу временных рядов

Подождите немного. Документ загружается.

Г.А.Медведев, В.А.Морозов

Практикум на ЭВМ по анализу временных рядов

Учебное пособие

Медведев Г.А., Морозов В.А. Практикум на ЭВМ по анализу временных рядов

[Электронный ресурс]: Учебное пособие. — Электрон. текст. дан. (1780 кб). —

Мн.: “Электронная книга БГУ”, 2003. — Режим доступа:

http://anubis.bsu.by/publications/elresources/AppliedMathematics/morozov.pdf . —

Электрон. версия печ. публикации, 2001. — PDF формат, версия 1.4 . — Систем.

требования: Adobe Acrobat 5.0 и выше.

МИНСК

«Электронная книга БГУ»

2004

«Электронная книга БГУ», 2004

www.elbook.bsu.by

elbook@bsu.by

МИНИСТЕРСТВО ОБРАЗОВАНИЯ

РЕСПУБЛИКИ БЕЛАРУСЬ

БЕЛОРУССКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ

Г.А.Медведев, В.А.Морозов

Практикум на ЭВМ

по анализу временных рядов

Учебное пособие

Минск

2001

УДК 581.3:519.1(076.5)(075.8)

ББК 22.17я73

М 42

Рецензенты:

кафедра прикладной математики и экономической кибернетики Бело-

русского государственного экономического университета; Г.И.Лебедева,

кандидат технических наук, доцент

Медведев Г.А.

М 42 Практикум на ЭВМ по анализу временных рядов:

Учеб. пособие / Г.А.Медведев, В.А.Морозов. — Мн.:

Университетское, 2001. — 192 с.

ISBN 985-09-0335-Х.

Пособие подготовлено по программам курсов «Теория вероят-

ностей и математическая статистика» и «Статистический анализ

временных рядов» для студентов, обучающихся по специальнос-

ти «Прикладная математика». Будет полезно студентам физико-

математических, технических и экономических специальностей

вузов, изучающих курс «Теория вероятностей и математическая

статистика».

УДК 581.3:519.1(076.5)(075.8)

ББК 22.17я73

Учебное издание

Медведев Геннадий Алексеевич

Морозов Валерий Александрович

ПРАКТИКУМ НА ЭВМ

ПО АНАЛИЗУ ВРЕМЕННЫХ РЯДОВ

Учебное пособие

Редактор А.В.Новикова. Художественный редактор НБ.Ярота. Технический

редактор ВП.Безбородова. Корректоры Л.Н.Макейчик, Т.В.Кульнис.

Подписано в печать 31.01.2001. Формат 70x100/16. Бумага офсет-

ная. Гарнитура Таймс. Печать офсетная. Усл. печ. л. 15,48. Уч.-изд. л. 11,72.

Тираж 230 экз. Заказ 5258.

Налоговая льгота — Общегосударственный классификатор Республики

Беларусь ОКРБ 007-98, ч. 1; 22.11.20.600.

Издательское республиканское унитарное предприятие «Университетское»

Государственного комитета Республики Беларусь по печати. Лицензия

ЛВ № 9 от 8.09.2000. 220048, Минск, проспект Машерова, 11.

Отпечатано с оригинала-макета на республиканском унитарном предприя-

тии «Типография «Победа». 222310, Молодечно, ул. Тавлая, 11.

ISBN 985-09-0335-Х © Медведев Г.А., Морозов В.А., 2001

ОСНОВНЫЕ ОБОЗНАЧЕНИЯ

AIC — статистика информационного критерия Акаике

BIC — статистика модифицированного критерия Ака-

ике

C — множество комплексных чисел

cor(X, Y ) — корреляция СВ X и Y

cov(X, Y ) — ковариация случайных величин X и Y

D{X} — дисперсия СВ X

det(A) — определитель матрицы A

F RE — статистика критерия, основанного на миними-

зации предельной ошибки предсказания

F (P, N) — распределение Фишера с числом степеней сво-

боды P и N (F -распределение)

I — единичная матрица

(N) — квантиль критерия Колмогорова — Смирнова

M{X} — математическое ожидание СВ X

med(x

) — медиана выборки {x

}

N(a, Σ) — нормальное распределение со средним значени-

ем a и дисперсией (ковариационной матрицей) Σ

— n-мерное евклидово пространство

V {

X} — вариация оценки

Z — множество целых чисел

Φ(x) — функция распределения N(0, 1)

−1

(β), Φ

— квантиль распределения Φ(x) на уровне β

(ν) — СВ с χ

-распределением с ν степенями свободы

— биномиальный коэффициент

l!(k − l)!

∗ — знак транспонирования

∅ — пустое множество

1, i = j;

0, i6=j.

— символ Кронекера

∼

— знак приближенного равенства

ОСНОВНЫЕ СОКРАЩЕНИЯ

АКФ — автоковариационная функция

АР — авторегрессия

АРСС — авторегрессия — скользящее среднее

БПФ — быстрое преобразование Фурье

ВКМ — выборочная ковариационная матрица

ВКФ — выборочная ковариационная функция

ГФП — гауссовская функция правдоподобия

ДПФ — дискретное преобразование Фурье

КМ — ковариационная матрица

КФК — квадратичная функция когерентности

ММП — метод максимального правдоподобия

МНК — метод наименьших квадратов

МСП — матрица спектральных плотностей

НКФ — нормированная ковариационная функция

НЛО — наилучшая линейная оценка

НОР — независимые одинаково распределенные

НСП — нормированная спектральная плотность

ОСП — оценка спектра льн ой плотности

ПАРСС — проинтегрированная авторегрессия — скользящее

среднее

СВ — случайная величина

СП — случайный процесс

СПАРСС — сезонная проинтегрированная авторегрессия —

скользящее среднее

СС — скользящее среднее

ССП — стационарный случайный процесс

ТСА — тип стохастической аппроксимации

ФР — функция распреде лен ия

ПРЕДИСЛОВИЕ

Анализ временных рядов — одна из ветвей математической статистики,

представляющая ярко выражен ное практическое направление. Можно утвер-

ждать, что не существует такой области деяте льн ости , имеющей дело с наблю-

дениями или измерениями, в которой не использовались бы методы анализа

временных рядов.

Цель настоящего учебного пособия — ознакомление с основным и метода-

ми анализа временных рядов и алгоритмами обработки данных для получения

необходимых характеристик. Пособие предназначено для студентов, изучивших

теорию вероятностей и математическую статистику или соответствующий курс

высшей математики. Оно будет также полезно и специалистам, которые приме-

няют методы анализа временных рядов для обработки данных в своей предмет-

ной области.

Пособие состоит из семи глав, посвященных основн ым направлениям в ана-

лизе временных рядов. Теоретический материал служит руководством к практи-

ческим работам. Каждая лабораторная работа составлена по следующим прин-

ципам: формулируется цель работы, затем определяется порядок ее выполнения,

подразумевающий последовательность заданий. Лабораторные ра бот ы ориенти-

рованы на использование ЭВМ с графиче ски м дисплеем, так как многие резуль-

таты полезно (а иногда и необходимо) иллюстрировать графиками. Однако при

наличии определенного навыка можно организовать выдачу результатов в виде

графика на любой ЭВМ. Наиболее подходящим средством выполнения лабора-

торных работ являются персональные ЭВМ типа IBM PC с применением со-

ответствующей периферии и программного обеспечения. Лабораторные работы

составлены таким образом, что кажда я последующая производится с возмож-

ным использованием результатов предыдущих (по крайней мере, в пределах

одной темы). Поэтому при прохождении практикума необходимо иметь персо-

нальную дискету, на которой бы организовывались и сохранялись все файлы

данных для использования в случае необходимости.

Основная направленность лабораторных работ — не реализация методов и

алгоритмов, а проведение исследования их эффективности . Поэтому следует

обязательно производить сравнение применяемых методов и алгоритмов на ос-

нове полученных при работе наблюдений. В пособии излагаются, как пра вил о,

несколько известных подходов, на основе которых можно провести грамотный

сравнительный анализ.

Главы 1,2,4—6 написаны Г.А.Медведевым, главы 3 и 7 — В.А.Морозовым.

Авторы выражают глубокую благодарность Е.В.Храмовой за большую по-

мощь в подготовке к изданию настоящего учебного пособия.

Глава 1

СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ

И ВРЕМЕННЫЕ РЯДЫ

1.1. Основные понятия и числовые характеристики

Случайные процессы. Семейство случайных величин {X

, t ∈ = ⊂ R}

образует случайный процесс (СП), где t называется параметром СП, а = —

параметрическим множеством. Если = — дискретное множество, например

= = {0, ±1, ±2, . . .}, то СП называется СП с дискретным временем. Если = —

интервал на числовой оси, то СП называется СП с непрерывным временем. Рас-

сматривая X

как случайную величину ξ(t, ω), отметим, что при фиксированном

ω =ω

величина x(t)= ξ(t, ω

) как функция параметра t называется реализацией

(траекторией) СП. Значение x(t) при фиксированном t=t

, x

=x(t

) называется

выборочным значением или просто значением СП. Множество выборочных зна-

чений {x

, t

∈ T ⊆ =} называется временным рядом. Чаще всего, но не всегда,

T — это дискретное множество. Множество T может совпадать с параметри-

ческим множество м =. Можно сказать, что временной ряд — это множество

данных о СП X

, которыми располагает наблюдатель и на основании которых

он должен делать выводы о свойствах наблюдаемого СП.

В соответствии с этим, как обычно делается в математической статистике,

элементы временного ряда x

рассматриваются, с одной стороны, как заданные,

фиксированные числа при получении оценок параметров СП или принятия ре-

шений о его свойствах.

С другой стороны, при анализе свойств этих оценок или правил принятия

решений элементы временного ряда изучаются как сл учай ные величины с соот-

ветствующими вероятностными характеристиками. В каком смысле использу-

ются элементы временного ряда, становится ясно из контекста.

Для всякого целого n множество =

= =×=× ··· ×= я вляе тся n-кратным

прямым произведением п ара метри чес кого множества самого на себя. Пусть t

< . . . < t

и t = (t

, t

, . . . , t

(Конечномерной) функцией распределения СП называется

(x, t) = P{X

≤ x

, . . . , X

≤ x

функция переменных (x

, x

, . . . , x

) = x. Функция распределения F

(x, t) опре-

делена для всех n, t ∈ =

и x ∈ R

. Характеристическая функция СП задается

равенством

ϕ(u, t) = M

∗

(x, t),

где ϕ(u, t) определена для всех n, u ∈ R

и t ∈ =

. В показателе экспоненты

под интегралом u и x представлены как векторы-сто лбц ы размером n; ∗ — знак

транспонирования.

Числовые характеристики. Математическое ожидание СП и его диспер-

сия находятся по формулам

m(t) = M{X

} =

x dF

(x, t),

D(t) = M{(X

− m(t))

Функции (а вто )ковариации СП и (авто)корреляции СП задаются равенства-

ми

(r, s) = cov(X

, X

) = M{(X

− m(r)) (X

− m(s))},

R(r, s) = cor(X

, X

) = M{X

}, r, s ∈ =.

Формулы связи между этими функциями имеют вид

R(r, s) = R

(r, s) + m(r)m(s),

(r, r) = D(r), R(r, r) = D(r) + (m(r))

Основное свойство функций автоковариации и автокорреляции состоит в

том, что они являются положительно определенными.

Функция R(s, t) называется положительно определенной, если выполняется

следующее свойство. Пусть t

< t

< . . . < t

— любые вещественные числа и

, ¯a

— любые ненулевые комплексно-сопряженные числа, 1 ≤ k ≤ n. Функ-

ция R(s, t) положительно определенная, есл и для всех n = 1, 2, . . . имеет место

неравенство

j=1

k=1

¯a

R(t

, t

) > 0.

Пусть теперь {X

}, {Y

} — два различн ых СП, определенных на одном и том

же параметрическом множестве =; m

(t), m

(t) — математические ожидания

данных СП; D

(t), D

(t) — дисперсии СП.

Функции (взаимной) корреляции СП X

и Y

и их (взаимной) ковариации

представляются в виде

(r, s) = cor(X

, Y

) = M{X

, Y

(r, s) = cov(X

, Y

) = M{(X

− m

(r)) (Y

− m

(s))}.

Соответствующая формула связи между ними задается формулой

(r, s) = R

(r, s) + m

(r)m

(s).

Коэффициентом корреляции СП X

, Y

называется отношение

r(X

, Y

) = cov(X

, Y

(s)D

(t).

Коэффициент корреляции обладает следующими свойствами:

1) |r(X

, Y

)| ≤ 1 ;

2) если X

, Y

— независимы, то r(X

, Y

) = 0;

3) |r(X

, Y

)| = 1 тогда и только тогда, когда с вероятностью единица вы-

полняется равенство Y

= aX

+ b, a 6= 0.

В связи с этими свойствами коэффициен т корреляции принято рассматри-

вать как меру линейной (корреляционной) зависимости между СП {X

} и {Y

1.2. Стационарность и эргодичность

СП называется стационарным в широком смысле (или слабо стационар-

ным), если выполняются следующие условия при = = R или = = Z =

= {0, ±1, ±2, . . .}:

1) M{|X

} < +∞ для всех t ∈ =;

2) M{X

} = m для всех t ∈ = (математическое ожидание не зависит от

времени);

3) cov{X

, X

} = cov{X

r+t

, X

s+t

} для всех r ∈ =, s ∈ =, t ∈ =.

СП наз ывает ся стационарным в узком смысле (или строго стационарным),

если выполняется условие F

(x, t) = F

(x, t + s) для всех n = 1, 2, . . ., всех

x ∈ R

, всех t ∈ =

, всех s = (s, s, . . . , s) s ∈ =.

Если M{|X

} < +∞ для всех t ∈ =, то СП, стационарные в узком смысле,

являются стационарными и в широком смысле. Обратное, вообще говоря, невер-

но. Тем не менее имеются случаи, когда это так. В частности, из стационарно-

сти в широком смысле следует стационарность в узком смысле для гауссовских

(нормальных) процессов.

Если СП стационарный (слабо или строго), то

R(r, s) = R(r − s), R

(r, s) = R

(r − s).

Это значит, что функции автокорреляции и автоковариации зависят не от аб-

солютных значений своих переменных, а от их разности. Отсюда следует, что

R(τ) и R

(τ) — четные функции. Причем R

(0) = D.

Коэффициентом корреляции стационарного СП является отношение

ρ(τ) = R

(τ)/R

(0) = cov(X

, X

t+τ

)/D.

Приведем свойства коэффициента корреляции стационарного СП:

1) |ρ(τ)| ≤ ρ(0) = 1;

2) если X

, X

t+τ

— независимы, то ρ(τ) = 0. Обратное справедливо не

всегда;

3) если X

t+τ

= aX

+ b, a 6= 0, то |ρ(τ)| = 1. Обратное утверждение имеет

место с вероятностью единица.

Процессы {X

} и {Y

} не коррелированы, если cov(X

, Y

) = 0 при любых

s, t ∈ =. Процесс {X

} называется процессом с ортогональными приращениями,

если для любых t

≤t

< t

разности X

−X

и X

−X

не коррелированы,

т. е. r(X

− X

, X

− X

) = 0.

Среди стационарных СП выделяют класс эргодических процессо в. Стаци-

онарный процесс {X

} с непрерывным временем называется эргодическим по

отношению к некоторой функции f(x), если имеет место равенство по вероят-

ности

lim

T → ∞

−T

f(X

) dt = M{f(X

)}.

Эргодическое свойство СП позволяет определять числовые характеристи-

ки СП не используя функций распределения, а основываясь на средних по па-

раметру. Выяснение эргодичности СП вообще затруд нит ель но. Однако в част-

ных случаях могут быть сформулированы относительно простые признаки эр-

годичности СП.

Вещественный нормальный непрерывный стационарный процесс с нулевым

средним {X

} является эргодическим по отношению к функции f(x) = x тогда

и только тогда, когда его спектральная функция G(λ) непрерывна . По крайней

мере, необходимыми условиями эргодичности СП {X

} по отношению к функции

f(x) = x являются следующие:

1) M{|X

} < +∞;

2) для каждого конечного T существуют интегралы Римана

−T

dt.

Эти условия должны быть дополнены достаточными, которые определяются

для каждого конкретного сл учая. Поня тие эргодичности легко модифицирует-

ся для дискретного времени. Для этого нужно операцию интегрирования по

t заменить на операцию суммирования, при которой t принимает значения из

множества Z или его подмножества. Операция интегрирования по λ на всей

числовой оси заменяется операцией интегрирования на интервале (−π, π).

1.3. Спектральные свойства

Пусть {X

} — СП с непрерывным временем. СП X

сходится к случайной

величине X

при t → t

в среднеквадратичном, если

lim

t → t

M{(X

− X

)

} = 0.

СП {X

} непрерывен в среднеквадратичном в точке s, если X

сходится к X

в среднеквадратичном при t → s.