Медведев Г.А., Морозов В.А. Практикум на ЭВМ по анализу временных рядов
Подождите немного. Документ загружается.
обладают сво йст вом равномерной ограниченности среднеква дра тич ног о откло-
нения M{ˆa
i
(H) − a
i
)
2
} ≤ ρ/H, ρ = p
2
∞
P
n=1
c
n
k
2
n
и все моменты S
i
(H) конечны с
вероятностью единица.
Для одномерного процесса АР x
t
= ax
t−1
+ W
t
последовательные оценки
имеют вид
τ ≡ τ (H) = min{N ≥ 0 :
N
X
t=0
x
2
t
≥ H}; (3.32)
ˆa(H) =
Ã
τ−1
X
t=0
[x
t
x
t+1
+ α
τ
(H)x(τ)x(τ + 1)]
!
/H, (3.33)
где коэффициент α
τ
(H) находится из уравнения
τ
X
t=0
x
2
t
+ α
τ
(H)x
2
(τ) = H. (3.34)
При этом оценка ˆa(H) является несмещенной, среднеквадратичное отклонение
оценки равномерно ограничено:
sup
−∞ < a < +∞
M{(ˆa(H) − a)
2
} ≤
1
H
(3.35)
и момент остановки τ(H) конечен с вероятностью единица. Последовательные
оценки представляют собой взвешенные суммы МНК-оценок, вычисленных в
случайные моменты времени.
Метод Дурбина — Левинсона оценивания коэффициентов процесса
СС. Будем подбирать уравнение СС в форме
x
t
= W
t
+
q
X
i=1
ˆ
b
mi
W
t−i
для m = 1, 2, . . . , N − 1, где {W
t
} — последовательность НОР СВ,
M{W
t
} = 0, M{W
2
t
} = ˆv
m
.
Если известны оценки коэффициентов процесса СС (m −1), то оцен ки коэффи-
циентов процесса СС (m) вычисляются рекуррентно:
ˆv
0
= ˆγ
0
; (3.36)
ˆ
b
m,m−k
= ˆv
−1
k
γ
m−k
−
k−1
X
j=0
ˆ
b
m,m−j
ˆ
b
k,k−j
v
j
, k = 0, . . . , m − 1; (3.37)
ˆv
m
= γ
0
−
m−1
X
j=0
ˆ
b
m,m−j
ˆv
j
, m = 1, 2, . . . , N − 1. (3.38)
70
Ковариационная функция ˆp
m
процесса СС (q) для больших значений пара-
метра N аппроксимируется нормальным распределением с нулевым средним и
дисперсией N
−1
(1+2ρ
2
1
+. . .+2ρ
2
q
). Этот факт позволяет предложить следующий
эвристический алгоритм поиска порядка q:
ˆq = inf{m : |ˆρ
m+1
| < N
−1/2
Φ
1−α/2
}. (3.39)
Доверительные интервалы для коэффициентов b
1
, . . . , b
q
определяются из соот-
ношений (для достаточно больших N)
b
j
∈ R : |b
j
−
ˆ
b
mj
| ≤ N
−1/2
Φ
1−α/2
Ã
j
X
k=0
ˆ
b
2
mk
!
1/2
, j = 1, . . . , q. (3.40)
Наконец, рассмотрим задачу оценивания порядка p процесса АР в следую-
щей постановке. Построим тесты для проверки нулевой гипотезы
H
0
: a
m+1
= a
m+2
= . . . = a
p
= 0
против альтернативы
H
1
: a
m+1
6= 0 ∨ . . . ∨ a
p
6= 0.
Для этого можно использовать статистики χ
2
1
и χ
2
2
, которые для каузального
процесса АР (m) имеют в пределе χ
2
-распределение с (p−m) степенями свободы:
χ
2
1
=
ˆ
a
(2)∗
(M
22
− M
21
(M
11
)
−1
M
12
)
ˆ
a
(2)
ˆσ
2
, χ
2
2
=
p
X
j=m+1
ˆ
h
2
j
/σ
2
m
,
где
M =
µ
M
11
M
12
M
21
M
22
¶
=
N
X
t=p+1
˜
x
t
˜
x
∗
t
;
ˆ
a =
µ
ˆ
a
(1)
ˆ
a
(2)
¶
.
Матрица M является блочной с выделением m и p −m строк и столбцов, вектор
ˆ
a разбит на два подвектора с размерностью m и p − m соответственно,
ˆ
h
j
= N
−1/2
m
X
k=0
m
X
l=0
ˆa
k
ˆa
l
m
l,j−k
, где j = m + 1, . . . , p,
ˆa
0
= 1; ˆa
i
, i = 1, . . . , m — МНК-оценки; σ
2
m
— оценка д исп ерс ии σ
2
для процесса
АР (m); m
ij
— элемент матрицы M. Тогда тест для проверки гипотезы H
0
имеет
следующий вид:
принимается
½
H
0
, если χ
2
j
< ∆(α)
H
1
, если χ
2
j
≥ ∆(α)
, j = 1, 2,
где ∆(α) = χ
2
p−m
(1 − α) — квантиль уровня (1 − α) χ
2
-распределения.
71
Лабораторная работа 9. Исследование методов оценивания процессов
АР (p) и СС (q)
Цель работы. Познакомиться и освоить методы оценивания коэффициентов
процесса АР (p) и дисперсии шума. Провести сравнительный анализ получае-
мых оценок.
Порядок выполнения работы
Используя генераторы псевдослучайных чисел, пр оиз вес ти моделирование
временных рядов, порождаемых каузальным процессом АР (p).
Задание 1. С помощью классичес кого (формулы (
3.12), (3.13)) и рекур-
рентного (формулы (3.14)—(3.16),(3.13)) МНК оценить коэффициенты процесс а
АР (p) и дисперсию σ
2
. Исследовать поведение оценок рекуррентного МНК в
зависимости от начальных оценок ˆa(0), p(0).
Задание 2. Оценить коэффициенты процесса АР (p) и дисперсию шума с
помощью метода Юла — Уолкера (формулы (3.20), (3.21)) и с помощью метода
Дурбина — Лев инс она (формулы (3.22)—(3.26)). Провести срав нен ие алгоритмов
по эффективности (число операций, время) и точности. Используя формулу
(3.27), оценить порядок p процесса АР (p). Применяя формулу (3.2 8 ), по стр оит ь
доверительные интервалы для получения оценок коэффициентов a
1
, . . . , a
p
.
Задание 3. Оценить коэффициенты процесса АР (p) с помощью последо-
вательного алгоритма по формулам (3.29)—(3.31) для p > 1 и по формулам
(3.32)—(3.34) для p = 1. Исследова ть качество полученных оценок в зависи-
мости от выбора c
n
, κ
n
, H. Для p = 1 проверить неравенство (3.35) при помощи
моделирования n в ремен ных рядов x
11
, . . . , x
1,N
, x
21
, . . . , x
2,N
, . . . и x
n1
, . . . , x
n,N
.
Для каждого из этих рядов оценить ˆa
i
(H), i = 1, . . . , n, и математическое ожи-
дание
M{(ˆa(H) − a)
2
}
∼
=
1
n
n
X
i=1
(ˆa
i
(H) − a)
2
.
Задание 4. Произвести моделирование временного ряда, порожденного про-
цессом СС (q). С помощью метода Дурбина — Левинсона (формулы (
3.36)—
(3.38)) оценить неизвестные коэффициенты. Используя формулу (3.39), оценить
порядок q процесса СС (q), а используя формулу (3.40), построить доверитель-
ные интервалы для коэффициентов.
Задание 5. Пр овес ти сравнительный анализ алгоритмов оценивания коэф-
фициентов процесса АР (p) по эффективности и точности. Изобразить графи-
чески поведение остатков
e
t
= x
t
−
ˆ
a
∗
˜
x
t−1
, t = p + 1, . . . , N,
и отклонений оценок
ˆ
a от истинных коэффициентов ∆
t
= ||
ˆ
a(t) −a||
2
, где ||·|| —
евклидова норма.
72
Задание 6. Провести моделирование временного ряда, порождаемого про-
цессом АР (p) с полиномиальным трендом u
jt
= t
j
:
x
t
=
p
X
i=1
a
i
x
t−i
+
q
X
j=1
c
j
u
jt
+ W
t
. (3.41)
С помощью МНК оценить коэффициенты a
1
, . . . , a
p
, c
1
, . . . , c
q
. Исследовать вли-
яние тренда на точность оценок процесса АР (p). Провести сравнение с оценками
a
1
, . . . , a
p
при отсутствии тренда.
Задание 7. Произвести моделирование временного ряда, порожденного про-
цессом АР (p). Для различных значений m (m < p, m = p) проверить гипотезу
H
0
о равенстве нулю коэффициентов a
m+1
, . . . , a
p
с помощью с татистик χ
2
1
и χ
2
2
.
3.3. Оценивание параметров процесса АРСС
Любой стационарный ряд можно приблизить с любой сте пен ью то чн ости мо-
делями АР (p) и СС (q), задав p и q достаточно большими. Смешанные модели
авторегрессии и скользящего средн его позволяют ст рои ть модели, дающие хо-
рошую аппроксимацию с помощью небольшого числа параметров.
Метод Юла — Уолкера. Для оценивания коэффициентов a
1
, . . . , a
p
,
b
1
, . . . , b
q
можно использовать уравнение Юла — Уолкера
γ
q
γ
q−1
. . . γ
q−p+1
γ
q+1
γ
q
. . . γ
q−p+2
.
.
.
.
.
. . . .
.
.
.
γ
q+p−1
γ
q+p−2
. . . γ
q
a
1
a
2
.
.
.
a
p
=
γ
q+1
γ
q+2
.
.
.
γ
q+p
,
матричная форма которого задается соотношением Γ(p, q)a = γ(p, q). Решение
имеет вид
a = Γ
−1
(p, q)γ(p, q). (3.42)
Оценка параметра a получается при замене ковариационных функций γ
s
в (
3.42)
их оценками
ˆγ
s
=
1
N − s
N
X
t=s+1
x
t
x
t−s
.
После того, как получена оценка a, требуется оценить b
1
, . . . , b
q
. Положим
Y
n
=
p
X
k=0
a
k
x
n−k
.
Пусть s
j
— ковариация процесса Y , которая определяется следующим образо м:
s
j
= M{Y
n
Y
n+j
} =
X
0≤k,l≤p
a
k
a
l
γ
j+k−l
.
73
Тогда из соотношения (3.1) имеем s
j
= 0 для j > q и
s
j
= M
(Ã
q
X
l=0
b
l
W
n−l
!Ã
q
X
u=0
b
u
W
n+j−u
!)
= σ
2
q
X
u=j
b
u
b
u−j
,
0 ≤ j ≤ q. (3.43)
Необходимо решить систему (
3.43). Предположим, что s
j
известны, а σ
2
,
b
1
, . . . , b
q
(b
0
= 1) неизвестны. В качестве s
j
можно использовать ее оценку
s
j
=
X
0≤k,l≤p
ˆa
k
ˆa
l
ˆγ
j+k−l
. (3.44)
Обозначим y
0
= σ и y
j
= σb
j
, 1 ≤ j ≤ q. Тогда система (3.43) преобразуется к
виду
q
X
u=j
y
u
y
u−j
= s
j
, 0 ≤ j ≤ q. (3.45)
Для q ≥ 2 эта система не может быть решена аналитически, в общем случае она
имеет конечное число различных решений. Заметим также, что искомое решение
должно быть таким, при котором корни полинома
S(z) =
q
X
l=0
y
l
z
l
лежат вне единичного круга |z
i
| > 1. Покажем, что решение системы (
3.45) экви-
валентно нахождению полиномов S(z), которые удовлетворяют соотношениям
S(z)S(1/z) = s
0
+
q
X
k=1
s
k
µ
z
k
+
1
z
k
¶
, z ∈ C,
или
S(z)S(1/z) = U
µ
z +
1
z
¶
= U(v), (3.46)
где U — полином степени q относительно переменной v = z +1/z, коэффициенты
которого являются линейными комбинациями s
k
, 0 ≤ k ≤ q. Рассмотрим три
алгоритма решения системы (3.45).
Алгоритм 1. Применяется метод Ньютона нахождения корней векторного
уравнения g(y) = 0 вида y(n+1) = y(n) −[g
0
(y(n))]
−1
g(y(n)), y = (y
0
, y
1
, . . . , y
q
)
∗
,
где y(n) — оценка век тор а y на n-м шаге; y(0) — некоторым образом выбранное
начальное приближение,
g(y) =
g
0
(y)
.
.
.
g
q
(y)
, g
j
(y) = −s
j
+
q
X
u=j
y
u
y
u−j
;
74
g
0
(y) =
∂g
0
∂y
0
∂g
0
∂y
1
. . .
∂g
0
∂y
q
.
.
.
.
.
. . . .
.
.
.
∂g
q
∂y
0
∂g
q
∂y
1
. . .
∂g
q
∂y
q
.
Если lim
n → ∞
y(n) = y(∞), то g(y(∞)) = 0. Однако это решение может не
удовлетворять условию обратимости процесса АРСС. Таким же образом мож-
но найти новые оценки параметров b
1
, . . . , b
q
, σ
2
, если использовать начальные
приближения y(0), отличающиеся от предложенных.
Алгоритм 2. Для поиска решения использовать уравнение (
3.46). Найти в
C решение уравнения
U(v) = 0. (3.47)
Для q ≤ 3 это может быть сделано явно, для q > 3 существует несколько
численных методов. Пусть v
1
, . . . , v
k
— различные корни уравнения (3.47) крат-
ности m
1
, . . . , m
k
соответственно. Для нахождения корней z
j
решить квадратное
уравнение z + 1/z = v
j
, 1 ≤ j ≤ k, корни которого обозначим z
j
и 1/z
j
, полагая
|z
j
| ≥ 1. Если |z
j
| > 1, то
S(z) = σB(z) = c
Y
1≤j≤k
(z − z
j
)
m
j
,
где константа c находится из соотношения S(i) = U(0), i
2
= −1. В общем случае
S(z) = c
Y
|z
j
|>1
(z − z
j
)
m
j
Y
|z
j
|=1
[z
2
− 2zRe(z
j
) + 1]
1/m
j
.
Алгоритм 3. Спектральная плотность g процесса Y имеет ви д
g(λ) =
σ
2
2π
|B(z)|
2
, λ ∈ [−π, π], z = e
−iλ
.
Аппроксимировать процесс Y процессом АР большого порядка M , а именно:
P
M
(∆)Y
t
= W
t
.
В этом случае спектральная плотность процесса Y
t
имеет вид
g(λ) =
σ
2
2π
¯
¯
¯
¯
1
P
M
(z)
¯
¯
¯
¯
2
, λ ∈ [−π, π], z = e
−iλ
.
Таким образом, полином B(z) можно аппроксимировать полиномом
B
M
(z) =
1
P
M
(z)
=
1
1 + P
M
(z) − 1
=
= 1 − (P
M
− 1) + (P
M
− 1)
2
+ . . . + (−1)
k
(P
M
− 1)
k
+ . . . .
75
Коэффициенты этого полинома b
k
(M) сходятся к коэффициентам полинома
B(z) при M → ∞, 0 ≤ k ≤ q, и к нулю для k ≥ q + 1. Коэффициенты полинома
P
M
(z) находятся из уравнения Юла — Уолкера порядка M для процесса Y :
s
1
s
2
. . . s
M
s
2
s
1
. . . s
M−1
.
.
.
.
.
. . . .
.
.
.
s
M
s
M−1
. . . s
1
p
1
p
2
.
.
.
p
M
= −
s
0
s
1
.
.
.
s
M−1
,
где s
j
определяется выражением (
3.44) (s
j
= 0, j ≥ q). Представлен ный метод
параметров по сравнению с предыдущим методом имеет преимущества в случае
q > 3.
Метод Дурбина — Левинсона. Сначала подбирается уравнение СС по-
рядка m, т.е. вычисляются по формула м (3.36)—(3.38) коэффициенты
ˆ
B
m,m+j
,
j = 0, . . . , m − 1. Порядок m д олжен удовлетворять условию m ≥ p + q, и его
можно выбрать, например, следующим образом: m = inf{k : |ˆρ(k)| < ε}, где
ε > 0 — достаточно малое число, или можно выбрать такое m, при котором
достигается минимум критерия AIC (см. гл.4).
Затем оцениваются коэффициенты a
1
, . . . , a
p
из матричного уравнения
ˆ
B
m,q+1
ˆ
B
m,q+2
.
.
.
ˆ
B
m,q+p
=
ˆ
B
m,q
ˆ
B
m,q−1
. . .
ˆ
B
m,q+1−p
ˆ
B
m,q+1
ˆ
B
m,q
. . .
ˆ
B
m,q+2−p
.
.
.
.
.
. . . .
.
.
.
ˆ
B
m,q+p−1
ˆ
B
m,q+p
. . .
ˆ
B
m,q
a
1
a
2
.
.
.
a
p
(3.48)
и параметры
ˆ
B
j
, j = 1, . . . , q, по формуле
ˆ
B
j
=
ˆ
B
m,j
−
min(j,p)
X
i=1
ˆa
i
,
ˆ
b
m,j−i
, j = 1, . . . , q. (3.49)
Дисперсия оценивается по формуле ˆσ
2
= ˆv
m
, где ˆv
m
вычисляется по (
3.38).
Метод максимального правдоподобия. Предположим, что процесс
АРСС (p, q) является гауссовским и M{W
t
} = 0, M{W
2
t
} = σ
2
, а также кау-
зальным и обратимым. Рассмотрим два способа вычисления логарифмической
функции правдоподобия.
Алгоритм Бокса — Дженкинса. Пусть векторный параметр (a, b) принад-
лежит некоторому компактному подмножеству U, (a, b) ∈ U ⊂ R
p+q
, такому,
что для всех точек этого множества процесс АРСС (p, q) является каузальным и
обратимым. Пусть также известны наблюдения x
1
, . . . , x
N
за процессом АРСС
(p, q). Тогда логарифмическую функцию правдоподобия можно записать в виде
L
N
(a, b, σ
2
) = −
1
2
[Nln (2πσ
2
) +
1
σ
2
F
N
], (3.50)
где
F
N
=
X
−∞<k≤N
[M{W
k
|x
1
, . . . , x
N
}]
2
=
X
−∞<k≤N
|
ˆ
W
2
k
|.
76
ММП заключается в нахождении пар аметр ов a, b, σ
2
, максимизирующих
(3.50). Эта процедура состоит из двух шагов.
Ш а г 1. Найти
˜
a,
˜
b такие, что F
N
(
˜
a,
˜
b, x
N
1
) = inf
(a, b) ∈ U
F
N
(a, b, x
N
1
), где
x
N
1
= (x
1
, . . . , x
N
).
Можно предложить два способа решения задачи.
1. Оценить параметры (a, b) методами Юла — Уолкера и Дурбина — Ле-
винсона для параметров процесса АРСС. Затем выбрать конечное множество
точек, соседних с (
ˆ
a,
ˆ
b). Методом ”обратного предсказания”, описанным ниже,
вычислить величину F
N
(·, ·, x
N
1
) для каждой точки этого множества. Искомая
точка, таким образом, находится прямым перебо ром.
2. В ситуации, когда p + q ≥ 5, предыдущий способ малопригоден. Поэтому
минимизацию можно произвести одним из градиентных методов. Производные
при этом можно аппроксимировать следующим образом:
∂F
N
∂a
k
=
1
ε
[F
N
(a + εe
k
, b, x
N
1
) − F
N
(a, b, x
N
1
)],
∂F
N
∂b
k
=
1
ε
[F
N
(a, b + εe
k
, x
N
1
) − F
N
(a, b, x
N
1
)],
где ε > 0 – некоторое малое число; e
k
– базисный вектор
e
k
=
0
.
.
.
0
1
0
.
.
.
0
k.
В качестве начальной точки можно использовать (
ˆ
a,
ˆ
b).
Ш а г 2. Минимизироват ь выражение Nln (2πσ
2
) + 1/σ
2
· F
N
(
˜
a,
˜
b, x
N
1
) по
σ
2
. Это даст оценку ˜σ
2
в форме ˜σ
2
= F
N
[
˜
a,
˜
b, x
N
1
]/N.
Итак, для завершения процедур ы оценивания осталось рассмотреть вычис-
ление F
N
(a, b, x
N
1
) при заданных a и b. Из сделанных предположений о процессе
АРСС следует, что существует белый шум V
t
с дисперсией σ
2
, удовлетворяющей
соотношению
p
X
k=0
a
k
x
t+k
=
q
X
l=0
b
l
V
t+l
, t ∈ Z. (3.51)
Возьмем условное математическое ожидание (при фиксированном x
N
1
) от
соотношений (
3.51), (3.1):
p
X
k=0
a
k
ˆx
t+k
=
q
X
l=0
b
l
ˆ
V
t+l
; (3.52)
77
p
X
k=0
a
k
ˆx
t−k
=
q
X
l=0
b
l
ˆ
W
t−l
. (3.53)
Алгоритм вычисления F
N
Ш а г 1. Выбрать произвольный вектор α = (α
1
, . . . , α
q
) ∈ R
q
и положить
ˆ
V
N−p+j
= α
j
, 1 ≤ j ≤ q. Используя формулу (
3.52), вычислить V
t
. При этом и н-
декс t уменьшать с N −p до единицы. Положить V
t
= 0 для t ≤ 0. В результате
данного шага получаются значения
ˆ
V
t
, t ≤ N − p + q.
Ш а г 2. Исп оль зуя соотношения (3.52), вычислить ˆx
t
, t = 0, −1, . . . , −M .
При этом |M| должно иметь достаточно большое значение в случае, когда зна-
чения ˆx
t
, t ≤ −M, близки к нулю.
Ш а г 3. Используя формулу (3.53 ), вычислить последовательн о
ˆ
W
t
,
t = −M + 1, . . . , N . Положить W
t
= 0 для t ≥ N + 1.
Ш а г 4. Используя формулу (3.53), вычисл ить последовательно ˆx
t
, t =
N + 1, . . . , N + T , где T — достаточно большое число и такое, что ˆx
t
∼
=
0 для
t > T .
Ш а г 5. Используя формулу (
3.52), вычислить последовательно
ˆ
V
t
, t =
T, T − 1, . . . , N − p + 1.
Этот шаг дает н ово е множе ств о величин ˆα
j
=
ˆ
V
N−p+j
, 1 ≤ j ≤ q, которые
отличаются от начальных. Данный пошаговый алгоритм позволяет итерационно
вычислить вектор α(k) на k-й итерации, а следовательно, и значения
ˆ
W
t
(k),
t ≤ N, на k-й итерации. Окончательно получаем
F
N
[a, b, x
N
1
] = lim
k → ∞
X
t≤N
|
ˆ
W
t
(k)|
2
.
В практической ситуации ограничиваемся некоторым достаточно большим
числом итераций k. Заметим также, что в случае q = 0 требуется одна итерация.
Алгоритм, основанный на одношаговом прогнозе. Логарифмическую
функцию правдоподобия для процесса АРСС (p, q) можно записать в виде
L
N
(a, b, σ
2
) = −
1
2
[Nln (2πσ
2
r
0
· . . . · r
N−1
) +
1
σ
2
S
N
],
где S
N
=
N
P
j=1
(x
j
− ˆx
j
)
2
/r
j−1
; ˆx
j
— одношаговый прогноз; M{(x
j+1
− ˆx
j+1
)
2
} =
= σ
2
r
j
= v
j
— дисперсия ошибки прогноза.
Одношаговый прогноз и его дисперсия вычисляются по формулам
ˆx
i+1
=
i
X
j=1
θ
ij
(x
i+1−j
− ˆx
i+1−j
), 1 ≤ i < m = max(p, q); (3.54 )
ˆx
i+1
= a
1
x
1
+ . . . + a
p
x
i+1−p
+
q
X
j=1
θ
ij
(x
i+1−j
− ˆx
i+1−j
), i ≥ m; (3.55)
78
v
0
= γ
W
(1, 1),
θ
n,n−k
= v
−1
k
γ
W
(n + 1, k + 1) −
n−1
X
j=0
θ
k,k−j
θ
n,n−j
v
j
, k = 0, 1, . . . , n − 1, (3.56)
v
n
= γ
W
(n + 1, n + 1) −
n−1
X
j=0
θ
2
n,n−j
v
j
.
Рекуррентное вычисление по формулам (3.54)—(3.56) производится в порядке
v
0
; θ
11
, v
1
; θ
22
, θ
21
, v
2
; . . . .
Ковариационная функция процесса W M{W
i
W
j
} = γ
W
(i, j) удовлетворяет
соотношению
γ
W
(i, j) =
σ
−2
γ
i−j
, 1 ≤ i, j ≤ m,
σ
−2
·
γ
i−j
−
p
P
l=1
a
l
γ
l−|i−j|
¸
, min(i, j) ≤ m < max(i, j) ≤ 2m,
q
P
l=0
b
l
b
l+|i−j|
, min(i, j) > m,
0, иначе,
,
где γ
i
= M{x
t
x
t−i
} — ковариационная функция процесса x
t
. Процедура поиска
неизвестных параметров состоит из двух шагов.
Ш а г 1. S
N
(ˆa,
ˆ
b) = inf
(a, b) ∈ U
S
N
(a, b).
Ш а г 2. ˆσ
2
=
1
N
S
N
(ˆa,
ˆ
b).
Поиск параметров a, b, минимизирующих S
N
(a, b), можно произвести с по-
мощью какого-нибудь алгоритма нелинейной оптимизации.
Если x
t
— каузальный обратимый процесс АРСС (p, q) и полиномы A(z),
B(z) не имеют общих корней, то оценка параметров ˆa,
ˆ
b имеет ассимптотиче-
ски нормальное распределение
√
N(
ˆ
θ − θ) ⇒ N(0, V (θ)), где
ˆ
θ = (ˆa,
ˆ
b); V (θ) —
асимптотическая ковариационная матрица:
V (θ) = σ
2
µ
M{U
t
U
∗
t
} M{U
t
V
∗
t
}
M{V
t
U
∗
t
} M{V
t
V
∗
t
}
¶
−1
. (3.57)
Здесь U
t
= (u
t
, . . . , u
t+1−p
)
∗
; V
t
= (v
t
, . . . , v
t+1−q
)
∗
; u
t
, v
t
— про цесс ы авторе-
грессии A(∆)u
t
= W
t
, B(∆)v
t
= W
t
. Для p = 0 V (θ) = σ
2
[M{V
t
V
∗
t
}]
−1
, для
q = 0 V (θ) = σ
2
[M{U
t
U
∗
t
}]
−1
. Для оценивания элементо в можно использовать
представление процесса АР в виде бесконечного скользящего среднего:
u
t
= A
−1
(∆)W
t
= ψ
0
W
t
+ ψ
1
W
t−1
+ . . . ; (3.58)
v
t
= B
−1
(∆)W
t
= ϕ
0
W
t
+ ϕ
1
W
t−1
+ . . . . (3.59)
Способы вычисления {ψ
i
}, {ϕ
i
} даны в § 3.1. Для практического вычи слен ия
матрицы V (θ) следует ограничиться конечными рядами (
3.57), (3.58). Данное
79