Медведев Г.А., Морозов В.А. Практикум на ЭВМ по анализу временных рядов

Подождите немного. Документ загружается.

2k−1

= sin (kπu), k = 1, 2, . . . , (2.50)

с нормировочным соотношением

(u) du = 1.

Ортогональные на (0, +∞) функции, основанные на полиномах Лаггер а

(u), выражаются формулой

(u) = e

−u/2

(u),

где полиномы L

(u) определяются рекуррентно:

k+1

(u) = (2k + 1 − u)L

(u) − k

k−1

(u). (2.51)

Первые шесть полиномов Лаггера имеют вид

(u) = 1,

(u) = −u + 1,

(u) = u

− 4u + 2,

(u) = −u

+ 9u

− 18u + 6,

(u) = u

− 16u

+ 72u

− 96u + 24,

(u) = −u

+ 25u

− 200u

+ 600u

− 600u + 120

с нормировочным соотношением

(u) du =

−u

(u) du = (k!)

Примером функций, ортогональных на всей числовой оси (−∞, +∞), явля-

ются функции, построенные с использованием полиномов Эрмита H

(u), т. е.

(u) = e

−u

(u).

Полиномы Эрмита H

(u) находятся по рекуррентной формуле

k+1

(u) = 2uH

(u) − 2kH

k−1

(u). (2.52)

Первые шесть полиномов Эрмита имеют вид

(u) = 1,

(u) = 2u,

(u) = 4u

− 2u,

(u) = 8u

− 12u,

(u) = 16u

− 48u

+ 12,

(u) = 32u

− 160u

+ 120u

с нормировочным соотношением

(u) du =

−u

(u) du = 2

√

π.

Ортогональную систему функций можно построить для всякой конечной или

бесконечной последовательности линейно независимых функций f

(u), f

(u), . . .,

нормируемых на некотором интервале. Наиболее известным способом такого

преобразования функций является метод ортогонализации Грама — Шмидта,

который заключается в следующем. Обозначим (f, f) =

(u) du. Пусть

(u) = f

(u),

k+1

(u) = f

k+1

(u) −

l=1

(ϕ

, f

k+1

)ϕ

(u)

(ϕ

, ϕ

)

, k = 1, 2, . . . . (2.53)

Функции ϕ

(u), определенные таким образом, являются ортогональными.

Если, кроме того, положить ψ

(u) = ϕ

(u)/

(ϕ

(u), ϕ

(u)), то функ ции

(u) образуют систему ортонормированных функций на рассматриваемом ин-

тервале.

До сих пор предполагалось, что функционально е подпространство, в кото-

ром может быть представлена функция регрессии, задано. Но э то обычно на

практике н е выполняется, и речь может идти лишь о том, чтобы аппроксими-

ровать функцию регрессии функциями из задаваемого линейного подпростран-

ства. Выбор подпространства, к сожалению, формализовать не удается, если не

считать формализацией перебор всех подпространств, доступных для исполь-

зования. Поэтому считается, что аппроксимирующее подпространство функций

выбирается исследователем эмпирически. Однако некоторые соображения мож-

но сформулировать. Например, если функция регрессии, определенная на огра-

ниченном интервале, предпо лагается периодической, то можно рекомендовать

аппроксимацию тригонометрическими полиномами. Отметим, что при аппрок-

симации на ограниченном интервале чаще других используются ортогональные

функции, построенные с использованием полиномов Чебышева. После того, как

функциональное пространство выбрано, необходимо уточнить его размерность.

Для этого может быть использован подход, описанный в § 2.1. Оценка качества

приближения, справедливая для любой случайной выборк и, характеризуется

выражением

J(q) =

(x − Φ

∗

(x − Φ

N −

1 + ln

− ln α

, (2.54)

где

c — оценка (

2.46), основанная на (2.45) с учетом (2.37); N — объем выборки;

q — размерность аппро ксимирующего подпространства (размерность q выбира-

ется такой, чтобы (2.54) принимала минимальную величину); α — уровень зна-

чимости при определении размерности аппроксимирующего подпространства.

Лабораторная работа 3. Изучение функций регрессии

Цель работы. Изучить возможность нахождения функций регрессии в виде

разложения ее по набору линейно независимых ил и ортогональных функций.

Провести сравнительное исследование точности оценивания функции регресс ии

по различным базисам.

Порядок выполнения работы

Использовать те же реализации временных рядов, которые были получены

в лабораторной р або те 2, поскольку оценивание в данно м случае осуществля-

ется другими с ред ства ми и появляется возможность сравнивать качество ра-

боты этих подходов. Если реализацию временного ряда лабораторной работы

сохранить не удалось, то временной ряд, который должен быть исследован в

настоящей работе, получается таким же образом, как и в пр едыдущем случае.

При выполнени и лабораторной работы более важным, чем получение оцен-

ки функции регресси и, является ее исследование. Поэтому в ходе выполнения

заданий следует анализирова ть матрицы вариаций Φ

∗

Φ, которые по форме оди-

наковы в заданиях 1—5, но могут сильно о тличаться по зн ачениям при исполь-

зовании различных базисов разложения. Необходимо провести анализ точности

оценивания (например, по показателям ∆) в зависимости от отношения

γ =





− t





(D{y

}).

Задание 1. Использовать полиномы Лежандра для оценивания функции

регрессии исследуемого временного ряда. Найти

∆

−1

|ˆm

(u) − m(u)|du,

где ˆm

(u) — оценка функции регрессии в виде разложения по полиномам Ле-

жандра P

(u). Число членов разложения определить с помощью минимизации

(

2.54).

Задание 2. Исп ол ьзов ать функции Чебышева для оценив ани я функции ре-

грессии исследуемого временного ряда. Найти ∆

−1

|ˆm

(u)−m(u)|du. Чи с-

ло членов разложения определить с помощью минимизации (

2.54).

Задание 3. Испо льз оват ь тригонометрические функции для оценивания

функции регрессии исседуемого временного ряда. Определить

∆

−1

|ˆm

(u) − m(u)|du.

Число членов разложения найти с помощью минимизации (

2.54).

Задание 4. Применяя функции Лаггера, оценить функцию регрессии ис-

пользуемого временного ряда. Число членов разложения найти с помощью ми-

нимизации (2.54). Определить качество оценивания интегралом

∆

b − a

|ˆm

(u) − m(u)|du,

где [a, b] — интервал попадания точек наблюдения u

Задание 5. Использовать функцию Эрмита для оценивания функции ре-

грессии исследуемого временного ряда. Число членов разложения определить с

помощью минимизации (

2.54). Вычислить качество оценивания интегралом

∆

b − a

|ˆm

(u) − m(u)|du.

2.3. Оценивание функции регрессии.

Рекуррентные м етоды

Использование для определения функции регрессии оценок (

2.46) в явной

форме имеет негативные в вычислительном отношении аспекты, связанные с

обращением матрицы Φ

∗

Φ. Во-первых, эта матрица может иметь довольно бол ь-

шую размерность и, во-вторых, может быть плохо обусловленной, что приводит

к зн ачительным вычислительным погрешностям и, как следствие, некачествен-

ному восстановлению функции регрессии. Существуют методы получения оце-

нок (2.46) в вычислительном отношении более подходящие, так как они не п ред -

полагают обращения Φ

∗

Φ в явной форме. Это рекуррентные методы или, как

их часто называют, адаптивные.

Покажем, как можно придать рек урре нтн ую форму вычислениям выбороч-

ных средних. Пусть

F (N) =

t=1

является выборочным средним N некоторых наблюдений f

. Нетрудно видеть,

что этой формуле можно придать рекуррентную форму

F (N) =

1 −

F (N − 1) +

; F (1) = f

. (2.55)

Такая формула являе тся удобной в том сл учае, когда наблюдения f

поступают

вычислителю последовательно и имеется возможность до получения очередно-

го наблюдения обработать предыдущие. Тогда очередное наблюдение только

корректирует выборочное среднее, вычисленное по предыдущим наблюдениям.

Происходит адаптация выборочного среднего к поступив шему новому наблю-

дению. Такой способ обработки наблюдений удобен в тех случаях, когда необ-

ходимо использовать выборочное среднее еще до окончания процесса наблюде-

ния, т. е. в процессе получения наблюдений. Эта ситуация час то встречается при

реализации процессов управления. Кроме того, и в вычисл ительном плане такой

способ удобен тем, что перерас чет выборочного среднего производится с исполь-

зованием минимального объема памяти: не нужно н акапливать все наблюдения,

а достаточно помнить толь ко предыдущее выборочное среднее. Наконец, ис-

пользование рекуррентной формы выборочных средних удобно для реализации

процесса имитационного моделирования в за дачах исследования методов ста-

тистического анализа. При такой обработке данных не нужно организовывать

больших массивов, а следует проводить обработку этих да нн ых одновременно с

их имитацией. Воспользуемся таким подходом для вычисления оценок (2.46).

Пусть Φ(n) оз начает матрицу, составленную из элементов Φ

= ϕ

), 1 ≤

≤ j ≤ q, 1 ≤ i ≤ n, т. е. Φ(n) — это матрица, на основе n первых наблюдений

над временным рядом. С ростом n число строк матрицы Φ(n) увеличивается.

Пусть, как и прежде, ϕ

∗

) = (ϕ

), ϕ

), . . ., ϕ

)) — t-я строка матрицы

Φ(n). Тогда будем иметь соотношения

Φ(n + 1) =

Φ(n)

∗

n+1

)

; Φ

∗

(n + 1) = (Φ(n)

. ϕ(u

n+1

)),

в связи с чем Φ

∗

(n)Φ(n) = Φ

∗

(n − 1)Φ(n − 1) + ϕ(u

)ϕ

∗

). Полезным для

дальнейшего рассмотрения является следующее матричное равенство. Пусть A

и B — квадратные невырожденные матрицы, не обязательно одинаковых раз-

меров, а X, Y , Z — матрицы соответствующих размеров, связанные с A и B

соотношением Z = A + XBY . Тогда Z

−1

= A

−1

−A

−1

X(B

−1

+ Y A

−1

Y A

−1

Эта формула уд обн а для нахождения обратной матрицы Z

−1

, когда A

−1

можно

задать, а B

−1

— просто вычислить. Пусть в данном случае Z = Φ

∗

(n+1)Φ(n+1),

A = Φ

∗

(n)Φ(n), X = Y

∗

= ϕ(u

n+1

). Тогда B оказывается скалярным парамет-

ром, равным единице, B = 1. Отсюда имеем

(Φ

∗

(n + 1)Φ(n + 1))

−1

= (Φ

∗

(n)Φ(n))

−1

−

(Φ

∗

(n)Φ(n))

−1

ϕ(u

n+1

)ϕ

∗

n+1

)(Φ

∗

(n)Φ(n))

−1

1 + ϕ

∗

n+1

)(Φ

∗

(n)Φ(n))

−1

ϕ(u

n+1

)

Обозначим для краткости

(Φ

∗

(n)Φ(n))

−1

= θ(n), ψ(n + 1) = θ(n)ϕ(u

n+1

). (2.56)

Поэтому рекуррентная фо рмула для вычисления последовател ьн ост и обратных

матриц (Φ

∗

(n)Φ(n))

−1

= θ(n) приобретает наиболее простую форму

θ(n + 1) = θ(n) −

ψ(n + 1)ψ

∗

(n + 1)

1 + ϕ

∗

n+1

)ψ(n + 1)

. (2.57)

Обозначим чер ез x(n) — вектор-столбец, составленный из первых n наблюдений

временного ряда x

, 1 ≤ t ≤ n. Тогда оценка (2.46), полученная с использов ани ем

n первых наблюдений временного ряда, будет иметь вид

c(n) = (Φ

∗

(n)Φ(n))

−1

∗

(n)x(n) = θ(n)(Φ

∗

(n − 1)x(n − 1) + x

ϕ(u

)) =

θ(n − 1) −

ψ(n)ψ

∗

(n)

1 + ϕ

∗

)ψ(n)

(Φ

∗

(n − 1)x(n − 1) + x

ϕ(u

)) =

c(n − 1) +

ψ(n)

1 + ϕ

∗

)ψ(n)

−

∗

(n − 1)ϕ(u

)). (2.58)

Эта формула получена с учетом того, что матрица θ(n), по определени ю, — сим-

метрическая матрица. Заметим, что матрица θ(n) с точностью до постоянного

множителя совпадает с матрицей ковариации оценки (

2.46). Указанным множи-

телем является дисперсия временного ряда, т. е. V {x

} = M{(x

−m

)

}, где m

определено в (

2.34). Оценке этой дисперсии соответствует величина

n − q

(x(n) − Φ(n)

c(n))

∗

(x(n) − Φ(n)

c(n)). (2.59)

Таким образом, процедура рекуррентного вычи сле ния оценки (

2.46) сводится

к последовательному вычислению матрицы θ(n) и вектора

c(n) с помощью со-

отношений

θ(n + 1) = θ(n) −

θ(n)ϕ(u

n+1

)ϕ

∗

n+1

)θ(n)

1 + ϕ

∗

n+1

)θ(n)ϕ(u

n+1

)

; (2.60)

c(n + 1) =

c(n) + θ(n + 1)ϕ(u

n+1

)(x

n+1

−

∗

(n)ϕ(u

n+1

)). (2.61)

При реализации процедуры вычисления по формулам (

2.60), (2.61) удобно ис-

пользовать вектор ψ(n + 1) = θ(n)ϕ(u

n+1

Для того, чтоб ы описанная процедура была полностью определена, необхо-

димо задание начальных условий. В общем случае для существования матри-

цы θ(n) = (Φ

∗

(n)Φ(n))

−1

необходимо, чтобы n ≥ q, и достаточно, чтобы Φ(n)

содержала не менее q линейно независимых столбцов. В предположении, что

первые q наблюдений обеспечивают линейную независимость векторов ϕ(u

1 ≤ t ≤ q, рекуррентные фо рмулы (2.60), (2.61) могут быть использованы толь-

ко при n ≥ q. Поэтому процед уру оценивани я коэффициентов c(n) удобно осу-

ществлять в два этапа. Для малых n < q определим (q × q)-матрицу H(n) сле-

дующими рекуррентными соотношениями:

(n) = H

(n − 1) +

(n − 1)

∗

(n − 1)

(δ

− ϕ

∗

(n − 1)), (2.62)

1 ≤ k ≤ q,

где H

(n) — k-й столбец матрицы H(n), причем матрица H(0) = I, т.е. H

(0) =

, δ

— символ Кронекера. Оценка вектора c(n) при этом вычисляется по

формуле

c(n) =

c(n − 1) +

(n − 1)

∗

(n − 1)

−

∗

(n − 1)ϕ(u

)). (2.63)

Если существуют какие-либо априорные данные, позволяющие составить на-

чальный вектор

c(0), то это начальное приближение может быть использовано

в (

2.63). Если же априорных данных относительно вектора

c нет, то полагаем

c(0) = 0. Применив q раз формулы (

2.62), (2.63), получим H(q) и

c(q). На этом

этап малых n заканчивается. В качестве θ(q) выбира ется H(q)H

∗

(q), и дальней-

шие вычисления для n ≥ q производятся по формулам (2.60), (2.61).

Может оказаться, что первые q наблюдений не порождают линейно независи-

мые векторы ϕ(u

). Тогда может быть использована общая процедура, которая

сводится к следующему:

c(n + 1) =

c(n) + K(n + 1)(x

n+1

−

∗

(n)ϕ(u

n+1

)),

c(0) = 0, (2.64)

где K(n + 1) — вектор, который вычисляется по формулам

K(n + 1) =











A(n)ϕ(u

n+1

)

∗

n+1

)A(n)ϕ(u

n+1

)

, если A(n)ϕ(u

n+1

) 6= 0,

B(n)ϕ (u

n+1

)

1 + ϕ

∗

n+1

)B(n)ϕ (u

n+1

)

, если A(n)ϕ(u

n+1

) = 0.

(2.65)

В (

2.11) A(n) и B(n) — (q × q)-матрицы, определяемые по рекуррентным

формулам:

A(n + 1) =

(

A(n) −

A(n)ϕ(u

n+1

)ϕ

∗

n+1

)A(n)

∗

n+1

)A(n)ϕ(u

n+1

)

, если A(n)ϕ(u

n+1

) 6= 0,

A(n), если A(n)ϕ(u

n+1

) = 0;

(2.66)

B(n + 1) = B(n )−

−

B(n)ϕ(u

n+1

)ϕ

∗

n+1

)A(n) + A(n)ϕ(u

n+1

)ϕ

∗

n+1

)B(n)

∗

n+1

)A(n)ϕ(u

n+1

)

+ (2.67)

∗

n+1

)B(n)ϕ(u

n+1

)

(ϕ

∗

n+1

)A(n)ϕ(u

n+1

))

A(n)ϕ(u

n+1

)ϕ

∗

n+1

)A(n),

если A(n)ϕ(u

n+1

) 6= 0;

B(n + 1) = B(n ) −

B(n)ϕ(u

n+1

)ϕ

∗

n+1

)B(n)

1 + ϕ

∗

n+1

)B(n)ϕ(u

n+1

)

, (2.68)

если A(n)ϕ(u

n+1

) = 0.

Начальные значения матриц следующие: A(0) = I, B(0) = 0. Из формул

(2.66)—(2.68) видно, что матрицы A(n), B(n) являются симметрическими. При

реализации вычислительного процесса по формулам (2.65)—(2.68) удобно при-

менять векторы ψ

(n + 1) = A(n)ϕ(u

n+1

) и ψ

(n + 1) = B(n)ϕ(u

n+1

Условие A(n)ϕ(u

n+1

) 6= 0, используемое в (2.65)—(2.68), эквивалентно тому,

что вектор ϕ(u

n+1

) не является линейной комбинацией предыдущих век тор ов

ϕ(u

), 1 ≤ t ≤ n. Значит, это условие при вычислениях может встретиться не

более q раз. Если первые q наблюдений порождают линейно н езав иси мые век-

торы ϕ(u

), то вычисление вектор а K(n + 1) и матриц A(n + 1) и B(n + 1) для

первых q наблюдений осуществляется по первым формулам в (2.65)—(2.68), а

для всех после дующи х наблюдений (n > q) — по вторым формулам, так как в

этом случае для (n ≥ q) всегда будет выполняться условие A(n)ϕ(u

n+1

) = 0.

При этом формула (2.68) совпадает с формулой (2.60) и необходимость в вычис-

лении матрицы A(n) исчезает, поскольку она в дальнейш ем не используется при

вычислении оценок

c(n). Та ким образом, как только в процессе рекуррентных

вычислений условие A(n)ϕ(u

n+1

) 6= 0 выполнилось q раз, необходимость в даль-

нейшей проверке этого условия исчезает и вычисления оценок

c(n) проводятся

с использованием только формулы ( 2 .64 ), второй формулы (2.65) и формулы

(2.68), т.е. процедура вычисления оценок п олн ость ю совпа дае т с вычислениями

по формулам (2.60), (2.61). Вместе с тем на первом этапе при обработке линей-

но независимых векторов, если ими являются q первых ϕ(u

), использование

(2.62), (2.63) значительно упрощае т вычислительный процесс по сравнению с

использованием (2.65)—(2.68). Совершая N итераций вычислений по формулам

(2.60)—(2.63) или (2.65)—(2.68), получаем оценку коэффициентов c функции ре-

грессии (2.37) без обращения матрицы Φ

∗

Φ. Если размерность вектора c неве-

лика и указанная матрица хорошо обусловлена, то использование оценки (2.46)

предпочтительнее. Применение рекуррентных оценок оправдано тогда, когда

обращение матрицы Φ

∗

Φ составляет проблему либо когда оценки функции ре-

грессии необходимо использовать в процессе получен ия наблюдений, что част о

имеет место при решении задач управления в обстановке априорной неопр еде -

ленности.

До сих пор предполагалось, что наблюдения временного ряда x

являлись

независимыми случайными величинами. Рассмотрим теперь случ ай, когда он и

коррелированы.

Обозначим y

= x

− m

. Предыдущий анализ относился к случаю, когда

R = (R

) = σ

= M{y

} = M{(x

− mt

)(x

− mt

)} = 0, i 6= j. (2.69)

Когда это условие не выполняется, способ определения коэффициентов c в

(2.37) до лжен быть модифицирован. Если ковариации (2.15) известны, то вместо

(2.41) эмпирический риск следует записывать в виде

i=1

j=1

(x(u

) − c

∗

ϕ(u

))R

−1

(x(u

) − c

∗

ϕ(u

)) =

(x − Φc)

∗

−1

(x − Φc), (2.70)

где R

−1

— матрица с элементами R

−1

, а остальные элементы (

2.70) определя-

ются так же, как и в (2.45). Минимизация (2.70) по c пр иводит к результату,

аналогичному (2.22):

c = (Φ

∗

−1

Φ)

−1

∗

−1

x. (2.71)

Для того чтобы оценку

c получить рекуррентным методом, можно поступить

следующим об раз ом. Пусть R(n) = (R

), 1 ≤ i, j ≤ n. Тогда имеет место соот-

ношение

R(n) =

R(n − 1) R

∗

где R

∗

= (R

n,1

n,2

. . . R

n,n−1

). Обозначим

−1

n,n

− R

∗

−1

(n − 1)R

, α(n) = −δ

∗

−1

(n − 1). (2.72)

Введем в рассмотрение последовательность матриц

D(1) = R

−1/2

, D(n) =

D(n − 1) 0

α(n) δ

, n = 2, 3, . . . ,

и вектор y(n) = (y

, y

, . . . , y

)

∗

. Окажется справедливым равенство

D(n)R(n)D

∗

(n) = I. В этом случае преобразование D(n)y(n) =

y(n) декорре-

лирует вектор y(n), т.е. M{

y(n)

∗

(n)} = I, что позволяет, преобразуя вектор

наблюдений временного ряда D(n)x(n) =

x(n) и матрицу известных коэффици-

ентов D(n)Φ(n) =

Φ(n), получать условия, в которых решалась задача ран ее.

Поэтому можно показать, что явные формулы для рекуррентного вычисления

оценок коэффициентов регрессии ˆc в отличие от (

2.60), (2.61) имеют вид:

c(n) =

c(n − 1) + γ(n)(¯x

−

∗

(n)

c(n − 1)); (2.73)

γ(n) =

θ(n − 1)

ϕ(n)

− R

∗

−1

(n − 1)R

∗

(n)θ(n − 1)

ϕ(n)

; (2.74)

θ(n) = θ(n − 1) −

θ(n − 1)

ϕ(n)

∗

(n)θ(n − 1)

− R

∗

−1

(n − 1)R

∗

(n)θ(n − 1)

ϕ(n)

, (2.75)

где обозначено

= x

− R

∗

−1

(n − 1)x(n − 1), (2.76)

¯ϕ

∗

(n) = ϕ

∗

) − R

∗

−1

(n − 1)Φ(n − 1),

а обратная матрица R

−1

(n) может вычисляться рекуррентно:

−1

(1) =

−1

(n) =

−1

(n − 1) + α

∗

(n)α(n) δ

∗

(n)

α(n) δ

, (2.77)

где δ

и α(n) определены в (

2.72).

Формулы (2.72)—(2.77) показывают, что наличие корреляции в наблюдениях

временного ряда в большой степени усложняет проблему. В частности и потому,

что, как видно из (2.73), (2.76), при вычислениях на n-й итерации необходимо

использовать все наблюдения, а не только те, которые получены при n-м наблю-

дении, как было в (2.67). Правда, в некоторых случаях усложнения не очень

существенные. Для иллюстрации этого факта рассмотрим случай марковской

зависимости, когда временной ряд описывается следующей математической мо-

делью:

= m

+ y

, y

= ρy

t−1

+ ε

M{ε

} = 0, D{ε

} = 1, |ρ| < 1, (2.78)

где ε

— последовательность НОР СВ. В данном случае R

= ρ

|j−i|

. Матрица,

составленная из таких элементов, обращается аналитически. При этом

−1

(n))

= (R

−1

(n))

= (1 − ρ

)

−1

(n))

= (1 + ρ

)/(1 − ρ

), 1 < k < n, (2.79)

−1

(n))

−ρ

1 − ρ

, |i − j| = 1; (R

−1

(n))

= 0, |i − j| > 1.

Эти свойства обратной матрицы приводят к соотношениям

∗

−1

(n − 1) = ρ(0 0 . . . 0 1), R

∗

(n − 1)R

= 1 − ρ

¯x

= x

− ρx

n−1

ϕ(n) = ϕ(u

) − ρϕ(u

n−1

), n = 2, 3, . . . , (2.80)

и формулы (

2.73)—(2.75) существенно упрощаются.

Мы рассмотрели несколько вариантов рекуррентног о постр оения оценок ко-

эффициентов регрессии. Сравнивая вид рекуррентных оценок, задаваемый вы-

ражениями (2.61), (2.63), (2.64), (2.73), можно обнаружить, что все они имеют

структуру типа (2.73) и отличаются вектором γ(n), который в том или ином

случае определяется соответствующим образом. Сама структура рекуррентных

оценок напоминает структуру последовательного уточн ени я по типу с тохасти-

ческой аппроксимации (Т С А), которая была развита для определения нулей и

экстремумов неизвестной функ ции регрессии. Покажем, как могут быть исполь-

зованы идеи стохастической аппроксимации для построения оценок коэффици-

ентов регрессии.