Чураков Е.П. Математические методы обработки экспериментальных данных в экономике

Подождите немного. Документ загружается.

называют

корреляционной функцией

случайного процесса

X(t),

или

нормированной ковариационной

функцией.

Если

Лд^//,

tj)

О,

то го-

ворят, что сечения Д//) и

X(tj)

процесса ДО не коррелированы. В

частности, если эти сечения независимы, то они и не коррелиро-

ваны. Действительно, при независимых сечениях выполняется

(4.10),

двойной интеграл в (4.15) распадается

на

два одномерных,

каждый из которых равен

нулю.

Из равенства R^tt,

/^)

О в

общем

случае не следует независимость сечений, но эту зависимость с

помощью ковариационной (корреляционной) функции не удает-

ся зарегистрировать. Из неравенства

Лл^^ь

{/)

"^ О

вытекает зависи-

мость сечений.

Приведем наиболее характерные свойства ковариационной

функции.

Kx{th tj)

Kx(tj,

//),

что непосредственно следует из опреде-

ления (4.15).

Kx{ti,

//) =

Dx{ti)

О,

что опять же следует из (4.15).

Для любых

вещественных чисел 9ь

^2> •••>?/«

и моментов

времени

t\,t2,

...,t^

выполняется неравенство

т т

S lqiqjKx(ti.tj)>0. (4.17)

/=1у=1

Чтобы убедиться в справедливости неравенства, достаточно

построить случайную величину

т] = X QiX'^iJi)

и вычислить

М{г|

/=1

Функции со свойством (4.17) принято называть неотрицательно

определенными.

{Kxitb

tj)f

Ыи. td Mtj,

tj)

= DMD^tj),

что является аналогом известного неравенства Коши-Буняков-

ского. Это неравенство следует из (4.17), если положить

= 2,

Если

Z{t)

g{t)

X{t),

где

g{t) —

детерминированный про-

цесс,

ДО - случайный процесс, то

Kzlifi,

tj)

= K^ti,

tj),

т.е. неслу-

чайное слагаемое не изменяет ковариационную функцию слу-

чайного процесса. Это объясняется легко получаемым равенст-

вом Z°(0 =^°(0.

6. Если Z(t) =

g(t)X(t),

где g{t) —

детерминированный процесс,

ДО

—

случайный процесс, то

А2(//,

tj) "=

g(ti)g(tj)Kx{ti,

tj).

Это нера-

венство несложно получить, воспользовавшись определением

ковариационной функции.

170

Полезно подчеркнуть, что все приведенные определения и

свойства справедливы как для непрерывных случайных процес-

сов,

так и для случайных последовательностей. Однако для не-

прерывного процесса моменты //, /) могут быть любыми в непре-

рывной области определения процесса, а для случайной последо-

вательности они должны совпадать с дискретными моментами

существования элементов последовательности.

При построении математических моделей непрерывных про-

цессов большое значение имеет случайный процесс, называемый

белым

шумом.

Определение 4.10. Случайный процесс X(t) называется белым

шумом, если

M{X{t)}

и А';^//, tj) = с6(/у

—

^/),

где с = con^t

—

ин-

тенсивность белого шума, 5(0

—

дельта-функция Дирака, облада-

ющая свойствами

5(0

= ^

' , J5(0d/

= 1

при VE>0.

[о,

/^0 _е

Из этого определения следует, что любые два сечения белого

шума при

ti Ф

tj некоррелированы, а дисперсия

Dy/^t)

©о.

В силу

этих обстоятельств белый шум является чисто гипотетическим

процессом, реально не существующим, но представляющим со-

бой весьма полезную математическую модель, широко применя-

емую при решении многих практических задач. Используется и

более широкое толкование белого шума, при котором с = c{t)

—

функция времени.

При решении задач, основанных на концепции случайных

последовательностей, используют другое понятие белого шума.

Хотя применительно к иной ситуации это понятие уже использо-

валось, дадим соответствующее определение.

Определение 4.11. Случайная последовательность Х\, Х^, ...

называется

дискретным белым

шумом,

если элементы этой после-

довательности независимы, М{Х^ =

и K^^ti, tj) =

M{XiXj}

= c5/j,

где,

как и выше, с = const

—

интенсивность, 5/у - дельта-символ

Кронекера, уже встречавшийся ранее и определяемый так:

hj-l

= J

171

Таким образом, дискретный белый шум представляет собой

последовательность независимых центрированных случайных

величин с постоянной дисперсией

с.

При более общем определе-

нии дискретного белого шума допускается

с(//).

Ковариационная функция

Kxiti,

tj)

случайного процесса X{t),

как уже отмечалось, является мерой статистической связи двух

сечений этого процесса. Для количественной оценки аналогич-

ной связи, но двух различных процессов используют понятие

взаимной ковариационной функции. Дадим соответствующие

определения. Пусть

X{t)

Y{t) —

два случайных процесса.

Определение

4.12.

Функция

Fx^

}{х,

у\

Г/,

tj)

P((X(ti) <

х)п{

Y{tj)<

у)) называется совместным распределением вероятностей про-

цессов

X{t)

Y(t)

в моменты времени //, tj.

Определение 4.13. Если Fx

yix,

у; //,

tj) —

дифференцируемая

функция, то функция Д

у{х,

у;

//,

/у)

= -^

Fx^

у(х,

у;

//,

tj)

называ-

ется совместной плотностью вероятностей процессов

X{t)

и Y(t)

соответственно в моменты времени //

tj.

Определение 4.14. Взаимной ковариационной функцией

KxA^h ^j)

двух случайных процессов

X(t)

Y{t)

называется неслу-

чайная функция переменных

//,

t/.

Kxy{t,,tj) = M{X4ti)Y^(tj)}==

оо оо

J J (x-nix(ti))(y-mY(tj))fxj(x, у; //, tj)dxdy.

—оо—оо

Эта функция, представляющая собой среднее значение про-

изведения двух центрированных сечений процессов

X{t)

и Y(t),

используется в качестве меры статистической связи этих процес-

сов.

Если при некоторых //, tj

Kxyith

Ф ~

О,

то говорят, что сече-

ния

X{ti)

Y{tj)

некоррелированы. Если же это равенство выпол-

няется при любых

ti и

tj,

то процессы называют некоррелирован-

ными на всем множестве их определения.

соответствии с опре-

делением

Kxy{ti,

tj) =

Kyx^tj,

ti). Если Z(/) = ДО + Г(0, где X(t) и

Y{t)

- два случайных процесса, то

Kziti,

tj)

M{Z^(tdZ%tj)}

Kxiti,

tj) +

Kniti,

tj) +

KY)({ti,

tj) +

Ky{ti,

tj),

111

Если же процессы не коррелированы, то

KzfJi,

tj)

Kxitj,

tj)

KyiU,

tj).

Ковариационные и взаимные ковариационные функции ес-

тественным образом распространяются и на векторные сучайные

процессы, но в этих случаях соответствующие ковариационные

функции оказываются матричными. Так,

если

X(t)e

R",

Y{t)e R™

два векторных случайных процесса, то по определению:

Kxitb

tj)

M{X^{t;){X%tj))^)eBP''\

Kyitb

tj)

= M{F°(/,)(F°(/,))'^}€R'"^'",

Kx^ti,

tj)

= M{X\ti){Y\tj))^)^ R'^^,

Ky^iti,

tj)

= M{Y\ti){X%))')€ R'"^^

4.5. Стационарные и эргодические

случайные процессы

Все случайные процессы принято делить на два широких класса

—

стационарные и нестационарные процессы, что связано с ря-

дом принципиальных различий в их характеристиках.

Определение 4.15.

Случайный процесс X{t)

называется

стацио-

нарным

узком

смысле,

если все конечномерные функции распре-

деления вероятностей любой размерности инвариантны относи-

тельно сдвига во времени, т.е при

Vw,

^Л'(^Ь ^2,-, ^Ai; ^Ь ^2, •••» О =

(4.18)

^Л'(^Ь

^2,

^п\

t\ + t\

+ t\ ...,

+ Л.

Из определения следует, что процессы X(t) и Д/ + /) имеют

одинаковые распределения. Процессы, не удоволетворяющие

определению (4.18), принято называть

нестационарными

узком

смысле.

Из (4.18) вытекает ряд свойств.

/\<^Ь

^2»

•••)

Хт

t\, ti, ..., tn) =

= /А(^Ь ^Ъ -М

^п\

t\ + t\ ti + t\ ..., /„ + {),

так как плотность вероятностей как производная от (4.18) также

инвариантна относительно сдвига /.

173

Пусть л =

и выберем / =

—//.

Тогда/Y(X;

//)

=/х(х;

ti+ t) =

=fxix),

т.е. одномерная плотность вероятностей стационарного в

узком смысле процесса одна и та

же

во всех сечениях процесса.

Пусть

и выберем / =

—//.

Тогда^хь

ху,

//,

tj)

=/х(х\,

Х2\

— ti)

=/И^ь

^г?'^)) "^

^ b^^h

т.е.

двумерная плотность вероятнос-

тей стационарного в узком смысле случайного процесса не зави-

сит от

того,

как выбраны сечения //,

tj,

а зависит

лишь

от расстоя-

ния т между сечениями.

Математическое ожидание стационарного в узком смысле

процесса является постоянной величиной:

оо

шх

= M{X(t)} =

J xfx(x)6x

const.

—оо

Дисперсия стационарного

узком смысле процесса являет-

ся постоянной величиной:

% =Л/{(ХЧО)^}= 1 (х-mxffхМ6х

= const

—оо

6. Ковариационная функция стационарного в узком смысле

процесса не зависит от моментов времени //,

tj,

а зависит от рас-

стояния 'I-

tj — ti

между ними:

оо оо

J^x(ti,

tj)= / J (xi-mx)(x2-mx)fx(xu

X2\

T)dxick2

Ад^(т).

—оо—оо

l.Dx-KM^

Помимо процессов, стационарных

узком смысле, вьщеляют

класс процессов, стационарных в широком смысле.

Определение 4.16. Случайный процесс

X(t)

называется

стаци-

онарным

широком

смысле,

если его математическое ожидание и

дисперсия постоянны, а ковариационая функция зависит только

от

расстояния

между

сечениями,

те.

m^^t)

—

гпх—

const, D^t)

—

Dx—

= const,

Kj^ti,

tj)

Kx(tj

ti)

Kx{x).

Из сопоставления двух последних определений следует, что

стационарный в узком смысле процесс одновременно является

стационарным и в широком, но не наоборот. Понятия стацио-

нарности в обоих смыслах совпадают лишь для так называемых

гауссовских процессов, у которых одномерные и многомерные

распределения являются гауссовскими. Аналогичным образом

вводится понятие совместно стационарно связанных случайных

174

процессов. В этом случае

M{X(ti)Y(tj)}

= Kxiitj

—

//) = Kxyit). По-

лезно заметить, что сумма двух нестационарных случайных про-

цессов может оказаться процессом стационарным.

Свойства числовых характеристик стационарных процессов

не противоречат их общим свойствам, изложенным выше. Тем не

менее удобно заново их указать с учетом стационарности про-

цессов.

Kxit) =

Kjd—x) —

четная функция.

2.\Kx(x)\<Dx;\Rx(r)\<L

Если функция

Кх(т)

непрерывна в точке т =

О,

то она непре-

рывна при Vx.

Для многих стационарных процессов Кх(х) -^

при т

—>

©о.

Величина

т^^

такая,

что

|А;^<т)|

при х >

Ху^,

называется

временем

1 ~

корреляции процесса. Часто принимают xj^

-—

J |

Кх

(х) |

dx.

5.КхЛ^) =

Кух{-^х).

""'

6. {Kxy(x)f

Кх{0)Ку(0) = DxDy.

Если Z(/) = X(t)Y(t), где X{t) и Y(t) - стационарные

центрированные независимые случайные процессы, то Kz(x) =

= M{Z^(t)Z^(t +

X)}

Кх(т)Ку{т),

8. Если 7(0 -g{t)X(t), где^(0 -детерминированная функция,

X{t) - стационарный случайный процесс, то /Гу(//, ф =

=^g(ti)g(tj)Kx(x).

Понятие стационарности распространяется как на непрерыв-

ные процессы, так и на случайные последовательности. Однако в

последнем случае необходимо иметь в виду, что расстояние меж-

ду сечениями представляет собой целое число периодов дискре-

тизации (х =

/и^,

m =

О,

±1,

±2,...), а ковариационная функция яв-

ляется решетчатой и ее обозначают символом Кх[т].

Среди стационарных случайных процессов выделяют класс

так называемых эргодических процессов, наиболее привлека-

тельный с практической точки зрения. Пусть X(t)

—

стационар-

ный случайный процесс и x(t) - некоторая его реализация, при-

чем теоретически

/G(—©о,

©о). Построим по этой реализации сле-

дующие величины:

1 ^ - 1 ^ п

т= lim — J x(t)dt, /)= lim —7 J (xiO-mydt,

^T = lim — /

{.x{f)-fh)(,x{f

x)-m)ut.

7'—>oo

Li _rr

175

Далее положим, что процесс

X{t)

имеет математическое ожи-

дание, дисперсию и ковариационную функцию, определяемые

обычным образом:

^Х = / xfx(x)dx, Dx = / (х-шх) /(x)dx.

^х('^)= / / (x\-mxKx2-mx)fx(Xb ^i\ T)dxidx2.

—со—oo

Определение 4.17. Стационарный (в узком смысле) случай-

ный процесс ДО называется

эргодическим

по математическому

ожиданию и ковариационной функции, есл^1 с вероятностью

единица вьшолняются равенства: т =

гпх,

К{х) = А^^т) и, как

следствие, D =

Dx-

Таким образом, принципиальная особенность эргодического

процесса праявляется в том, что основные его числовые характе-

ристики могут быть определены по

одной

реализации процесса

до-

статочно большой длительности без использования плотностей

вероятностей. Усреднение проводится по времени, те., как гово-

рят,

«вдоль

процесса».

Для

неэргодического процесса

эти же

харак-

теристики приходится искать в соответствии с их классическим

определением, использующим плотности вероятностей, поиск

которых, в свою очередь, основывается на обработке множества

реализаций процесса. Поэтому говорят, что характеристики неэр-

годического процесса находятся усреднением по множеству реа-

лизаций или «поперек процесса». Не любой случайный процесс

является эргодическим. Существуют специальные условия, вы-

полнение которых обеспечивает эргодичность.

частности, гаус-

совский процесс является эргодическим, если lim Kx{i)

= 0.

Понятие эргодичности распространяется и на случайные по-

следовательности. Однако интегральные операции при проведе-

нии временного усреднения здесь уже принципиально неприме-

нимы и усреднение, если

Х/,

/ =

О,

±1,

±2,...

—

реализация случай-

ной последовательности, принимает вид:

\ ^ - 1 7V

'"^ ^™ ^^77 ^ ^'п ^= 1™ Т77 ^

(^/-^)

К[т]=

lim-— S (х/-/й)(х,+^~/й).

176

4,6.

Спектральная плотность

случайного процесса

Определение 4.18. Пусть

X{t) —

непрерывный стационарный слу-

чайный процесс с абсолютно интегрируемой ковариационной

функцией

Кх(т).

Тогда

спектральной плотностью

ij^co) процесса

X(t)

называют двустороннее преобразование Фурье

от его

ковари-

ационной функции

Sx((o)=l

Kx(T)e-J''4T,

(4.19)

—оо

где

со —

параметр, обычно называемый частотой; j

—

мнимая еди-

ница (/^=-1).

Так как

К;^т)

- четная функция и

е"-^^'^

= cos сот -ysincox, то

можно записать

оо

Sx((o) = 2j

KX(T)COS

coxdi,

откуда следует, что

Sx((xy)

является четной функцией

со.

Справедливо обратное представление

1 оо 1 ^^

Кх

(х) =

— J Sx (co)e-^''^^dco

-'jSx

(co)cos

coxdco.

Из последнего равенства вытекает важное следствие

Dx=Kx(0)

-]sx(o^)d(o. (4.20)

Выявим физический смысл спектральной плотности. С этой

целью дополнительно предположим, что X(t) - эргодический

центрированный процесс. Тогда

Dx = lim т^ J

(x(t)fdt.

Последнее соотношение показывает,

что

дисперсия представ-

ляет собой среднюю мощность процесса. Это обстоятельство

позволяет следующим образом интерпретировать равенство

(4.20):

случайный процесс

X{t)

условно можно представить как

177

линейную комбинацию бесконечного количества составляющих

гармонического типа, частоты которых непрерывно заполняют

весь диапазон [О, «»); тогда величину •г5л<со)<1(о можно тракто-

вать как среднюю мощность составляющих процесса, частоты

которых принадлежат отрезку [со,

со

dco];

суммирование (интег-

рирование) этих мощностей по всему диапазону частот приводит

к средней мощности всего процесса. Следовательно, сама спект-

ральная плотность с точностью до множителя 1/я представляет

собой плотность распределения мощностей гармонических со-

ставляющих процесса по частотам.

Спектральные плотности для большинства случайных про-

цессов, моделирующих реальные явления, построены и система-

тизированы в различных литературных источниках. Приведем

некоторые.

Кх{х)

= с5(х), с = coast

5Y(CO) = с.

^;^(т)

а2ехр{-а|х|}=>5;^(а)) =

2а^а

2 2 '

^;^(T)

a^exp{-a|T|}cosPT=>5;i'(co)

—г — —г.

Kxii) = о^ ехр {-а

| х |}

cos

(Зх +

-r-sinP

| х

_, . . 4aVco^+a^)

5д^

(ш)

(со^-а^-р2)^+4а2а)^

Полезно отметить еще одно свойство пары «ковариационная

функция

—

спектральная плотность»: чем шире фафик ковариа-

ционной функции, тем уже график спектральной плотности, и

наоборот. Объясняется это следующим обстоятельством. Широ-

кий график ковариационной функции говорит о том, что процесс

характеризуется большим временем корреляции, т.е. его реализа-

ции медленно меняются во времени. Но это означает, что мощ-

ность процесса определяют низкочастотные составляющие, и

график спектральной плотности концентрируется в области низ-

ких частот. Узкому фафику ковариационной функции соответст-

вует малое время корреляции, реализации процесса меняются

178

быстро и в них превалирует роль высокочастотных составляю-

щих, что «расширяет» график спектральной плотности. Имеются

и более строгие доказательства этого свойства.

Понятие спектральной плотности распространяется и на слу-

чайные последовательности. Однако поскольку ковариационная

функция Ajrf/w] случайной последовательности является решет-

чатой, применить к ней интегральное преобразование вида (4.19)

невозможно. Поэтому по определению под спектральной плот-

ностью

Sxliz)

стационарной случайной последовательности пони-

мают двустороннее ^-преобразование ковариационной функции

Ыт]:

Sx{z)= 1 KxMz-'', (4.21)

где

—

комплексная переменная, и предполагается, что функция

Кх[т] удовлетворяет условиям сходимости ряда (4.21). Часто

функцию (4.21) удобнее представить в виде:

Sx(z)

SUz)-^SHz-^)-Kx[Ol Sx(z)= iKxMz'-'', (4.22)

m=0

где Sx^iz)

—

одностороннее ^-преобразование ковариационной

функции, для которого существуют обширные справочные мате-

риалы. Заменой z = в^^% (о^е[~я, п] спектральную плотность

Sxiz) часто переводят в частотную область, но в данном случае в

этом нет необходимости.

4.7. Преобразование случайного процесса

линейным оператором

Пусть

X{t) —

случайный процесс с известными математическим

ожиданием ntxit) и ковариационной функцией

Kx{ti,

tj)j- в ре-

зультате воздействия заданным линейным оператором А преоб-

разуется в случайный процесс 7(0, т.е.

Y(t)

=-AX(t),

(4.23)

Задача заключается

поиске числовых характеристик случай-

ного процесса Y(t) и взаимных ковариационных функций про-

цессов ДО и 7(0-

179