Чураков Е.П. Математические методы обработки экспериментальных данных в экономике

Подождите немного. Документ загружается.

значений представляет собой дискретное множество, а область

определения Г непрерывна.

Если у случайного процесса множество значений непрерыв-

но,

а область определения представляет собой конечное или

счетное дискретное множество Г= {ti,

^2,

..J, то его принято на-

зывать

случайной

последовательностью.

Наконец, случайный процесс принято называть

дискретной

случайной

последовательностью,

если и область определения, и

множество значений являются дискретными множествами. На

рис.

4.1 представлены примеры реализаций x(t) различных слу-

чайных процессов

X(t)

в соответствии

данной классификацией.

Возможны более сложные конструкции случайного процесса.

Так, случайный процесс

X(t)

может быть не скалярным, а много-

мерным. Если X(t)

—

вектор-функция, каждый компонент кото-

рой представляет собой случайный процесс, то такой процесс

X(t) принято называть

векторным.

Аргумент t также может быть

векторным: например, совмещать время и пространственные ко-

ординаты какого-либо изменяющегося во времени и распреде-

ленного в пространстве явления, скажем температуры. Такой

процесс

X(t)

принято называть случайным

полем.

4.2.

Одномерные характеристики

случайного процесса

Основное внимание далее уделяется процессам с непрерывным

множеством их значений

—

непрерывным случайным процессам

и случайным последовательностям. Этот выбор определяется

эконометрической направленностью пособия, так как именно

такие процессы наиболее характерны для эконометрических

приложений. При этом мы не будем обсуждать такие «деликат-

ные» понятия, как среднеквадратичные непрерывность, диффе-

ренцируемость, интегрируемость случайных процессов, стохас-

тические дифференциальные уравнения Ито и Стратоновича и

многое другое, отражающее современный математический уро-

вень теории стохастических процессов, а ограничимся тем мини-

мумом сведений, который необходим цдя решения основных

прикладных задач. Математическое описание случайных после-

довательностей будем совмещать с аналогичным представлением

непрерывных процессов, делая соответствующие комментарии в

160

случае необходимости в них. Непрерывные случайные процессы

условимся обозначать прописными символами

—

Д/), Y(t) и т.п.,

а их реализации строчными

—

соответственно x(t), y(t) и т.п. Ана-

логичным образом за случайными последовательностями закре-

пим обозначения

Xi,

Yi и т.п. (/ = 1, 2,...), а за их реализациями -

X/,

J//и т.п. При этом если множество значений индекса / конечно,

т.е.

/ = 1, 2, ..., N, то случайную последовательность будем назы-

вать стохастическим

временным

рядом. Будем полагать, что как

последовательность, так и ряд сформированы на основе равно-

мерно поступающих во времени данных, т.е. // = //_i + ^,

где ^ = const - так называемый период дискретизации. При рас-

смотрении характеристик, общих для непрерывных процессов и

последовательностей, будем использовать единый символ X(t),

если это не порождает каких-либо недоразумений.

Характеристики случайных процессов принято разделять на

одномерные, относящиеся к одному конкретному сечению, и

многомерные, отражающие свойства процесса совместно в не-

скольких сечениях. Так как в сечении случайный процесс являет-

ся случайной величиной, то его одномерные характеристики сов-

падают с аналогичными характеристиками случайных величин,

известными из курса теории вероятностей, что позволяет доста-

точно кратко изложить их.

Пусть / = // - фиксированное сечение процесса X(t).

Определение 4.3. Функция Fx{x; //) = P(X{ti) < х) называется

одномерной функцией распределения вероятностей случайного

процесса ДО в момент времени //.

Функция распределения, таким образом, представляет собой

вероятность того, что в сечении // случайный процесс

X{t)

примет

значение, меньшее некоторой величины х. Хотя формально она

записана как функция двух переменных, ее аргументом является

переменная jc, а присутствие величины // объясняется желанием

указать «адрес» сечения, к которому эта функция относится. Ес-

ли не возникает недоразумений, эту величину не указывают. Ха-

рактерные свойства этой функции таковы:

1./М-оо;/.)

= 0;

F^b- и) -

Fx{a\

и) = Р{а

< X{ti) <

b), где а, be R;

4. F;^b; ti)>Fx(a;td при b> а;

161

Функция распределения непрерывна слева, т.е. /л<^о;^/) ~

= lim

Fx{x\

и) при

дсо

P{X{td

XQ)

Р{х^\

//);

P{X{ti)

= fl) =

О,

если функция

F(x;

точке а непрерывна,

P{X(ti) =

a)- lim

Fx{b\

ti)-Fx(a;

t^),

если

этой точке имеет-

СЯ

разрыв первого рода.

Одномерная функция распределения, таким образом, являет-

ся неубывающей, непрерывной слева с множеством значений

[О,

1]; она имеет участки монотонного возрастания, участки по-

стоянства и в некоторых точках может иметь разрывы первого

рода.

Определение 4.4. Пусть существует функция/^х; //) такая, что

можно представить

Ux(x;ti)dbc

Fx(x;ti), (4.1)

—оо

или при дифференцируемой функции

Рх{х;

//)

fx(x;ti)^-^Fx(x;ti). (4.2)

Тогда функция /у(х; //) называется одномерной

плотностью

вероятностей

случайного процесса

X(t)

в сечении //.

Смысл плотности вероятностей заключается в том, что с точ-

ностью до бесконечно малых высших порядков выполняется ра-

венство

Мх;

ti)dx

Р{х<X(ti)

<x +

dx),

и функция fx{x;

ti)

показывает, как эта вероятность распределяет-

ся вдоль оси

справедливости равенства несложно убедиться,

если представить

jc+cbc x+dx

J fxix\ti)dx^ J fx{x\ti)ux- \ fx{x\ti)6x^

;c — -co (4.3)

=Fx{x

+ ux\td-Fx{x\ ti)

и функцию

Fx(x +

djc;

ti)

«линеаризовать» в окрестности точки х.

Из (4.1) следует равенство

162

—oo

обычно называемое

условием нормировки

плотности вероятнос-

тей.

Поступая аналогичным (4.3) образом, получаем еще один

важный результат:

ffxix;

ti)dx =

Fx(b;

ti)-Fx(a;

ti) =

Р{а<ХЦ^)<Ь).

(4.4)

Наконец, полезно заметить, что плотность вероятностей

fx{x\ //) как производная от неубывающей функции

Fx(x;

ti)

явля-

ется неотрицательной функцией. Если функция

Fx(x;

//) имеет

разрывы, то плотность вероятностей и в этих точках формально

может быть определена введением 5-функций с интенсивносгя-

ми,

равными величинам скачков (разрывов).

Введенные характеристики процесса

X(t)

полностью отража-

ют в сечении // его вероятностные свойства. Однако во многих

случаях можно офаничиться более скромной информацией о

процессе, сосредоточенной в его

числовых

характеристиках.

качестве таковых, как и для случайных величин, используют ма-

тематическое ожидание (среднее значение)

m^iti),

средний квад-

рат

Cx(ti),

дисперсию

D^iti)

и среднеквадратическое отклонение

pj^//).

По определению имеем:

mx(ti)=^M{X(t,)}=l

xf(x',ti)dx',

Cx(ti) =

M{xHti)}= J xV(x; //)ck;

—oo

Dx(ti) =

M{(X\ti)f}=l (x-mx(ti)ffx(x; //)dbc;

^x(^i) =

Px(^i)-

Здесь, как и ранее, Л/{...}

—

символ усреднения,

X°(ti)

- цент-

рированная случайная величина. В соответствии с определения-

ми все эти характеристики являются неслучайными числовыми

величинами, причем математическое ожидание

mx(ti)

представ-

163

ляет собой ту величину, относительно которой разбросаны от-

дельные реализации процесса

X(t)

в сечении //,

дисперсия явля-

ется мерой этого разброса. Полезно отметить ряд очевидных

свойств:

где

CjE

Xj(t) —

случайные процессы;

если g(t) —

неслучайная функция, то

M{gm=^g(td.

M{Y(td=g(ti)Xm =g(tdmxitil

DY(td=g^{ti)DM^

Если процесс

X(t)

является непрерывным и аргумент

пробе-

гает все возможные значения в соответствии с областью опреде-

ления Т

процесса,

то его математическое ожидание и дисперсия

могут рассматриваться как детерминированные функции време-

ни соответственно

mx(t) и

Dx(t),

Для случайной последовательно-

сти Xi аналогичным образом получим детерминированные ре-

шетчатые функции

m^^i]

mx(ti)

D^ii]

D^ti),

/=1,2,....

4.3.

Многомерные характеристики

случайного процесса. Марковские процессы

Как уже отмечалось, одномерные характеристики случайного

процесса

X{t)

отражают его свойства в одном сечении и, следова-

тельно, не содержат никаких данных о поведении процесса во

времени,

т.е.

динамике.

Этой цели служат многомерные распре-

деления

—

двумерные, трехмерные

т.д.

Рассмотрим

вначале

дву-

мерный случай.

Итак, пусть X(t)

—

случайный процесс. Выделим какие-либо

два сечения Д//) и

X(tj)

этого процесса, соответствующие момен-

там времени // и

tj,

и зададимся произвольными числами

Х2,

относящимися соответственно к /-му иу-му сечениям.

Определение 2.5. Функция

Fx(xi,

x-i,

ti,

tj)

P{{X{t^

x\)r\{X{tj)

< Х2))

называется

двумерной

функцией распределения вероятнос-

тей случайного процесса

X(t)

в моменты времени

// и

tj.

164

Таким образом, двумерная функция /ЗК^ь

^ъ

представ-

ляет собой вероятность совместного выполнения двух событий:

процесс

X(t) в

момент времени

принимает значение, меньшее

некоторой величины

хь а в

момент

—

меньшее

Х2.

Аргументами

этой функции являются переменные

X2,

величины

//,

ука-

зывают сечения,

которым эта функция относится. Основные

ее

свойства.

1. Функция Fxixi,

Х2;

//,

tj) неотрицательная, неубывающая

непрерывная слева

по

каждому из аргументов

х\

Х2.

Если хотя бы один из аргументов стремится

—©о,

функция

распределения вероятностей стремится

к 0.

3,F(oo,oo;ti,tj)=l.

Fxixu

00;

ti, tj)

Fx(xx\t^\

Fx{oo,

X2\

tb tj)

Fx{x2,tj).

F(xi,X2;

//, //) =

Fix2,

tj, //).

< F(xi,

X2\

ti, tj)

< 1

при

Vxi,

X2.

Определение 4.6. Пусть существует функция/^xi,

Х2;

//,

tj),

та-

кая, что можно представить

1 J fxi^b ^ъ и^ tj)6xx^2 =Рх(^ь ^ъ

t'n

tj), (4.5)

(4.6)

или при дифференцируемой функции F{x\,

Х2\

ti, tj)

fx(Xi, X2\ ti, ^y)=g^g^ F{Xx, X2\ //, tj).

Тогда функция

yV(^b

^i\

^ь

{/)

называется двумерной плотнос-

тью вероятностей случайного процесса X(t)

моменты времени

U^tj,

Характерные свойства этой функции.

1-Л(^ь

^ъ

/y)cbcidx2

Р{хх

<X{t^ <xi

(^xxrsx2^X(tj)

<Х2

+ dx2).

00 00

J J

fxi^iy

^ъ

^y)dxidx2

(условие нормировки).

—oo—oo

Ъ.МХх,

X-i,

ti, (j) =fx(X2, Xu tj, tj).

^•fxiXl,

X2;

ti, tj) > 0 при VX,, X2.

^- / fxi^u ^2; ti,

tj)dxi

=fx(x2; tj);

—00

fxi^u X2;

ti,

tj)dx2 =fx(xu

til

—00

165

Определение 4.7. Функция

/ж(хь/,|х2.0)= ^^^^^.^.^ . (4.7)

где принимается/^Х2;

^2) '^ 0>

называется

условной плотностью

ее-

роятностей

процесса

X{t)

в момент времени // при условии, что в

момент

процесс принял значение xi. По аналогии вводится ус-

ловная плотность

/х(^2.

О^ь

^/) =

у^ (^ . ^^ > /^Ui;

^/)^0.

(4.8)

Условные плотности/^jci;

//|х2;

tj),fx(x2\

tj\x\\

/,) не следует пу-

тать с одномерными плотностями у^к^ь ^d^fxi^b {/)» которые час-

то называют

целях противопоставления

безусловными:

безуслов-

ная плотность вероятностей

одном из сечений строится незави-

симо от поведения процесса

другом сечении; в то же время ус-

ловная плотность

одном из сечений строится

предположении,

что процесс во втором сечении принял некоторое фиксирован-

ное значение. Как плотность вероятностей, условная плотность

обладает теми же свойствами, что и безусловная плотность веро-

ятностей.

соответствии с (4.7), (4.8) двумерная плотность выражается

через одномерные

= fxiXbtj)xMXuti\X2;tj).

Если

же

поведение процесса

одном из сечений не зависит от

его поведения во втором, то

Мхь

ti\Kb tj)

=Mxh

ti)Jx(x2\

^Мь и)

= ,^ щ

= М^ъ tj)Jx{Xb Хъ tb Ь) =МХь ti)MX2; tj),

и сечения Д//), Д//) называют

независимыми.

При независимых

сечениях двумерная плотность оказывается равной

произведению

одномерных.

Принцип определения двумерных законов распределения ве-

роятностей и плотностей вероятностей распространяется на про-

извольное число п сечений случайного процесса ДО, что приво-

166

дит к понятию соответствующих л-мерных характеристик. Рас-

смотрим п сечений случайного процесса, относящихся к каким-

либо п моментам времени /^ t2, ..., /^, и зададимся п числами

хь

^2,...,

Хп.

Тогда по определению принимается

Fx(Xi, Х2, ..., Xfjl /j, t2, ..., tfj)-P\

f](X(t^)<Xj)

т.е.

я-мерный закон распределения вероятностей представляет

собой вероятность совместного выполнения п указанных собы-

тий и является функцией п аргументов хь

JC2,

..., х^. Аналогичным

образом определяют л-мерные плотности вероятностей

—оо —оо

f^xiP^l^

^2»

--^

Xfil

^Ь

^2> ^2»

•••> 0>

ИЛИ

же при дифференцируемой функции F;^Xi,X2,...,

х„;

^j,

/2,

•••,

^л)

^-^—^f^ix^, Х2, ..., x„;ti, ...,

t„) =

"^fxi^h

^ъ

•••>

^п\

h->

•••>

О-

Эти функции обладают свойствами, подобными перечислен-

ным выше в связи с двумерными характеристиками, и мы их опу-

скаем. Особо отметим, что

/К^ь ^ъ -,

^п\

h. h. •',

tn)

=fx(xu

ti)fx(x2l

h\xh

Н)/х(хз;

/з|х1,

X2;

/2)...

•"fx(Xn,

tn\xbX2,

...,x,,_i; tu t2,...,

tn-i),

(4.11)

где смысловое содержание условных плотностей сохраняется

прежним. Если же выбранные сечения независимы, соотноше-

ние (4.11) существенно упрощается и л-мерная плотность выра-

жается через одномерные

fxixi, Х2, ..., x„;ti, ..., t„)=nfx(Xi; U), (4.12)

167

Выражение (4.12) подкупает своей простотой по сравнению с

общим выражением (4.11). К сожалению, его применимость ог-

раничена случаем независимых сечений, что в практических за-

дачах встречается не

часто.

Вместе

тем

есть

определенный класс

случайных процессов, для которых представление многомерной

плотности занимает промежуточное положение между (4.11) и

(4.12).

Такими процессами являются марковские.

Определение 4.8. Случайный процесс

X(t)

называется

марков-

ским, если при любом выборе последовательности аргументов

^ь

^2» •••» ^«

выполняется равенство

fxiXn',

Фи Х2, ..., Х„_и tu t2, ..., tn-l) =МХп; tnK-U

t^-i),

(4.13)

т.е.

условная плотность процесса

л-м сечении при фиксирован-

ных значениях процесса в предыдущих (п

—

I) сечениях зависит

от значения процесса только в предыдущем (п

—

1)-м сечении и

не зависит от «предыстории». Это означает, что если марковский

процесс в какой-то момент времени т принял значение

х,

то рас-

пределение вероятностей

любой последующий момент времени

/ > т определяется его значением х именно в этот момент т и со-

вершенно не зависит от его реализаций до момента т.

Для марковского процесса соотношение (4.11) принимает

вид:

/Л^Ь Х2У ••., Хп\ h, tj, ..., tfi) =

= fxiXb h)MX2\ t2\Xb

h)MXi\

t^\K2\ t2)"MXn\ Фп-Ъ

tn-x)-

Иными словами, дг-мерная плотность марковского процесса

выражается через одномерную плотность первого сечения и ус-

ловные одномерные плотности последующих сечений при фик-

сированных значениях только единственного предыдущего сече-

ния. Если воспользоваться определениями (4.7), (4.8), получим

Мх\,х2, ...,х^; h, t2,..., о = ,, ,,,

(4.14)

А7-1

П-\

П/(^/, ^/чь и, ti^x) П/(^/, ^/ч-ь ti, //+i)

^М /=1

П/(х,;г,)

П//(х,-,

i=2 /=2-оо

Таким образом,

«-мерная

плотность вероятностей марков-

ского процесса выражается через двумерные плотности. Это бо-

168

лее сложное представление, чем простейшее (4.12), но значитель-

но проще общего случая (4.11). И если случай независимых сече-

ний является прикладной «экзотикой», то марковская модель

широко распространена при описании весьма разнообразных ре-

альных процессов и явлений.

4.4. Ковариационные и взаимные

ковариационные

функции

случайных процессов.

Белый шум

Двумерные плотности вероятностей характеризуют свойства слу-

чайного процесса совместно

двух сечениях. Однако поиск этих

плотностей не является тривиальной процедурой. Поэтому при

решении прикладных задач стремятся использовать более до-

ступные в практическом отношении характеристики случайного

процесса, пусть менее точно, но тем не менее отражающие вза-

имные свойства

двух

сечений процесса.

качестве своеобразной

меры статистической связи двух сечений случайного процесса,

относящихся к моментам времени //

tj,

применяют так называе-

мую ковариационную функцию A'jK^/» {/)• Прежде чем дать соот-

ветствующее определение, условимся

центрированным

называть

процесс Х°(/) = X(t)

—

mjdt), имеющий нулевое математическое

ожидание.

Определение 4.9. Неслучайная функция переменных //

и tj

Kx(ti,tj) = M{X^{tdX^{tj)

(4.15)

J J (xi-mx(ti))(x2-mx(tj))fx(xi,

X2\

//,

tj)6xx6x2

—oo —oo

называется

ковариационной функцией

случайного процесса

X{t).

Таким образом, ковариационная функция представляет со-

бой среднее значение произведения двух центрированных сече-

ний случайного процесса. Хотя в ее формальном определении

присутствует двумерная плотность вероятностей, предполагает-

ся,

что при практическом вычислении ковариационной функции

удастся обойтись без этой плотности. Функцию

Rx(ti,tj)= , ^^" '' (4.16)

pxiti)Dx{tj)

169