Зубков А.М. Конспект лекций по теории случайных процессов

Подождите немного. Документ загружается.

→ ∞ при k → ∞. Докажем, что по этой подпоследовательности первое слагаемое

стремится к MX

χ{A}; отсюда будет следовать утверждение теоремы. Очевидно,

χ{A ∩ {ν ≤ n}} ↑ χ{A}, n ↑ ∞,

т.е. последовательность функций X

χ{A ∩ {ν ≤ n}} равномерно ограничена

абсолютно интегрируемой функцией X

χ{A}:

χ{A ∩ {ν ≤ n}}| ≤ |X

χ{A}|, M|X

χ{A}| ≤ M|X

| < ∞,

и сходится к ней, когда n → ∞. Если n

→ ∞ при k → ∞, то по теореме Лебега о

мажорируемой сходимости

lim

k→∞

χ{A ∩ {ν ≤ n

}} = MX

χ{A}.

Отсюда и из (49) следует равенство

χ{A} = MX

χ{A} при всех A ∈ F

что совпадает с (46).

В случае субмартингалов рассуждения аналогичны.

Теорема доказана.

Проверка того, выполняется ли условие (45), может быть довольно сложной.

Рассмотрим пример, в котором это условие нетрудно проверить. Пусть ξ

, ξ

, . . . —

независимые случайные величины,

P{ξ

= 1} = P{ξ

= −1} =

, k = 1, 2, . . .

Положим

= 0, X

= ξ

, X

= ξ

+ 2ξ

χ{ξ

= −1},

= ξ

+ 2ξ

χ{ξ

= −1} + 4ξ

χ{ξ

= ξ

= −1},

и вообще

= ξ

k=2

k−1

χ{ξ

= . . . = ξ

k−1

= −1}, n = 2, 3, . . .

Последовательность {X

, σ{ξ

, . . . , ξ

}} — мартингал:

M{X

n+1

|σ{ξ

, . . . , ξ

}} = ξ

n+1

k=2

k−1

M{ξ

χ{ξ

= . . . = ξ

k−1

= −1}|σ{ξ

, . . . , ξ

}} =

= ξ

k=2

k−1

χ{ξ

= . . . = ξ

k−1

= −1} + 2

Mξ

n+1

χ{ξ

= . . . = ξ

= −1} = X

Чтобы проверить, выполняются ли условия (45) теоремы 1, заметим, что ν = min{n:

= 1} — момент остановки. Далее {ν > n} = {ξ

= . . . = ξ

= −1} и в соответствии

с определением X

= −1 − 2 − . . . − 2

n−1

на множестве {ν > n}, а X

= −1 − 2 −

−. . . −2

ν−2

+ 2

ν−1

= 1. Для мартингала X

и момента остановки ν условие (45) не

выполняется:

M|X

|χ{ν > n} = (1 + 2 + . . . + 2

n−1

)P{ξ

= . . . = ξ

= −1} =

= (2

− 1)2

−n

→ 1 при n → ∞,

и свойство мартингала для такого момента остановки тоже не имеет места: MX

1 6= MX

= 0.

Одна из интерпретаций такой последовательности называется «петербургской

игрой»; она была рассмотрена Даниилом Бернулли в XVIII веке (разумеется, без

использования мартингалов). В игре участвуют два игрока. Мартингал X

в виде

правил игры интерпретируется следующим образом.

Игра проводится по турам. Каждый тур состоит из случайного числа шагов, на

каждом из которых подбрасывают симметричную монету. Тур заканчивается этапом,

на котором впервые выпадает герб. Ставка на k-м (k = 1, 2, . . .) этапе каждого

тура равна 2

k−1

рублей. Если выпадает решетка, то второй игрок выплачивает

ставку первому, а если выпадает герб — то первый игрок выплачивает ставку

второму. Поскольку монета симметричная, в каждой игре математическое ожидание

выигрыша каждого игрока равно 0, так что игру естественно считать «честной».

Однако в конце каждого тура оказывается, что первый игрок потерял 1 рубль, так

что после достаточно большого числа туров он разорится.

Задача 9.3. Вычислить математические ожидания и дисперсии выигрышей

игроков после N туров.

Заметим еще, что можно изменить правила игры так, чтобы она стала «честной»:

достаточно, например, заканчивать тур либо после первого выпадения герба, либо

после 1000 шагов (если 1000 раз выпала решетка). Тогда χ{ν > 1000} = 0 и условие

(45) теоремы 1 выполняется, значит, MX

= 0 и игра является «честной». Но

результаты измененной игры будут отличаться от хода исходной только в тех турах,

в которых решетка выпадает 1000 подряд. Вероятность такого исхода тура равна

1000

≈

301

, так что очень маловероятно, что первый игрок дождется счастливого

момента, когда у него останется выигрыш 2

1000

− 1, компенсирующий накопленный

проигрыш. Измененная игра эквивалентна лотерее, в которой билет стоит 1 рубль,

выигрыш равен 2

1000

− 1 рублей, но выигрывает один билет из 2

1000

Докажем утверждения, упрощающие проверку условия (45).

Будем считать, что X

−1

= 0, и положим ∆X

= X

− X

n−1

, n ≥ 0.

Лемма 9.4. Пусть случайный процесс X

измерим относительно потока σ-

алгебр F

⊆ F

⊆ . . . , ν — момент остановки относительно {F

}, P {ν < ∞} = 1

k=0

|∆X

| < ∞.

Тогда

M|X

| < ∞ и M|X

|χ{ν > n} → 0, n → ∞.

Доказательство. Из неравенства

| =

k=0

− X

k−1

)

≤

k=0

|∆X

def

= Y

и из условия леммы следует, что M|X

| ≤ MY

< ∞. Далее,

M|X

|χ{ν > n} ≤ M

k=0

|∆X

|χ{ν > n} ≤ MY

χ{ν > n}.

По условию леммы MY

< ∞, Y

≥ 0 и P{ν > n} → 0 при n → ∞, значит,

χ{ν > n} → 0, n → ∞,

как интегралы от интегрируемой функции по множествам со стремящейся к 0 мерой.

Поэтому M|X

|χ{ν > n} → 0, n → ∞, что и требовалось доказать.

Теорема 9.3. Пусть {X

, F

} — мартингал и ν — момент остановки

относительно {F

}. Если Mν < ∞ и существует такая константа C < ∞, что

при всех n ≥ 0

{ω: ν ≥ n} ⊆ {ω: M{|∆X

||F

n−1

} ≤ C}

то

M|X

| < ∞ и MX

= MX

Отметим, что условия

Mν < ∞

в теореме 9.2 не было.

Доказательство теоремы 9.3. Достаточно проверить, что выполняются условия

леммы 9.4, обеспечивающие выполнение условий теоремы 9.2. По формуле полной

вероятности:

k=0

|∆X

| = M

n≥0

χ{ν = n}

k=0

|∆X

| =

n≥0

k=0

M|∆X

|χ{ν = n} =

k≥0

n≥k

M|∆X

|χ{ν = n} =

k≥0

M|∆X

|χ{ν ≥ k}.

Но так как {ν ≥ k} = Ω\{ν ≤ k − 1} ∈ F

k−1

, то по определению условного

математического ожидания и по условию теоремы

M|∆X

|χ{ν ≥ k} = MM{|∆X

|χ{ν ≥ k}|F

k−1

} =

= Mχ{ν ≥ k}M{|∆X

||F

k−1

} ≤ CP{ν ≥ k},

т.е.

k=0

|∆X

|} ≤

k≥0

CP{ν ≥ k} = C

k≥0

n≥k

P{ν = k} =

= C

k≥0

(k + 1)P{ν = k} = C(1 + Mν) < ∞.

Теорема доказана.

9.4. Тождества Вальда

Тождество Вальда. Пусть ξ

, ξ

, . . . — независимые случайные величины,

Mξ

= a, i = 1, 2, . . . , sup

i≥1

M|ξ

| ≤ C < ∞,

= 0, S

= ξ

+ . . . + ξ

, n = 1, 2, . . . ,

и ν ≥ 1 — такой момент остановки относительно {σ(ξ

, . . . , ξ

)}, что Mν < ∞.

Тогда

= aMν.

Доказательство. Последовательность

= S

− na = (ξ

− a) + . . . + (ξ

− a)

— мартингал как сумма независимых случайных величин с нулевым математическим

ожиданием. Для него выполнены условия теоремы 9.3:

Mν < ∞,

M{|X

− X

n−1

||F

n−1

} = M{|(S

− na) − (S

n−1

− (n − 1)a)||F

}} =

= M{|ξ

− a||F

n−1

} = M|ξ

− a| < |C|+ |a| < ∞.

Значит,

M(S

− νa) = M(S

− 0 · a) = 0, т.е. MS

= aMν,

что и требовалось доказать.

Тождество Вальда мы вывели из общей теоремы о сохранении свойства

мартингала для моментов остановки. Ввиду общности этой теоремы ее

доказательство было сложным. Последовательность независимых случайных

величин, о которой идет речь в тождестве Вальда, имеет более простую

вероятностную структуру. Существует короткое доказательство тождества Вальда,

предложенное А.Н.Колмогоровым и Ю.В.Прохоровым.

Второе доказательство тождества Вальда. Положим χ

= χ{ν ≥ i} ∈

σ(ξ

, . . . , ξ

i−1

), i = 1, 2, . . .; тогда χ

и ξ

независимы при каждом i и

i=1

∞

i=1

Так как ξ

не зависит от χ

, то

M|χ

| = Mχ

|ξ

| = Mχ

M|ξ

| ≤ CP{ν ≥ i}

∞

i=1

M|χ

| < C

∞

i=1

P{ν ≥ i} = CMν < ∞.

Значит, функциональный ряд

i≥1

абсолютно сходится почти наверное, и поэтому

его можно интегрировать почленно (т.е. математическое ожидание суммы ряда равно

сумме математических ожиданий его членов):

= M

i≥1

Mχ

i≥1

Mχ

Mξ

= a

i≥1

P{ν ≥ i} = aMν.

Тем самым тождество Вальда доказано.

Фундаментальное тождество Вальда. Пусть ξ, ξ

, ξ

, . . . — независимые

одинаково распределенные случайные величины, S

= ξ

+ . . . + ξ

и ψ(λ) =

M exp{−λξ} < ∞ при некотором λ ∈ R; пусть ν — момент остановки

относительно {σ(ξ

, . . . , ξ

)}, Mν < ∞ и существует такое C < ∞, что при любом

n ≥ 0

{ν ≥ n} ⊆ {|S

| ≤ C}

Тогда при любом таком λ ∈ R, что ψ(λ) ≥ 1, справедливо равенство

−λS

(λ)

= 1.

Доказательство. Положим X

= 1, X

−λS

(λ)

, n ≥ 1. Покажем, что X

—

мартингал.

Действительно, X

∈ F

= σ(ξ

, . . . , ξ

), P{X

≥ 0} = 1, MX

= 1 и в силу того,

что X

n+1

= X

−λξ

n+1

ψ(λ)

, имеет место основное свойство мартингала:

M{X

n+1

} = M

−λξ

n+1

ψ(λ)

= X

−λξ

n+1

ψ(λ)

= X

Проверим выполнение условий теоремы 9.3, т. е. ограниченность a

= M{|X

−

n−1

||F

n−1

} на множестве {ν ≥ n}. Так как X

> 0 и Me

−λξ

= ψ(λ), то справедливы

оценки

M{|X

− X

n−1

||F

n−1

} = M

n−1

−λξ

ψ(λ)

− 1

n−1

= X

n−1

−λξ

ψ(λ)

− 1

≤ X

n−1

−λξ

ψ(λ)

+ 1

≤ 2X

n−1

Поэтому при любом n на множестве {ν ≥ n} ∈ F

n−1

M{|X

− X

n−1

||F

n−1

} ≤ 2X

n−1

= 2

−λS

n−1

(λ)

≤ 2e

|λC|

= const < ∞.

Тем самым фундаментальное тождество Вальда доказано.

9.5. Применения тождеств Вальда. Теорема восстановления

Пусть ξ

, ξ

, . . . — независимые одинаково распределенные неотрицательные

случайные величины с конечным математическим ожиданием: P{ξ

≥ 0} = 1, Mξ

a < ∞. Положим S

= 0, S

= ξ

+ . . . + ξ

, n ≥ 1, и рассмотрим случайный процесс

ν(t) = min{n : S

> t} =

n≥0

χ{S

≤ t}, t ≥ 0.

При каждом t и каждом n, очевидно, {ν(t) ≤ n} ∈ σ(ξ

, . . . , ξ

); таким образом, ν(t)

— момент остановки относительно последовательности σ-алгебр {σ(ξ

, . . . , ξ

)}.

Наглядный смысл ν(t) — это число сумм S

, n ≥ 0, попадающих на отрезок

[0, t]. Например, будем считать, что ξ

, ξ

, . . . — это времена работы (от включения

до перегорания) электрических лампочек. Пусть в момент времени t = 0 мы

включаем лампочку, а при перегорании каждой лампочки тут же заменяем ее новой

(восстанавливаем). Тогда ν(t) — это число лампочек, которые придется включать

до момента t. В связи с такой интерпретацией процесс ν(t) называют процессом

восстановления или числом восстановлений до момента t, а функцию U(t) = Mν(t)

— функцией восстановления.

Функция U(t) не убывает; она задает на [0, ∞) меру, сопоставляющую каждому

полуинтервалу (a, b] значение U(a) − U(b). Плотность U

(t) = u(t) этой меры (если

она существует) называется плотностью восстановления. Если все ξ

принимают

только целые значения, эта мера сосредоточена на множестве неотрицательных

целых чисел, и ее плотностью называется последовательность U(n)−U(n−1) = u(n)

атомов, находящихся в точках n = 0, 1, . . .

Теорема 9.4. Если U(t) — функция восстановления, построенная по

независимым одинаково распределенным неотрицательным случайным величинам

, ξ

, . . . с Mexp{−λξ

} = ψ(λ), то

∞

−λt

dU(t) =

1 − ψ(λ)

, Reλ ≥ 0.

Если ξ

, ξ

, . . . принимают только целые неотрицательные значения, Ms

f(s), |s| ≤ 1, и u

= U(n) − U(n − 1), то

n≥0

1 − f(s)

Доказательство. Так как по определению процесса восстановления ν(t) =

n≥0

χ{S

≤ t}, то U(t) =

n≥0

P{S

≤ t}. Используя независимость ξ

и свойства

преобразований Лапласа, получаем

∞

−λt

dU(t) =

∞

n=0

∞

−λt

dP{S

≤ t} =

∞

n=0

−λS

∞

n=0

(λ) =

1 − ψ(λ)

Если ξ

принимают только целые неотрицательные значения, то dU(t) 6= 0 только

при целых t, и dU(n) = u

= U(n) − U(n − 1) (если считать, что U(−1) = 0). Второе

утверждение теоремы 9.4 получается из первого заменой s = e

−λ

. Теорема доказана.

Теорема восстановления. Если {ξ

} — последовательность независимых

неотрицательных одинаково распределенных случайных величин, Mξ

= a > 0, S

+ . . . + ξ

, n ≥ 1, ν(t) = min{n: S

> t}, и U(t) = Mν(t), то

lim

n→∞

U(t)

Доказательство. Случайная величина ν(t) — момент остановки относительно

потока σ-алгебр {F

= σ(ξ

, . . . , ξ

)}, так как событие {ν(t) ≤ n} полностью

определяется значениями ξ

, . . . , ξ

. По условию M{|S

−S

n−1

||F

} = M|ξ

| = Mξ

∞, и поэтому для того, чтобы обосновать возможность использования тождества

Вальда, нужно только показать, что Mν(t) < ∞.

Рассмотрим преобразование Лапласа ψ(λ) = M exp{−λξ

}; неравенство ψ(λ) < 1

выполняется при всех λ > 0. Так как χ{x ≤ t} ≤ exp{−λ(x − t)} при любом λ ≥ 0,

то по свойствам преобразования Лапласа

P{ν(t) > k} = P{S

≤ t} = Mχ{S

≤ t} ≤ M exp{−λ(S

− t)} = ψ

(λ)e

λt

Если λ > 0 и P{ξ > 0} > 0, то ψ(λ) < 1, и при любом λ > 0

Mν(t) =

∞

k=0

P{ν(t) > k} ≤ e

λt

∞

k=0

(λ) =

λt

1 − ψ(λ)

< ∞.

Значит, по тождеству Вальда

ν(t)

= aMν(t) = aU(t).

Но по определению S

ν(t)

> t, следовательно, aU(t) = MS

ν(t)

> t и

lim inf

t→∞

U(t)

≥

Оценить сверху U(t)/t, повторив те же рассуждения для S

ν(t)−1

≤ t, нельзя,

потому что {ν(t) − 1 ≤ n} = {ν(t) ≤ n + 1} /∈ F

= σ(ξ

, . . . , ξ

), т.е. ν(t) − 1 —

не момент остановки относительно потока F

Случайную величину S

ν(t)

можно оценить сверху при дополнительном условии,

что P{ξ

≤ z} = 1 при некотором z < ∞: тогда

P{S

ν(t)

= S

ν(t)−1

+ ξ

ν(t)

≤ t + z} = 1.

Чтобы использовать это соображение, введем для каждого z ∈ (0, ∞)

вспомогательные случайные величины

(z) = min{ξ

, z} и S

(z) = ξ

(z) + . . . + ξ

(z) ≤ S

Тогда ν(t, z) = min{n : S

(z) > t} ≥ ν(t) и

U(t, z) = Mν(t, z) ≥ Mν(t) = U(t).

Применяя к паре S

(z), ν(t, z) тождество Вальда, получаем:

ν(t,z)

(z) = Mξ

(z)U (t, z).

Но по определению S

ν(t,z)

(z) ≤ t + z, следовательно,

U(t) ≤ U(t, z) =

ν(t,z)

Mξ

(z)

≤

t + z

Mξ

(z)

и для каждого z < ∞

lim sup

t→∞

U(t)

≤

Mξ

(z)

lim

t→∞

t + z

M min{ξ

, z}

Если z → ∞, то M min{ξ

, z} → Mξ

= a, и поэтому

lim sup

t→∞

U(t)

≤

Теорема доказана.

9.6. Теорема о сходимости полумартингалов

Напомним, что субмартингал — это такая последовательность {X

, F

}, что

функция X

является F

-измеримой, M|X

| < ∞ и M{X

} > X

при всех

n > k > 0.

Теорема 9.5 (Теорема Дуба). Пусть {X

, F

} — неотрицательный

субмартингал. Тогда при любом x ≥ 0 и любом n ≥ 0

max

1≤k≤n

≥ x

≤

Доказательство. Введем вспомогательные моменты остановки ν = min{k ≥ 0 :

≥ x} и ν(n) = min{ν, n}. Тогда { max

16k6n

> x} = {X

ν(n)

> x}, и в силу

неотрицательности процесса {X

}

max

16k6n

> x

= P{X

ν(n)

> x} = MI{X

ν(n)

> x} 6

6 M

ν(n)

I{X

ν(n)

> x} 6

ν(n)

Осталось убедиться в том, что MX

ν(n)

6 MX

. По определению

ν(n)

= M

(

n−1

k=1

I{ν = k}X

+ I{ν > n}X

)

Так как {X

, F

} — субмартингал, то X

6 M{X

} для любого k = 1, . . . , n − 1.

Поэтому при любом таком k

MI{ν = k}X

6 MI{ν = k}M{X

} = MM{I{ν = k}X

} = MI{ν = k}X

Отсюда следует, что

ν(n)

6 M

(

n−1

k=1

I{ν = k}X

+ I{ν > n}X

)

= MX

Теорема доказана.

Неравенство Колмогорова. Пусть {X

, F

} — мартингал и MX

< ∞. Тогда

, F

} — субмартингал и

max

1≤k≤n

| ≥ x

≤

Доказательство. Выпуклая функция от мартингала является субмартингалом

согласно лемме 9.1. Остается заметить, что

max

1≤k≤n

| ≥ x

= P

max

1≤k≤n

≥ x

и применить теорему Дуба.

Пусть {X

} — последовательность чисел, −∞ < a < b < ∞ . Введем моменты

выхода {X

} за нижнюю и верхнюю границы полосы [a, b ]: положим ν

= 0 и (считая,

как обычно, min{∅} = ∞) при k = 1, 2, . . .

2k−1

= min{t > ν

2k−2

: X

≤ a}, ν

= min{t > ν

2k−1

: X

≥ b}.

Обозначим через β

(a, b) число полных пересечений горизонтальной полосы [a, b]

снизу вверх последовательностью X

на отрезке времени [1, n]. В наших обозначениях

(a, b) =

(

max{k: ν

≤ n}, ν

≤ n,

0, ν

> n.

Положим X

= max{X, 0}.

Теорема (Неравенство Дуба). Пусть {X

, F

} — субмартингал. Тогда для любого

n и для любых a, b (−∞ < a < b < ∞)

Mβ

(a, b) ≤

M(X

− a)

b − a

Доказательство. Из определения следует, что β

(a, b) совпадает с числом

пересечений полосы [0, b − a]

def

= [0, c] снизу вверх последовательностью (X

− a)

Но f(x) = (x − a)

— выпуклая неубывающая функция, поэтому {(X

− a)

, F

} —

неотрицательный субмартингал. Значит, достаточно доказать, что если {X

, F

} —

неотрицательный субмартингал, то

Mβ

(0, c) ≤

Введем вспомогательные случайные величины (индикаторы «участка пересечения

полосы (0, c) снизу вверх»):

= 0, η

(

1, если ∃k > 1 : ν

2k−1

< t 6 ν

0, если ∃k > 0 : ν

< t 6 ν

2k+1

t ≥ 1.

Значение η

определяется четностью числа k(t) = max{k : ν

< t}, т. е. случайными

величинами X

, . . . , X

t−1

, поэтому {η

= 1} ∈ F

t−1

. Введем случайные множества

= {ν

, ν

, . . .}, N

= {ν

, ν

, . . .}. Заметим, что η

− η

j+1

= 0 при j /∈ N

∪ N

− η

j+1

= −1 ⇔ j ∈ N

⇒ X

= 0,

− η

j+1

= 1 ⇔ j ∈ N

⇒ X

≥ c.

Из этих равенств следует, что cχ{t ∈ N

} ≤ (η

−η

t+1

при любом t. По определению

cβ

(0, c) = c max{k: ν

≤ n} =

t=0

cχ{t ∈ N

} ≤

≤

t=0

(η

− η

t+1

t=1

− X

t−1

) − η

n+1

Отбрасывая последнее (неположительное) слагаемое, мы не уменьшим правую часть.

Так как {η

= 1} ∈ F

t−1

, то

cMβ

(0, c) ≤ M

t=1

− X

t−1

) =

t=1

Mη

M{X

− X

t−1

} =

t=1

M(M{X

t−1

} − X

t−1

)η

Теперь воспользуемся тем, что X

— субмартингал, т. е. что

M{X

t−1

} − X

t−1

≥ 0.

Значит, замена в последней сумме η

на 1 не уменьшит ее:

cMβ

(0, c) ≤

t=1

M(M{X

t−1

} − X

t−1

) =

t=1

(MX

− MX

t−1

) = MX

− MX

≤ MX

Тем самым неравенство Дуба доказано.

Теорема Дуба о сходимости субмартингалов. Пусть {X

, F

} —

субмартингал и sup

M|X

| < ∞. Тогда существует такая случайная величина

X, что

P{ lim

n→∞

= X} и M|X| < ∞.