Рыков В.В., Иткин В.Ю. Математическая статистика и планирование эксперимента

Подождите немного. Документ загружается.

Глава 3 Интервальное оценивание параметров 80

§ 11 Интервальные оценки параметров при

больших выборках

11.1 Асимптотическая нормальность

∂ ln L

∂θ

при n → ∞

Покажем, что при выполнении некоторых условий регулярности

∂ ln L

∂θ

имеет асимптотически при n → ∞ нормальн ое распределение.

Именно, докажем теорему

Теорема 11.1 (Крамер, 1946). Пусть

1) эксперимент состоит в ПСВ;

2) L(θ; x), или, что то же самое, p(x; θ) дважды дифференцируема

по θ;

−

∂

ln p(θ; x)

(∂θ)

p(x; θ)dx = b

(θ) < ∞;

4) {x : p(θ; x) 6= 0}, или, что то же самое, {x : p(x; θ) = 0} не

зависит от θ.

Тогда для ф.п. L = lnL справедливо соотношение :



√

nb(θ)



−1

∂ ln L(θ; x)

∂θ

→ N(0, 1) (11.1)

Доказательство. В силу предположения 1 о ПСВ имеем

∂ ln L(θ; x)

∂θ

∂

∂θ

1≤i≤n

ln p(x

; θ) =

1≤i≤n

∂ ln p(x

; θ)

∂θ

1≤i≤n

где Y

∂ ln p(x

;θ)

∂θ

— н.о.р. с.в. и в силу предположения 4

∂ ln p(x; θ)

∂θ

·p(x; θ) dx =

∂p(x; θ)

∂θ

dx =

∂

∂θ

p(x; θ) dx = 0.

Рассмотрим далее тождество

p(x; θ)dx = 1.

Глава 3 Интервальное оценивание параметров 81

Дифференцируя его дважды по θ имеем в силу предположений 2, 3

и 4

∂

∂θ

p(x; θ) dx =

∂ ln p(x; θ)

∂θ

· p(x; θ) dx = 0;

∂

ln p(x; θ)

(∂θ)



∂ ln p(x; θ)

∂θ



· p(x; θ) dx = 0.

Откуда



∂ ln p(x; θ)

∂θ



·p(x; θ) dx = −

∂

ln p(x; θ)

(∂θ)

·p(x; θ) dx = b

(θ),

или, в с илу, MY = 0 имеем

DY = MY

− (MY )

= b

(θ)

Отсюда по ЦТП получаем, что

∂ ln L(θ; x)

∂θ



√

nb(θ)



−1

1≤i≤n

− M

1≤i≤n

→ N(0, 1).

11.2 Интервальные оценки параметров при больших

выборках

В с илу доказанной в предыдущем разд еле теоре мы име ем, что

g(x; θ) =

√

nb(θ)

∂ ln L(θ; x)

∂θ

→ N(0, 1).

Используя этот факт можно строить приближенные доверительные

интервалы для θ, если функци я g(x; θ) монотонна по θ. Действитель-

но, выбирая по указанному коэффициенту д овери я 1 − α числа g

из таблиц нормального распределения так, чтобы

P{g(x; θ) ≤ g

} = Φ(g

) ≤

Глава 3 Интервальное оценивание параметров 82

P{g(x; θ) ≤ g

} = Φ(g

) ≥ 1 −

получим, что неравенство

< g(x; θ) ≤ g

выполняется с вероятностью 1 −α. Далее р азре шая это неравенство

относительно θ, что возможно в силу монотонности функции g(x; θ)

по θ найдем, что эквивалентное неравенство

(x) < g

−1

(x; g

) ≤ θ ≤ g

−1

(x; g

) = t

(x)

имеет ту же самую вероятность 1 − α.

11.3 Примеры

1. Рассмотрим выборку из нормальной с овокупности с дисперсией

= 1. В этом случае (пологая, что θ = µ) имеем

∂ ln L(µ; x)

∂µ

= n(¯x − µ); −

∂

ln L(µ; x)

(∂µ)

= n

и величина

g(x; µ) =

n(¯x − µ)

√

n(¯x − µ)

имеет нормальное распределение, g(x; θ) ∈ N(0, 1), для любых n, а не

только асимптотически. Последнее соотношение позволяет строить

доверительные интервалы для любых выборок.

2. Рассмотрим выборку из генеральной совокупности с распреде-

лением Пуассона. В этом случае (пологая, что θ = λ) имеем

p(x; λ) =

−λ

, x = 0, 1, . . .

∂ ln L(λ; x)

∂λ

(¯x − λ); −

∂

ln L(λ; x)

(∂λ)

n¯x

;



−

∂

ln L(λ; x)

(∂λ)



X =

nλ =

Глава 3 Интервальное оценивание параметров 83

Откуда

g(x; λ) =

(¯x − λ)

(¯x − λ) → N(0, 1)

и доверительный интервал можно строить (для больших выборок) с

помощью таблиц нормального распределения. Например, для 1−α =

0.95 им ее м g

1,2

= ∓1.96, так что

−1.96 <

(¯x − λ) ≤ 1.96

Отсюда для доверительных границ λ

1,2

имеем уравнение

− (2¯x +

3.84

)λ + (¯x)

= 0,

их которого находим

1,2

= ¯x +

1.92

∓

3.84

3.69

или с точностью д о членов порядка n

−

имеем

1,2

= ¯x +

1.92

так что

¯x − 1.96

¯x

≤ λ ≤ ¯x + 1.96

¯x

11.4 Дополнения

Вопросы для контроля

1. Сформулируйте теорему Крамера об асимптотическом поведе-

нии

∂ ln L

∂θ

при n → ∞.

2. В чем состоит основная идея построения доверительных интер-

валов дл я параметров при больших выборках?

3. Как построить доверительный интервал д ля неизвестного ма-

тематического ожидания нормального распределения при известной

дисперсии пользуясь теорией больших выборок?

4. Как построить доверительный интервал для неизвестного пара-

метра распределения Пуассона при большом числе наблюдений?

Глава 3 Интервальное оценивание параметров 84

Упражнения

1. Используя теорему Крамера построить доверительный интервал

для пар аметр а показательного распределения для большой выборки.

Лабораторная работа

По заданным статистическим данным пользуясь средствами

EXCEL построить доверительные интервалы для параметров нор-

мального распределения

Глава 4.

ПРОВЕРКА СТАТИСТИЧЕСКИХ

ГИПОТЕЗ

§ 12 Основные понятия. Постановка задачи

12.1 Понятие о статистической гипотезе

Понятие статистической гипотезы отличается от общего понятия

научной гипотезы тем, что предполагает:

1) возможность проведения наблюдений над некоторыми величи-

нами, связанными с гипотезой;

2) наличие некоторого статистического распределения этих наблю-

дений.

Примеры

1. Пусть моделью некоторого случайного явления является с.в.

X ∈ N(µ, 1). Гипотеза H

: µ = 0 является статистической, так

как требования 1), 2) выполнены.

2. Гипотеза: рост мужчин и женщин имеет нормальное распреде-

ление с одинаковыми м.о. является статистической, т.к. рост можно

измерять и предполагается наличие статистического распределения

каждой из совокупностей.

3. Гипотезы: рост мужчин (или женщин, или людей) описывается

нормальным распределением — статистические, т.к. роста измеряе-

мы и р аспр еде лен ие этих изм ере ний пр ед полагается наличие.

4. Гипотеза о том, что выборка x

, . . . x

представляет собой неза-

висимые наблюдения над с.в. X ∈ F (x) также представляет пример

статистической гипотезы.

В отличие от приведе нных прим ер ов гипотезы:

1. о возможности высадки человека на Марс до 2010 года;

2. о сущес твовании органической жизни на Венере;

3. об исч езн овени и Наполеона Бонапарта с острова св. Елены.

Глава 4 Проверка статистических гипотез 86

и т.п. не являются статистическими, т.к. для их проверки либо невоз-

можно проведение наблюдений, либо если таковые (или хотя бы кос-

венные) возможны, им невозможно сопоставить никакого разумного

статистического распределения.

12.2 Классификация гипотез

Приведенные примеры дают достаточно четкое представление о

статистических гипотезах.

С целью дальнейшего изуче ни я и разработки методов проверки

статистических гипотез их удобно классифицировать на параметри-

ческие и непараметрические, простые и сложные гипотезы.

Определение 12.1. Гипотеза называется параметрической, если

распределение наблюдений, отвечающих проверяемой гипотезе, за-

дано с точностью до неизвестных параметров, а значения этих па-

раметров или область этих значений проверяется гипотезой; в пр о-

тивном случае гипотеза называется непараметрической.

Другими словами, параметрическая гипотеза – это гипотеза, вы-

сказываемая относительно неизвестных параметров заданного пара-

метрического распределения.

Из перечисленных в предыдущем разделе примеров к парамет-

рическим гипотезам относятся гипотезы, рассмотренные в примерах

1 и 2. Остальные примеры представляют непараметрические гипо-

тезы.

Определение 12.2. Гипотеза называется простой, если ей отвечает

единственное распределением наблюдений в выборочном простран-

стве; в противн ом случае гипотез а называется сложной.

Простыми являются гипотезы в примерах 1 и 4, сложными — в

примерах 2 и 3.

12.3 Критическая область. Размер и мощность крите-

рия

Для проверки какой-либо гипотезы H статистик располагает вы-

боркой наблюдений x = (x

, . . . x

) ∈ X

и возможностью вычислять

Глава 4 Проверка статистических гипотез 87

распределения p

(x) наблюдений выборки при выполнении гипоте-

зы H. На основании этого материала статистик должен построить

правило (критерий) проверки гипотезы. Как должно выглядеть это

правило?

Пример 12.1. Представим себе сначала простой вырожденный слу-

чай, когда гипотеза H приводит, скажем, к положительному значе-

нию (x > 0) некоторой наблюдаемой величины x, а ее невыполнение

H — к отрицательному (x < 0). Тогда, очевидно, для проверки ги -

потезы H достаточно провести одно наблюдение и гипотезу H при-

нять, если x > 0 и отвергнуть, если x < 0. Таким образом , критерий

(правило) проверки гипотезы состоит в данном случае в разбиении

области возможных наблюдений (выборочного пространства) X на

две области: {x < 0} — область, где проверяемая гипотеза отверга-

ется и {x > 0} — где гипотеза не отвергается (согласуется с данными

наблюдений).

Замечание. Уже в этом простом примере видно, насколько силь-

но правило проверки гипотезы зависит от возможных альтернатив.

Которая обозначается через

H. Например, есл и бы альтернативная

(или альтернативные) гипотеза

H могли приводить как к положи-

тельным, так и отрицательным наблюдениям x ≥ 0 или x ≤ 0, то

высказанное правило проверки гипотезы было бы уже, по крайней

мере, не очевидным, а возможно и неверным.

Обобщая рассмотренное в примере правило в общем случае кри-

терий проверки гипотезы сводят к построению критической области

W в выборочном пространстве X

, W ∈ X

— такого подмножества

наблюдений, при котором проверяемая гипотеза отвергается, как не

отвечающая данным наблюдений. Чтобы высказать разумные требо-

вания к критериям проверки гипотез, рассмотрим сначала к каким

последствиям приводит нас класс предложенных правил проверки

гипотез.

В общем случае как проверяемая, так и альтернативная гипотезы

могут приводить к любым наблюдаемым точкам x ∈ X из выбороч-

ного пространства X

. Поэтому базируя критерий проверки гипо-

Ясно, что точки, которые заведомо не могут наблюдаться при проверяемой

гипотезе следует включать в критическую область.

Глава 4 Проверка статистических гипотез 88

тезы на любой критической области W статистик допускает ошибки

двух сортов.

Определение 12.3. Ошибка первого рода состоит в том, что он

может отвергнуть верную гипотезу. Вероятность этой ошибки (веро-

ятность оши бки первого рода) называется размером критерия или

уровнем значимости критерия и обозначается через

α = P

(W ).

Заметим, что, вообще говоря, ошибка I рода неизбежна, если рас-

пределения наблюдений при проверяемой гипотезе – собственное, т.е.

сосредоточено на всем выборочном пространстве, ибо α = 0 тогда и

только тогда, когда W = ∅, но это значит, что статистика принимает

гипотезу H

не смотря на результаты наблюдений (предубежденный

статистик).

Определение 12.4. Ошибкой второго рода при проверке стати-

стических гипотез называется принятие неверной гипотезы. Веро-

ятность ошибк и II рода обозначается через

β = P

(

W )

и зависит, очевидно, от класса альтернативных гипотез

Определение 12.5. При фиксированной альтернативе

H = H

ве-

личину

1 − β = P

(W )

называют мощностью критерия. Функция (1−β)(H) = P

(W ), рас-

сматриваемая как функция альтернативных гипотез (или значений

параметров, в случае проверки п араме трич еск их гипотез) называет-

ся функцией мощности критерия.

Обозначение P

(W ) лишь по форме записи похоже на условную вероят-

ность, но ничего общего с понятием условной вероятности не имеет, так как

распределения в пространстве гипотез не зад ано.

Глава 4 Проверка статистических гипотез 89

12.4 Статистики критерия и требования к ним

Построение критической области W в многомерном пространстве

довольно утомительная (а без дополнительных ограничений и

неразрешимая) задача. Поэтому обычная процедура проверки гипо-

тез состоит в построении некоторой статистики (статистики кри-

терия) h = h(x) = h(x

, . . . , x

) и сведении многомерной критиче-

ской области к одномерной w,

W = {x : h(x) ∈ w}

Очевидно, при этом размер α и мощность 1 − β критерия проверки

против H

равны соответственно

α = P

(W ) = P

{h(x) ∈ w},

1 − β = P

(W ) = P

{h(x) ∈ w}.

При проверке параметрических гипотез такая статистика строит-

ся обычно на основе достаточных для рас сматри ваемог о параметра

статистик. При построении непараметрических критериев выбор та-

кой статистики определяется искусством исследователя.

Рассмотрим требования к статистикам критериям при проверке

параметрических гипотез.

Статистика h(x) для проверки ги потез ы H

против класса аль-

тернатив H называется состоятельной, если при любой альтерна-

тиве и з H вероятность отвергнуть H

стремится к 1, когда объем

выборки стремится к бесконечности к→ ∞. Пусть w есть крити-

ческая область для статистики, а x

- выборка размера n . Тогда

определение можно записать так:

lim

n→∞

{h(x) ∈ w} = 1. (12.1)

Будем говорить, что статистика h(x) для проверки гипотезы H

против простой альтернативы H

является несмещенной, если для

критической области w любого размера α выполняется условие

{h(x) ∈ w} ≥ α. (12.2)