Крупкина Т.В. Математическая статистика. Практикум

Подождите немного. Документ загружается.

144. Найти k, при котором оценка

= (k

i=1

− a|)

являет-

ся несмещенной в N(a, σ).

145. Найти k, при котором оценка

= k

n−1

i=1

i+1

− X

)

явля-

ется несмещенной в N(a, σ).

146. Найти k, при котором оценка bσ = k|X

− X

| параметра σ

является несмещенной в N(a, σ), если n = 2.

147. Исследовать на несмещенность оценку ˆα = X

∗

, если f(x) =

α−x

, x > α.

148. Исследовать на несмещенность оценку параметра a в рас-

пределении Кептейна:

ˆa =

i=1

g(X

)

149. Исследовать на несмещенность оценку

i=1

(g(X

) −

в распределении Кептейна.

150. Доказать, что в модели логистического распределения

f(x, θ) = e

−x+θ

(1 + e

−x+θ

)

−2

, −∞ < x < ∞

X – несмещенная оценка θ.

151. Предложить три несмещенные оценки параметра a в рас-

пределении N(a, σ).

152. Предложить три различные несмещенные оценки парамет-

ра p биномиального распределения с параметрами N, p.

153. Предложить четыре различные несмещенные оценки пара-

метра λ распределения Пуассона.

154. Исследовать на состоятельность оценку ˆa = X в N (a, σ).

155. Исследовать на состоятельность оценку

= s

в N (a, σ).

156. Исследовать на состоятельность оценку

λ = X в распреде-

лении Пуассона P

157. Исследовать на состоятельность оценку ˆp =

в биноми-

альном распределении B(N, p).

158. Исследовать на состоятельность оценку параметрической

функции P

−λ

= I(X

= k).

159. В модели Бернулли исследовать на несмещенность и состо-

ятельность оценку параметрической функции p(1 − p):

p(1 − p) = X

(1 − X

160. Исследовать на состоятельность оценку

b = X

∗

в R [a, b].

161. Исследовать на состоятельность оценку ˆα = X

∗

, если f(x) =

α−x

, x > α.

162. Доказать, что если E ˆα = α и Dˆα → 0 при n → ∞, то ˆα –

состоятельная оценка α.

163. Доказать, что если E ˆα → α при n → ∞и D ˆα → 0 при n → ∞,

то ˆα – состоятельная оценка α.

164. Доказать,что если ˆα – состоятельная оценка α, а f –

непрерывная функция, то f(ˆα) – состоятельная оценка f(α).

165. В равномерной модели R[0; θ] оценка параметра θ

θ = 2¯x.

Исследовать эту оценку на несмещенность и состоятельность.

§ 7. Эффективные оценки

Несмещенная оценка

θ параметра θ называется оптимальной оцен-

кой, если D

θ 6 D

∼

θ, ∀θ ∈ Θ, где

∼

θ – произвольная несмещенная оценка θ.

Информационным количеством Фишера называется величина I, рав-

ная

I = E



∂ ln f(x

, x

, . . . , x

, θ)

∂θ



В регулярной модели для дисперсий несмещенных оценок параметра θ

справедливо неравенство Рао – Крамера:

θ >

В регулярной модели несмещенная оценка

θ параметра θ называется

эффективной оценкой θ, если ∀θ ∈ Θ D

θ =

Если оценка является эффективной, она оптимальна. Обратное, вооб-

ще говоря, не верно.

Для проверки эффективности оценок удобно использовать следующие

формулы информационного количества Фишера I:

I = n E



∂ ln f(x, θ)

∂θ



;

I = −n E



∂

ln f(x, θ)

∂θ



где f(x, θ) – одномерная плотность.

Для дискретной случайной величины вместо f(x) используется P (ξ =

x).

В регулярной статистической модели для несмещенных оценок мож-

но рассматривать показатель эффективности. Показателем эффективно-

сти несмещенной оценки

θ параметра θ называется число

θ) =

Пример 24. В модели Пуассона P

предлагается следующая оценка

параметра λ :

λ =

X. Доказать, что эта оценка эффективна.

J Надо проверить выполнение равенства:

λ =

λ = D

X =

Для нахождения информационного количества Фишера I используем фор-

мулу

I = −n E



∂

ln P(ξ = x)

∂λ



Поскольку P(ξ = x) = p

(x) =

−λ

, то ln P(ξ = x) = x ln λ −λ − ln x! и

∂

ln P(ξ = x)

∂λ

= −

Тогда

I = −n E



−



Получили, что D

λ =

, то есть оценка

X является эффективной.I

Пример 25. Исследовать на эффективность оценку параметра α в

распределении с плотностью f(x) = e

α−x

, x > α:

ˆα = X

∗

J Данная модель не является регулярной, так как выборочное про-

странство X ограничено параметром α. В этой модели эффективных оценок

не существует. I

Задачи

166. Исследовать на эффективность оценку ˆa = X в N (a, σ).

167. Исследовать на эффективность оценку

= s

в N (a, σ).

168. Исследовать на эффективность оценку

λ = 1/2(X

+ X

) в

распределении Пуассона P

169. Исследовать на эффективность оценку ˆp =

в биномиаль-

ном распределении B(N, p).

170. Исследовать на эффективность оценку

b = X

∗

в R [a, b].

171. Исследовать на оптимальность оценку ˆa =

X в N (a, σ).

172. Исследовать на оптимальность оценку

λ = X в распределе-

нии Пуассона P

173.

λ = X

в распределении Пуассона P

. Доказать, что оценка

является несмещенной, но не является эффективной и состоятель-

ной.

174. В распределении с плотностью f(x) = e

α−x

, x > α, оценка

ˆα = X

∗

. Найти смещение данной оценки, получить на основе этого

несмещенную оценку и исследовать ее на эффективность.

175. Докажите формулу

I =

+∞

−∞

. . .

+∞

−∞



∂f(x

, x

, . . . , x

, θ)

∂θ



f(x

, x

, . . . , x

, θ)

. . . dx

176. Докажите формулу

I = −E



∂

ln f(x

, x

, . . . , x

, θ)

∂θ



177. Докажите формулу

I = n E



∂ ln f(x, θ)

∂θ



178. Докажите формулу

I = −n E



∂

ln f(x, θ)

∂θ



179. Докажите, что показатель эффективности e удовлетво-

ряет неравенству 0 < e(

θ) 6 1, а для эффективных оценок e(

θ) = 1.

180. Пусть T

– эффективная оценка параметра α, а T

– несме-

щенная оценка параметра α. Доказать, что ρ(T

, T

) =

√

e, где e =

I·DT

– показатель эффективности T

Указание. Рассмотреть оценку T = (1 − k)T

+ kT

181. В равномерной модели R[0; θ] оценка параметра θ

θ = 2¯x.

Исследовать эту оценку на оптимальность.

182. Докажите, что в неравенстве Рао – Крамера равенство до-

стигается тогда и только тогда, когда

θ и

∂ ln f

∂θ

линейно зависимы.

§ 8. Методы нахождения оценок

Метод максимального правдоподобия. Для непрерывной случай-

ной величины функция

L(x

, . . . , x

, θ) = f(x

, θ) · . . . · f(x

, θ),

рассматриваемая при фиксированных (x

, . . . , x

) как функция параметра θ,

называется функцией правдоподобия.

Функция правдоподобия для дискретной случайной величины опреде-

ляется в виде

L(x

, . . . , x

, θ) = P(ξ = x

) · . . . ·P(ξ = x

Оценка θ

∗

, обеспечивающая по параметру θ максимум функции прав-

доподобия, называется оценкой максимального правдоподобия парамет-

ра θ (о.м.п.).

Вместо отыскания максимума функции L часто удобнее находить мак-

симум функции ln L и решать уравнение правдоподобия

∂ ln L

∂θ

= 0.

В результате решения уравнения правдоподобия мы найдем критическую

точку, необходимо еще убедиться, что это точка максимума.

Метод моментов. Приравнивая выборочные и теоретические момен-

ты, получаем уравнения относительно θ. Решая эти уравнения, получаем

оценку параметра

θ. Эта оценка называется оценкой метода моментов и

обозначается о.м.м.

Пример 26. Найдем о.м.п. параметра распределения Пуассона.

L =

i=1

) =

−λn

ln L(X, λ) = −λn +

lnλ − ln

!).

Найдем max ln L(X, λ).

∂ ln L(X, λ)

∂λ

= −n +

= 0.

Получаем

λ =

= ¯x. Очевидно, это точка максимума, так как

∂

ln L

∂λ

< 0 =⇒ ¯x – о.м.п. λ. I

Пример 27. Найдем в условиях предыдущего примера оценку макси-

мального правдоподобия функции параметра λ

J По свойству инвариантности

= (

λ)

= (¯x)

. I

Рассмотрим нахождение оценки параметра методом максимального

правдоподобия в нерегулярной модели.

Пример 28. Найдем о.м.п. параметра θ = (a, b) в распределении R[a, b].

L =

i=1

f(x

) =

i=1

b − a

(b − a)

Частная производная

∂ ln L

∂θ

не обращается в 0. Но функция L монотонна по

a и b. Поэтому она достигает своего наибольшего значения при минималь-

ном значении b и максимальном значении a. Но минимальное возможное

значение b ограничено максимальным элементом выборки, а максимальное

возможное значение a ограничено миниимальным элементом. Таким обра-

зом, оценками максимального правдоподобия будут служить минимальный

и максимальный элементы выборки:

ˆa = y

min

= x

∗

b = x

max

= x

∗

. I

Пример 29. Найти методом моментов оценки параметров распреде-

ления Γ

α, β

E ξ =

, Dξ =

β = α E ξ =⇒ Dξ =

E ξ

Тогда

α =

E ξ

Dξ

, β =

(E ξ)

Dξ

Мы получили оценки

ˆα =

β =

¯x

. I

Пример 30. Найти методом моментов оценки параметров распреде-

ления R[a, b].

E ξ =

a + b

, Dξ =

(b − a)

a = 2 E ξ − b =⇒ Dξ =

(b − E ξ)

Отсюда b = E ξ + σ

√

3, a = E ξ − σ

√

3. Окончательно

ˆa = X − s

√

b = X + s

√

3. I

Задачи

183. Найти оценки максимального правдоподобия параметров

a, σ в N(a, σ).

184. Доказать свойство инвариантности о.м.п.: если оцени-

вается некоторая взаимно однозначная параметрическая функция

τ(θ), то ее о.м.п.

τ(θ) = τ (

θ).

185. Найти оценку максимального правдоподобия функции a

в N(a, σ).

186. Найти оценку максимального правдоподобия параметра p в

B(N, p).

187. Найти оценку максимального правдоподобия функции

i=0

в B(N, p).

188. Найти оценку максимального правдоподобия функции

√

λ +

λ в P

189. Найти оценку максимального правдоподобия параметра

(a, b) в R[a, b].

190. Найти оценку максимального правдоподобия параметра α,

если f(x) = e

α−x

, x > α.

191. Найти оценку максимального правдоподобия параметра α,

если f(x) =

−|x|

2(1−e

−α

)

, |x| 6 α.

192. Найти оценку максимального правдоподобия параметра θ

по выборке (x

, . . . , x

), если

f(x) =

−

, θ > 0, x > 0.

193. Найти оценку максимального правдоподобия параметра α

в Γ(α, 2).

194. Найти оценку максимального правдоподобия параметра a в

N(a,

√

2a). Исследовать полученную оценку на состоятельность.

195. Найти методом моментов оценки параметров a, σ в N(a, σ).

196. Найти методом моментов оценку параметра λ в P

197. Найти методом моментов оценку параметра λ в распреде-

лении с плотностью f(x) = λe

−λx

, x > 0.

198. Найти методом моментов оценку функции 1/α в показа-

тельном распределении с параметром α.

199. Найти методом моментов оценку параметра λ в P

по вто-

рому моменту.

200. Найти методом моментов оценку параметра b в R[0, b], ис-

пользуя второй момент.

201. Найти методом моментов оценки параметров распределе-

ния R[a, b], используя начальные моменты.

202. Найти методом моментов оценку параметра p в B(N, p)

при известном N.

203. Найти методом моментов оценки параметров N, p в

B(N, p).

204. Доказать состоятельность оценок метода моментов.

205. Найти методом моментов оценку параметра n в χ

. (χ

i=1

, ξ

∈ N(0, 1), ξ

независимы.)

206. Найти оценки максимального правдоподобия параметров

a, σ в распределении Кептейна.

207. Найти оценки максимального правдоподобия параметров

α, µ, если f(x) =

2α

−|x−µ|

208. Величина ψ имеет бета-распределение с параметрами α и β.

Математическое ожидание и дисперсия бета-распределения извест-

ны:

E ψ =

α + β

, Dψ =

αβ

(α + β)

(α + β + 1)

Найти методом моментов оценки параметров α и β.

§ 9. Экспоненциальное семейство

Говорят, что распределение с плотностью f(x) принадлежит экспонен-

циальному семейству, если f(x) представима в виде

f(x) = e

A(x)·B(θ)+C(x)+D(θ)

Теорема 8. Для того чтобы в модели существовала эффективная

оценка, необходимо и достаточно, чтобы модель принадлежала экс-

поненциальному семейству. При этом эффективной оценкой являет-

ся статистика

T (x) =

i=1

A(x

и она оценивает параметрическую функцию

τ(θ) = −

(θ)

В случае многомерного параметра θ = (θ

, . . . , θ

) и непрерывной па-

раметрической модели говорят, что распределение с плотностью f(x) при-

надлежит экспоненциальному семейству, если f(x) представима в виде

f(x) = e

i=1

(x)·B

(θ)+C(x)+D(θ)

Пример 31. Докажем, что N(0, σ) принадлежит экспоненциальному

семейству, и найдем эффективную оценку параметра σ.

f(x) =

√

2π

· exp

−

(x−a)

2σ

= exp

√

2π

−

2σ

x·a

−

2σ

Параметром является σ, тогда

A(x) = (x −a)

, B(σ) = −

2σ

, C(x) = 0, D(σ) = −ln σ −

ln 2π.

Следовательно, распределение N(a, θ) принадлежит экспоненциальному се-

мейству. Найдем эффективную оценку параметрической функции от пара-

метра θ = σ :

τ(σ) = −

(a)

= σ

T (x) =

i=1

A(x

) =

i=1

− a)

По теореме 8 оценка

i=1

− a)

эффективна. I