Полшков Ю.Н. Курс лекций по экономико-математическому моделированию

Подождите немного. Документ загружается.

(0)

...

⎛⎞

⎜⎟

⎝⎠

Тогда точечный прогноз для среднего значения регрессанта может быть най-

ден по формуле:

YXB

⋅ .

Рассчитаем дисперсию прогноза:

(

)

22 //

ост 00pr

XXXX

σσ

−

=⋅ .

Извлекая квадратный корень, получаем среднеквадратическую ошибку прогно-

за:

()

ост 00pr

XXXX

σσ

−

=⋅ .

Доверительный интервал для среднего значения (математического

ожидания) прогноза зависимой переменной имеет вид:

()

[

]

(

)

табл 0 табл

;;

Yt k MYYt k

σα

−⋅≤≤+

⋅.

Доверительный интервал для индивидуального значения прогноза за-

висимой переменной имеет вид:

()

(

)

табл () 0 табл ()

;;

ri pri

Yt k YYt k

ασ ασ

−⋅≤≤+⋅

где соответствующая стандартная ошибка определяется из формулы:

() ост

pr i pr

σσ

=+.

3. Продемонстрируем возможности матричного подхода для построения линей-

ных эконометрических моделей. Воспользуемся бывшим ранее примером.

Пример 1. Имеются данные о сменной добыче угля на одного рабочего

(т), мощности пласта

(м) и уровне механизации работ

(%), характери-

зующие процесс добычи угля в 10 шахтах.

Табл. 1. Данные примера 1

№ 1 2 3 4 5 6 7 8 9 10

8 11 12 9 8 8 9 9 8 12

5 8 8 5 7 8 6 4 5 7

5 10 10 7 5 6 6 5 6 8

Предполагая, что между переменными , y

существует линейная за-

висимость, требуется: 1) найти уравнение регрессии по

; 2) с помо-

щью алгоритма пошаговой регрессии построить эконометрическую модель с

максимальным числом значимых коэффициентов при уровне значимости 0,05;

3) построить точечный и интервальный прогнозы для при допущении, что

средние показатели по независимым переменным будут превышены на 5%.

Решение. Сформируем матрицы данных:

185

1118

112 8

195

187

188

196

194

185

112 7

⎛⎞

⎜⎟

⎝⎠

; .

⎛⎞

⎜⎟

⎝⎠

1) Расчёты проведём в Microsoft Excel, округляя числа до четвёртого зна-

ка после запятой. Найдём оператор оценивания 1МНК.

()

3,5393

0,8539

0,3670

BXXXY

−

⎛⎞

⎜⎟

⎝⎠

Линейное уравнение множественной регрессии имеет вид:



3,5393 0,8539 0,3670

yx=− + ⋅ + x⋅

что совпадает с полученными ранее результатами.

2) Найдём несмещенную оценку дисперсии остатков:



()



496 489,6704

0,9042

117

YY BXY

nm nm

εε

−−

== = =

−− −−

где – число наблюдений,

10n = 2m

– количество независимых переменных.

Определим ковариационную матрицу оценок параметров эконометриче-

ской модели:

()

3,6351 0, 2925 0,1263

var 0, 2925 0,0486 0,0261

0,1263 0,0261 0,0590

BXX

−

⎛⎞

⎜⎟

=⋅ =− −

⎜⎟

−−

⎝⎠

Следовательно, квадраты стандартных ошибок равны:



()

3,6351a

;

(

)

0,0486b



;

(

)

0, 0590b



Вычислим общую дисперсию результативного признака и остаточную

дисперсию:

()

3, 36

=−=

∑

;

ост

0, 6330

YY BXY

−

Множественный коэффициент детерминации равен:

ост

1 0,8116

=− = .

Скорректированный множественный коэффициент детерминации:



()

()()

1 0,7578

yy nm

yy n

−−−

=− =

−−

∑

Это означает, что дисперсия результативного признака , объясняется на

75,78% влиянием переменных

. Оставшаяся доля дисперсии 24,22% вы-

звана влиянием других, не учтённых в модели, факторов.

Средняя ошибка аппроксимации составляет:



100% 10, 2390%

−

=⋅=

∑

что практически соответствует норме.

Множественный коэффициент корреляции и его скорректированное зна-

чение, соответственно, равны:

0,9009R

; . Близость к 1 говорит

о тесной связи результативного признака со всем набором исследуемых факто-

ров.

0,8705R =

Рассчитаем наблюдаемое значение -критерия Фишера:

15,0794

Rnm

−−

=⋅ =

−

Сравним его с табличным значением при уровне значимости

0, 05

= и степе-

нях свободы и :

2km==

17knm=− −=

(

)

табл

0, 05; 2; 7 4,7374F = . Так

как

(

)

табл 12

;;FF kk

> ,

то найденное уравнение регрессии статистически значимо с надёжностью не

менее 95%.

Вычислим фактическое значение

-критерия Стьюдента:

4,6799

Rn m

−−

−

которое сравним с табличным значением при уровне значимости 0, 05

= и

числе степеней свободы :

17knm=− −=

(

)

табл

0, 05; 7 2,3646t

. Так как

(

)

табл

;tt k

> ,

то множественный коэффициент корреляции статистически значим с надёжно-

стью не менее 95%.

Для проверки значимости коэффициентов регрессии их величины срав-

ниваются с их стандартными ошибками. Определим фактические значения -

критерия Стьюдента:

()

( ) 3,8726



;

()

( ) 1,5108



которые затем сравниваются с табличным значением

(

)

табл

0, 05; 7 2,3646t = .

Так как

()

табл

() ;tb t k



()

табл

() ;tb t k



то оценка коэффициента регрессии статистически значима с надёжностью не

менее 95%, а оценка статистически незначима.



Следовательно, независимая переменная

должна быть исключена из

модели.

Продолжим выполнение алгоритма пошагового регрессионного анализа.

Сформируем матрицы исходных данных:

111

112

⎛⎞

⎜⎟

⎝⎠

; .

⎛⎞

⎜⎟

⎝⎠

Найдём оператор оценивания 1МНК.

()

2, 7541

1, 0164

BXXXY

−

⎛⎞

⎜⎟

⎝⎠

Новое уравнение регрессии имеет вид:



2, 7541 1,0164

yx=− + ⋅ .

Несмещенная оценка дисперсии остатков:

1, 0492

= . Ковариационная

матрица оценок параметров эконометрической модели:

()

3,9043 0, 4042

var

0, 4042 0,0430

−

⎛⎞

⎜⎟

−

⎝⎠

Квадраты стандартных ошибок равны:



(

)

3,9043a

= ;

()

0,0430b



Общая дисперсия результативного признака и остаточная дисперсия:

; . Множественный коэффициент детерминации:

3, 36

ост

0,8393

0, 7502R =

Скорректированный множественный коэффициент детерминации:

. Это означает, что дисперсия результативного признака , объ-

ясняется на 71,90% (ранее было 75,78%) влиянием переменной

0, 7190R =

. Оставшаяся

доля дисперсии 28,10% вызвана влиянием других, не учтённых в модели, фак-

торов.

Средняя ошибка аппроксимации

11,8283%A = , что несколько больше

нормы. Множественный коэффициент корреляции и его скорректированное

значение, соответственно, равны:

0,8661R

; . Близость к 1 гово-

рит о достаточно тесной связи результативного признака с фактором

0,8479R =

Наблюдаемое значение -критерия Фишера:

F 24,025F

. Сравним его с

табличным значением при уровне значимости

0, 05

и степенях свободы

и :

1km==

18knm=− −=

(

)

табл

0,05; 1; 8 5,3177F

. Так как

(

)

табл 12

;;FF kk

> ,

то найденное уравнение регрессии статистически значимо с надёжностью не

менее 95%.

Фактическое значение -критерия Стьюдента

t 4,5240t

сравним с таб-

личным значением при уровне значимости

0, 05

и числе степеней свободы

18knm=− −=

()

табл

0, 05; 8 2, 3060t

. Так как

(

)

табл

;tt k

> ,

то множественный коэффициент корреляции статистически значим с надёжно-

стью не менее 95%.

Проверим значимость оставшегося коэффициента регрессии . Опреде-

лим фактические значения -критерия Стьюдента:



( ) 1,3938ta=−

;

. Так как

( ) 4,9015tb =



()

табл

() ;tb t k



то оценка коэффициента регрессии статистически значима с надёжностью не

менее 95%.



Итак, алгоритм пошагового регрессионного анализа привёл нас к эконо-

метрической модели с максимальным числом значимых коэффициентов регрес-

сии:



2, 7541 1,0164

yx=− + ⋅ .

По соответствующим формулам найдём доверительные интервалы оце-

нок параметров, входящих в модель:



()



(

)



()



()

табл табл

;;at k a aat k a

ασ ασ

−⋅≤≤+⋅;

;

7,3106 1,8024a−≤≤

()

(

)

()

111

табл 1 табл

;;bt k b bbt k b

ασ ασ

−⋅≤≤+⋅





;

0,5382 1, 4946b

≤

≤ .

3) Построим точечный и интервальный прогнозы для при допущении,

что средние показатели по

будут превышены на 5%.

Так как

9, 4x = , то предполагаемое значение:

(0)

(1 0, 05) 9, 4 1, 05 9,87xx=+ =⋅ = (м).

Вектор предполагаемых значений:

9,87

⎛⎞

⎜⎟

⎝⎠

Точечный прогноз для среднего значения регрессанта :

7, 2777YXB=⋅=

(т).

Дисперсия прогноза:

(

)

22 //

ост 00

0,0915

XXXX

σσ

−

=⋅ = .

Среднеквадратическая ошибка прогноза:

0,3026

Доверительный интервал для среднего значения (математического ожи-

дания) прогноза зависимой переменной:

()

[

]

(

)

табл 0 табл

;;

Yt k MYYt k

σα

−⋅≤≤+

⋅;

[

]

7,0666 7,9754MY

≤

≤ .

Доверительный интервал для индивидуального значения прогноза:

()

(

)

табл () 0 табл ()

;;

ri pri

Yt k YYt k

ασ ασ

−⋅≤≤+⋅;

5,0528 9,5026Y

≤

≤ .

где соответствующая стандартная ошибка определяется из формулы:

222

() ост

0,8393 0,0915 0,9308

pr i pr

σσσ

=+= + =

Решение окончено.

Лекция 7

МУЛЬТИКОЛЛИНЕАРНОСТЬ

План лекции

1. Понятие мультиколлинеарности.

2. Алгоритм Фаррара-Глобера.

3. Практический пример исследования мультиколлинеарности.

1. Мы продолжаем изучать линейные модели множественной регрессии. На-

помним, что их спецификация является следующей:

11 2 2

...

iiimim

yabxbx bx

=+ + ++ +,

где – номер наблюдения.

1,...,i= n

В формулировке теоремы Гаусса-Маркова предполагалось выполнение

гипотезы 2: а) числовые значения независимых переменных

, ,...,

ii i

xx яв-

ляются детерминированными (не случайными) величинами; б) векторы

...

⎛⎞

⎜⎟

⎝⎠

, 1,...,jm

линейно независимы в пространстве .

Нарушение условия линейной независимости векторов

приводит к

нежелательному явлению, называемому мультиколлинеарностью.

Мультиколлинеарность означает существование тесной линейной зави-

симости, или сильной корреляции, между двумя или более объясняющими пе-

ременными.

Она негативно влияет на количественные характеристики эконометриче-

ской модели, или делает ее построение вообще невозможным.

Информацию о парной зависимости может дать матрица коэффициен-

тов парной корреляции между объясняющими переменными:

11 1 2 13 1

21 2 2 23 2

31 3 2 33 3

123

(, ) (, ) (, ) ... (, )

(,) (, ) (,)... (, )

(,) (, ) (,) ... (, )

... ... ... ... ...

(,) (,) (,)... (, )

mm m m

rx x rx x rx x rx x

r rxx rxx rxx rxx

rx x rx x rx x rx x

⎛⎞

⎜⎟

⎝⎠

Начальная проверка предусматривает нахождение определителя (детер-

минанта) матрицы , который называется детерминантом корреляции и обо-

значается . Числовые значения детерминанта корреляции удовлетворяют

условию:

det( )r

[

]

det( ) 0,1r ∈ .

Если , то существует полная мультиколлинеарность, а если

, то мультиколлинеарность отсутствует. Чем ближе к нулю,

тем уверенней можно утверждать, что между объясняющими переменными су-

ществует мультиколлинеарность.

det( ) 0r =

det( ) 1r = det( )r

2. Наиболее полно исследовать мультиколлинеарность можно при помощи ал-

горитма Фаррара–Глобера.

Опишем этот алгоритм.

1) Стандартизация (нормализация) векторов независимых переменных

, ,...,

xx:

()

−

= ,

где – число наблюдений

n (1,in= ); – число объясняющих переменных m

(1,)km= ;

– выборочное среднее -й объясняющей переменной; k

()

–

выборочное среднее квадратическое отклонение -й объясняющей перемен-

ной.

2) Нахождение корреляционной матрицы:

*/ *

rXX

где – матрица стандартизированных независимых переменных.

3) Определение критерия

(“хи”-квадрат):

[]

1(25)lndet(

⎡⎤

=− − − +

⎢⎥

⎣⎦

Фактическое значение этого критерия

сравнивается с табличным зна-

чением

при

(1)

m+ m

степенях свободы и уровне значимости

. Если

> , то в массиве объясняющих переменных существует мультиколлине-

арность.

4)Определение обратной матрицы:

−

5) Вычисление -критериев:

(1)

kkk

−

=−

где – диагональные элементы матрицы . Фактические значения критериев

сравниваются с табличным при и

F m 1nm

−

− степенях свободы и уровне

значимости

. Если , то соответствующая -тая независимая перемен-

ная мультиколлинеарна с другими.

FF>

Коэффициент детерминации для каждой переменной

[]

() 1

=−

6) Нахождение частных коэффициентов корреляции:

kk jj

−

⋅

где – элемент матрицы , содержащийся в -ой строке и -ом столбце;

c C k j

c – диагональные элементы матрицы C .

7) Вычисление

t-критериев:

rnm

−

Фактические значения критериев сравниваются с табличным при

степенях свободы и уровне значимости

1nm−−

. Если

kj T

t> t, то между

независимыми переменными

существует мультиколлинеарность.

Для того, чтобы избавиться от мультиколлинеарности в эконометриче-

ской модели, можно исключить из нее одну из переменных мультиколлинеар-

ной пары

. Удалить следует переменную с большим значением -

критерия, т.к. она больше влияет на общую мультиколлинеарность модели. Од-

нако этот шаг не должен противоречить экономическому смыслу задачи.

Заметим, что имеются и другие способы устранения мультиколлинеарно-

сти. Среди них: а) взять не сами значения переменных, а их отклонения от

средней; б) вместо абсолютных значений факторов взять относительные; в)

стандартизировать объясняющие переменные и т. д.

При наличии мультиколлинеарности переменных необходимо обращать

внимание на спецификацию модели. Иногда замена одной функции на другую

дает возможность избежать мультиколлинеарности.

3. Рассмотрим применение алгоритма Фаррара–Глобера на практике.

Пример 1. На производительность труда однотипных малых предпри-

ятий влияет ряд факторов, среди которых: удельный вес рабочих на предпри-

ятии

; премии и др. вознаграждения на одного работника

(ден. ед.); обора-

чиваемость нормируемых оборотных средств

(дни). Исследовать на мульти-

коллинеарность переменные

. При наличии мультиколлинеарности

предложить меры по её устранению. Статистические данные по десяти пред-

приятиям приведены в табл. 1.

Табл. 1. Данные по десяти предприятиям

№

1 0,68 0,42 25,68

2 0,74 0,05 18,13

3 0,66 0,29 25,74

4 0,72 0,48 21,21

5 0,68 0,41 22,97

6 0,77 0,62 16,38

7 0,78 0,56 13,21

8 0,78 1,76 14,48

9 0,81 1,31 13,38

10 0,79 0,45 13,69

Решение. Исследуем мультиколлинеарность в массиве независимых пе-

ременных при помощи алгоритма Фаррара–Глобера. Расчёты проведём в

Microsoft Excel, округляя числа до четвёртого знака после запятой.

1) Для стандартизации (нормализации) векторов независимых перемен-

ных рассчитаем выборочные средние и средние квадратические отклонения:

0,741x = ;

0,635x = ;

18, 487x = ;

( ) 0,0505x

;

( ) 0, 4841x

;

( ) 4,7898x

Стандартизируем данные по формуле:

()

−

= ,

где – число наблюдений

10n = ( 1,10)i = ; 3m

– число объясняющих пере-

менных

(1,3k = ). Матрица стандартизированных данных:

1, 2082 0, 4441 1,5017

0, 0198 1, 2084 0,0745

1, 6044 0,7127 1,5143

0, 4159 0,3202 0,5685

1, 2082 0, 4648 0,9360

0,5744 0,0310 0, 4399

0, 7725 0,1549 1,1017

0, 7725 2,3239 0,8366

1,3667 1,3944 1, 0662

0,9705 0,3822 1,00

−−

−−−

−−

−

−−15

⎛⎞

⎜⎟

⎝⎠