Контрольная работа - МНК, парная, множественная регрессия, системы эконометрических уравнений, ряды
Подождите немного. Документ загружается.
7 ВАРИАНТ
1. Раскрыть теоретический вопрос
Предпосылки МНК: гомоскедастичность и гетероскедастичность.
Предпосылки МНК: автокорреляция остатков. Обобщенный МНК.
При оценке параметров уравнения регрессии
mmx
xbxbxbay
2211
применяется метод
наименьших квадратов (МНК ). МНК позволяет получить такие оценки параметров а и b, которых
сумма квадратов отклонений фактических значений результативного признака (у) от расчетных
(теоретических)
x
y
ˆ
минимальна:
min)
ˆ
(
2
xii
yy
Иными словами, из всего множества линий
линия регрессии на графике выбирается так, чтобы сумма квадратов расстояний по вертикали
между точками и этой линией была бы минимальной.
min
ˆ
2
i
xiii
yy
Решается система уравнений
22
2
xx
xyyx
b
xbya
yxxbxa
yxbna
При практическом проведении регрессионного анализа при помощи метода МНК следует
обратить внимание на проблемы, связанные с выполнимостью свойств случайных отклонений
моделей. Свойства оценок коэффициентов регрессии напрямую зависят от свойств случайного члена
в уравнении регрессии. Для получения качественных оценок необходимо следить за выполнимостью
предпосылок МНК относительно случайной составляющей
, которая представляет собой
ненаблюдаемую величину.
При определении оценок случайной составляющей
x
yy
, их можно считать некоторой
выборочной реализацией неизвестного остатка заданного уравнения, т.е.
i
, поскольку они не
являются реальными случайными остатками.
При изменении спецификации модели, добавлении в нее новых наблюдений выборочные
оценки остатков
i
могут меняться. Поэтому в задачу регрессионного анализа входит не только
построение самой модели, но и исследование случайных отклонений
i
, т.е. остаточных величин.
После построения уравнения регрессии проводится проверка наличия у оценок
i
(случайных
остатков) тех свойств, которые предполагались.
Исследования остатков
i
предполагают проверку наличия следующих пяти предпосылок
МНК:
1.случайный характер остатков;
2.нулевая средняя величина остатков, не зависящая от х
i
;
3.гомоскедастичность—дисперсия каждого отклонения
i
,одинакова для всех значений х;
4.отсутствие автокорреляции остатков. Значения остатков
i
, распределены независимо друг от
друга;
5.остатки подчиняются нормальному распределению.
Одной из ключевых предпосылок МНК является условие постоянства дисперсий случайных
отклонений. Это значит, что для каждого значения фактора x
j
остатки
i
, имеют одинаковую
дисперсию. Выполнимость данной предпосылки называется гомоскедастичностью, невыполнимость
данной предпосылки называется гетероскедастичностью (непостоянством дисперсии отклонений).
Наличие гетероскедастичности можно наглядно видеть из поля корреляции.
Гетероскедастичность остатков сказывается на эффективности оценок коэффициентов
регрессии.
Рис. 1 Примеры гетероскедастичности
На рис.1а можно наглядно увидеть, что дисперсия остатков растет по мере увеличения x ; на
рис.1б дисперсия остатков достигает максимальной величины при средних значениях переменной x и
уменьшается при минимальных и максимальных значениях x ; на рис.1в максимальная дисперсия
остатков при малых значениях x и дисперсия остатков однородна по мере увеличения значений x .
Предпосылки МНК: автокорреляция остатков
Важной предпосылкой построения качественной модели по МНК является независимость
значений случайных отклонений от значений отклонений во всех других наблюдениях, т.е. значения
остатков
i
, распределены независимо друг от друга. Отсутствие зависимости гарантирует
отсутствие коррелированности между любыми отклонениями и, в частности, между соседними
отклонениями. Автокорреляция (последовательная корреляция) определяется как корреляция между
наблюдаемыми показателями, т.е наличие корреляции между остатками текущих и предыдущих
(последующих) наблюдений.
Автокорреляция остатков (отклонений) обычно встречается в регрессионном анализе при
использовании данных временных рядов. При использовании перекрестных данных автокорреляция
встречается крайне редко.
Коэффициент корреляции между e
i
и e
j
, где e
i
— остатки текущих наблюдений, e
j
— остатки
предыдущих наблюдений (например
1ij
), может быть определен по обычной формуле
линейного коэффициента корреляции
ji
ji
ee
ji
ee
ee
r
),cov(
. Если этот коэффициент окажется
существенно отличным от нуля, то остатки автокоррелированы и функция плотности вероятности
F(e) зависит от j-й точки наблюдения и от распределения значений остатков в других точках
наблюдения. Для регрессионных моделей по статической информации автокорреляция остатков
может быть подсчитана, если наблюдения упорядочены по фактору х.
2
Отсутствие автокорреляции остаточных величин обеспечивает состоятельность и
эффективность оценок коэффициентов регрессии.
Среди основных причин, вызывающих появление автокорреляции, можно выделить ошибки
спецификации, инерцию в изменении экономических показателей, эффект паутины, сглаживание
данных.
Ошибки спецификации. Неучет в модели какой-либо важной объясняющей переменной либо
неправильный выбор формы зависимости обычно приводит к системным отклонениям точек
наблюдений от линии регрессии, что может обусловить автокорреляцию.
Инерция. Многие экономические показатели (например, инфляция, безработица, ВНП и т.п.)
обладают определенной цикличностью, связанной с волнообразностью деловой активности.
Действительно, экономический подъем приводит к росту занятости, сокращению инфляции,
увеличению ВНП и т.д. Этот рост продолжается до тех пор, пока изменение конъюнктуры рынка и
ряда экономических характеристик не приведет к замедлению роста, затем остановке и движению
вспять рассматриваемых показателей. В любом случае эта трансформация происходит не мгновенно,
а обладает определенной инертностью.
Эффект паутины. Во многих производственных и других сферах экономические показатели
реагируют на изменение экономических условий с запаздыванием (временным шагом). Например,
предложение сельскохозяйственной продукции реагирует на изменение цены с запаздыванием
(равным периоду созревания урожая). Большая цена сельскохозяйственной продукции в прошедшем
году вызовет (скорее всего) ее перепроизводство в текущем году, а следовательно, цена на нее
снизится и т.д.
Сглаживание данных. Зачастую данные по некоторому продолжительному временному периоду
получают усреднением данных по составляющим его подинтервалам. Это может привести к
определенному сглаживанию колебаний, которые имелись внутри рассматриваемого периода, что в
свою очередь может послужить причиной автокорреляции.
Обобщенный МНК.
При нарушении гомоскедастичности и наличии автокорреляции ошибок рекомендуется
традиционный МНК заменять обобщенным методом. Обобщенный МНК применяется к
преобразованным данным и позволяет получать оценки, которые обладают не только свойством
несмещенности (свойство несмещенности означает, что математическое ожидание остатков равно
нулю), но и имеют меньшие выборочные дисперсии.
Обобщенный МНК для корректировки гетероскедастичности. В общем виде для уравнения
y
i
=a+bx
i
+e
i
при
iei
K
22
где K
i
– коэффициентт пропорциональности. Модель примет вид: y
i
=
+
x
i
+
i
K
e
i
. В ней остаточные величины гетероскедастичны. Предполагая в них отсутствие
автокорреляции, можно перейти к уравнению с гомоскедастичными остатками, поделив все
переменные, зафиксированные в ходе i-го наблюдения на
i
K
, тогда дисперсия остатков будет
величиной постоянной. От регрессии у по х мы перейдем к регрессии на новых переменных: y/
К
и
х/
К
. Уравнение регрессии примет вид:
iiiiii
eKxKKy ///
. По отношению к обычной
регрессии уравнение с новыми, преобразованными переменными представляет собой взвешенную
регрессию, в которой переменные у и х взяты с весами
К/1
. Коэффициент регрессии b можно
3
определить как
2
/1
/1
xK
yxK
b
. Как видим, при использовании обобщенного МНК с целью корректировки гетероскедастичности
коэффициент регрессии b представляет собой взвешенную величину по отношению к обычному
МНК с весами 1/К.Аналогичный подход возможен не только для уравнения парной, но и для
множественной регрессии. Модель примет вид:
iiiii
eKxbxbay
2211
. Модель с
преобразованными переменными составит
iiiiiiii
eKxbKxbKaKy ////
2211
.
Это уравнение не содержит свободного члена, применяя обычный МНК получим:
iiiiiii
eKxbKxbАKy ///
2211
Применение в этом случае обобщенного МНК приводит к тому,
что наблюдения с меньшими значениями преобразованных переменных х/К имеют при определении
параметров регрессии относительно больший вес, чем с первоначальными переменными.
2. Тема «Парная регрессия и корреляция»
По территориям региона приводятся данные за 199X г.
Требуется:
1. Построить линейное уравнение парной регрессии
y
от
x
.
2. Рассчитать линейный коэффициент парной корреляции и среднюю ошибку аппроксимации.
3. Оценить статистическую значимость параметров регрессии и корреляции с помощью
F
-
критерия Фишера и
t
-критерия Стьюдента.
4. Выполнить прогноз заработной платы
y
при прогнозном значении среднедушевого
прожиточного минимума
x
, составляющем 107% от среднего уровня.
5. Оценить точность прогноза, рассчитав ошибку прогноза и его доверительный интервал.
6. На одном графике построить исходные данные и теоретическую прямую.
Номер
региона
Среднедушевой прожиточный минимум
в день одного трудоспособного, руб.,
x
Среднедневная заработная плата,
руб.,
y
1 75 133
2 78 125
3 81 129
4 93 153
5 86 140
6 77 135
7 83 141
8 94 152
9 88 133
10 99 156
11 80 124
12 112 156
4
Решение.
Для расчета параметров уравнения линейной регрессии строим расчетную таблицу
1 75 133 9 975 5 625 17 689 128,4484 4,5516 20,717 3,42
2 78 125 9 750 6 084 15 625 131,2351 -6,2351 38,876 -4,99
3 81 129 10 449 6 561 16 641 134,0218 -5,0218 25,218 -3,89
4 93 153 14 229 8 649 23 409 145,1686 7,8314 61,331 5,12
5 86 140 12 040 7 396 19 600 138,6663 1,3337 1,779 0,95
6 77 135 10 395 5 929 18 225 130,3062 4,6938 22,032 3,48
7 83 141 11 703 6 889 19 881 135,8796 5,1204 26,218 3,63
8 94 152 14 288 8 836 23 104 146,0975 5,9025 34,840 3,88
9 88 133 11 704 7 744 17 689 140,5241 -7,5241 56,612 -5,66
10 99 156 15 444 9 801 24 336 150,742 5,258 27,647 3,37
11 80 124 9 920 6 400 15 376 133,0929 -9,0929 82,681 -7,33
12 112 156 17 472 12 544 24 336 162,8177 -6,8177 46,481 -4,37
Итого 1046 1677 147 369 92 458 235 911 1677,0002 -0,0002 444,432 50,09
Среднее
значение 87,17 139,75 12280,75 7 704,83 19 659,25 x x 4,1742
среднее
значение
в
квадрате
7 598,03 19 530,06
10,33 11,36 x x x x x x
106,81 129,19 x x x x x x
1. Линейная регрессия сводится к нахождению уравнения вида
xbay
x
Построение линейной регрессии сводится к оценке её параметров – a и b.
Для оценки параметров a и b необходимо решить систему:
yxxbxa
yxbna
2
где n число наблюдений в совокупности ( в нашем случае 12)
a и b искомые параметры
x и y фактические значения факторного и результативного признаков.
Можно воспользоваться готовыми формулами
xbya
81,106
17,8775,13975,12280),cov(
2
2
2
xx
xyxyyx
b
x
0,9289
17,879289,075,139a
7809,589691,8075,139
Коэффициент регрессии (
b
) показывает абсолютную силу связи между вариацией x и
вариацией y. Применительно к данной задаче можно сказать, что c увеличением среднедушевого
прожиточного минимума на 1 руб. среднедневная заработная плата возрастает в среднем на 0,9289
руб.
Таким образом, управление регрессии имеет следующий вид:
ix
xy
9289,07809,58
2. Уравнение регрессии всегда дополняется показателем тесноты связи. При использовании
линейной регрессии в качестве такого показателя выступает линейный коэффициент корреляции
xy
r
Линейный коэффициент корреляции находится в границах:
11
xy
r
. Чем ближе значение
xy
r
к единице, тем теснее связь.
Рассчитаем линейный коэффициент парной корреляции по формуле:
8447,0
36,11
33,10
9289,0
y
x
xy
br
5
2
x
2
y
y
x
xy
2
yy
y
i
A
2
)(
yy
Связь между переменными достаточно тесная.
Для оценки качества подбора линейной функции рассчитывается квадрат линейного
коэффициента
2
xy
r
, называемый коэффициентом детерминации. Коэффициент детерминации
характеризует долю дисперсии результативного признака у, объясняемую регрессией.
7135,08447,0
22
xy
r
Это означает, что доля вариации y объясненная вариацией фактора x включенного в уравнение
регрессии равна 71,35%, а остальные 28,65% вариации приходятся на долю других факторов, не
учтенных в уравнении регрессии.
Качество модели определяет средняя ошибка аппроксимации.
Найдём величину средней ошибки аппроксимации
A
Средняя ошибка аппроксимации – среднее отклонение расчетных значений от фактических:
Допустимый предел значений
A
- не более 8-10%.
1742,4
12
09,50
%100
1
y
yy
n
A
%
Качество построенной модели оценивается как хорошее, так как
A
не превышает 8-10%.
3. Оценку значимости уравнения регрессии в целом проведем с помощью
F
-критерия Фишера.
F-тест – оценивание качества уравнения регрессии – состоит в проверке гипотезы
0
H
о
статистической незначимости уравнения регрессии и показателя тесноты связи. Для этого
выполняется сравнение фактического
факт
F
и табличного
табл
F
значений F-критерия Фишера.
Если
табл
F
<
факт
F
, то
0
H
- гипотеза о случайной природе оцениваемых характеристик
отклоняется и признается их статистическая значимость и надежность. Если
табл
F
>
факт
F
, то
гипотеза
0
H
не отклоняется и признается статистическая незначимость, ненадежность уравнения
регрессия.
Рассчитаем фактическое значение F-критерий Фишера через коэффициент детерминации
2
xy
r
по формуле:
9040,2410
7135,01
7135,0
)2(
1
2
2
n
r
r
F
xy
xy
ФАКТ
Табличное значение критерия при уровня значимости L=0,05 (для вероятности 0,95) и числа
степеней свободы:
1
1k
и
2
12 2 10k
составляет
табл
4,96F
. Так как,
96,49040,24
таблфакт
FF
, то уравнение регрессии признается статистически значимым.
Оценку статистической значимости параметров регрессии проведем с помощью
t
-статистики
Стьюдента и путем расчета доверительного интервала каждого из показателей.
Выдвигается гипотеза
0
H
о случайной природе показателей, т.е. о незначимом их отличии от
нуля. Оценка значимости коэффициентов регрессии и корреляции с помощью
t
-статистики
Стьюдента проводится путем сопоставления их значений с величиной случайной ошибки:
a
a
m
a
t
b
b
m
b
t
xy
xy
r
xy
r
m
r
t
Случайные ошибки параметров линейной регрессии и коэффициента корреляции определяются
по формулам:
3529,16
33,1012
92458
6666,6
2
x
остa
n
x
Sm
, где
2
)(
2
n
yy
S
ост
1863,0
784,35
6666,6
464,333,10
6666,6
n
S
m
ч
ост
b
1692,0
10
7135,01
2
1
2
n
r
m
xy
r
xy
6
Тогда,
5945,3
3529,16
7809,58
a
t
9860,4
1863,0
9289,0
b
t
9923,4
1692,0
8447,0
xy
r
t
Табличное значение
t
-критерия для числа степеней свободы
2 12 2 10df n
и
0,05
составит
табл
2,23t
.
Фактические значения
t
-статистики превосходят табличное значение:
23,25945,3
таблa
tt
23,29860,4
таблb
tt
23,29923,4
таблr
tt
xy
,
поэтому гипотеза
0
H
отклоняется, т.е параметры
a
,
b
и
xy
r
не случайно отличаются от нуля, а
статистически значимы.
Рассчитаем доверительные интервалы для параметров регрессии
a
и
b
. Для этого определим
предельную ошибку для каждого показателя:
466,363529,1623,2
aтаблa
mt
4154,01863,023,2
bтаблb
mt
Формулы для расчета доверительных интервалов имеют следующий вид:
466,367809,58
aa
a
3149,22466,367809,58
min
aa
a
2469,95466,367809,58
max
aa
a
4154,09289,0
bb
b
5135,04154,09289,0
min
bb
b
3443,14154,09289,0
max
bb
b
Анализ верхней и нижней границ доверительных интервалов приводит к выводу о том, что с
вероятностью
1 0,95p
параметры
a
и
b
, находясь в указанных границах, не принимают
нулевых значений, т.е. не являются статистически незначимыми и существенно отличны от нуля.
4. Полученные оценки уравнения регрессии позволяют использовать его для прогноза.
Прогнозное значение
p
y
определяется путем подстановки в уравнение регрессии
xbay
x
соответствующего (прогнозного) значения
p
x
.
Прогнозное значение прожиточного минимума составит:
.27,9307,117,8707,1 рубxx
p
Прогнозное значение заработной платы составит:
42,14527,939289,07809,58
p
y
руб.
5. Вычисляется средняя стандартная ошибка прогноза
2
2
)(
)(
1
1
xx
xx
n
Sm
p
ост
y
p
031,7
33,1012
)17,8727,93(
12
1
16666,6
2
2
Предельная ошибка прогноза, которая в
95%
случаев не будет превышена, составит:
679,15031,723,2
pp
y
табл
y
mt
Доверительный интервал прогноза:
679,1542,145
pp
y
p
y
y
74,129679,1542,145
min
pp
y
p
y
y
руб.
099,161679,1542,145
max
pp
y
p
y
y
руб.
Выполненный прогноз среднемесячной заработной платы является надежным (
1 1 0,05 0,95p
), но неточным, т.к. диапазон верхней и нижней границ доверительного
интервала составляет 1,24 раза и находится в пределах от 129,74 руб. до 161,099 руб.
6.
7
Поле корреляции
0
20
40
60
80
100
120
140
160
180
0 20 40 60 80 100 120
х
y
На основании поля корреляции можно сделать вывод, что между факторным (Х) и
результативным (Y) признаками существует прямая зависимость.
3. Тема «Множественная регрессия и корреляция»
По 20 предприятиям региона изучается зависимость выработки продукции на одного работника
y
(тыс. руб.) от ввода в действие новых основных фондов
1
x
(% от стоимости фондов на конец
года) и от удельного веса рабочих высокой квалификации в общей численности рабочих
2
x
(%).
Требуется:
1. Построить линейную модель множественной регрессии. Записать стандартизованное
уравнение множественной регрессии. На основе стандартизованных коэффициентов регрессии и
средних коэффициентов эластичности ранжировать факторы по степени их влияния на результат.
2. Найти коэффициенты парной, частной и множественной корреляции. Проанализировать их.
8
3. Найти скорректированный коэффициент множественной детерминации. Сравнить его с
нескорректированным (общим) коэффициентом детерминации.
4. С помощью
F
-критерия Фишера оценить статистическую надежность уравнения регрессии и
коэффициента детерминации
1 2
2
yx x
R
.
5. С помощью частных
F
-критериев Фишера оценить целесообразность включения в уравнение
множественной регрессии фактора
1
x
после
2
x
и фактора
2
x
после
1
x
.
6. Составить уравнение линейной парной регрессии, оставив лишь один значащий фактор.
Номер
предприятия
y
1
x
2
x
Номер
предприятия
y
1
x
2
x
1 7 3,8 11 11 10 6,8 21
2 7 3,8 12 12 11 7,4 23
3 7 3,9 16 13 11 7,8 24
4 7 4,1 17 14 12 7,5 26
5 7 4,6 18 15 12 7,9 28
6 8 4,5 18 16 12 8,1 30
7 8 5,3 19 17 13 8,4 31
8 9 5,5 20 18 13 8,7 32
9 9 6,1 20 19 13 9,5 33
10 10 6,8 21 20 14 9,7 35
Решение.
Для удобства проведения расчетов поместим результаты промежуточных расчетов в таблицу:
№
1 2 3 4 5 6 7 8 9 10
1 7 3,8 11 26,6 77 41,8 14,44 121 49
2 7 3,8 12 26,6 84 45,6 14,44 144 49
3 7 3,9 16 27,3 112 62,4 15,21 256 49
4 7 4,1 17 28,7 119 69,7 16,81 289 49
5 7 4,6 18 32,2 126 82,8 21,16 324 49
6 8 4,5 18 36,0 144 81 20,25 324 64
7 8 5,3 19 42,4 152 100,7 28,09 361 64
8 9 5,5 20 49,5 180 110 30,25 400 81
9 9 6,1 20 54,9 180 122 37,21 400 81
10 10 6,8 21 68,0 210 142,8 46,24 441 100
11 10 6,8 21 68,0 210 142,8 46,24 441 100
12 11 7,4 23 81,4 253 170,2 54,76 529 121
13 11 7,8 24 85,8 264 187,2 60,84 576 121
14 12 7,5 26 90,0 312 195 56,25 676 144
9
y
1
x
2
x
1
yx
2
yx
1 2
x x
2
1
x
2
2
x
2
y
15 12 7,9 28 94,8 336 221,2 62,41 784 144
16 12 8,1 30 97,2 360 243 65,61 900 144
17 13 8,4 31 109,2 403 260,4 70,56 961 169
18 13 8,7 32 113,1 416 278,4 75,69 1024 169
19 13 9,5 33 123,5 429 313,5 90,25 1089 169
20 14 9,7 35 135,8 490 339,5 94,09 1225 196
Сумма 200 130,2 455 1391 4857 3210 920,8 11265 2112
Ср.
знач. 10 6,51 22,75 69,55 242,85 160,5 46,04 563,25 105,6
Найдем средние квадратические отклонения признаков:
366,2106,105
2
2
2
yy
y
91,138,4204,4651,604,46
2
2
1
1
2
1
xx
x
759,6562,51725,56375,2225,563
2
2
2
2
2
2
xx
x
1. Вычисление параметров линейного уравнения множественной регрессии.
Для нахождения параметров линейного уравнения
1 1 2 2
y a b x b x
множественной регрессии
необходимо решить следующую систему линейных уравнений относительно неизвестных
параметров
a
,
1
b
,
2
b
:
1 1 2 2
2
1 1 1 2 1 2 1
2
2 1 1 2 2 2 2
;
;
na b x b x y
a x b x b x x yx
a x b x x b x yx
либо воспользоваться готовыми формулами:
1 2 1 2
1 1 2
1
2
1
yx yx x x
y
x x x
r r r
b
r
;
2 1 1 2
2 1 2
2
2
1
yx yx x x
y
x x x
r r r
b
r
;
1 1 2 2
a y b x b x
.
Рассчитаем сначала парные коэффициенты корреляции:
9847,0
519,4
45,4
91,1366,2
51,61055,69
,cov
1
1
1
xy
yx
xy
r
96,0
992,15
35,15
759,6366,2
75,221085,242
,cov
2
2
2
xy
yx
xy
r
960,0
910,12
398,12
910,12
1025,1485,160
759,691,1
75,2251,65,160
,cov
21
21
21
xx
xx
xx
r
Находим
997,08033,0238,1
960,01
960,096,09847,0
91,1
366,2
2
1
b
0656,01879,035,0
960,01
960,09847,096,0
759,6
366,2
2
2
b
017,275,220656,051,6997,010 a
Таким образом, получили следующее уравнение множественной регрессии:
21
0656,0997,0017,2 xxy
Уравнение множественной регрессии показывает, что при вводе в действие новых основных
фондов
1
x
на 1% (при неизменном
2
x
) выработка продукции одного работника увеличится на
0,997 руб., а при увеличении только удельного веса рабочих высокой квалификации
2
x
на 1% ( при
10