Лекции по эконометрике
Подождите немного. Документ загружается.
Вместо N имеем (N-), так как для первых моментов времени вплоть до t=
() не определено:
Пусть =2. Тогда () можно вычислить только начиная с t=3,4,…… 6.
.
1)(N)(
τ)(N))((
.)(τ
N
1t
2
t
τN
1t
τtt
ÓÓ
ÓÓÓÓ
T
(4.5)
График T(
) при
=var называется коррелограммой, т.е. это выборочная
оценка автокорреляционной функции.
Обычно берут N/4 или N4.
4.6. Частный коэффициент автокорреляции.
Частный коэффициент автокорреляции есть числовая мера корреляционной
связи между У
t
и У
t+
при условии устранения (элиминирования) влияния
промежуточных членов между У
t
и У
t+
Свойства:
1). T()=T (-) – следствие эргодичности.
2). Наличие отрицательных значений T() говорит о наличие колебательных
процессов в Y(t).
3). T() – затухает (ослабивается последствием) , т.е. амплитуда T() затухает
по мере увеличения лагового сдвига .
4.7. Сглаживание временных рядов
Сглаживание временных рядов:
При сильном зашумлении базы данных перед идентификацией ВВ?.
Предварительный анализ временных рядов:
N
Рис. 4.2. График.
0 1 2 3 4 5 6
Рис. 4.3. На рисунке изображен типичный вид автокорреляционной функции
T()
41
Предварительный анализ временных рядов обычно содержит три операции:
сглаживание временных рядов;
выявление и устранение аномальных наблюдений;
выявление временного тренда.
Целью этой операции является элеминирование (ослабление) случайной
составляющей временных рядов по отношению к трендовой составляющей.
Особенно полезно делать сглаживание временных рядов в качестве
предпроцессорной обработки данных пред построением уравнением регрессии,
аппроксимирующего тренд во временных рядах. В сложных условиях
моделирования (сильное зашумление данных, отягощенные дефицитом
наблюдения) предварительное сглаживание временных рядов за частую позволяет
адекватно регрессивную модель превратить в достаточно адекватную. Этому
также способствует отбраковка аномальных наблюдений и более «мягких»
подходящих к оценки адекватности (снижения доверительной вероятности, на
пример, до уровня 0,85… 0,9, если это позволяет постановка задачи).
В эконометрике применяются методы сглаживания:
Метод простой скользящей средней;
Метод взвешенной скользящей средней;
Метод эксионециального сглаживания
и д.р.
Наиболее простой и распространенный метод простой скользящей средней
(МПСС). Алгоритм этого метода задается формулой:
.
m
~
t
t
t
p
pi
i
Ó
Ó
(4.6)
где
t
Ó
~
– сглаженные значения уравнения временных рядов;
i
Ó
– текущие не сглаженные значения уравнения временных рядов;
m – количество точек в интервале сглаживания;
р – вспомогательный параметр (при нечетном m – р=(m-1)/2);
i – индекс суммирования;
t – текущий момент времени наблюдения во временном ряде.
4.8. Авторегрессионные модели.
1. Назначение:
1). Случай, когда для обычной регрессии нарушаются предпосылки
регрессионного анализа.
- гетероскедантичность;
- автокоррелированность остатков;
Переход к авторегрессии может значительно улучшить ситуацию.
2). Хорошо описывает колебательные процессы, на пример сезонные
колебания.
В моделях авторегрессии вместо регрессора t выступают лаговые переменные
42
Лаговые переменные – это переменные, объясняющие моделирующую
величину Y с некоторым запаздыванием. Второе отличие от классических
временных рядов – то, что объясняющие переменные – случайные величины (по
своему смыслу).
AR(p) – порядка p.
ttτtτ1t10t
eYa.....Ya.....YY
ˆ
pp
bb
. (4.7)
т.е.
t
Y
ˆ
- есть линейная комбинация значений Y в предыдущие моменты
времени;
Здесь Y(t-1),….Y(t-p) – лаговые независимые переменные (переменные с
запаздыванием);
AR(1) – это Марковский случайный процесс (зависимость только от
скорости - первых разностей):
.eY(t)Y
ˆ
t1t10t
bb
(4.8)
Пример:
1)0,75y(t284,0(t)Y
ˆ
4.9. Авторегрессионная модель скользящей средней.
«Moving average» - скользящая средняя.
ARMA - авторегрессионная модель скользящей средней.
Замечание:
Не следует путать авторегрессионную модель скользящей средней с методом
простой скользящей средней при сглаживании временных рядов. В правой части
этой модели стоят лаговые переменные по Y и e:
.
ˆ
e;eγ...eγea...aa(t)
ˆ
tttqtq1t1tpt1t10t
ÓÓÓÓÓ
p
(4.9)
4.10. Разностные уравнения с лаговыми пременными
1) Назначение: Если классическое уравнение регрессии (УР) оказалось
неадекватным (например, имеет место смешенность остатков M[e
i
]
0, их
автокорреляция, гетероскедантичность), то целесообразно построение
разностной авторегрессионной модели.
2) Структура уравнения регрессии: В левой части уравнения регрессии
стоит аппроксимируемая величина Z
(d)
– разность порядка d, а в правой части
линейная комбинация лаговых переменных порядка p, аппроксимирующая эту
разность Z
(d)
:
.q1,2,...,d,ZZZ
N;1,...,,t
;eZ...ZbZZ
1)(d
t
1)(d
1t
(d)
t
t
(d)
t
(d)
2t2
(d)
1t10
(d)
t
pp
bbb
pp
(4.10)
Пример для разности первого порядка
.ZZZ
t1t
(1)
t
Для практического построения разности автореррессионной модели
необходимо провести идентификацию модели, т.е. выбрать оптимальные с точки
зрения адекватности и качество модели значения порядка разности d
*
и порядка
уравнения регрессии (числа лаговых переменных) р
*
.
Может быть использован следующий алгоритм:
43
;
)Z(Z
m)(N)Z(Z)Z(Z
(m)max:
*
D;min)Z(Z
N
1
)D(Z:
*
d
N
1t
2(d)
t
mN
1t
(d)
mt
(d)(d)
t
p
n
1t
d
2(d)(d)
t
(d)
Tp
(4.11)
4.11. Оценка коэффициентов регрессии.
В структуру разностной авторегрессии – регрессии оцениваемые
коэффициенты модели
b
входят линейным образом, поэтому применим
классический метод наименьших квадратов:
.ZXXX
(d)T
1
T
b
(4.12)
(d)
n
(d)
t
(d)(d)(d)
Z,...,Z,...,Z,ZZ
- вектор наблюдений зависимой переменной.
4.12. прогнозирование по разностной авторегрессионной модели.
Прогнозирование осуществляется как в обычном линейном уравнении
регрессии. После получения точечного и интервального прогноза следует
вернуться от разностей к зависимой переменной Y
t
по формулам связи разностей
с Y
t
. Например, для разностей первого порядка получим соотношение:
1)Z(NY(N)1)Y(N
YZY;YYZ
1t
(1)
t1tt
(1)
(4.13)
44
Глава IV. Некоторые вопросы практического построения
регрессионных моделей
5.1.Проблема спецификации переменных. Мультиколлинеарность
Мультиколлениарность – это линейная взаимосвязь двух любых регрессоров
X
j
и X
k
, (j, k =
1,N
), что является нарушением 7 предпосылки метода
наименьших квадратов.
Здесь может быть два случая:
а) Два любых фактора имеют между собой линейную функциональную
(детерминированную) связь
x
j
=a+bx
k
; (5.1)
В этом случае соответствующий вектор столбцы базе данных x
ij
, (
N1,i
) и x
i
k
,
(
N1,i
) оказываются строго линейно – зависимыми и определитель матрицы нормальных
уравнений равен нулю:
0XXdet
T
(5.2)
Значит матрица
XX
T
необратима и оценить параметры уравнения регрессии
по методу наименьших квадратов невозможно.
б) Линейная связь (5.1) стохастическая (скрытная). Однако она может быть
выявлена путем вычисления коэффициента линейной парной корреляции
kj
,xx
T
если критерии Стьюдента
k
,x
j
x
T
t
значим, то стохастическая линейная взаимосвязь есть!
Следствия:
1). Матрица
XX
T
нормальных уравнений формально обратима, но плохо
обусловлена (её определитель
XXdet
T
очень мал, и тем меньше, чем сильнее
взаимосвязь х
j
и x
k
). При большей размерности этой матрицы (десятки и сотни
регрессоров) возникают вычислительные проблемы.
2) Если все же удалось построить уравнение регрессии с сохранением в нем
мультиколлинеарных факторов, уравнение регрессии имеет плохое качество:
Модель, как правило, неадекватна;
Большие среднеквадратичные отклонения оцениваемых параметров
b
;
Оценки неустойчивы по вариации исходных данных;
Данные моделирования трудноинтерпретируемы;
5.2.Способы устранения мультиколлинеарности
1) Выявление мультиколлинеарных пар, и их исключения (фильтрация
регрессоров).
Проводиться коэффициент автокорреляции, т.е вычисляется корреляционная
матрица K. По критерию Стьюдента t
T
проверяется значимость её элементов {T
ij
}.
В выявленных мултаколлинеарных – парах оставляется в модели тот регрессор,
который теснее связан с Y, а другой отбрасывается.
2) Метод пошаговой регрессии
5.3. Метод пошаговой регрессии (конструктивный метод)
45
Идея состоит в пошаговом алгоритме построения мультиколленеарных
уравнений регрессии. При этом на каждом очередном шаге вводится еще одна
независимая переменная.
Для ЛУМР:
00
(1)
ˆ
xby
- одна объясненная переменная
1
0
x
;
ˆ
110
)(
xbby
2
;
ˆ
22110
(3)
xbxbby
– – – – – – – – – – – –
....
ˆ
mm110
)(
xbxbby
k
Процедура введения новых переменных продолжается до тех пор, пока будет
(стабилизируется) скорректированный (адаптированный) коэффициент
детерминации:
г
qq
)()(
R
ˆ
R
ˆ
1
22
Заметим, что в данном алгоритме контроль отсутствия (или слабого
проявления мультиколленеарности) реализуется косвенно. Если при введении
нового регрессора скорректированный коэффициент детерминации
(q)2,
R
ˆ
растет,
причем
1,t
(q)
j
b
то это признак повышения качества модели. При наличии
мультиколленеарности качество уравнения регрессии не улучшилось бы!
5.4. Деструктивный подход (“расщепления”) мультиколлинеарных пар
Алгоритм следующий:
1. Вводятся все регрессоры по итогам обработки экспертных оценок.
2. Проводится корреляционный анализ и вычисляется корреляционная
матрица К.
3. Выявляются мультиколлинеарные пары, для которых критерий Стьюдента
значим:
;t);;(tt
таб
T
TT
T
S
kj
k
x,
j
x
k
x,
j
x
x,x
2N
.n1,2,...,
kj,kj;
2N
T1
S
k
,
j
xx
T
4. В модели оставляется та переменная из мультиколлинеарной пары
kj
,xx
,
которая теснее связана с Y, а другая отбрасывается.
5.5.Случай нелинейных координатных функций
5.5.1.Формальная замена переменных
Пусть
)(xf
α
- нелинейные функции. Модель линейна по параметрам
b
и
нелинейна по
)(xf
α
.
.1;...
ˆ
0
2
221100
xxbxbxbxby
q
q
q
(5.3)
Сделаем замену переменных
46
.ez
z
z
z
z
z
0
3
3
3
2
2
2
1
1
1
00
q
q
by
x
x
x
x
x
q
q
(5.4)
Получаем исходный случай метода наименьших квадратов.
После нахождения
YΖΖ)(ΖΒ
Τ1Τ
, делается возврат к старым переменным.
5.5.2. Специальное преобразование
Пример:
.y
xb...xbxb
nn1100
Ае
ˆ
Эта модель нелинейна, как по искомым параметрам, так и по входным
факторам. Требуется уже не просто замена переменных, а специальное
преобразование переменных.
.lnlnxbxlnbxlnblnyln
jj
z;... A
ˆ
nn1100
x
n
0j
jj
yln ;ZC
ˆ
Y
~
. AС
00
blnln
5.6. Линейные уравнения регрессии с переменной структурой
Фиктивные переменные
При наличии качественных переменных имеем неоднородную структуру
данных.
а) Построение разных (отдельных) моделей для каждого уровня качественной
переменной.
б) Введение в уравнение регрессии качественных переменных. Они
называются также фиктивными, номинальными, нечисловыми, структурными,
“манекенами” (dummy variabls) и присвоение градациям этих переменных
“цифровых меток”.
Возможные подходы при кодировке:
1. Введение булевых (бинарных, дихотомических переменных)
20,
11,
признакместоимеет
признакместоимеет
j
x
Например: “признак 1” – есть высшее образование;
“признак 2” – нет высшего образования.
Случай нескольких градаций качественного признака. Если качественный
признак имеет несколько уровней.
Возможны два подхода:
1.Ввести дискретную переменную, имеющую столько же уровней, сколько
признаков.
47
2.Ввести несколько бинарных переменных.
В примере с образованием (начальное, среднее, высшее): Х
j
= (1; 2; 3;)
Однако такие данные трудно содержательно интерпретировать.
Действительно, приписываемые цифровые метки (1; 2; 3;) никак не связаны
ни с экспертными оценками, ни с закономерностями исследуемого объекта. Такое
кодирование вносит в уравнение регрессии искусственные связи. В частности,
качественный признак “образование” может оказаться на порядок более
значимым (или менее значимым) по сравнению с другими факторами в
зависимости от цифр кода.
Поэтому предпочтительнее способ 2, т.е. введение нескольких бинарных
переменных.
Правило: Число бинарных переменных должно быть на 1 меньше, чем число
градаций качественного признака.
Поясним это на примере с качественным признаком “образование”. Число
градаций 3, значит достаточно ввести две бинарные переменные.
случаяхдругихвсехво
высшее
0
1
1
z
случаяхдругихвсехво
среднее
0
1
2
z
Если образование среднее, то автоматически оно не начальное.
Если начальное, то это отражено парой {Z
1
=0; Z
2
=0}.
Если ввести третью бинарную переменную
еобразованиначальноене
еобразованиначальное
0
1
3
z
– возникает “логическая ловушка”.
Если сумма значений фиктивный переменных, включенных в регрессию, равна
постоянному числу (например: 1) в любой i–ой строке, то качественный признак
будет неразличим в уравнение регрессии, т.е. его оценка будет смешана со
свободным членом.
Поясним это утверждение.
Пусть качественный признак отражен тремя градациями и, соответственно
закодирован тремя бинарными (двоичными) переменными Z
1
, Z
2
, Z
3
.
Тогда их сумма равна:
Z
i
= Z
1
+ Z
2
+ Z
3
Z
3
=1
в любой i – ой строке матрицы планирования Х. Возникает функциональная
мультиколлинеарность, т.е. мультиколлинеарность состоит в линейной
зависимости первого столбца для
0
X
i
с вектор – столбцами для
321
Z,Z,Z
iii
, а
именно: первый столбец равен сумме столбцов для качественных переменных.
0X)det(X
T
и метод наименьших квадратов неприменим.
Сложные модели с влиянием качественных переменных на параметры
b
:
48
Замечание 3: Возможны смешанные уравнения регрессии с фиктивными
переменными.
).z(...)z(zz... y
ˆ
p1k111mmm11nnn110
xbxbbbxbxbb
( )
Пример:
Ó
ˆ
- потребление продукта.
Х – доход
Z
1
– сезонность (влияние на свободный член)
Z
2
– уровень доходности домашнего хозяйства влияют на b
1
при Х
(склонность к потреблению).
5.7. Способ устранения коррелированности регрессоров с остатками с
помощью инструментальных переменных
Пусть имеется база данных
N1,ZXY i
i
,
,,
. Здесь Z – вектор
инструментальных переменных. Пусть выявлена коррелированность
X
с
остатками е. Уравнение регрессии дает несостоятельные оценки параметров
b
.
Причем
Z
– это регрессоры, не коррелированные с остатками (инструментальные
переменные).
Идея метода инструментальных переменных: подобрать новые инструменты
переменные
X
, которые бы имели сильную корреляцию с
Y
и не коррелировали
с остатками е.
При этом в качестве {
j
Z
} могут выступать те регрессоры из числа {
j
x
},
которые не коррелируют с E, а также другие величины.
Обычно e > m, т.е. число компонент вектора
Z
больше , чем
x
. Например, в
тесте Уайта при этих переменных коэффициент незначимы.
Далее, исходные регрессоры аппроксимируются через инструментальные
независимые переменные и тем самым “очищаются” от коррелированности с E .
здесь применяется метод наименьших квадратов (первый шаг). Оценки
получаются состоятельными.
Переменные
j
x
~
, аппроксимированные линейными функциями от
инструментальных переменных Z
k
называется очищенными (от
коррелированности с остатками E) или новыми инструментальными
переменными.
В силу линейности всех связей можно связать полученные в итоге
состоятельные оценки с Y через исходные регрессоры
x
. Так мы приходим к
алгоритму метода наименьших квадратов.
5.8. Двух шаговый метод наименьших квадратов
1. Исходные (неочищенные) регрессоры x
j
аппроксимируются методом
линейных уравнений регрессии от выбранных инструментальных переменных
{Z
k
},
P1,k
.
.P1,kν;Zγx
~
0k
kk
jj
( )
49
Получаем m ЛУМР, причем, независимых друг от друга (метод наименьших
квадратов применяется m - раз). Для этого используется классический метод
наименьших квадратов. Здесь {
jk
γ
} - матрица искомых коэффициентов; j - номер
строки этой матрицы, равный номеру исходного регрессора x
j
; k – номер члена в
ЛУМР, равный номеру инструментальной переменной Z
k
. Классический метод
наименьших квадратов используется поочередно для каждого x
j
.
Замечание. В силу некоррелированности инструмент. переменная Z
k
с
остатками E эти оценки получаются состоятельными метода наименьших
квадратов.
.const;xZZ)(Z
γ
γ
γ
γ
T1T
ξ
1
0
k
j
j
j
j
j
j
()
);,...,,...,(}{
N21
T
jijjjj
xx,xxx
()
NK– число опытов; i – номер опыта;
Z – матрица планирования эксперимента, где базисные функции – линейные
функции от Z
k
.
P0;k};{Z)}(Z{
1
kkk
f
Замечание: переменные
j
x
~
не коррелируют с ошибками регрессии
ν
,
поскольку они выражаются в виде линейной комбинации некоррелирующих с E
переменных {Z
k
}.
2. Будем рассматривать {
j
x
~
} как новые инструментальные переменные для
Y и аппроксимируем Y через них.
e1,m0,;
~
Y
ˆ
m
0
q
qjxb
j
j
qj
( )
Вектор коэффициентов для каждой фиксированной компоненты
q
Y
ˆ
оцениваем снова с помощью классического метода наименьших квадратов:
.)
~
()}
~
({
Y
Y
Y
Y
Y
constYX
~
)X
~
X
~
(
1
q2
1
q
T1T
j
xxf
q
qb
jj
Nq
iq
q
q
Всего получается таких l формул метода наименьших квадратов вида ( );
т.е.
lq 1,
; где q - число исходных результативных переменных.
3. Поскольку все преобразования линейны, то подставляя ( ) в ( )
получим выражение оценки двухшагового метода наименьших квадратов через
50