Конспект лекцій - Економетричне моделювання

Подождите немного. Документ загружается.

ПІДБІР ПОЯСНЮВАЛЬНИХ ОЗНАК

11.1. Відбір пояснювальних ознак серед вихідних

Однією з умов побудови правильної економетричної моделі є

підбір належних пояснюючих ознак. Те, які саме ознаки повинні

увійти до моделі, визначається змістовними міркуваннями, виходячи з

економетричної сутності завдання. Але, якщо це не дає однозначної

відповіді на це питання, необхідно скористатись формальними статис-

тичними методами, які дають набір пояснюючих ознак з точки зору

обраного критерію оптимальності.

Однією з найбільш часто використовуваних процедур вибору

пояснюючих ознак є метод

оптимального вибору предикторів. Він

дозволяє одержати багатоваріантні розв’язки, які являють собою різ-

номанітні комбінації початкових ознак. Це дозволяє відібрати най-

більш адекватний варіант розв’язку завдання відбору пояснюючих

ознак з точки зору практичного застосування.

Цей метод також дає чітке формулювання критерію, на основі

якого здійснюється відбір відповідної комбінації ознак. Останнє до-

зволяє визначити ступінь зв’язку пояснюваної ознаки

Y з пояснюючи-

ми ознаками

, а також ступінь взаємозалежності вихідних ознак X .

Суть методу полягає у наступному: з сукупності

n потенційних

пояснюючих ознак можна утворити

k = 2

–1 комбінацій, серед яких:

)!1(!1

−

– одноелементних;

)!2(!2

−

– двоелементних;

...

===

–n–елементних.

Для відбору належної комбінації розраховується розширена

кореляційна матриця. Вона містить як коефіцієнти парної кореляції

між пояснюючими ознаками і результуючою ознакою (перший рядок

та перший стовпчик), так і коефіцієнти кореляції між самими поясню-

ючими ознаками:

101

⎥

⎦

⎤

⎢

⎣

⎡

nnnnn

XXXXXXYX

YXYXYXYY

rrrr

...

121111

. (11.1)

Очевидно, що вона буде симетричною, а на головній діагоналі

будуть стояти одиниці. Далі для кожної комбінації вихідних ознак роз-

раховується показник:

∑

≠

, (11.2)

де

= r , r

XjY ij

= r – елементи кореляційної матриці R;

XiXj

k – кількість відібраних ознак.

Помітимо, що діагональні елементи матриці у розрахунках участі

не приймають. Очевидно, що найкращою буде та комбінація, для якої

величина розрахованого показника

буде найбільшою. Адже для ве-

ликих значень показника потрібно, щоб чисельник був якомога біль-

шим, а знаменник – меншим. Чисельник визначається коефіцієнтами

кореляції між пояснюючими ознаками і результуючим показником і

буде тим більший, чим щільніший зв’язок між ними. Знаменник же за-

лежить від коефіцієнтів взаємної кореляції між пояснюючими показни-

ками і буде тим меншим, чим слабший зв’язок між ними. Отже, найкра-

щу комбінацію складуть ті ознаки, для яких спостерігається сильний

зв’язок з пояснюваною ознакою і слабкий взаємозв’язок.

Якщо декілька комбінацій мають однаково велике (або близьке )

значення, то обирається та, яка найбільш адекватна зі змістовної точки

зору. Можна також побудувати моделі для всіх відібраних ознак і по-

тім залишити ту модель, яка найкраща з точки зору загальноприйнятих

критеріїв оцінки якості економетричної моделі.

Приклад 11.1

Для аналізу виробничої діяльність підприємств певної галузі

відібрані наступні показники:

– питома вага придбаних виробів;

– премії та заохочення на одного робітника;

– середньорічна чисельність ППП;

– середньорічна вартість ОФП;

– фондоозброєність праці;

102

–невиробничі витрати;

Y – продуктивність праці.

Перші шість показників – пояснюючі, останній – результатив-

ний. Для побудови економетричної моделі потрібно відібрати най-

більш оптимальну комбінацію пояснюючих ознак. Значення показни-

ків наведені в таблиці 11.1

Таблиця 11.1

– Значення вихідних ознак

Номер

Y X X X X X X

об’єкта

41 2 3 5 6

1 8,72 0,30 1,46 9166 38,95 4,25 13,69

2 6,64 0,24 1,27 15118 81,32 8,38 16,66

3 8,10 0,10 1,58 11429 67,26 5,88 15,06

4 5,52 0,11 0,68 6462 59,92 9,27 20,09

5 9,37 0,44 0,86 24628 107,34 4,36 15,98

6 13,17 0,53 1,98 49727 512,60 10,31 18,27

7 6,67 0,34 0,33 11470 53,81 4,69 14,42

8 5,68 0,20 0,45 19448 80,83 4,16 22,76

9 5,22 0,24 0,74 18963 59,42 3,13 15,41

10 10,02 0,54 0,03 9185 36,96 4,02 19,35

СрЗнач 7,91 0,30 0,94 17559,60 109,84 5,85 17,17

СКВ 2,49 0,16 0,62 12625,42 143,06 2,53 2,88

Розв’язування

Стандартизуємо ознаки (табл. 11.2) і обчислимо кореляційну

матрицю (табл. 11.3).

Таблиця 11.2 – Стандатризовані ознаки

Номер

U Z Z Z Z Z Z

об’єкта

1 2 3 4 5 6

1 0,32 –0,03 0,85 –0,66 –0,50 –0,63 –1,21

2 –0,51 –0,40 0,54 –0,19 –0,20 1,00 –0,18

3 0,08 –1,29 1,04 –0,49 –0,30 0,01 –0,73

4 –0,96 –1,23 –0,42 –0,88 –0,35 1,35 1,01

5 0,58 0,86 –0,13 0,56 –0,02 –0,59 –0,41

6 2,11 1,43 1,69 2,55 2,82 1,76 0,38

7 –0,50 0,23 –0,99 –0,48 –0,39 –0,46 –0,95

8 –0,89 –0,66 –0,79 0,15 –0,20 –0,67 1,94

9 –1,08 –0,40 –0,32 0,11 –0,35 –1,07 –0,61

10 0,85 1,49 –1,47 –0,66 –0,51 –0,72 0,76

103

Таблиця 11.3 – Кореляційна матриця

U Z Z Z Z Z Z

1 2 3 4 5 6

U 1 0,7742 0,4740 0,6458 0,7225 0,3037 –0,0808

Z 0,7742 1 –0,0594 0,5202 0,4825 –0,0399 –0,0137

Z 0,4740 –0,0594 1 0,5251 0,6085 0,5431 –0,3466

Z 0,6458 0,5202 0,5251 1 0,9377 0,4081 0,1361

Z 0,7225 0,4825 0,6085 0,9377 1 0,6299 0,1546

Z 0,3037 –0,0399 0,5431 0,4081 0,6299 1 0,2349

Z –0,0808 –0,0137 –0,3466 0,1361 0,1546 0,2349 1

За даними кореляційної матриці обчислимо значення показни-

ків

для всіх можливих наборів ознак. В даному випадку таких на-

борів буде 2

– 1 = 63. Набори ознак з найвищими значеннями показ-

ника (перших 10) наведені у таблиці 11.4.

Таблиця 11.4

H Набір ознак

Номер набору

1 0,7779 X X

1 2

2 0,7732 X X X

1 2 4

3 0,7565 X X

1 4

4 0,7438 X X X

1 2 5

5 0,7337 X X X X

1 2 4 6

6 0,7252 X X X

1 2 3

7 0,7251 X X X

1 4 6

8 0,7233 X X X

1 2 6

9 0,7142 X X X X

1 2 4 5

X X X X10 0,7087

1 2 5 6

Аналіз таблиці показує, що найкращими наборами є {X

, X

}

та {

X , X , X

1 2 4

}. Відмінність у значеннях показника H

для них стано-

вить 0,6 %. Виходячи із змістовного аналізу, перевагу все таки слід

надати другому набору. Таким чином, у ролі пояснюючих ознак варто

взяти ознаки {

, X

104

11.2. Критерії відбору оптимальної комбінації ознак

Раніше вже говорилося що для спрощення моделі доцільно

зменшити кількість вихідних ознак, замінивши їх діагностичними.

Викладений вище метод оптимального вибору предикторів можна ви-

користовувати і для добору пояснюючих ознак серед діагностичних

Відмовляючись від розгляду сукупності вихідних ознак на користь

меншого за обсягом набору діагностичних ознак, ми в цьому випадку

одержуємо процедуру, що володіє, зокрема такими перевагами:

− зменшується число можливих комбінацій ознак, для яких

розраховується величина

;

− зменшується або взагалі виключається можливість появи

комбінацій ознак, для яких значення величини

мало відрізняється від

максимального (тобто, більша імовірність появи лише одної оптималь-

ної комбінації ознак).

Наприклад, зменшивши кількість ознак вдвічі, ми одержимо

n/2

–1 комбінацій ознак , які необхідно дослідити.

З іншого боку, якщо є набори ознак, для яких H

мало відріз-

няються від

max

, то немає достатніх умов вважати, що кращим є саме

набір, який відповідає цьому максимальному значенню. Справа в тому,

що величини

H в однаковому ступені залежить і від r , і від r

k j ij

. Тому їх

значення в деяких комбінаціях можуть бути однаковими, якщо зазна-

чені коефіцієнти кореляції змінюються в однаковому напрямку. Така

ситуація може виникнути і коли

сильно корельовані з Y, і коли

зв’язок слабкий. В обох випадках високим значенням

відповідати-

муть високі значення

|, а низьким – низькі.

При заміні вихідних ознак діагностичними має місце випадок,

коли

X слабко корельовані між собою, а отже |r

i ij

| ≈ 0.

Питання для самоперевірки

1. У чому полягає сутність методу оптимального вибору пре-

дикторів?

За якими критеріями здійснюється відбір оптимальної кіль-

кості пояснюючих ознак?

У чому полягає особливість методу оптимального вибору

предикторів для індивідуальних діагностичних ознак?

105

ОЦІНЮВАННЯ ФУНКЦІЙ

РЕГРЕСІЇ ТА ПСЕВДОРЕГРЕСІЇ

12.1. Відокремленість однорідних підмножин даних

Застосування методів порівняльного багатомірного аналізу

призводить до розбиття сукупності даних на відносно однорідні під-

множини. У залежності від ступеня розбиття на підмножини викорис-

товуються різні способи їх оцінювання.

Розбиття на повністю відокремлені підмножини характеризу-

ється тим, що об’єкти всередині підмножини слабко розрізняються між

собою (тобто, сильно корельовані), а об’єкти різних підмножин мають

значні відмінності.

Розбиття на частково відокремлені підмножини характеризу-

ється тим, що об’єкти різних підмножин не мають значних відміннос-

тей між собою.

Ступінь відмінності можна визначити за допомогою діаметрів

підмножин і відстаней між підмножинами.

Діаметр підмножини

визначається за формулою:

),(max

qpdd

Pqp

∈

, (12.1)

де

d(p,q) – відстань між елементами підмножини P

Відстань між підмножинами

та P

визначається за формулою:

),(min

qpdd

PqPp

∈∈

. (12.2)

У результаті одержуємо матрицю характеристик розбиття су-

купності на однорідні підмножини

D = (d

Далі визначається граничне значення

d* = max d

. Значення

матриці, що перевищують

d*, до уваги не приймаються, тому що харак-

теризують сильно відокремлені підмножини. Тобто, відмінності між

різними елементами цих підмножин більші, ніж відмінності всередині

підмножин. Для зручності подальшої обробки даних матриця

D пере-

творюється у матрицю

′

відповідно до зазначеної вище умови:

⎪

⎩

⎪

⎨

⎧

≤

*,0

ddd

ijij

. (12.3)

106

Приклад 12.1

Нехай маємо 10 об’єктів, розташування яких схематично зо-

бражено на рис. 12.1. У результаті аналізу даних одержано розбиття

на об’єктів на три однорідні сукупності: перша – з елементів {1, 2, 3},

друга – з елементів {4, 5, 6, 7}, третя – з елементів {8, 9, 10}.

d = 2,3

d = 3,4

d = 1,2

d = 4,2

= 6,5

Нехай матриця відстаней між об’єктами має такий вигляд:

0 1,2 1,1 3,4 6,1 6,3 5,9 7,4 8,1 12,2

1,2 0 0,8 3,2 4,8 5,7 5,3 6,9 7,7 11,3

1,1 0,8 0 3,6 5,3 5,9 5,6 6,5 7,4 10,8

3,4 3,2 3,6 0 1,2 1,8 1,9 6,4 8,2 9,9

C = 6,1 4,8 5,3 1,2 0 1,4 2,3 6,8 8,7 10,2

6,3 5,7 5,9 1,8 1,4 0 1,5 5,3 6,1 8,2

5,9 5,3 5,6 1,8 2,3 1,5 0 4,2 4,9 7,7

7,4 6,9 6,5 6,4 6,8 5,3 4,2 0 2,2 5,7

8,1 7,7 7,4 8,2 8,7 6,1 4,9 2,2 0 4,8

12,2 11,3 10,8 9,9 10,2 8,2 7,7 5,7 4,8 0

d = 5,7

810

Рис. 12.1 – Аналіз відокремлення підмножин

107

За даними цієї матриці побудуємо матриці

D та D

′

, які відо-

бражають діаметри підмножин та відстань між ними. Для зручності

відповідні значення, за якими будувалась матриця

D відображені у

вихідній матриці

C кольорами. Отже,

⎥

⎦

⎤

⎢

⎣

⎡

7,52,45,6

2,43,22,3

5,62,32,1

D .

Скориставшись формулою (12.3), одержимо матрицю

′

при

d* = 5,7:

⎥

⎦

⎤

⎢

⎣

⎡

7,52,40

2,43,22,3

02,32,1

Тобто, можна зробити висновок, що перша та третя множина ма-

ють хороші характеристики відокремлення. Цей висновок узгоджується з

візуальним спостереженням графічного зображення розташування об’єктів.

Однак таке зображення може неадекватно представляти істинне розташу-

вання об’єктів, оскільки вони можуть характеризуватись багатьма харак-

теристиками, а зображення здійснюється у площині. Висновок про відо-

кремленість інших підмножин та про характеристику подібності об’єктів

всередині підмножин зробити поки що не можна.

При розбитті об’єктів на непорожні множини, що не перети-

наються, не завжди одержується результат з гарним з точки розу відо-

кремлення підмножин розбиттям. Іноді можна одержати підмножини,

подібні між собою та диференційовані всередині. Ці дві особливості

підмножин можна описати за допомогою внутрішніх та зовнішніх ко-

ефіцієнтів подібності, які обчислюються на основі матриці

C відстаней

між об’єктами.

Ступінь внутрішньої подібності підмножини

визначається

за формулою:

⎪

⎩

⎪

⎨

⎧

>−

∑

∈

,)),(*(

Pqp

nqpdd

, (12.4)

де

n – кількість пар елементів підмножини P

i i

108

Для вимірювання ступеня подібності різних підмножин вико-

ристовується величина:

⎪

⎩

⎪

⎨

⎧

−=

∑

∈∈

PqPp

qpdd

)),(*(

, (12.5)

де ;

⎩

⎨

⎧

≤

*),(*,

*),(),,(

),(

dqpdd

dqpdqpd

qpd

– кількість пар елементів підмножин P

та P

, для яких ви-

конується умова

d(p,q)

≤ d*. Високі значення показників свідчать про

подібність між об’єктами як всередині підмножини (для

′

) так і між

підмножинами (для

′

У практичному застосуванні такі коефіцієнти незручні, тому їх

перетворюють таким чином:

′

= . Очевидно, що 0 ≤ a

≤ 1. Чим

ближче значення коефіцієнта до одиниці, тим вищий ступінь подібнос-

ті між об’єктами підмножин.

Приклад 12.2

Для розглянутого у попередньому прикладі розбиття об’єктів

на підмножини та відповідної матриці відстані між об’єктами

C одер-

жимо наступну матрицю подібності

⎥

⎦

⎤

⎢

⎣

⎡

386,0158,00

158,0705,0218,0

0218,0819,0

A .

Як видно, перша та третя підмножини мають низький ступінь

подібності. Для елементів першої та другої підмножин спостерігається

досить висока подібність всередині підмножин і досить низька – між

підмножинами. Найнижча подібність має місце для елементів третьої

підмножини. Це говорить про те, що можливо її слід розділити ще на

дві підмножини. Це цілком узгоджується з візуальним аналізом зобра-

ження об’єктів на рис. 12.1.

109

За значеннями матриці

A можна побудувати показник, що ви-

мірює ступінь когерентності (зчеплення) елементів різних підмножин.

Коефіцієнт простої когерентності має вигляд:

jjii

. (12.6)

Чим більша величина

, тим менше відрізняються між собою

підмножини. Доповнення цієї величини до одиниці дасть іншу вели-

чину – коефіцієнт відокремлення:

ijij

−

1 . (12.7)

Інтерес також становить відповідь на питання, в якому ступені

кожна з підмножин не схожа на інші підмножини тієї самої сукупності.

Для цього служить коефіцієнт індивідуальної когерентності:

∑

≠

ijii

. (12.8)

Чим більші значення величини

, тим більша схожість даної

підмножини з іншими. До цілком відокремлених підмножин відносять

ті, для яких

= 0. Інакше підмножини називають частково відокрем-

леними.

Розраховані за формулами (12.6) та (12.8) коефіцієнти утво-

рюють матрицю когерентності

K. Вона надає можливість оцінити

якість розбиття вихідної сукупності даних на підмножини. Це робить-

ся за допомогою узагальненого коефіцієнта когерентності:

∑∑

iji

, (12.9)

де s – кількість пар підмножин, для яких k

> 0.

Сума береться для елементів матриці

K, розташованих вище

головної діагоналі. По суті, узагальнений коефіцієнт когерентності

являє собою середнє значення коефіцієнтів простої когерентності. Він

характеризує загальний рівень зближення (або віддалення) всіх під-

множин цієї сукупності. Чим більше значення коефіцієнта, тим вищий

рівень зближення підмножин.

110