Пантелеев Е.Р. Методические указания для лабораторного практикума

Подождите немного. Документ загружается.

Министерство образования Российской Федерации

Ивановский государственный энергетический университет

Кафедра программного обеспечения компьютерных систем

МЕТОДИЧЕСКИЕ УКАЗАНИЯ

к выполнению лабораторного практикума

ИНТЕЛЛЕКУАЛЬНЫЙ АНАЛИЗ ДАННЫХ

Иваново 2004

Составители И.Д. РАТМАНОВА

М.А. КОЗЫРЕВ

Редактор Е.Р. ПАНТЕЛЕЕВ

Цель настоящих методических указаний – ознакомить

студентов с наиболее популярными методами интеллектуально-

го анализа данных.

Методические указания предназначены для студентов

специальности 220400 «Программное обеспечение вычисли-

тельной техники и автоматизированных систем» при подготовке

по курсу «Системы искусственного интеллекта».

Методические указания утверждены

цикловой методиче-

ской комиссией ИВТФ.

Рецензент

кафедра программного обеспечения компьютерных систем Ива-

новского государственного энергетического университета

ВВЕДЕНИЕ

Интеллектуальный анализ данных (Data Mining) - это

процесс поддержки принятия решений, основанный на поиске в

данных скрытых закономерностей (шаблонов информации). При

этом накопленные сведения автоматически обобщаются до ин-

формации, которая может быть охарактеризована как знания.

В общем случае процесс ИАД состоит из трёх стадий:

• выявление закономерностей;

• использование выявленных закономерностей для

предсказа-

ния неизвестных значений;

• анализ исключений, предназначенный для выявления и тол-

кования аномалий в найденных закономерностях.

Data Mining является мультидисциплинарной областью,

возникшей и развивающейся на базе достижений прикладной

статистики, распознавания образов, методов искусственного

интеллекта, теории баз данных и др. Этим обусловлено обилие

методов и алгоритмов, реализованных в различных действую-

щих системах

Data Mining. Среди них выделяют: традиционные

методы прикладной статистики, нейронные сети, методы обна-

ружения логических закономерностей в данных, методы рассуж-

дения на основе аналогичных случаев, эволюционные и генети-

ческие алгоритмы, методы визуализации многомерных данных.

Лабораторный практикум включает четыре работы, свя-

занные с исследованием следующих методов: главных компо-

нент, кластерного анализа, нейросетевого моделирования и де-

ревьев решений.

РАБОТА 1. МЕТОД ГЛАВНЫХ КОМПОНЕНТ

Краткая характеристика

В статистической работе часто встречаются ситуации,

когда общее число признаков, регистрируемых на каждом из

множества исследуемых объектов, довольно велико. Представ-

ление каждого многомерного наблюдения в виде вектора неко-

торых вспомогательных показателей с существенно меньшим

числом компонент может быть обусловлено следующими при

чинами:

• необходимость наглядного представления (визуализации)

исходных данных, что достигается их проецированием на спе-

циально подобранное трехмерное пространство плоскость или

числовую прямую;

• стремление к лаконизму исследуемых моделей, обусловлен-

ному упрощением интерпретации полученных статистических

выводов;

• ограниченные возможности человека в одновременном охва-

те большого числа частных критериев;

• необходимость существенного сжатия объемов хранимой

статистической информации (без видимых потерь в ее инфор-

мативности), если речь

идет о записи и хранении данных в спе-

циальной базе данных.

Имеется, по крайней мере, три основных типа принципи-

альных предпосылок, обуславливающих переход от большого

числа исходных показателей состояния анализируемой систе-

мы к существенно меньшему числу наиболее информативных

переменных. Это, во-первых, дублирование информации, дос-

тавляемой сильно взаимосвязанными признаками; во-

вторых,

неинформативность признаков, мало меняющихся при переходе

от одного объекта к другому; в-третьих, возможность агрегиро-

вания, т.е. простого или «взвешенного» суммирования, по неко-

торым признакам.

Во многих задачах обработки многомерных наблюдений

и, в частности, в задачах классификации исследователя интере-

суют, в первую очередь, лишь те признаки, которые обнаружи-

вают

наибольшую изменчивость при переходе от одного объек-

та к другому. С другой стороны, не обязательно для описания

состояния объекта использовать какие-то из исходных, непо-

средственно замеренных на объекте, признаков. Именно эти

принципиальные установки заложены в сущность того линейного

преобразования исходной системы признаков, которое приводит

к главным компонентам.

Пример анализа

Лабораторная работа по методу главных компонент вы-

полняется на демонстрационной версии статистического пакета

«Statgraphics Plus 5.0». В качестве примера поставим задачу:

оценить уровень развития здравоохранения в субъектах ЦФО в

2000 году по следующим показателям: обеспеченность населе-

ния врачами, человек на 10000 населения (X1); обеспеченность

средним медицинским персоналом, человек на 10000 населения

(X2); обеспеченность больничными койками, число на 10000

на-

селения (X3); обеспеченность врачебными амбулаторно-

поликлиническими учреждениями, число посещений в смену на

10000 населения (X4). Ниже приводится таблица с исходными

статистическими данными.

Таблица 1. Исходные статистические данные

Субъект ЦФО Х1 Х2 Х3 Х4

Белгородская область 38,2 117,4 125 199,8

Брянская область 36,6 109,6 123,1 202,9

Владимирская область 36,2 104,3 121 293,9

Воронежская область 49,3 113,3 118,9 192

Ивановская область 51,3 138,8 142 188,7

Калужская область 39,5 104,1 114,4 242,7

Костромская область 35,9 120,1 145,3 187

Курская область 45,5 107 115,3 206

Липецкая область 39,2 123,3 130,7 291,4

Московская область 33,9 87,9 106,7 246,7

Орловская область 36,7 112,2 118,9 180

Рязанская область 51,7 120,3 131,7 215,3

Смоленская область 57,6 109 130,6 230,9

Тамбовская область 33 104,1 126,5 224,5

Тверская область 48,9 101,7 121,7 183,7

Тульская область 32,8 114,9 142,4 219,7

Ярославская область 54,5 106,7 125,9 250,3

г. Москва 86 121,6 122 416,9

Исследование начинается с ввода исходных статистиче-

ских данных в новую электронную таблицу. Таблица организо-

вана таким образом, что ее строкам должны соответствовать

объекты (наблюдения), а столбцам – признаки. Для именования

переменных (признаков) и задания их типа нужно маркировать

требуемую колонку и, щелкнув правой кнопкой мыши, выбрать

команду контекстного меню «Modify Column». В появившемся

окне диалога нужно указать требуемые параметры.

После ввода данных можно приступить непосредственно

к анализу, выбрав следующий пункт меню: «Special/Multivariate

Methods/Principal components…». Система отобразит окно диа-

лога для задания переменных (рис. 1.1). Анализируемые пере-

менные необходимо переместить в поле «Data», а наименова-

ния объектов – в поле «Point Labels». После нажатия кнопки

«Ok» система выдаст окно с исходной сводкой результатов ана-

лиза по методу главных компонент (рис. 1.2).

Рис. 1.1. Окно задания переменных для анализа

Рис. 1.2. Исходная сводка результатов анализа

Из полученной сводки можно получить справочную ин-

формацию об анализируемых переменных и количестве наблю-

дений (объектов), подвергающихся анализу. Информация само-

го метода главных компонент заключена в таблице. В ней пред-

ставлены характеристики новых компонент: собственные значе-

ния главных компонент, упорядоченные по величине

(Eigenvalue); процент дисперсии, приходящийся на каждую вы-

деленную

главную компоненту (Percent of Variance); накоплен-

ный процент дисперсии (Cumulative Percentage).

Полученные для нашего примера цифры говорят о том,

что две первые главные компоненты описывают почти 85% дис-

персии исходных данных. Третья главная компонента добавляет

еще 10% дисперсии, но в нашем случае предпочтительно ими

пожертвовать в целях более лаконичного представления дан-

ных. Таким образом, для дальнейшего анализа оставим в рас-

смотрении две первые главные компоненты.

Для более детального анализа нажмем кнопку таблич-

ных опций (вторая слева в верхнем ряду) и в соответствующем

окне диалога установим флажок компонентных весов (Compo-

nents Weights). Получим следующую таблицу (рис. 1.3).

Рис. 1.3. Веса признаков в главных компонентах

Как следует из полученных цифр, в первой главной ком-

поненте наибольшие по величине положительные коэффициен-

ты имеют обеспеченность средним медперсоналом и больнич-

ными койками, во второй же компоненте превалируют обеспе-

ченность врачами и учреждениями. В соответствие с этим мож-

но предложить содержательную интерпретацию новым пере-

менным.

На основании сделанных выводов перейдем к рассмот-

рению диаграммы рассеяния совокупности объектов в двухмер-

ном пространстве (в соответствие с

числом главных компонент,

оставленных в рассмотрении). Для этого нажмем на кнопку гра-

фических отображений и инициализируем соответствующее

двухмерное отображение (рис. 1.4). Данная визуализация по-

зволяет выделить из всей совокупности субъектов ЦФО:

• Москву, характеризующуюся очень большой (по сравнению с

другими субъектами) обеспеченностью врачами и учреждения-

ми;

• Ивановскую область, выделяющуюся по

самому высокому

уровню обеспеченности средним медперсоналом и больничны-

ми койками при довольно низкой обеспеченности врачами и уч-

реждениями;

• Московскую область с самой низкой обеспеченностью сред-

ним медперсоналом и больничными койками;

• оставшиеся объекты, занимающее среднее положение в об-

щей совокупности.

Известно, что уникальные свойства первой главной ком-

поненты позволяют использовать

ее в качестве интегрального

показателя, с максимальной информативностью характеризую-

щего исследуемую совокупность объектов и используемого в

качестве основы для проведения ранжировок. Информацию о

значениях главных компонент по каждому из исследуемых объ-

ектов можно получить во вкладке «Data Table» табличных ото-

бражений (рис. 1.5). Однако в нашем случае использование пер-

вой главной компоненты в

качестве интегрального показателя,

заключающего в себе информацию обо всех исходных перемен-

ных, вряд ли оправдано, так как в ней заключено менее 50%

дисперсии исходных данных.

Рис. 1.4. Графическое представление субъектов на диаграмме рассеяния

Рис. 1.5. Значения главных компонент

Задания

Имеются данные, представляющие собой статистиче-

ское обследование множества объектов по ряду характеризую-

щих их признаков. Требуется:

• На основе критерия информативности метода главных ком-

понент вынести решение о числе главных компонент, оставляе-

мых в рассмотрении для дальнейшего анализа.

• На основании уравнений для главных компонент дать компо-

нентам содержательную

интерпретацию.

• Графически представить объекты в пространстве соответст-

вующей мерности.

• Предложить и обосновать метод вычисления интегрального

показателя, основанного на знании значений исходных показа-

телей. Произвести ранжировку объектов по данному интеграль-

ному показателю.

• Предложить интерпретацию полученных результатов.

Ниже представлены варианты заданий.

Задание 1

Имеются исходные статистические данные по двадцати

сельскохозяйственным

районам: число колесных тракторов на

100 га (X1), число зерноуборочных комбайнов на 100 га (Х2),

число орудий поверхностной обработки почвы на 100 га (Х3),

количество удобрений, расходуемых на гектар (Х4), количество

средств защиты растений, расходуемых на гектар (Х5).

Номер

с/х рай-

она

Х1 Х2 Х3 Х4 Х5

1 1,59 0,26 2,05 0,32 0,14

2 0,34 0,28 0,46 0,59 0,66

3 2,53 0,31 2,46 0,30 0,31

4 4,63 0,40 6,44 0,43 0,59

5 2,16 0,26 2,16 0,39 0,16

6 2,16 0,3 2,69 0,32 0,17

7 0,68 0,29 0,73 0,42 0,23

8 0,35 0,26 0,42 0,21 0,08

9 0,52 0,24 0,49 0,20 0,08

10 3,42 0,31 3,02 1,37 0,73

11 1,78 0,30 3,19 0,73 0,17

12 2,40 0,32 3,30 0,25 0,14

13 9,36 0,40 11,51 0,39 0,38

14 1,72 0,28 2,26 0,82 0,17

15 0,59 0,29 0,60 0,13 0,35

16 0,28 0,26 0,30 0,09 0,15

17 1,64 0,29 1,44 0,20 0,08

Пантелеев Е.Р. Методические указания для лабораторного практикума - Интеллектуальный анализ данных

Подождите немного. Документ загружается.