Казаринов Л.С., Попова О.В., Барбасова Т.А. Автоматизированные информационно-управляющие системы (часть 1)

Подождите немного. Документ загружается.

Рис. 3.22

В диалоговом окне Регрессия задаются следующие параметры:

1. Входной интервал по Y – вводится ссылка на ячейки, содержащие

данные по результативному признаку. Диапазон должен состоять из одного

столбца.

2. Входной интервал X – вводится ссылка на ячейки, содержащие

факторные признаки. Максимальное число входных диапазонов (столбцов)

равно 16.

3. Флажок Метки – устанавливается в активное состояние, если первая

строка (столбец) во входном диапазоне содержит заголовки. Если заголовки

отсутствуют, флажок следует деактивировать. В этом случае будут

автоматически созданы стандартные названия для данных выходного

диапазона.

4. Уровень надежности – установите данный флажок в активное

состояние, если в поле, расположенное напротив флажки необходимо ввести

уровень надежности отличный от уровня 95%, применяемого по умолчанию.

Установленный уровень надежности используется для проверки значимости

коэффициента детерминации R

и коэффициентов регрессии а

. (Уровень

надежности оставляем по умолчанию 95 %)

5. Константа-ноль – установите данный флажок в активное состояние,

если требуется, чтобы линия регрессии прошла через начало координат (т.е.

= 0).

6. Выходной интервал/Новый рабочий лист/Новая рабочая книга.

В положении Выходной интервал активизируется поле, в которое

необходимо ввести ссылку на левую верхнюю ячейку выходного диапазона.

Размер выходного диапазона будет определен автоматически, и на экране

141

появится сообщение в случае возможного наложения выходного диапазона

на исходные данные.

В положении Новый рабочий лист открывается новый лист, в который

начиная с ячейки А1 вставляются результаты анализа. Если необходимо

задать имя открываемого нового рабочего листа, введите его имя в поле,

расположенное напротив соответствующего положения переключателя.

В положении Новая рабочая книга открывается новая Книга, на первом

листе которой начиная с ячейки А1 вставляются результаты анализа.

Вывод результатов:

В первой таблице сгенерированы результаты по регрессионной

статистике. Эти результаты соответствуют следующим статистическим

показателям:

- Множественный R – коэффициенту корреляции R;

- R-квадрат – коэффициенту детерминации R

;

- Стандартная ошибка – остаточному стандартному отклонению

)1(

)(















; (3.58)

- Наблюдения – числу наблюдений n.

В следующей таблице сгенерированы результаты дисперсионного

анализа, которые используются для проверки значимости коэффициента

детерминации R

1. Столбец df – число степеней свободы.

Для строки Регрессия число степеней свободы определяется

количеством факторных признаков m в уравнении регрессии



Для строки Остаток число степеней свободы определяется числом

наблюдений n и количеством переменных в уравнении регрессии

)1(:1  mnkm

Для строки Итого число степеней свободы определяется суммой

OФY

kkk 

2. Столбец SS – сумма квадратов отклонений.

Для строки Регрессия – это сумма квадратов отклонений теоретических

данных от среднего:







iФ

yySS

)(



. (3.59)

Для строки Остаток – это сумма квадратов отклонений эмпирических

данных от теоретических:







yySS

)(



. (3.60)

Для строки Итого – это сумма квадратов отклонений эмпирических

данных от среднего:

142







yySS

)(

или

222

OФY

SSSSSS 

. (3.61)

3. Столбец MS – дисперсии, рассчитываемые по формуле

MS 

. (3.62)

Для строки Регрессия – это факторная дисперсия



Для строки Остаток – это остаточная дисперсия



4. Столбец Значимость F – значение уровня значимости, соответствующее

вычисленному значению F

В последней таблице сгенерированы значения коэффициентов

регрессии a

и их статические оценки.

1. Коэффициенты – значения коэффициентов a

;

2. Стандартная ошибка – стандартные ошибки коэффициентов a

;

3. t-статистика – расчетные значения t-критерия, вычисляемые по формуле

ошибкаяСтандартна

тыКоэффициен

статистикаt 

(3.63)

4. Р-значение – значения уровней значимости, соответствующие

вычисленным значениям t

5. Нижние 95% и Верхние 95% - соответственно нижние и верхние границы

доверительных интервалов для коэффициентов регрессии a

3.4.3. Решение задачи оптимизация технологических объектов

Постановка задачи оптимизации

Оптимизация характеристик систем заключается в максимизации или

минимизации некоторого параметра системы. Систему, процессы в которой

необходимо оптимизировать, назовем объектом управления. Состояние

объекта описывается многомерной переменной х = (x

(1)

,…, x

(n)

), определенной

на множестве допустимых значений Х. Если величины х

(i)

могут изменяться

непрерывно, то на них накладываются ограничения, имеющие вид

алгебраических уравнений или неравенств:

xxf

,1,),,(

)()1(





















(3.65)

Таким образом, общую постановку задачи оптимизации можно задать в

следующем виде:

Требуется найти такой вектор состояния объекта управления x>= (x

(1)

,…,

(n)

)

из допустимой области X, который приводит к минимуму целевую

функцию g(x), то есть такой вектор x



X , для которого выполняются

условия g(x

)



g(x)





X и f(x

) удовлетворяет всем заданным

ограничениям.

Существуют методы решения задачи оптимизации, называемые

математическим программированием. Эти методы дают возможность найти

143

значения переменных x

(1)

,…, x

(n)

, удовлетворяющих ограничениям типа (3.65)

и обращающих в минимум целевую функцию g(x).

К таким методам относятся задачи линейного и нелинейного

программирования. Задача линейного программирования соответствует

случаю, когда ограничения и целевая функция являются линейными

зависимостями от х. В задаче нелинейного программирования ограничения и

целевая функция могут нелинейно зависеть от х.

Применение стандартных средств Excel для решения задачи

оптимизации

Для решения задач, требующих применения математического аппарата

линейного и нелинейного программирования и методов исследования

операций, используется надстройка «Поиск решения» в Excel, которая

вызывается следующими действиями:

Сервис (на панели задач)>->>Поиск>решения:

Рис. 3.23

Процедура поиска решения позволяет найти оптимальное значение

формулы,> содержащейся в ячейке, которая называется целевой. Эта

процедура работает с группой ячеек, прямо или косвенно связанных с

формулой в целевой ячейке. Чтобы получить по формуле, содержащейся в

целевой ячейке, заданный результат, процедура изменяет значения во

влияющих ячейках. Чтобы сузить множество значений, используемых в

модели, применяются ограничения. Эти ограничения могут ссылаться на

другие влияющие ячейки.

Целевая ячейка представляет собой цель. Нам нужно получить либо

минимальное, либо максимальное значение целевой ячейки. В некоторых

ситуациях может быть несколько целевых ячеек. Положим, в ячейке,

которую мы назначаем целевой, содержится функция g(x

) = 3x

+2x

, и нам

необходимо найти ее максимальное значение.

144

Формула в целевой ячейке содержит ссылки на изменяемые ячейки – это

ячейки электронной таблицы, которые можно изменять или настраивать,

чтобы оптимизировать целевую ячейку. В нашем случае в изменяемых

ячейках будут содержаться переменные x

, x

Ограничения устанавливаются для изменяемых ячеек. В большинстве

моделей поиска решений существует неявное ограничение, что все

изменяемые ячейки должны быть неотрицательными. В модели поиска

решений использование каких-либо ограничений необязательно. Допустим, в

качестве ограничений мы укажем x



+1;. x



10.

Любая спецификация изменяемых ячеек, удовлетворяющая

ограничениям модели, называется подходящим решением. По существу,

"Поиск решения" находит все подходящие решения, с "наилучшим

значением" целевой ячейки (максимальным для оптимизации по максимуму,

минимальным для оптимизации по минимуму). Такое решение называется

оптимальным решением. Для некоторых моделей поиска решения

оптимального решения не существует, а для некоторых существует только

единственное решение. Для других моделей поиска решения существует

несколько (фактически бесконечное количество) оптимальных решений.

Процедуру поиска решения можно использовать для определения

значения влияющей ячейки, которое соответствует экстремуму зависимой

ячейки.

В нашем случае после выполнения процедуры поиска решений

получаем, что максимальным значением целевой ячейки является значение

53 при x

= 11, x

= 10.

3.5. Средства интеллектуального анализа данных

3.5.1. Общие представления о Data Mining

Характерной особенностью современных систем управления являются

сбор и обработка значительных объемов данных от объекта управления. В

современных автоматизированных системах управлениях (АСУ) на

системном уровне собирается информация от десятков, сотен и более

источников информации, причем эта информация поступает в течение

длительных периодов времени, которые могут исчисляться годами.

Для аккумулирования указанных данных используется системы

управления базами данных. Базы данных могут носить не только локальный

характер, но и выступать частью интегрированных корпоративных сетей.

Поэтому объем информации, который находится на системном уровне АСУ,

является огромным. Анализ этих данных позволяет решать различные задачи

управления.

При этом до начала 90-х годов двадцатого века основным

инструментом анализа являлась математическая статистика. Основной

концепцией, на которой основывалось применение математической

статистики, являлась концепция усреднения по выборке. Эта концепция

145

приводит к операциям над средними величинами, которые, зачастую,

являются неинформативными.

С целью преодоления указанного недостатка статистического подхода

начала развиваться технология интеллектуального анализа данных (ИАД),

или Data Mining («добыча данных»).

Data Mining — исследование и обнаружение "машиной" (алгоритмами,

средствами искусственного интеллекта) в сырых данных скрытых знаний,

которые ранее не были известны, нетривиальны, практически полезны,

доступны для интерпретации человеком. Рассмотрим свойства

обнаруживаемых знаний, данные в определении, более подробно.

Свойства, которыми должны обладать обнаруженные знания:

1. Знания должны быть новые, ранее неизвестные. Затраченные

усилия открытие знаний, которые уже известны пользователю, не

окупаются.

2. Нетривиальность. Результаты анализа должны отражать

неочевидные, неожиданные закономерности в данных, составляющие так

называемые скрытые знания. Результаты, которые могли бы быть

получены более простыми способами (например, визуальным

просмотром), не оправдывают привлечение мощных методов Data Mining.

3. Практическая полезность. Найденные знания должны быть

применимы, в том числе и на новых данных, с достаточно высокой

степенью достоверности. Полезность заключается в том, чтобы эти знания

могли принести определенную выгоду при их применении.

4. Доступность для понимания человеком. Найденные

закономерности должны быть логически объяснимы, в противном случае

существует вероятность, что они являются случайными. Кроме того,

обнаруженные знания должны быть представлены в понятном для

человека виде.

В основу современной технологии ИАД положена концепция

шаблонов, которые отражают фрагменты многих аспектов отношений

данных. Эти шаблоны представляют собой закономерности, свойственные

подвыборкам данных, которые могут быть выражены в форме, понятной

человеку. Поиск шаблонов производится методами, которые не ограничены

априорными предположениями о структуре выборки, законах распределения

величин и т.п. Примеры заданий на такой поиск при использовании ИАД

приведены в таблице 3.2.

Таблица 3.2

Статистический анализ данных Интеллектуальный анализ данных

Каковы средние показатели потребления Какие станции достигли наиболее

146

природного газа на электростанциях? эффективного потребления газа? В какие

интервалы времени? Существуют ли

шаблоны связи эффективности потребления

газа с режимными факторами

энергетических производственных

процессов?

Какова суммарная мощность

энергетического оборудования,

находящегося в ремонте по сравнению с

мощностью работающего оборудования?

Имеются ли характерные признаки

состояния энергетического оборудования,

которое, по всей вероятности, может

отказать в течение данного периода

эксплуатации?

Какова средняя величина превышения

нормативов потребления электроэнергии

прокатным станом?

Существуют ли стереотипные сочетания

режимных факторов процесса прокатки,

которые обуславливают перерасход

энергии?

3.5.2. Задачи Data Mining

Методы Data Mining помогают решить многие задачи, с которыми

сталкивается аналитик. Из них основными являются: классификация,

регрессия, поиск ассоциативных правил, кластеризация и прогнозирование.

Ниже приведено краткое описание основных задач анализа данных.

1. Задача классификации сводится к определению класса объекта по его

характеристикам. Необходимо заметить, что в этой задаче множество

классов, к которым может быть отнесен объект, заранее известно.

2. Задача регрессии, подобно задаче классификации, позволяет

определить по известным характеристикам объекта значение некоторого его

параметра. В отличие от задачи классификации значением параметра

является не конечное множество классов, а множество действительных

чисел.

3. При поиске ассоциативных правил целью является нахождение

частых, зависимостей (или ассоциаций) между объектами или событиями.

Найденные зависимости представляются в виде правил и могут быть

использованы как для лучшего понимания природы анализируемых данных,

так и для предсказания появления событий.

4. Задача кластеризации заключается в поиске независимых групп

(кластеров) и их характеристик во всем множестве анализируемых данных.

Решение этой задачи помогает лучше понять данные. Кроме того,

группировка однородных объектов позволяет сократить их число, а

следовательно, облегчить анализ.

Перечисленные задачи делятся по назначению на описательные и

предсказательные.

Описательные (descriptive) задачи уделяют внимание улучшению

понимания анализируемых данных. Ключевой момент в таких моделях —

147

легкость и прозрачность результатов для восприятия человеком. Возможно,

обнаруженные закономерности будут специфической чертой именно

конкретных исследуемых данных и больше нигде не встретятся, но это все

равно может быть полезно и потому должно быть известно. К такому виду

задач относятся кластеризация и поиск ассоциативных правил.

Решение предсказательных (predictive) задач разбивается на два этапа.

На первом этапе на основании набора данных с известными результатами

строится модель. На втором этапе она используется для предсказания

результатов на основании новых наборов данных. При этом, естественно,

требуется, чтобы построенные модели работали максимально точно. К

данному виду задач относят задачи классификации и регрессии. Сюда можно

отнести и задачи поиска ассоциативных правил, если результаты ее решения

могут быть использованы для предсказания появления некоторых событий.

3.5.3. Классы систем Data Mining

Data Mining является мультидисциплинарной областью, возникшей и

развивающейся на базе достижений прикладной статистики, распознавания

образов, методов искусственного интеллекта, теории баз данных и др.

Отсюда обилие методов и алгоритмов, реализованных в различных

действующих системах Data Mining. Многие из таких систем интегрируют в

себе сразу несколько подходов. Тем не менее, как правило, в каждой системе

имеется какой-то ключевой компонент, метод, на который делается ставка.

Ниже приводится классификация указанных методов.

Предметно-ориентированные аналитические системы

Данные системы очень разнообразны и зависят от предметной области.

Для технических систем это могут быть программы всевозможных расчетов

показателей их эффективности, прогнозирование поведения систем при

воздействии различных видов факторов. Указанные методы максимально

учитывают специфику рассматриваемой предметной области, используют

профессиональный язык, поэтому их иногда называют методами

технического анализа.

Статистические пакеты

Последние версии почти всех известных статистических пакетов

включают наряду с традиционными статистическими методами также

элементы Data Mining. Но основное внимание в них уделяется все же

классическим методикам — корреляционному, регрессионному, факторному

анализу и др.

Недостатком систем этого класса считают требование к специальной

подготовке пользователя. Также отмечают, что мощные современные

статистические пакеты являются слишком «тяжеловесными» для массового

применения в финансах и бизнесе. К тому же часто эти системы весьма

дороги (от $1000 до $15000).

148

Есть еще более серьезный принципиальный недостаток статистических

пакетов, ограничивающий их применение в Data Mining. Большинство

методов, входящих в состав пакетов, опираются на статистическую

парадигму, которая базируется на усредненных характеристиках выборки. А

эти характеристики, при исследовании реальных сложных феноменов часто

являются фиктивными величинами.

В качестве примеров наиболее мощных и распространенных

статистических пакетов можно назвать SAS (компания SAS Institute), SPSS

(SPSS), STATGRAPICS (Manugistics), STATISTICA, STADIA и др.

Нейронные сети

Нейронные сети — это класс моделей, основанных на биологической

аналогии с мозгом человека и предназначенных после прохождения этапа так

называемого обучения на имеющихся данных для решения разнообразных

задач анализа данных. При применении этих методов прежде всего встает

вопрос выбора конкретной архитектуры сети (числа «слоев» и количества

«нейронов» в каждом из них). Размер и структура сети должны

соответствовать (например, в смысле формальной вычислительной

сложности) существу исследуемого явления. Поскольку на начальном этапе

анализа природа явления обычно известна плохо, выбор архитектуры

является непростой задачей и часто связан с длительным процессом «проб и

ошибок» (однако в последнее время стали появляться нейронно-сетевые

программы, в которых для решения трудоемкой задачи поиска наилучшей

архитектуры сети применяются методы искусственного интеллекта).

В одной из наиболее распространенных архитектур, многослойном

перцептроне с обратным распространением ошибки, имитируется работа

нейронов в составе иерархической сети, где каждый нейрон более высокого

уровня соединен своими входами с выходами нейронов нижележащего слоя.

На нейроны самого нижнего слоя подаются значения входных параметров, на

основе которых нужно принимать какие-то решения, прогнозировать

развитие ситуации и т. д. Эти значения рассматриваются как сигналы,

передающиеся в следующий слой, ослабляясь или усиливаясь в зависимости

от числовых значений (весов), приписываемых межнейронным связям.

Построенная сеть подвергается процессу так называемого обучения. На

этом этапе нейроны сети итеративно обрабатывают входные данные и

корректируют свои веса так, чтобы сеть наилучшим образом прогнозировала

(в традиционных терминах следовало бы сказать «осуществляла подгонку»)

данные, на которых выполняется «обучение». После обучения на имеющихся

данных сеть готова к работе и может использоваться для построения

прогнозов.

Нейронная сеть, полученная в результате «обучения», выражает

закономерности, присутствующие в данных. При таком подходе она

оказывается функциональным эквивалентом некоторой модели зависимостей

между переменными, подобной тем, которые строятся в традиционном

моделировании. Однако, в отличие от традиционных моделей, в случае

149

нейронных сетей эти зависимости не могут быть записаны в явном виде,

подобно тому, как это делается в статистике.

Иногда нейронные сети выдают прогноз очень высокого качества,

однако они представляют собой типичный пример нетеоретического подхода

к исследованию (иногда это называют «черным ящиком»). При таком

подходе сосредотачиваются исключительно на фактическом результате, в

данном случае на точности прогнозов и их прикладной ценности, а не на сути

механизмов, лежащих в основе явления или соответствии полученных

результатов какой-либо имеющейся теории.

Следует, однако, отметить, что методы нейронных сетей могут

применяться и в исследованиях, направленных на построение объясняющей

модели явления, поскольку нейронные сети помогают изучать данные с

целью поиска значимых переменных или групп таких переменных. Более

того, сейчас имеются нейросетевые программы, которые с помощью

сложных алгоритмов могут находить наиболее важные входные переменные,

что уже непосредственно помогает строить модель.

Одно из главных преимуществ нейронных сетей состоит в том, что они,

по крайней мере теоретически, могут аппроксимировать любую

непрерывную функцию, и поэтому исследователю нет необходимости

заранее принимать какие-либо гипотезы относительно модели и даже, в ряде

случаев, о том, какие переменные действительно важны.

Основным недостатком нейросетевой парадигмы является

необходимость иметь очень большой объем обучающей выборки. Другой

существенный недостаток заключается в том, что даже натренированная

нейронная сеть представляет собой «черный ящик». Знания,

зафиксированные как веса нескольких сотен межнейронных связей,

совершенно не поддаются анализу и интерпретации человеком (известные

попытки дать интерпретацию структуре настроенной нейросети выглядят

неубедительными - система «KINOsuite-PR»).

Другим существенным недостатком нейронных сетей является то

обстоятельство, что окончательное решение зависит от начальных установок

сети и, как уже отмечалось, его практически невозможно интерпретировать в

традиционных аналитических терминах, которые обычно применяются при

построении теории явления.

Примеры нейросетевых систем - BrainMaker (CSS), NeuroShell (Ward

Systems Group), OWL (HyperLogic). Стоимость их довольно значительна:

$1500-8000.

Системы рассуждений на основе аналогичных случаев

Идея систем рассуждений на основе аналогичных случаев — case based

reasoning (CBR) — на первый взгляд крайне проста. Для того чтобы сделать

прогноз на будущее или выбрать правильное решение, эти системы находят в

прошлом близкие аналоги наличной ситуации и выбирают тот же ответ,

150