Радаев В.Н. Лекции по системному анализу

Подождите немного. Документ загружается.

3. конструирование эмпирических моделей системы; наиболее при этом

используемые методы: абстрагирование, анализ, синтез, индукция, дедукция,

формализация, идеализация и др.;

4. поиск решения проблемы планирования и просчет различных вариантов,

директив планирования, поиск оптимального решения; используемые чаще

методы: измерение, сравнение, эксперимент, анализ, синтез, индукция,

дедукция, актуализация, макетирование, визуализация, виртуализация и др.

Рис. Структура познания системы

Информация, таким образом, может быть рассмотрена как кортеж А=<Х, Y, f>, где

носитель X - сведения, знания о предметной области, множество Y - сообщения,

отражающие эти сведения, отношение f - отношение кодирования между

элементами X, Y т.е. их актуализации.

Пример. Пусть X={супруги, дети супругов}, Y={“Иванов Петр Сидорович”, “Иванова

Ольга Николаевна”, “Иванов Олег Петрович”, “Иванова Наталья Петровна”,

“мать”, “отец”, “сын”, “дочь”, “родители”, “дети”}, отношение f может быть задано

(словесно) перечислением связей вида: “Иванов Олег Петрович - супруг Ивановой

Ольги Николаевны”, “Иванова Наталья Петровна - дочь Ивановой Ольги

Николаевны” и т.д.

Пример. Пусть X={арифметические операции}, Y={“-(взятие противоположного

числа)”, “+ (сложение)”, “— (вычитание)”, “x (умножение)”, “/ (деление)”, “



(извлечение квадратного корня)”}, f определим как установление соответствия

“унарная операция”.

Таким образом, основная задача науки состоит в построении, исследовании,

актуализации или хранении множеств с заданным классом X однотипных задач, Y -

классом структур и ресурсов связываемых с этими задачами и f - процессами их

сопоставления и актуализации с помощью некоторых ресурсов.

Такие задачи мы решаем в ежедневной жизни, но в то же время часто правило f

нельзя явно отыскать или построить явно или конструктивно. В этом случае

приходится заменять искомый закон f с помощью подходящих явных или

конструктивных представлений f, X, Y и/или Z (см. рис.) и применять эти

представления всякий раз.

Рис. Инвариант всех решаемых проблем информатики.

Правило  задает правило кодирования или интерпретации входного алфавита,

правило  - правило декодирования или интерпретации выходного алфавита, т.е.

входной и выходной коды (правила, функции). При этом справедливы законы:

Правило f* подбирают так, чтобы в отличие от f, его можно было бы найти и/или

исследовать, применить. Для каждого сообщения хХ определена триада:

Информация - содержание сообщения, сообщение - форма проявления или

актуализации информации. Информация всегда имеет носитель, передача

(актуализация) информации связана с изменением носителя, ресурсов.

Пример. Сведения о сути товара могут быть изложены в рекламе, передаваемой

различными сообщениями (по телевидению, по радио, в газете и т.д.). При этом

соответствие этой рекламы действительности может быть независима от типа

сообщений, т.е. имеется третья сторона информации (кроме её абстрактной

сущности, её представления сообщениями) - соответствие сведений заложенных в

информации с проявлениями реальной системы.

3.3. Количество информации в системе

Выше было отмечено, что информация может пониматься и интерпретироваться

по разному. Вследствие этого имеются различные подходы к определению

измерения информации, меры количества информации. Раздел информатики

(теории информации) изучающий методы измерения информации называется

информметрией.

Количество информации - числовая величина, адекватно характеризующая

актуализируемую информацию по разнообразию, сложности, структурированности

(упорядоченности), определённости, выбору состояний отображаемой системы.

Если рассматривается некоторая система, которая может принимать одно из n

возможных состояний, то актуальной задачей является задача оценки такого

выбора, исхода. Такой оценкой может стать мера информации (или события). Мера -

это некоторая непрерывная действительная неотрицательная функция,

определённая на множестве событий и являющаяся аддитивной т.е. мера конечного

объединения событий (множеств) равна сумме мер каждого события.

Меры могут быть статические и динамические - в зависимости от того, какую

информация они позволяют оценивать - статическую (не актуализированную т.е.

на самом деле оцениваются представляющие информацию сообщения без учёта

ресурсов и формы актуализации) или динамическую (актуализированную т.е.

оцениваются также и затраты ресурсов для актуализации информации).

Отметим, что ниже мы не всегда будем (в основном, для большей убедительности

и большего содержательного понимания) проводить четкие математические границы

между понятиями ''количество информации'' и “мера количества информации'', но

строгому читателю необходимо всё время задавать достаточно важные вопросы

типа: о количестве информации или о мере информации в конкретной

последовательности событий идёт речь? о детерминированной или стохастической

информации идёт речь?

Мера Р. Хартли. Пусть имеется N состояний системы S или N опытов с

различными, равновозможными последовательными состояниями системы. Если

каждое состояние системы закодировать, например, двоичными кодами

определённой длины d, то эту длину необходимо выбрать так, чтобы число всех

различных комбинаций было бы не меньше, чем N. Наименьшее число, при котором

это возможно или мера разнообразия множества состояний системы задаётся

формулой Р. Хартли:

H=k log

где k - коэффициент пропорциональности (масштабирования, в зависимости от

выбранной, рассматриваемой единицы измерения меры), а - основание

рассматриваемой системы.

Пример. Чтобы узнать положение точки в системе из двух клеток т.е. получить

некоторую информацию, необходимо задать 1 вопрос ("Левая или правая клетка?").

Узнав положение точки, мы увеличиваем суммарную информацию о системе на 1

бит (I=log

2). Для системы из четырех клеток необходимо задать 2 аналогичных

вопроса, а информация равна 2 битам (I=log

4). Если система имеет n различных

состояний, то максимальное количество информации равно I=log

Если измерение ведётся в экспоненциальной (натуральной) системе, то

если измерение ведётся в двоичной системе, то

если измерение ведётся в десятичной системе, то

Справедливо утверждение Хартли: если во множестве X={x

, x

, ..., x

}

выделить произвольный элемент x

X, то для того, чтобы найти его, необходимо

получить не менее log

n (единиц) информации.

По Хартли, чтобы мера информации имела практическую ценность - она должна

быть такова, чтобы информация была пропорциональна числу выборов.

Пример. Имеются 192 монеты из которых одна фальшивая. Определим сколько

взвешиваний нужно произвести, чтобы определить ее. Если положить на весы

равное количество монет, то получим 2 возможности: а) левая чашка ниже; б)

правая чашка ниже. Таким образом, каждое взвешивание дает количество

информации I=log

2=1 и, следовательно, для определения этой фальшивой монеты

нужно сделать не менее k взвешиваний, где k удовлетворяет условию

log

log

192. Отсюда, k7. Следовательно, необходимо (достаточно) сделать не

менее 7 взвешиваний.

Эта формула отвлечена от семантических и качественных, индивидуальных

свойств рассматриваемой системы (качества информации, содержащейся в

системе, в проявлениях системы с помощью рассматриваемых состояний системы).

Это положительная сторона этой формулы. Но имеется и отрицательная сторона:

формула не учитывает различимость и различность рассматриваемых N состояний

системы.

Уменьшение (увеличение) Н может свидетельствовать об уменьшении

(увеличении) разнообразия состояний N системы. Обратное, как это следует из

формулы Хартли (основание логарифма берётся больше 1!), - также верно.

Мера К. Шеннона. Формула Шеннона дает оценку информации независимо,

отвлеченно от ее смысла:

где n - число состояний системы; р

- вероятность (или относительная частота)

перехода системы в i-ое состояние, причем

Если все состояния равновероятны (т.е. р

=1/n), то I=log

n (как и ожидалось).

К. Шенноном доказана теорема о единственности меры количества информации).

Для случая равномерного закона распределения плотности вероятности мера

Шеннона совпадает с мерой Хартли.

Формулы Хартли и Шеннона подтверждается и данными нейропсихологии.

Пример. Время t реакции испытуемого на выбор предмета из имеющихся N

предметов линейно зависит от log

N: t=200+180log

N (мс). По аналогичному закону

изменяется и время передачи информации в живом организме. (См. также сказанное

выше о числе Страуда).

Пример. Один из опытов по определению психофизиологических реакций человека

состоял в том, что перед испытуемым большое количество раз зажигалась одна из n

лампочек, которую он должен указать. Оказалось, что среднее время, необходимое

для правильного ответа испытуемого, пропорционально не числу n лампочек, а

именно величине I определяемой по формуле Шеннона, где p

- вероятность зажечь

лампочку номер i.

Легко видеть, что в общем случае:

Если выбор i-го варианта предопределен заранее (выбора, собственно говоря, нет,

=1), то I=0.

Сообщение о наступлении события с меньшей вероятностью несёт в себе больше

информации, чем сообщение о наступлении события с большей вероятностью.

Сообщение о наступлении достоверно наступающего события несёт в себе нулевую

информацию (и это вполне ясно, - событие всё равно произойдёт когда-либо).

Пример. Если положение точки в системе известно, в частности, она - в k-ой клетке,

т.е. все р

=0, кроме р

=1, то тогда I=log

1=0 и мы здесь новой информации не

получаем.

Пример. Выясним, сколько бит информации несет каждое двузначное число xx со

всеми значащими цифрами (отвлекаясь при этом от его конкретного числового

значения). Так как таких чисел может быть всего 90 (10 - 99), то информации будет

количество I=log

90 или приблизительно I=6.5. Так как в таких числах значащая

первая цифра имеет 9 значений (1 - 9), а вторая - 10 значений (0 - 9), то I=log

90 =

log

9 + log

10. Приблизительное значение log

10 равно 3.32. Отсюда можно сделать

вывод о том, что сообщение в одну десятичную единицу несет в себе в 3.32 больше

информации, чем в одну двоичную единицу (чем log

2=1). Вторая цифра в любом

двузначном числе несёт в себе больше информации, чем первая, например, в числе

22 вторая цифра 2 несёт в себе больше информации, чем первая, если заранее эти

цифры не были известны (если же цифры, т.е. конкретное число 22 было задано, то

количество информации равно 0 (почему?).

Если в формуле Шеннона обозначить f

= - n log

, то получим

т.е. I можно понимать как среднеарифметическое величин f

Отсюда, f

можно интерпретировать как информационное содержание символа

алфавита с индексом I и величиной p

вероятности появления этого символа в

сообщении, передающем информацию. Если k - коэффициент Больцмана,

известный в физике как k=1.38x10

-16

эрг/град, то выражение

в термодинамике известно как энтропия или мера хаоса, беспорядка в системе.

Сравнивая выражения для I и S видим, что I можно понимать как информационную

энтропию или энтропию из-за нехватки информации в системе (или о системе).

Нулевой энтропии соответствует максимальная информация.

Основное соотношение между энтропией и информацией:

или в дифференциальной форме -

Итак, если имеется система S и каждое I-ое состояние S из N возможных

состояний определяется некоторым информационным вектором или же сообщением

, i=1,2,...,N над некоторым заданным алфавитом A, система может перейти в

каждое i-ое состояние с вероятностью p

, i=1,2,...,N, то p

можно понимать как

вероятность i-го сообщения (сообщения, характеризующего усреднённое i-ое

состояние системы).

Основными положительными сторонами этой формулы является её

отвлечённость от семантических и качественных, индивидуальных свойств системы,

а также то, что в отличие от формулы Хартли она учитывает различность состояний,

их разновероятность или же формула имеет статистический характер (учитывает

структуру сообщений), делающий эту формулу удобной для практических

вычислений. Основные отрицательные стороны формулы Шеннона: она не

различает состояния (с одинаковой вероятностью достижения, например), не может

оценивать состояния сложных и открытых систем и применима лишь для замкнутых

систем, отвлекаясь от смысла информации.

Увеличение (уменьшение) меры Шеннона свидетельствует об уменьшении

(увеличении) энтропии (организованности, порядка) системы. При этом энтропия

может являться мерой дезорганизации систем от полного хаоса (S=S

max

) и полной

информационной неопределённости (I=I

min

) до полного порядка (S=S

min

) и полной

информационной определённости (I=I

max

) в системе.

Пример. Чем ближе движущийся объект к нам, тем полнее информация

обрабатываемая нашими органами чувств, тем чётче и структурирован (упорядочен)

объект. Чем больше информации мы имеем о компьютерной технике, тем меньше

психологический барьер перед ним (согласно основному соотношению между

энтропией и информацией).

Термодинамическая мера. Информационно-термодинамический подход связывает

величину энтропии системы с недостатком информации о её внутренней структуре

(не восполняемым принципиально, а не нерегистрируемым). При этом число

состояний определяет, по существу, степень неполноты наших сведений о системе.

Пусть дана термодинамическая система (процесс) S, а Н

, Н

термодинамические энтропии системы S в начальном (равновесном) и конечном

состояниях термодинамического процесса, соответственно. Тогда

термодинамическая мера информации (негэнтропия) определяется формулой:

Эта формула универсальна для любых термодинамических систем.

Уменьшение Н(Н

,Н

) свидетельствует о приближении термодинамической

системы S к состоянии статического равновесия (при данных доступных ей

ресурсах), а увеличение - об удалении.

Поставим некоторый вопрос о состоянии некоторой термодинамической системы.

Пусть до начала процесса можно дать p

равновероятных ответов на этот вопрос (ни

один из которых не является предпочтительным другому), а после окончания

процесса - p

ответов. Изменение информации при этом:

Если p

(



I> 0) - прирост информации, т.е. сведения о системе стали более

определёнными, а при p

(



I>0) - менее определёнными. При этом важно то, что

мы не использовали явно структуру системы (механизм протекания процесса), т.е.

это универсальный вывод.

Пример. Предположим, что имеется термодинамическая система - газ в объёме V,

который расширяется до объёма 2V (рис.).

Рис. Газ объема V (a)

расширяемый до 2V (б)

Нас интересует вопрос о координате молекулы m газа. В начале (а) мы знали ответ

на вопрос и поэтому p

=1 (ln p

=0). Число ответов было пропорционально ln V. После

поднятия заслонки мы уже знаем эту координату (микросостояния), т.е. изменение

(убыль) информации о состоянии системы будет равно

Это известное в термодинамике выражение для прироста энтропии в расчёте на

одну молекулу и оно подтверждает второе начало термодинамики. Энтропия - мера

недостатка информации о микросостоянии статической системы.

Величина



I может быть интерпретирована как количество информации,

необходимой для перехода от одного уровня организации системы к другой (при



I>0 - более высокой, а при



I>0 - более низкой организации).

Термодинамическая мера (энтропия) применимо к системам, находящимся в

тепловом равновесии. Для систем, далёких от теплового равновесия, например,

живых биологических систем, мера-энтропия - менее подходящая.

В биологических науках широко используются так называемые индексные меры,

меры видового разнообразия. Индекс - мера состояния основных биологических,

физико-химических и др. компонент системы, позволяющая оценить силу их

воздействия на систему, состояние и эволюцию системы. Индексы должны быть

уместными, общими, интерпретируемыми, чувствительными, минимально

достаточными, качественными, широко применяемыми, рациональными.

Пример. Показателем видового разнообразия в лесу может служить

где p

, p

,...,p

- частоты видов сообщества обитающих в лесу, n - число видов.

Энергоинформационная (квантово-механическая) мера. Энергия (ресурс) и

информация (структура) - две фундаментальные характеристики систем реального

мира, связывающие их вещественные, пространственные, временные

характеристики. Если А - именованное множество, где носитель - "энергетического

происхождения", а В - именованное множество, где носитель "информационного

происхождения", то можно определить энергоинформационную меру f:A



например, можно принять отношение именования для именованного множества с

носителем (множеством имён) А или В. Отношение именования должно отражать

механизм взаимосвязей физико-информационных и вещественно-энергетических

структур и процессов в системе.

Отметим, что сейчас актуальнее говорить о биоэнергоинформационных мерах,

отражающих механизм взаимосвязей биофизикоинформационных и вещественно-

энергетических структур и процессов в системе.

Пример. Процесс деления клеток сопровождается излучением квантов энергии с

частотами приблизительно до N=1.5x10

Гц. Этот спектр можно воспринимать как

спектр функционирования словарного запаса клетки как биоинформационной

системы. С помощью этого спектра можно закодировать до 10

различных

биохимических реакций, что примерно в 10

раз меньше количества реакций

реально протекающих в клетке (их количество - примерно 10

), т.е. словарный запас

клетки избыточен для эффективного распознавания, классификации, регулировании

этих реакций в клетке. Количество информации на 1 квант энергии: I=log



бит. При делении клеток, количество энергии, расходуемой на передачу 50 бит

информации равна энергии кванта (h - постоянная Планка,  - частота излучения):

При этом, на 1 Вт мощности "передатчика" или на =10

эрг/сек. может быть

передано количество квантов:

Общая скорость передачи информации на 1 Вт затрачиваемой клеткой мощности

определяется по числу различных состояний клетки N и числу квантов (излучений)

3.4. Информация и управление. Информационные системы

Информация - это знание, но не все знание, которым располагает человечество, а

только та часть, которая используется для развития, совершенствования системы,

для взаимосвязей, взаимодействий подсистем системы, а также системы в целом с

окружающими условиями, средой.

Информация развивается вслед за развитием системы. Новые формы, принципы,

подсистемы, взаимосвязи и отношения вызывают изменения в информации, ее

содержании, формах получения, переработки, передачи и использования. Благодаря

потокам информации (от системы к окружающей среде и наоборот) система

осуществляет целесообразное взаимодействие с окружающей средой, т.е.

управляет или управляема. Информация стала средством не только производства,

но и управления.

Своевременная и оперативная информация может позволить стабилизировать

систему, приспосабливаться и/или адаптироваться, восстанавливаться при

нарушениях структуры и/или подсистем. От степени информированности системы,

от богатства опыта взаимодействия системы и окружающей среды зависит развитие

и устойчивость системы.

Информация обладает также определенной избыточностью: чем больше

сообщений о системе, тем полнее и точнее управляется система.

Пример. При передаче сообщений часто применяют способ двукратной

(избыточной) последовательной передачи каждого символа (что позволяет

избавляться от помех, “шумов” при передаче и осуществлять контроль чётности).

Пусть в результате сбоя при передаче приемником принято было слово вида

“прраосснтоо”. Определим, какое осмысленное (имеющее семантический смысл)

слово русского языка передавалось передатчиком. Легко заметить, что

“претендентами на слово” являются слова “праспо”, “проспо”, “рроспо”, “ррасто”,

“прасто”, “рросто”, “просто” и “рраспо”. Из всех этих слов осмысленным является

только слово “просто”.

Суть задачи управления системой - отделение ценной информации от “шумов”

(бесполезного, иногда даже вредного для системы, возмущения информации) и

выделение информации, которая позволяет этой системе существовать и

развиваться.

Управление любой системой (в любой системе) должно подкрепляться

необходимыми для этого ресурсами - материальными, энергетическими,

информационными, людскими и организационными (административного,

экономического, правового, гуманитарного, социально - психологического типа). При

этом характер и степень активизации этих ресурсов может повлиять (иногда - лишь

косвенно) и на систему, в которой информация используется. Более того, сама

информация может быть зависима от системы.

Пример. В средствах массовой информации правительство чаще ругают, актеров

чаще хвалят, спортсменов упоминают чаще в связи с теми или иными спортивными

результатами, прогноз погоды бывает чаще кратким, новости политики -

официальными.

Управление - непрерывный процесс, который не может быть прекращён, ибо

движение, поток информации не прекращается.

Цикл (инвариант) управления любой системой (в любой системе):

Основные правила организации информации для управления системой:

 выяснение формы и структуры исходной (входной) информации;

 выяснение средств, форм передачи и источников информации;

 выяснение формы и структуры выходной информации;

 выяснение надежности информации и контроль достоверности;

 выяснение форм использования информации для принятия решений.

Пример. При управлении полётом ракеты наземная станция управления генерирует

и в определённой форме, определёнными структурами посылает входную

информацию в бортовую ЭВМ ракеты; при этом сигналы отсеиваются от возможных

“шумов”, осуществляется контроль входной информации на достоверность и только

затем бортовая ЭВМ принимает решение об уточнении траектории и ее

корректировке.

Ценность информации для управления определяется мерой раскрываемой им

неопределенности в системе, содержанием передающих её сообщений.

Информация используется для управления, но и сама подвержена управляющим

воздействиям. Основная цель этих воздействий - поддержка информационных

потоков, магистралей, способствующих достижению поставленных целей при

ограниченных ресурсах (материальных, энергетических, информационных,

организационных, пространственных, временных).