Геловани В.А. и др. Интеллектуальные системы поддержки принятия решений в нештатных ситуациях

Подождите немного. Документ загружается.

3.2. Формализация поиска решения 91

В ситуации 4-6 может осуществляться только ограниченный поиск (всех

или одного решения).

Рассмотрим возможные интерпретации множества решений R{F,

S„) —

{Sx,-

•

-JSK}

на примере пары S^, S^ в предположении 5к, 5к С S:

1) ^к П 5к = О, при этом возможны ситуации: 5к = 5к — решения

эквивалентны по начальному и конечному состояниям, но могут отли-

чаться соответствующими последовательностями продукционных правил:

5к П 5к = 5к

—

решение (состояние) 5^ является более общим, чем 5к (5к

влечет 5к); аналогичные рассуждения при 5к П 5к = S»; S^ П S^ = S'

(5к = 5', 5к = 5") — решения (состояния) 5к и 5к различны, но имеют

общую часть, т. е. являются зависимыми;

2) 5к П 5к =

— решения

Sg,

и S^ различны и независимы. Напо-

мним, что рассматриваемый класс ЗПР характеризуется комбинаторно-

стью процесса поиска решения, что требует существенных затрат вычи-

слительных ресурсов Поэтому важно предварительное решение вопроса

о существовании решения, т е. о выводимости 5к из S„. В общем случае

для формальных систем проблема выводимости является алгоритмически

неразрешимой.

Решить вопрос о существовании решения конкретной ЗПР возможно

с использованием дополнительной информации (метазнаний), учитыва-

ющей специфику проблемной области, в которой возникла данная задача.

Однако можно выделить класс ПС (как диспозиций), для которых

множество R(F, S„) конечно при любом подмножестве £i„ С 5 и пробле-

ма существования решения (проблема выводимости S^, из 5„) решается

положительно.

Предварительно проанализируем ситуации детерминированного и не-

детермиш1рованного выбора, возникающие при построении последова-

тельности продукционных правил преобразований в случае одновре-

менной применимости более одного правила (рис. 3.3). Интерпретируя

применение правила как процесс одношагового преобразования состо-

яний, воспользуемся аппаратом теории взаимодействующих процессов

Ч.Хоара

[116].

Ситуации детерминизма соответствует: детерминированный выбор

продукционных правил из множества готовых к выполнению правил

{Р,, Pj,... ,Рк}, называемого множеством активизации (МА) или кон-

фликтным множеством (КМ) (если на каждом шаге преобразований допу-

стимо использование не более одного правила); параллельное выполнение

правил из МА. В случае детерминированного выбора Р, \\ Pj || ... || Р^

выбор правила из МА определяется внешней к процессу обстановкой

по определенной стратегии. Например, как в большинстве продукци-

онных языков типа РЕФАЛ, Пролог, OPS, предпочтение отдается пер-

вому правилу из списка готовых к выполнению, или, как в К-системе

продукционного программирования, отдавая приоритет частному прави-

лу перед более общим. Возможно и использование механизма случайного

выбора (язык Пилот), но этот выбор становится известен системе (окру-

жению) в тот момент, когда он происходит.

92 Глава 3. Методы поиска решений для динамических баз знаний

Pi,

Pj Рк

Ситуация детерминизма

]

Ситуация иедетерминизма

Детерминированный

выбор: Pi IPjI-...IPk

Параллельное

вьшолнение . Pi II Pj

U...IlPk

Недетерминированный

выбор:

PiIIPjII...IIPk

I 1 J

Pi Pj ... Pk

Рис.

3.3

Детерминированный выбор удовлетворяет следующим условиям-

1) P,\\Pj = PJ II Р, — коммутативность (симметричность);

{Sj,,,

5р2,..., 5pj} — результирующее множество состояний есть од-

но из множеств, получаемых в результате раздельного применения

продукций Р,,

Р,,...,

Р*.

При параллельном выполнении Р, || Pj || ... || Р* происходит'акти-

визация всех правил из МА. При этом должны выполняться условия:

1) Р- II Р^

—

Р, II Р, — коммутативность;

2) Р. II (Р, II Р*) -: (Pi II PJ)

Р* - ассоциативность;

3) Р, II STOP = STOP — останов;

4) {а

—•

Pi) II {s -* PJ) = S

—^

(Рг

PJ) — дистрибутивность, где s с 5 —

текущее состояние, к которому применимы Р, и Р,;

5) 5p(Pi, Рг,..., Pjv) = Sp,,Sp^,..., Sp^ — результирующее множество

состояний есть пересечение множеств состояний, получаемых в ре-

зультате применения соответствующих правил из МА.

При определенных видах зависимости правил из множества активиза-

ции их параллельное выполнение может оказаться невозможным Это свя-

зано с так называемым явленцем интерференции правил [60-62], выража-

ющемся в том, что результат параллельного выполнения правил не совпа-

дает ни с одним из возможных результатов их последовательного или ком-

позиционного выполнения, т. е. нарушается условие коммутативности.

Формально интерференцию двух правил Р, и Р, можно записать

в виде Sp{P,oPj) = (SpoP,) и (SpOPj), где Р, оР, — композиция

правил Р, и PJ.

3.2. Формализация поиска решения 93

Приведем пример на интерференцию двух правил: Р, : s

—>

01, Р,:

—>

10, где правые части правил определяют занесение

два соседних эле-

мента некоторой области памяти символов

(для Pi) или

(для Pj).

Нетрудно установить, что SpoPj

—

{lO}, SpoP, — {01}, SpoPj U

SpoP, =

{10,01},

a SpP,j =

{00,01, 10,11}.

При определенных видах зависимости продукционных правил явле-

ние интерференции не возникает и возможно их параллельное выполне-

ние.

Конечно, в случае независимости правил Р,: S,

—•5,,

Р,: Sj

—*

Sj,

выражающемся в отсутствии пересечений их левых и правых частей,

т.

е.

при выполнении соотношения 5, U 5, = О, параллельное выполнение

правил допустимо.

Ситуация недетерминизма представляется недетерминированным вы-

бором Р.ПРуП ... ПР*, характеризующимся тем, что выбор осуществля-

ется в самой системе произвольным или недетерминированным образом.

П — функция недетерминированного выбора. Такой выбор, соглас-

но

[116],

нельзя ни проконтролировать, ни пронаблюдать, ни даже в точ-

ности выяснить, когда он был сделан, но можно позже на основании

дальнейшего поведения процесса выяснить, какое именно правило было

выбрано.

Недетерминированный выбор П удовлетворяет следующим условиям:

1) Р.ПР, = Pi — идемпотентность;

2) P,nPj = Р(ПР, — симметричность;

3) Р,П(Р,ПР*) = (Р,ПР,)ПР* — ассоциативность;

4) (s -+ P,)n(s

—>

Pj) = s -+ (Р.ПР,)

—

дистрибутивность;

5) Sp{P, о

PJ)

= 5р, и . . и

Spj

~ результирующее множество состояний

есть объединение множеств состояний, получаемых в результате

применения соответствующих правил из МА.

Дополнительные условия позволяют сочетать параллельное выпол-

нение с недетерминированным выбором:

6) Р, ||(Р,ПР*):=(Р, ||Р,)П(Р. IIP*);

7) (pnPj)

Рк = (Р, II Pfc)n(Pj II Pk). Результатом недетерминирован-

ного выбора является состояние, определяемое выражением 5. Если

нас интересует получение всех возможных реализаций недетер-

минированного выбора (соответственно всех возможных реализа-

ций диспозиции), то необходимо независимо рассматривать все

процессы (преобразования) порождаемые применением продукций

P,,Pj,...,

Pjt с использованием соответственно множеств состояний

3.2.4.4.

Адаптируемая продукционная модель

Итак, рассматриваем продукционную систему как средство поиска

решения задачи принятия решений или, иначе говоря, как средство по-

строения модели принятия решений в СППР. Будем предполагать, что

в исходной ситуации имеется некоторое конечное (возможно и пустое)

множество продукционных правил Р =

{Р:},

г = 1,п, которое предназна-

чено для решения ЗПР, определенной набором (3.1): {S, S, 5„, 5к, Р, Q).

94 Глава 3. Методы поиска решений для динамических баз знаний

Если посредством множества Р достигается решение ЗПР для любого

возможного подмножества начальных состояний 5„ С S, то множество Р

является полным и его коррекция (пополнение) не производится. Данная

ситуация соответствует, как уже отмечалось, ЗПР в замкнутой форме, воз-

никающей в статических проблемных областях. Однако и для таких обла-

стей может возникнуть ситуация, когда множество продукций Р требует

корректировки Во-первых: это может быть связано с ситуацией, когда

исходное множество Р является неполным и не дает решения (см. рис. 3.1)

в предположении, что оно существует. Пополнение множества Р новыми

продукциями осуществляется до тех пор, пока оно не станет полным или

хотя бы достаточным для выведения заданного

Sg^

из S».

Во-вторых: коррекция может быть вызвана наличием семантически

противоречивых продукций в Р, т. е. продукций, применимых одновре-

менно к некоторому состоянию и порождающих несовместные (одно-

временно недопустимые) для данной ПО состояния. Если применяется

детерминированная схема поиска решения, то наличие семантически

противоречивых продукционных правил в множестве Р недопустимо

и оно нуждается в коррекции.

Отметим, что для статических ПО построение корректной МПР

осуществляется заранее в так называемом режиме формирования МПР

при участии эксперта — ЛПР. При функционировании СППР в режиме

собственно принятия (поиска) решений МПР не изменяется.

Таким образом, замкнутая продукционная МПР, предназначенная

для решения ЗПР в замкнутой форме в статических (замкнутых) ПО,

формально определяется набором

{А,

Р, St), (3.3)

где А — конечный алфавит, используемый для описания состояний или

множеств состояний ПО; Р = {Р,} — конечное множество продукцион-

ных правил, используемых для преобразования состояний;

— стратегия

поиска применимого правила или подмножества правил к некоторому

заданному (текущему) состоянию

Будем считать, что МПР адекватна ПО, или семантически корректна,

если любое состояние из 5„ переводится в 5к (процесс преобразований

конечен), и соответственно некорректна, если:

а) продукции из Р неприменимы к S^ или процесс преобразований

(поиска) бесконечен;

б) существуют состояния из S„, которые не переводятся в 5к (МПР

неполна);

в) существуют состояния из S„, которые переводятся в множество

недопустимых (невозможных) для данной ПО состояний S„\S^ (МПР

противоречива).

При реализации интеллектуальных (экспертных) систем продукци-

онного типа и, в частности, СППР, первая компонента набора (1.4),

представляющая состояние ПО (начальные, конечные, текущие) и неко-

торую вспомогательную информацию, используемую при поиске реше-

ния, включая ответы ЛПР на запросы системы, называется базой данных

3.2. Формализация поиска решения 95

или рабочей памятью. Вторая компонента называется базой знаний (базой

правил), которая может быть структурирована по знаниям различного ти-

па (сорта), например, знаниям первого уровня и метазнаниям. Последняя

компонента, реализующая стратегию поиска, называется интерпретато-

ром или решателем.

Большинство действующих СППР использует замкнутые МПР и ори-

ентировано, как уже отмечалось, на замкнутые и статические ПО.

Для динамических ПО, порождающих ЗПР в открытой форме, си-

туация, в которой осуществляется принятие (поиск) решений, является

качественно иной. Проблема непротиворечивости МПР, как и для ста-

тических ПО, остается, но о полноте МПР имеет смысл говорить только

в контексте текущего момента, в целом же МПР является неполной

и потенциально открытой к пополнению. Поэтому возможно добивать-

ся лишь квазиполноты МПР, т. е. пополнения множества продукций Р

до тех пор, пока не будет получено решение поставленной ЗПР (если оно

существует). Причем эти изменения осуществляются в процессе принятия

решений при непосредственном участии ЛПР или с использованием ме-

ханизмов индуктивного и абдуктивного вывода, например, индуктивных

квазиаксиоматических моделей [112, ИЗ] или алгоритмов индуктивного

вывода на решающих деревьях

[118].

Спецификой динамических ПО является также возможность изме-

нения (как следствие изменения множества продукционных правил пре-

образований Р или самостоятельно в силу изменчивости ПО) и других

компонентов ЗПР.

Такие, способные к изменениям с целью приспособления к заданной

ПО модели принятия решений и лежащие в их основе продукционные

системы будем называть адаптируемыми. При этом, придерживаясь кон-

цепции конструктивизма, предполагаем, что в любой момент времени

используемая модель либо является финитной, либо удовлетворяет тре-

бованию фундированности.

Предлагаемую адаптируемую МПР, предназначенную для решения

ЗПР в открытой форме и ориентированную На СППР для открытых

и динамических ПО, формально определим набором

{А,

Р„, ST„, Р,е„, 5Т„„, F^, Fp, F„ Ф), (3.4)

гДе Р„, Pre,,, 5Т„, STre,, — начальные множества продукций и стратегий,

возможно, и пустые в исходном состоянии МПР; Pi«„, ST^H — мно-

жества, используемые для генерации (пополнения) множеств Р„ и 5Т„;

множества Pre,, и 5Тге„ могут быть заданы неявно, например, посредством

некоторой системы ограничений; Р^ — правило (правила) выбора стра-

тегии поиска St ST„; Fp, Р, — правила пополнения множеств Рн и 5Гн

в процессе поиска решения, Ф — правила модификации модели (рас-

ширения алфавита, модификации множеств

Pi-Qn

и б^Грен, правил выбора

и пополнения и т.д.).

В зависимости от специфики конкретной ПО (специфики решаемой

ЗПР) отдельные компоненты набора (1.5) могут отсутствовать.

Проблема конструирования адекватной ПО МПР включает в себя,

таким образом, как задачи собственно синтеза: системы продукционных

96 Глава 3. Методы поиска решений для динамических баз знаний

правил, обеспечивающих перевод из S^ в 5к, С1ратегий поиска, соот-

ветствующих решаюшдх деревьев, правил пополнения и модификации

модели, так и задачи анализа: семантической корректности (непротиво-

речивости, полноты или квазиполноты), неизбыточности МПР, оптими-

зации и редукции МПР в плане минимизации времени поиска решения,

анализ и выбор методов обработки неопределенности, свойственной

плохоформализируемым ЗПР, процессный анализ, включающий анализ

детерминированного или недетерминированного поиска и возможностей

его распараллеливания и

т.

д.

Решение поставленной проблемы в общем виде не представляется

возможным по причине известных ограничений, среди которых: алго-

ритмическая неразрешимость в общем случае проблемы выводимости

для продукционных систем, NP-полнота задачи построения оптималь-

ных решающих деревьев для большинства используемых в ЗПР критериев

оптимальности и другие.

Поэтому в качестве объекта исследования рассматривается опреде-

ленный класс продукционных моделей — продукционные модели та-

бличного типа, в рамках которого и решаются поставленные задачи.

3.3. Анализ систем поддержки принятия решений,

основанных на знаниях

3.3.1.

Основные требования, предъявляемые к системам

Большинство используемых в настоящее время инструментальных

программных средств (систем-оболочек, шеллов и т.д.), предназначенных

для конструирования систем поддержки принятия решений, основанных

на знаниях, ориентированы на так называемые замкнутые и статические

проблемные области (ПО). Спецификой таких ПО является возможность

полного предварительного описания структуры и законов функциониро-

вания объектов ПО и сравнительное постоянство структуры и законов

функциинирования в процессе собственно принятия решений. Моде-

ли представления знаний (МПЗ) для таких ПО, как правило, являются

функциональными, что означает наличие всюду определенного и одно-

значного соответствия между множествами возможных состояний ПО

(ситуаций) и принимаемых решений (допустимых воздействий). Не-

определенность имеет, как правило, вероятностную природу и для ее

обработки используется аппарат теории вероятности (в частности байе-

совский метод) или близкий к нему аппарат, базирующийся на факторах

достоверности (уверенности).

Для открытых и динамических ПО условие функциональности МПЗ

может не выполняться, модель может корректироваться (например, могут

изменяться, добавляться или удаляться продукционные правил?, опи-

сывающие связи и законы функционирования объектов, изменяться

значения факторов достоверности или вероятности и т. д.) в процес-

се собственно принятия решений, однозначное соответствие переходит

в многозначное (мультиотображение), причем недетерминизм не имеет

вероятностной природы. К перечисленным факторам добавляется также

3.3. Анализ систем поддержки принятия решений 97

требование к способности функционирования интеллектуальных (экс-

пертных) систем в режиме реального времени. К числу основных требо-

ваний, предъявляемых к системам реального времени, относится:

• динамическая приоритезация задач;

• использование временных конструкций в МПЗ (базе знаний) и учет

временного фактора при поиске решения;

• возможность нахождения оптимального компромисса между точно-

стью получаемого решения и затратами вычислительных ресурсов

на его получение;

• получение правдоподобного результата при возможной неполноте

поиска;

• фокусирование внимания на наиболее существенных событиях, име-

ющих место в динамике;

• использование методов вывода с учетом временного фактора на осно-

ве динамической информации, поступающей от внешних источни-

ков,

и информации, содержащейся в базе знаний системы;

• использование новейшей препроцессорной технологии обработки

информации для сокращения объема и сложности обрабатываемых

данных.

Исследование МПЗ проводилось в плане реализации базового про-

граммного обеспечения, предназначенного для конструирования систем

поддержки принятия решений с интеллектуальными возможностями,

ориентированными на открытые и динамические ПО и реальный мас-

штаб времени.

3.3.2.

Характеристики и сравнительный анализ оболочек

систем поддержки принятия решений, основанных на знаниях

3.3.2.1.

Архитектура

ядра

систем,

основанных

на знаниях

Существует множество определений систем поддержки принятия

решений, основанных на знаниях (СОЗ). С функциональной точки зре-

ния под СОЗ понимается вычислительная система, которая использует

знание специалистов о некоторой конкретной узкоспециализированной

предметной области и которая в пределах этой области способна прини-

мать решения на уровне эксперта-профессионала.

Более развернутое определение СОЗ содержится в [82). Согласно

этому определению, СОЗ должна обладать следующими основными свой-

ствами: компетентностью (принятые ею решения должны быть такого же

высокого уровня, как и у эксперта-человека); способностъю к рассужде-

нию на основе символьных преобразований; способностью использовать

как общие, так и частные схемы рассуждения; способностью решать труд-

ные задачи из сложных реальных, предметных областей; способностью

к переформулированию запросов и задач; способностью к метарассужде-

ниям, т. е. к рассуждениям о собственной работе и структуре.

Эти свойства характеризуют СОЗ как некоторый класс систем ис-

кусственного интеллекта (ИИ), в составе которых обязательно наличие

98 Глава 3. Методы поиска решений для динамических баз знаний

базы знаний и некоторой «рассуждающей» системы — блока вывода.

СОЗ имеют и существенные отличия от других решающих систем ИИ,

что связано прежде всего с наличием в составе СОЗ систем приобретения

знаний и систем пояснения решения.

Архитектура СОЗ представлена на рис. 3.4. СОЗ должна содержать

пять основных компонент: базу знаний, блок вывода, блок объясне-

ния решения, блок приобретения знаний, интеллектуальный интерфейс

общения. Взаимодействие с СОЗ осуществляется через интеллектуаль-

ный интерфейс общения (ИИО), или на проблемно-ориентированном

языке непроцедурного типа (узко ограниченном варианте естественного

Блок данных и знаний

База данных

База знаний

База

метазнаний

Блок логического вывода

(Решатель задач поддержки принятия

решений)

Блок объяснения лотки поиска

решений в базе знаний

кииIроли и

>]ipau.it'HKn

Эксперты, инженеры по знаниям

Администраторы баз знаний и данных

Пользователи - предметной области

Рис. 3.4

3.3. Анализ систем поддержки принятия решений 99

языка), или путем указания правильных ответов на вопросы системы

из предлагаемого списка возможных вариантов ответа. В последнем слу-

чае инициатором диалога всегда выступает СОЗ. Описание задачи —

проблема поступает в блок логического вывода (БЛВ), который, ис-

пользуя информацию из базы знаний (БЗ), генерирует рекомендации

по решению проблемы. С помощью блока объяснения решения (БОР)

происходит отображение промежуточных и окончательных решений за-

данной проблемы, пояснение пользователю действий системы. Функция

блока приобретения знаний (БПЗ) состоит в поддержке процесса из-

влечения знаний о соответствующей проблемной области и их проверке

на непротиворечивость с имеющимися в БЗ.

3.3.2.2. База

знаний

ядра СОЗ

К основным видам знаний относятся факты и операционные знания.

Факты представляют собой возможные знания о сущностях, составляю-

щих некоторую область знаний. Операционные знания составляет инфор-

мация о способах изменения фактических знаний. Способ представления

знаний включает два аспекта: способ организации знаний и модель пред-

ставления. При организации знаний их подразделяют на знания низкого

уровня, более высокого уровня (метазнания), а

также

знания

логической

и физической структуре знаний.

Для функционирования СОЗ требуются следующие знания:

• знание о процессе решения задачи;

• знание о языке общения и способах организации диалога;

• знание о способах представления и способах модификации знаний.

С точки зрения архитектуры СОЗ, все знания можно разделить

на интерпретируемые и не интерпретируемые. К первому типу относятся

те знания, которые способен интерпретировать решатель. Все остальные

относятся ко второму типу. Интерпретируемые знания подразделяются

на предметные знания, управляющие знания и знания о представлении

знаний. Предметные знания содержат данные о предметной области.

Управляющие знания описывают, какие знания следует использовать

и каким образом. К не интерпретируемым знаниям относятся знания

о лексике и грамматике языка общения, о структуре диалога, о способах

составления и вьщачи пояснений.

Применительно к БЗ СОЗ явно вьщеляют четыре типа знаний:

декларативные; процедурные; управляющие; метазнания.

Декларативные знания представляют собой информацию о конкрет-

ных фактах, собираемую посредством диалога с пользователем, который

указывает, какие факты следует считать истинными и с какой степенью

достоверности. Декларативные знания отражают сведения об объектах

проблемной области, их составе, взаимном расположении; описывают

отношения между объектами.

Процедурные знания определяют, какие действия в какой после-

довательности нужно выполнить системе для поиска (вывода) решения.

Процедурные знания обычно собираются заранее путем опроса эксперта

и составляют ядро базы знаний.

100 Глава 3. Методы поиска решений для динамических баз знаний

Управляющие знания представляют некоторый набор стратегий. Ме-

тазнания — это знания о знаниях, т. е. это знания СОЗ о себе, своей

работе, структуре, БЗ и своей схеме рассуждения. Метазнания играют

важную роль в рассуждениях эксперта-человека, они же в конце концов

определяют уровень компетентности СОЗ.

Модели представления знаний в БЗ обычно подразделяются на ло-

гические и эвристические.

Основная идея подхода логических моделей состоит в том, чтобы рас-

сматривать всю систему знаний, необходимую для решения прикладных

задач и организаций взаимодействий ЭВМ с пользователем, как совокуп-

ность фактов-утверждений. Факты представляются как формулы в неко-

торой логике (первого или высшего порядков, многозначной, модальной,

нечеткой и

т.

д.).

Система знаний отображается совокупностью таких фор-

мул и, будучи представленной в ЭВМ, образует базу знаний. Формулы

неделимы и при модификации БЗ могут лишь добавляться и удаляться.

Логические методы обеспечивают развитый аппарат вывода новых

фактов из тех, которые представлены в БЗ явно. Основным примити-

вом манипуляции знаниями является,операция логического вывода. Это

определяет интенсивное использование логических методов при создании

СОЗ.

Логические методы представления знаний обеспечивают простую

и ясную нотацию для записи фактов, обладающую четко определен-

ной семантикой. Каждый факт представляется в БЗ только один раз,

независимо от того, как он будет использоваться в дальнейшем. База

знаний, разработанная с применением логических методов, как правило,

достаточно проста для понимания.

Основной недостаток логических методов

—

отсутствие четких прин-

ципов организации фактов в БЗ. Без выделения и последовательного

проведения таких принципов большая модель превращается в плохо обо-

зримый конгломерат независимых фактов, трудно поддающихся анализу

и обработке. По-видимому, этот недостаток является одной из причин

того,

что до начала 80-х годов логические методы использовались пре-

имущественно в тех областях, где система знаний невелика по объему

и относительно проста по структуре.

В отличие от логических моделей эвристические модели имеют раз-

нообразный набор средств, передающих специфические особенности той

или иной проблемной области. Именно поэтому эвристические модели

превосходят логические и по возможности наиболее адекватного предста-

вления проблемной области, и по эффективности используемых правил

вывода. К эвристическим моделям, используемым в СОЗ, можно отнести

фреймовые, сетевые и продукционные модели.

Основная идея подхода к представлению знаний, базирующегося

на аппарате семантических сетей состоит в том, чтобы рассматривать

проблемную среду как совокупность объектов и связей (отношений)

между ними.

Сущности представляются при этом поименованными вершинами,

а отношения — направленными поименованными ребрами. Система

знаний отображается сетью — ориентированным графом, составленным

из поименованных вершин и ребер, или совокупностью таких сетей.