Голицына О.Л., Максимов Н.В. Информационные системы

Подождите немного. Документ загружается.

D – решающее правило.

В рамках поставленной задачи альтернативами будем считать ва-

рианты цепочек преобразований документа, получаемого из внешних

источников, во внутрисистемное представление, и заканчивая генери-

руемыми документам, формируемыми системой на выходе. В самом

полном варианте цепочка преобразований - операций декомпозиции-

синтеза включает:

- разбор документа – выделение полей данных и элементов

оформления;

- выделение элементов данных и преобразование их в формат

внутренней схемы для загрузки в базу данных;

- преобразование выбираемых из базы элементов данных в формат

внешней схемы;

- формирование документа – композиция полей данных и элемен-

тов оформления.

В качестве значимых выделим следующие семь критериев:

– число типов входных документов,

– число типов выходных документов,

– количество элементов данных во внутрисистемной структуре,

– количество элементов входной структуры, сопоставимых с эле-

ментами внутрисистемной структуры,

– количество элементов выходной структуры, сопоставимых с

элементами внутрисистемной структуры,

– ресурсы, затраченные на преобразование входного документа к

внутрисистемному представлению,

– ресурсы, затраченные на преобразование документа из внутри-

системного представления в выходной формат.

При этом первые пять критериев, определяющие эффективность

системы с точки зрения управления документов, требуют качественной

оценки, и должны принимать максимальные значения. Последние кри-

терии, определяющие стоимость реализации конкретной альтернативы,

могут быть явно выражены количественными характеристиками, причем

их значение должно стремиться к минимуму. Они явно выражаются че-

рез функции преобразования документа путем суммированием затрат,

произведенных на преобразование представления и структуры на каж-

дом этапе.

При вычислении значений критериев времени используем сле-

дующее допущение. Время занесения одного элемента в память системы

будем вычислять исходя из того, что в среднем операция считыва-

ния/записи в оперативной памяти, по крайней мере, на порядок быстрее

операции чтения/записи на жесткий диск.

Так как мы имеем дело со слабоструктурированной моделью, в кото-

рой присутствуют и количественные, и качественные критерии, а число

альтернатив заранее известно, то можно использовать метод анализа иерар-

хии, предложенный в [Саати1989].

Функции полезности каждой из альтернатив организации процес-

сов преобразований были построены в предположении, что максималь-

ное количество элементов не более числа элементов данных в форматах

описания полнотекстовых документов и не превышает 250. Сравнитель-

ный анализ полученных зависимостей показал, что при числе элементов

более 10 наиболее эффективным вариантом организации преобразова-

ний является полная цепочка и, соответственно, двухуровневая система

определения структуры документа.

3.6.2. Структура полнотекстовой БД

Исходя из ранее приведенных положений, для хранения полнотек-

стовых документов используется двухуровневая схема представления.

В качестве базового средства представления полнотекстовых до-

кументов принята объектная модель (DOM). При этом, способы иденти-

фикации информационных элементов хранимых документов могут быть

как контекстными (например, на основе XML), так и «декларативными»

(традиционными для БД схемами). Принятие в качестве базовой DOM-

модели позволяет использовать уже достаточно разнообразные языко-

вые и программные средства, а также компоненты преобразования фор-

матов, в том числе HTML, XML, RTF и т.д. С другой стороны, исполь-

зование поэлементного представления информации, свойственного ба-

зам данных, обеспечивает гибкость обработки и эффективность поиска.

Отдельная запись БД соответствует физическому документу, ко-

торый может содержать несколько логических документов. Структура

записи определяется физической схемой БД и включает метаинформа-

ционную и информационную составляющие.

Метаинформационный компонент содержит помимо обязательных

идентификационных несколько необязательно явно указываемых значе-

ний:

− формат физического документа (текст, XML, и т.д.);

− сведения о логической схеме документа (ссылка на схему);

− сведения о поисковых индексах.

Информационный компонент содержит материал документа и мо-

жет быть представлен по-разному - в зависимости от возможностей ис-

пользуемой СУБД (например, двоичным полем, объектом, связанной за-

писью, агрегатом полей и т.д.).

Логический документ может быть идентифицируемой частью фи-

зического документа, или композицией логических документов (дина-

мический или «виртуальный» документ)

Структура документа может быть определена схемой документа

отдельно от документа, или контекстно – поля документа и его структу-

ра могут быть определены, например, средствами XML внутри самого

документа.

Исходя из требования запись-ориентированного доступа, опреде-

ляемого архитектурой современных СУБД, можно определить два спо-

соба хранения полнотекстовых документов в базе данных.

Во-первых, можно выделить все значения узлов XML-документа и

вносить их в базу поэлементно в соответствии со схемой БД, то есть

значению XML-заголовка будет соответствовать имя поля, определен-

ное в схеме БД. Однако в этом случае для документов, имеющих иерар-

хическую структуру, возникают сложности при выдаче документа в пер-

воначальном виде. Также проблемы могут возникать с сопоставлением

имен полей и XML-заголовков (тэгов элементов).

Второй вариант – это хранение документа в виде «интегрального»

массива, в данном случае в виде полноценного XML-документа. При

этом возможность поэлементной выборки и обработки информации

обеспечивается ассоциированной схемой базы данных, связывающей

идентификацию полей в БД с элементами данных, определяемых XML-

средствами.

Таким образом, в том случае, когда для хранения полнотекстовой

информации используются базы данных, структура документов может

быть определена двумя путями

1) так же как и для фактографических БД, заданием схемы – по-

следовательности именованных типизированных полей данных;

2) контекстным определением – использованием специализиро-

ванных языков разметки (например, HTML или XML), задающим инди-

видуальные особенности представления материала каждого документа.

Использование встраиваемых определений структуры позволяет

ввести «самоопределяемые» форматы представления документов. Это

обеспечивает практически неограниченную гибкость при организации

хранения коллекций разнородных документов, однако создает проблемы

семантические проблемы согласованного использования материала (из-

за возможности различной интерпретации определений), что в свою

очередь требует создания доступного всем пользователям репозитария

метаинформации – описаний природы и способов представления ин-

формации.

Для реляционной СУБД MS SQL Server 2000 реализован импорт/экспорт документов, представлен-

ных в XML-формате, в том числе с использованием схем сопоставления, определяющих соотношение

элементов XDR-схем таблицам, а атрибутов – столбцам.

Контрольные вопросы

В чем различие между структурированной и слабоструктури-

рованной информацией.

Определите понятие лингвистической переменной.

Приведите способ идентификации информации, ориентирован-

ный на ее поиск.

Дайте определение понятия «База данных».

Перечислите преимущества и недостатки использования баз

данных.

Определите основные функции и назначение СУБД.

Назовите отличительные особенности использования баз дан-

ных в ИС.

Перечислите основные требования, предъявляемые к базам

данных.

Определите назначение и организацию инвертированного спи-

ска.

10.

Перечислите типы простых запросов.

11.

Определите соотношение понятий «структура информации»,

«структура данных», «структура записи».

4. Модели поиска и оценки эффективности

Принятие решения о создании или вводе в эксплуатацию любой

конкретной системы зависит не только от ответа на вопрос, способна ли

она функционально обеспечить все поставленные перед ней задачи, но и

от того, насколько эффективно она будет работать. При этом принято

различать экономическую и техническую (операционную) эффектив-

ность.

Экономическая эффективность системы определяется денежными

(или иногда – временными) затратами, необходимыми для выполнения

данного набора задач.

Техническая эффективность информационной системы определя-

ется ее способностью обеспечить потребителям требуемый уровень ин-

формационного обслуживания.

При комплексной оценке системы должны рассматриваться оба

критерия, т.к. жизнеспособность системы в равной степени зависит и от

качества выполнения тех или иных операций, и от стоимости их выпол-

нения.

4.1. Оценка экономической и технической эффективности

По сравнению со средствами анализа технической (операцион-

ной) эффективности средства анализа экономической эффективности

не так хорошо развиты. Это во многом объясняется тем, что получение

точных данных о преимуществах усовершенствованных информацион-

ных служб в большинстве случаев невозможно. Кроме того, при опре-

делении затрат на информационные системы почти неизбежно сталки-

ваются с несравнимыми ситуациями, так как различия в затратах между

такими системами, как автоматизированная и традиционная, не обяза-

тельно точно отражают значение каждой из систем. Автоматизиро-

ванная система может, например, использоваться помимо задач ин-

формационного поиска и для решения других задач, или она может в

отличие от традиционной системы функционировать 24 часа в сутки.

Таким образом, в оценке экономической эффективности используется

большое количество скрытых факторов, которые могут мешать конкрет-

ному анализу и привести к ненадежным или бессмысленным результа-

там.

И тем не менее вопрос анализа затрат необходимо рассматривать,

так как маловероятно, чтобы информационные системы разрабатыва-

лись или внедрялись без каких-либо попыток оценить их потенциаль-

ную экономическую эффективность.

4.1.1. Экономическая эффективность

Принято различать анализ экономической эффективности затрат

и анализ соотношения затраты-выигрыш. В первом случае требуется

найти самые недорогие методы выполнения заданного набора опера-

ций или получить максимальные результаты при данных затратах.

Во втором случае требуется систематическое сравнение стоимости выпол-

нения отдельных операций и выигрыша, получаемого в результате их

выполнения.

В стоимость системы обычно включаются первоначальные затра-

ты, необходимые на разработку, испытания и оценку; операционные за-

траты, которые являются переменными и зависят от решаемых задач,

участвующего персонала и количества требуемого оборудования; и, на-

конец, фиксированные затраты на аренду, налоги и другие стандарт-

ные расходы. Выигрыш, получаемый от усовершенствованной инфор-

мационной системы, может быть связан либо с уменьшением затрат,

либо с увеличением экономической эффективности, но чаще всего при

замене ручных операций автоматизированными снижение затрат трудно

документировать. Преимущества сложных информационных систем мо-

гут тогда состоять в улучшении возможности принимать решения, уве-

личении экономической эффективности, стимулировании исследова-

тельских возможностей и тому подобном, причем значение всех этих

факторов обычно невозможно точно учесть. Анализ эффективности

затрат должен основываться на следующих положениях:

1. Должны быть четко определены цели системы.

2. Для достижения целей должны быть предусмотрены альтер-

нативы.

3. Должна быть определена стоимость реализации альтернатив.

4. Должна быть создана модель, связывающая стоимость реа-

лизации альтернатив с целями, которые должны быть достигнуты.

5. Необходимо провести ранжирование альтернатив путем оцен-

ки для каждого случая затрат и ожидаемой эффективности.

Для случая информационного поиска, когда задан объем работы

(количество документов, объем и стоимость документов, среднее чис-

ло запросов и т. д.), основные альтернативы и выбор вариантов отно-

сятся к операциям индексирования и ввода документов, а также к про-

цессам поиска и вывода информации.

Вообще говоря, любой критерий качества, например данный

уровень точности, может достигаться многими различными способами,

каждый из которых требует своего уровня затрат: так, точность можно

повысить использованием высокоспецифичного языка индексирования,

при этом необходима высокая квалификация индексаторов и большие

затраты на индексирование; или же индексирование может проводить-

ся менее тщательно, но результаты до передачи их потребителям долж-

ны просматриваться опытными экспертами, снижая тем самым стоимость

индексирования, но увеличивая время поиска; и, наконец, можно пере-

ложить бремя на пользователей, предоставив им возможность самим

вести поиск, уточняя формулировки запросов в надежде получить луч-

шие результаты.

Во многих случаях имеется возможность получить количествен-

ную информацию, связывающую различные системные альтернативы с

эффективностью или качеством результатов, выдаваемых системой. В

качестве примеров можно привести следующие зависимости:

- Зависимость между охватом массива и ожидаемым количест-

вом выдач: значительный процент всех выдач приходится на очень не-

большую долю документов массива, поэтому стоимость добавления к

массиву большого числа менее продуктивных документов трудно оп-

равдать с точки зрения улучшения результатов работы системы.

- Зависимость между временем индексирования и эффективно-

стью поиска. Существует прямая связь между временем и полнотой

индексирования и соответствующей ожидаемой полнотой поиска; к

сожалению, при больших значениях полноты поиска потребляемые ре-

сурсы для индексирования увеличиваются намного быстрее, чем пол-

нота поиска, поэтому когда время или полнота индексирования превы-

шают некоторый предел, вступает в действие закон уменьшающейся от-

дачи.

- Специфичность языка индексирования и баланс между полно-

той и точностью. Обычно создание более специфичного языка индекси-

рования обходится дороже и он дает более высокую точность, но он

же может быть причиной ухудшения полноты; очевидно, что желае-

мый уровень точности и, следовательно, значение специфичности

языка зависят от размера массива. При этом для очень больших мас-

сивов высокая точность является определяющей.

- Зависимость сложности средств автоматизации от ограниче-

ний в процессе обработки. Вообще говоря, разнообразные средства об-

работки позволяют обеспечить больший выбор выходных продуктов,

например, упорядоченную выдачу документов. Однако более слож-

ные средства обработки дороже по стоимости и по эксплуатации.

Даже если различные альтернативы можно надежно оценить ко-

личественно, может оказаться трудным принять оперативное решение,

так как большие фиксированные затраты, связанные с реализацией, бы-

вает нелегко возместить путем введения оплаты за предоставляемые ус-

луги. До тех пор, пока не будет достигнуто согласие о ценности и выиг-

рыше, которые дают информационные системы, анализ затрат не дает

полного ответа, требуемого для принятия решений.

4.1.2. Техническая эффективность

В вопросе исследования технической эффективности информаци-

онных систем можно различить две точки зрения. Первая — это точка

зрения пользователей, вторая — точка зрения администраторов сис-

темы. Однако в любом случае рассматривается основная функция

ИПС – выдача информации в ответ на поисковый запрос.

Вопросы эффективности, интересующие администраторов, очень

близки к следующим вопросам пользователей:

- Удовлетворяет ли система основным требованиям пользова-

телей?

- Каковы основные причины невыдачи релевантных документов?

- Каковы основные причины выдачи нерелевантных докумен-

тов?

Кроме того, администраторов интересуют расходы и доходы сис-

темы (то же интересует и пользователей, когда им приходится пла-

тить за обслуживание).

Из многих возможных показателей оценки технической эффек-

тивности, интересующих пользователей, основными принято считать

следующие шесть [Солтон1979]:

1. Полнота поиска, т. е. способность системы выдавать все ре-

левантные документы.

2. Точность поиска, т. е. способность системы отфильтровывать

все нерелевантные документы.

3. Усилия (интеллектуальные или физические), затрачиваемые

пользователями на формулирование запросов и просмотр выдаваемой

информации.

4. Время с момента поступления запроса в систему до выдачи

ответа.

5. Форма представления выдачи (что определяет дальнейшие

возможности использования выданных материалов пользователями).

6. Полнота информационного массива в целом, т. е. степень ох-

вата всех релевантных документов, которые могут быть интересны

пользователям.

Упомянутые показатели оценки эффективности отражают и опре-

деляются эффективностью технических, лингвистических и организа-

ционных решений, заложенных в основу конкретной ИПС. Обобщенная

схема взаимосвязи показателей эффективности и основных компонен-

тов системы, как определяющих их факторов, приведена на рис. 4.1.

Показатели эффективности (за исключением полноты и точности)

сравнительно легко измерить:

- затраты труда пользователей можно выразить через время, не-

обходимое для формулирования запроса, диалога с системой и про-

смотра выданной системой информации;

- время реакции системы можно измерить непосредственно;

- форму представления выдачи можно оценить в процентном от-

ношении к полному тексту.

Рис. 4.1. Взаимосвязь показателей эффективности и компонентов ИПС

Определенные трудности может представить оценка степени ох-

вата релевантных поисковой потребности документов, т.к. чаще всего

заранее неизвестно общее количество материалов, потенциально пред-

ставляющих интерес в данной предметной области.

Вычисление же мер полноты и точности является наиболее труд-

ным как принципиально, так и практически.

Экономическая эф-

фективность

Стоимость ввода и

индексирования

Техническая эффек-

тивность

Стоимость вывода

Полнота и точность

индексирования

Точность Время поиска Полнота

Механизм

индексир-я

Механизм поиска

Средства

вывода

Язык индексирования

и поиска (ИПЯ)

Язык управления дан-

ными

Информационный

фонд

100

4.2. Математические модели оценки технической эффективности

Для качественной оценки технической эффективности использует-

ся подход, предполагающий имитацию основных функций системы с

помощью математической модели (с дальнейшей выработкой количест-

венных критериев для оценки работы системы).

Для построения формальной модели критериев эффективности

приведем диаграммы Эйлера-Венна возможных отношений между мно-

жествами терминов и/или документов информационного массива

(рис.4.2).

(y) L

(x) П

(z)

(v)

а). б).

Рис. 4.2. Диаграммы Эйлера-Венна отношений множеств терми-

нов/документов.

(а) - множества документов, (б) – множества терминов.

Здесь L

и L

- множества документов, L

- их пересечение, L

. –

множество документов информационного массива.

и П

- множества терминов (информационные профили соот-

ветствующих множеств документов, т.е. все значимые термины, хотя бы

один раз встречающиеся во множестве документов), П

– пересечение

информационных профилей, D – универсальный словарь.

Данные множества могут трактоваться следующим образом:

и L

- множества документов, связанных по общему термину;

и П

- списки терминов каждого из двух документов (термины,

хотя бы раз встречающиеся в документах потока; или встречающиеся

чаще чем некоторый порог f

min

, или имеющие частоты, лежащие в ин-

тервале, задаваемом как f

min

- f

max

Рассмотрим случай, когда L

и L

- множества документов, свя-

занных по общему термину. Выберем два произвольных термина T, t

входящих в какие-либо документы из L

Пусть L

- множество документов, содержащих термин T, L

множество документов, содержащих термин t, тогда (Рис. *.1а):

xL L L==∩

12 1 2

- количество документов, содержащих оба тер-

мина (

T и t);