Растригин Л.А. Адаптация сложных систем

Подождите немного. Документ загружается.

экзамене.

Моделью ученика в данном случае является описание F (4.2.29), в

котором используется зависимость (4.2.31) в виде

(4.2.35)

где 0<γ<1 —

параметр ученика.

В качестве модели экзамена выбираем простое соотношение

для вероятности «провала» на экзамене по i-му слову в момент

∂

) = lp

j-1

). (4.2.36)

Это вероятность того, что ученик не будет знать i-e слово на экзамене

в момент t

, 0<l<1 — величина, показывающая, во сколько раз

уменьшается вероятность незнания на экзамене после заучивания для

данного ученика.

Таким образом, ученик характеризуется двумя параметрами — γ и

l, а также начальными значениями скоростей забывания α

(0) (i=l,...,n).

Введем критерии эффективности предложенного процесса адаптации.

Ее можно оценивать различным образом —

Рис. 4.2.5. Динамика поведения

параметров первого слова (i = =

1) в процессе обучения: а —

изменение вероятности за-

бывания, б — изменение пара-

метра скорости забывания.

например, по средней относительной близости скоростей забывания и

их оценок, т. е. по формуле

(4.2.37)

где введен вес q

. Очевидно, чем

меньше эта величина, тем эффективнее адаптация.

Другая оценка эффективности связана с определением отно-

сительного числа слов, которые должны быть выданы на обучение.

Пусть на основе имеющихся оценок выдано т(t) = = m

(t)+m

(t)

слов на обучение. Здесь т

— необходимые слова, входящие в число

рекомендуемых к заучиванию, при условии, что были известны

точные значения p

(t). Имея модель ученика, мы можем точно

определить, что ему нужно учить. Сравнивая «предложения»

алгоритма и действительные «потребности» ученика, можно оценить

эффективность алгоритма отношением

(4.2.38)

Очевидно, чем эффективнее работает программа, тем

ближе к единице эта величина. В идеале Φ

(t) = 1.

Рис. 4.2.6. Динамика

поведения параметров

одиннадцатого слова (i=ll)

в процессе обучения.

Обозначения те же, что и

на рис. 4.2.5.

Теперь рассмотрим модельный эксперимент [196], иллюстри-

рующий процесс заучивания иностранных слов, на котором показана

эффективность адаптации.

Эксперимент был проведен для случая и =12 и гиперболического

закона убывания частотности слов (закон Цыпфа):

(4.2.39)

где Каждая порция обучения состояла

из пяти слов.

Параметры ученика: l=0,5; γ=0,9. Начальные значения

скоростей забывания α

(0) выбирались случайно по равномерному

закону в пределах 0<α

<1/2. Параметры алгоритма адаптации (4.2.32)

были выбраны так: γ'=γ''=0,8; γ''' = 1,25.

Динамика процесса адаптации представлена на рис. 4.2.5 и 4.2.6.

Хорошо видно, что оценки стремятся к точным значениям, что

доказывает эффективность процедуры адаптации.

Характер поведения величины Q(t) и ее оценки (рис. 4.2.7)

показывает, что , т. е. алгоритм адаптируется.

Далее было исследовано влияние параметра γ' на эффективность

процесса адаптации. В качестве меры адаптивности был выбран

критерий (4.2.37) на двадцатом шаге обучения, т. е. Φ

(20).

Результаты моделирования процесса обучения для различных γ' (γ''' =

1/γ') дают оптимальное значение γ'*, равное 0,25, что существенно

отличается от γ' = 0,8, для которого Φ

(20)=22. Они показаны на рис.

4.2.8, где γ''=γ'.

Для сравнения эффективности адаптивного (γ' = 0,25) и не-

адаптивного (γ' = 1) алгоритмов обучения были произведены рас-

Рис. 4.2.7. Поведение по-

казателей Q и в про-

цессе обучения.

Рис. 4.2.8. Зависимость эффектив-

ности Φ

(20) от γ'.

Рис. 4.2.9. Поведение критериев Φ

(а)

и Φ

(б) в процессе обучения.

четы для обоих критериев (4.2.37) и (4.2.38). Из результатов, при-

веденных на рис. 4.2.9, вытекает, что адаптивный алгоритм

эффективнее неадаптивного по обоим критериям, что и следовало

ожидать.

Далее рассмотрим другие модели обучения и сравним их с

описанной выше (подраздел 4.2.4) для задачи заучивания иностранной

лексики.

4.2.6. Экспериментальное сопоставление

различных моделей обучения

Существует много моделей обучения. Для сравнения различных

моделей был поставлен эксперимент по заучиванию иностранных слов

[187]. Эксперимент состоял в следующем.

Испытуемым давались для заучивания сразу 40 слов (n=40) на

языке, которого они не знали и никогда раньше не изучали. Слова

были подобраны приблизительно одинаковые по трудности

запоминания. Время на заучивание ограничивалось. На другой день

после заучивания проводился экзамен. Результаты экзамена

фиксировались в виде последовательности нулей и единиц (4.2.28).

Незапомненные слова доучивались, и на другой день снова

проводился экзамен по всем п словам. Такая процедура повторялась до

тех пор, пока испытуемый не заучивал все 40 слов.

В результате была построена средняя по всем испытуемым кривая

обучения:

(4.2.40)

где t=0,1,... — моменты заучивания и контроля;

— средняя доля незапомненных слов по всем испытуемым в t-м

испытании; T(0) = 1; M — количество испытуемых (М = 5);

(4.2.41)

— доля незапомненных слов в t-м. испытании для j-

го испытуемого; у

— результат проверки знания i-гo слова j-м

испытуемым в момент t. Доверительные интервалы для строились

стандартным способом (доверительная вероятность β = 0,90).

Экспериментальная кривая обучения изображена на рис. 4.2.10.

Опишем теперь модели обучения, построим для каждой тео-

ретическую кривую обучения и определим, какая из моделей лучше

всего описывает процесс запоминания слов.

Модель Буша—Мостеллера [39]. Буш и Мостеллер для описа-

Рис. 4.2.10. Осредненная

экспериментальная кривая

обучения.

ния процесса обучения вводят оператор изменения вероятности

правильного ответа в виде

если y

=0; если y

=l (i = 1,

..., n; t = 0, 1, ..., ;

0<γ

<γ

<l),

где q

(t) = 1 - p

(t). Параметры γ

и γ

характеризуют скорость обучения.

Легко проверить, что λ

и λ

являются неподвижными точками. Если

(t)=λ

(j=1,2), то при этом q

(t+1)=λ

, т. е. если вероятность

правильного ответа станет равной λ

, то в последующих испытаниях

она больше изменяться не будет.

Рассмотрим теперь два важных частных случая этой модели.

Случай l. λ

=λ

=l. Тогда из выражения (4.2.42) получаем

если y

= 0; (4.2.43)

если y

= 1.

Предполагается, что p

(0) = l для любого

i=l, ..., п. Таким образом, данная модель зависит только от двух

параметров — γ

и γ

. Здесь γ

учитывает запоминание, а γ

—

забывание ученика. Эти параметры оцениваются по опытным данным:

оценивается с помощью метода максимума правдоподобия [39]:

(4.2.44).

где n

— число слов, забытых до t-го

испытания; x

— число слов из п запомненных в t-м испытании; для

оценки γ

используется следующее соотношение [39] для среднего

числа неправильных ответов (это интеграл от функции ):

(4.2.45)

По данным описанного выше

эксперимента были получены

оценки =0,514; =0,666 и построена теоретическая кривая обучения,

обозначенная темными треугольничками на рис. 4.2.11 (кривая 1).

Случай 2. λ

= l; λ

=0; γ

=1. Это так называемая модель Миллера—

Мак-Гилла:

если y

= 0; (4.2.46)

если y

= 1.

(4.2.42)

Рис. 4.2.11. Теоретические

кривые обучения по

разным моделям. Цифры

на кривых соответствуют

номерам моделей в тексте.

В этом случае вероятность запоминания никогда не уменьшается, а

при удачном экзамене (y=0) — увеличивается.

Данная модель имеет неизвестными параметрами р

(0) и γ

. Оценку

параметра p

(0) легко получить с помощью метода максимума

правдоподобия [39]:

(4.2.47)

где

* — число неправильных ответов по i-му слову, следующих подряд с

начала обучения.

Оценку параметра γ

получают из соотношения

(4.2.48)

Из опытных данных были получены оценки

параметров р(0) = = 0,456; γ

=0,716 и построена теоретическая кривая

обучения (рис. 4.2.11, светлые кружочки).

Последующие модели отличаются тем, что в них изменение

вероятности ошибки не зависит от реакции ученика, т. е.

t+l

= F (P

, U

, γ). (4.2.49)

Модель Халла [40]. Эта модель основана на предположении, что

вероятности незнания в любом случае связаны следующим простым

соотношением:

(t+1) = γ p

(t), (4.2.50)

где параметр γ характеризует степень уменьшения вероятности

незнания в результате заучивания i-гo слова в t-м испытании. Сравнив

формулу (4.2.50) с (4.2.42), заметим, что эта модель является частным

случаем модели Буша—Мостеллера. Неизвестным в модели Халла

является один параметр γ, который оценивается следующим

соотношением [40]:

(4.2.51)

где р(0) = 1. Отсюда получаем значение γ = 0,54.

Теоретическая кривая обучения для этой модели обозначена

параллелограммами на рис. 4.2.11 (кривая 4).

Модель Терстоуна [40]. Терстоун предложил следующую не-

рекуррентную модель обучения:

(4.2.52)

где p(t) — по-прежнему вероятность незнания в t-м испытании. Эта

модель определяется одним параметром γ. который может быть

получен из соотношения [40]

(4.2.53)

Из эксперимента была получена оценка

γ=0,66. Теоретическая кривая обучения по этой модели обозначена на

рис. 4.2.11 светлыми квадратиками (кривая 5).

Модель Рестла [40]. Эта модель определяет вероятность не-

правильного ответа следующим образом:

(4.2.54)

где γ — неизвестный параметр, оценку которого получаем [40] из

соотношения

(4.2.55)

Полученное в эксперименте

значение этой оценки у = 0,561. Теоретическая кривая обучения для

этой модели обозначена на рис. 4.2.11 темными кружочками

(кривая 6).

Модель Кричевского [40]. Кричевский выдвинул гипотезу, что

после начального периода обучения возникает «внезапная» обу-

ченность. Это следует из так называемой теории «скачков». При-

менительно к процессу запоминания слов эта теория состоит в

следующем. Предположим, что в начале опыта ученик не знает

i-e слово (будем говорить, что он находится в состоянии А

). Затем он

заучивает i-e слово и в некотором испытании дает правильный

перевод, т. е. переходит в состояние А

. После этого он дает только

правильные ответы, т. е. не выходит из состояния А

. Тогда

вероятность правильного ответа имеет вид

если в t-м испытании ученик находится в

состоянии А

если в t-м испытании ученик находится в

состоянии А

Далее вводится переходная вероятность:

Вер (А

при t | А

при t-1) = γ

, (4.2.56)

определяющая вероятность перехода в состояние А

в t-м испы-

тании при условии, что в (t—1)-м испытании ученик находится в

состоянии А

. Для построения теоретической кривой обучения,

соответствующей этой модели, используется математическое ожи-

дание величины — доли незапомненных слов в t-м испытании

для j-го ученика. Из аксиом данной модели следует:

(4.2.57)

где M

— оператор осреднения по j.

Таким образом, для построения теоретической кривой обуче-

ния необходимо знать параметры γ

и γ

. Для оценки этих параметров

находят математическое ожидание числа ошибок Т [40]:

(4.2.58)