
ДОПОЛНЕНИЯ
К
ГЛАВЕ
IУ
177
7. 3
а
Д
а
чар
а
с
поз
н
а
в
а
н
и
я
и
о б
У
ч е
н
и
я.
Приведем
те
замечания,
которые
по
поводу
этих
задач
имеются
в
[61].
Основ
ная
задача
распознавания
состоит
в
отнесении
предъявляемого
объекта
к
одному
из
классов,
вообще
говоря,
заранее
неизвестных.
Для
решения
задачи
распознавания
необходимо
прежде
всего
заняться
обучением
посредством
показа
образов,
принадлежность
которых
к
тому
или
иному
классу
известна.
С
геометрической
точки
зрения
каждому
объекту
можно
поставить
в
соответствие
lОчку
в
некотором
многомерном
пространстве.
Предположим,
что
выполнена
гипотеза
компактности:
сходным
объектам
соответствуют
близкие
точки,
и
существует
некоторая
функция,
которая
разделяет
точки
различных
классов.
Тогда
задачи
обучения
сводятся
к
задачам
аппроксимации
разделяющей
функции.
Пусть
имеется
два
класса
2
и
e4t.
Обозначим
разделяющую
функцию
через
у
='!'
(В),
где
В
-
вектор,
характеризующий
образ,
у
-
величина,
оп
ределяющая
класс,
к
которому
этот
образ
принад
лежит.
Можно
предположить,
например,
что
{
1,
Вс2,
sign
ч:
(В)
=
_1
_/М
,
О
Е
eln.
Обозначим
класс
аппроксимирующих
функций
через
<р
(х,
В),
где
х
неизвестный
пока
вектор
коэффициентов.
Чаще
всего
выбирается
n
<р
(х,
В)
=
~
ЦР!
(В),
;=1
где
<Р]
(В)
-
известные
функции.
Мера
уклонения
опре:деляется
как
выпуклая
функция
разности
f N
(В)
-
<р
(х,
В))2,
нап
ример,
N'
(В)
-
-
<р
(х,
В))2.
Векторы
(образы)
В
показываются
случайным
образом,
поэтому
коэффициенты
Х
= (X
1
,
•••
,
Х
n
)
опредеЛЯЮТСII
из
условия
минимума
F
(Х)
=
М!
('IJ
(В)
-
<р
(х,
В)).
Вероятностное распределение
векторов
В,
в
соответствии
с
кото
рым
происходиг
их
выборка,
неизвестно,
поэтому
для
МИНИМИЗ,ЩlllJ
F
(х)
естественно
применять
методы
стохастической
аппроксимации
[lJ,
[61],
а
для
общих
функций,
например,
если
F
(х)
lIегладкая,
когда
f
('!'
(В)
-
ер
(х,
В))
= 1
'!'
(В)
-
ер
(х,
В)
1,
применимы
стохастическ
ие
квазиградиентные
методы.
8.
Интересно
сопоставить
постановку
задачи
Тинтера
(2.45),
(2.41)
с
общей
постановкОЙ
двухэтапной
задачи
стохастического
программирования
и
применить
к
задаче
Тинтера
численный
метод,
описанный
в
примере
1
п.
4 § 3.
9.
С
т
а
т и с т и ч е
с
к и
е
реш
е
н
и
я.
Б
а
й
е
с
о в
с
к
и й
по
д
ход.
Пусть
е
-
множество
состояний
природы;
Q -
множество
исхо
дов
эксперимента;
Х
-
множество
решений
(действий)
стаТИСтиКа,
Х
с
R";
х
((1))
-
решающая
функция,
которая
каждому
исходу
w
ставит
в
соответствие
действие
х
(w)
Е
Х; Р
(О,
w)-
вероятность
того,
что
в
состоянии
природы
В
эксперимент
приведет
к
исходу
w;
f
(х, В)
-
функция
потерь
статистика
при выборе
х,
если
природа