Учебное пособие. — М.: Национальный Открытый Университет "ИНТУИТ",
2016. — 187 с. — (Основы информационных технологий). — ISBN:
978-5-94774-818-5.
Двумя популярными направлениями Artificial Intelligence являются
теория нечетких множеств (fuzzy sets) и теория нейронных сетей
(neuron nets). Данный курс является систематизированным вводным
курсом в эти два направления. Курс ориентирован на студентов высших
учебных заведений, обучающихся по специальностям в области
информационных технологий.
Нечеткие множества как способы формализации
нечеткости
Основные определения
Принцип обобщения
Нечеткие операторы Нечеткие отношения
Основные определения
Операции над нечеткими отношениями
Свойства нечетких отношений
Декомпозиция нечетких отношений
Транзитивное замыкание нечетких отношений
Проекции нечетких отношений Классы нечетких отношений
Отношения сходства и различия
Задачи нечеткой классификации
Порядки и слабые порядки
Задачи нечеткого упорядочения Показатель размытости нечетких множеств. Нечеткие меры и интегралы
Аксиоматический подход к определению показателя размытости нечеткого множества
Метрический подход к определению показателя размытости нечетких множеств
Связь показателя размытости с алгебраическими свойствами решетки нечетких множеств
Нечеткие меры
Супераддитивные меры
Субаддитивные меры
Нечеткие интегралы
Применение нечетких мер и интегралов для решения слабо структурированных задач Методы построения функции принадлежности. Классификация
Типы шкал
Методы измерений
Методы проведения групповой экспертизы
Классификация методов построения функции принадлежности Методы построения функции принадлежности. Обзор основных методов
Прямые методы для одного эксперта
Косвенные методы для одного эксперта
Прямые методы для группы экспертов
Косвенные методы для группы экспертов
Методы построения терм-множеств Нечеткие числа и операции над ними
Основные определения
Нечеткие треугольные числа
Четкие арифметики нечетких треугольных чисел
Размытые арифметики нечетких треугольных чисел Нечеткая логика
Операции отрицания
Операции конъюнкции и дизъюнкции Лингвистическая нечеткая логика
Понятие лингвистической переменной
Лингвистические переменные истинности
Логические связки в нечеткой лингвистической логике
Значения истинности НЕИЗВЕСТНО и НЕ ОПРЕДЕЛЕНО Теория приближенных рассуждений
Композиционное правило вывода
Правило modus ponens как частный случай композиционного правила вывода
Нечеткие экспертные системы Нечеткие алгоритмы
Формализация понятия нечеткого алгоритма
Способы выполнения нечетких алгоритмов
Представление нечеткого алгоритма в виде графа Нечеткие алгоритмы обучения
Обучающийся нечеткий автомат
Обучение на основе условной нечеткой меры
Адаптивный нечеткий логический регулятор
Алгоритм формирования нечеткого отношения предпочтения
Алгоритм уточнения лингвистических критериев Алгоритмы нечеткой оптимизации
Нечеткие цели, ограничения и решения
Задачи нечеткого математического программирования
Модели нечеткой ожидаемой полезности Алгоритмы нечеткого контроля и управления
Игры в нечетко определенной обстановке
Многошаговые процессы принятия решений
Особенности контроля и управления в условиях стохастической неопределенности
Контроль и управление динамическими системами в нечетких условиях Основы искусственных нейронных сетей
Биологический прототип
Искусственный нейрон
Однослойные искусственные нейронные сети
Многослойные искусственные нейронные сети
Обучение искусственных нейронных сетей Персептроны. Представимость и разделимость
Персептроны и зарождение искусственных нейронных сетей
Персептронная представляемость
Проблема функции ИСКЛЮЧАЮЩЕГО ИЛИ
Линейная разделимость
Преодоление ограничения линейной разделимости
Эффективность запоминания Персептроны. Обучение персептрона
Обучение персептрона
Алгоритм обучения однослойного персептрона
Целочисленность весов персептронов
Двуслойность персептрона
Трудности с алгоритмом обучения персептрона Процедура обратного распространения (описание алгоритма)
Введение в процедуру обратного распространения
Обучающий алгоритм обратного распространения
Дальнейшие алгоритмические разработки
Применение Процедура обратного распространения (анализ алгоритма)
Переобучение и обобщение
Отбор данных
Как обучается многослойный персептрон
Предостережения Сети встречного распространения
Введение в сети встречного распространения
Структура сети
Нормальное функционирование
Обучение слоя Кохонена
Обучение слоя Гроссберга
Сеть встречного распространения полностью
Приложение: сжатие данных Стохастические методы обучения нейронных сетей
Использование обучения
Больцмановское обучение
Обучение Коши
Метод искусственной теплоемкости
Обратное распространение и обучение Коши
Экспериментальные результаты Нейронные сети Хопфилда и Хэмминга
Конфигурации сетей с обратными связями
Бинарные системы
Устойчивость
Ассоциативность памяти и задача распознавания образов Обобщения и применения модели Хопфилда
Модификации правила Хэбба
Алгоритмы разобучения (забывания)
Непрерывные системы
Сети Хопфилда и машина Больцмана
Приложения
Обсуждение Двунаправленная ассоциативная память
Структура ДАП
Восстановление запомненных ассоциаций
Кодировка ассоциаций
Емкость памяти
Непрерывная ДАП
Адаптивная ДАП
Конкурирующая ДАП Адаптивная резонансная теория. Архитектура
Принцип адаптивного резонанса
Архитектура APT
Функционирование сети APT в процессе классификации Теория адаптивного резонанса. Реализация
Функционирование сетей APT
Пример обучения сети APT
Характеристики APT
Дальнейшее развитие APT: архитектуры АРТ-2 и АРТ-3 Когнитрон
Структура сети
Обучение когнитрона
Когнитрон как модель зрительной коры мозга
Результаты моделирования Неокогнитрон Алгоритмы обучения
Обучение с учителем и без учителя
Метод обучения Хэбба
Входные и выходные звезды
Обучение персептрона
Метод обучения Уидроу-Хоффа
Метод статистического обучения
Самоорганизация
Основные определения
Принцип обобщения
Нечеткие операторы Нечеткие отношения
Основные определения
Операции над нечеткими отношениями
Свойства нечетких отношений
Декомпозиция нечетких отношений
Транзитивное замыкание нечетких отношений
Проекции нечетких отношений Классы нечетких отношений
Отношения сходства и различия
Задачи нечеткой классификации
Порядки и слабые порядки
Задачи нечеткого упорядочения Показатель размытости нечетких множеств. Нечеткие меры и интегралы
Аксиоматический подход к определению показателя размытости нечеткого множества
Метрический подход к определению показателя размытости нечетких множеств
Связь показателя размытости с алгебраическими свойствами решетки нечетких множеств
Нечеткие меры
Супераддитивные меры
Субаддитивные меры
Нечеткие интегралы
Применение нечетких мер и интегралов для решения слабо структурированных задач Методы построения функции принадлежности. Классификация
Типы шкал
Методы измерений
Методы проведения групповой экспертизы
Классификация методов построения функции принадлежности Методы построения функции принадлежности. Обзор основных методов
Прямые методы для одного эксперта
Косвенные методы для одного эксперта
Прямые методы для группы экспертов
Косвенные методы для группы экспертов
Методы построения терм-множеств Нечеткие числа и операции над ними
Основные определения
Нечеткие треугольные числа
Четкие арифметики нечетких треугольных чисел
Размытые арифметики нечетких треугольных чисел Нечеткая логика
Операции отрицания
Операции конъюнкции и дизъюнкции Лингвистическая нечеткая логика
Понятие лингвистической переменной
Лингвистические переменные истинности
Логические связки в нечеткой лингвистической логике
Значения истинности НЕИЗВЕСТНО и НЕ ОПРЕДЕЛЕНО Теория приближенных рассуждений
Композиционное правило вывода
Правило modus ponens как частный случай композиционного правила вывода
Нечеткие экспертные системы Нечеткие алгоритмы
Формализация понятия нечеткого алгоритма
Способы выполнения нечетких алгоритмов
Представление нечеткого алгоритма в виде графа Нечеткие алгоритмы обучения
Обучающийся нечеткий автомат
Обучение на основе условной нечеткой меры
Адаптивный нечеткий логический регулятор
Алгоритм формирования нечеткого отношения предпочтения
Алгоритм уточнения лингвистических критериев Алгоритмы нечеткой оптимизации
Нечеткие цели, ограничения и решения
Задачи нечеткого математического программирования
Модели нечеткой ожидаемой полезности Алгоритмы нечеткого контроля и управления
Игры в нечетко определенной обстановке
Многошаговые процессы принятия решений
Особенности контроля и управления в условиях стохастической неопределенности
Контроль и управление динамическими системами в нечетких условиях Основы искусственных нейронных сетей
Биологический прототип
Искусственный нейрон
Однослойные искусственные нейронные сети
Многослойные искусственные нейронные сети
Обучение искусственных нейронных сетей Персептроны. Представимость и разделимость
Персептроны и зарождение искусственных нейронных сетей
Персептронная представляемость
Проблема функции ИСКЛЮЧАЮЩЕГО ИЛИ
Линейная разделимость
Преодоление ограничения линейной разделимости
Эффективность запоминания Персептроны. Обучение персептрона
Обучение персептрона
Алгоритм обучения однослойного персептрона
Целочисленность весов персептронов
Двуслойность персептрона
Трудности с алгоритмом обучения персептрона Процедура обратного распространения (описание алгоритма)
Введение в процедуру обратного распространения
Обучающий алгоритм обратного распространения
Дальнейшие алгоритмические разработки
Применение Процедура обратного распространения (анализ алгоритма)
Переобучение и обобщение
Отбор данных
Как обучается многослойный персептрон
Предостережения Сети встречного распространения
Введение в сети встречного распространения
Структура сети
Нормальное функционирование
Обучение слоя Кохонена
Обучение слоя Гроссберга
Сеть встречного распространения полностью
Приложение: сжатие данных Стохастические методы обучения нейронных сетей
Использование обучения
Больцмановское обучение
Обучение Коши
Метод искусственной теплоемкости
Обратное распространение и обучение Коши
Экспериментальные результаты Нейронные сети Хопфилда и Хэмминга
Конфигурации сетей с обратными связями
Бинарные системы
Устойчивость
Ассоциативность памяти и задача распознавания образов Обобщения и применения модели Хопфилда
Модификации правила Хэбба
Алгоритмы разобучения (забывания)
Непрерывные системы
Сети Хопфилда и машина Больцмана
Приложения
Обсуждение Двунаправленная ассоциативная память
Структура ДАП
Восстановление запомненных ассоциаций
Кодировка ассоциаций
Емкость памяти
Непрерывная ДАП
Адаптивная ДАП
Конкурирующая ДАП Адаптивная резонансная теория. Архитектура
Принцип адаптивного резонанса
Архитектура APT
Функционирование сети APT в процессе классификации Теория адаптивного резонанса. Реализация
Функционирование сетей APT
Пример обучения сети APT
Характеристики APT
Дальнейшее развитие APT: архитектуры АРТ-2 и АРТ-3 Когнитрон
Структура сети
Обучение когнитрона
Когнитрон как модель зрительной коры мозга
Результаты моделирования Неокогнитрон Алгоритмы обучения
Обучение с учителем и без учителя
Метод обучения Хэбба
Входные и выходные звезды
Обучение персептрона
Метод обучения Уидроу-Хоффа
Метод статистического обучения
Самоорганизация