Дипломная работа: Синтез гибридной нейронной сети для управления двухмассовой электромеханической системой с зазором. 2003 г
Подождите немного. Документ загружается.
51
Рисунок 4.4.6.- Частотный спектр случайного сигнала .
Рисунок 4.4.7.- Вид случайного сигнала.
52
Случайный вектор имеет широкий спектр разложения в ряд Фурье, однако оказывается
бесполезным для обучения ANFIS сети, поскольку такой характер изменения сигнала
апроксимируется сетью с большой погрешностью, недопустимой для практических
приложений. На практике используются более простые сигналы с широким спектром
частот.
Рисунок 4.4.8.- временное распределение импульсов единичной площади.
Рисунок 4.4.9.- Частотный спектр трех импульсов единичной площади.
53
Порядок следования импульсов и их периодичность не влияют на вид спектра частот
разложения.
Рисунок 4.4.10.- вид сигнала единичной площади.
Рисунок 4.4.11.- Частотный спектр импульса единичной площади.
54
Как видно в частотной области мы имеем два провала, связанных с ограниченной
амплитудой и не мгновенным нарастанием и спадом смоделированного сигнала.
Рисунок 4.4.12.- Частотный спектр импульса единичной площади в полосе 1000 Гц.
Разложение в спектр не зависит от периодичности сигнала. То есть единичный
импульс имеет такое же разложение, как если бы он имел некоторый период
повторения.
Применение единичного импульса наиболее удобно, так как позволяет сформировать
компактное обучающее множество при минимальном количестве регистрируемых
точек переходного процесса. А это, в свою очередь, ускоряет процесс обучения и
минимизирует ошибку обучения.
Случайный сигнал, хотя и обладает широким спектром частот и равномерным
распределением амплитуд, тем не менее, не может быть использован для обучения,
поскольку нейронная гибридная сеть не в состоянии аппроксимировать с допустимой
ошибкой такой сигнал.
Применение случайного ступенчатого сигнала так же сильно усложняет
аппроксимацию с помощью нейронной сети, хотя частотный спектр более
равномерный, по сравнению с одиночным импульсом единичной площади.
Набор сигналов единичной площади есть нечто среднее между одиночным импульсом
и случайным ступенчатым сигналом. Такая форма обучающего вектора является
наиболее приемлемой, позволяя добиться минимума ошибки сети при обучении, а так
же избежать частотных провалов, характерных для одиночного импульса.
55
4.5. ИСХОДНЫЕ ПАРАМЕТРЫ СЕТИ.
Исходными параметрами сети считается начальное распределение значений параметров
нейронной сети. К таким параметрам относятся параметры ввода, то есть коэффициенты
функций принадлежности, а так же параметры вывода, представляющие собой линейную
комбинацию выходов логических правил, в случае системы Сугено нулевого порядка. Если
же ANFIS сеть реализует систему Сугено первого порядка, то параметрами вывода будут
коэффициенты линейной комбинации входных сигналов сети, умноженных на выходные
сигналы слоя правил.
Поскольку в качестве обучающего принципа используется градиентный метод, то
начальные условия сети играют большую роль вследствие итерационного процесса
настройки коэффициентов. Следовательно, было бы наиболее правильно заранее задать
значение коэффициентов, так чтобы в процессе обучения избежать слишком больших
ошибок обучения.
Рисунок 4.5. 1 Вид заполнения диапазона изменения входного сигнала при использовании
трех термов, в виде функции Гаусса.
Функцию Гаусса не трудно рассчитать в Matlab. Например с помощью такой функции:
function g=gauss1( c , sigma, x)
g= exp(-(x-c)*(x-c)/(2*sigma*sigma));
Здесь параметр «с» задает положение центра функции принадлежности, а «sigma» задает
ширину колокола функции принадлежности. Если функций принадлежности мало, то
ширина функции должна быть больше. Если же число функций принадлежности
увеличивается, то ширина функций должна снижаться. Главным условием является
сохранение пропорций и симметрии.
Для быстрого обучения необходимо расставлять центры функций принадлежности
равномерно по всему диапазону изменения входного сигнала. Чтобы алгоритм настройки
не двигал центры на большую величину, тк это обычно приводит к затягиванию процесса
обучения , и может даже в некоторых случаях завести процесс обучения в тупик.
56
Каждое правило, просчитывая минимум нескольких функций принадлежности, в итоге
описывает некоторую гиперповерхность. Так, например, если на одно правило минимума
приходит 2 сигнала, то на выходе мы получим поверхность отклика в виде холма…
Рисунок 4.5. 2 Поверхность отклика логического правила «И» в случае двух сигналов. При
активации по одному терму на сигнал.
Реальная картина отклика является комбинацией фигур, представленных на рисунке 6.5. 2 в
некотором многомерном пространстве.
В рамках дипломного проекта был написан алгоритм обучения гибридной нейронной сети
ANFIS архитектуры на языке Matlab, методом обратного распространения ошибки. Это
было вызвано отсутствием наглядного и открытого алгоритма функционирования и
обучения ANFIS сети.
В качестве начальных параметров вывода в случае системы Сугено нулевого порядка
наиболее подходящими с точки зрения скорости обучения оказались числа в диапазоне от
0.5 до 1. В этом диапазоне коэффициенты линейной комбинации могут иметь либо
случайное распределение, либо могут быть равны друг другу. Такой диапазон для
параметров вывода был выбран на основе анализа параметров обученных в Matlab ANFIS
сетей.
Для случая системы Сугено первого порядка можно поступить таким же образом, и принять
все коэффициенты со случайным распределением в окрестности единицы, но ни один
параметр не должен быть равен нулю.
Параметры вывода определяются путем решения системы линейных уравнений
относительно коэффициентов линейной комбинации входных сигналов. Для решения такой
задачи чаще всего используется метод наименьших квадратов, хотя можно применить так
же методы Крамера, обратной матрицы, Гаусса, Жордана, простых итераций, Зейделя,
Монте-Карло.
Например, в пакете Matlab 6.1. параметры представляются в виде файла. Начальные и
конечные параметры нейронной сети, представлены в приложении В.
57
4.6. ОБОСНОВАНИЕ ВЫБОРА ПО И ОПИСАНИЕ АЛГОРИТМА
ФУНКЦИОНИРОВАНИЯ
Среди множества различных систем математического моделирования в данной работе
применяется пакет Matlab 6.1. исходя из нескольких практических соображений.
Данный пакет традиционно используется для математического моделирования, и язык
Matlab является для всех интуитивно понятным, а сам математический алгоритм логически
прозрачен, поскольку Matlab, это язык, ориентированный на математические вычисления, и
в нем практически отсутствует работа с данными, присущая языкам более низкого уровня, в
отношении математических вычислений.
Не смотря на то, что существует несколько различных пакетов, с помощью которых можно
промоделировать гибридную нейронную сеть, все они кроме Matlab, являются платным
программным обеспечением, которое было разработано для специальных приложений.
В то же время Matlab, это система, которая одновременно является интегральной средой
разработки нейронных сетей (Neural Toolbox), систем нечеткого вывода (Fuzzy Logic
Toolbox), систем реального времени, (Realtime workshop), кодов пользователя, написанных
на языке Matlab (User writhen m - files). Все элементы математической модели легко
интегрируются в визуальную среду Simulink позволяющую объединять в одну систему
множество разнородных элементов.
Рисунок 4.6.1 Интегральная среда разработки - Matlab.
В единой среде можно полностью провести математическое моделирование. Причем Real
time Workshop позволяет сразу же конвертировать код Matlab в код языка С++,
адаптированный для работы с определенным контроллером DSP. Таким образом, можно
проводить реальные испытания и апробирование алгоритма в реальных условиях работы,
где все неучтенные параметры окажут свое влияние.
В Matlab есть встроенный пользовательский интерфейс для разработки гибридных
нейронных сетей. С помощью которого можно задавать все параметры ANFIS ГНС,
причем в Matlab реализована только архитектура, представленная на рисунке 6.3.10.
Hardware
DSP
MATLAB
FuzzyLogic
Toolbox
Simulink
User-
writhen
m-files
Real time
Workshop
Neural
Toolbox
ANFIS EDIT
UserGUI
Real
Time
Code
58
И можно даже также увидеть структуру нейронной сети, которая представлена на рисунке
4.6.2.
Рисунок 4.6.2. Пример структуры гибридной нейронной сети в Matlab.
Затем, выбрав количество функций принадлежности и , порядок системы Сугено и режим
алгоритма обучения, можно получить готовую обученную нейронную сеть.
Ее можно так же экспортировать в окно Fuzzy edit и увидеть эту нейронную сеть в виде
системы логического вывода Сугено.
Рисунок 4.6.3. Вид окна обозревателя правил.
На рисунке 4.6.3. первые три столбика представляют собой три входа. Столбики
разбиваются на ячейки по количеству правил, и если в правило входит какая-нибудь
функция принадлежности, то она изображается нелинейной функцией в окне?
К тому же, с помощью вертикальной линии, положение которой задает пример входного
сигнала, можно увидеть, как происходит активация функций принадлежности и проходит
дефаззификация. Таким образом, получив обученную гибридную нейронную сеть, точно
так же как систему логического вывода, можно легко экспортировать как объект, а потом
вставить в Simulink и объединив этот объект с математической моделью привода, получаем
общую модель всей системы.
59
4.7. АВТОМАТИЧЕСКОЕ ОПРЕДЕЛЕНИЕ ПАРАМЕТРОВ НЕЙРОННОЙ
СЕТИ.
Необходимость обеспечения конкурентоспособности изделий за счет улучшения
качества и повышения надежности предъявляет новые требования к системам
управления качеством. К этим требованиям относятся адаптивность, универсальность,
способность определять и предсказывать состояние объекта управления, а также
принимать решения в условиях недостаточной информации.
При построении систем управления качеством, удовлетворяющих
вышеперечисленным требованиям, весьма перспективным является использование
нейронных сетей (НС), которые обладают такими свойствами как обучаемость и
способность аппроксимировать любые вычислимые функции [6]. Это позволяет
использовать их для построения математических моделей даже в тех случаях, когда
другими методами это сделать затруднительно. Наиболее мощным классом нейронных
сетей на сегодняшний день являются многослойные нейронные сети (МНС), которые
целесообразно использовать при построении моделей сложных объектов и процессов.
Для обучения МНС разработано достаточно много алгоритмов. Наилучшие
показатели по скорости обучения среди всех алгоритмов обучения МНС дают
градиентные алгоритмы, которые наиболее часто применяются при построении
нейросетевых систем. Однако, они обеспечивают различную сходимость и могут
работать только при определенных условиях. В то же время сходство градиентных
алгоритмов дает основание для разработки обобщенного градиентного алгоритма
обучения МНС. В настоящей работе рассматривается обобщенный градиентный
алгоритм обучения МНС, и исследуются вопросы практического использования
градиентных алгоритмов, являющихся частными случаями обобщенного градиентного
алгоритма.
Среди различных структур нейронных сетей (НС) одной из наиболее известных
является многослойная структура, в которой каждый нейрон произвольного слоя связан
со всеми аксонами нейронов предыдущего слоя или, в случае первого слоя, со всеми
входами НС. Такие НС называются полносвязными, однако это не принципиально,
поскольку связи слоев учитываются специальными средствами, например матрицами
связи, или сразу в алгоритме расчета НС. Когда в сети только один слой, алгоритм ее
обучения с учителем довольно очевиден, так как правильные выходные состояния
нейронов единственного слоя заведомо известны, и подстройка синаптических связей
идет в направлении, минимизирующем ошибку на выходе сети. По этому принципу
строится, например, алгоритм обучения однослойного персептрона [15]. В
многослойных же сетях оптимальные выходные значения нейронов всех слоев, кроме
последнего, как правило, не известны, и двух или более слойный персептрон уже
невозможно обучить, руководствуясь только величинами ошибок на выходах НС. Один
из вариантов решения этой проблемы – разработка наборов выходных сигналов,
соответствующих входным, для каждого слоя НС, что, конечно, является очень
трудоемкой операцией и не всегда осуществимо. Второй вариант – динамическая
подстройка весовых коэффициентов синапсов, в ходе которой выбираются, как
правило, наиболее слабые связи и изменяются на малую величину в ту или иную
сторону, а сохраняются только те изменения, которые повлекли уменьшение ошибки на
выходе всей сети. Очевидно, что данный метод "тыка", несмотря на свою кажущуюся
простоту, требует громоздких рутинных вычислений. И, наконец, третий, более
приемлемый вариант – распространение сигналов ошибки от выходов НС к ее входам,
60
в направлении, обратном прямому распространению сигналов в обычном режиме
работы. Этот алгоритм обучения НС получил название процедуры обратного
распространения. Именно он будет рассмотрен в дальнейшем.
Согласно методу наименьших квадратов, минимизируемой целевой функцией ошибки
НС является величина:
E w y d
j p
N
j p
j p
( ) ( )
,
( )
,
,
1
2
2
(4.7.1)
где
y
j p
N
,
( )
– реальное выходное состояние нейрона j выходного слоя N нейронной сети
при подаче на ее входы p-го образа; d
jp
– идеальное (желаемое) выходное состояние
этого нейрона.
Суммирование ведется по всем нейронам выходного слоя и по всем обрабатываемым
сетью образам. Минимизация ведется методом градиентного спуска, что означает
подстройку весовых коэффициентов следующим образом:
w
E
w
ij
n
ij
( )
(4.7.2)
Здесь w
ij
– весовой коэффициент синаптической связи, соединяющей i-ый нейрон слоя
n-1 с j-ым нейроном слоя n,
– коэффициент скорости обучения, 0<
<1.
Как показано в [ 15 ],
E
w
E
y
dy
ds
s
w
ij j
j
j
j
ij
(4.7.3)
Здесь под y
j
, как и раньше, подразумевается выход нейрона j, а под s
j
– взвешенная
сумма его входных сигналов, то есть аргумент активационной функции. Так как
множитель dy
j
/ds
j
является производной этой функции по ее аргументу, из этого
следует, что производная активационной функция должна быть определена на всей оси
абсцисс. В связи с этим функция единичного скачка и прочие активационные функции
с неоднородностями не подходят для рассматриваемых НС. В них применяются такие
гладкие функции, как гиперболический тангенс или классический сигмоид с
экспонентой. В случае гиперболического тангенса
dy
ds
s 1
2
(4.7.4)
Третий множитель s
j
/w
ij
, очевидно, равен выходу нейрона предыдущего слоя y
i
(n-1)
.
Что касается первого множителя в (3), он легко раскладывается следующим образом:
E
y
E
y
dy
ds
s
y
E
y
dy
ds
w
j k
k
k
k
j
k
k
k
k
k
jk
n
( )1
(4.7.5)
Здесь суммирование по k выполняется среди нейронов слоя n+1.
Введя новую переменную
j
n
j
j
j
E
y
dy
ds
( )
(4.7.6)
мы получим рекурсивную формулу для расчетов величин
j
(n)
слоя n из величин
k
(n+1)
более старшего слоя n+1.
j
n
k
n
jk
n
k
j
j
w
dy
ds
( ) ( ) ( )
1 1
(4.7.7)
Для выходного же слоя
l
N
l
N
l
l
l
y d
dy
ds
( ) ( )
( )
(4.7.8)