Федотов В.Х. Нейронные сети в MS Excel

Подождите немного. Документ загружается.

можем ими воспользоваться. Для этого, как мы уже знаем,

достаточно загрузить вновь файл нейропроекта в Excel.

Еще один путь – самим рассчитать эти веса любыми

статистическими методами на основе результатов работы сети.

Проделаем это для сети «2-3-1». Обратимся к листу с

сохраненным результатом. Рассчитаем отклонения.

Себе-

стоимость

Рентаб.

общая

ИПЦ

(Output)

ИПЦ

(Predicted)

Отклонение,

абсолютное

Отклонение,

относительное

200120 1,2 132,2 132,40 0,20 0,00

204134 1,1 130,3 130,35 0,05 0,00

245620 1,1 126,6 124,98 -1,62 -0,01

240136 0,5 115,4 116,17 0,77 0,01

400111 4 107,3 107,83 0,53 0,00

422133 4,2 105,6 104,19 -1,41 -0,01

445050 5,6 105,7 107,06 1,36 0,01

484438 5,7 104,5 104,33 -0,17 0,00

522333 2 104 105,31 1,31 0,01

522177 2,3 103,5 104,04 0,54 0,01

632222 2,1 103,3 100,31 -2,99 -0,03

637123 1,8 100,5 102,39 1,89 0,02

1229765 5,4 107,6 105,71 -1,89 -0,02

1432173 4,9 109,5 111,47 1,97 0,02

1792262 3,8 120,8 117,99 -2,81 -0,02

1941401 3,1 118 120,27 2,27 0,02

2529111 5,1 113,2 116,68 3,48 0,03

2932444 5,1 111,4 111,91 0,51 0,00

3732344 5,1 111,7 106,39 -5,31 -0,05

3821512 5,5 100,2 106,21 6,01 0,06

4440203 4,8 105,1 104,54 -0,56 -0,01

4532222 5,2 105,6 104,46 -1,14 -0,01

4511107 5,8 106,1 104,57 -1,53 -0,01

4633225 6,4 107,2 104,49 -2,71 -0,03

4742424 6,8 106,1 104,40 -1,70 -0,02

4755577 6,9 105 104,40 -0,60 -0,01

4727524 7 103,4 104,45 1,05 0,01

4822663 5 103,3 104,14 0,84 0,01

4829676 7 103,9 104,33 0,43 0,00

4832354 7,2 103,8 104,35 0,55 0,01

4832344 7,3 103,8 104,36 0,56 0,01

4992748 3,4 103,7 103,96 0,26 0,00

Как видно, результаты неплохие. Обратимся далее к

надстройке Анализ данных в Excel – компонента Регрессия.

Зададим ей в качестве входных данных – первые два столбца, а в

качестве выходных – 4-й столбец, найденный нейросетью. Так

мы получим уравнение нейрорегрессии.

Рассчитаем уравнение нейрорегрессии и статистику ошибок

прогноза: ИПЦ(нейро) =118,749-3,409⋅10

-7

х2-1,994х6, где х2 -

себестоимость, х6 - общая рентабельность. Соответствующая

статистика приведена ниже в таблице.

Нейростатистический показатель Значение

Число обучающих примеров, n 32

Число независимых переменных, k 2

Общая нейроошибка, Σ(y

нейро

-y

средн

)

2081,59

Ошибка регрессии, Σ(y

расч

-y

средн

)

649,76

Остаток, Σe(t)

=Σ(y

нейро

-y

средн

)

- Σ(y

расч

-y

средн

)

1431,83

Коэф. детерминации (R

=1 - Σe(t)

/ Σ(y

нейро

– y

средн

)

0,31

Коэффициент множественной корреляции, R=

√

0,56

Скорректированный Rкор

=1-(1- R

)(n-1)/(n-k-1) 0,26

Стандартная ошибка 7,03

MS регрессии, Σ(y

расч

-y

средн

)

324,88

MS остатка, Σe(t)

/(n-k-1)

49,37

Критерий Фишера, F = (R

/k)/((1- R

)(n-k-1)) 6,58

Значимость критерия Фишера 0,004

Табличное значение критерия Фишера при доверительной

вероятности 0,95, ν1 =k =2, ν2 =n-k-1 =29 составляет 3,33.

Поскольку Fрасч =6,58> Fтабл =3,33, то уравнение регрессии

можно считать адекватным.

Критерий Дарбина-Уотсона:

(e(t)-e(t-1))

e(t)

=1,5E-06.

В качестве критических табличных уровней при n =32 и k =2 при

уровне значимости 5% возьмем значения di =1,08 и du=1,84.

Расчетное значение не попало в интервал, т.е. оценки можно

считать независимыми.

В следующей таблице показан расчет коэффициентов

уравнения нейрорегрессии и сопутствующая статистика

Стьюдента (t-критерий). Табличное значение критерия

Стьюдента при уровне

значимости 5% и степенях свободы 32-2-1

=29 составляет 2,045. Расчетное значение больше табличного

только для общей рентабельности, т.е. только он является

значимым. Второй коэффициент можно опустить.

Переменная Коэффициент

регрессии

Стандартная

ошибка

Критерий

Стьюдента

ИПЦ-(Output) 118,749 3,09 38,46

Себестоимость (Input) -3,405E-07 0,00 -0,35

Рентабельность общая (Input) -1,994 0,93 -2,15

С учетом проведенного анализа, результаты нейромодели-

рования можно записать в виде уравнения нейрорегрессии (х6 -

общая рентабельность): ИПЦ(нейро) =118,749-1,994х6.

Для сравнения приведем еще раз уравнение нейрорегрессии,

полученное с помощью нейросети «4-3-1»: ИПЦ(нейро) ≈

≈117,815-1,994х6. Как видно, результаты близки. Графическая

иллюстрация приведена ниже.

Сравнение нейромоделей "3-4-1" и "2-3-1"

100

105

110

115

120

125

130

135

1 5 9 13 17 21 25 29

Кварталы

ИПЦ,%

ИПЦ

(Модель 2-3-1,

Predicted)

ИПЦ (Модель 4-3-1)

Тестирование нейронной сети

Алгоритм 4. Тестирование персептрона «2-3-1»

1. Следующий этап работы с нейронной сетью – проверка

качества обучения на тестовом множестве. На этом этапе

сформированная первоначальная модель дополнительно

апробируется как прогностический инструмент на серии

тестовых данных, не включенных в обучающую выборку. Таким

образом, тестовое множество должно быть отличным от

обучающего. Подготовим его, например

, на основании данных за

следующий год, т.е. в объеме 4 образцов. Допишем эти данные в

конец таблицы с исходными данными следующим образом.

A B C D E F G H I J K

1 I х1 х2 х3 х4 х5 х6 х7

2 Год Кв

ар

тал

№ ИПЦ Выручка Себе-

стои-

мость

При-

быль от

реали-

зации

Балан-

совая

при-

быль

Стои-

мость

основных

фондов

Рента-

бель-

ность

общая

Рента-

бель-

ность

собств.

…

35 2003 1 33

103,8 11101191 4843975 765546 840906 22452636 3,3 5,4

36 2003 2 34

103,9 11609602 4962448 768876 820119 24030738 6,2 3,9

37 2003 3 35

103,9 12087057 5179782 776667 861897 24030738 4,2 8,6

38 2003 4 36

104,0 12337968 5277930 769659 878628 24030738 6,5 3,6

Теперь перенастроим параметры программы для работы с

тестовым множеством.

2. Выделим всю таблицу, включая обучающие и тестовые

примеры, обратимся к нейропанели, вызовем нейроэмулятор

персептрона и загрузим проект Vavilon2_3_1.wnp. Мы увидим

использовавшиеся ранее параметры сети – две входных и одну

выходную переменную. Вспомним, что только себестоимость

(х2) и общая рентабельность (х6) были признаны нами

значимыми в предыдущих сеансах работы с сетью. Выходная

переменная – ИПЦ.

3. Перейдем на вкладку Training и выполним команду

Редактировать тестовое множество (Edit Test Set). Установим

следующие значения параметров выборки: число тестовых

примеров = 4. При этом число обучающих примеров остается

прежним = 32, и общее число примеров =36. Остальные

параметры оставим без изменения. Просмотрим Диаграмму

разброса (Scattering diagramm

). На ней тестовые точки будут

выделены красным цветом. Диаграмма отклика сети ничего

нового пока не показывает.

4. Теперь нужно сделать самое главное на этом этапе –

дообучить сеть на тестовом множестве. К счастью, это совсем

несложно и делается точно так же, как первоначальное обучение.

Основное отличие состоит в том, что сеть уже

не нужно

настраивать – подбирать архитектуру и параметры обучения.

Обучение можно закончить, если уровень тестовых ошибок

станет минимальным, а уровень правильных ответов –

максимальным.

На практике это означает, что если при обучении мы

задавали только допустимую ошибку обучения, то теперь нужно

задать еще и допустимую ошибку тестирования. Зададим ее

такой же, т.е. равной 0,2, с помощью команды Критерии

остановки (Stopping Criteria).

Начнем тестирование. Выполним команду Начать обучение

(Start Training ). Ждем … Процесс закончился довольно быстро

- на 1414-й эпохе по достижении необходимой точности

тестирования =0,199 < 0,2. Это значит, что тестирование прошло

успешно.

5. Посмотрим результаты. На Диаграмме разброса –

красные точки переместились, что однако не очень

информативно. Отклик сети (Network Answer) - гораздо

нагляднее отражает процесс тестирования.

Видно, что правые части обоих графиков (последние 4

точки) стали теснее – именно эта часть графика соответствует

процессу тестирования.

График ошибок (Error History) дополнительно

подтверждает это.

6. Сеть полностью обучена. Перейдем на закладку Output,

зададим параметры сохранения: лист – Нейросеть2_3_1,

диапазон – H1 и включим флажок: вывести Только отклик сети

(Only network answer). Завершаем сохранение клавишей

Output. Результаты дообучения после тестирования показаны

ниже – в таблице. Для сравнения приведены результаты

обучения и соответствующие уравнения нейрорегрессии.

Видно, что результаты обучения несколько изменились. При

этом

конечные веса режима обучения были использованы сетью

как начальные веса в режиме тестирования.

7. Сохраним нейропроект под тем же именем

Vavilon2_3_1.wnp.

8. Закончим сеанс работы с нейросетью, закрывая окно

программы Winnet.

Напомним еще раз, что у вас могут получиться другие

результаты. С учетом полученных результатов пользователь или

программа могут изменить полностью или

частично топологию

модели, отрегулировать начальные значения некоторых

параметров и др. Как только станет доступным новое большое

количество случаев, эти данные также вводятся в нейронную

сеть, и модель еще раз корректируется. Глобальная цель этих

действий - дальнейшее улучшение прогнозирующей способ-

ности сети. Этот процесс повторяется до тех пор, пока

результаты не станут удовлетворительными.

№ После обучения

ИПЦ(нейро) =

=118,749-3,409⋅10

-7

х2-1,994х6

После тестирования

ИПЦ(нейро) =

=117,851-6,0⋅10

-7

х2-1,727х6

Изме-

не-

ние,

132,4 131,8 -0,48

130,3 130,0 -0,28

125,0 124,6 -0,32

116,2 117,4 1,04

107,8 109,1 1,21

104,2 105,7 1,41

107,1 104,0 -2,83

104,3 101,5 -2,73

105,3 105,0 -0,27

104,0 104,5 0,40

100,3 100,4 0,09

102,4 101,5 -0,91

105,7 107,8 2,01

111,5 112,3 0,75

118,0 116,8 -1,00

120,3 118,2 -1,70

116,7 115,1 -1,36

111,9 111,1 -0,76

106,4 106,4 -0,02

106,2 106,2 -0,02

104,5 104,8 0,22

…

…… …

104,3 104,5 0,19

104,4 104,5 0,18

104,0 104,3 0,29

33 -

104,3 -

34 -

104,4 -

35 -

104,2 -

36 -

104,2 -

Запуск сети. Нейропрогнозирование

Остался последний, наиболее важный в практическом

отношении, этап работы с сетью – использование обученной сети

для экономического прогнозирования. Именно для этого и были

проделаны все предыдущие действия.

Подготовим данные для прогнозирования – всего одну

строку. Зададим предполагаемую выручку, себестоимость,

балансовую прибыль и рентабельность. Остальные входные

параметры оставим прежними. Вспомним также

, что

существенными для модели являются только два параметра х2 и

х6, а остальные не окажут влияния на результат.

Предскажем выходной параметр ИПЦ с помощью обученной

и протестированной выше нейросети (его значение пока

неизвестно и отмечено вопросительным знаком).

A B C D E F G H I J K

1 I х1 х2 х3 х4 х5 х6 х7

Год

Кв

ар

тал

№

ИПЦ

Выручка

Себе-

стои-

мость

Прибыль

от

реали-

зации

Балан-

совая

прибыль

Стои-

мость

основных

фондов

Рен-

таб.

об-

щая

Рен-

таб.

Соб-

ств.

…

39 2003 4 37 ? 10000000 5000000 1000000 1000000 24030738 3,0 3,0

Алгоритм 5. Нейросетевой предсказатель «2-3-1»

1. Допишем эту строчку в таблицу с исходными данными и

приступим к работе. Обратим внимание, что выходное значение

пока неизвестно, поэтому оно принимается равным нулю.

Выделим все данные - обучающее, тестовое и прогнозное

множество. Обратимся к нейропанели, вызовем эмулятор

персептрона и загрузим проект Vavilon2_3_1.wnp.

2. Дальше все происходит так же, как

при тестировании, но с

одним важным отличием. Процесс тренировки сети на этом

этапе запускать нельзя и не нужно, так как это может

привести к изменению весов обученной сети и некорректности

прогноза.

Перейдем на вкладку Тренировка (Training) и выполним

команду Редактировать тестовое множество (Edit Test Set).

Установим следующие значения параметров выборки: Число

тестовых примеров (Number of test examples =1) и Тестовое

множество - последний пример (Test set-last examples =

=включено). При этом число обучающих примеров становится

равным 36 и общее число примеров равно 37. Просмотрим

Диаграмму отклика сети (Network Answer) и Диаграмму

разброса (Scattering diagramm).

Отклик сети (выбран режим реальных

значений шкалы – Real scale)

Диаграмма разброса

Из первой диаграммы видно, что отклик на тестовый пример

(точка № 37 выделена красным цветом) уже сформирован и его

значение равно примерно 100. На второй – видно размещение

этой же точки (выделена красным цветом) относительно

обучающей выборки. Таким образом, прогнозирование уже

произошло.

3. Убедимся в этом, посмотрев точное значение отклика. Для

этого сохраним значение

найденного сетью отклика командой

Вывод (Output), задав область вывода в любых свободных

ячейках таблицы Excel, например – Лист Нейропрогноз (такой

лист должен быть создан заранее), Ячейка В2. При

прогнозировании удобно задавать режим – Вывод всех данных

(Output all data), позволяющий контролировать не только

отклик сети, но и входные параметры. Установим его и

посмотрим результаты (показаны только

данные тестового

примера – строка № 37).

Вход х2 Вход х6 Выход (ИПЦ) Выход (Прогноз)

Column_2

(Input)

Column_6

(Input)

Column_0

(Output)

Column_0

(Predicted)

5000000 3 0 104,2542606

Как видно, прогнозное значение ИПЦ =104,254 согласуется с

диаграммами. Изменение других параметров в нижней части

окна оставляет результат прежним.

4. Чтобы лучше понять процесс работы с обученной сетью,

сделаем небольшое «лирическое» отступление. Дело в том, что

здесь возможны различные схемы работы: на всем наборе

данных; на части набора данных; на отдельном наблюдении.

Кроме того, каждый из этих случаев можно разделить на

несколько подслучаев: старые данные (участвовавшие в

обучении или тестировании сети); новые данные (содержащие

незнакомые сети входы и выходы); новые данные

(с неизвестными выходами). Различные сочетания всех этих

случаев и подслучаев могут образовать 9 (и более) вариантов

работы с обученной и натренированной сетью.

Осталось определить, с каким вариантом мы имеем дело и

какой лучше использовать на этом этапе. Поскольку для

прогнозирования мы выбрали только один образец, отклик для

которого заранее неизвестен, то, по-видимому, мы должны

придерживаться схемы «отдельное наблюдение – новые данные с

неизвестными выходами». Реализовать эту схему можно с

помощью знакомой нам команды

Редактор тестового

множества (Test set Redactor).

Мы уже установили в верхней части окна Редактора

тестового множества число тестовых примеров =1. Тем самым,

выбрав схему – «отдельное наблюдение». Оставим этот параметр

без изменения.

В нижней части окна изменим режим на Случайное

Тестовое множество (Random Test set), поставив признак

включения в первой строке. Тем самым мы изменили образец

для

тестирования – он теперь будет выбираться случайным

образом и может оказаться любым из 37, в том числе и

последним. Это можно увидеть, посмотрев диаграмму разброса

или отклик сети. Красная точка на этих диаграммах

переместилась в другое (случайно выбранное) место.

Выберем следующий режим – Тестовое множество – блок

примеров (Test set – block of examples. First example of the

block =5). На диаграмме отклика красная точка перемещается

заданную позицию номер 5. Выведем результат прогнозирования