Книга: Учебное пособие по курсу «Нейроинформатика»

Обучение

Обучение

Программа Hopfield.

При вычислении синаптической карты в данной программе предусмотрено использование одного из двух заложенных алгоритмов. Выбор алгоритма производится в подменю "Параметры" главного меню. Там же описана процедура предварительной обработки обучающего множества в случае применения алгоритма "Проекционный Хопфилд". В этом разделе описана общая для обоих алгоритмов процедура вычисления элемента синаптической карты по векторам обучающего множества. Поскольку мы имеем дело со стонейронной нейронной сетью, исходные данные любого примера можно представить в виде стомерного вектора. Обозначим вектора соответствующие обучающему множеству через A[1],…,A[k], вес l-ого примера — W[l], а ij-ый элемент синаптической карты — X[ij]. Тогда алгоритм вычисления синаптической карты можно представить в виде формулы:

X[ij] = Сумма по l от 1 до k (A[l][i]*A[l][j]*W[l])

Все программы, кроме программыHopfield.

В данной программе реализован «генетический» подход к формированию стратегии обучения. У Вас в руках ряд процедур, с помощью которых Вы можете подобрать стратегию обучения сети. Ниже приведена таблица всех возможных режимов

Использовать MParTan Организация обучения Вычисление направления Способ оценивания Допустимость
1 Да Средн. Антиградиент МНК Допустим
2 Да Средн. Антиградиент РДМ Допустим
3 Да Средн. Случайное МНК Допустим
4 Да Средн. Случайное РДМ Допустим
5 Да Позад. Антиградиент МНК Недопустим
6 Да Позад. Антиградиент РДМ Недопустим
7 Да Позад. Случайное МНК Недопустим
8 Да Позад. Случайное РДМ Недопустим
9 Да Зад. N Антиградиент МНК Допустим
10 Да Зад. N Антиградиент РДМ Допустим
11 Да Зад. N Случайное МНК Допустим
12 Нет Зад. N Случайное РДМ Допустим
13 Нет Средн. Антиградиент МНК Допустим
14 Нет Средн. Антиградиент РДМ Допустим
15 Нет Средн. Случайное МНК Допустим
16 Нет Средн. Случайное РДМ Допустим
17 Нет Позад. Антиградиент МНК Допустим
18 Нет Позад. Антиградиент РДМ Допустим
19 Нет Позад. Случайное МНК Допустим
20 Нет Позад. Случайное РДМ Допустим
21 Нет Зад. N Антиградиент МНК Допустим
22 Нет Зад. N Антиградиент РДМ Допустим
23 Нет Зад. N Случайное МНК Допустим
24 Нет Зад. N Случайное РДМ Допустим

Обозначения, использованные в таблице:

Средн. — Обучение по усредненной оценке (градиенту);

Позад. — Позадачное обучение;

Зад. # — Обучение задаче номер;

Случайно — Случайный спуск;

Антиградиент — Градиентный спуск;

МНК — Оценка типа Метода наименьших квадратов;

РДМ — Оценка типа Расстояние до множества.

Задать процедуру обучения Вы можете в меню Параметры, в подменю метода

Оглавление книги


Генерация: 0.141. Запросов К БД/Cache: 2 / 0
поделиться
Вверх Вниз