Книга: Учебное пособие по курсу «Нейроинформатика»

Функциональная предобработка

Функциональная предобработка

Функциональная предобработка преследует единственную цель — снижение константы Липшица задачи. В разделе «Предобработка, облегчающая обучение», был приведен пример такой предобработки. Рассмотрим общий случай функциональной предобработки, отображающих входной признак x в k-мерный вектор z. Зададимся набором из k чисел, удовлетворяющих следующим условиям: x_min<y₁<…<y_k-1<y_k<x_max.

Таблица 9. Пример функциональной предобработки числового признака x?[0,5], при условии, что сигналы нейронов принадлежат интервалу [-1,1]. В сигмоидной предобработке использована ?(x)=x/(1+|x|), а в шапочной — ?(x)=2/(1+x?)-1. Были выбраны четыре точки y_i=i.

Пусть ? — функция, определенная на интервале [x_min-y_k, x_max-y₁], а ?_min,?_max — минимальное и максимальное значения функции ? на этом интервале. Тогда i-я координата вектора z вычисляется по следующей формуле:

Линейная предобработка. В линейной предобработке используется кусочно линейная функция:

Графики функций z_i(x) представлены на рис. 2а. Видно, что с увеличением значения признака x ни одна функция не убывает, а их сумма возрастает. В табл. 9 представлены значения этих функций для двух точек — x₁=1.5 и x₂=3.5.

Сигмоидная предобработка. В сигмоидной предобработке может использоваться любая сигмоидная функция. Если в качестве сигмоидной функции использовать функцию S₂, приведенную в разделе «Нейрон» этой главы, то формула (17) примет следующий вид:

Графики функций z_i(x) представлены на рис. 2б. Видно, что с увеличением значения признака x ни одна функция не убывает, а их сумма возрастает. В табл. 9 представлены значения этих функций для двух точек x₁=1.5 и x₂=3.5.

Шапочная предобработка. Для шапочной предобработки используются любые функции, имеющие график в виде «шапочки». Например, функция ?(x)=1/(1+x?).

Графики функций z_i(x) представлены на рис. 2 в. Видно, что с увеличением значения признака x ни одна из функций z_i(x) , ни их сумма не ведут себя монотонно. В табл. 9 представлены значения этих функций для двух точек x₁=1.5 и x₂=3.5.

Оглавление книги