АЛГОРИТМ МАШИННОГО ОБУЧЕНИЯ НА ПРИМЕРЕ СЕТИ КОХОНЕНА В ОЦЕНКЕ КРЕДИТОСПОСОБНОСТИ КЛИЕНТА

Сети КОХОНЕНА – разновидность Самоорганизующихся Карт Признаков (Self-Organizing Map – SOM) специальный подтип Нейронных Сетей [2, 3]

Рисунок 1. Топология сети Кохонена для кластеризации клиентов по возрасту и доходу

В процессе обучения сети Кохонена выполняются три процедуры [1]:

1. КОНКУРЕНЦИЯ (competition)

2. ОБЪЕДИНЕНИЕ (cooperation)

3. ПОДСТРОЙКА ВЕСОВ (adaptation)

Алгоритм обучения сети Кохонена:

1. ИНИЦИАЛИЗАЦИЯ. η – скорость обучения, радиус R и вектор весов

w_j = {w_1j, w_2j,…, w_mj}

2. ВОЗБУЖДЕНИЕ. Подаём:

x_n = {x_n1, x_n2,…, x_nm}

3. КОНКУРЕНЦИЯ. Скоринговая функция:

4. ОБЪЕДИНЕНИЕ

5. ПОДСТРОЙКА

Рисунок 2. Подстройка нейронов в соседстве с нейроном-победителем

Правило (1):

w_{ij, новое} = w_{ij, текущее} + η(x_nj – w_{ij, текущее} )           (1)

6. КОРРЕКЦИЯ

Рисунок 3. Сеть Кохонена 2x2

На входе даны следующие веса:

Для примера возьмем следующую таблицу, разделеную на 4 кластера по 2 признакам Возраст и Доход:

Таблица 1.

Исходные данные

Считаем, что R = 0 и η = 0,5

Берем 1-й вектор из таблицы x₁ (0,8; 0,8) и выполним такие действия как конкуренция, объединение и подстройка.

Конкуренция. Вычисляем евклидово расстояние между входным вектором x₁ (0,8; 0,8) и векторами весов всех 4-х нейронов выходного слоя

Нейрон 1:

Нейрон 2:

Нейрон 3:

Нейрон 4:

Объединение. Нейроном победителем является Нейрон 1, так как его значение самое наименьшее из всех (0,1)

Подстройка. Поскольку для первого нейрона j=1 и для первой записи n=1, при коэффициенте скорости обучения η = 0,5 для правила (1) получим:

w_{i1, новое} = w_{i1, текущее} + 0,5(x_1j – w_{i1, текущее} )

Тогда, для признака Возраст:

w_{11, новое} = w_{11, текущее} + 0,5×(x₁₁ – w_{11, текущее} ) = 0,9+0,5×(0,8 – 0,9) = 0,85

Для признака Доход:

w_{21, новое} = w_{21, текущее} + 0,5×(x₁₂ – w_{21, текущее} ) = 0,8+0,5×(0,8 – 0,8) = 0,8

Берем 2-й вектор из таблицы x₂ (0,8; 0,1) и выполним такие действия как конкуренция, объединение и подстройка.

Конкуренция. Вычисляем евклидово расстояние между входным вектором x₂ (0,8; 0,1) и векторами весов всех 4-х нейронов выходного слоя

Нейрон 1:

Нейрон 2:

Нейрон 3:

Нейрон 4:

Объединение. Нейроном победителем является Нейрон 2, так как его значение самое наименьшее из всех (0,14)

Подстройка. Поскольку победил 2-й нейрон, то j=2 и для второй записи n=2, при коэффициенте скорости обучения η = 0,5 в соответствии с (1) получим:

w_{i2, новое} = w_{i2, текущее} + 0,5(x_2j – w_{i2, текущее} )

Тогда, для признака Возраст:

w_{12, новое} = w_{12, текущее} + 0,5×(x₂₁ – w_{12, текущее} ) = 0,9+0,5×(0,8 – 0,9) = 0,85

Для признака Доход:

w_{22, новое} = w_{22, текущее} + 0,5×(x₂₂ – w_{22, текущее} ) = 0,2+0,5×(0,1 – 0,2) = 0,15

Берем 3-й вектор из таблицы x₃ (0,2; 0,9) и выполним такие действия как конкуренция, объединение и подстройка.

Конкуренция. Вычисляем евклидово расстояние между входным вектором x₃ (0,2; 0,9) и векторами весов всех 4-х нейронов выходного слоя

Нейрон 1:

Нейрон 2:

Нейрон 3:

Нейрон 4:

Объединение. Нейроном победителем является Нейрон 3, так как его значение самое наименьшее из всех (0,14)

Подстройка. Поскольку победил 3-й нейрон, то j=3 и для третьей записи n=3, при коэффициенте скорости обучения η = 0,5 в соответствии с (1) получим:

w_{i3, новое} = w_{i3, текущее} + 0,5(x_3j – w_{i3, текущее} )

Тогда, для признака Возраст:

w_{13, новое} = w_{13, текущее} + 0,5×(x₃₁ – w_{13, текущее} ) = 0,1+0,5×(0,2 – 0,1) = 0,15

Для признака Доход:

w_{23, новое} = w_{23, текущее} + 0,5×(x₃₂ – w_{23, текущее} ) = 0,8+0,5×(0,9 – 0,8) = 0,85

Берем 4-й вектор из таблицы x₄ (0,1; 0,1) и выполним такие действия как конкуренция, объединение и подстройка.

Конкуренция. Вычисляем евклидово расстояние между входным вектором x₄ (0,1; 0,1) и векторами весов всех 4-х нейронов выходного слоя

Нейрон 1:

Нейрон 2:                              

Нейрон 3:

Нейрон 4:

Объединение. Нейроном победителем является Нейрон 4, так как его значение самое наименьшее из всех (0,1)

Подстройка. Поскольку победил 4-й нейрон, то j=4 и для четвертой записи n=4, при коэффициенте скорости обучения η = 0,5 в соответствии с (1) получим:

w_{i4, новое} = w_{i4, текущее} + 0,5(x_4j – w_{i4, текущее} )

Тогда, для признака Возраст:

w_{14, новое} = w_{14, текущее} + 0,5×(x₄₁ – w_{14, текущее} ) = 0,1+0,5×(0,1 – 0,1) = 0,1

Для признака Доход:

w_{24, новое} = w_{24, текущее} + 0,5×(x₄₂ – w_{24, текущее} ) = 0,2+0,5×(0,1 – 0,2) = 0,15

Таким образом, из проведенного анализа получим итоговую таблицу, содержащую в себе номер кластрера и соответсвующий номер нейрона, который был получен в результате вычислений.

Таблица 2.

Результат вычислений

Список литературы:

1. Кластеризатор на основе нейронной сети Кохонена [Электронный ресурс] – Режим доступа: URL: http://mechanoid.kiev.ua/neural-net-kohonen-clusterization.html (дата обращения: 4.11.16)

2. Нейронные сети [Электронный ресурс] – Режим доступа: URL: http://statsoft.ru/home/textbook/modules/stneunet.html (дата обращения: 3.11.16)

3. Сети и карты Кохонена [Электронный ресурс] – Режим доступа: URL: http://gorbachenko.self-organization.ru/articles/Self-organizing_map.pdf (дата обращения: 31.10.16)