Телефон: +7 (383)-202-16-86

Статья опубликована в рамках: XXV Международной научно-практической конференции «Инновации в науке» (Россия, г. Новосибирск, 07 октября 2013 г.)

Наука: Математика

Скачать книгу(-и): Сборник статей конференции

Библиографическое описание:
Иванов В.К. ОСНОВНЫЕ ШАГИ ГЕНЕТИЧЕСКОГО АЛГОРИТМА ФИЛЬТРАЦИИ РЕЗУЛЬТАТОВ ТЕМАТИЧЕСКОГО ПОИСКА ДОКУМЕНТОВ // Инновации в науке: сб. ст. по матер. XXV междунар. науч.-практ. конф. № 9(22). – Новосибирск: СибАК, 2013.
Проголосовать за статью
Дипломы участников
У данной статьи нет
дипломов
Статья опубликована в рамках:
 
Выходные данные сборника:


 


ОСНОВНЫЕ  ШАГИ  ГЕНЕТИЧЕСКОГО  АЛГОРИТМА  ФИЛЬТРАЦИИ  РЕЗУЛЬТАТОВ  ТЕМАТИЧЕСКОГО  ПОИСКА  ДОКУМЕНТОВ


Иванов  Владимир  Константинович


канд.  техн.  наук,  доцент,  директор  Центра  научно-образовательных  электронных  ресурсов  Тверского  государственного  технического  университета,  г.  Тверь


E-mail: 


 


BASIC  STEPS  OF  GENETIC  ALGORITHM  FOR  FILTERING  OF  DOCUMENTS  SEARCH  RESULTS


Vladimir  Ivanov


candidate  of  Science,  Assistant  professor,  Director  of  Center  of  eScience&Learning  of  Tver  State  Technical  University,  Tver

 

АННОТАЦИЯ

В  статье  представлены  основные  особенности  предложенного  автором  подхода  к  организации  поисковых  запросов  и  фильтрации  результатов  поиска  документов,  основанного  на  использовании  идей  генетических  алгоритмов.  Описываются  основные  шаги  модифицированного  генетического  алгоритма,  предлагаются  решения,  учитывающие  специфику  поисковых  процедур.  Обсуждаемый  подход  является  частью  исследований  проекта  интеллектуальной  системы  информационной  поддержки  инноваций  в  науке  и  образовании.

ABSTRACT

The  article  represents  the  main  features  of  the  proposed  approach  to  organization  of  search  queries  and  filtering  of  documents  search  results.  This  approach  based  on  the  genetic  algorithms  and  describes  the  main  steps  of  the  modified  genetic  algorithm,  proposed  solutions,  tailored  to  the  search  procedures.  The  considered  algorithm  is  one  of  the  elements  of  an  intelligent  system  of  information  support  of  innovation  in  science  and  education.

 

Ключевые  слова:  генетический  алгоритм,  поисковый  запрос,  релевантность,  фильтрация,  ранжирование,  популяция,  скрещивание,  мутация,  селекция,  приспособленность.

Keywords:  genetic  algorithm,  search  query,  relevancy,  filtering,  ranking,  population,  crossover,  mutation,  selection,  fitness.

 

Введение.  Одним  из  видов  поиска  в  Интернет  является  поиск  достаточной  информации  о  каком-либо  объекте  или  явлении.  В  отличие  от  поиска  определенных  сведений  и  фактов,  касающихся  отдельных  сторон  искомой  сущности,  решить  нетривиальную  задачу  формулировки  поискового  запроса  для  подбора  релевантных  документов  непросто  (иногда,  может  быть,  и  невозможно).  Например,  требуется  узнать  экономические  показатели  шахты  ОАО  «Распадская»  за  первое  полугодие  2013  год?  Используя  эту  фразу  в  качестве  поискового  запроса,  можно  получить  релевантный  ответ  в  первом  десятке  результатов  поиска  Google.  Но  как  подобрать  материалы,  например,  для  анализа  научно-технических,  экономических  и  социальных  факторов  влияния  на  угледобычу  в  восточных  районах  России?

Для  решения  подобных  задач  пользователи  вынуждены  применять  множество  сочетаний  ключевых  слов  и  понятий,  уточняя  их  в  ходе  анализа  промежуточных  результатов.  Неочевидно,  что  при  этом  будет  строго  использована  какая-либо  обоснованная  методика.  В  ходе  поиска  неизбежно  встает  ряд  вопросов.  Как  совместно  оценить  релевантность  документов,  найденных  разными  запросами?  Как  отфильтровать  документы,  не  относящиеся  по  сути  к  искомой  тематике?  Все  ли  релевантные  документы  будут  показаны  в  результатах  поиска?  Правильно  ли  определялась  релевантность  документов?  Невозможно  однозначно  ответить  на  эти  вопросы  в  рамках  тривиальных  решений.

В  настоящей  статье  описываются  основные  особенности  предложенного  автором  подхода  к  организации  поисковых  запросов  и  фильтрации  результатов  поиска  документов,  основанного  на  использовании  идей  генетических  алгоритмов.

Работы  проводились  при  финансовой  поддержке  РФФИ  (договор  №  НК13-07-00342\13).  Они  являются  частью  исследований,  касающихся  проектных  спецификаций  модулей  интеллектуальной  системы  информационной  поддержки  инноваций  в  науке  и  образовании  [1].

Постановка  задачи.  Предположим,  что  задано  множество  ключевых  слов  ,  которые  формируют  поисковый  образ  документа  (ПОД).  Например,  .  Любой  поисковый  запрос    может  быть  сформирован,  как  некоторая  совокупность  ключевых  слов  из  множества  .  Результатом  выполнения  запроса  в  какой-либо  поисковой  системе  является  некоторое  множество  адресов  найденных  документов.  Очевидно,  что  множества  результатов  различных  запросов  могут  пересекаться.

Задача  состоит  в  том,  чтобы  из  множеств  результатов,  полученных  после  выполнения  нескольких  запросов,  выбрать  такое  множество  адресов  документов  (целевое  множество  результатов  поиска),  которое  будет  наиболее  релевантным  заданному  ПОД.

Можно  предположить,  что  целевое  множество  результатов  поиска  с  большой  вероятностью  должно  формироваться  такими  адресами  документов,  которые  (а)  находятся  в  первых  позициях  ранжированного  списка,  построенного  поисковой  системой,  и  (б)  присутствуют  в  списках  результатов,  полученных  при  выполнении  всех  или  большинства  запросов.

Опишем  подход  к  решению  этой  задачи  с  помощью  генетического  алгоритма.  Отметим,  что  теория  и  практика  применения  генетических  алгоритмов  —  «адаптивных  поисковых  методов,  основанных  на  селекции  лучших  элементов  в  популяции»  [2]  —  в  настоящее  время  является  обширным  направлением  в  решении  задач  оптимизации  и  моделирования.

Исходная  популяция.  Предположим,  что  исходная  популяция  будет  состоять  из  особей  —  поисковых  запросов.  Пусть  каждый  поисковый  запрос  образуется  парой  ключевых  слов  (генов).  В  этом  случае  исходную  популяцию  из    запросов  можно  представить  множеством  ,  где    —  случайно  образованная  пара  и  .

Количество  запросов  в  исходной  популяции    является  параметром  алгоритма  и  должно  быть  задано.

Целевая  функция.  Значения  целевой  функции  должны  определять  приспособленность  особей  популяции.  В  нашем  случае  приспособленность  особи  может  быть  интерпретирована  как  способность  соответствующего  поискового  запроса  сгенерировать  такие  результаты,  которые  попадают  в  следующее  поколение  популяции.

Пусть  —  частота  появления  адреса  документа  в  результатах  выполнения    поисковых  запросов,  вычисляемая  следующим  образом:  ,  где    —  количество  появлений  адреса  документа  в  результатах  выполнения    поисковых  запросов.  Отметим,  что  ,  а  также  ,  если  адрес  документа  появился  в  результатах  выполнения  всех  запросов.

Далее,  пусть    —  позиция  в  списке  первых    результатов  выполнения  поискового  запроса  ,  а    —  средний  номер  позиции  адреса  документов  в  списке  результатов  выполненных  поисковых  запросов,  где  данный  адрес  документа  присутствует.  Тогда  ,  где    —  число  запросов,  в  результатах  которых  присутствует  данный  адрес  документа.

Для  нормировки    на  диапазон  от  0  до  1  можно  использовать  линейное  преобразование  ,  где    —  нормированное  значение    и    —  соответственно  минимальное  и  максимальное  значения    из  всех  рассчитанных  на  текущем  шаге,  .

Вес  каждого  результата,  полученных  после  выполнения  всех  запросов  можно  вычислить  по  следующей  формуле:  .  Значение    определяет  позицию    результата  в  общем  для  всех  запросов  списке  результатов.

Значение  целевой  функции  для  каждого  запроса  (приспособленность  особи)  вычисляется  как  средний  вес  результатов  запроса  ,  где    —  количество  адресов  документов,  рассматриваемых  как  результат  поискового  запроса.  Эта  величина  является  параметром  алгоритма  и  должна  быть  задана.

Селекция  особей.  Операция  селекции  должна  обеспечивать  участие  в  формировании  следующего  поколения  только  тех  особей,  у  которых  значение  целевой  функции    не  меньше  некоторой  пороговой  величины.  Например,  среднего  значения    по  текущей  популяции:  ,  где    —  значение  целевой  функции  (приспособляемости  особи)  для  каждого  из    запросов.

Выбор  родительских  пар.  Здесь  целесообразно  использовать  метод  генотипного  аутбридинга.  Первая  родительская  особь  выбирается  случайно,  а  второй  особью  будет  являться  максимально  «далекая»  от  первой.  Расстояние  между  особями  может  быть  вычислено  как  .  Такой  подход  позволит  обеспечить  максимально  полное  участие  всех  текущих  запросов  в  формировании  следующего  поколения  запросов.

Скрещивание.  Как  указывалось  выше,  каждая  особь  (поисковый  запрос)  популяции  состоит  из  пары  ключевых  слов,  то  есть  .  Отметим,  что  каждому  ключевому  слову    соответствует  множество  его  синонимов  .  Для  скрещивания  будем  применять  операцию  дискретной  рекомбинации,  которая  соответствует  обмену  генами  между  особями  (в  нашем  случае  обмену  ключевыми  словами  между  запросами). 

Особенность  предлагаемой  реализации  операции  скрещивания  состоит  в  том,  что  ключевое  слово    запроса-родителя  замещается  не  ключевым  словом  другого  запроса-родителя,  а  его  синонимом  .  Это  позволяет  генерировать  существенно  больше  запросов-потомков  при  сохранении  свойств  (семантики)  запросов-родителей.

Проиллюстрируем  предлагаемую  реализацию  операции  скрещивания  на  примере.  Пусть  на  предыдущем  шаге  алгоритма  отобраны  две  родительских  пары:    и  .

Пусть  для  запроса-потомка    в  качестве  первого  гена  отобран  второй  ген  первого  запроса-родителя,  а  в  качестве  второго  гена  –  первый  ген  второго  запроса-родителя.  Тогда,  в  результате  скрещивания  с  учетом  синонимии  можем  получить  следующий  запрос  .

Мутация.  Суть  мутации  в  рассматриваемом  подходе  заключается  в  изменении  случайно  выбранного  гена  в  особи  (ключевого  слова  запроса).  Вероятность  мутации    может  быть  фиксированным  случайным  числом  на  отрезке  [0;  1].  Как  правило, 

Далее,  поскольку  число  ключевых  слов  в  запросе    фиксировано,  невозможно  применение  таких  операторов  мутации,  как:  присоединение  нового  гена,  вставка  нового  гена,  удаление  гена.  Также,  обмен  местами  членов  пары    в  контексте  выполнения  поисковых  запросов  лишен  смысла. 

Поэтому  наиболее  адекватной  операцией  мутации  можно  считать  замена  ключевого  слова  в  запросе  (или  гена  в  особи).  В  этом  случае  порядок  шагов  мутации  особи  может  быть  таким:

·     Для  каждого  запроса  замена  с  вероятностью    случайного  ключевого  слова  запроса  его  синонимом. 

·     Если  на  предыдущем  шаге  мутация  не  произошла,  то  замена  с  вероятностью    случайного  ключевого  слова  запроса  ключевым  словом,  случайно  выбранным  из  множества  .

Вычисление  значений  целевой  функции.  Вычисление  значений  целевой  функции  для  запросов  проиллюстрируем  на  примере.  Пусть  исходная  популяция  включает  три  запроса:  ,  а  значение 

Результаты  выполнения  этих  запросов  могут  быть  сведены  в  табл.  1


Таблица  1.


Результаты  выполнения  этих  запросов

Адреса  найденных  документов

1

<адрес  1>

<адрес  4>

<адрес  1>

2

<адрес  2>

<адрес  1>

<адрес  4>

3

<адрес  3>

<адрес  2>

<адрес  5>

 

Результаты  расчетов  промежуточных  параметров  целевой  функции  представлены  в  табл.  2,  а  значения  целевой  функции  для  запросов  –  в  табл.  3.

Таблица  2.


Промежуточные  параметры  целевой  функции

Адреса  документов

<адрес  1>

3

1,33

1

1

1

1

<адрес  2>

2

2,50

0,299

0,667

0,483

3

<адрес  3>

1

3,00

0

0,333

0,167

4

<адрес  4>

2

1,50

0,898

0,667

0,782

2

<адрес  5>

1

3,00

0

0,333

0,167

5

 


Таблица  3.


Значения  целевой  функции  для  запросов

0,550

0,755

0,650

 

Ясно,  что  запрос    —  наименее  приспособленная  особь  и  не  будет  включена  в  следующую  популяцию.

Предположим  далее,  что  после  выполнения  операций  отбора  родителей,  скрещивания  и  мутации  был  получен  запрос  ,  который  заменил  запрос    в  популяции.  Результаты  выполнения  запроса    таковы  (позиции    сохранены):  <адрес  6>,  <адрес  1>,  <адрес  2>.  Результаты  расчетов  промежуточных  параметров  целевой  функции  на  следующем  проходе  алгоритма  представлены  в  табл.  4,  а  значения  целевой  функции  для  запросов  —  в  табл.  5.

Таблица  4.


Промежуточные  параметры  целевой  функции  (2  проход)

Адреса  документов

<адрес  1>

3

1,67

0,667

1,000

0,833

1

<адрес  2>

2

3,00

0,000

0,667

0,333

4

<адрес  4>

2

1,50

0,750

0,667

0,708

2

<адрес  5>

1

3,00

0,000

0,333

0,167

5

<адрес  6>

1

1,00

1,000

0,333

0,667

3

 


Таблица  5.


Значения  целевой  функции  для  запросов  (2  проход)

0,611

0,625

0,569

 

Теперь  наименее  приспособленная  особь  —  запрос  ,  который  исключается  из  числа  претендентов  на  попадание  в  следующую  популяцию.

Формирование  новой  популяции.  Может  быть  использован  элитарный  отбор  —  метод,  который  не  допускает  потерю  лучших  решений.  Создается  промежуточная  популяция,  которая  включает  в  себя  как  родителей,  так  и  их  потомков.  Из  всех  членов  этой  популяции  выбираются    с  лучшими  значениями  целевой  функции  .  Селектированные  запросы  войдут  в  следующее  поколение.

Условие  остановки  алгоритма.  В  общем  случае,  условием  остановки  алгоритма  можно  считать  стабильность  популяции.  Критерием  может  быть  достижение  среднеквадратичным  отклонением    значений  целевой  функции  (пригодности  запросов)    некоторой  пороговой  величины  ,  задаваемой  параметром  алгоритма:  .

В  предельном  случае  процесс  выполнения  алгоритма  может  продолжаться  до  тех  пор,  пока  значения    не  станут  одинаковыми  для  всех    запросов  в  популяции.

В  частных  случаях  алгоритм  может  быть  остановлен  после  получения  определенного  числа  новых  популяций,  заданного  как  параметр.

Заключение.  Таким  образом,  в  настоящей  статье  описаны  важные,  по  мнению  автора,  особенности  использования  генетического  алгоритма  для  фильтрации  результатов  тематического  поиска  документов.  Например,  при  выполнении  обзоров  источников  коммерческой,  научно-технической,  социальной  информации  в  заданной  сфере,  подборке  материалов  для  патентных  исследований,  поиске  описаний  инновационных  решений  в  отрасли,  определении  характеристик  новых  областей  и  направлений  при  бизнес-планировании.

Развивая  предложенный  подход,  можно  зафиксировать  две  ключевых  задачи,  решение  которых  позволит  применить  разработанную  технологию  в  поисковых  системах.  Во-первых,  необходимо  произвести  настройку  (обучение)  алгоритма,  подобрав  эффективные  значения  его  параметров.  Во-вторых,  выполнить  проверку  качества  алгоритма  с  использованием  современных  метрик  оценки  качества  поиска  и  методик  их  применения  (см.,  например,  [3]).

 


Список  литературы:

1.Иванов  В.К.  Архитектура  интеллектуальной  системы  информационной  поддержки  инноваций  в  науке  и  образовании  /  В.К.  Иванов,  Б.В.  Палюх,  А.Н.  Сотников  //  Программные  продукты  и  системы.  Тверь,  2013.  —  №  4.

2.Гладков  Л.А.,  Курейчик  В.В.,  Курейчик  В.М.  Генетические  алгоритмы  /  Под  ред.  В.М.  Курейчика.  2-е  изд.,  испр.  и  доп.  М.:  Физматлит,  2006.  —  320  с.

3.Российский  семинар  по  Оценке  Методов  Информационного  Поиска.  Труды  РОМИП  2010  Приложение  А.  Официальные  метрики  /  М.  Агеев,  И.  Кураленок,  И.  Некрестьянов.  Казань,  2010.  —  С.  172—187.  [Электронный  ресурс].  —  Режим  доступа  —  URL:  http://romip.ru/romip2010/20_appendix_a_metrics.pdf

Проголосовать за статью
Дипломы участников
У данной статьи нет
дипломов

Оставить комментарий

Уважаемые коллеги, издательство СибАК с 30 марта по 5 апреля работает в обычном режиме