МЕТОДЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ВЫЯВЛЕНИИ ЭКСТРЕМИЗМА В СОЦИАЛЬНЫХ СЕТЯХ

ARTIFICIAL INTELLIGENCE METHODS IN DETECTING EXTREMISM IN SOCIAL NETWORKS

Aleksandr Goman

student, Department of Political Science, Saratov National Research State University named after N.G. Chernyshevsky,

Russia, Saratov

Svetlana Dubrovskaya

scientific supervisor, candidate of political sciences, associate professor, Saratov National Research State University named after N.G. Chernyshevsky,

Russia, Saratov

АННОТАЦИЯ

В статье рассматриваются методы и средства противодействия терроризму и экстремизму в социальных платформах с использованием современных программно-аппаратных средств. Описаны основные типы искусственных нейронных сетей, их функционирование и структурирование. Приводится пример алгоритмов поиска и противодействия терроризму, исследуется их потенциал в отношении другого негативного контента в социальных медиа.

ABSTRACT

The article discusses methods and means of countering terrorism and extremism on social platforms using modern software and hardware. The main types of artificial neural networks, their functioning and structuring are described. An example of algorithms for searching and countering terrorism is given, and their potential in relation to other negative content in social media is explored.

Ключевые слова: программные комплексы, нейронные сети, социальные сети, экстремизм, алгоритмы поиска, терроризм, кибербезопасность.

Keywords: software systems, neural networks, social networks, extremism, search algorithms, terrorism, cybersecurity.

Обеспечение общественной безопасности традиционно определяется как основная цель правоохранительной деятельности государства, в результате чего возникает постоянная необходимость «разработки новых, современных и высокоэффективных методов» противодействия противоправным проявлениям в целом и экстремистским действиям в частности.

Основной целью обеспечения общественной безопасности является эффективность и результативность деятельности правоохранительных органов государства.

Так, Федеральный закон от 25 июля 2002 года «О противодействии экстремистской деятельности» N 114-ФЗ определяет в качестве направлений борьбы с экстремистской деятельностью выявление, предупреждение и пресечение экстремистской деятельности общественных и религиозных объединений, иных организаций, частных лиц.

Таким образом, в современных реалиях большое значение приобретают различные способы выявления проявлений экстремизма в окружающей действительности, среди которых наиболее актуальным является использование технологий искусственного интеллекта для определения материалов экстремистской направленности, размещенных в сети Интернет. Этот метод позволяет выявить проявления экстремизма в окружающей действительности.

Искусственный интеллект — результат технологического развития 20- го века, когда различные научные дисциплины (такие как нейрофизиология, математика, физика, кибернетика и т. д.) объединились, чтобы определить

возникновение совершенно нового подхода к информационным технологиям.

Идея о том, что искусственный интеллект может помочь автоматизировать процесс принятия решений и увеличить нагрузку на людей, создала совершенно новый подход к проблеме обнаружения потенциально опасной информации.

В целом использование искусственного интеллекта в борьбе с противоправными проявлениями осуществляется в различных направлениях, таких как:

• реализация идентификации личности,
• подтверждение полномочий,
• обнаружение компьютерных вирусов и вредоносных программ, - подтверждение источник информации в сети Интернет,
• анализ деятельности преступных сообществ,
• отслеживание интернет-трафика и т.д.

Однако в контексте противодействия экстремизму наиболее эффективным является использование искусственного интеллекта для автоматизации процессов распознавания объектов, особенно в сфере лингвистики.

За счет быстрой обработки данных на основе специально подобранных алгоритмов создаются широкие возможности для разработки интеллектуальных систем информационной безопасности, способных обнаруживать и определять различные виды угроз, в том числе экстремистские.

Для создания систем информационной безопасности необходимо создать систему информационной безопасности, позволяющую обнаруживать и обнаруживать различные виды угроз, в том числе экстремистские.

Экстремистские материалы согласно статье 1 вышеупомянутого закона – это документы, предназначенные для всеобщего обозрения, или информация в других средствах массовой информации, призывающая к экстремистской деятельности либо обосновывающая или обосновывающая необходимость такой деятельности, в том числе Национал-социалистической рабочей партии Германии, произведения лидеров партии Фашистской партии Италии, речи и изображения лидеров групп, организаций или движений, по решению международного военного трибунала признанных преступниками для суда и наказания главных военные преступники европейских стран Оси (Нюрнбергский трибунал), организации, сотрудничавшие с указанными группами, организациями или движениями, лидеры выступлений, изображений, публикаций, оправдывающих или обосновывающих национальное и (или) расовое превосходство, или публикации, оправдывающие практику совершения военных или иные преступления, направленные на полное или частичное уничтожение какой-либо этнической, социальной, расовой, национальной или религиозной группы.

Таким образом, установлены рамки характеристики оценки информационных материалов с целью признания их экстремистскими. Что позволяет использовать искусственный интеллект как инструмент экспертной оценки текстовых материалов для отнесения их к экстремистским.

Власти планируют анализировать профили россиян в социальных сетях с помощью искусственного интеллекта, что вызывает опасения по поводу нарушения неприкосновенности частной жизни. Объявлен конкурс на проект Института системного программирования имени Иванникова стоимостью 36 миллионов рублей.

Аналитический центр при правительстве выделил грант на исследовательский проект, целью которого является разработка технологии с использованием искусственного интеллекта для диагностики психологического профиля человека на основе данных социальных сетей. Цель - борьба с сетевым экстремизмом и групповым мышлением путем распознавания манипулятивного поведения и оценки потенциала сотрудников.

Развитие человеческой цивилизации на протяжении всей истории человечества включает в себя закономерности, такие как использование технологических достижений, которые могут применяться как позитивно (справедливость, порядок), так и негативно (войны, преступность, терроризм).

Тенденция использования Интернета в качестве инструмента распространения экстремизма и терроризма развивается, и появляются новые явления.

Например, террористические группы используют социальные платформы для вербовки и управления террористами-смертниками, а также для взлома правительственных сайтов, кражи средств с электронных счетов граждан и финансирования атак с помощью криптовалюты.

Терроризм и экстремизм перемещаются из физического мира в виртуальный. Современное общество является цифровым и информационным, в нем используются международные коммуникационные технологии и цифровые средства связи. Сегодня интернет-ресурсами пользуются около 4,66 миллиарда человек.

Около 4,2 миллиарда человек пользуются социальными платформами, из них 106 миллионов россиян [1].

Средняя продолжительность ежедневного использования интернета составляет 7 часов 50 минут [2].

Интернет позволяет быстро и эффективно доставлять информацию с минимальным риском.

Террористические организации используют более 10 000 сайтов и 100 000 аккаунтов в социальных сетях в России для совершения киберпреступлений и распространения ложных ценностей [3].

В России самыми популярными социальными сетями среди активных пользователей являются WhatsApp и VK - 80,9 % и 76,4 % соответственно. Другие сети, такие как Instagram, Telegram и TikTok, пользуются меньшим спросом [4].

Террористическая деятельность в социальных сетях направлена на распространение радикальных ценностей, прославление террористов и терактов, распространение негативной информации. Они также занимаются вербовкой и радикализацией пользователей, получением финансовой поддержки и пассивной радикализацией граждан.

Террористы используют социальные сети для распространения радикальных ценностей, прославления террористов и терактов, распространения негативных материалов. Они стремятся радикализировать пользователей, заручиться поддержкой и финансировать свою деятельность, а также саморадикализировать граждан для продвижения деструктивных идей.

Для ограничения онлайн-контента предлагаются законодательные и программно-аппаратные методы.

Законодательный метод предполагает корректировку правил размещения информации в Интернете и социальных сетях. Программно- аппаратный метод использует комплексы (APC) для анализа и блокировки запрещенного контента, определяя его источник.

Каждый метод управления негативным контентом в Интернете не может использоваться изолированно для достижения высокой эффективности.

Необходима комбинация методов: один основной и два вспомогательных.

Программно-аппаратный подход эффективен для ограничения распространения негативного контента и выявления его источника при минимальном участии человека.

Программно-аппаратный метод (HSM) противодействует экстремизму и терроризму в Интернете и социальных сетях, используя специализированное программное обеспечение и устройства для блокировки негативного контента и его источников.

Эффективности поиска, анализа и блокировки негативного контента в сети мешают устаревшие процедуры, неточная блокировка ресурсов без анализа и задержка модернизации технологий для борьбы с возникающими угрозами, о чем свидетельствуют ошибки Роскомнадзора в 2018 году [5].

Основной принцип поиска и анализа негативного контента в социальных сетях с помощью AIC заключается в накоплении и анализе количественных показателей данных [6].

Для этого используются блоки:

1. анализ опубликованных материалов на наличие негативного контента, по ключевым словам, (терроризм, убийство и т. д.) для определения процентного соотношения и смысловой нагрузки ключевых слов.
2. такие источники имеют свои недостатки, включая устаревшие или ограниченные ключевые слова, ошибки анализа и неправильную оценку семантической нагрузки, что затрудняет точное понимание опубликованного материала.
3. администраторы социальных сетей и сотрудники органов внутренних дел проводят инициативные проверки и мониторинг, но эти проверки часто бывают выборочными и в силу своих возможностей не могут своевременно охватить весь поток информации.

Получив набор показателей материала из нескольких источников, AIC решает, отправить ли данные на сайт обработки или напрямую администратору социальной сети для принятия решения.

Администратор оценивает контент на основе качественных показателей, таких как смысл и эмоциональная окраска, что часто дает точные результаты. В отличие от этого, AIC использует количественные показатели, такие как количество жалоб и соотношение ключевых слов, что может привести к ошибкам.

На заключительном этапе обработки материала принимается решение о блокировке материала и источника, но не всегда. Для повышения эффективности и обновления базы данных можно использовать искусственные нейронные сети, построенные на основе биологических моделей со связанными и взаимодействующими программными модулями [7].

AIC-INS помогает принимать разумные решения, изучая и моделируя сложные входные и выходные данные, чтобы обобщать и делать выводы. Она состоит из трех уровней: входной слой получает и обрабатывает информацию, скрытый слой анализирует, а выходной слой представляет результаты.

Входной слой анализирует данные, классифицирует их и отправляет на следующий слой. Скрытые слои обрабатывают полученные данные, анализируют и отправляют их на следующий слой. Количество скрытых слоев зависит от сложности и задач. Выходной слой выдает окончательный результат анализа.

Выходной слой ИНС может иметь один или несколько узлов в зависимости от требуемого результата. Для решения сложных задач, в том числе анализа больших потоков данных, поиска негативного контента и определения источников, используются ИНС глубокого обучения, имеющие несколько скрытых слоев с миллионами связанных модулей [8].

ANNS могут соответствовать различным входным и выходным сигналам, но требуют более полного обучения. Для этого требуются миллионы обучающих образцов, что увеличивает время обучения. Однако способность AIC-INS к самообучению позволяет своевременно обновлять базу данных и совершенствовать методы обнаружения и блокировки негативного контента в Интернете.

Ключевым преимуществом AIC-INS является способность к самообучению, что позволяет ему выявлять зависимости между входными и выходными данными и выполнять обобщение посредством обработки ANN [9].

ANN может давать точные результаты, анализируя невидимые данные или используя искаженную входную информацию после достижения положительных результатов обучения.

Процесс обучения AIC-INS можно разбить на 9 этапов: сбор, подготовка и выбор исходных данных; определение топологии и характеристик сети; процесс обучения ANN; проверка, настройка параметров и окончательное обучение; вербализация ANN для дальнейшего использования.

AIC-INS обладает отличительной особенностью, но также и недостатком - она требует процесса обучения, который может быть неудачным из-за неполноты входных данных. Несмотря на это, AIC-INS является перспективной разработкой ИИ, успешно решающей различные задачи, включая расшифровку древних текстов и распознавание лиц в социальных сетях.

Бесплатный сервис FindFace использует ANN для анализа фотографий и поиска по профилям VK [10].

Борьба с экстремизмом и терроризмом в интернете и социальных сетях

- это высокотехнологичный подход с использованием APM и вспомогательных методов.

APK-INS интегрируется с социальными сетями и использует AIC-INS, расширенные административные права и самообучение для оперативного отслеживания и блокировки негативного контента, его источника и радикальных групп/страниц с минимальным участием человека и максимальной эффективностью.

Поскольку AIC-INS выявляет и блокирует негативный контент, он становится более эффективным в цифровом информационном обществе, что является перспективным параметром. Развитие искусственных нейронных сетей является приоритетным направлением в области ИИ, в том числе в органах внутренних дел.

Таким образом, система APKINS значительно повысит качество информации для правоохранительных органов, особенно в части борьбы с негативным и запрещенным контентом, что положительно скажется на противодействии экстремизму и терроризму в социальных сетях.

Использование технологических разработок, в том числе систем искусственного интеллекта и распознавания, против террористической угрозы и экстремизма уже давно реализуется во всем мире. Например, в аэропортах Европы террористов будут обнаруживать роботизированные системы, а в России в этом году во время чемпионата мира по футболу спецслужбы пресекли несколько попыток терактов с использованием дронов и квадрокоптеров.

По мнению авторов проекта системы противодействия терроризму в Интернете, использование искусственного интеллекта может сделать борьбу с экстремистскими элементами действительно эффективной. Среди них ученые подчеркивают, что за рубежом уже активно пытаются внедрять подобные системы, основанные на анализе поведения пользователя в социальных сетях или даже прогнозирующие его возможное поведение.

Одной из задач этого проекта является расширение возможностей специалистов по борьбе с экстремизмом и терроризмом. Исследование поможет выявить потенциально опасные для общества субъекты. Такие интеллектуальные системы могут помочь прогнозировать поведение опасных для общества людей, а также разработать комплекс необходимых профилактических мер.

Помимо обеспечения безопасности и выявления экстремистских и криминальных элементов, такие интеллектуальные системы могут использоваться в проектах по обеспечению общей кибербезопасности, повышению боеспособности вооруженных сил страны, а также для предотвращения и своевременной ликвидации техногенных и природных явлений.

Современным примером использования таких технологий стало сообщение ГРЧЦ РФ о тестировании систем «Вепрь» и Oculus, целью которого является обнаружение возможных угроз в Интернете. Созданное решение выявляет нарушения законодательства РФ не только в текстах, но и в изображениях и видео. Кроме того, эти алгоритмы можно использовать и для прогнозирования дальнейшего распространения деструктивных веществ.

Таким образом, использование ИИ для противодействия экстремизму в информационном обществе - актуальная и эффективная мера. Если правоохранительные органы могут принимать окончательные решения по классификации экстремистских материалов, то ИИ может выявлять такие материалы и действия с широкими перспективами. Его сигнальная функция может эффективно выявлять экстремистские материалы, создавая механизмы противодействия экстремизму в Интернете.

Список литературы:

1. Цифра дня: сколько человек в мире пользуются Интернетом [Электронный ресурс]. URL: https://news.rambler.ru/internet/45705599- tsifra-dnya-skolko-chelovek-v-mire- polzuyutsyainternetom/ (дата обращения: 11.10.2024).
2. Глобальная статистика и тренды [Электронный ресурс]. URL: https://www.webcanape.ru/business/internet-2020-globalnaya-statistika-i-trendy/ (дата обращения: 11.10.2024).
3. XVI совещание руководителей спецслужб, органов безопасности и правоохранительных органов [Электронный ресурс]. URL: https://www.pnp.ru/politics/v- socsetyakh-deystvuyut-neskolko-soten-tysyach-akkauntov-terroristov-zayavil-bortnikov.html (дата обращения: 11.10.2024).
4. Отчет Digital 2022 Global Overview [Электронный ресурс]. URL: https://vc.ru/marketing/ 383351-samyy-svezhiy-otchet-digital-2022-globaloverview (дата обращения: 11.10.2024).
5. Как устроены алгоритмы соцсетей и поисковых систем [Электронный ресурс]. URL: https://stranaonline.ru/read-blog/280_kak-ustroeny-algoritmy-socsetej-i- poiskovyhsistem.html (дата обращения: 11.10.2024).
6. В Роскомнадзор поступило 46 тысяч жалоб на ошибочную блокировку интернетадресов [Электронный ресурс]. URL: https:// www.interfax.ru/russia/611580 (дата обращения: 11.10.2024).
7. Искусственная нейронная сеть [Электронный ресурс]. URL: https://dic.academic.ru/ dic.nsf/ruwiki/13889 (дата обращения: 11.10.2024).
8. Что такое нейронная сеть? [Электронный ресурс]. URL: https://aws.amazon.com/ru/ what-is/neural-network/ (дата обращения: 11.10.2024).
9. Как работает нейронная сеть: алгоритмы, обучение, функции активации и потери [Электронный ресурс]. URL: https://neurohive.io/ ru/osnovy-data-science/osnovy-nejronnyh- setej-algoritmy-obuchenie-funkcii-aktivacii-i-poteri/ (дата обращения: 11.10.2024).
10. Нейронные сети: практическое применение [Электронный ресурс]. URL: https:// habr.com/ru/post/322392/ (дата обращения: 11.10.2024).