КОНТЕНТНАЯ ФИЛЬТРАЦИЯ В СОЦИАЛЬНЫХ СЕТЯХ

CONTENT FILTRATION IN SOCIAL NETWORK

Alexey Rodin

student, Department of Mathematics, Information Systems and Software, Murmansk state technical University,

Russia, Murmansk

Vladimir V. Kovalchuk

Doctor of Technical Sciences, associate professor, Murmansk state technical University,

Russia, Murmansk

АННОТАЦИЯ

В статье обозначена проблема контентной фильтрации в социальных сетях, описана структура фильтрации Интернет-трафика в российском сегменте Интернета, а также представлены предпосылки разработки ИТ-решения по поиску и блокировке запрещённого контента в социальных сетях.

ABSTRACT

The article identifies the problem of content filtering in social networks, describes the structure of filtering Internet traffic in the Russian segment of the Internet, and also presents the prerequisites for developing an IT solution for searching and blocking prohibited content in social networks.

Ключевые слова: социальная сеть; контент; фильтрация; искусственный интеллект; федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникации; операторы связи.

Keywords: social network; content filtration; artificial Intelligence; federal service for supervision of communications, information technology and mass communications; telecom operators.

Фильтрацию контента в социальных сетях корректно рассматривать в рамках общей структуры контентной фильтрации в российском сегменте Интернета.

На данный момент фильтрация Интернет-трафика в российском сегменте Интернета выглядит следующим образом:

1. Законы, нормативно-правовые акты и постановления Российской Федерации определяют, какой контент является запрещённым и подлежит блокировке в сети Интернет;

2. Руководствуясь действующим законодательством операторы связи и социальные сети блокируют запрещённые материалы. При этом, операторы связи могут запрещать доступ не только к целым Интернет-ресурсам, но и к отдельным веб-страницам социальных сетей;

3. Социальные сети борются с противоправным контентом при помощи модераторов и внутренних инструментов сети, т.е. искусственного интеллекта;

4. Операторы связи используют для блокировки доступа к Интернет-ресурсам и отдельным веб-страницам в социальных медиа, содержащим запрещённый контент, специальное программно-аппаратное обеспечение (DPI-решения);

5. Контроль за исполнением действующего законодательства операторами связи и социальными сетями осуществляет федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникации (Роскомнадзор), при помощи автоматизированной системы «Ревизор» для провайдеров;

6. Операторы связи и социальные сети выполняют предписания не только Роскомнадзора, но и других правовых инстанций, обязующих блокировать определённые веб-страницы или Интернет-ресурсы.

Наглядно эта структура контентной фильтрации в российском сегменте Интернета представлена на рисунке ниже.

Рисунок 1. Структура контентной фильтрации в российском сегменте Интернета

Проблема запрещённого контента при всех мерах, применяемых операторами связи, законодательством, социальными сетями, не решается полностью. При блокировке одного запрещённого веб-ресурса появляется его аналог, который существует до тех пор, пока он не будет проиндексирован поисковой системой и определён, как запрещённый, вредоносный и внесён в единый реестр запрещённых сайтов Роскомнадзором, а дальше заблокирован оператором связи. Такой же алгоритм работает и с веб-страницами в соц. сетях. И применение искусственного интеллекта для поиска и ликвидации запрещённого контента не является панацеей от проблемы, потому, как и в этом случае имеются недостатки, например: «… в докладе, который был опубликован компанией Facebook сказано о том, что за первый квартал 2018 года они смогли выловить 1.9 млн публикаций, пропагандирующих терроризм. В заявлении отметили, что 99.5% террористических публикаций были найдены без участия пользователей. Кроме того, большая часть подобного контента была обнаружена искусственным интеллектом. Однако сколько процентов 1.9 млн публикаций составляет от всего террористического контента в Facebook – неизвестно» [1], и это при всём при том, что «… Facebook сообщает, что большая часть удаленного пропагандистского контента является повторами ранее удаленных материалов» [1]. Аналогично обстоит ситуация и в отечественных социальных сетях.

В следствие этого можно сделать вывод о том, что «…блокируется не первоисточник запрещённого контента, а лишь его дубликат, что не решает проблему возникновения такого рода контента. К этому стоит добавить несовершенство искусственного интеллекта и машинного обучения в целом т. к. время от времени нейросеть удаляет и материалы, которые никакого отношения к запрещённой информации не имеет» [2].

Также исходя из того, что контент в социальных сетях создаётся по принципу Web 2.0, т. е. контент агрегируется самими пользователями, что означает свободное распространение информации. Получается так, что остается достаточно много пространства в сети, как для распространения легальной информации, так и для запрещённых сведений. Проследить цепочку нарушений можно, но проблематично найти их в большом объеме информации, которая производится ежесекундно [3].

Ещё одной важной предпосылкой для создания системы является национальная программа «Цифровая экономика Российской Федерации», в рамках её информационной безопасности предусмотрено «…введение в эксплуатацию системы фильтрации интернет-трафика при использовании информационных ресурсов детьми» [4], что означает поддержку подобных разработок со стороны государства.

Исходя из вышеизложенного, вытекает актуальность разработки решения, которое поможет исправить проблему запрещённого контента в социальных сетях.

Список литературы:

1. Проблемы использования искусственного интеллекта в борьбе с терроризмом в социальных сетях [Электронный ресурс] – Режим доступа: – URL: https://hype.ru/@id3153/problemy-ispolzovaniya-iskusstvennogo-intellekta-v-borbe-s-terrorizmom-v-socialnyh-setyah-rn4lh717 (Дата обращения 09.06.2020);
2. Facebook объяснила ошибкой удаление снимков знамени Победы над Рейхстагом [Электронный ресурс] – Режим доступа: – URL: https://regnum.ru/news/society/2944418.html (Дата обращения 02.06.2020);
3. Девербализация контента в социальных сетях, влияние на жанры современной медийной культуры [Электронный ресурс] – Режим доступа: – URL: https://cyberleninka.ru/article/n/deverbalizatsiya-kontenta-v-sotsialnyh-setyah-vliyanie-na-zhanry-sovremennoy-mediynoy-kultury/viewer (Дата обращения 28.05.2020);
4. Паспорт федерального проекта «Информационная безопасность» национальной программы «Цифровая экономика Российской Федерации» [Электронный ресурс] – Режим доступа: –URL: http://www.tadviser.ru/images/7/79/%D0%A3%D1%82%D0%B2_%D0%A4%D0%9F_4_%D0%A4%D0%9F_%D0%98%D0%91.pdf (Дата обращения 22.05.2020).