ДИПФЕЙКИ КАК ИНСТРУМЕНТ ИНФОРМАЦИОННОГО ВОЗДЕЙСТВИЯ В СИСТЕМЕ УПРАВЛЕНИЯ ОБЩЕСТВЕННЫМ МНЕНИЕМ ОНЛАЙН-ОБРАЗОВАТЕЛЬНЫХ ПЛАТФОРМ

DEEPFAKES AS A TOOL OF INFORMATIONAL INFLUENCE IN THE SYSTEM OF PUBLIC OPINION MANAGEMENT OF ONLINE EDUCATIONAL PLATFORMS

Victoria Igorevna Seliverstova

Student, Media Communications, Institute “First Academy of Media”, Plekhanov Russian University of Economics,

Russia, Moscow

Pyotr Vitalyevich Menshikov

Scientific supervisor, Candidate of Economic Sciences, Associate Professor, Plekhanov Russian University of Economics,

Russia, Moscow

АННОТАЦИЯ

Статья раскрывает феномен дипфеков - новых технологий, которые дают возможность создавать и фальсифицировать фото и видео материалы при помощи искусственного интеллекта, также, представлены классификации данных видов. Автор отмечает, что в последние годы тема дипфейков становится все более актуальной и позволяет оказывать значительное влияние на общество. В статье выделены цели создания дипфейков, к которым относят: коммуникационные, дискредитирующие и рекреационные. Благодаря дипфейкам становится возможным вводить людей в заблуждение, пропагандировать различные мысли в широкие массы. Также, уделяется внимание и последствиям таких «манипуляций»: создание конфликтных ситуаций и недоверие граждан к источникам информации. Статья охватывает некоторые правовые и этические аспекты дипфейков, отмечая важность создания и развития существующих правовых баз для эффективной защиты от негативных последствий.

ABSTRACT

The article reveals the phenomenon of deepfakes, new technologies that make it possible to create and falsify photo and video materials using artificial intelligence, and also presents classifications of these types. The author notes that in recent years, the topic of deepfakes has become increasingly relevant and allows it to have a significant impact on society. The article highlights the goals of creating deepfakes, which include: communication, defamatory and recreational. Thanks to deepfakes, it becomes possible to mislead people and promote various ideas to the masses. Attention is also paid to the consequences of such "manipulations": the creation of conflict situations and citizens' distrust of information sources. The article covers some legal and ethical aspects of deepfakes, noting the importance of creating and developing existing legal frameworks to effectively protect against negative consequences.

Ключевые слова: инструмент воздействия, дипфейки, дипфейки в зарубежных странах, виды дипфейков.

Keywords: impact tool, deepfakes, deepfakes in foreign countries, types of deepfakes.

Современный мир неустанно движется вперед, создаются все новые инструменты для улучшения качества жизни людей и для автоматизации производства. Искусственный интеллект уже является неотъемлемой частью нашей каждодневной жизни. «С его помощью происходит продвижение компаний, более активное использование различных существующих маркетинговых инструментов, а также внедрение новых». [4, с. 25] В последние годы способы обработки изображений и голоса также достигли колоссального прогресса. В связи с этим, появился такой способ коммуникации как дипфейки – видео, фото, которое создано при помощи искусственного интеллекта, данная технология способна заменять голос и создавать определенную картинку. Наличие такого технологичного информационного воздействия, имеет не только положительные проявления в виде более интересного контента, который создается благодаря дипфейкам, но и влечет за собой определенные трудности.

Процесс создания дипфейка в первую очередь сосредоточен на манипуляции изображениями. На данном этапе происходит подмена определенных фрагментов или элементов изображения на желаемые образы. Ближайшим аналогом данного процесса является редактирование фото или видео, различие заключается в том, что для искажения реальности применяется искусственный интеллект. Генеративно-состязательные сети, используемые в дипфейках, основываются на взаимодействии двух алгоритмов. Один из них обучается на реальных изображениях объекта, создавая всё более точные имитации, в то время как другой алгоритм начинает путать эти копии с оригиналом.

Стоит также отметить, что разные авторы предлагают различные трактовки данного феномена, но с отличительными характеристиками.

Так, Вестерлунд определяет технологию дипфейков как «совокупность методов, которые позволяют синтезировать изображение и голос при помощи искусственного интеллекта». [12, с. 9]

С другой стороны, в западных странах также популярно другое определение дипфейка – «ложной записи о человеке». [10, с. 1]

Интересным представляется определение дипфейков в законодательстве Австрии, дипфейки представляют собой полностью фальшивые видео, изображения или аудиозаписи, где люди делают заявления или выполняют действия, которые на самом деле не происходили. Эти технологии являются «частью долгого ряда манипуляций с медиа для распространения дезинформации». [6, с. 30]

Однако, в данной статье, мы склоняемся к понятию дипфейка по определению Вестрлунда.

Стоит также рассмотреть, что будет являться объектом и субъектом дипфейка.

Так, объектом признается непосредственно человек, который пострадал в результате использования фальсификации, а субъектом – лицо, которое создало, изобрело или заказало фальсификацию.

Объем дезинформации ежегодно практически удваивается. В период с апреля по сентябрь 2019 года Facebook (принадлежит Meta, признана экстремистской и запрещенной в России) устранил 3,2 миллиарда фальшивых аккаунтов, в то время как в 2018 году за тот же промежуток времени было удалено 1,55 миллиарда. Также активно развивается сегмент клонирования голосов. По прогнозам компании Markets&Markets, «в течение следующих двух лет этот рынок вырастет до 1,8 миллиарда долларов, показывая ежегодный рост свыше 30%». [3, с. 21]

Особую популярность данный феномен получил среди молодого населения. С точки зрения того, что дипфейки представляют либо «ложное видео, либо звук, стоит рассмотреть какие подвиды включают каждое из данных направлений». [11, с. 83]

Итак, к видео могут быть отнесены такие разновидности:

1) Face-swapping. Данный процесс означает «синхронизацию» действительного лица с лицом желаемым. То есть, программа сначала идентифицирует черты лица и освещение, а далее накладывает необходимую обработку (меняет черты лица, сглаживает кожу)

2) Lip-syncing. В данном случае происходит процесс подстраивания губ к аудио в видео-дипфейке.

3) Puppet master. Происходит процесс сглаживания мимики и подбора оптимального артикуляционного процесса в видео. Является неким симбиозом двух, описанных ранее программ.

4) Entire Face Synthesis. Программа, позволяющая остаться анонимным на видео. Воссоздает существующее лицо, но не раскрывает вашего.

5) «Facial Attribute Manipulation» [9, с.12]  . Самая, на наш взгляд, безобидная программа, которая позволяет заменить лицо на какую-либо анимацию.

Далее рассмотрим виды аудио-дипфейков:

1. Text-to-Speech Synthesis.  Данная программа позволяет клонировать голос и создавать, например, возмущенный голос, при этом, возможно, человек никогда не говорил подобных вещей в сети Интернет.
2. Voice Converter. Программа позволяет изменять голос в режиме реального времени и использовать голоса различных мультимедийных персонажей.

Аудио-дипфейки являются распространенной проблемой. Многие банки озадачены системой безопасности и ее модернизированием под современные реалии, так как дипфейки помогают обходить голосовую и даже биометрическую аутентификацию. Так, известен случай, произошедший в январе 2020 года, «киберпреступники обманули банк Объединенных Арабских Эмиратов на сумму более 35 миллионов долларов США, используя технологию глубокой подделки голоса». [8, с. 89]

Также стоит рассмотреть виды дипфейков в зависимости от цели создания.

1. Коммуникационные. Данный тип дипфейков позволяет создавать более интересный контент и привлекать аудиторию.
2. Дискредитирующие. «Позволяют распространять ложную информацию с какой-то определенной целью, чаще всего для извлечения выгоды». [5, с. 291]
3. Рекреационный/ развлекательный характер. В данном случае, название само носит характеристику данного типа, то есть «направлены на повышение узнаваемости/ популярности и развлечение аудитории». [7, с. 1]

Отдельно стоит выделить дипфейки, которые используют для незаконного извлечения финансовых средств или других выгод. Эти материалы можно классифицировать как мошеннические. Данный вид дипфейков имеет схожесть с экономическими схемами их использования.

Отдельного внимания заслуживает использование дипфейков и технологий искусственного интеллекта в сфере онлайн-образования. Современные образовательные платформы активно внедряют цифровые инструменты коммуникации для повышения вовлеченности аудитории и формирования устойчивого общественного мнения о бренде образовательной организации.

В рамках специальных мероприятий, таких как вебинары, онлайн-марафоны, презентации курсов и рекламные кампании, технологии синтетического видео и аудио позволяют создавать персонализированный контент, виртуальных спикеров, а также адаптировать образовательные материалы под интересы различных групп пользователей. Подобные инструменты способны усиливать эмоциональное восприятие контента, повышать доверие аудитории и увеличивать интерес к образовательным продуктам.

Однако одновременно с этим возрастает риск манипулятивного воздействия на пользователей, распространения недостоверной информации и снижения уровня доверия к цифровым образовательным платформам в целом. В связи с этим использование дипфейков в сфере онлайн-образования требует не только технологического развития, но и формирования этических и правовых механизмов регулирования подобных коммуникационных практик.

Большое количество людей не осознает, насколько серьезными могут быть последствия использования дипфейков. С этой точки зрения, возникает потребность сначала в развитии правовой базы, которая бы устанавливала жесткие меры ответственности за распространение ложной/фальсифицированной информации, более того, важно рассказать об этом людям. «Ведь, чем меньше человек осведомлен относительно какой-либо темы, тем больше вероятность, что он поверит в достоверность дипфейка». [2, с. 62]

Стоит отметить, что в 2023 году в России также начали заниматься правовой стороной данного вопроса. На рассмотрение в Госдуму были предложены 2 законопроекта:

1. Законопроект № 718538-8 определяет дипфейк в качестве нового квалифицирующего признака в несколько статей УК РФ «Клевета», «Мошенничество» и прочее. За совершение преступлений таким способом размер ответственности увеличен.
2. Законопроект № 718834-8, «в случае вступления в силу, будет направлен на охрану голоса человека, как нематериального права человека». [1, с. 1]

В заключение можно отметить, что дипфейки являются мощным и современным способом воздействия на общественное мнение. С другой стороны, дипфейки позволяют развивать творчество. Но важно понимать, что сам инструмент не может носить в себе положительную или негативную характеристику, намного важнее то, с какой целью он используется.

Список литературы:

1. Дипфейки и ответственность за их распространение [Электронный ресурс]. Режим доступа: https://legalacademy.ru/sphere/post/dipfeiki-i-otvetstvennost-za-ih-rasprostranenie-chto-vazhno-znat (дата обращения 3.06.2025)
2. Ершов Ю.М. 2018. Феномен фейка в контексте коммуникационных практик. – Вестник Томского государственного университета. Филология. № 52. С. 62-74.
3. Рем Е. 2019. Vera Voice позволит «говорить» голосом любой знаменитости. Доступ: https://techfusion.ru/vera-voice-pozvolit-govorit-golosom-lyuboj-znamenitosti/ (дата обращения 2.06.25)
4. Таранова Ю.В., Гавра Д.П. Применение искусственного интеллекта в территориальном брендинге: возможности и вызовы // Российская школа связей с общественностью. 2024. №32.
5. Толстых М. Ю. Средства противостояния фейковой информации как угрозе информационной и национальной безопасности // Криминологический журнал. 2023. №3. – С.291-298
6. Aktionsplan Deepfake Wien, 2022 2 von 30 III-740 der Beilagen XXVII. GP - Bericht - 02 Hauptdokument
7. James Vincent, Watch Jordan Peele Use AI to Make Barack Obama Deliver a PSA About Fake News, THE VERGE [Электронный ресурс]. – URL: https://www.theverge.com/tldr/2018/4/17/17247334/ai-fake-news-video-barack-obama-jordan-peele-buzzfeed (дата обращения 3. 06. 2025)
8. Kshetri N. The economics of deepfakes //Computer. – 2023. – Т. 56. – №. 8. – С. 89-94.
9. Masood M. et al. Deepfakes generation and detection: State-of-the-art, open challenges, countermeasures, and way forward //Applied intelligence. – 2023. – Т. 53. – №. 4. – С. 3974- 4026.
10. Text - H.R.3230 - 116th Congress (2019-2020): DEEP FAKES Accountability Act, H.R.3230, 116th Cong. (2019), https://www.congress.gov/bill/116th-congress/house- bill/3230/text.
11. Vromen A., Xenos M. A., Loader B. Young people, social media and connective action: From organisational maintenance to everyday political talk //Journal of Youth Studies. – 2015. – Т. 18. – №. 1. – С. 80-100.
12. Westerlund M. The emergence of deepfake technology: A review //Technology innovation management review. – 2019. – T. 9. – №. 11.