МЕТОДЫ ДЕТЕКЦИИ ПРИЗНАКОВ ИИ-ГЕНЕРАЦИИ И ИХ ПРИМЕНИМОСТЬ К ХУДОЖЕСТВЕННОМУ КОНТЕНТУ

METHODS OF DETECTING FEATURES OF AI GENERATION AND THEIR APPLICABILITY TO ARTISTIC CONTENT

Gavtadze Kristina Merabovna

Student, Department of Systems Engineering, MIREA — Russian Technological University,

Russia, Moscow

Sosedko Kseniya Andreevna

Scientific supervisor, senior lecturer of Department of Systems Engineering, MIREA — Russian Technological University,

Russia, Moscow 

АННОТАЦИЯ

В статье рассматривается актуальная проблема, связанная с созданием и распознаванием изображений, созданных нейросетями.

Был проведен сравнительный анализ существующих методов и инструментов обнаружения признаков искусственного интеллекта в визуальных данных с описанием их принципов работы и ограничений, а также сделан вывод о целесообразности применения этих методов к художественному контенту.

ABSTRACT

This article examines the pressing issue of creating and recognizing images generated by neural networks.

A comparative analysis of existing methods and tools for detecting artificial intelligence features in visual data was conducted, describing their operating principles and limitations. A conclusion was reached regarding the feasibility of applying these methods to artistic content.

Ключевые слова: детекция, генеративная модель, искусственный интеллект, метаданные, художественный контент.

Keywords: detection, generative model, artificial intelligence, metadata, artistic content.

Проблема распознавания изображений, созданных нейросетями, впервые возникла в 2018–2019 годах и связана с работами по детекции GAN-контента, однако в настоящее время в связи с массовым распространением диффузионных моделей приобрела высокую значимость. Сегодня исследователи говорят о настоящей гонке, в которой генераторы совершенствуются быстрее, чем детекторы, и каждый новый релиз модели частично обесценивает накопленные признаки и методы выявления.

В широком смысле признак ИИ-генерации – это наблюдаемая, измеримая характеристика изображения, которая статистически или структурно отличает контент, созданный генеративной моделью, от контента, созданного человеком. Признак – это не метод его обнаружения, он существует в самом изображении независимо от того, каким инструментом он выявляется.

Признаки ИИ-генерации неоднородны по своей природе, они проявляются на разных уровнях изображения и выявляются разными инструментами. В современной литературе принято разделять их на четыре основных типа [1]:

1) частотные признаки – любая генеративная модель в процессе синтеза изображения выполняет операцию апсемплинга (увеличения разрешения). Именно эта операция оставляет характерные артефакты в частотной области: распределение энергии по частотам у сгенерированных изображений статистически отличается от реальных. Примечательно, что эти артефакты воспроизводятся стабильно и обнаруживаются вне зависимости от архитектуры сети, датасета и разрешения изображения. При этом GAN и диффузионные модели оставляют разные частотные следы: если первые дают характерные пики в определённых диапазонах, то вторые проявляются через более тонкие отклонения в структуре шума [2, 3];

2) статистические признаки – отклонения в распределении пикселей, градиентов и текстурных паттернов. Рукотворный контент (фотография или рисунок) имеет характерную статистику, обусловленную физикой съёмки или особенностями работы художника. Сгенерированное изображение, напротив, демонстрирует избыточную однородность: слишком гладкие переходы, слишком правильные текстуры, нехарактерное для реального контента распределение шума. Именно на этом основаны методы, анализирующие шумовые паттерны и межпиксельные корреляции;

3) семантические признаки – высокоуровневая группа, связанная не со структурой пикселей, а со смыслом изображения. Генеративные модели воспроизводят статистику обучающей выборки, но не понимают физических законов и анатомии. Это проявляется в характерных несоответствиях: неправильное количество пальцев, симметричные объекты там, где симметрии быть не должно, некорректное отражение в зеркале, противоречивые источники освещения. Для творческого контента (артов и дизайнов) этот тип признаков особенно значим, поскольку частотные и статистические методы здесь менее надёжны [4];

4) признаки метаданных – группа, существующая вне пиксельного содержимого изображения. Реальное изображение, снятое камерой или нарисованное в графическом редакторе с настроенным экспортом, содержит EXIF-данные: модель устройства, параметры съёмки, временные метки. ИИ-генераторы, как правило, этих данных не создают, либо оставляют в метаданных прямые указания на используемый инструмент [5]. Метаданные не являются самостоятельным доказательством генерации, так как они могут быть удалены или подделаны, однако их наличие или отсутствие служит дополнительным сигналом в многоуровневой системе детекции.

Важно понимать, что ни один из перечисленных типов не является достаточным в отдельности. Современные исследования демонстрируют устойчивый сдвиг в сторону гибридных подходов, объединяющих низкоуровневые частотные и статистические признаки с высокоуровневыми семантическим.

После того, как мы определили 4 типа признаков ИИ-генерации, необходимо перейти к рассмотрению методов детекции ИИ-сгенерированных изображений:

1) методы частотного анализа ищут аномалии в спектре изображения, возникающие при генерации;

2) методы на основе шумовых паттернов анализируют структуру остаточного шума, характерную для реальных снимков;

3) методы реконструкции измеряют, насколько точно диффузионная модель восстанавливает изображение, и сгенерированное она восстанавливает лучше, чем реальное;

4) методы анализа текстурных патчей исследуют межпиксельные корреляции в разных областях изображения;

5) методы на основе предобученных нейросетей извлекают универсальные признаки генерации из пространства крупных визуальных моделей.

Если рассмотреть вышеприведенные методы применительно к созданию художественного контента, то большинство из перечисленных методов оказываются ненадёжными. Методы на основе шумовых паттернов предполагают наличие шума сенсора камеры, которого в рисованном контенте нет по определению. Методы реконструкции обучены на фотореалистичных изображениях и ломаются на стилизованном контенте, диффузионная модель восстанавливает любой арт с низкой ошибкой вне зависимости от его происхождения. Методы текстурных патчей опираются на допущение, что генеративным моделям сложно воспроизвести естественные межпиксельные зависимости, но художник сам управляет текстурами, намеренно добиваясь той или иной структуры, что разрушает это допущение. Метод ELA, широко применяемый в анализе фотографий, также неприменим: плоские заливки, чёткие контуры и однородные области, типичные для арта, дают аномальные карты ошибок даже для подлинных работ.

Исходя из проведенного анализа, были выбраны три метода, которыми можно обнаружить присутствие искусственного интеллекта в визуальных данных:

1) частотный анализ на основе быстрого преобразования Фурье (FFT) работает на уровне спектра изображения вне зависимости от его стилистики и позволяет выявлять характерные артефакты апсемплинга, устойчивые к смене архитектуры генератора.

Признак: аномальное распределение энергии в частотной области изображения, то есть отклонение спектра мощности от закономерности, характерной для реального контента.

Механизм: реальные изображения подчиняются степенному закону: энергия спектра убывает от низких частот к высоким по предсказуемой кривой. Генеративные модели нарушают эту закономерность, в высокочастотной области спектра появляются периодические пики и аномальные всплески энергии, обусловленные операцией апсемплинга.

Критерий: наличие статистически значимых периодических пиков в высокочастотной области спектра, выявляемых после применения высокочастотного фильтра к изображению.

Метрика: числовое значение отклонения радиального спектра мощности от ожидаемого распределения. Чем выше значение, тем сильнее аномалия.

2) Анализ метаданных (EXIF) полностью независим от визуального содержимого и одинаково информативен для любого типа изображений: он фиксирует отсутствие характерных для реального контента данных либо наличие прямых указаний на генеративный инструмент.

Признак: аномальный состав или полное отсутствие метаданных, характерных для изображений, созданных реальным устройством или графическим редактором.

Механизм: реальные изображения содержат структурированные метаданные: модель камеры, параметры съёмки, временные метки, данные производителя в поле MakerNote. ИИ-генераторы эти данные не создают. При этом ряд генераторов оставляет прямое указание на себя (Midjourney, Stable Diffusion, DALL·E).

Критерий: выполнение одного или нескольких из следующих условий: отсутствие полей Camera Model, Lens, MakerNote; наличие в поле Software названия известного генератора; наличие XMP или C2PA провенанса с указанием на ИИ-происхождение.

Метрика: структурированный булев отчёт по каждому из проверяемых полей: присутствует / отсутствует / содержит индикатор генерации

3) Нейросетевой детектор, основанный на признаковом пространстве крупной предобученной модели, обученной на разнородном визуальном контенте, обеспечивает обобщение на нефотографические данные по сравнению с детекторами, обученными исключительно на фотографических датасетах.

Признак: совокупность визуальных и статистических характеристик изображения, отличающих сгенерированный контент от созданного человеком, без привязки к конкретному типу артефакта.

Механизм: изображение проецируется в признаковое пространство модели CLIP, обученной на сотнях миллионов разнородных пар изображение-текст. В этом пространстве реальные и сгенерированные изображения образуют статистически различимые кластеры. Поверх этого пространства обучен бинарный классификатор.

Критерий: значение выходной вероятности классификатора превышает заданный порог. Оптимальный порог варьируется в зависимости от типа контента и может быть откалиброван под конкретную задачу.

Метрика: вероятность генерации от 0 до 1, где значения выше 0.5 интерпретируются как признак ИИ-генерации.

Результат сравнительного анализа существующих методов и инструментов обнаружения признаков искусственного интеллекта представлен в таблице 1.

Таблица 1.

Сравнительный анализ методов

Таким образом можно сделать вывод о том, что что большинство существующих методов детекции ИИ-генерации разработаны и протестированы на фотографиях, а их базовые допущения нарушаются на художественном, рисованном контенте, из-за чего они дают ложные срабатывания или вовсе не работают. Применимыми для творческого контента оказались только методы, действующие на уровне, не зависящем от стилистики изображения, что и определило их совместное использование в системе, то есть для творческих работ показаны причины реализации иных методов детекции.

Список литературы:

1. Mahara A., Rishe N. Methods and Trends in Detecting AI-Generated Images: A Comprehensive Review // arXiv preprint. — 2025. — arXiv:2502.15176. — URL: https://arxiv.org/abs/2502.15176
2. Frank J., Eisenhofer T., Schönherr L., Fischer A., Kolossa D., Holz T. Leveraging Frequency Analysis for Deep Fake Image Recognition // Proceedings of the 37th International Conference on Machine Learning (ICML). — 2020. — URL: https://arxiv.org/abs/2003.08685
3. Corvi R., Cozzolino D., Poggi G., Nagano K., Verdoliva L. On the Detection of Synthetic Images Generated by Diffusion Models // ICASSP 2023 — IEEE International Conference on Acoustics, Speech and Signal Processing. — 2023. — URL: https://arxiv.org/abs/2211.00680
4. Zou Y. et al. Survey on AI-Generated Media Detection: From Non-MLLM to MLLM// arXiv preprint. – 2025.  – arXiv:2502.05240. –  URL: https://arxiv.org/ abs/2502.05240
5. Авдеев Д.А. и др. Криминалистическое исследование цифровых изображений, изменённых ИИ: применимость новых и классических методов анализа//КиберЛенинка. -  2024. - URL: https://cyberleninka.ru/article/n/kriminalisticheskoe-issledovanie-tsifrovyh-izobrazheniy-izmenyonnyh-ii-primenimost-novyh-i-klassicheskih-metodov-analiza