ВЛИЯНИЕ ГЕНЕРАТИВНОГО ИСКУСТВЕННОГО ИНТЕЛЛЕКТА НА РАЗРАБОТКУ И ТЕСТИРОВАНИЕ ПРОГРАМНОГО ОБЕСПЕЧЕНИЯ

THE IMPACT OF GENERATIVE ARTIFICIAL INTELLIGENCE ON SOFTWARE DEVELOPMENT AND TESTING

Isaev Artem Dmitryevich

Student, Institute of Cyber-Physical systems, Saint Petersburg State University of Aerospace Instrumentation,

Russia, Saint Petersburg

АННОТАЦИЯ

В статье рассматривается влияние генеративного искусственного интеллекта на разработку и тестирование программного обеспечения. Цель работы — определить результативные сценарии и ограничения безопасного применения больших языковых моделей. Материалом послужили русскоязычные научные публикации, национальные стандарты и документы стратегического планирования. Использованы структурированный обзор и сравнительный анализ операций жизненного цикла. Установлено, что генеративные средства наиболее полезны при подготовке локального кода, пояснений и тестовых сценариев, если результат проходит независимую проверку. Основными рисками являются неполный контекст, уязвимые зависимости, утечка данных и избыточное доверие к ответу. Предложена модель, связывающая инженерную задачу, версионированный контекст, кандидата, независимые свидетельства и ответственное решение человека.

ABSTRACT

The article examines the impact of generative artificial intelligence on software development and testing. The study aims to identify effective scenarios and limitations for the safe use of large language models. The evidence base includes Russian-language research, national standards, and strategic policy documents. The methods comprise a structured review and a comparative analysis of software life cycle operations. The results show that generative tools are most useful for preparing local code, explanations, and test scenarios when the output is independently verified. The main risks are incomplete context, vulnerable dependencies, data leakage, and excessive trust in generated answers. A controlled-use model is proposed. It links an engineering task, versioned context, a generated candidate, independent evidence, and an accountable human decision.

Ключевые слова: генеративный искусственный интеллект; большие языковые модели; разработка программного обеспечения; тестирование; качество программ; статический анализ; безопасная разработка; жизненный цикл.

Keywords: generative artificial intelligence; large language models; software development; software testing; software quality; static analysis; secure development; software life cycle.

Введение

Генеративный искусственный интеллект стал частью инструментов программиста: он продолжает код, объясняет модули, предлагает тестовые сценарии и помогает анализировать ошибки. Национальная стратегия развития искусственного интеллекта относит разработку и внедрение таких технологий к направлениям технологического развития страны [1]. Поэтому актуален не вопрос о возможности применения моделей, а условия, при которых они действительно улучшают инженерный процесс.

О. В. Стоянова и И. С. Окусков на материале 182 447 российских вакансий показали присутствие компетенций в области искусственного интеллекта в аналитике, разработке, тестировании, поддержке и управлении [2]. Следовательно, результат генерации проходит через несколько ролей и артефактов. Локальное ускорение написания кода может сопровождаться ростом времени проверки и сопровождения.

Качество программного продукта включает функциональную пригодность, надёжность, защищённость и сопровождаемость [3]. Компилируемый фрагмент может нарушать одно из этих свойств, поэтому единицей оценки должно быть принятое и проверенное изменение, а не объём сгенерированного текста. Цель статьи — определить возможности, ограничения и безопасную схему применения генеративных моделей в разработке и тестировании программного обеспечения.

Материалы и методы исследования

Работа выполнена как структурированный обзор русскоязычных научных публикаций и нормативных документов. Отбирались материалы, содержащие описание метода, эксперимента или организационного подхода к применению искусственного интеллекта в программной инженерии. Маркетинговые описания и неподтверждённые количественные оценки исключались.

Каждый сценарий анализировался по пяти признакам: инженерная задача, входной контекст, создаваемый артефакт, способ независимой проверки и возможное последствие ошибки. На этой основе сформирована модель принятия результата: задача — контекст — кандидат — свидетельство — решение. Её отличие от обычного диалога с моделью состоит в предварительном определении критерия приёмки.

Результаты исследования и обсуждение

Влияние генеративного искусственного интеллекта на разработку программного обеспечения

Наиболее полезны локальные задачи с наблюдаемым результатом: создание небольшой функции, тестового двойника, запроса к базе данных или пояснения к существующему модулю. Пользователь переносит часть усилий с набора текста на постановку задачи и оценку варианта. Для крупного изменения модели необходимы требования, допустимые интерфейсы, актуальные версии файлов и ограничения по зависимостям.

Настройка языковой модели на требования безопасного кода способна улучшить предложения [4], но не заменяет контроль конкретного патча. Результат должен поступать в виде видимого изменения, проходить сборку, тесты и рецензию. Модель может исправлять замечания компилятора или анализатора, однако не должна отключать проверки и самостоятельно принимать решение о слиянии.

Влияние генеративного искусственного интеллекта на тестирование

В тестировании генеративные модели предлагают граничные значения, ошибочные входы и последовательности действий. Это ускоряет подготовку вариантов, но количество тестов не характеризует их силу. Цели и объекты тестирования меняются на стадиях жизненного цикла [5], поэтому каждый сценарий должен быть связан с конкретным требованием и уровнем проверки.

Ключевой элемент теста — оракул, то есть правило признания результата правильным. Если одна модель создаёт реализацию и ожидаемый ответ, обе части могут разделять одну ошибку. Оракул следует получать из утверждённого требования, контракта, инварианта или независимой реализации. Структурированные данные статического анализа также дают полезный внешний сигнал и повышают точность проверки предупреждений [6].

Ограничения и риски

Основные ограничения связаны с вероятностной природой генерации и неполнотой контекста. Убедительное объяснение может сопровождать ошибочный код, а модель — не учитывать скрытый контракт или ограничение инфраструктуры. Существенное изменение необходимо сохранять как патч вместе с версиями исходных материалов и результатами проверок.

Подключение ассистента к репозиторию и системе сборки расширяет поверхность атаки: в запрос могут попасть секреты, персональные данные или коммерческая информация. Требования безопасной разработки продолжают действовать независимо от способа получения кода [7]. Контекст необходимо минимизировать, а доступ предоставлять по принципу наименьших привилегий.

При агентном режиме ограничения должны обеспечиваться вне языковой модели: изолированной средой, белым списком операций, сетевой политикой и журналированием. Текстового запрета недостаточно, поскольку большие языковые модели подвержены состязательным воздействиям [8]. Организационный риск оценивается по полному времени изменения, числу доработок и дефектам после выпуска, а не только по скорости автора.

Модель контролируемого применения

Предлагаемая модель связывает пять элементов: задачу, версионированный контекст, сгенерированный кандидат, независимые свидетельства и ответственное решение. Критерий приёмки определяется до генерации. Ответ сохраняется как видимый патч, тест или документ, после чего проходит воспроизводимые проверки и человеческую рецензию. Содержание элементов обобщено в табл. 1.

Таблица 1.

Модель принятия сгенерированного результата

Сообщение компилятора или теста может возвращаться модели для исправления, но критерий успеха остаётся независимым. Полномочия расширяются постепенно: от подсказки без права записи до работы в изолированной ветви. Публикация релиза, изменение политик контроля и доступ к продуктивным данным сохраняются за человеком.

Практические рекомендации

Пилотное внедрение целесообразно начинать с повторяющихся задач низкого или среднего риска. До начала фиксируются исходные показатели: время до рецензии, продолжительность проверки, число доработок и дефекты после выпуска. Расширение допускается только при улучшении полного потока, а не одной операции.

Политика применения должна определять разрешённые сервисы, категории данных, срок хранения журналов и ответственных лиц. Обучение сотрудников включает декомпозицию задач, проверку зависимостей, оценку тестовых оракулов и моделирование угроз. Ограничением исследования является неоднородность опубликованных экспериментов; дальнейшая проверка модели требует данных о долговременной сопровождаемости и эксплуатационных дефектах.

Заключение

Генеративный искусственный интеллект ускоряет подготовку локального кода, пояснений и тестовых сценариев, но не заменяет верификацию. Его наибольшая ценность проявляется в задачах с ограниченным контекстом и воспроизводимым способом проверки.

Предложенная модель связывает задачу, версионированный контекст, кандидата, независимые свидетельства и ответственное решение. Она позволяет встроить генеративный компонент в инженерный процесс без подмены требований, испытаний и человеческой ответственности. Полномочия модели следует расширять только на основании результатов контролируемого пилота.

Список литературы:

1. Указ Президента Российской Федерации от 10.10.2019 № 490 (ред. от 15.02.2024) «О развитии искусственного интеллекта в Российской Федерации» (вместе с Национальной стратегией развития искусственного интеллекта на период до 2030 года). URL: https://www.kremlin.ru/acts/bank/44731 (дата обращения: 17.07.2026).
2. Стоянова О. В., Окусков И. С. Проникновение искусственного интеллекта в жизненный цикл разработки программного обеспечения: эмпирический анализ рынка труда // Бизнес-информатика. 2026. Т. 20. № 2. С. 81–93. DOI: 10.17323/2587-814X.2026.2.81.93.
3. ГОСТ Р ИСО/МЭК 25010-2015. Информационные технологии. Системная и программная инженерия. Требования и оценка качества систем и программного обеспечения (SQuaRE). Модели качества систем и программных продуктов. М.: Стандартинформ, 2015.
4. Шайхелисламов Д. С., Вареца М. С., Сёмкин А. С., Рогов О. Ю. Настройка языковой модели для безопасной генерации кода // Труды ИСП РАН. 2025. Т. 37. Вып. 5. С. 111–122. DOI: 10.15514/ISPRAS-2025-37(5)-8.
5. Позин Б. А. Тестирование в жизненном цикле автоматизированных систем // Труды ИСП РАН. 2025. Т. 37. Вып. 3. С. 303–310. DOI: 10.15514/ISPRAS-2025-37(3)-21.
6. Панов Д. Д., Шимчик Н. В., Чибисов Д. А., Белеванцев А. А., Игнатьев В. Н. Повышение точности статического анализа кода при помощи больших языковых моделей // Труды ИСП РАН. 2025. Т. 37. Вып. 6, ч. 1. С. 83–100. DOI: 10.15514/ISPRAS-2025-37(6)-5.
7. ГОСТ Р 56939-2024. Защита информации. Разработка безопасного программного обеспечения. Общие требования. М.: Российский институт стандартизации, 2024.
8. Алексеевская И. С., Хайбуллин Д. В., Турдаков Д. Ю. Разработка защиты больших языковых моделей от состязательных атак в сценарии чёрного ящика на основе перефразирования // Труды ИСП РАН. 2025. Т. 37. Вып. 5. С. 195–204. DOI: 10.15514/ISPRAS-2025-37(5)-15.