Статья опубликована в рамках: CLXVII Международной научно-практической конференции «Научное сообщество студентов XXI столетия. ТЕХНИЧЕСКИЕ НАУКИ» (Россия, г. Новосибирск, 05 ноября 2026 г.)
Наука: Информационные технологии
Скачать книгу(-и): Скачать книгу
ПАТТЕРНЫ ОБЪЕКТНО-ОРИЕНТИРОВАННОГО ПРОЕКТИРОВАНИЯ В БИБЛИОТЕКАХ PYTORCH И SCIKIT-LEARN
OBJECT-ORIENTED DESIGN PATTERNS IN THE PYTORCH AND SCIKIT-LEARN LIBRARIES
Аннотация
В статье рассмотрены паттерны объектно-ориентированного проектирования, на которых построены библиотеки машинного обучения scikit-learn 1.9 и PyTorch 2.14. По официальной документации, исходному коду и научным публикациям выделены классы, реализующие девять паттернов каталога GoF, и составлена таблица их соответствия. Обе библиотеки опираются на паттерны «Компоновщик» и «Шаблонный метод»; PyTorch реализует единообразный вариант «Компоновщика», scikit-learn — безопасный. В scikit-learn паттерны поддерживают единый интерфейс оценщиков, в PyTorch они делают вычисления расширяемыми.
Abstract
The paper examines the object-oriented design patterns behind the machine learning libraries scikit-learn 1.9 and PyTorch 2.14. Drawing on the official documentation, the source code and research papers, the author identifies the classes that implement nine GoF patterns and compares the two libraries in a summary table. Both libraries rely on the Composite and Template Method patterns; PyTorch implements the uniform variant of Composite, scikit-learn the type-safe one. In scikit-learn the patterns keep the estimator interface uniform, and in PyTorch they make computation extensible.
Ключевые слова: паттерны проектирования, объектно-ориентированное программирование, Python, scikit-learn, PyTorch, компоновщик, шаблонный метод, машинное обучение.
Keywords: design patterns, object-oriented programming, Python, scikit-learn, PyTorch, Composite, Template Method, machine learning.
Введение
Библиотеки scikit-learn и PyTorch задают стандарт программных интерфейсов в машинном обучении. Схему вызовов fit и predict из scikit-learn переняли многие библиотеки [1], а PyTorch описывает модель как обычную программу на Python [2]. М.Н. Геворкян с соавторами сделали обзор библиотек машинного обучения, включая PyTorch и scikit-learn, и сравнили пять из них по времени обучения и точности многослойного перцептрона [3], не затрагивая их объектного устройства.
Цель работы: выявить паттерны объектно-ориентированного проектирования в библиотеках scikit-learn и PyTorch и сопоставить их. Материал исследования составляют документация scikit-learn 1.9.1 и PyTorch 2.14, исходный код библиотек и научные публикации о паттернах проектирования и устройстве этих библиотек.
1. Паттерны проектирования и их реализация в Python
Э. Гамма, Р. Хелм, Р. Джонсон и Д. Влиссидес предложили каталог из 23 паттернов (GoF), разделённых на порождающие, структурные и поведенческие; для каждого паттерна в нём описаны участвующие классы, их роли и взаимодействие между ними [4]. Поэтому реализацию паттерна мы определяем по ролям классов и связям, а не по названиям.
В Python часть конструкций ООП выражают средства языка: функцию можно присвоить другой переменной или передать как аргумент, генератор создаёт итератор без отдельного класса, классы-миксины подмешивают готовые методы через наследование, а утиная типизация и абстрактные базовые классы заменяют явные интерфейсы. Поэтому в Python «Стратегию» можно передать обычной функцией, а «Итератор» задать генератором, не создавая отдельных классов, как в каталоге GoF.
Для систем машинного обучения Х. Васидзаки с соавторами собрали отдельный каталог паттернов [5], а паттерны GoF применяют и в других прикладных системах: А.А. Пасынкова и О.Л. Викентьева показали, как «Наблюдатель» и «Декоратор» помогают обеспечить надёжность и масштабируемость системы мониторинга [6]. Пользователь scikit-learn и PyTorch работает с готовыми классами этих библиотек, и, чтобы расширять их своими компонентами, ему нужно знать, на каких паттернах они построены.
2. Паттерны в scikit-learn
Основу scikit-learn составляет контракт оценщика. Оценщик наследует класс BaseEstimator, принимает гиперпараметры только в конструкторе, хранит результаты обучения в атрибутах с подчёркиванием в конце имени и возвращает self из метода fit [7]. Базовый класс читает сигнатуру конструктора и на её основе реализует методы get_params и set_params [7].
Миксины ClassifierMixin, RegressorMixin и TransformerMixin добавляют общее поведение [7]. TransformerMixin собирает метод fit_transform из методов fit и transform подкласса, как в паттерне «Шаблонный метод». Оценщики отвечают на одни и те же вызовы, поэтому cross_val_score и GridSearchCV принимают любой объект с интерфейсом оценщика [7], и модель заменяется без правки клиентского кода, как в «Стратегии».
Класс Pipeline реализует «Компоновщик»: он хранит цепочку трансформеров с финальным оценщиком и сам предоставляет интерфейс оценщика [7], а ColumnTransformer и FeatureUnion собирают составной объект из параллельных ветвей. Параметры вложенных шагов адресуются через двойное подчёркивание, например model__C [7]. Ф. Кирай с соавторами связывают ключевую роль таких библиотек, как scikit-learn, с удобным и мощным дизайном, который упрощает построение, обучение и проверку сложных конвейеров моделей [8].
Метаоценщики GridSearchCV, CalibratedClassifierCV и OneVsRestClassifier получают оценщик как параметр, сохраняют его интерфейс и добавляют поведение (подбор гиперпараметров, калибровку вероятностей, поддержку многоклассовой классификации), то есть работают как «Декоратор» [7]. Перед обучением метаоценщик вызывает функцию clone и получает необученную копию с теми же гиперпараметрами («Прототип») [7]. Метод set_output приводит результат трансформеров к таблицам pandas («Адаптер») [7], а метод split у классов разбиения выборки, например KFold, выдаёт индексы через генератор («Итератор») [7].
В версии 1.9 разработчики scikit-learn добавили экспериментальные обратные вызовы [7]; пока их поддерживают лишь несколько классов, например Pipeline и GridSearchCV. Объекты обратного вызова регистрируются методом set_callbacks и получают события начала и конца задач внутри fit. Так в библиотеке появился явный «Наблюдатель». Листинг 1 иллюстрирует контракт оценщика, «Компоновщик», «Декоратор» и «Прототип».
Листинг 1. Пользовательский трансформер в конвейере с подбором гиперпараметров
3. Паттерны в PyTorch
Базовый класс torch.nn.Module реализует «Компоновщик» [9]. Модуль, присвоенный атрибуту другого модуля, регистрируется как дочерний, а методы parameters, to, state_dict и load_state_dict обходят всё получившееся дерево [9]. Поэтому код обращается со слоем Linear так же, как с целой сетью. Контейнеры Sequential, ModuleList и ModuleDict дают готовые составные узлы [9].
Вызов модуля построен как «Шаблонный метод»: метод __call__ запускает хуки перед прямым проходом, затем forward, затем хуки после него [9], а подкласс переопределяет в этой цепочке только forward. Класс Dataset задаёт интерфейс набора данных с методом __getitem__, а DataLoader обходит любой такой набор, собирает батчи и выдаёт их как «Итератор» [2].
Хуки модулей и тензоров реализуют «Наблюдатель»: метод register_forward_hook подписывает функцию на прямой проход и возвращает дескриптор для отписки [9]. DistributedDataParallel использует хуки автоматического дифференцирования: обёртка запускает обмен градиентами между процессами во время обратного прохода и сохраняет интерфейс Module [10], то есть служит «Декоратором».
«Стратегию» реализуют взаимозаменяемые оптимизаторы с базовым классом Optimizer [9], функции потерь [9], сэмплеры [9] и бэкенды компилятора: функция torch.compile передаёт извлечённый из программы граф операций одному из расширяемого набора бэкендов [11]. Метод state_dict возвращает словарь с состоянием модели [9] или оптимизатора [9], а load_state_dict восстанавливает это состояние; так реализован «Хранитель». Листинг 2 иллюстрирует «Компоновщик», «Шаблонный метод», «Наблюдатель» и «Хранитель».
Листинг 2. Модель из подмодулей, наблюдатель за прямым проходом и снимок состояния
4. Сравнительный анализ
Таблица 1 сводит найденные соответствия. Прочерк в ней означает, что библиотека не предоставляет для паттерна отдельного API. Обе библиотеки опираются на «Компоновщик» и «Шаблонный метод». «Компоновщик» реализуют двумя способами: операции с дочерними элементами объявляют либо в базовом классе, и тогда клиент работает с листьями и составными объектами единообразно, либо только в составном классе, и тогда их нельзя вызвать у листа и сохраняется безопасность типов [12]. Разработчики PyTorch выбрали единообразие: метод add_module и хранилище дочерних модулей есть у каждого Module [9]. Разработчики scikit-learn выбрали безопасность: наследование от BaseEstimator даёт оценщику только установку и чтение параметров, текстовое представление, сериализацию и проверку параметров и данных [7], а операции с вложенными оценщиками есть лишь у составных классов: например, Pipeline хранит их списком в атрибуте steps и позволяет выделить часть конвейера срезом [7] (рисунок 1).
Таблица 1.
Соответствие паттернов GoF и классов scikit-learn и PyTorch
| Паттерн | scikit-learn | PyTorch |
|---|---|---|
| Компоновщик | Pipeline, ColumnTransformer, FeatureUnion (безопасный) | Module, Sequential, ModuleList (единообразный) |
| Шаблонный метод | fit_transform в TransformerMixin | Module.__call__ и forward |
| Стратегия | Взаимозаменяемые оценщики | Optimizer, функции потерь, Sampler, бэкенды torch.compile |
| Декоратор | GridSearchCV, CalibratedClassifierCV, OneVsRestClassifier | DistributedDataParallel |
| Прототип | clone | — |
| Наблюдатель | Обратные вызовы (с 1.9) | Хуки модулей и тензоров |
| Хранитель | — | state_dict, load_state_dict |
| Итератор | Генератор split у KFold и других классов разбиения | DataLoader |
| Адаптер | set_output | skorch: модуль как оценщик |
Различаются и цели, ради которых библиотеки применяют паттерны: контракт оценщика в scikit-learn позволяет вкладывать модели в конвейеры и метаоценщики без дополнительного кода, а хуки, сменные бэкенды и обёртки PyTorch меняют ход вычислений без правки кода модели. Библиотека skorch соединяет два подхода: она оборачивает модуль PyTorch в оценщик scikit-learn и работает как «Адаптер» [13].
Заключение
Мы выявили в scikit-learn и PyTorch девять паттернов GoF (таблица 1). Часть паттернов выражена средствами Python: миксинами, генераторами и функциями первого класса. «Компоновщик» представлен в двух библиотеках разными вариантами: единообразным в PyTorch и безопасным в scikit-learn.
Для разработчика отсюда следуют два правила. Компонент для scikit-learn должен наследовать BaseEstimator и подходящий миксин и соблюдать контракт оценщика: тогда он без доработки работает в Pipeline и GridSearchCV. Модуль PyTorch должен переопределять forward, а не __call__, и получать дополнительное поведение через хуки. Дальнейшего изучения заслуживают экспериментальные обратные вызовы scikit-learn [7].
Список литературы
- Raschka S., Patterson J., Nolet C. Machine Learning in Python [Электронный ресурс]: Main Developments and Technology Trends in Data Science, Machine Learning, and Artificial Intelligence // Information. – 2020. – Т. 11, № 4. – Art. 193. – URL: https://www.mdpi.com/
2078–2489/ 11/ 4/ 193 (дата обращения: 17.10.2026). - A. Paszke, S. Gross, F. Massa [et al.]. PyTorch [Электронный ресурс]: An Imperative Style, High-Performance Deep Learning Library. // Advances in Neural Information Processing Systems 32: 33rd Conf. on Neural Information Processing Systems (NeurIPS. – 2019. – 12 P. – URL: https://proceedings.neurips.cc/
paper_files/ paper/ 2019/ file/ bdbca288fee7f92f2bfa9f7012727740-Paper.pdf (дата обращения: 01.11.2026). - М.Н. Геворкян, А.В. Демидова, Т.С. Демидова, А.А. Соболев. Обзор и сравнительный анализ библиотек машинного обучения для построения нейронных сетей [Электронный ресурс] // Discrete and Continuous Models and Applied Computational Science. – 2019. – Т. 27, № 4. – С. 305–315. – DOI: 10.22363/2658-4670-2019-27-4-305-315.
- Ozkaya M., Kose M. DesPat [Электронный ресурс]: A Modeling Toolset for Designing and Implementing Software Systems using Design Patterns // Proceedings of the 16th International Conference on Evaluation of Novel Approaches to Software Engineering (ENASE. – 2021. – P. 251–260. – URL: https://www.scitepress.org/
Papers/ 2021/ 104388/ 104388.pdf (дата обращения: 01.11.2026). - H. Washizaki, F. Khomh. Software-Engineering Design Patterns for Machine Learning Applications [Электронный ресурс] // Computer. – 2022. – Т. 55, № 3. – URL: http://www.ptidej.net/
publications/ documents/ Computer22.doc.pdf (дата обращения: 01.11.2026). - Пасынкова А.А., Викентьева О.Л. Проектирование архитектуры системы мониторинга на основе паттернов проектирования [Электронный ресурс] // Труды Института системного программирования РАН. – 2023. – Т. 35. – С. 137–150. – DOI: 10.15514/ISPRAS-2023-35(3.
- scikit-learn 1.9.1 documentation [Электронный ресурс] / scikit-learn developers. – URL: https://scikit-learn.org/
1.9/ (дата обращения: 30.10.2026). - F.J. Király, M. Löning, A. Blaom [et al.]. Designing Machine Learning Toolboxes [Электронный ресурс]: Concepts, Principles and Patterns. // arXiv.org. – 2021. – URL: https://arxiv.org/
abs/ 2101.04938 (дата обращения: 17.10.2026). - PyTorch 2.14 documentation [Электронный ресурс] / PyTorch Contributors. – URL: https://docs.pytorch.org/
docs/ 2.14/ (дата обращения: 01.11.2026). - S. Li, Y. Zhao, R. Varma [et al.]. PyTorch Distributed [Электронный ресурс]: Experiences on Accelerating Data Parallel Training // Proceedings of the VLDB Endowment. – 2020. – Т. 13, № 12. – 14 P. – URL: https://www.vldb.org/
pvldb/ vol13/ p3005-li.pdf (дата обращения: 01.11.2026). - J. Ansel, E. Yang, H. He [et al.]. PyTorch 2 [Электронный ресурс]: Faster Machine Learning Through Dynamic Python Bytecode Transformation and Graph Compilation // ASPLOS ’24: Proceedings of the 29th ACM International Conference on Architectural Support for Programming Languages and Operating Systems. Vol. 2. – New York: ACM, 2024. – Т. 2. – 18 P. – URL: https://pytorch.org/
assets/ pytorch2-2.pdf (дата обращения: 01.11.2026). - Vanderdonckt J., Grolaux D. End-User Composition of Graphical User Interfaces by Composite Pattern [Электронный ресурс] // EICS ’19: Proceedings of the ACM SIGCHI Symposium on Engineering Interactive Computing Systems. – New York: ACM, 2019. – DOI: 10.1145/3319499.3328236.
- skorch documentation [Электронный ресурс]. – URL: https://skorch.readthedocs.io/
en/ stable/ (дата обращения: 17.10.2026).

