Сравнительный анализ рекуррентных сетей и трансформерных моделей в предиктивном мониторинге

Аннотация

Кошелев А.Н., Привалов К.Э., Петров С.А., Денисенко В.К.

Дата поступления статьи: 06.12.2025

Работа сравнивает применение рекуррентных сетей и моделей на основе архитектуры трансформеров для решения задачи предсказания времени завершения бизнес-процесса. Модели по определению моделируют последовательность исполнения действий и способны учитывать множество атрибутов в определении целевых характеристик. Для сравнения были использованы рекуррентная модель  долгой краткосрочной памяти и трансформер-энкодер собственной архитектуры, работа которых была опробована на открыто представленных реальных данных из логов службы поддержки. Обучение и тестирование моделей проводилось с помощью языка Python с помощью библиотек pandas, numpy, torch с одинаковой для обеих моделей подготовкой данных, формированием префиксов и разбиением по времени. Сравнение в результате экспериментов по средней абсолютной ошибке показало преимущество энкодера-трансформера; по среднеквадратичному отклонению зафиксирована примерно одинаковая точность моделей с незначительно большей точностью модели-транфсормера.

Ключевые слова: предиктивный мониторинг, журнал событий, машинное обучение, трансформер-энкодер, нейронные сети, подготовка данных, регрессионная модель, нормализация, паддинг, рекуррентная сеть, архитектура модели

1.2.2 - Математическое моделирование, численные методы и комплексы программ

2.3.1 - Системный анализ, управление и обработка информации