Машинное обучение перестало быть темой научных конференций. Победа AlphaGo над Ли Седолем в марте задала тон всей отрасли, а открытие исходников TensorFlow в конце прошлого года снизило порог входа для инженеров. Но демонстрация на ноутбуке и работающий сервис в продакшене – разные инженерные задачи. Модель с точностью 95% на тестовой выборке бесполезна, если она не выдерживает нагрузку, не переобучается на свежих данных и не отвечает требованиям 152-ФЗ. Разберём, что отделяет прототип от промышленной эксплуатации.

Данные решают больше, чем алгоритм

В лаборатории датасет статичен и вычищен. В продакшене данные поступают потоком, содержат пропуски, дубли и смену форматов. Первое, что строит команда перед запуском модели, – конвейер сбора и подготовки данных: валидация на входе, версионирование выборок, контроль распределений. Если распределение признаков в бою отличается от обучающего, точность падает молча – без единой ошибки в логах.

Для госсектора и регулируемого бизнеса добавляется юридический контур. Обучение на персональных данных требует обезличивания и хранения на территории РФ – норма локализации действует с сентября прошлого года, и Роскомнадзор уже проводит проверки. Поэтому архитектуру данных проектируют сразу с разделением: обучающий контур работает с обезличенными выборками, а в продуктиве модель получает признаки, а не сырые ПД.

Инфраструктура и интеграция

Модель в продакшене – это сервис, а не файл с весами. Мы выносим её за отдельный интерфейс предсказаний, чтобы прикладные системы обращались к ней по контракту, а не тащили в себя Python-зависимости. Такой подход естественно ложится на принципы, которые мы разбирали в материале про API-first архитектуру: модель версионируется, A/B-тестируется и обновляется без простоя потребителей.

Отдельный вопрос – каналы доставки предсказаний. Скоринг, рекомендации и подсказки операторам всё чаще нужны на мобильных рабочих местах, и здесь работают те же требования, что мы описывали в заметке про mobile-first для B2B: низкая задержка, экономия трафика, корректное поведение при разрыве связи. ML-сервис обязан отвечать за десятки миллисекунд, иначе пользователь не дождётся ответа.

Мониторинг и переобучение

Запуск – не финал, а старт эксплуатации. Поведение пользователей и бизнес-процессы меняются, и модель деградирует: это называют дрейфом. Без мониторинга метрик качества вы узнаете о проблеме от недовольного заказчика, а не из дашборда. Поэтому в контур закладывают сбор обратной связи, периодическое сравнение предсказаний с фактом и регламент переобучения – ежемесячный или по триггеру падения точности.

Не менее важна интерпретируемость. Когда модель отказывает клиенту в кредите или помечает заявку как подозрительную, бизнес и регулятор вправе спросить почему. Решения вроде линейных моделей и деревьев проигрывают нейросетям в точности, но выигрывают в объяснимости и для многих госзадач это решающий аргумент.

Вывод

ML в продакшене – это инженерная дисциплина, а не магия алгоритмов. Успех определяют конвейер данных, сервисная архитектура, мониторинг дрейфа и соответствие 152-ФЗ. Как мы и прогнозировали в начале года, 2016-й переводит машинное обучение из режима экспериментов в режим эксплуатации. Если вы планируете внедрять предиктивную аналитику или интеллектуальную обработку данных, начните с проектирования всего контура, а не с выбора алгоритма: именно так строятся интеллектуальные системы, доведённые до промышленной эксплуатации.