В конце февраля Сбер выпустил GigaChat 2.0, а YandexGPT 5 вышел чуть раньше. Российские LLM перестали быть догоняющими демоверсиями – они подросли в качестве, обзавелись внятными API и развёртыванием в закрытом контуре. Для бизнеса и госсектора это смещает вопрос с «работает ли вообще» на «куда встроить и за какие деньги». Разберём, что изменилось на практике.

Что нового в моделях

GigaChat 2.0 вышел в трёх версиях – Lite, Pro и Max. Старший вариант лучше держит длинный контекст, точнее следует инструкциям и реже галлюцинирует на фактических вопросах. Подросло качество кода и работы с таблицами. Появилась функция вызова инструментов (function calling), без которой нельзя строить агентов: модель сама решает, когда дёрнуть внешний сервис, и подставляет аргументы.

YandexGPT 5 в линейке Pro/Lite двигается в ту же сторону: больше контекстное окно, лучше рассуждения, доступ через облачный API и дообучение под домен. Обе экосистемы дают эмбеддинги для семантического поиска – основу для RAG, когда модель отвечает по вашей базе документов, а не по памяти из обучения.

Главный сдвиг – не рекордные баллы в бенчмарках, а зрелость обвязки: стабильные SDK, контроль квот, локальное развёртывание. Именно это решает, доедет ли пилот до продакшена.

Где это даёт эффект в B2B и госсекторе

Не всякую задачу стоит отдавать LLM. Эффект предсказуем там, где много текста и рутины:

  • Поддержка и первая линия. Бот по базе знаний снимает типовые обращения и передаёт оператору сложные. Как мы это собираем end-to-end, разобрано в материале про интеграцию ИИ-агента в бизнес-процессы.
  • Работа с документами. Суммаризация договоров, извлечение реквизитов, проверка на соответствие регламенту, черновики ответов на обращения граждан.
  • Внутренний поиск. RAG по регламентам, приказам и проектной документации экономит часы там, где раньше искали по папкам.

Для госсектора и регулируемых отраслей у российских моделей есть козырь – развёртывание on-premise или в доверенном облаке. Данные не уходят за периметр, что снимает половину вопросов безопасников ещё до старта пилота.

Как внедрять без рисков

LLM – это вероятностный компонент, а не детерминированный сервис. Поэтому правила простые.

Начинайте с одного узкого процесса и считайте метрику до пилота: доля автоматических ответов, время обработки, число эскалаций. Без базовой цифры вы не докажете эффект.

Закройте контур данных заранее. Если в промпты или базу RAG попадают персональные данные, режим обработки и хранение обязаны соответствовать 152-ФЗ – мы подробно разбирали это в статье про защиту персональных данных. Решать это после запуска дороже, чем спроектировать сразу.

Не стройте логику на одной модели. API меняются, версии устаревают, лицензии пересматриваются. Прослойка-абстракция над провайдером даёт возможность сменить GigaChat на YandexGPT или открытую модель без переписывания продукта. Тот же принцип мы закладываем в проекты миграции корпоративных коммуникаций – переносимость важнее привязки к вендору.

Путь от пилота до промышленной эксплуатации – это выбор модели под задачу, развёртывание в вашем контуре и встраивание в процессы, а не разовый эксперимент с одним промптом.

Вывод

Новое поколение российских LLM закрывает реальные задачи бизнеса и госсектора, а не только демонстрационные. Выигрывает тот, кто выбирает узкий процесс, заранее закрывает контур данных и не привязывается к одному вендору. Технология созрела – теперь дело за грамотным внедрением.