Запросы на генеративный ИИ дошли до контуров, куда внешние API не пускают по определению – банки, ведомства, оборонка, КИИ. Здесь нельзя отправить документ в облако OpenAI: данные не должны покидать периметр. Остаются две отечественные большие языковые модели промышленного уровня – GigaChat от Сбера и YandexGPT. Обе развиваются быстро, но выбирать их под закрытый контур нужно не по бенчмаркам из пресс-релизов, а по тому, как они встают в вашу инфраструктуру и проходят проверку безопасников.

On-premise или managed: где реально живут ваши данные

Главный водораздел – можно ли развернуть модель внутри периметра. YandexGPT сегодня доступен прежде всего как сервис в Yandex Cloud, в том числе в конфигурации Yandex Cloud для изолированных инсталляций. Для большинства коммерческих задач облако работает, но для КИИ и гостайны облачный SLA не закрывает требований – данные физически уходят к провайдеру.

GigaChat Сбер предлагает в нескольких изданиях, включая поставку моделей для развёртывания в инфраструктуре заказчика. Это снимает спор с ИБ о трансграничной передаче и логировании на чужой стороне. Цена вопроса – вы берёте на себя GPU-кластер, MLOps и обновления весов. Считайте TCO честно: лицензия плюс железо плюс инженеры сопровождения, а не только стоимость токена.

Практическое правило: если данные относятся к гостайне или критической инфраструктуре – рассматривайте только on-premise-вариант. Если это коммерческая тайна без отраслевых запретов – управляемый сервис в аттестованном российском облаке часто дешевле и быстрее в запуске.

Что проверить до пилота

Бенчмарки качества важны, но в закрытом контуре первичны другие критерии. Проверяйте по списку:

  • Лицензия и SLA: разрешено ли коммерческое использование, дообучение, есть ли ограничения на отрасли и объёмы.
  • Развёртывание: поддерживаемые ускорители (вплоть до отечественных), требования к VRAM, контейнеризация, работа в сети без доступа в интернет.
  • Безопасность контура: где остаются промпты и ответы, можно ли отключить телеметрию, как организован аудит обращений.
  • Дообучение: возможность fine-tune и RAG на ваших корпусах без выгрузки данных наружу.
  • Сертификация: наличие записи в реестре отечественного ПО и совместимость с вашими аттестованными ОС и СУБД.

Отдельно закладывайте безопасную разработку обвязки вокруг модели – оркестратора, RAG-пайплайна, API-шлюза. Для госзаказа это не пожелание, а требование: подходы мы разбирали в материале про SSDLC в госзаказе. LLM расширяет поверхность атаки – промпт-инъекции, утечки через контекст, отравление обучающей выборки.

Где LLM приносит деньги, а где – нет

Не каждую задачу стоит закрывать генеративной моделью. Поиск по регламентам, черновики ответов на обращения, классификация документов, извлечение сущностей, ассистент оператора – здесь окупаемость очевидна. А вот аналитику и регулярную отчётность по структурированным данным надёжнее строить на BI: галлюцинации в цифрах недопустимы. Если выбираете аналитическую платформу параллельно, сверьтесь с нашим сравнением российских BI и картой рынка.

Сильнее всего LLM раскрывается в связке с вашими данными через RAG, а не «из коробки». Поэтому пилот стройте на реальном корпусе и реальном сценарии, а не на демо-вопросах.

Вывод

Под закрытый контур выбор сводится к простому: GigaChat даёт зрелый путь к on-premise, YandexGPT – сильный управляемый сервис в российском облаке. Решает не рейтинг модели, а соответствие вашему режиму данных, инфраструктуре и требованиям ИБ. Дальше всё сводится к тому, чтобы спроектировать архитектуру, провести пилот на вашем корпусе и развернуть интеллектуальную систему в закрытом периметре.