Компании из госсектора и регулируемых отраслей всё чаще берут отечественные открытые модели – GigaChat, YandexGPT, семейство T-lite, Qwen в локальном развёртывании и пытаются заставить их работать на собственных данных: регламентах, базе знаний поддержки, нормативке. Возникает развилка: дообучать модель (fine-tuning) или подключать поиск по корпоративным документам (RAG). Выбор определяет бюджет, сроки и контур безопасности. Разберём по делу.

Чем отличаются подходы

Fine-tuning меняет веса модели на ваших примерах. Вы готовите датасет «вопрос – эталонный ответ» или размеченные тексты, прогоняете обучение (чаще LoRA/QLoRA, а не полное), получаете модель, которая впитала ваш стиль, терминологию и типовые сценарии. Знания «зашиты» в веса.

RAG (retrieval-augmented generation) веса не трогает. Документы режутся на фрагменты, превращаются в векторы, складываются в индекс. На каждый запрос система достаёт релевантные куски и подаёт их модели в контекст. Модель отвечает по найденному, со ссылками на источник.

Ключевая разница на практике: RAG обновляется заменой документа в индексе за минуты, fine-tuning требует нового цикла обучения. RAG показывает, откуда взят ответ, – для госсектора это критично при проверках и аудите. Fine-tuning лучше держит формат, тон и узкую доменную лексику, но галлюцинирует на фактах, которых не было в обучении.

Когда что выбирать

Берите RAG, если:

  • знания часто меняются – приказы, тарифы, версии регламентов;
  • нужна трассируемость ответа до первоисточника;
  • объём документов большой, а бюджет на GPU ограничен;
  • запускаетесь быстро и итеративно.

Берите fine-tuning, если:

  • нужен стабильный стиль и строгий формат (юридические заключения, типовые акты);
  • задача узкая и устойчивая – классификация обращений, извлечение реквизитов;
  • латентность важнее гибкости, а контекстное окно дорого раздувать.

На реальных внедрениях побеждает гибрид: дообученная под домен база плюс RAG поверх актуальных документов. Сначала почти всегда дешевле и быстрее поднять RAG, измерить качество на своих запросах, и только потом точечно дообучать там, где поиска не хватает.

Безопасность и регуляторика

Дообучение и индексация – это обработка корпоративных, а часто и персональных данных. Датасет для fine-tuning и векторный индекс RAG сами становятся защищаемыми активами: из эмбеддингов восстанавливают исходный текст, а из весов – фрагменты обучающей выборки. Контур развёртывания (модель, индекс, оркестратор) проектируйте сразу под требования регулятора. Если система попадает в КИИ, отталкивайтесь от результатов категорирования и аудита объектов КИИ, а меры защиты согласуйте с подготовкой к приказу ФСТЭК № 117. Отдельная зона риска – автономные ИИ-агенты с доступом к данным и действиям; про их угрозы и контроль мы писали в материале о безопасности ИИ-агентов.

RAG- и fine-tuning-конвейеры реалистично развернуть в закрытом контуре заказчика без передачи данных во внешние облака – от подготовки датасета и выбора отечественной модели до интеграции с рабочими системами.

Вывод

RAG отвечает на вопрос «где найти и как сослаться», fine-tuning – «как говорить и в каком формате». Начинайте с RAG, дообучайте точечно, проектируйте защиту данных до первого эксперимента. Так вы получите рабочий ИИ на своих данных без сюрпризов при проверке.