Команды берут GPT-4 или YandexGPT, пишут хитрый системный промпт и ждут, что ассистент ответит на вопрос про внутренний регламент закупок. Он отвечает уверенно и неверно. Промпт-инжиниринг управляет тем, как модель рассуждает, но не тем, что она знает. А корпоративному ИИ нужно знать ваши договоры, нормативку и тикеты – данные, которых не было в обучающей выборке. Закрыть этот разрыв одними инструкциями нельзя. Нужны два инструмента: RAG и дообучение.

RAG: модель отвечает по вашим документам

Retrieval-Augmented Generation подставляет в запрос релевантные фрагменты ваших данных. Документы режутся на части, превращаются в векторы и складываются в базу. На вопрос пользователя система находит подходящие куски и передаёт их модели вместе с промптом. Ответ опирается на факты из ваших источников, а не на догадки.

Что это даёт на практике:

  • Знания обновляются загрузкой документа, а не переобучением модели. Поменялся регламент – индекс пересобрался за минуты.
  • Каждый ответ ссылается на источник. Для госсектора и аудита прослеживаемость обязательна.
  • Чувствительные данные остаются в вашем контуре, модель видит только переданный фрагмент.

RAG решает 70-80% корпоративных задач: справочные боты, поиск по базе знаний, ассистенты поддержки. Но он бессилен там, где нужен стиль, формат или доменная логика – модель по-прежнему рассуждает как универсальная.

Дообучение: модель усваивает ваш домен

Fine-tuning меняет веса модели на ваших примерах. Это нужно, когда RAG не вытягивает: документы должны соответствовать строгому шаблону (исковое заявление, акт, техзадание), терминология узкая, а тон ответов критичен. Вы готовите датасет «запрос – эталонный ответ» и обучаете модель воспроизводить нужное поведение.

Дообучение дороже и медленнее: нужны размеченные данные, инфраструктура и регулярное переобучение при смене требований. Поэтому начинать с него – ошибка. Сначала RAG, и только если качество упирается в потолок – fine-tuning. Чаще всего побеждает гибрид: дообученная модель формирует стиль и логику, RAG подаёт актуальные факты.

Это инфраструктурный проект, а не эксперимент

Ни RAG, ни дообучение не живут в вакууме. Векторная база, пайплайн загрузки документов, контроль доступа по ролям, мониторинг качества ответов – всё это подключается к вашим существующим системам. Здесь те же принципы, что и в оркестрации интеграций: данные надо собрать, очистить и доставить надёжно, иначе ассистент будет отвечать по мусору. А качество исходных данных – ровно та проблема, которую решают зрелые self-service BI-практики.

Для госзаказа добавляется контур безопасности: модель и данные размещаются в защищённой среде, а сам процесс разработки идёт по принципам SSDLC с контролем на каждом этапе. Импортонезависимость тоже в повестке – российские модели и открытые веса разворачиваются on-premise без зависимости от зарубежных облаков.

Путь от выбора архитектуры до промышленной эксплуатации укладывается в сквозное построение интеллектуальных систем под ключ.

Вывод

Промпт-инжиниринг – это управление, а не знание. Чтобы корпоративный ИИ отвечал по вашим данным и в вашем формате, нужны RAG для фактов и дообучение для домена. Начните с RAG, измерьте качество, добавляйте fine-tuning точечно. И стройте это как инфраструктуру, а не как демо.