Запуск ChatGPT в конце ноября 2022 года вывел большие языковые модели из исследовательских лабораторий в повестку правлений. За полтора месяца сервис набрал десятки миллионов пользователей, и теперь руководители ИТ задают конкретный вопрос: что эта технология даёт корпоративному контуру и где проходит граница, за которой ей нельзя доверять. Разберём по делу, без обещаний «искусственного интеллекта на каждом столе».

Где LLM приносят пользу уже сейчас

Сильная сторона модели – работа с языком, а не с фактами. Поэтому первыми окупаются сценарии, где результат проверяет человек, а цена ошибки невысока.

  • Черновики и переписывание. Регламенты, ответы на типовые обращения, описания вакансий, пресс-релизы. Модель снимает «страх чистого листа», редактор доводит текст.
  • Суммаризация. Сжатие длинных протоколов, договоров, потоков переписки до сути. Особенно полезно там, где специалистов не хватает, – а дефицит кадров мы разбирали отдельно.
  • Поддержка разработки. Генерация шаблонного кода, объяснение чужих фрагментов, написание тестов. Это ускоряет команду, но не заменяет ревью.
  • Классификация и извлечение. Разметка обращений по темам, вытаскивание реквизитов из неструктурированных документов.

Во всех случаях LLM – ассистент, который готовит заготовку. Финальное решение остаётся за сотрудником.

Границы доверия

Модель генерирует правдоподобный текст, а не истину. Отсюда три риска, которые нельзя игнорировать в корпоративе и тем более в госсекторе.

Первое – галлюцинации. Модель уверенно выдумывает факты, ссылки и номера документов. Применять её там, где ответ уходит гражданину или ложится в юридически значимое решение без проверки, недопустимо.

Второе – данные. Публичные облачные сервисы обрабатывают запросы на чужой инфраструктуре за рубежом. Отправлять туда персональные данные, гостайну или коммерческую тайну нельзя – это прямое нарушение 152-ФЗ и внутренних режимов. В условиях курса на импортозамещение, промежуточные итоги которого мы подводили в декабре, зависимость от внешнего SaaS – отдельный риск.

Третье – отсутствие объяснимости. Модель не покажет, почему выдала именно такой ответ. Для процессов, требующих аудита и обоснования, это блокер.

Как внедрять без иллюзий

Практичный путь – не «подключить ChatGPT всем», а встроить LLM в конкретный процесс под контролем.

  • Начинайте с пилота на одном сценарии с измеримой метрикой: время обработки обращения, доля черновиков, принятых без правок.
  • Держите чувствительные данные в своём контуре. Открытые модели уже можно разворачивать on-premise; полностью облачные сценарии оставляйте для нечувствительных задач.
  • Закладывайте обязательную проверку человеком в каждом сценарии, где есть юридические или репутационные последствия.
  • Считайте эффект в деньгах и часах, а не в «инновационности».

Такой подход хорошо ложится на этапную логику технологической трансформации – мы описывали её в дорожной карте импортозамещения.

Вывод

LLM – рабочий инструмент для черновиков, суммаризации и поддержки разработки, но не источник истины и не место для чувствительных данных. Ценность появляется там, где модель встроена в процесс, работает в контролируемом контуре и подстрахована человеком. Чтобы такой сценарий заработал в корпоративном контуре, нужны приложения на основе ИИ, спроектированные с учётом требований к данным и безопасности.