Почти год назад, 30 ноября 2022-го, OpenAI открыла доступ к ChatGPT. С тех пор большие языковые модели прошли путь от демо в браузере до строки бюджета на ИТ. Но между «попробовали» и «работает в продакшене» – пропасть. Мы собрали наблюдения по проектам за этот год: где генеративный ИИ уже приносит деньги, а где компании до сих пор крутят пилоты и не могут их закрыть.

Что реально дошло до продакшена

В работу пошли узкие, проверяемые сценарии – там, где ошибку модели ловит человек или последующая проверка.

  • Черновики и рерайт текстов. Маркетинг, поддержка, внутренние коммуникации. Модель пишет первый вариант, редактор доводит. Экономия на рутине измерима, риск минимален.
  • Поиск по базе знаний с RAG. Retrieval-augmented generation вместо «голой» модели: ответы строятся на документах компании, а не на фантазиях. Это снимает большую часть галлюцинаций и делает результат проверяемым по источнику.
  • Классификация и извлечение данных. Разбор обращений, тегирование, вытаскивание полей из писем. Здесь LLM конкурирует и дополняет классические подходы – для документов с печатями и таблицами мы по-прежнему советуем связку с распознаванием через computer vision, а не один лишь текстовый генератор.
  • Помощник разработчика. Автодополнение и объяснение кода зашли быстрее всего, потому что результат сразу проверяется компилятором и тестами.

Общий знаменатель: измеримая метрика, человек в контуре, низкая цена ошибки.

Где остались пилоты

Застревают сценарии, где модели доверяют принятие решения без проверки или где она работает с чувствительными данными.

  • Автономные агенты. Идея «ИИ сам сходит в три системы и закроет заявку» в B2B пока не выживает в проде: цепочки рассыпаются, отладка дороже, чем выигрыш.
  • Юридически значимые ответы. Госсектор и финансы не могут себе позволить ответ «примерно». Нужна трассировка до нормы и подпись ответственного – модель этого не даёт.
  • Внешние облачные API на закрытом контуре. Отправлять персональные данные и гостайну в чужое облако нельзя. Вопрос обострился после сворачивания ряда сервисов Microsoft в РФ: команды разом пересматривают зависимость от зарубежных провайдеров и смотрят на локальный хостинг открытых моделей.

Отдельная причина «вечного пилота» – безопасность. Утечки через промпты, инъекции и неконтролируемый вывод модели мы подробно разбирали в материале про риски LLM; без этих ответов служба ИБ просто не пускает проект дальше песочницы.

Что отличает работающие проекты

Закрытыми оказываются те внедрения, где с самого начала есть три вещи: конкретная метрика (время обработки, доля автоответов, стоимость обращения), человек, который принимает финальное решение, и контроль над данными – свой контур или дообученная open-source модель вместо публичного API. Хайп здесь не помогает; помогает инженерия: интеграция с реальными системами, оценка качества на ваших данных, регламент отката.

Вывод

За год генеративный ИИ перестал быть игрушкой и стал инструментом – но узким. Выигрывают компании, которые внедряют не «ИИ вообще», а конкретный сценарий с понятной отдачей и контролем рисков. Если вы хотите вывести пилот в продакшен, а не копить демо, начните с аудита данных и сценариев, а уже потом переходите к разработке ИИ-приложений под конкретную задачу.