Год назад появление ChatGPT превратило большие языковые модели в тему для каждого совета директоров. Бизнес и госструктуры массово тестировали публичный чат-бот, восхищались генерацией текста и тут же упирались в стену: данные нельзя отправлять во внешний облачный сервис, ответы невоспроизводимы, ответственности за ошибку ни на ком нет. 2024 год начинается с другого вопроса. Не «умеет ли модель писать тексты», а «как встроить LLM в наш контур так, чтобы это прошло службу безопасности и принесло измеримый результат».

От облачного демо к локальному развёртыванию

Главный сдвиг – модели переехали внутрь периметра. За прошедший год появилось достаточно открытых весов, которые разворачиваются на собственном железе: семейства Llama 2, Mistral, отечественные GigaChat и YandexGPT с возможностью работы в закрытом контуре. Для заказчика из госсектора и регулируемых отраслей это решающий аргумент. Промпты и документы не покидают организацию, журналирование под контролем, а сама модель встаёт в общий план технологической независимости – ровно ту логику, которую мы разбирали в материале про практический подход к импортозамещению.

Локальная LLM требует ресурсов, но больше не требует отправлять коммерческую тайну на чужие серверы. Это переводит проект из категории «эксперимент маркетинга» в категорию управляемой ИТ-системы со своим SLA, мониторингом и регламентом обновлений.

RAG вместо веры в «знания модели»

Второе отличие 2024 года – отказ от иллюзии, что модель «всё знает». В прошлом году компании ждали, что LLM ответит на вопросы по их внутренним регламентам. Она уверенно выдумывала. Рабочий паттерн года – RAG, retrieval-augmented generation: модель не хранит ваши факты, а извлекает их из ваших же документов и отвечает строго по найденному фрагменту со ссылкой на источник.

Это меняет инженерную задачу. Ценность теперь не в модели, а в качестве поисковой базы: структурированные регламенты, актуальные версии документов, права доступа. LLM становится интерфейсом к корпоративным знаниям, а не их источником. Так снимается главный страх безопасников – галлюцинации, на которые нельзя сослаться в документе или решении.

Узкие задачи вместо универсального ассистента

Третий сдвиг – фокус. Универсальный «ИИ-помощник для всего» почти всегда проваливается на пилоте: его не с чем сравнить и невозможно посчитать эффект. Выигрывают узкие сценарии с понятной метрикой. Классификация и маршрутизация обращений в поддержку. Черновики ответов на типовые запросы граждан. Извлечение реквизитов из договоров. Суммаризация длинных протоколов и нормативки.

Под каждый такой сценарий считается отдельный возврат инвестиций – по той же дисциплине, что и для любого ИТ-проекта; мы описывали её в разборе экономического эффекта от ИТ. Это и отличает зрелое внедрение от хайпа: не «у нас есть ИИ», а «обработка обращения ускорилась на 40%, оператор тратит время на сложные случаи».

Вывод

2024 год – это переход от удивления к инженерии. LLM перестаёт быть облачной игрушкой и становится компонентом корпоративной системы: локальное развёртывание, RAG поверх собственных данных, узкие задачи с измеримым эффектом. Именно в этом сочетании – локальная модель, RAG и узкая задача с метрикой – LLM превращается в интеллектуальную систему под контур заказчика, а не остаётся демонстрацией. Те, кто в прошлом году ограничился восторгом, в этом году рискуют отстать от тех, кто начал считать; о смене настроений мы уже писали в итогах года и трендах. Технология готова к работе – вопрос в дисциплине внедрения.