ИИ-ассистент в корпоративном приложении – уже не эксперимент, а рабочий инструмент: сотрудник диктует заявку, спрашивает остаток по договору, получает выжимку из регламента. Проблема в том, что чувствительные данные нельзя гнать в публичные облака. Для банков, промышленности и госсектора это вопрос не удобства, а соответствия 152-ФЗ и требованиям регулятора. Закрытый контур – единственный приемлемый вариант, и его нужно проектировать с самого начала, а не прикручивать к готовому продукту.

Что значит «закрытый контур» на практике

Закрытый контур – это обработка голоса, текста и контекста без выхода во внешний интернет. Модели распознавания речи, синтеза и языковая модель работают на инфраструктуре заказчика: в собственном ЦОД или в облаке с аттестацией по требованиям ФСТЭК. Приложение обращается к ним по защищённому каналу внутри периметра.

Архитектурно это разделяется на три слоя. Первый – клиент на устройстве: захват аудио, буферизация, шифрование, базовая обработка вроде подавления шума. Второй – шлюз внутри периметра, который маршрутизирует запросы к ASR (распознавание речи), LLM и TTS (синтез). Третий – сами модели в изолированном сегменте сети. Наружу не уходит ничего: ни аудиопоток, ни промпты, ни ответы.

Для офлайн-сценариев часть логики переносим на устройство. Лёгкие модели распознавания команд и эмбеддинги для поиска по базе знаний работают локально через Core ML на iOS и NNAPI на Android. Это снимает зависимость от связи на объектах без устойчивого канала – складах, буровых, удалённых отделениях.

Голос и текст: где проходит граница

Текстовый ассистент проще: запрос уходит на внутреннюю LLM, ответ возвращается с цитатами из корпоративных документов через RAG. Здесь критична не модель, а качество подготовки данных – структурированная база знаний даёт релевантные ответы даже на компактной модели уровня 7–8B, которую реально развернуть на скромном GPU.

Голос добавляет два узла отказа: распознавание и синтез. Российские открытые модели ASR сегодня дают приемлемое качество на чистой речи, но проседают на профессиональной лексике и в шуме. Решение – дообучение на отраслевых данных заказчика и словари терминов. Латентность держим под контролем потоковой обработкой: распознавание идёт по мере поступления аудио, а не после окончания фразы.

Выбор стека под эти задачи – отдельное архитектурное решение. Мы подробно разбирали логику подбора кастомных компонентов под конкретный стек: для ИИ-ассистента она работает так же – берём то, что разворачивается в контуре и дообучается под предметную область.

Управление и безопасность

Ассистент внутри приложения – это новый канал доступа к данным, и его нужно администрировать. Раздача приложения, политики доступа к микрофону, удалённый отзыв и обновление моделей – всё это закрывает MDM как фундамент мобильной инфраструктуры. Без управляемого парка устройств ИИ-функции становятся неконтролируемой поверхностью атаки.

Отдельно – логирование. Каждый запрос к ассистенту фиксируется для аудита, но сами голосовые данные хранятся ровно столько, сколько требует сценарий, и удаляются по политике ретенции. Это упрощает разговор с безопасниками и проверки.

Вывод

ИИ-ассистент в закрытом контуре – это не одна технология, а связка из мобильного клиента, инфраструктуры моделей и системы управления устройствами. Запускать его имеет смысл там, где есть измеримая отдача: сокращение времени на рутинные операции, меньше ошибок ввода, быстрый доступ к знаниям. Прежде чем строить, посчитайте эффект – мы описывали подход к обоснованию перехода на новое решение. Если эффект подтверждается, ассистент проектируется и собирается под ваш периметр как часть мобильного приложения с обработкой данных в закрытом контуре.