Сотрудники уже несут рабочие задачи в ChatGPT – без вашего ведома. Они вставляют фрагменты кода, тексты договоров, выгрузки из CRM и просят «переписать покрасивее». Каждый такой запрос уходит на чужие серверы за периметром компании. В марте 2023 года Samsung зафиксировала три утечки исходного кода и внутренних записей через ChatGPT за неполные три недели и временно запретила сервис. Это не частный случай – это новый класс рисков, который требует отдельного контура контроля.

Где именно теряются данные

Промпт – это канал передачи данных наружу. Облачный провайдер LLM получает всё, что сотрудник вписал в окно запроса. По умолчанию OpenAI оставляет за собой право использовать диалоги из веб-интерфейса для обучения моделей; отключение истории и корпоративные тарифы меняют политику, но бесплатный аккаунт сотрудника – нет.

Три типовых сценария утечки:

  • Прямой ввод чувствительных данных. Персональные данные, коммерческая тайна, гостайна, исходный код попадают в промпт и покидают периметр.
  • Prompt injection. Если вы встраиваете LLM в свой продукт, внешний текст (письмо, веб-страница, документ) может содержать скрытую инструкцию, которая переопределяет ваш системный промпт и выкачивает контекст или совершает действия от лица сервиса.
  • Утечка через интеграции. Плагины и подключённые к модели базы знаний расширяют поверхность атаки: модель получает доступ к данным, которые вы не планировали ей показывать.

Для госсектора и регулируемых отраслей добавляется юридический слой. Передача персональных данных в зарубежный облачный сервис нарушает 152-ФЗ, а трансграничная передача без оснований – прямой повод для претензий Роскомнадзора. Запрос «проверь этот текст» с фамилиями граждан внутри – уже инцидент.

Что внедрить в контур контроля

Запрет «сверху» не работает: сотрудники найдут обход через личные устройства. Нужна управляемая альтернатива и технические барьеры.

  1. DLP на периметре. Настройте правила перехвата для доменов LLM-сервисов, фиксируйте и блокируйте отправку данных по классификации.
  2. Корпоративный шлюз к LLM. Единая точка доступа, которая логирует промпты, маскирует ПДн и коммерческую тайну до отправки и применяет политику по ролям.
  3. Локальное развёртывание. Open-source модели (LLaMA, семейство на её основе) разворачиваются в собственном контуре. Данные не покидают инфраструктуру. Дисциплина эксплуатации здесь та же, что и для любых ML-сервисов – мы разбирали её в материале про MLOps в продакшене.
  4. Политика и обучение. Чёткий регламент: что можно отправлять, что нельзя, какой сервис разрешён. Без этого технические меры обходят за день.

Импортозамещение как фактор

Опора на зарубежные облачные LLM – это ещё и инфраструктурный риск: доступ к сервису могут отключить. Та же логика, что двигала итоги импортозамещения 2022 года и переход разработчиков на RuStore за первый год, применима к ИИ-сервисам. Суверенный контур для работы с моделями – не лозунг, а способ сохранить контроль над данными и непрерывность процессов.

Вывод

LLM приносят пользу, но открывают канал утечки, которого год назад не существовало. Закрыть его «запретом» нельзя – нужен управляемый доступ: DLP, корпоративный шлюз с маскированием, локальные модели для чувствительных задач и понятный регламент. Работа с ИИ-сервисами под требования 152-ФЗ и отраслевых регуляторов становится частью общего контура информационной безопасности, который проектируется и внедряется целиком, а не отдельным барьером поверх остальных систем.