На прошлой неделе OpenAI опубликовала статью о GPT-3 – языковой модели на 175 миллиардов параметров. Это в сто с лишним раз больше, чем у GPT-2, и на порядок больше, чем у любой публично описанной модели до неё. Цифры впечатляют, но для бизнеса важнее другое: модель решает задачи, которым её не учили напрямую, по нескольким примерам в запросе. Разберём, что за этим стоит и где это применимо уже сейчас, а где – преждевременно.

Что реально умеет GPT-3

Главное отличие от прежних моделей – обучение «по примерам в контексте» (few-shot). Раньше под каждую задачу – классификацию обращений, извлечение полей, генерацию ответов – собирали размеченный датасет и дообучали модель. GPT-3 в ряде задач даёт приемлемый результат без дообучения: вы показываете три-пять примеров прямо в запросе, и модель продолжает в том же ключе.

На практике это работает для генерации и переформулирования текста, черновиков писем, упрощения формулировок, базовой классификации и извлечения сущностей. Слабее – там, где нужна фактическая точность, арифметика или строгая логика: модель уверенно выдаёт правдоподобный, но неверный текст. Для русского языка качество ниже, чем для английского: корпус обучения англоцентричен.

Ещё одно ограничение – доступ. Модель не выложена в открытый доступ, OpenAI обещает API с ограниченным доступом по заявкам. Запускать GPT-3 на своём оборудовании невозможно: инференс требует кластера, и веса не публикуются. Для госсектора и регулируемых отраслей это принципиально – передавать данные во внешний API чаще всего нельзя.

Где это применимо в B2B и госсекторе

Трезвый сценарий на 2020 год – не «заменить сотрудника», а снять рутину с текстом под контролем человека. Несколько направлений, где отдача предсказуема:

  • Поддержка и обращения. Черновик ответа оператору, авторазметка тематики входящих писем, маршрутизация. Человек проверяет и отправляет.
  • Документооборот. Извлечение полей из неструктурированных документов, краткое резюме длинных текстов, проверка на полноту.
  • Аналитика. Перевод запроса на естественном языке в параметры отчёта – надстройка над данными, которые вы уже собрали. Это работает только если данные приведены в порядок: см. наш разбор витрин данных и хранилища.

Ключевое слово – «черновик». Модель ускоряет первый шаг, решение остаётся за человеком. Так вы получаете выигрыш в скорости без риска отправить клиенту или в систему недостоверный текст.

Что учесть перед внедрением

Большие языковые модели – не готовый продукт, а компонент. Чтобы он принёс пользу, его встраивают в рабочий процесс: интеграция с CRM или СЭД, логирование, ручная проверка спорных случаев, метрики качества. Без этого пилот останется демонстрацией.

Для регулируемых отраслей отдельный вопрос – где исполняется модель и куда уходят данные. Внешний API исключает чувствительные сведения; альтернатива – модели меньшего размера, которые можно развернуть в контуре заказчика, пусть и с меньшим качеством. Дисциплина выкатки и контроля здесь та же, что для любого ПО в регулируемой среде – мы писали об этом в материале про DevOps в регулируемом секторе.

Оценка сценария и сборка рабочего прототипа под конкретную задачу – это и есть разработка приложений с ИИ в прикладном смысле, а не эксперименты с моделью ради модели. Подход тот же, что и в кризисной аналитике: сначала ясная задача и данные, потом инструмент – об этом в заметке про BI в кризис-менеджменте.

Вывод

GPT-3 – заметный шаг: модель решает текстовые задачи по нескольким примерам, без отдельного обучения. Но это инструмент с понятными границами – фактическая точность, русский язык, доступ только через внешний API. Для бизнеса и госсектора разумная ставка на 2020 год – точечные сценарии с текстом под контролем человека, а не автономные системы. Начните с одной задачи, измерьте результат, потом масштабируйте.