Перейти к содержимому

Деплой

Деплой агента отличается от деплоя обычного сервиса тем, что поведение зависит не только от кода, но и от промптов, модели и внешних инструментов. Значит, версия — это всё вместе.

Артефакт Почему
Код Обычная причина
Промпты Меняют поведение сильнее кода
Конфигурация модели Версия и параметры
Схемы инструментов Меняют выбор действий
Набор eval Определяет, что считается регрессией

Промпт, лежащий в базе данных без версии, — главный источник «вчера работало иначе».

  • Синхронно в запросе. Простые задачи, ответ нужен сразу.
  • Очередь. Долгие задачи; пользователь получает уведомление.
  • Фоновый воркер. Пакетная обработка, расписания.
  • Потоковый ответ. Когда важна первая реакция.

Режим определяет требования к состоянию: в очереди и воркере состояние обязано переживать перезапуск.

  1. Прогнать eval на текущей базовой линии.
  2. Собрать артефакты: код, промпты, конфигурация.
  3. Выкатить на канареечную долю трафика.
  4. Сравнить метрики: качество, стоимость, ошибки, задержка.
  5. Расширить на весь трафик или откатить.
  6. Записать версию и результат в журнал изменений.

Шаг 4 — единственный, который отличает деплой от «залил и надеюсь».

Откат должен быть быстрым и однозначным:

  • версия промпта и конфигурации переключается флагом, без сборки;
  • предыдущая версия сохраняется;
  • откат не требует миграции данных;
  • решение об откате принимается по метрикам, а не по ощущению.

Если откат требует пересборки и миграции, он не будет выполнен вовремя.

  • Хранить в репозитории рядом с кодом.
  • Ревьюить изменения как код.
  • Тестировать eval-набором.
  • Не редактировать в продакшене вручную.

Ручная правка промпта в продакшене — это изменение без ревью, без тестов и без истории.

Изменение схемы состояния или формата результата требует совместимости:

  • новая версия читает старые записи;
  • старые задачи доигрываются старой версией;
  • несовместимые записи явно отклоняются, а не интерпретируются наугад.