Перейти к содержимому

Надёжность

Агент зависит от внешних сервисов: модели, поиска, баз, API. Каждый из них периодически недоступен, отвечает медленно или возвращает мусор. Надёжность — это не «всё работает», а «при сбое понятно, что произошло и что делать».

Таймаут ставится на каждый внешний вызов, включая вызов модели. Без него зависший запрос держит ресурсы до бесконечности.

Практика:

  • таймаут короче, чем общий бюджет запроса;
  • таймаут на шаг меньше, чем на весь запуск;
  • при таймауте возвращается структурированная ошибка, а не исключение.

Повтор помогает при временных сбоях и вредит при постоянных.

Ошибка Повторять
Таймаут, 502, 503 Да, с экспоненциальной задержкой
429 (лимит) Да, с учётом заголовка retry-after
401, 403 Нет
400 (неверный запрос) Нет, исправлять аргументы
Пустой результат Зависит от задачи

Ограничение числа попыток обязательно: бесконечный повтор — это отказ, растянутый во времени.

Главная защита от двойных эффектов. Операция с побочным действием получает ключ, который генерируется один раз на логический шаг и передаётся в API. Повтор с тем же ключом не создаёт второй заказ, платёж или письмо.

Это важнее, чем проверка «выполнилось ли»: проверка требует доступа к системе, идемпотентность — нет.

Агент редко падает целиком. Чаще отказывает один шаг:

  • поиск не вернул результатов;
  • модель вернула невалидный JSON;
  • база недоступна;
  • инструмент вернул пусто.

Правильное поведение — продолжить с деградацией или вернуть частичный результат с явной пометкой. Неправильное — молча подставить пустое значение.

Кроме таймаутов на шаг, нужен общий дедлайн. Он защищает от медленного накопления: десять шагов по десять секунд — это уже минута ожидания пользователя.

  • Что произойдёт, если провайдер модели недоступен минуту.
  • Что произойдёт, если инструмент вернёт пустой список.
  • Что произойдёт при повторном вызове шага с побочным эффектом.
  • Что увидит пользователь при частичном результате.
  • Как это отразится в трассе и алертах.

Ответы на эти вопросы — и есть надёжность.