Перейти к содержимому

Безопасность

Этот сценарий — про агентов, которые занимаются безопасностью как работой: находят угрозы, проверяют систему, разбирают инциденты. Защита собственного агента описана отдельно, в «Безопасности агента».

  • Детект подозрительной активности по логам.
  • Red team: автоматический поиск слабых мест.
  • Разбор инцидента: сбор контекста и гипотез.
  • Проверка конфигураций на соответствие политике.
  • Классификация алертов и снижение шума.

Классы задач: детект угроз в реальном времени, автономный red team и защита памяти агента от отравления (OWASP ASI06).

Агент безопасности работает с двумя опасными свойствами одновременно:

  1. Он атакует. Red team-агент выполняет действия против системы — и может выйти за согласованный периметр.
  2. Его вывод — доверие. Если агент ошибётся и пропустит угрозу, это хуже, чем отсутствие агента: появляется ложное чувство защищённости.

Отсюда правило: агент безопасности работает только внутри явно ограниченного периметра и никогда не является единственным контролем.

Практическая ценность агента в детекте — не «найти всё», а снизить шум:

  • сгруппировать однотипные алерты;
  • добавить контекст (кто, откуда, что менялось);
  • предложить приоритет и следующий шаг.

Модель хороша в объяснении и группировке, плоха в подсчёте редких событий: на аномалиях у неё нет статистической опоры.

Автономный red team ускоряет проверку, но требует жёстких рамок:

  • белый список целей;
  • запрет на разрушительные действия;
  • окно времени и лимит запросов;
  • журнал всех действий;
  • остановка при выходе за периметр.

Без этого «полезный взломщик» становится инцидентом.

Отдельный класс угроз — отравление памяти: злоумышленник записывает инструкцию в долгую память, и она срабатывает позже. Такие атаки детектирует проект OWASP Agent Memory Guard (ASI06).

Практика:

  • помечать происхождение каждой записи;
  • не исполнять инструкции из сохранённых данных;
  • проверять записи перед использованием;
  • ограничивать, кто и что может писать в память.

Подробнее — в «Памяти и контексте».

  • Доля алертов, закрытых как ложные, до и после.
  • Время от алерта до решения.
  • Число найденных проблем, подтверждённых человеком.
  • Число действий агента вне разрешённого периметра — должно быть нулём.