Безопасность
Этот сценарий — про агентов, которые занимаются безопасностью как работой: находят угрозы, проверяют систему, разбирают инциденты. Защита собственного агента описана отдельно, в «Безопасности агента».
- Детект подозрительной активности по логам.
- Red team: автоматический поиск слабых мест.
- Разбор инцидента: сбор контекста и гипотез.
- Проверка конфигураций на соответствие политике.
- Классификация алертов и снижение шума.
Классы задач: детект угроз в реальном времени, автономный red team и защита памяти агента от отравления (OWASP ASI06).
Почему здесь особая осторожность
Заголовок раздела «Почему здесь особая осторожность»Агент безопасности работает с двумя опасными свойствами одновременно:
- Он атакует. Red team-агент выполняет действия против системы — и может выйти за согласованный периметр.
- Его вывод — доверие. Если агент ошибётся и пропустит угрозу, это хуже, чем отсутствие агента: появляется ложное чувство защищённости.
Отсюда правило: агент безопасности работает только внутри явно ограниченного периметра и никогда не является единственным контролем.
Детект и шум
Заголовок раздела «Детект и шум»Практическая ценность агента в детекте — не «найти всё», а снизить шум:
- сгруппировать однотипные алерты;
- добавить контекст (кто, откуда, что менялось);
- предложить приоритет и следующий шаг.
Модель хороша в объяснении и группировке, плоха в подсчёте редких событий: на аномалиях у неё нет статистической опоры.
Red team
Заголовок раздела «Red team»Автономный red team ускоряет проверку, но требует жёстких рамок:
- белый список целей;
- запрет на разрушительные действия;
- окно времени и лимит запросов;
- журнал всех действий;
- остановка при выходе за периметр.
Без этого «полезный взломщик» становится инцидентом.
Защита памяти агента
Заголовок раздела «Защита памяти агента»Отдельный класс угроз — отравление памяти: злоумышленник записывает инструкцию в долгую память, и она срабатывает позже. Такие атаки детектирует проект OWASP Agent Memory Guard (ASI06).
Практика:
- помечать происхождение каждой записи;
- не исполнять инструкции из сохранённых данных;
- проверять записи перед использованием;
- ограничивать, кто и что может писать в память.
Подробнее — в «Памяти и контексте».
Метрики
Заголовок раздела «Метрики»- Доля алертов, закрытых как ложные, до и после.
- Время от алерта до решения.
- Число найденных проблем, подтверждённых человеком.
- Число действий агента вне разрешённого периметра — должно быть нулём.
Связь с другими разделами
Заголовок раздела «Связь с другими разделами»- Инъекции и утечки — Безопасность агента.
- Наблюдаемость действий — Наблюдаемость.
- Оценка качества детекта — Evals.
Материалы и источники
Заголовок раздела «Материалы и источники»- OWASP: agent memory guard — проект защиты памяти агента.