﻿---
title: Безопасность
description: "Агенты в безопасности: детект угроз, red team и защита памяти агента — и почему здесь нельзя верить модели на слово."
---

Этот сценарий — про агентов, которые **занимаются безопасностью как работой**:
находят угрозы, проверяют систему, разбирают инциденты. Защита собственного агента
описана отдельно, в [«Безопасности агента»](https://wpcraft.ru/aia/production/security.md).

## Задачи

- Детект подозрительной активности по логам.
- Red team: автоматический поиск слабых мест.
- Разбор инцидента: сбор контекста и гипотез.
- Проверка конфигураций на соответствие политике.
- Классификация алертов и снижение шума.

Классы задач: детект угроз в реальном времени, автономный red team и защита
памяти агента от отравления (OWASP ASI06).

## Почему здесь особая осторожность

Агент безопасности работает с двумя опасными свойствами одновременно:

1. **Он атакует.** Red team-агент выполняет действия против системы — и может
   выйти за согласованный периметр.
2. **Его вывод — доверие.** Если агент ошибётся и пропустит угрозу, это хуже, чем
   отсутствие агента: появляется ложное чувство защищённости.

Отсюда правило: **агент безопасности работает только внутри явно ограниченного
периметра и никогда не является единственным контролем.**

## Детект и шум

Практическая ценность агента в детекте — не «найти всё», а снизить шум:

- сгруппировать однотипные алерты;
- добавить контекст (кто, откуда, что менялось);
- предложить приоритет и следующий шаг.

Модель хороша в объяснении и группировке, плоха в подсчёте редких событий: на
аномалиях у неё нет статистической опоры.

## Red team

Автономный red team ускоряет проверку, но требует жёстких рамок:

- белый список целей;
- запрет на разрушительные действия;
- окно времени и лимит запросов;
- журнал всех действий;
- остановка при выходе за периметр.

Без этого «полезный взломщик» становится инцидентом.

## Защита памяти агента

Отдельный класс угроз — отравление памяти: злоумышленник записывает инструкцию в
долгую память, и она срабатывает позже. Такие атаки детектирует проект
OWASP Agent Memory Guard (ASI06).

Практика:

- помечать происхождение каждой записи;
- не исполнять инструкции из сохранённых данных;
- проверять записи перед использованием;
- ограничивать, кто и что может писать в память.

Подробнее — в [«Памяти и контексте»](https://wpcraft.ru/aia/foundations/memory.md).

## Метрики

- Доля алертов, закрытых как ложные, до и после.
- Время от алерта до решения.
- Число найденных проблем, подтверждённых человеком.
- Число действий агента вне разрешённого периметра — должно быть нулём.

## Связь с другими разделами

- Инъекции и утечки — [Безопасность агента](https://wpcraft.ru/aia/production/security.md).
- Наблюдаемость действий — [Наблюдаемость](https://wpcraft.ru/aia/production/observability.md).
- Оценка качества детекта — [Evals](https://wpcraft.ru/aia/production/evals.md).

## Материалы и источники

- [OWASP: agent memory guard](https://github.com/OWASP/www-project-agent-memory-guard) — проект защиты памяти агента.