Перейти к содержимому

13. Customer Support Agent: RAG и эскалация

Самый сложный из трёх LangGraph-примеров: три узла, состояние из пяти полей и решение об эскалации. Показывает, как выглядит RAG в графе — и где заканчивается демонстрация.

Отвечать на вопросы по базе знаний и передавать человека, когда тема чувствительна. Граница: база знаний подключается каталогом файлов, эскалация — по ключевым словам.

flowchart LR
  U["Вопрос"] --> R["retrieve"]
  R -->|"FAISS"| C["check_escalation"]
  C --> G["generate"]
  G --> A["Ответ"]

Состояние:

class SupportState(TypedDict):
messages: list
user_input: str
retrieved_context: str
response: str
escalate: bool
  1. retrieve_context строит или использует FAISS-индекс по документам базы.
  2. check_escalation ищет ключевые слова (споры об оплате, потеря данных) и ставит флаг.
  3. generate_response формирует ответ; при флаге добавляет пометку об эскалации.
  4. Цикл продолжается для следующей реплики.
def check_escalation(state: SupportState) -> SupportState:
text = state["user_input"].lower()
needs_escalation = any(kw in text for kw in ESCALATION_KEYWORDS)
return {"escalate": needs_escalation}
  • RAG внутри графа. Поиск — это узел, а не отдельный сервис; результат сохраняется в состоянии и виден следующему шагу.
  • Эскалация как состояние, а не как текст. Флаг escalate отделён от ответа — его можно использовать в коде.
  • Своя база знаний. --kb-dir позволяет подставить документы продукта.
  • Эскалация по ключевым словам. «Не потерял ли я данные?» и «вы потеряли мои данные» срабатывают по-разному; переформулировки проходят мимо.
  • Индекс в памяти. Перезапуск пересобирает индекс; при большом корпусе это долго.
  • Нет порога релевантности. Если ничего не найдено, ответ всё равно генерируется.
  • Нет человека в цикле. Эскалация — это пометка в ответе, а не передача в очередь к оператору.
  • Нет сохранения диалога. Состояние живёт в процессе — продакшен так не работает.
  • Заменить ключевые слова на классификатор с проверкой на размеченном наборе.
  • Добавить порог релевантности и явный ответ «в базе нет».
  • Реализовать настоящую эскалацию: тикет, очередь, контекст оператору — см. Human-in-the-loop.
  • Сохранять состояние в БД — см. Состояние и чекпойнты.
  • FAISS — векторный индекс, использованный в примере.