Перейти к содержимому

03. PDF Q&A Agent: вопросы по документу

Минимальный, но полноценный RAG-конвейер: один документ, индекс, вопросы. Хороший эталон для понимания того, из каких шагов состоит поиск по документам.

Загрузить PDF и отвечать на вопросы по его содержанию. Два режима: один вопрос и интерактивный диалог с историей. Граница: агент отвечает только по документу и не проверяет факты вне него.

flowchart LR
  P["PDF"] --> R["Reader"]
  R --> N["Фрагменты"]
  N --> I["Индекс"]
  Q["Вопрос"] --> E["Поиск"]
  I --> E
  E --> M["Модель"]
  M --> A["Ответ"]
  H["История"] --> M

LlamaIndex берёт на себя чтение, разбиение и индексацию; скрипт — обвязка вокруг query engine.

  1. SimpleDirectoryReader читает PDF.
  2. VectorStoreIndex.from_documents строит векторный индекс.
  3. as_query_engine создаёт движок запросов.
  4. Вопрос уходит в движок; при диалоговом режиме в контекст добавляется история.
documents = SimpleDirectoryReader(input_files=[pdf_path]).load_data()
index = VectorStoreIndex.from_documents(documents)
engine = index.as_query_engine(similarity_top_k=4)
print(engine.query(question))
  • RAG — это конвейер, а не вызов. Качество определяется чтением, разбиением и выбором top_k, а не моделью.
  • История в диалоге помогает уточняющим вопросам, но увеличивает стоимость.
  • Индекс строится один раз на документ; в скрипте он в памяти, поэтому каждый запуск начинает заново.
  • Разбиение по умолчанию. Для документов с таблицами и колонками оно часто неверно.
  • Нет ссылок на страницы. Ответ нельзя проверить по первоисточнику.
  • top_k=4 фиксирован. Для больших документов этого мало, для маленьких — много.
  • Нет отказа. На вопрос вне документа движок всё равно вернёт «похожий» ответ.
  • Только векторный поиск. Артикулы и коды находятся плохо.
  • Добавить метаданные (номер страницы) и требовать цитату в ответе.
  • Включить гибридный поиск и переранжирование — см. RAG.
  • Кэшировать индекс на диск, чтобы не строить его при каждом запуске.
  • Явно обрабатывать случай «в документе нет ответа».