Перейти к содержимому

LlamaIndex

LlamaIndex вырос из задачи «дать модели доступ к моим документам». Его сильная сторона — конвейер данных: загрузка, разбиение, индексирование, поиск, переранжирование и сборка ответа. Агентная оркестрация здесь вторична.

documents = SimpleDirectoryReader("./docs").load_data()
index = VectorStoreIndex.from_documents(documents)
engine = index.as_query_engine(similarity_top_k=4)
print(engine.query("Какая методология использовалась в исследовании?"))

Ключевые понятия:

  • Reader — загрузчик источника (PDF, HTML, база, API).
  • Node — фрагмент документа с метаданными и связями.
  • Index — структура поиска: векторная, ключевая, графовая.
  • Query engine — поиск + генерация ответа.
  • Workflow — событийный сценарий для многошаговой обработки.

Именно так устроен 03: PDF читается, режется на фрагменты, индексируется и используется как основа для вопросов с историей.

  • Готовый конвейер данных. Не нужно писать загрузчики и чанкинг с нуля.
  • Качество поиска. Разные стратегии индексации, метаданные, переранжирование.
  • Работа с источниками. Ответ можно связать с фрагментами документа — это критично для доверия.
  • Многошаговые workflows. Когда одного поиска мало, сценарий расширяется.
  • Агент как основная задача. Если нужен сложный маршрут с прерываниями, графовый фреймворк удобнее.
  • Качество зависит от чанкинга. Плохое разбиение не спасёт ни один запрос; настройка требует измерения, а не интуиции.
  • Обновление индекса. Инкрементальная индексация — отдельная работа: без неё база знаний устаревает молча.
  • Стоимость. Переранжирование и большой top_k заметно увеличивают счёт.
  • Основная задача — вопросы по корпусу документов.
  • Нужны ссылки на источники в ответе.
  • Требуется собрать конвейер загрузки и обновления данных.
  • Нужен RAG внутри агента как инструмент.
  • Нужен агент с побочными эффектами и ветвлениями — берите LangGraph.
  • Документов мало и они стабильны: хватит одного промпта с текстом.
  • Нужен только доступ к модели — берите LangChain.

LlamaIndex даёт инструменты, но качество RAG определяется решениями: как резать документы, что индексировать, как оценивать попадание. Эти вопросы разобраны в «RAG: поиск и генерация» — фреймворк их не заменяет.