Стратегии извлечения

Стратегия извлечения — это контракт между запросом и индексом, и именно она определяет качество RAG. Начните с гибридного поиска: BM25 для точных совпадений и dense-эмбеддинги для семантики, объединённые через RRF. Поверх top-50 поставьте cross-encoder реранкер. Для длинных или иерархических корпусов добавьте HyDE, мульти-запросы или переписывание запроса; для структурированных документов — parent-document или sentence-window retrieval. Прежде чем менять промпт, измерьте recall@k на размеченных запросах — большинство багов RAG это баги извлечения.

Как это работает

Стратегии извлечения (Retrieval-Augmented Generation) дополняет LLM-output релевантным контекстом из вашей knowledge base. Pipeline: embed документов → vector DB → на запросе embed query → retrieve top-k похожих chunks → включить как контекст в LLM-промпт → сгенерировать ответ. Embedding-модели: text-embedding-3-large (OpenAI), bge-large, e5-mistral, voyage-3. Vector DB: Postgres + pgvector, Qdrant, Weaviate, Chroma, Pinecone. Re-rankers (Cohere, BGE) улучшают качество top-k.

Когда применять

RAG — когда LLM нужно отвечать по знаниям, которые (а) превышают context window, (б) после knowledge cutoff модели, (в) проприетарны. Начните с Postgres + pgvector — дешевле, проще, масштабируется дальше ожидаемого. Re-ranker — когда качество retrieval плато. Тюньте chunk-size (256-1024 токена) + overlap (10-20%). Меряйте retrieval recall + качество ответа раздельно.

Типичные ошибки

Ловушки Стратегии извлечения: chunk слишком маленький (теряет контекст) или большой (нерелевантный контекст доминирует); нет метаданных (источник, timestamp, секция) для фильтрации + цитирования; расчёт, что embedding-модели взаимозаменяемы (нет — качество сильно варьируется); пропуск re-ranking + удивление, что ответы плохие на close-but-wrong retrieval.

Связанные понятия

• RAG (генерация с использованием поиска)
• Вложения
• Векторные базы данных
• Стратегии разбиения