Рунити нашла способ улучшить поиск в RAG-ассистенте на 35 тысячах страниц

ML-инженер Рунити Саша Михеев опубликовал на Хабре статью о том, как команда решила проблему с качеством поиска в корпоративном RAG-ассистенте, построенном на базе Confluence. Когда корпус документов вырос до 35 тысяч страниц и 80 тысяч чанков, релевантные материалы часто оказывались в нижней части результатов.

Команда перепробовала несколько подходов — изменила выгрузку данных, усложнила чанкирование, добавила структурный граф и более крупную embedding-модель, но прорыв дал reranker, переранжирующий уже найденные документы. Это показывает, что для больших корпусов проблема часто не в поиске, а в ранжировании результатов.