RAG, dane i pamięć
Re-ranking
„Najpierw bierzesz 100 wyników, potem mały, sprytny model przesortowuje TOP 5.”
Cohere Rerank, Jina Reranker, Voyage Rerank. Czas: ~100ms na 100 kandydatów. Wpływ na jakość RAG: zwykle +10-30% accuracy. Trzeba mieć, jak masz produkcyjny RAG.
Po co Ci to: Najtańszy upgrade RAG: 1 dodatkowy krok, +15% accuracy.
🥚Wyszukiwarka łapie szeroko. Reranker mówi: ten, ten i ten – po kolei.
