Dominar la ingeniería RAG5 / 10
Re-Ranking — The Cheap Quality Win
La recuperación te obtiene 30 fragmentos plausibles. Un re-ranker los lee contra la pregunta actual y eleva los verdaderamente relevantes a la cima.
La búsqueda por embedding es rápida pero superficial: compara tu pregunta y cada fragmento por separado, luego mide distancia. Un re-ranker es lento pero profundo: lee la pregunta y un fragmento juntos y puntúa la relevancia verdadera.
El patrón: retrieve amplio, re-rank estrecho
- Recupera ampliamente — top 30–50 fragmentos vía búsqueda híbrida (optimizada para recall; lanza una red ancha).
- Re-rankea esos con un cross-encoder contra la pregunta.
- Mantén los top 3–8 para el prompt (optimizado para precisión).
Obttienes el recall de la recuperación amplia y la precisión de la puntuación profunda, sin re-rankear tu corpus completo.
Por qué funciona
Un bi-encoder (embeddings) debe codificar un fragmento antes de conocer tu pregunta. Un cross-encoder ve ambos a la vez, así que atrapa relevancia que la distancia pierde — negación, especificidad, "este fragmento es acerca de X pero no responde X".
El trade-off
Re-rankear agrega latencia y costo por query (puntúas 30–50 pares). Ajusta el retrieve-width y keep-count contra tu eval set y presupuesto de latencia — cubierto en artículos 7 y 9.
Ahora la recuperación es nítida. Siguiente: hacer que el generador realmente la use — grounding y citaciones.
Serie — Dominar la ingeniería RAG
- Parte 01Por qué el RAG Ingenuo Falla en ProducciónLa demostración de búsqueda vectorial de 50 líneas que impresiona en un notebook se desmorona en el momento en que usuarios reales hacen preguntas reales. Aquí te mostramos por qué — y el mapa para salir.
- Parte 02Chunking — The Decision That Sets Your CeilingYou can't retrieve what you chunked badly. Chunking is the most under-rated lever in RAG — and the cheapest to get right.
- Parte 03Embeddings & Vector Stores 101Un embedding convierte significado en geometría. Un vector store hace esa geometría buscable en milisegundos. Acertar en ambos hace que la recuperación sea sencilla.
- Parte 04Búsqueda Híbrida — Palabra clave + VectorLa búsqueda vectorial entiende significado pero falla con términos exactos, IDs y palabras raras. La búsqueda por palabra clave los domina y pierde la paráfrasis. Usa ambas.
- Parte 05Re-Ranking — The Cheap Quality Win — estás aquíLa recuperación te obtiene 30 fragmentos plausibles. Un re-ranker los lee contra la pregunta actual y eleva los verdaderamente relevantes a la cima.
- Parte 06Prompting the Generator — Grounding & CitationsGreat retrieval is wasted if the model ignores it or can't point to its sources. Grounding is a prompt-design discipline, not an afterthought.
- Parte 07Evaluación — No puedes mejorar lo que no midesSin un conjunto de evaluación, cada cambio en RAG es una corazonada. Con uno, ajustas chunking, retrieval y prompts con un número que te dice si ayudaste o perjudicaste.
- Parte 08Handling Hallucinations & GuardrailsWhen retrieval comes up empty, a helpful model invents. Guardrails turn 'confidently wrong' into 'honestly unsure' — the difference users actually trust.
- Parte 09Disciplina de Costo y LatenciaUna consulta RAG toca embeddings, una base de datos vectorial, un re-ranker y un LLM. Cada uno suma milisegundos y centavos. A escala, la disciplina aquí es la diferencia entre un margen y un incendio.
- Parte 10La arquitectura de referencia RAG para producciónCada pieza, ensamblada: ingesta, recuperación híbrida, re-ranking, generación fundamentada, guardarraíles, evaluación y caché — el plano que puedes desplegar.