Dominar la ingeniería RAG7 / 10
Evaluación — No puedes mejorar lo que no mides
Sin un conjunto de evaluación, cada cambio en RAG es una corazonada. Con uno, ajustas chunking, retrieval y prompts con un número que te dice si ayudaste o perjudicaste.
Este es el artículo que convierte RAG de adivinanza a ingeniería. Un conjunto de evaluación es una lista fija de preguntas con respuestas conocidas como buenas (o fuentes conocidas como relevantes). Ejecútalo después de cada cambio y obtienes un número — ¿esto ayudó o perjudicó?
Construye el conjunto primero
- Recopila 30–100 preguntas reales (de usuarios, tickets de soporte, docs). Lo real vence a lo inventado.
- Para cada una, marca los chunk(s) de fuente relevantes y una respuesta de referencia.
- Incluye casos difíciles: ambiguos, multi-hop, y preguntas fuera del alcance (la respuesta debe ser "No sé").
Las métricas que importan
- Retrieval recall@k — ¿el chunk relevante llegó al top-k? Este es tu techo; arréglalo primero.
- Faithfulness — ¿está cada afirmación en la respuesta respaldada por el contexto recuperado? Detecta alucinaciones.
- Answer relevance — ¿la respuesta realmente aborda la pregunta?
LLM-as-judge, responsablemente
Un modelo fuerte puede puntuaciones faithfulness y relevance a escala. Úsalo — pero calibra contra etiquetas humanas en una muestra, dale al juez una rúbrica estricta, y nunca dejes que califique el estilo de su propio generador.
Con un número para optimizar, cada decisión posterior — guardrails, costo, arquitectura — se vuelve medible en lugar de religiosa.
Serie — Dominar la ingeniería RAG
- Parte 01Por qué el RAG Ingenuo Falla en ProducciónLa demostración de búsqueda vectorial de 50 líneas que impresiona en un notebook se desmorona en el momento en que usuarios reales hacen preguntas reales. Aquí te mostramos por qué — y el mapa para salir.
- Parte 02Chunking — The Decision That Sets Your CeilingYou can't retrieve what you chunked badly. Chunking is the most under-rated lever in RAG — and the cheapest to get right.
- Parte 03Embeddings & Vector Stores 101Un embedding convierte significado en geometría. Un vector store hace esa geometría buscable en milisegundos. Acertar en ambos hace que la recuperación sea sencilla.
- Parte 04Búsqueda Híbrida — Palabra clave + VectorLa búsqueda vectorial entiende significado pero falla con términos exactos, IDs y palabras raras. La búsqueda por palabra clave los domina y pierde la paráfrasis. Usa ambas.
- Parte 05Re-Ranking — The Cheap Quality WinLa recuperación te obtiene 30 fragmentos plausibles. Un re-ranker los lee contra la pregunta actual y eleva los verdaderamente relevantes a la cima.
- Parte 06Prompting the Generator — Grounding & CitationsGreat retrieval is wasted if the model ignores it or can't point to its sources. Grounding is a prompt-design discipline, not an afterthought.
- Parte 07Evaluación — No puedes mejorar lo que no mides — estás aquíSin un conjunto de evaluación, cada cambio en RAG es una corazonada. Con uno, ajustas chunking, retrieval y prompts con un número que te dice si ayudaste o perjudicaste.
- Parte 08Handling Hallucinations & GuardrailsWhen retrieval comes up empty, a helpful model invents. Guardrails turn 'confidently wrong' into 'honestly unsure' — the difference users actually trust.
- Parte 09Disciplina de Costo y LatenciaUna consulta RAG toca embeddings, una base de datos vectorial, un re-ranker y un LLM. Cada uno suma milisegundos y centavos. A escala, la disciplina aquí es la diferencia entre un margen y un incendio.
- Parte 10La arquitectura de referencia RAG para producciónCada pieza, ensamblada: ingesta, recuperación híbrida, re-ranking, generación fundamentada, guardarraíles, evaluación y caché — el plano que puedes desplegar.