Dominando a engenharia RAG3 / 10
Embeddings & Vector Stores 101
Um embedding transforma significado em geometria. Uma vector store torna essa geometria pesquisável em milissegundos. Acerte ambos e a recuperação fica fácil.
Um embedding mapeia texto para um ponto em espaço de alta dimensionalidade onde proximidade significa significado similar. Recuperação é então apenas "encontre os pontos mais próximos dessa pergunta." Tudo o mais é encanamento.
Escolhendo um modelo
- Qualidade vs. custo — modelos maiores fazem embed de nuances melhor mas custam mais por token e por query.
- Dimensões — mais dimensões podem capturar mais, mas custam armazenamento e tempo de busca. Muitos sistemas em produção ficam em 768–1536.
- Consistência — faça embed de seus documentos e suas queries com o mesmo modelo. Misturar modelos embaralha a geometria.
Onde armazená-los
- pgvector (Postgres) — se você já roda Postgres, comece aqui. Um banco de dados, transacional, filtrável por metadados com SQL puro.
- Vector DBs dedicados — recorra a eles em larga escala ou quando você precisa de features de índice especializadas. Não comece aqui para um primeiro produto.
Índices mantêm isso rápido
Busca exata de vizinho mais próximo é O(n) — ok em 10k vetores, dolorosa em 10M. Índices approximate nearest-neighbour (ANN) (HNSW, IVPFlat) trocam um fio de recall por velocidade de ordens de magnitude.
Vetores sozinhos perdem termos exatos e palavras-chave raras. Próximo: combiná-los com busca por palavra-chave — retrieval híbrido.
Série — Dominando a engenharia RAG
- Parte 01Por que RAG Ingênuo Falha em ProduçãoA demo de busca vetorial de 50 linhas que impressiona no notebook desmorona no momento em que usuários reais fazem perguntas reais. Aqui está o porquê — e o mapa de saída.
- Parte 02Chunking — The Decision That Sets Your CeilingYou can't retrieve what you chunked badly. Chunking is the most under-rated lever in RAG — and the cheapest to get right.
- Parte 03Embeddings & Vector Stores 101 — você está aquiUm embedding transforma significado em geometria. Uma vector store torna essa geometria pesquisável em milissegundos. Acerte ambos e a recuperação fica fácil.
- Parte 04Hybrid Retrieval — Keyword + VectorVector search compreende significado mas tropeça em termos exatos, IDs e palavras raras. Keyword search acerta nesses e erra em paráfrase. Use ambos.
- Parte 05Re-Ranking — The Cheap Quality WinRetrieval gets you 30 plausible chunks. A re-ranker reads them against the actual question and floats the truly relevant few to the top.
- Parte 06Prompting the Generator — Grounding & CitationsGreat retrieval is wasted if the model ignores it or can't point to its sources. Grounding is a prompt-design discipline, not an afterthought.
- Parte 07Avaliação — Você Não Pode Melhorar o Que Não MedeSem um conjunto de avaliação, toda mudança em RAG é uma intuição. Com um, você afina chunking, retrieval e prompts com um número que diz se ajudou ou prejudicou.
- Parte 08Tratando Alucinações e GuardrailsQuando a recuperação vem vazia, um modelo prestativo inventa. Guardrails transformam 'confiantemente errado' em 'honestamente incerto' — a diferença que os usuários realmente confiam.
- Parte 09Disciplina de Custo e LatênciaUma consulta RAG toca embeddings, um vector DB, um re-ranker e um LLM. Cada um adiciona milissegundos e centavos. Em escala, disciplina aqui é a diferença entre uma margem e um incêndio.
- Parte 10The Production RAG Reference ArchitectureEvery piece, assembled: ingestion, hybrid retrieval, re-ranking, grounded generation, guardrails, eval and caching — the blueprint you can ship.