Arquitectura de sistemas IA — Maestría1 / 9
Arquitectura de productos de IA — Primeros principios
Los sistemas de IA fallan diferente del software normal: son no determinísticos, tienen costo por llamada y son difíciles de probar. La arquitectura debe considerar los tres.
La arquitectura de un producto de IA no es la arquitectura de una app CRUD con un modelo acoplado. Tres propiedades cambian las reglas — e ignorarlas es cómo los productos de IA mueren en producción.
Qué es realmente diferente
- No determinismo. La misma entrada puede producir salidas diferentes. Tu sistema debe tolerar varianza, no asumir una respuesta fija.
- Costo por llamada. Cada inferencia cuesta dinero y tiempo. El cómputo ya no es "gratis una vez desplegado" — es un rubro por solicitud.
- Corrección difusa. Raramente hay una respuesta correcta única. "Correcto" es una distribución que mides, no un test unitario que pasa.
Principios que se derivan
- Diseña para varianza. Valida, limita y reintenta la salida del modelo; nunca confíes ciegamente en la forma de una sola llamada.
- Haz del costo una métrica de primera clase. Presupuesta tokens por solicitud como lo harías con consultas a BD. (Artículo 6.)
- La evaluación es infraestructura, no QA. Si no puedes medir calidad, no puedes cambiar el sistema con seguridad. (Artículo 5.)
- Mantén humanos en lo irreversible. Deja que el sistema actúe libremente en lo reversible; controla lo costoso y permanente.
Esta serie recorre las decisiones en orden: topología, orquestación, memoria, evaluación, costo, latencia, confiabilidad — y la arquitectura de referencia que las compone.
Serie — Arquitectura de sistemas IA — Maestría
- Parte 01Arquitectura de productos de IA — Primeros principios — estás aquíLos sistemas de IA fallan diferente del software normal: son no determinísticos, tienen costo por llamada y son difíciles de probar. La arquitectura debe considerar los tres.
- Parte 02Single Agent vs. Multi-Agent — Choosing a TopologyMulti-agent is fashionable and usually premature. Here is how to decide honestly — and why most products should start with one well-equipped agent.
- Parte 03Patrones de Orquestación — Pipelines, Routers, SwarmsUna vez que tienes múltiples pasos o agentes, cómo están conectados determina el costo, la latencia y la confiabilidad. Cuatro patrones cubren casi todo.
- Parte 04Arquitectura de contexto y memoriaLa ventana de contexto es tu recurso más caro y más disputado. Lo que incluyas en ella —y lo que recuerdes entre llamadas— es una decisión arquitectónica.
- Parte 05Evaluation Pipelines as InfrastructureIn AI systems, evaluation is not QA you do at the end — it's infrastructure you build first. Without it, every change is a prayer.
- Parte 06Ingeniería de costos — Presupuestos de tokens que se sostienenUna característica de IA que encanta a 100 usuarios puede arruinarte a 100,000. El costo es una restricción arquitectónica, diseñada desde el inicio — no descubierta en la factura.
- Parte 07Latencia y rendimiento a escalaLa inferencia es lenta e impredecible. El streaming, el paralelismo y el límite asincrónico son lo que mantiene un producto de IA rápido bajo carga real.
- Parte 08Confiabilidad — Reintentos, Alternativas, ProteccionesLos modelos devuelven salidas malformadas, los proveedores se caen y la calidad se degrada. Un sistema de IA confiable anticipa estos tres escenarios y sigue funcionando de todas formas.
- Parte 09La arquitectura de referencia en producciónTopología, orquestación, memoria, evaluación, costo, latencia y confiabilidad — compuestos en un plano para un sistema de IA que sobrevive usuarios reales.