Un agente de IA no es un chat con "prompt largo": es un sistema que percibe un objetivo, decide qué herramientas ejecutar, evalúa el resultado y repite el ciclo hasta terminar. Llevarlo a producción exige disciplina de ingeniería, no magia de prompting.

1. El bucle del agente

  1. Planifica: el modelo descompone el objetivo en pasos.
  2. Ejecuta: llama herramientas/tools reales (funciones, APIs, colas).
  3. Observa: el resultado vuelve al contexto como observación.
  4. Itera: decide si continúa, corrige o entrega el resultado.

Ese ciclo puede ocurrir dentro de un único LLM con function calling o mediante un orquestador (LangGraph, Vercel AI SDK, código propio). El detalle crítico: la lógica de negocio vive en las herramientas, no en el prompt.

2. Function calling / tools bien definidas

Cada tool debe ser una función pura, documentada con un esquema estricto (nombre, descripción y parámetros). El modelo escoge la herramienta; tu código ejecuta con validación y permisos reales.

const tools = [
  {
    name: 'buscar_cliente',
    description: 'Busca un cliente por email o ID',
    parameters: schema,
    execute: async (args) => sanearYDespachar({ clientService, args }),
  },
];

Regla de oro: el agente nunca se conecta directo a sistemas críticos; siempre llama a tus servicios con autorización.

3. RAG y memoria

RAG (recuperación aumentada) aporta contexto real: documentos, docs técnicos, base de conocimiento. El flujo habitual: chunking del contenido, embeddings, búsqueda vectorial y reranking antes de armar el contexto. Las respuestas deben citar la fuente para hacer verificable la salida.

Para memoria, distingue: memoria de corto plazo (historia de la conversación) y memoria de largo plazo (preferencias y hechos del usuario) persistida en base de datos, no en el prompt infinito.

4. Límites duros y human-in-the-loop

Un agente autónomo en producción necesita frenos: máximo de iteraciones, timeout por paso, presupuesto de tokens y gateways de aprobación para acciones sensibles (pagos, envío de emails, borrados). Define "zonas autónomas" (lo que puede hacer solo) y "zonas supervisadas" (siempre requiere confirmación humana).

5. Evaluación y observabilidad

Antes de escalar, evalúa con un dataset fijo: exactitud de la respuesta, tasa de alucinaciones, uso correcto de tools y tiempo/costo por tarea. Registra cada llamada: prompts enviados, tools ejecutadas, metadatos y evaluación. Si no puedes medir una versión, no la compares con otra.

6. Costos y latencia

  • Cachea respuestas para inputs repetidos.
  • Usa modelos pequeños para tareas simples y modelos grandes solo donde importa la calidad.
  • Reduce el contexto: envía solo lo relevante (el contexto grande es el mayor gasto).
  • Asíncrono: las tareas largas vía colas (el cliente recibe un ID y consulta estado).

7. Ejemplo de flujo en producción

Un asistente de soporte: el usuario abre chat por WhatsApp → un worker recibe el evento → extrae intención → RAG busca en la base de conocimiento → el agente decide si responde solo, crea un ticket (tool) o pide confirmación (gateway) → el ticket queda en la cola de soporte con todo el contexto registrado.