Agentes que realizan un trabajo, dentro de los límites que establezcas

Un chatbot responde; un agente actúa. Un chatbot le dice a tu cliente la política de devoluciones. Un agente busca su pedido, verifica la elegibilidad, crea la devolución y reserva la recogida. El segundo necesita permisos, límites y un registro de auditoría, que es la mayor parte del trabajo.

Cuatro cosas, y ninguna es confiar en el modelo: herramientas que solo pueden realizar operaciones validadas y limitadas, puntos de aprobación para cualquier acción irreversible, límites estrictos en pasos y gastos aplicados en el código, y un registro de auditoría para que un error sea diagnosticable. Diseñamos asumiendo que el modelo se equivocará ocasionalmente, porque lo hará.

Para tareas estrechas y bien definidas con un humano en los pasos irreversibles, sí: los desarrollamos y ejecutamos. Para autonomía abierta sobre sistemas importantes, aún no, y lo diremos antes que venderte un piloto que acabe archivado en silencio.

Se restringe en lugar de eliminarse. Los datos provienen de tus sistemas a través de herramientas en lugar de la memoria del modelo, las salidas se validan frente a un esquema antes de usarse, y cualquier cosa no verificable se convierte en una escalada en lugar de una acción. Cualquier proveedor que prometa cero alucinaciones no entiende la tecnología.

Aquel que obtenga mejores resultados en tu conjunto de evaluación, detrás de un adaptador para poder cambiarlo. En la práctica, solemos usar Mistral o Claude para el uso de herramientas. Lo importante es que la elección se mida en función de tus tareas y sea reversible, ya que la clasificación cambia cada pocos meses.