Agentes de IA: qué cambia cuando la máquina deja de escribir y empieza a actuar

Agentes: cuando la máquina aprieta el botón

Entre 2026 y 2036 la conversación deja de ser «la IA escribe» y pasa a ser «la IA hace»: reservas, compra, contesta, configura, transfiere. Este tema pone en la mesa qué cambia cuando el texto se convierte en acción, y qué criterios separan una delegación razonable de una imprudencia con buena interfaz.

Un chat que se equivoca deja un párrafo borrado; un agente que se equivoca deja una transferencia, un correo enviado a cuarenta personas o una puerta desbloqueada. La diferencia no es de inteligencia: es de consecuencias.

1. Qué es un agente y qué lo hace peligroso

Un agente es un modelo con herramientas y con un bucle: lee, decide el siguiente paso, ejecuta, mira el resultado y vuelve a decidir. Eso lo hace útil y eso lo hace peligroso, con el mismo mecanismo.

Vale decirlo sin fantasía: el agente no quiere nada. Ejecuta un procedimiento que decide paso a paso según lo que lee, y por eso puede hacer veinte cosas útiles en un minuto y una estúpida que nadie autorizó. El diseño del trabajo consiste en decidir de antemano qué está autorizado a hacer, con qué límite y quién se entera cuando se sale del carril.

El bucle es la novedad y el riesgo: cada acción cambia el estado del mundo, y el mundo le devuelve información con la que sigue actuando. Sin límite de pasos ni tope de monto, un error chico se amplifica solo.

2. El ciclo de control: cuándo es delegable

Delegar bien a una máquina es delegar bien a un empleado: alcance escrito, tope, registro consultable y alguien que revise por muestra. La tecnología nueva no inventa una ética nueva.

La primera pregunta de diseño no es qué tan lista está la máquina sino si se puede deshacer lo que hizo: reversible se prueba, irreversible se regula.

3. Qué responde la ley cuando decide la máquina

Cuando decide un algoritmo, la responsabilidad no desaparece: se traslada a quien desplegó la herramienta, a quien fijó el umbral o a quien no revisó. Eso ya es así en derecho, y las sentencias van llegando.

Se repite la frase de que cuando decide un algoritmo la responsabilidad legal desaparece para todos, y es exactamente al revés: siempre queda alguien responsable del diseño, del despliegue o de la revisión.

No hay todavía una regla única en el mundo: hay reglamentos sectoriales, leyes de protección de datos, jurisprudencia sobre productos defectuosos y contratos que reparten el riesgo. Lo que sí está claro es que nadie escapa por decir que lo hizo el modelo, y que la discusión de estos años es quién era el responsable de diseño, de despliegue o de revisión.

Regla de este tema: ninguna acción autónoma sobre dinero, sobre personas o sobre un sistema de seguridad sin las cuatro preguntas de control respondidas por escrito.

El punto fijo de esta década es el humano en el circuito: no porque la máquina no pueda, sino porque alguien tiene que poder responder, y responder es una cosa que una estadística no hace.

4. A quién le llega primero la automatización de oficina

La economía de los agentes es clara: atacan primero el trabajo de oficina que ya estaba digitalizado, con reglas escritas y sin cuerpo en el medio. Es el mismo orden que siguió la automatización de fábrica, pero invertido.

La confianza decente en un agente no viene de que nunca falle: viene de saber cuánto falla, qué hace cuando falla y quién se entera.

Y conviene mirar el orden con honestidad: los agentes atacan tareas que ya eran digitales, con procedimientos escritos y con métricas. En eso son distintos de la robótica: no requieren instalar un brazo, requieren conectar un sistema a otro, y eso es barato y rápido.