Si tu empresa ya tiene un agente de IA cualificando leads, respondiendo tickets o revisando facturas, hazte esta pregunta: ¿qué pasa si esta noche toma una decisión mala? Si no sabes la respuesta con precisión —no "alguien se daría cuenta", sino qué se para, quién se entera y cuándo— no tienes un agente. Tienes una decisión sin dueño que da la casualidad de que la toma una máquina.
Es el patrón que más se repite en las empresas con las que trabajo: adoptan agentes antes de decidir qué pueden hacer solos. La herramienta llega primero. El criterio, si llega, llega después de un susto.
El agente ya decide solo. La pregunta es si alguien lo decidió así
Un agente de IA no es una automatización con pasos fijos. Los agentes de IA autónomos eligen el siguiente paso según lo que encuentran, no según un guion escrito de antemano. Eso es exactamente lo que los hace útiles y exactamente lo que los hace peligrosos sin un límite.
La confusión habitual es tratar la autonomía como una propiedad técnica del agente —"este modelo es más autónomo que aquel"— cuando en realidad es una decisión de negocio que alguien tiene que tomar y nadie está tomando. Nadie programa un límite de autonomía a propósito. El límite que existe hoy en la mayoría de agentes es el que puso el proveedor de la herramienta, no el que necesita tu empresa.
La tarjeta de crédito sin límite
Cuando le das una tarjeta a un adolescente, no le das la tuya sin más. Le abres una con un tope de gasto y una alerta si se acerca. No es desconfianza: es que un menor de edad con gasto ilimitado es un problema esperando a pasar, y con límite es una lección de autonomía bien calibrada.
A la mayoría de agentes de IA que ya funcionan dentro de una empresa española nadie les ha puesto ese tope. Tienen acceso a un CRM, a una bandeja de correo, a un calendario o a un sistema de facturación, y la única frontera es lo que la herramienta les deja hacer técnicamente —no lo que la empresa ha decidido que pueden hacer.
Gobernar un agente es exactamente eso: decidir el tope de gasto antes de darle la tarjeta, no después de la primera factura sorpresa.
Tres preguntas antes de dar autonomía a un agente
Antes de dejar que un agente actúe sin supervisión en un proceso, hay tres preguntas que responder. No hace falta un comité ni un documento de cuarenta páginas: hace falta que alguien las responda por escrito, una vez, por cada tipo de decisión.
1. ¿Es reversible? Si un agente se equivoca y se puede deshacer sin daño —reclasificar un lead, reordenar una lista de tareas—, el coste de un error es bajo.
2. ¿Toca a un tercero? Enviar un email a un cliente, publicar un contenido o cambiar una cita ya no es reversible sin consecuencia: alguien fuera de la empresa ya lo ha visto.
3. ¿Mueve dinero o compromete un contrato? Emitir una factura, aceptar una condición o cancelar un servicio es la categoría que nunca debería resolver una máquina sola, por buena que sea su tasa de acierto.
| Tipo de decisión | Ejemplo | Nivel de autonomía adecuado |
|---|---|---|
| Reversible y sin impacto externo | Etiquetar un lead, resumir un documento, priorizar una bandeja | El agente decide solo, con registro revisable |
| Reversible pero visible para un tercero | Responder un ticket, enviar una propuesta, programar una publicación | El agente prepara, una persona aprueba antes de que salga |
| Irreversible o con impacto económico o legal | Emitir una factura, firmar una condición, cancelar un contrato | El agente nunca decide solo: siempre hay una persona con el mandato de aprobar |
La tabla no es una checklist técnica. Es la conversación que tiene que tener el dueño del proceso antes de conectar el agente a nada.
Gobernar agentes no es lo mismo que cumplir el Artículo 4 del EU AI Act. El Artículo 4 exige que las personas que trabajan con IA tengan un nivel suficiente de alfabetización sobre sus riesgos, como explico en la guía práctica del EU AI Act para empresas españolas. La gobernanza de agentes es otra cosa: decide qué puede hacer la máquina sin que una persona intervenga. Puedes tener la formación del Artículo 4 resuelta y seguir teniendo un agente sin freno.
Por qué esto ya no es solo buena práctica
El calendario del Reglamento (UE) 2024/1689 ha cambiado el peso de esta conversación. La supervisión y el régimen sancionador se aplican en España desde el 2 de agosto de 2026, y aunque el ómnibus digital movió buena parte de las obligaciones de alto riesgo a diciembre de 2027 —lo cuento con detalle en qué quedó del 2 de agosto tras el ómnibus—, la pregunta de quién puede parar a un sistema de IA que actúa por cuenta de tu empresa ya no es solo una decisión interna de proceso. Es exactamente el tipo de cosa que un regulador, un cliente o un asegurador va a preguntar cuando algo salga mal, y "no lo sé, lo decide él solo" no es una respuesta que aguante esa conversación.
No hace falta esperar a una inspección para que esto importe. Un agente sin gobernanza que cancela por error una reserva, promete un descuento que no existe o reenvía datos de un cliente a quien no debía ya ha hecho daño antes de que llegue ningún regulador.
Cómo se ve un agente bien gobernado
En la práctica, un agente bien gobernado no es uno que hace menos. Es uno donde tres cosas están escritas antes de que empiece a trabajar:
- Qué puede decidir solo, con ejemplos concretos, no una frase genérica como "tareas rutinarias".
- Qué necesita una aprobación humana antes de ejecutarse, y quién es esa persona por nombre y no por departamento.
- Quién tiene el interruptor: quién puede pausar el agente entero si algo va mal, y cuánto tarda esa persona en enterarse de que algo ha ido mal.
Es la misma regla que sigo con mis propias automatizaciones: la máquina ejecuta, yo decido, como cuento en el diario de automatización de Zero Company. Ahí la lista de lo que nunca automatizo —aceptar un cliente, decidir un precio— no salió de una intuición. Salió de aplicar exactamente las tres preguntas de más arriba a mi propio negocio antes de conectar nada.
El error que más veo: automatizar antes de gobernar
El orden que sigue casi todo el mundo es: primero se compra o se construye el agente, después —si hay tiempo, que casi nunca lo hay— se piensa en los límites. El orden que funciona es el inverso.
Antes de dar autonomía a un agente en un proceso nuevo, conviene saber primero qué está pasando ya con la IA en tu equipo: si nadie ha hecho ese ejercicio, el punto de partida es auditar el uso de IA en tu equipo. Sin ese mapa, cualquier decisión sobre autonomía de agentes se toma a ciegas sobre un terreno que ya tiene shadow AI, herramientas sin aprobar y procesos que nadie ha documentado.
Con el mapa hecho, el paso siguiente es el que trabajo con las empresas dentro del Programa Agent First: no se trata de comprar más agentes, sino de decidir con criterio qué se delega, qué se supervisa y qué queda siempre en manos de una persona. Cuando esa decisión necesita quedar documentada de forma auditable —con el modelo de gobernanza, el mapa de agentes y quién tiene el mandato de pararlos—, es lo que entrego como Plan Director de IA.
Un agente sin gobernanza no es un agente avanzado. Es una tarjeta sin límite que todavía no ha encontrado su primera factura sorpresa. Si quieres revisar dónde está ese límite en tu empresa antes de que lo encuentre por ti, puedes reservar una sesión de diagnóstico gratuita de 30 minutos y lo miramos juntos.