Hace relativamente poco estábamos aprendiendo a trabajar con copilotos de IA. Herramientas capaces de ayudarnos a buscar información, redactar contenidos, analizar datos o resolver tareas de forma más eficiente. Hoy la conversación ha evolucionado hacia los agentes de IA: sistemas capaces de ejecutar acciones, interactuar con aplicaciones e incluso tomar determinadas decisiones de forma autónoma.
Este cambio ya empieza a reflejarse en las empresas. Según un estudio de McKinsey publicado en agosto de 2026, el 40% de las organizaciones con más de 1.000 millones de dólares en ingresos afirma que su compañía ya está escalando el uso de agentes de IA en alguna función, frente al 27% del año anterior. Esa expansión nos obliga a definir qué autoridad se concede a estos sistemas, qué “responsabilidades” deberían asumir y en qué condiciones.
Dicho de otra forma: estamos obligados a plantearnos dónde ponemos el límite entre la capacidad de un sistema para ejecutar una tarea y la autoridad que estamos dispuestos a concederle. En este sentido, resulta razonable pensar que su autonomía debería estar condicionada por el impacto de un posible error, la posibilidad de revertir sus acciones y la capacidad real de supervisarlo. Completar una tarea con éxito es una condición necesaria para delegar, pero no suficiente.
El 40% de las grandes organizaciones ya escala el uso de agentes de IA, pero completar una tarea con éxito es una condición necesaria para delegar, no suficiente
Índice de temas
Autonomía y límites
Pensemos en un agente de compras. Comparar ofertas, preparar un pedido y autorizar un pago forman parte de un mismo proceso, pero no requieren el mismo grado de autonomía. Podemos permitirle tramitar pedidos a proveedores previamente aprobados dentro de un presupuesto y exigir validación adicional cuando cambie una cuenta bancaria o se modifiquen condiciones contractuales. Pero esa frontera de la delegación debe traducirse en permisos concretos, límites verificables y situaciones en las que el sistema tenga que detenerse.
En esta línea está trabajando el Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST). El pasado mes de septiembre, su Centro Nacional de Excelencia en Ciberseguridad anunció el desarrollo de un primer proyecto que tiene como objetivo determinar cómo identificar, autenticar y autorizar a estos sistemas en el ámbito del software.
A partir de aquí emergen algunas preguntas realmente relevantes. ¿Todas las decisiones son delegables? ¿Qué criterios han de aplicarse a la hora de determinar si una tarea es delegable o no lo es? Y tal vez, la más importante: ¿Quién asume la responsabilidad cuando una decisión automatizada genera un resultado imprevisto?
No es lo mismo organizar información que aprobar una acción. No es lo mismo coordinar una agenda que intervenir en procesos con impacto económico, legal o reputacional. Cuanto mayor es la autonomía, mayor es la necesidad de establecer límites claros.
Cuanto mayor es la autonomía, mayor es la necesidad de límites: cada permiso para actuar debe ir acompañado de un control y de un responsable con titular
Gobernanza, supervisión y responsabilidad humana
La experiencia de uso empieza a mostrar que la supervisión puede adoptar formas distintas. En un estudio publicado en febrero de este año, Anthropic observó que la aprobación automática completa pasaba de alrededor del 20% de las sesiones entre usuarios nuevos de Claude Code a más del 40% entre los más experimentados. Sin embargo, estos últimos interrumpían al agente con mayor frecuencia. Aunque los resultados corresponden a una herramienta de programación y no pueden generalizarse a cualquier actividad, demuestran que, en muchos casos, conceder más autonomía no está reñido con una supervisión directa más activa.
Para una empresa, esto también exige definir quién supervisa, qué información recibe y en qué momento puede intervenir. Una aprobación humana aporta poco si quien valida carece de tiempo o el expertise necesario para detectar un error. Antes del despliegue deberían quedar establecidos los permisos del agente, las acciones que requieren autorización y el mecanismo para detener su ejecución. Después, habría que evaluar tanto el trabajo completado como el tiempo de revisión que exige. Si la revisión exige más tiempo que la tarea completada, puede que haya que replantearse el proceso.
Incluso si hay un incremento real de la productividad o de la competitividad, considero que solo estaremos preparados para delegar determinadas decisiones cuando podamos acotar sus consecuencias. Y es algo que debemos poder demostrar en cada caso. La autonomía solo podrá ampliarse conforme el sistema acredite fiabilidad en condiciones reales y la organización demuestre que sabe supervisarlo.
El futuro de los agentes dependerá también de esa disciplina empresarial. E insisto: cada permiso para actuar debería ir acompañado de un límite, un mecanismo de control y un responsable. La autonomía debe ganarse y la responsabilidad debe seguir teniendo un titular.
