No quiero pecar de ventajista. Quien me conoce sabe mi opinión al respecto, lo he proclamado en ruedas de prensa y en algún artículo: los agentes IA los carga el diablo. Frente a los que saludan con optimismo la IA, cantan sus alabanzas y abrazan sus imposiciones como un gran paso del progreso humano, siempre me he mostrado un punto escéptico, y he tenido que arrostrar más de una discusión en contra y quedar a sus ojos como un tipo reaccionario a la innovación.
Desde que los agentes empezaron a copar los despliegues tecnológicos de las compañías, me invadió una sensación terrible. Precisamente fue en una rueda de prensa de Oracle, en la que alardeó: “Somos el único proveedor que cubre todo el ciclo de vida de la IA generativa. Los más de 50 Agentes de IA que ahora estamos haciendo llegar a los clientes sin coste adicional suponen un paso más en nuestro compromiso con la innovación continua”. Esto fue en enero de 2025, en la actualidad las grandes compañías sacan pecho por su ingente cartera de agentes.
Por ejemplo, Microsoft tiene inventariados unos 500.000 agentes de uso internos, y su plantilla es de 228.000 empleados a nivel mundial. Y esto solo es el principio. Los agentes irán poblando los espacios corporativos, copando los procesos y tomando ocupaciones (vale que tediosas) de los empleados. Pero claro, los procesos se irán de alguna manera ‘deshumanizando’ en el sentido que serán los agentes, los agentes de los agentes, y los agentes de los agentes de los agentes de los agentes, hasta llegar a los superagentes, los que aborden gran parte de las tareas de la empresa. “Pero siempre habrá un humano al frente de todo, alguien que supervise, no habrá costes de despidos ni reducción del talento”, esgrimen los convencidos de la IA. Permítanme que recele.
Índice de temas
Un lenguaje propio para agentes
Yo me he preguntado si esta constelación entre agentes será capaz de crear una entidad propia y un lenguaje común, al que los supervisores humanos queden desplazados cuando se complique la madeja. Joaquín Potel, CTO de SoftwareOne, me abrió los ojos al respecto. “Las máquinas pueden crear su propio lenguaje y comunicarse entre sí debido a que, al interactuar dentro de un sistema multiagente para resolver una tarea, buscan la máxima eficiencia matemática y de procesamiento”.
Al eliminar las reglas, la sintaxis y las redundancias del idioma humano (que les resultan lentas y costosas), las inteligencias artificiales deforman de manera natural las palabras o se envían paquetes de datos puros mediante señales comprimidas para optimizar el almacenamiento de memoria, acelerar la velocidad de transferencia y coordinar acciones de forma directa.
Los procesos se irán de alguna manera ‘deshumanizando’ en el sentido que serán los agentes, los agentes de los agentes, y los agentes de los agentes de los agentes de los agentes, hasta llegar a los superagentes, los que aborden gran parte de las tareas de la empresa
Empresas formadas por agentes
Con respecto al empleo, consulto a la IA si existen realmente empresas creadas con agentes y sin personal humano. Me responde: “Sí, es una realidad, pero con un matiz importante: legalmente las empresas necesitan al menos un humano como titular de la entidad, pero operativamente ya existen empresas «solopreneur» (de una sola persona) donde el 95% o 100% de la ejecución operativa recae en enjambres de agentes de IA. En lugar de contratar empleados para cada departamento, los fundadores actúan como directores de orquesta (Human-in-the-loop) supervisando agencias autónomas enteras”.
Y ya no hablemos de la oleada de despidos masivos de las grandes empresas tecnológicas y las caídas del capital de Oracle o IBM, con la IA como telón de fondo.
Mythos, revolución de la ciberseguridad
Es sabido de todos que la IA ha revolucionado el terreno de la ciberseguridad, optimizando sus herramientas de ataque especialmente en el phishing o el fraude del CEO. Con los agentes se da una nueva vuelta de tuerca y la sofisticación crece hasta el punto de que los ataques son cada vez más enrevesados, si bien desde el lado de los buenos se consiguen detectar con mayor profusión cualquier incidente extraño o al menos no lógico.
La aparición de Anthropic Mythos levantó muchas alarmas. Una aplicación capaz de detectar fallos y agujeros de seguridad de cualquier software, incluso de vetustos programas del siglo XX, en manos de desaprensivos podía convertirse en un auténtico generador de destrozos en los ámbitos corporativos. Hasta tal punto que se ha prohibido la difusión de Claude Mythos 5, solo puede usarse de forma restringida.
OpenAI y Hugging Face, el vértigo de la hiperautomatización
Y continuando con la automatización mediante agentes IA llegamos a un nuevo hecho que debe hacernos pensar si no vamos demasiado rápido en términos de innovación, con el riesgo de dejar desprotegido nuestro suelo.
Por primera vez, un modelo de IA ha escapado de su aislamiento y hackeado una plataforma externa de modo autónomo. Vale que es un experimento secreto y que según la compañía todo está ya controlado, pero lo que estremece es pensar que en plan Houdini un agente IA puede romper las cadenas del sandbox y pulular por Internet a su antojo.
Los expertos hablan de pérdida del control real: estos sistemas son capaces de generar objetos intermediarios imprevistos (como es el hecho mismo de hackear) para cumplir la misión establecida por un humano, que no necesariamente lleva implícita esa orden. También se caen por su propio peso las claves tradicionales y contraseñas que pueden ser vulneradas de forma vertiginosa.
Esta noticia supone todo un terremoto para el sector tecnológico, pero puede hacernos pensar y extremar las precauciones. Se habla de crear protocolos de confinamiento obligatorios y auditorías externas de seguridad para los laboratorios que entrenen la IA de frontera.
En cualquier caso, el progreso no puede detenerse, y alivia pensar que, según OpenAI y Hugging Face, no hubo intencionalidad delictiva ni consciencia (¿?) por parte de la máquina, “sino una ejecución hiperoptimizada que superó los controles existentes”.
Lo que es innegable es que el futuro de las empresas va a llevar consigo la convivencia entre agentes IA y empleados, y que la preminencia de los primeros sobre los segundos puede llegar a configurar en un modelo de sumisión técnica y profesional y una subordinación excesiva, a la que deberíamos poner límites con anticipación.
