Los incidentes relacionados con la IA están llegando a los consejos de administración y comités ejecutivos en España, mientras que la gobernanza y la rendición de cuentas sobre los riesgos avanzan a un ritmo distinto al de la adopción de la tecnología.
En concreto, el 82% de los directivos encuestados en España afirma que un incidente relacionado con la IA, como el fallo de un agente, la exposición de datos, un error en una decisión apoyada por IA o una brecha de seguridad, llegó al consejo de administración o al comité ejecutivo durante el último año. Sin embargo, únicamente el 36% modificó su política o marco de gobernanza como respuesta.
A pesar de los incidentes relacionados con la IA, únicamente el 36% de los máximos organismos de las empresas modificó su política o marco de gobernanza como respuesta
Esta diferencia entre los riesgos identificados y las medidas adoptadas también se refleja en la forma en que las organizaciones gestionan el despliegue de la tecnología. Cuando el despliegue de la IA supera la preparación de los marcos de gobernanza y cumplimiento, el 65% de los directivos encuestados en España afirma que continúa dentro de los límites de riesgo acordados mientras adapta la gobernanza, frente al 30% que opta por retrasarlo hasta contar con los mecanismos adecuados.
Esta situación cobra especial relevancia ante el avance de la IA agéntica, que introduce nuevos desafíos de supervisión a medida que los sistemas adquieren mayor autonomía.
Según la encuesta, realizada a 540 directivos de organizaciones en España, el 25% afirma que ya utiliza IA agéntica en producción y el 73% espera que los agentes tengan algún grado de autonomía en la toma de decisiones para 2027. Pese a ello, solo el 34% considera que su gobernanza actual está preparada para ampliar este tipo de despliegues.
El 73% de los directivos en España espera que los agentes tengan algún grado de autonomía en la toma de decisiones para 2027
La investigación ha sido realizada por Censuswide por encargo de IBM entre 3.221 miembros de equipos directivos en el Reino Unido, Francia, Alemania, Italia, España, Países Bajos, Arabia Saudí y Emiratos Árabes Unidos.
Ana Paula Assis, vicepresidenta sénior de IBM y presidenta para EMEA y APAC, afirma: “El debate sobre la IA ha pasado de la adopción a la gobernanza y la rendición de cuentas. A medida que las organizaciones avanzan de los asistentes de IA a los agentes autónomos, la gobernanza ya no puede tratarse como un mero ejercicio de cumplimiento, se ha convertido en un requisito empresarial y en un facilitador de valor”.
Índice de temas
Responsabilidad y rendición de cuentas
Casi la totalidad de los directivos encuestados en España (99%) han asignado formalmente al consejo de administración la responsabilidad sobre el riesgo de la IA, incluido un 27% que cuenta con un comité específico de IA a ese nivel. Sin embargo, el estudio no identifica un consenso claro sobre quién debe responder por los resultados adversos de los agentes de IA.
El CIO o el CTO es la función citada con mayor frecuencia, aunque solo por el 12% de los encuestados en España.
El estudio no identifica un consenso claro sobre quién debe responder por los resultados adversos de los agentes de IA
También hay distintas opiniones sobre quién debería asumir la responsabilidad legal si un sistema de IA causa daños significativos. El 19% considera que debería repartirse proporcionalmente entre la organización que despliega la IA y el proveedor; el 18% apunta a la necesidad de un marco regulatorio más adecuado, y el 14% cree que la responsabilidad debería recaer en el proveedor de IA o tecnología.
Para gestionar agentes de IA cada vez más autónomos, los directivos españoles consideran necesarias varias medidas: marcos legales o contractuales que definan la responsabilidad del proveedor por los fallos de los agentes (33%), umbrales claros para solicitar intervención humana (31%), supervisión en tiempo real y registros de auditoría de las decisiones y acciones de los agentes (29%), y la capacidad para detener de inmediato su actividad en toda la organización (30%).
Otros resultados del estudio
- Riesgo financiero. El 53% de los directivos de nuestro país gestiona las herramientas de IA generativa y los sistemas de IA agéntica como categorías de riesgo distintas, con marcos de gobernanza separados. Solo el 32 % cuenta con una cuantificación formal del riesgo financiero.
- Cadena de suministro. Casi la mitad (49%) reconoce carencias o limitaciones en la cobertura que su marco de gobernanza ofrece para los sistemas y modelos de IA utilizados por proveedores, socios tecnológicos y participantes de la cadena de suministro.
- Ley de IA de la UE. En España, el 44% de los directivos está acelerando la inversión en gobernanza antes de que entren en vigor las obligaciones de alto riesgo de la Ley de IA de la UE en diciembre de 2027.
