La conversación tecnológica ha dado un salto significativo con la irrupción de la inteligencia artificial generativa. Si bien la IA tradicional se enfocaba en complementar y apuntar el camino, ahora las organizaciones buscan que la IA entregue el resultado final. Sin embargo, la adopción se enfrenta a barreras críticas de integración en la operativa de la empresa, inversión, gobernanza y confianza en los datos.
Expertos de tecnología y de gestión de operaciones empresariales de distintas compañías se reunieron en un encuentro con Computing, celebrado junto a OpenText, para hablar de cómo las organizaciones se están preparando para hacer de las operaciones con IA procesos cada vez más seguros y eficientes.
Índice de temas
La prioridad: Datos de calidad y cautela
Para cualquier iniciativa de IA, la calidad del dato es lo principal . La depuración de datos, aunque se describe como una labor poco glamurosa y desagradecida, es fundamental para el éxito a largo plazo. Muchos proyectos prometedores en fase de ideación o prueba de concepto (PoC) no se pueden implementar si los datos no se pulen exhaustivamente.
A pesar del auge de la IA generativa, para muchas compañías, la inversión en esta tecnología aún no es primordial y, en muchos casos, se le dedica menos del 2% de los recursos totales destinados a la IA. Las organizaciones gastan más en desarrollos a medida, hardware, licencias y automatización de procesos.
Para muchas compañías, la inversión en esta tecnología aún no es primordial y, en muchos casos, se le dedica menos del 2% de los recursos totales destinados a la IA
Según advirtieron los expertos, existe una marcada cautela en la adopción. Muchas entidades no están recurriendo masivamente a la IA debido a la necesidad de confidencialidad del dato y la obligación de mantenerlo siempre bajo su propia infraestructura. Algunas prefieren observar y esperar a que los demás avancen para no encontrarse con escenarios complicados. En lugar de una aplicación de extremo a extremo, se opta por ir a áreas específicas donde se tiene un gran control de los datos.
El dilema de la explicabilidad y la regulación
El mayor obstáculo no es tecnológico, sino de confianza y trazabilidad. La explicabilidad de la IA es extremadamente difícil, especialmente cuando se requiere justificar cómo se llegó a una conclusión, como podría ser en un juicio. El problema es que los Language Large Models (LLM) y su comportamiento no explican cómo se ha llegado a esa conclusión.
Esta falta de trazabilidad se suma a un gran problema de falta de regulación y entendimiento de la IA. Aunque existe legislación, -como la ley que obliga al Ministerio de Industria a proveer el algoritmo por transparencia al ciudadano-, el mercado avanza mucho más rápido que el gobierno de la IA.
Existe un temor a que Europa, al ser percibida como demasiado burócrata y normativa, esté quedando rezagada en comparación con otros actores internacionales. Este enfoque excesivo en la normativa dificulta la implementación de proyectos de IA y la creación de data lakes, generando lo que los profesionales llamaron una «parálisis por análisis». El gobierno de los modelos es crucial, y es necesario sentar las bases de quién es el dueño y quién accede al dato.
Existe un temor a que Europa, al ser percibida como demasiado burócrata y normativa, esté quedando rezagada en comparación con otros actores internacionales
Riesgos operacionales y de seguridad
La IA no solo optimiza, sino que también genera nuevas amenazas de ciberseguridad. Los agentes de IA utilizados por los empleados están superando al shadow IT en términos de riesgo, lanzando muchísimos datos privados fuera de la compañía. Por ello, la formación y la concienciación son esenciales.
Los empleados, a menudo, no son conscientes de que compartir datos con la IA implica incumplir el reglamento GDPR. Además, se están tomando medidas adicionales de arquitectura, como establecer un proxy para que todos los servicios de IA (internos o externos) pasen por él y asegurar un cierto gobierno del dato.
Otro riesgo operativo importante es la gestión financiera. El trabajo de FinOps es vital para evitar que los costes en la nube se disparen con la implementación de IA. Además, una preocupación clave es la gestión de la demanda y asegurar que los proyectos sean rentables, incluso si los datos son de buena calidad. De hecho, se estima que más del 80% de los proyectos de IA no se terminan, y aquellos que sí lo hacen, por su coste, a menudo no compensan la inversión, según apuntaron los asistentes.
El foco de adopción y el equilibrio necesario
Aunque algunas empresas, como Vodafone, enfocan la IA en problemas tácticos con datos controlados, la tendencia principal es aplicar la IA en los procesos internos de la empresa, enfocada a capacitar a las personas y ayudar a agentes de call center. Sin embargo, el cambio de hábitos de los usuarios, -que ahora recurren directamente a la IA en lugar de a buscadores tradicionales-, está presionando a las organizaciones para extender la IA hacia el usuario final, a pesar del mayor riesgo que esto conlleva.
Es fundamental mantener un equilibrio entre control y agilidad . La clave para la adopción exitosa radica en ser conscientes de que la IA tiene limitaciones, pero no permitir que esas limitaciones frenen el avance. Esto es especialmente relevante dado que la mayoría de las empresas utilizan la IA para operaciones internas de la empresa, ya que automatizar completamente es difícil y la intervención humana sigue siendo necesaria.
Finalmente, es crucial abordar la percepción pública: mucha gente ha entendido que la IA generativa es fiable cuando, en realidad, solo debe ser vista como una ayuda.
Asistentes
Abel Torrubiano, South Europe Sales Director de OpenText | Luis Colino, Sales Engineering Director, North & South Europe Solution Consultant Director de OpenText | Bruno Vicente Hernández, Adjunto de Dirección TI de Garsa | Pablo Soto, Director del programa de IA e innovación de Vodafone | Ignacio Durán, Consejero Técnico de la Dirección de Agencia Tributaria del Ayuntamiento de Madrid | Francisco Javier Cavero, Digital Strategy & Innovation y CDO de RSI | Carlos Vizoso, CTO & Digital Transformation Director de ESIC | Fernando Vegas, Senior Information Technology Advisor de Colegio de Ingenieros de Caminos, Canales y Puertos
José Borja Tomé, Director del Departamento de Informática de Agencia Tributaria | Antonio Crespo, Director de Tecnología y Desarrollo Digital de Asociación Española Contra el Cáncer | Alberto Sánchez, Defensor Universitario y Miembro de la Comisión de Gobernanza de la IA de Universidad Rey Juan Carlos | Carlos Maza, Director de Digitalización y Tecnologías de la Información Secretaría General de Tribunal de Cuentas | Lorena Pliego, Subdirectora General de Servicios a Consejerías de Madrid Digital | Almudena Fernández del Campo, Head of Data Office and Artificial Intelligence de Navantia
