La inteligencia artificial está en boca de todos. Sí, sin exagerar, ¡hasta del Papa! Ahora que Madrid se viste con sus mejores galas para recibir a León XIV, parece que el Pontífice también quería formar parte de la conversación del Tour IA organizado por Computing y publicó la Encíclica Magnifica Humanitas momentos antes de la tertulia.
En la parada de Madrid del Tour de Inteligencia Artificial los asistentes pusieron el foco en la estrecha vinculación de TI con Negocio. Joan Marcer, Director de Sector Privado en Getronics, observaba que «todos los objetivos de una empresa y lo que se implementa surge de la unión de TI con Negocio».
Por su parte, Frankie Carrero, Director of Technical Excellence & Delivery en Izertis, comentaba que nos encontramos en el momento de «industrializar las demos y los pilotos para que sean productivos».
Rodrigo Weber, Development Director – Iberia en Cast Software, apuntaba que, bajo su opinión, «hay que diferenciar entre la IA corporativa, cuyo objetivo es la productividad, de la IA en escala, que pretende modernizar las aplicaciones. Para esto último hay que analizar bien todo el trasfondo y dar contexto, es la única manera de que sea efectivo».
Índice de temas
La IA, acelerador del cambio
El asentamiento de la inteligencia artificial en las compañías ha traído muchos retos, pero también grandes avances. «Con la IA tenemos la presión de lanzarnos a gestionar asuntos que hasta el momento eran puertas cerradas, sin olvidarnos de gestionar los pilotos desde la gobernanza», afirmaba Juan Miguel Gil, IT Manager Holdings Spain de Arcerolmittal.
Caio Araujo, CIO y CTO de Capital Energy-Kynegos, compartía que diariamente se encuentra con «casos hechos por usuarios que les solucionan aparentemente los problemas, pero que están hechos por el tejado y tienen errores de base».
Para evitar esta situación, para Araujo la clave es respetar los casos de Negocio que sean coherentes y transversales. «Muchas veces es dar un paso atrás y convencerles para que vean el beneficio de todo el equipo», sentenciaba el CIO y CTO.
Se da por sentado que la inteligencia artificial está realmente integrada en las empresas. Marcial Fernández, Director de IA y Analítica Avanzada en ICEA, se planteaba si realmente esto es así. «Tenemos que dar un paso más allá para garantizar que el uso de la IA es sensato y se piensa en Negocio, creo que la mayoría de las compañías aún no han llegado a este punto», compartía Fernández.
«Negocio tiene que tomar la iniciativa», así comenzaba Gloria Nuño, Directora de Informática de Daikin. Para Nuño es imprescindible que Negocio e IT trabajen conjuntamente para que uno no sea el stopper del otro. En este momento de la conversación también puso en relieve la necesidad de diferenciar la automatización de la inteligencia artificial.
En este sentido Ricardo Calderero, BISO de MAKRO, lo tenía claro: «La IA aumenta la productividad, pero también aumenta la superficie de riesgo. Es importante tener claro de dónde vienen los datos y poner el foco en la gobernanza y la concienciación, sin olvidarnos de supervisar dónde se utiliza».
Cambio de paradigma: lo personal antes que lo empresarial
Enrique Ferrer, IT Manager de Ford, afirmaba que «es más fiable la inteligencia artificial que un operario porque los robots no se cansan». A su vez, Ferrer lanzaba un aviso: «¡Cuidado con alimentar a la IA con otra IA y que se produzca una cadena sin supervisión, sobre todo en cuestiones comerciales o de desarrollo de producto!».
En Ford se aseguran que todo cumpla las regulaciones y sea seguro, para ello intentan «no correr y verificar que todo es seguro», reafirmaba Ferrer.
A Ferrer lo acompañó Juan Ángel López, nuevo IT Manager de Ford. López se planteaba cómo integrar la inteligencia artificial como herramienta personal para mejorar el performance a la vez que se gestiona las demandas de Negocio. El IT Manager confirmaba que «IT no va a desaparecer, pero hay que aportar el sentido común que tiene a Negocio. Hay que poner cabeza para que las decisiones se tomen con conciencia».
Que la inteligencia artificial está de moda nadie lo duda, lo que ha extrañado a los expertos es que «ha llegado desde lo personal hasta lo empresarial».
Diego de Andrés, Director de Informática de Aspro Park, apuntaba que «Negocio quiere ROI sin saber en qué se basa ese ROI, pero es interesante que TI ayude a comprender el origen. Muchas veces hace falta dar un paso atrás para poder ayudar bien con la IA e identificar los casos de Negocio».
Eusebio Joaquín Yribarren, CIO de Pons IP, aportaba que en su compañía se ha encontrado con que el 90% de los empleados usaba IA, por tanto «no había que implementarla, sino gobernarla».
El sector público se suma a la ola
Del sector público acudieron José Antonio Eusamio, Director de Organización y Sistemas del Ministerio de Asuntos Económicos y Digitalización; Javier Lucas Rodríguez, Jefe de Servicio de Analítica de la Oficina Digital del Ayuntamiento de Madrid; y Ángel Luis Sánchez, CTO de la Dirección General de Salud Digital de la Comunidad de Madrid.
En la Administración Pública cuesta movilizar a las organizaciones, por ello es imprescindible plantearse qué se quiere ser. Eusamio afirmaba que «no queda más remedio que sumarse a la ola de la IA. Normalmente Negocio es quien manda, pero si no hay necesidad TI es quien lo frena».
«La IA no te va a operar, lo hará un cirujano», así comenzaba su intervención Ángel Luis Sánchez. El CTO sí reconocía que la medicina se está ayudando de la inteligencia artificial, pero lo hace «como una herramienta más». En el sector de la sanidad los algoritmos se tratan con seriedad y tiene los mismos controles que cualquier fármaco.
En cuanto a la responsabilidad, Sánchez sostenía que el responsable siempre va a ser el médico que firma.
Javier Lucas Rodríguez ponía el foco en la formación y concienciación de los funcionarios. Para el Jefe de Servicio del Ayuntamiento de Madrid «a nivel gobernanza es esencial tener claro los retos necesarios y no exponerse demasiado»
En la Administración se encuentran con el problema de «no poder decir que no a Negocio porque lo escalan y manifiestan que no funciona», confirmaban los asistentes del sector público.
En el Tour IA organizado por Computing salió el concepto de la «deuda cognitiva de la IA«. Los expertos TI comentaban que las personas con conocimiento alimentaban la IA, lo utilizaban personas sin conocimiento fiándose de la IA y se realimentaba la inteligencia artificial, por lo que el conocimiento se acaba perdiendo.
Gobernanza sobre agentes
Es imposible hablar de inteligencia artificial y no mencionar a los agentes. En el mundo agéntico se ha convertido en obligatorio el criterio «IA in the loop» por encima del «human in the loop». Sea como fuere, en ambos casos lo esencial es la gobernanza.
La inteligencia artificial ha pasado de ser una herramienta a suplir el conocimiento de las personas. «El problema de esto es que acabaremos creyéndonos las alucinaciones y los responsables seguiremos siendo las personas», confirmaba Juan Ángel López.
Por ello mismo, Caio Araujo sostenía que es esencial que desde IT se establezcan las piezas de control para que no haya sesgos en la confianza.
Los asistentes confirmaban que sin gobernanza no se puede escalar la IA, por ello es necesario cambiar la manera de gobernanza para que el usuario no vaya por delante de TI.
Gloria Nuño se planteaba por qué se actuaba de manera diferente cuando se estaba en el rol de TI que cuando esa misma persona era el usuario. «Es esencial poner por delante al usuario y pensar qué es lo que todos necesitamos», sentenciaba la Directora de Informática de Daikin.
