La implementación de la IA está atrayendo importantes beneficios a las organizaciones, pero también está facilitando a los ciberatacantes una potente herramienta para cumplir con sus objetivos.
Son las dos caras de una moneda que merecen ser analizadas a fin de conseguir una mayor seguridad en los entornos corporativos.
El avance de la Inteligencia Artificial (IA) en el mundo de los negocios no es una moda pasajera.
Las ventajas que proporciona llevan a límites hasta hace poco inimaginables que, ahora, gracias a la automatización, ofrecen pingües ventajas a las organizaciones de todos los sectores.
Sin embargo, cuando se contempla su aplicación en los procesos reales aparecen ciertos inconvenientes; la necesidad de implantar herramientas de protección, junto con políticas de mayor seguridad y un análisis del retorno de la inversión, se hacen prioritarios.
Y es que los ataques informáticos ya están siendo potenciados por la IA, algo que supone el principal riesgo de las organizaciones a ojos de todos los especialistas, un peligro sin duda derivado del perfeccionamiento en la velocidad de ataque.
Por tanto, ¿en qué nivel de madurez están las organizaciones para controlar y dar respuestas efectivas? ¿cuáles son los principales riesgos que vienen derivados de la IA? ¿Cuáles son los casos concretos donde la IA demuestra ser efectiva en defensa?
Para conocer estas y otras preguntas relacionadas con un tema tan de actualidad como el que nos ocupa, Computing organizó un encuentro, junto con T-Systems, al que acudieron responsables de Tecnología y Ciberseguridad de destacadas empresas y organismos.
“La clave está no solamente en estar más seguros, sino en qué herramientas aplicar”
Aitor Aguirre, Advisory & Business Development de T-Systems.
Un debate en el cual salieron a la luz afirmaciones tales como que la defensa siempre va detrás del ataque, el aumento del número de incidentes es considerable, sobre todo por su calidad y efectividad, así como aspectos que indican que las soluciones SOAR se han quedado rezagadas ante la automatización, o que la estrategia debe basarse en jugar en la misma liga que el atacante, por desvelar algunas de ellas.
En el encuentro participaron Aitor Aguirre, Advisory & Business Development de T-Systems; Fernando Pareja, Head of Business Development Private Sector, y Laura Hernández, Head of Cibersecurity, también de T-Systems; José Luis Alonso, CISO de Europ Assistance; Carlos Asenjo, responsable de Ciberseguridad de Redexis; David Espantaleón, CISO de Unión de Créditos Inmobiliarios; Jaime Mauri, European IT Senior Manager de Nippon Gases; Ramón Ortíz, CISO de Rheinmetal, y Ricardo Calderero, BISO de Makro.
Índice de temas
Riesgos y mercado: qué funciona y qué no
Estar prevenido es la base de todo este entramado que surge con la IA.
En la experiencia de T-Systems, con uno de sus 10 SOC situado en España, la clave está no solamente en estar más seguros, sino en qué herramientas aplicar porque hay casos en los cuales la nueva tecnología no acaba de aterrizar.
En palabras de Aitor Aguirre, hay soluciones SOAR que no ofrecen el retorno de la inversión, si bien otras, como XDR (Extended Detection and Response) están facilitando más ventajas con agentes de IA que proporcionan alertas, o también SIEM en su papel de dar una visión completa del entorno.
Hay soluciones SOAR que no ofrecen el retorno de la inversión, si bien otras, como XDR (Extended Detection and Response) están facilitando más ventajas con agentes de IA
En todo caso, los automatismos para contener incidentes están demostrando que funcionan.
Durante el debate se recalcó que las herramientas de automatización destapan su potencial ante la defensa, pero también en los ataques.
Y los medios tradicionales ya no son suficientes.
«El phishing y la velocidad de ataque han aumentado considerablemente con la IA«
Ricardo Calderero, BISO de Makro.
Según Ricardo Calderero de Makro, el phishing ha aumentado considerablemente con la aparición de la IA, también en llamadas y vídeo, un aspecto que parte de la automatización de las amenazas para conseguir mayor velocidad, perfeccionamiento y calidad en la consecución de los objetivos.
Hay que asumir que siempre habrá un incidente
Los riesgos derivados de la aparición de la IA van en aumento, ya que hay que asumir que siempre surgirá algún incidente.
Como expresó José Luis Alonso, CISO de Europ Assistance, actualmente la defensa se sitúa por detrás del ataque.
Por eso, los esfuerzos deben estar en informar de la posibilidad del phishing en campañas y, por supuesto, se requiere más que nunca entrenar a los empleados, como apuntó Ramón Ortíz, CISO de Rheinmetal, porque realmente la eficacia de los intentos de intrusión son de tal calidad que ya es difícil diferenciarlos.
Asimismo, el ritmo al que avanza la IA es de tal rapidez que hace difícil avisar a los usuarios de un potencial riesgo.
«Gracias a la IA y a la validación de parámetros, ahora los ataques son más fáciles de controlar«
David Espantaleón, CISO de Unión de Créditos Inmobiliarios.
Para David Espantaleón, CISO de Unión de Créditos Inmobiliarios, aunque se pueda entrenarles, cada vez es más difícil identificar el phishing.
En ocasiones, cuando se da un falso positivo, se requiere de cierto tiempo para eliminarlo, un intervalo que puede ser aprovechado por el atacante para hacerse con sus propósitos.
Todo un complejo entramado donde se da un factor positivo: la ciberseguridad ha tomado un papel crítico en las organizaciones.
Así lo revela Jaime Mauri desde Nippon Gases, quien asegura que también la inteligencia artificial está de nuestro lado para proteger, hacer frente y, en definitiva, ayudarnos en la inclinación hacia la implementación de nuevas herramientas.
Jugar en la misma liga
Lo que quedó claro en el debate es que existe consenso general de que estamos en un punto de inflexión relacionado con el desarrollo cada vez más acelerado de la utilización de la IA, ya sea generativa, maching learning o en diferentes posibilidades que no puede disociarse de la ciberseguridad.
“El objetivo debe ser jugar en la misma línea que el atacante”
Laura Hernández, Head of Cibersecurity de T-Systems.
Y esto solo es el principio. Por eso, en opinión de Laura Hernández, Head of Cibersecurity de T-Systems, el objetivo debe ser jugar en la misma línea que el atacante; solo nos salva adelantarnos con tecnología que incluya defensas basadas en indicadores de compromiso para tener la certeza de conseguir más seguridad.
Aunque todavía se desconfía de la IA, según Carlos Asenjo, responsable de Ciberseguridad de Redexis, por los dos frentes de riesgo que supone, bien es cierto que la adaptación interna a la automatización de los procesos y a la toma de decisiones es de un potencial innegable.
“Uno de los mayores riesgos es creer que tienes la información controlada, pues es ahí cuando se produce la pérdida de datos”
Carlos Asenjo, responsable de Ciberseguridad de Redexis.
La ingeniería social aumentada ofrece una capacidad nueva, a la vez que afrontamos otros riesgos como son los datos internos de sistemas de maching learning, que pueden estar sujetos a un envenenamiento de la fuente de los datos.
Por tanto, es un frente nuevo por explotar en ambas direcciones.
La seguridad en el uso de la IA
Por tanto, la utilización de la IA para automatizar y acelerar la capacidad de respuesta de las organizaciones ante las nuevas generaciones de ataques no parece sino inevitable.
“La utilización de la IA para automatizar y acelerar la capacidad de respuesta de las organizaciones es inevitable”
Fernando Pareja, Head of Business Development Private Sector de T-Systems.
Según Fernando Pareja, Head of Business Development Private Sector de T-Systems, debe realizarse de un modo estructurado y con los controles suficientes para optimizar el balance entre la aceleración de la capacidad de respuesta y los riesgos a su vez inherentes al depositar nuestras decisiones dentro de un proceso automatizado no humano y que, a su vez, debe estar securizado.
Mientras el reglamento avanza, aunque ya es riguroso en cuanto a la seguridad, la responsabilidad está en las áreas de negocio a la hora de exponer la información corporativa a las herramientas de automatización.
«Toda la información corporativa a disposición de la IA tiene que estar muy bien segmentada y securizada«
Ramón Ortíz, CISO de Rheinmetal.
De ahí que Ramón Ortíz, CISO de Rheinmetal, asegure que poner toda la información corporativa a disposición de la IA para su gestión y consultas, sin duda es un aspecto que tiene que estar muy bien segmentado y protegido.
No en vano, la detección de patrones de la IA colabora enormemente a la creación de alertas que potencien la seguridad.
David Espantaleón igualmente resalta los valores de la IA como controlador de ataques, pues al validar los parámetros que hacen tener más seguridad, también es más efectivo para cortar iniciativas de ataque antes de que estas ocurran.
En caso de que una empresa opte por el licenciamiento de la IA generativa, hay que tener muy claro los límites que se establecen.
El proveedor siempre debe enseñar a la herramienta para que la información no salga del algoritmo, un punto que tiene que estar recogido de forma contractual puesto que esos datos corporativos alimentan a su vez al algoritmo.
“La velocidad de los ataques hoy en día es brutal, por eso, hay que informar sobre esta posibilidad”
José Luis Alonso, CISO de Europ Assistance.
En ocasiones se trata de un ‘acto de fe’ o, como indicó Carlos Asenjo, “uno de los mayores riesgos es creer que tienes la información controlada, pues es ahí cuando se produce la pérdida de datos”.
En la definición del roadmap de la adopción y en el análisis del balance entre beneficios y riesgos de su aceptación es donde los proveedores especializados de servicios deben destacar en los próximos años.
¿Cómo se conjuga IA y talento?
En todo este nuevo entorno, la gestión sigue siendo humana; para quienes han evolucionado profesionalmente con herramientas manuales la automatización es una ayuda considerable, mientras que las nuevas generaciones apuestan más por delegar en la inteligencia artificial infinidad de tareas.
Sea como fuese, en todas las áreas de la empresa la IA está beneficiando para ser más eficiente y optimizar los recursos, pues concentra en una sola herramienta muy diversas funciones que anteriormente requerían manualidad y tiempo.
«La parte positiva es que hay más inclinación en la necesidad de implementar ciberseguridad«
Jaime Mauri, European IT Senior Manager de Nippon Gases.
Jaime Mauri de Nippon Gases sostiene que, aunque en ocasiones se produzcan falsos positivos que deben ser analizados, la IA ayuda al trabajo pues gestiona aquello que el ser humano no puede realizar, si bien, la supervisión humana es parte fundamental aún hoy.
Por eso, Ricardo Calderero como representante de Makro enfatiza en que la automatización completa no existe.
Y el talento entra en juego para desempeñar su papel, por ejemplo, gestionando correctamente el despliegue de estas herramientas y sus funciones dentro de la organización.
No hay que olvidar que la automatización va eliminando la actividad manual, de ahí que contar con habilidades es una necesidad para no quedarse atrás.
El talento sigue siendo fundamental como parte del control, gestión y capacidad de análisis que proporciona la automatización. La formación a este respecto debe estar más fomentada de cara al desarrollo profesional venidero.
