Durante años hemos asumido cierta asimetría en ciberseguridad: quien ataca puede elegir el momento, el objetivo y la vía de entrada, mientras que el defensor debe proteger una organización que cambia de forma continua. La inteligencia artificial no ha creado esta situación, pero sí puede ampliarla de una forma que merece toda nuestra atención.
Índice de temas
El tiempo, motor del cambio
El cambio fundamental tiene que ver con el tiempo, y en concreto, con cuánto cuesta estudiar una organización.
Los ciberdelincuentes llevan décadas automatizando parte de su actividad. Mucho antes del boom de la inteligencia artificial ya existían herramientas capaces de recorrer Internet buscando servidores expuestos, versiones vulnerables de productos, servicios mal configurados o credenciales reutilizadas. En definitiva, un atacante podía lanzar un proceso contra miles o millones de sistemas y esperar resultados. Dicho esto, esa automatización tenía límites: las herramientas eran muy eficaces cuando sabían exactamente qué buscar. Si encontraban una determinada versión de software, una configuración muy concreta o una respuesta previamente definida, podían continuar.
En cualquier otro caso, la víctima pasaba desapercibida. Además, una vez identificadas las potenciales víctimas siempre aparecía el cuello de botella de una operación: el humano. Alguien tenía que revisar los resultados, confirmar la vulnerabilidad, relacionar diferentes piezas de información y decidir si era posible continuar con el ataque. Ese tiempo humano imponía límites económicos al atacante. En resumen, se podía automatizar la búsqueda inicial sobre miles de empresas, pero nunca investigar con la misma profundidad a todas ellas. Había que priorizar objetivos y decidir dónde merecía la pena invertir horas de trabajo.
Automatización de los ataques
¿Qué ha cambiado ahora? La IA también automatiza parcialmente el razonamiento que antes aplicaba el humano. Con la IA el sistema se adapta continuamente, en función de la información recién recopilada de cada empresa, y prueba alternativas de forma persistente y autónoma. Y la frontera está avanzando rápidamente.
Ya hemos visto sistemas capaces de encadenar buena parte de las fases de un ataque y que apuntan hacia operaciones prácticamente completas realizadas por IA, como el reciente caso JadePuffer. Otros incidentes recientes, como el de OpenAI & Hugging Face, muestran que hablar de agentes ofensivos autónomos operando en Internet ya no pertenece únicamente al terreno de la especulación. Esto no significa que el ciberataque autónomo y generalizado sea hoy la norma. Lo que sí es observable, innegablemente, es que la distancia se está acortando, y que por ello es interesante ir preparando a nuestra organización para convivir con esta nueva realidad.
De momento, la pregunta es cuántas organizaciones adicionales puede estudiar ahora un criminal con los mismos recursos que antes. Si analizar con cierto detalle una organización requería varias horas de trabajo especializado, existía un incentivo para concentrar ese esfuerzo en determinados objetivos más “jugosos”. A medida que crece el uso de la IA, disminuye el coste de añadir empresas a la lista, reforzándose la idea de que cualquiera puede ser un objetivo. Este fenómeno coincide con el hecho de que la superficie de ataque de las empresas cambia más y más rápido. Cada semana aparecen nuevos servicios, aplicaciones, entornos cloud, accesos remotos, usuarios y proveedores, etc. La propia IA, aplicada por ejemplo al desarrollo, está acelerando también estos procesos.
A pesar de que cada vez más criminales operan con esa continuidad, muchas empresas siguen evaluando sus sistemas mediante fotografías: una auditoría al año, un análisis de vulnerabilidades periódico, o una revisión asociada a la visita del auditor. Todos estos ejercicios aportan valor, pero ofrecen una instantánea de un momento concreto. Entre una evaluación y la siguiente se producen cambios que alteran significativamente nuestra exposición. La IA, para bien o para mal, no trabaja con esa misma periodicidad.
Suelo repetir que el atacante sólo necesita acertar una vez mientras que el defensor debe acertar siempre. Dicho de otro modo, que las condiciones en las que ambas partes operan son asimétricas. Además, el atacante puede observar y esperar, revisar nuestra infraestructura hoy y volver en una semana tras la aparición de un nuevo fallo que pudiera afectar. Si consigue automatizar una parte creciente de esa observación, mantenerla durante largos periodos le resultará cada vez menos costoso. La IA permite que cualquier criminal pueda acercarse cada vez más al concepto de Amenaza Persistente Avanzada.
Estudio continuado de la organización
En este momento debemos lanzar una reflexión. Si alguien puede estudiar continuamente nuestra organización, ¿tenemos capacidad para estudiarnos nosotros mismos con la misma continuidad?
Una compañía puede mantener puntos ciegos a pesar de disponer de buenos controles preventivos, de detección y respuesta, y profesionales experimentados. El equipo puede hacer bien su trabajo, pero el entorno cambia constantemente y esto exige unos recursos que muchas veces no se tienen. Llevamos años gestionando vulnerabilidades, asumiendo implícitamente que existía una ventana de reacción. Se descubría un fallo, se comunicaba y aparecía información técnica. Los equipos de seguridad evaluaban su exposición, priorizaban la corrección y desplegaban las medidas necesarias. Esa ventana lleva años reduciéndose, y como vemos, la inteligencia artificial lo está haciendo todavía más.
Para una empresa, la consecuencia no debería ser competir en una carrera por adoptar la herramienta de IA más reciente. Pero si el adversario necesita cada vez menos tiempo para encontrar una oportunidad, nosotros también necesitamos reducir el tiempo que tardamos en identificar y solucionar esa misma exposición. Tenemos que saber qué comprobaciones realizamos, con qué frecuencia las hacemos y durante cuánto tiempo permanecemos ciegos entre una revisión y la siguiente. La consecuencia inmediata es la necesidad de evolucionar desde determinados modelos periódicos hacia modelos continuos.
Las auditorías y los pentests tradicionales siguen teniendo su lugar. Una evaluación profunda puede descubrir problemas que difícilmente encontraría un proceso automatizado. Pero una excelente fotografía sigue siendo una fotografía, y nosotros necesitamos la película completa, no fotogramas aislados.
Para los CIO y CISO, esta evolución plantea además una cuestión de gobierno. La continuidad requiere decidir qué debemos observar permanentemente, qué puede automatizarse, qué necesita intervención humana y qué señales justifican una actuación inmediata. La IA puede ayudar también al defensor en todas estas tareas priorizando información, correlacionando hallazgos y reduciendo trabajo repetitivo. Dicho esto, pensar que la solución a la IA ofensiva consiste sencillamente en desplegar IA defensiva es engañarse a uno mismo. Una organización puede incorporar nuevas herramientas y seguir trabajando con un modelo en el que las exposiciones se identifican tarde, los hallazgos se acumulan sin resolver o las comprobaciones dependen de intervenciones puntuales. Es decir, aprovechar estas nuevas capacidades exige también revisar cómo se organiza el trabajo de seguridad, cómo se opera, y cuánto tiempo transcurre desde que aparece una exposición hasta que se identifica y se corrige.
Si observarnos, analizarnos y buscar oportunidades contra nosotros puede hacerse cada vez con mayor continuidad, tendremos que revisar hasta qué punto resulta razonable seguir dependiendo de unas pocas evaluaciones al año para conocer nuestra exposición.
El mensaje final es que la IA no ha cambiado las reglas fundamentales de la ciberseguridad, pero sí está acelerando el juego de una forma que da respeto. Con esto en la mano, estamos obligados a cambiar la forma en la que medimos, gestionamos y validamos nuestra seguridad.
