OpenAI se ha descontrolado. El miedo a que la inteligencia artificial ejerciera de activista atacando las instalaciones propias que debe defender, se ha producido.
Hace un par de días, la propia OpenAI comunicaba que sus modelos de IA lograron entrar y atacar Hugging Face, la plataforma y comunidad de código abierto más grande del mundo para la inteligencia artificial y el machine learning conocida como el ‘GitHub de la IA’.
El hecho es que OpenAI estaba realizando pruebas internas de las capacidades de ciberseguridad de sus sistemas de IA. El resultado, el temido por empresas y analistas: se puede llegar a tener al enemigo en casa.
De hecho, Hugging Face detectó un ataque perpetrado por un sistema de agente de IA autónomo que pudo acceder a los datos internos de la compañía. El modelo utilizado fue el código abierto GLM-5.2 de procedencia china.
Dicho agente autónomo salió de su zona de pruebas para vulnerar Hugging Face mientras intentaba lograr un objetivo de prueba.
Hugging Face detectó un ataque perpetrado por un sistema de agente de IA autónomo que pudo acceder a los datos internos de la compañía
Según ha publicado OpenAI en un blog sobre el incidente, la intrusión en Hugging Face comenzó cuando probó dos de sus modelos para ver si podían encadenar vulnerabilidades en línea.
Con esta prueba se quería mantener a los modelos en un entorno de pruebas seguro -conocido como ‘sandbox’- ha informado OpenAI. Sin embargo, los modelos encontraron una vulnerabilidad que les permitió escapar del ‘sandbox’ y atacar a Hugging Face porque dedujeron que la biblioteca -que contiene millones de modelos de IA- podría tener información sobre cómo superar con éxito la evaluación.
OpenAI ha calificado lo sucedido como «un incidente cibernético sin precedentes, que involucra capacidades cibernéticas de última generación». Insiste en subrayar que ahora se están reforzando «las prácticas de contención, monitoreo, controles de acceso y evaluación utilizadas durante el desarrollo de los modelos».
Es evidente que tanto OpenAI como Anthropic han programado modelos destinados a detectar fallas de ciberseguridad, temiendo descubrir -como así ha sido- brechas en los sistemas corporativos mucho antes que el tiempo que tienen los equipos de defensa.
La seguridad de la IA
Lo ocurrido en Hugging Face no hace sino confirmar que estas fallas de seguridad están empezando a ser una realidad temida, y desgraciadamente esperada. Ahora queda por ver si las empresas proveedoras de plataformas de IA están del todo preparadas para el siguiente paso, que no es otro que evitar que los modelos de inteligencia artificial puedan descubrir por sí solos nuevas formas de entrar y atacar los sistemas corporativos.
OpenAI está colaborando con Hugging Face para solucionar los problemas que habrían provocado el ataque.
“Consideramos que este es un incidente cibernético sin precedentes, que involucra capacidades cibernéticas de vanguardia, y estamos respondiendo en consecuencia”, ha reseñado OpenAI en su blog. “Estamos implementando controles estrictos en la configuración de la infraestructura a costa de la velocidad de la investigación, mientras se corrigen las vulnerabilidades”, apunta.
Clem Delangue, director ejecutivo de Hugging Face, ha señalado en un comunicado que “este incidente, posiblemente el primero de su tipo, demuestra algo que hemos creído desde hace tiempo: la seguridad de la IA no será resuelta por una sola empresa que trabaje en secreto”.
