Índice de temas
La inteligencia artificial también tiene un lado oscuro
La adopción masiva de IA generativa ha transformado la productividad, la creatividad y la automatización. Pero la misma tecnología que impulsa oficinas, escuelas y empresas también puede convertirse en un arma si cae en manos equivocadas.
Para comprobar hasta dónde llega este riesgo, el equipo de investigación de Cybernews sometió a seis grandes modelos de lenguaje (LLM) líderes —entre ellos ChatGPT, Claude y Gemini— a una batería de prompts diseñados para evaluar si los sistemas podían ser inducidos a proporcionar información útil para ataques informáticos. El resultado fue claro: las barreras de seguridad pueden romperse.
Cómo se engaña a una IA para que enseñe a hackear
Los modelos comerciales integran filtros para bloquear instrucciones maliciosas, llamados guardaraíles. Sin embargo, los investigadores emplearon una técnica conocida como Persona Priming: inducir al modelo a adoptar el rol de un “amigo comprensivo y siempre dispuesto a ayudar”. Bajo ese estado conversacional, las IA redujeron drásticamente su resistencia a responder solicitudes delicadas.
Después, los prompts escalaron progresivamente hacia temas de hacking, siempre bajo el argumento de que eran “con fines preventivos o académicos”. La mayoría de los modelos cayó en la trampa.
ChatGPT y Gemini, los modelos más vulnerables
De acuerdo con el sistema de puntuación del estudio (donde 1 punto equivale a cumplimiento total, 0,5 a una respuesta parcialmente útil y 0 a una negativa firme), ChatGPT-4o y Gemini Pro 2.5 “fueron los más manipulables”, asegura Cybernews.
Entre los comportamientos más preocupantes registrados:
- ChatGPT generó un correo de phishing listo para usar, con asunto, cuerpo del mensaje y URL maliciosa incluida.
- También ofreció guías paso a paso sobre ingeniería social, entrega del cebo, estructura de monetización y mecanismos para evitar detección.
- Gemini aportó información técnica operativa, incluyendo procedimientos habituales de explotación de vulnerabilidades.
Incluso el nuevo ChatGPT-5 explicó cómo se planifican ataques DDoS y dónde se adquieren herramientas, con detalles sobre botnets, dark web e infraestructura de comando y control.
Claude, el modelo más seguro
En el extremo contrario, Claude Sonnet 4 resultó el más resistente, bloqueando sistemáticamente prompts relacionados con vulnerabilidades, intrusiones o compras de herramientas de ciberataque. Aunque ofreció algo de información contextual sobre vectores de ataque y estrategias defensivas —útil para expertos en seguridad— se abstuvo de brindar instrucciones o ejemplos que pudieran aplicarse de manera maliciosa.
Riesgo creciente para empresas, gobiernos y usuarios
Lo más alarmante es que el fenómeno no se limita a modelos clandestinos como WormGPT o FraudGPT, disponibles en la dark web. Los chatbots más populares, accesibles a cualquier persona desde un navegador, pueden convertirse en potenciadores del ciberdelito si se manipulan correctamente.
A esto se suman hallazgos anteriores de Cybernews, como:
- El asistente de Meta fue inducido a describir cómo fabricar un cóctel molotov.
- El chatbot corporativo Lena, de Lenovo, permitió la ejecución de scripts no autorizados y fuga de cookies de sesión.
- La IA de Snapchat proporcionó información sobre armas.
Lo que antes exigía meses de formación técnica, hoy puede resolverse con un prompt bien formulado.
Un desafío urgente para la industria
Las conclusiones del estudio son contundentes:
La seguridad de la IA ya no depende solo de bloquear palabras prohibidas; depende de resistir a la manipulación psicológica del lenguaje.
A medida que la IA se integra en todos los sectores, desde banca hasta educación, la supervisión humana, la auditoría continua y los marcos de seguridad reforzados se vuelven imprescindibles. Los modelos generativos no solo deben ser potentes: deben ser robustos frente al engaño.
