La disparatada carrera de la inteligencia artificial a la que venimos asistiendo estos años no podía sino desembocar en negras incertidumbres, dado que las big tech están asumiendo riesgos de forma inconsciente, cediendo la primacía a la tecnología, y dejando al ser humano en segundo plano, por mucho que hayan predicado lo contrario. Si hiciéramos uso de la memoria, sabríamos que esta situación era una crónica anunciada.
En marzo de 2023, se produjo un serio aviso, que quedó en papel mojado. Una carta abierta publicada por Future of Life Institute instaba a los laboratorios de IA a “detener inmediatamente durante al menos seis meses el entrenamiento de los sistemas más potentes que GPT-4”. La epístola advertía de que una automatización extrema podría causar estragos en los empleos, la obsolescencia humana y perder el control de la sociedad. Pese a que lo suscribieron 20.000 firmas, incluyendo investigadores de IA y directores ejecutivos como Elon Musk, Steve Wozniak o Noah Harari, el asunto rápidamente quedó en el olvido. Ha podido más esta nueva fiebre de oro inusitada, que quiere garantizarse un mercado y el poder futuro. Y pese a que los expertos vienen avisando de la llegada del lobo, no ha sido hasta ahora cuando se ha producido la alerta planetaria.
Índice de temas
El fin del mundo se acerca
El ingeniero de Antrhopic Jacob Coxon soltó la bomba hace cinco días, renunciando a su cargo, y alertando del grave peligro que corre la humanidad si no se pone orden en el asunto de la inteligencia artificial. Simultáneamente, su compañero Evan Hubinger, responsable de alineación de la IA en Anthropic, predijo en una publicación en X que hay más de un 10% de probabilidades de que la IA pueda acabar con toda la humanidad en la próxima década. No he podido por menos que evocar al mítico fraile dominico Girolamo Savaranola, que aterrorizó Florencia durante el medievo con sus apocalípticos sermones sobre un inminente fin del mundo.
Lo serio del asunto de estos oscuros presagios es que no vienen de indocumentados analistas o mercachifles de Youtube. Se trata de los exploradores de la IA, aquellos que viven en la frontera, los que nos están llevando a un nuevo territorio, presuntamente inhóspito para nuestra raza. La IA agéntica podrá ser un caballo desbocado cuando evolucione a enjambres de bots que campen a sus anchas, capaces de manejar el control y llevar la iniciativa en muchas operaciones, dejando en muy segundo plano al supervisor humano, que podría verse superado por decisiones más allá de su comprensión; especialmente, cuando la superinteligencia se materialice.
El caso Hugging Face ha sido un precedente que da credibilidad a este potencial escenario, cuando agentes de IA saltaron las barreras de un sandbox y hackearon una base de datos por decisión propia para cumplir con una tarea encomendada. Aquí los guardianes fallaron, pero el riesgo es que los presos se conviertan en nuestros propios guardianes.
Los jefes de la IA avisan del peligro
El propio CEO de Antrhopic, Dario Amodei, ha firmado un artículo ‘We Must Pace the Frontier’, en el que pide ralentizar el desarrollo de la IA en la frontera, sin desdecir a su exempleado Coxon, y señalando que en medio año una nube de agentes podría causar auténticos problemas en Internet. Hablamos de palabras mayores. Su competidor directo, antiguo y controvertido socio, Sam Altman ha respaldado esta petición. Es preciso disponer de mejores mecanismos de monitorización, alineamiento y comprensión de lo que hacen los modelos. Como dato ilustrativo, Altman acaba de retrasar la salida a bolsa de OpenAI, lo que sitúa estas elucubraciones en el ámbito de una burbuja de la IA y de un encarecimiento exagerado de su producción.
Ambos directivos apoyan una mayor conversación entre los grandes laboratorios conscientes del serio peligro al que podríamos estar abocados. Incluso otros grandes magnates antagonistas de los anteriores se han sumado a la propuesta, Demis Hassabis de Google DeepMind y Elon Musk, CEO de Grok (xAI). Hasta el mismísimo Barak Obama ha pedido que se priorice la supervisión de la IA, advirtiendo de que el desarrollo avanza muy rápidamente en manos privadas.
Pero con la iglesia geoestratégica hemos topado. Donald Trump no piensa lo mismo que los ‘tecnoligarcas’ de la IA, obsesionado con el poder que atesora China como rival político especialmente en el campo de esta tecnología.
Para este inefable personaje, “quien gane con la IA, gana”, se trata de una cuestión estratégica y de seguridad nacional, y se niega en redondo a ceder cualquier tipo de ventaja a su némesis ralentizando el desarrollo voluntariamente. Que el ritmo no pare, es el mandato, y acusa de una conspiración enfermiza en torno a las presiones contra la IA y los centros de datos.
Lo cierto es que el tema tiene muchas espinas, y frente a la posición de Europa legalista y tan injustamente criticada por los snobs tecnológicos, Estados Unidos tiene en su mesa la decisión de crear un modelo de IA humano y sostenible, o dejarlo al albur de una hidra de miles de cabezas que terminen llevándonos a todos a la hoguera, como al desdichado de Savinarola.
