noticias

Asimov ya lo advirtió: los riesgos asociados a la IA generativa



Dirección copiada

Con lenguaje natural, los usuarios utilizan herramientas cuyo funcionamiento «oculto» se ignora por completo. ¿Es una buena idea?

Publicado el 21 jun 2024



robot asimov

Casi un año después del lanzamiento de ChatGPT, la caótica maraña de temores y alarmas sobre el impacto social de la IA generativa se ha convertido (al menos parcialmente) en algo más comprensible. Si en el sector empresarial sus posibles aplicaciones siguen siendo extremadamente variadas y, sin duda, representan el sector en el que la inteligencia artificial puede disfrutar de los horizontes más amplios de desarrollo y evolución, en el mundo del consumo ahora es evidente que su mayor impacto abarcará unas pocas áreas bien definidas.

Sin embargo, lo más interesante (y lo más inmediato) es la forma en que cambia la interfaz hombre/máquina. Con consecuencias que deben evaluarse todas.

De Alien a Star Trek: hablamos con el ordenador

Es cuestión de meses antes de que la evolución del Copilot de Microsoft, seguida probablemente de la nueva versión de Siri que Apple tiene entre manos, nos dé la oportunidad de interactuar con nuestros dispositivos tal y como imaginaban los guionistas de la serie de ciencia ficción hace unas décadas.

Examinándolo más de cerca, Copilot ya podría ser algo muy parecido a Mother, el ordenador Nostromo con el que Ripley intentó identificar estrategias para eliminar al xenomorfo que estaba diezmando a su tripulación. Cuando también llegue el soporte para el reconocimiento de voz (y este es un paso bastante obvio) llegaremos a los niveles de Kirk y Spock.

Y aquí vamos al grano: pronto tendremos un sistema de interfaz hombre-máquina tremendamente intuitivo y fácil de usar. Algo que supone un paso más tras la pantalla táctil y la evolución de la interfaz de usuario hasta convertirse en una clave para «acceder fácilmente» a las herramientas digitales. ¿Así que todo va bien? Quizá no…

¿Aptitud o evolución tecnológica?

Hace unos días, conversando con algunos expertos durante una mesa redonda, abordé el tema de la «natividad digital», por supuesto, desde una perspectiva decididamente «alternativa».

El razonamiento es el siguiente: ¿estamos seguros de que la confianza de los millennials (o de la generación Z) en los dispositivos de próxima generación se debe a factores educativos o experienciales? ¿No es que esta facilidad se debe en gran medida a la evolución de la interfaz de usuario?

Para respaldar esta tesis, existe la evidencia irrefutable que nos ofrece el hecho de que, desde que asistimos a la transición a interfaces de usuario más «amigables», incluso las personas «mayores» han conseguido entrar en un mundo que antes les estaba vedado.

Seamos realistas: los actuales setenta y ochenta años que hoy utilizan teléfonos inteligentes y tabletas con una naturalidad desarmadora nunca habrían alcanzado el mismo nivel de confianza si hubieran tenido que lidiar con un ratón y un teclado.

En resumen, decir que los ‘jóvenes’ confían más en la tecnología que las generaciones anteriores debido a una supuesta confianza en las herramientas digitales, corre el riesgo de ser exagerado. Digámoslo de esta manera: en comparación con los años ochenta y noventa, cuando el uso de estas herramientas era prerrogativa de un nicho de personas empleadas, hoy en día su uso es mucho más extenso. Sin embargo, esto no significa que las nuevas generaciones sean ‘más tecnológicas’. En concreto, no es seguro en absoluto que tengan un mayor conocimiento de las herramientas tecnológicas. Incluso es probable que ocurra lo contrario.

¿Isaac el vidente?

Algunos episodios de mi vida personal han confirmado esta paradoja a lo largo del tiempo: quienes tienen más confianza en el uso de las herramientas digitales a menudo no tienen ni idea de cómo funcionan, qué es lo que ocurre entre bastidores y cuáles son, en consecuencia, los problemas críticos, los riesgos y las repercusiones que conlleva el uso de las propias herramientas.

Conceptos como los códecs de compresión de audio/vídeo, el uso de controladores de PC para el uso de periféricos, la compatibilidad entre formatos, la propia lógica de las extensiones de archivos parecen haberse convertido en conceptos esotéricos, herencia de un grupo de iniciados que generalmente se adscriben a la categoría de expertos en informática. Una categoría que, admitiendo mi ingenuidad, estaba convencido de que desaparecería de la mano de la difusión del uso de herramientas digitales.

En otras palabras: si siempre he considerado normal que conceptos como el uso de las API o la microsegmentación de los servicios en un entorno de Kubernetes sean prerrogativa de unos pocos expertos del sector, el hecho de que ningún usuario de Whatsapp tenga la más mínima idea de lo que es un sistema de cifrado de extremo a extremo, lo admito, me preocupa.

Y aquí estamos, en Isaac Asimov. En su Ciclo Fundamental, el autor describe uno de los períodos oscuros de la galaxia como una época en la que miles de mundos utilizan tecnologías que no entienden realmente cómo funcionan. Saben cómo usar los dispositivos, pero no pueden replicarlos y ni siquiera entienden la tecnología que hay detrás de ellos. No hace falta decir que el juicio ético de Asimov sobre el tema, tal como se desprende de las novelas, dista mucho de ser positivo. Así como las repercusiones que plantea como hipótesis.

El impacto de la IA en las sugerencias de Asimov

El nuevo paradigma dictado por la inteligencia artificial está destinado a ampliar la brecha. Si una interfaz de usuario accesible ha provocado tal abismo en términos de conocimiento, no digamos qué pasará cuando se convierta en algo normal confiar al ordenador tareas (por ejemplo, crear una tabla de Excel con alguna fórmula) que hoy en día requieren inevitablemente algunos conocimientos, al menos a un nivel de código bajo.

Volviendo a Asimov, el riesgo es que el conocimiento se convierta en algo más parecido a un culto místico (cit.: Crónicas de la galaxia y Primera Fundación) en lugar de un conocimiento compartido. Algo que, a simple vista, no es realmente una gran idea.

Principalmente porque, a la larga, ese pequeño grupo de iniciados puede llegar a ser demasiado reducido. Y ahí es donde empezarían los problemas…

Fuente: Zerounoweb.it, Network Digital360

Artículos relacionados

Artículo 1 de 3