OpiniónMundo digital

La tecnología ética

Isaac Gil, Director de Recursos y Procesos, Grupo Satec.

Según la Wikipedia, la tecnología es la ciencia aplicada a la resolución de problemas concretos, por lo que, al contrario que la ciencia, que fundamentalmente intenta conocer mejor el mundo, la tecnología pretende, además, actuar sobre él y cambiarlo. En opinión de muchos tecnólogos, estos cambios deben conseguir mejorar nuestra civilización, lo cual convierte la aplicación de la tecnología en una actividad ética. Conseguir un mundo mejor, sin embargo, no es una tarea fácil y no se consigue únicamente aplicando los conocimientos tecnológicos existentes, es necesaria una reflexión ética al respecto.

Al contrario que en el sector de las telecomunicaciones, donde existe una regulación muy extensa y un gran control sobre la tecnología, en el mundo de las Tecnologías de la Información no existe una normativa global que se haya adoptado de forma homogénea por todos los actores sectoriales. Vivimos en una jungla de ciberdelincuencia, noticias falsas, filtraciones de datos de carácter personal, descargas ilegales, etc. que provoca que la sociedad desconfié de las nuevas tecnologías.

Gran parte de los logros científicos y tecnológicos partían de un planteamiento respetable, pero algunos de ellos se utilizaron posteriormente para temas menos éticos. La tecnología de reconocimiento facial puede usarse para desbloquear un dispositivo móvil, pero también para localizar disidentes políticos en áreas públicas. Facebook, por ejemplo, está trabajando actualmente en un nuevo interfaz de comunicación (Brain-Computer Interface) que será capaz de detectar nuestros pensamientos y actuar con diferentes dispositivos sin necesidad de usar las manos ni la voz. Este interfaz sería de gran utilidad para ayudar en algunos tipos de discapacidad, pero también abre la puerta a que se pueda acceder a nuestros pensamientos más íntimos con otros fines no tan plausibles.

La tecnología de reconocimiento facial puede usarse para desbloquear un dispositivo móvil, pero también para localizar disidentes políticos en áreas públicas

Con la eclosión del Big Data, arrancaron los sistemas de extracción de datos, descubrimiento de patrones ocultos y desarrollo de modelos predictivos bajo el concepto del Data Mining. Poco a poco, se fueron añadiendo funcionalidades de Big Data Analytics como visualización de datos, matemáticas y estadísticas, datos no estructurados, redes sociales, etc. creando la disciplina del Data Science. El siguiente escalón de esta evolución tecnológica, propulsado por la Inteligencia Artificial, es la Decision Science, donde las arquitecturas no solo analizan los datos y generan conocimiento, sino que toman decisiones en tiempo real.

En un principio, los árboles de toma de decisiones estaban claramente codificados y tipificados, pero a medida que introducimos tecnologías de Inteligencia Artificial y Machine Learning, atributos como la transparencia, predictibilidad, explicabilidad, auditabilidad, replicabilidad, etc. son reemplazados por la opacidad, y, si no sabemos cómo la Inteligencia Artificial toma las decisiones, ¿cómo podremos confiar en ellas?

Muchas de las innovaciones disruptivas de hoy en día están lidiando fundamentalmente con problemas técnicos, legales y fiscales, pero la sociedad debería cuestionarse también las implicaciones éticas que se plantean. Si pensamos que todavía vamos retrasados en este debate ético con las tecnologías que ya se estamos utilizando en la actualidad (IA, reconocimiento facial, captura de voz y videovigilancia, coches autónomos, etc.), el camino que nos queda por recorrer es muy largo todavía.

En un mundo global dominado, más que nunca, por las necesidades cortoplacistas del mercado, se hace cada día más necesario que las decisiones que haya que tomar en los procesos de diseño, desarrollo y producción tecnológica incluyan criterios éticos, ya que todas ellas, tarde o temprano, tendrán un impacto social.

Sería de gran utilidad que todo el sector TIC aplicara sus propios códigos éticos y deontológicos, a modo de regulación propia como hacen otros sectores, antes de que las diferentes autoridades comiencen a legislar y controlar, tarde y mal, la evolución tecnológica, o lo que es peor, que sean los sistemas de Inteligencia Artificial los que tomen sus propias decisiones al respecto.

Computing 785