La IA al servicio de la democracia

Punto de partida

La democracia española, y la europea en general, funcionan. No perfectamente, pero funcionan. Hay un sistema que proporciona legitimidad al poder, basada en la representación del pueblo soberano y en el contrapeso entre las distintas instituciones: separación de poderes, libertad de expresión, elecciones, etc…

Este punto de partida es importante. Si alguien piensa que la democracia es prescindible o que no funciona en absoluto, las soluciones tecnológicas que proponga serán distintas de las que pueda decidir alguien para el que la democracia es un edificio sólido, con buenos cimientos, mejorable. La IA puede dar inteligencia a este edificio y mejorar los servicios que se dan en él, permitiendo fortalecer los procesos y servicios democráticos.

La IA puede dar inteligencia a este edificio y mejorar los servicios que se dan en él, permitiendo fortalecer los procesos y servicios democráticos

Los países deben adaptar sus políticas públicas a las nuevas realidades que reclama la sociedad, principalmente en la mejora de los servicios públicos:

• Las tecnologías han disparado la velocidad de transmisión y proceso, la información puede estar disponible prácticamente en tiempo real. Sin embargo, los procesos administrativos y legislativos se han quedado obsoletos. El resultado es una brecha creciente entre la velocidad a la que cambia la realidad y la velocidad a la que el Estado es capaz de dar una respuesta en la gestión de los servicios públicos adaptada a las nuevas necesidades.
• Existe una distancia cognitiva entre las necesidades reales del ciudadano y la capacidad del Estado para identificarlas y comprenderlas. Esta distancia se intenta cubrir con indicadores que capturan la tendencia general, pero que reflejan mal la situación de quienes están en un extremo desfavorecido, que suelen ser precisamente quienes más necesitan que el Estado funcione bien.
• También es importante la participación. Ésta ya no puede limitarse a acudir a votar cada cierto número de años, es fundamental que los ciudadanos se involucren en las decisiones que les afectan. Sin embargo, los mecanismos de participación, como portales institucionales o consultas públicas, ya de por sí aún con propuestas muy limitadas, tienden a reproducir siempre el mismo perfil del participante. Una democracia en la que intervienen sistemáticamente los mismos ciudadanos en la toma de decisiones, a veces un tanto marginales y limitadas, difícilmente puede considerarse que represente a todos.

Estos tres aspectos no son defectos de diseño de la democracia. Son limitaciones de los instrumentos con los que la ejecutamos. Y ahí es exactamente donde la inteligencia artificial tiene algo que aportar.

Cómo la IA puede mejorar estos aspectos

La primera oportunidad es la más sencilla de explicar y quizá la más difícil de ejecutar: hacer que los servicios públicos respondan en tiempo y forma.

Un ciudadano que espera un año la resolución de un expediente para que se le reconozca un grado de dependencia, difícilmente puede sentir que las instituciones funcionan para él. Formalmente tiene derechos, pero en la práctica tiene una cola que le impide saber qué tiempo se tardará en resolver su gestión.

La IA, aplicada correctamente, puede reducir ese tiempo de manera drástica. No porque sustituya al funcionario que toma la decisión, sino porque puede preparar el terreno para que esa decisión se tome antes y mejor: ordenar la documentación, contrastar datos, verificar requisitos y señalar posibles inconsistencias. La IA no sustituye la decisión pública, elimina parte de la carga administrativa que la retrasa. Lo que hoy tarda semanas por razones burocráticas puede reducirse a horas.

La IA no sustituye la decisión pública, elimina parte de la carga administrativa que la retrasa

Hay administraciones en Europa, algunas en España, que ya están trabajando en ello. No con grandes anuncios, sino con proyectos piloto discretos y bien ejecutados. El resultado no es solo eficiencia. Es confianza. Un ciudadano que obtiene respuesta rápida siente que el Estado existe para él y está cerca. Eso fortalece la democracia más que cualquier campaña de comunicación institucional.

Pero hay algo más en este primer punto que merece la pena desarrollar: la atención al ciudadano desde las Administraciones Públicas. Son el punto de contacto más frecuente entre el ciudadano y el Estado. Cuando ese contacto funciona, cuando la persona obtiene lo que necesita en un tiempo razonable y con una explicación comprensible, ocurre algo que las encuestas de satisfacción no siempre capturan: se refuerza la idea de que pertenecer a una comunidad organizada tiene ventajas concretas, que pagar impuestos se traduce en una mejora tangible en la vida del ciudadano.

Cuando ese contacto falla de manera sistemática, ocurre lo contrario. La acumulación de pequeñas decepciones administrativas tiene un efecto negativo sobre la confianza institucional que ninguna campaña puede compensar: el formulario que no funciona, la llamada que nadie responde, las citas muy tardías, los horarios de atención reducidos e intempestivos, la dificultad de encontrar lo que se busca, el error en el acceso, la resolución que llega meses después, cuando el problema ya no tiene remedio.

No digamos ya si los delitos o las ayudas han prescrito porque el tiempo para reunir la documentación necesaria ha sido excesivo hasta por lo que la ley considera aceptable. La IA bien aplicada en servicios públicos no es, por tanto, solo una cuestión de modernización. Es una cuestión de legitimidad democrática.

La segunda oportunidad es la detección temprana de problemas que hoy llegan demasiado tarde a la agenda pública.

Los gobiernos tienen enormes cantidades de datos sobre lo que ocurre en su territorio: consumo de servicios sociales, incidencias de enfermedades, evolución del mercado de trabajo local, uso de infraestructuras. Hoy esos datos se analizan con retraso, en informes anuales o trimestrales, cuando los problemas llevan meses madurando. La IA permite identificar patrones en tiempo real que ningún equipo humano podría procesar a esa escala.

La IA permite identificar patrones en tiempo real que ningún equipo humano podría procesar a esa escala

Un municipio puede detectar, antes de que el problema llegue al debate público, cuándo una zona está entrando en una espiral de vulnerabilidad: el aumento de los impagos en suministros básicos, el descenso de las matriculaciones en actividades extraescolares, la multiplicación de las consultas a los servicios sociales de urgencia.

Cada señal por separado no es nada, pero juntas, con el análisis adecuado, son una alerta que permite actuar antes de que el problema requiera una intervención de emergencia, permitiendo actuar de forma preventiva en lugar de reactiva. Una política que llega antes del problema es, por definición, más justa. Porque los problemas que nadie ve son siempre los problemas de quienes tienen menos capacidad para hacerse escuchar ante quienes toman las decisiones, normalmente mayores o con discapacidad. Anticipar no es solo más eficiente. Es más justo socialmente.

Cuando utilizamos algoritmos optimizados en base a la utilización de millones de datos anonimizados y de calidad, podemos conseguir diagnósticos y tratamientos de enfermedades en base a la experiencia colectiva mundial, lo cual ayuda a mejorar la prevención o la cura, independientemente del especialista médico que nos atienda.

El conocimiento médico se duplicaba en 1950 cada 50 años, en 1980 cada 7 años, en 2010 cada 3,5 años y hoy se duplica gracias a la IA cada 73 días. Un avance increíble que ayudará a prevenir y curar con más eficacia y rapidez. Compartir es dar valor a nuestros sistemas democráticos.

Además, una intervención temprana en casi cualquier ámbito de política social es significativamente menos costosa que la intervención tardía. Un programa de apoyo al empleo que llega cuando alguien lleva tres meses en desempleo tiene un impacto muy distinto al mismo programa cuando lleva esperando un año.

Los recursos públicos son un bien escaso y seguirán siéndolo. Usarlos anticipándose incluso a que el problema haya estallado, es más humano y más inteligente.

La tercera oportunidad es la participación ciudadana real, no -sólo- la consultiva. La distinción es importante. La participación consultiva es en la que se pregunta a los ciudadanos, se recogen sus opiniones, y luego se toman las decisiones que se iban a tomar de todas formas con la legitimidad -formal- añadida de haber preguntado. Por ello, su capacidad de transformar las decisiones es limitada. Los ciudadanos lo saben, lo que reduce la disposición a participar en la siguiente consulta.

La participación real es cuando la información que aportan los ciudadanos modifica genuinamente el resultado. Y para que eso ocurra hacen falta dos condiciones que hoy no siempre se dan: una, que la participación sea accesible y, también que el volumen de aportaciones sea procesable por quien toma las decisiones.

La IA puede resolver las dos. Puede personalizar la información sobre decisiones públicas para que llegue a quien le afecta de verdad, en el momento oportuno y en el formato que pueda entender. Y puede procesar miles de aportaciones ciudadanas, encontrar los temas que aparecen de forma recurrente, distinguir el consenso del ruido, y presentar una síntesis que se pueda usar de verdad.

Eso no elimina la responsabilidad de quien decide. La decisión sigue siendo humana, pero mejora radicalmente la calidad de la información con la que se toma.

La IA puede permitir dar el salto desde una Administración rogada a una Administración proactiva ante las necesidades del ciudadano.

El ciudadano se tiene que sentir siempre ACOMPAÑADO por la Administración, que le ayude a resolver y a predecir cualquier cosa que pueda ser necesaria en su vida administrativa.

Lo que llega desde donde no se esperaba

Hace pocas semanas, el Papa León XIV publicó una carta encíclica llamada Magnifica Humanitas1. Habla, entre otras cosas, de inteligencia artificial. Lo primero que pensé al leerla fue que articula con mucha precisión algo que el sector tecnológico dice a veces con menos claridad: que la IA no tiene valores propios, adopta los de quienes la diseñan y alimentan.

El texto usa dos imágenes bíblicas para describir dos formas de construir con tecnología. La Torre de Babel, donde todos los ladrillos son iguales, el proyecto es de unos pocos y el resultado final es que nadie se entiende. Y la reconstrucción de Jerusalén según el libro de Nehemías, donde cada persona aporta lo que sabe hacer, las piedras son todas distintas, y precisamente por eso el conjunto es resistente y se adapta en cada caso a lo que se necesita.

Me parece una metáfora útil para pensar en cómo desplegamos la IA en el sector público. Podemos hacerlo al modo Babel: sistemas uniformes que estandarizan procesos sin tener en cuenta la diversidad de los territorios y las personas. O podemos hacerlo al modo Jerusalén: sistemas diseñados contando con quienes los van a usar, que reconocen que un expediente de dependencia en un municipio rural tiene una complejidad distinta a uno en una gran ciudad, y que esa diferencia importa.

Del punto 129 de la Magnifica Humanitas, extraemos el siguiente texto:

“… La inteligencia creativa del ser humano es un don que puede aliviar sufrimientos y abrir nuevas posibilidades, pero debe permanecer ordenada al bien común, a la justicia, al cuidado de los frágiles y de la creación…”.

El Papa fue claro al comentar que el foco no debe estar únicamente en las cuestiones técnicas: quien controla la IA impondrá su propia visión moral y ética, que condicionará las infraestructuras invisibles de los sistemas.

En la tradición de la doctrina social de la Iglesia, el bien común tiene un contenido muy preciso: no es la suma de los intereses individuales, sino el conjunto de condiciones que permiten a cada persona desarrollarse. Es una definición que sirve perfectamente como criterio de evaluación de cualquier sistema de IA en el sector público:

¿Este sistema amplía o restringe las condiciones en las que cada ciudadano puede desarrollarse?

Entre las reflexiones expresadas por León XIV en su primera encíclica, destacaría aquella en la que el Papa llamó a «desarmar» la Inteligencia Artificial y advirtió de los riesgos que puede entrañar un uso inadecuado de esta tecnología.

La visita del Papa a España ha coincidido en un momento en que las Administraciones Públicas españolas están tomando decisiones de inversión en IA que van a tener efectos durante muchos años. No es un detalle menor que desde una institución con veinte siglos de reflexión sobre cómo organizar la convivencia humana llegue este recordatorio: la eficiencia que no sirve a las personas más vulnerables no es progreso, es otra cosa.

Los riesgos que no podemos ignorar

No sería razonable presentar una hoja de ruta sobre IA y democracia sin hablar de lo que puede salir mal. No porque sea inevitable que salga mal, sino porque los riesgos que no se nombran son los que con más probabilidad se materializan.

• El primero es el riesgo de automatizar la desigualdad existente. Los sistemas de IA se entrenan con datos históricos. Y los datos históricos reflejan las decisiones del pasado, incluidas las que hoy consideraríamos injustas, y miden y reflejan situaciones de desigualdad o sesgo que sin un análisis adecuado y actualizado podrían sustentar su perpetuación si se analizan sin tener en cuenta más parámetros. Un sistema para priorizar servicios sociales realizado con datos de los últimos diez años va a reproducir, si no se diseña con cuidado, los sesgos que esos datos contienen porque es estadísticamente fiel a una realidad que deberíamos querer cambiar. Y eso tiene como consecuencia práctica inmediata que la validación técnica no es suficiente. Un sistema puede funcionar perfectamente en términos de precisión estadística y a la vez producir resultados que son sistemáticamente peores para grupos específicos de ciudadanos. La auditoría de equidad tiene que ser una exigencia contractual, no una opción.

• El segundo riesgo es la opacidad de las decisiones. Cuando un algoritmo influye en una decisión que afecta a un ciudadano, ese ciudadano tiene derecho a entender por qué se ha tomado esa decisión. Y tiene derecho a que alguien, una persona física con nombre y responsabilidad, pueda explicarle en un lenguaje comprensible qué criterios se usaron y cómo puede impugnarlos si no está de acuerdo. El derecho a recurrir una decisión es uno de los pilares del Estado de Derecho. El Reglamento europeo de IA exige explicabilidad para los sistemas de alto riesgo. Pero la exigencia formal y la práctica real pueden ser muy distintas. Podemos encontramos con pliegos de contratación pública que incluyen el término -explicabilidad- sin que nadie en el equipo técnico pudiera definir qué significa exactamente para el sistema en cuestión.

• El tercer riesgo es la concentración de poder de decisión. La IA tiende a escalar. Un sistema que funciona bien en un municipio puede extrapolarse al siguiente, y al siguiente, usando la misma herramienta con los mismos criterios para tomar decisiones sobre ciudadanos con realidades muy distintas. Eso no es necesariamente malo si el sistema es bueno. Pero crea una dependencia de un proveedor que puede tener incentivos muy distintos a los de las Administraciones que lo usan.

• Hay un cuarto riesgo que es más difícil de articular pero que me parece igualmente importante: es el de la atrofia Institucional. Si una administración delega sistemáticamente en sistemas automatizados la parte más compleja de sus decisiones, con el tiempo pierde la capacidad de tomar esas decisiones sin el sistema. Una Administración que no puede funcionar sin sus herramientas de IA no es más autónoma, es más frágil.

Si una administración delega sistemáticamente en sistemas automatizados la parte más compleja de sus decisiones, con el tiempo pierde la capacidad de tomar esas decisiones sin el sistema

• Hay otros riesgos más tecnológicos, como por ejemplo sufrir técnicas de ‘injection prompt’, que permitan insertar dentro de las instrucciones o preguntas al modelo de IA generativa mensajes ocultos o manipulados que hacen que el modelo cambie de comportamiento original, engañando al sistema para que responda de una forma diferente o haga cosas que no se correspondan con lo que se esperaría en condiciones normales.

Evidentemente hay un viejo clásico, plenamente aplicable a la IA tal vez más que nunca y que no debería olvidarse al regularla: las Tres Leyes de la Robótica de Isaac Asimov2. Pero en la práctica ya hemos traspasado esas líneas rojas. ¿Estaremos a tiempo de recuperar ese mínimo ético?

Nombrar estos riesgos no es un argumento contra el uso de la IA, es argumentar a favor de usarla con los ojos abiertos. La diferencia entre una tecnología que fortalece la democracia y una que la erosiona no está en la tecnología misma, está en las decisiones que tomamos antes de desplegarla, durante el despliegue, y en cómo la evaluamos después.

Las condiciones para que esto funcione

Todo lo que he descrito hasta aquí, solo se gestiona bien si se dan unas condiciones concretas:

• Que las decisiones en las que intervenga un sistema de IA en el ámbito público sean explicables para las personas afectadas. Un ciudadano que recibe una resolución favorable o desfavorable debe poder entender por qué se ha tomado esa decisión, en un lenguaje claro y sin necesidad de formación especializada. Eso exige que el organismo que contrata el sistema fije en el pliego criterios concretos y verificables, y que la auditoría cuente con capacidad real para comprobarlos, no solo con una potestad formal sobre el papel. Asimismo, pensemos en personas con discapacidades o mayores, las cuales tiene más problemas en su relación con las Administraciones Publicas mediante herramientas telemáticas.

• Debe existir la capacidad interna en las administraciones para entender lo que compran. Una administración que compra un sistema de IA sin poder evaluarlo independientemente no está tomando una decisión tecnológica: está delegando una decisión de política pública en un proveedor privado.

Esta capacidad interna se construye formando a los equipos que ya existen: juristas que entiendan qué significa la explicabilidad algorítmica en términos de garantías procesales, trabajadores sociales que sepan identificar cuándo un sistema está produciendo resultados anómalos, responsables de compras que sepan qué preguntar antes de firmar. La IA no es solo un asunto del departamento de Tecnologías de la Información, implica a toda la organización.

• Deberíamos ir más despacio de lo que a veces nos gustaría en la puesta en producción de los sistemas de IA. Antes de poner en producción un sistema, es necesario evaluarlo con todos los tipos de población que lo van a utilizar.

Antes de poner en producción un sistema, es necesario evaluarlo con todos los tipos de población que lo van a utilizar

• La evaluación continua. Los sistemas de IA no son estáticos. La evaluación no puede ser un evento puntual al final de la implantación. Tiene que ser un proceso permanente con consecuencias reales y más cuando los resultados no son los esperados.
• Los datos no son neutrales. La calidad del dato debe integrar el discernimiento ético desde el diseño para evitar que los modelos perpetúen sesgos o discriminaciones estructurales. Las decisiones automatizadas que impactan en la sociedad no pueden delegarse ciegamente a sistemas opacos, requieren ser comprensibles, cuestionables y contar con responsables humanos identificables La gobernanza algorítmica y la transformación digital de las Instituciones Públicas deben representar a todos los colectivos.

Una hoja de ruta en tres tiempos

Termino con algo concreto. Una hoja de ruta debe tener tiempos, responsables y criterios de éxito. Propongo tres horizontes, aunque la velocidad ahora es vertiginosa y en algún caso se pueden juntar:

• A corto plazo, el trabajo está en la transparencia de lo que ya existe. Antes de añadir nuevos sistemas, conviene saber con precisión qué hay ya en uso. Mientras que los datos de las Administraciones Públicas son veraces y de calidad, no sucede lo mismo con los que provienen de otras fuentes externas. Habría que tener un sistema que permitiera validar y dar por buena esa información. Podemos analizar si hay grupos de ciudadanos que están obteniendo resultados peores de forma sistemática. En muchos casos la respuesta va a ser que nadie lo sabe con exactitud, y eso ya es un diagnóstico valioso que justifica la inversión en hacerlo bien a partir de aquí.

En el corto plazo también debería abordarse la formación. La formación práctica, orientada a casos concretos, para los equipos que ya están tomando decisiones que van a verse afectadas por la IA. El objetivo no es crear solo expertos en inteligencia artificial dentro de la Administración. Es crear personas capaces de hacer las preguntas correctas a quienes sí lo son.

• A medio plazo, la apuesta debe estar en la participación y en la anticipación. En participación, en sistemas que lleven la información a las personas en lugar de esperar que las personas vayan a buscarla. Que reduzcan la distancia entre las necesidades reales del ciudadano y la capacidad del Estado para identificarlas.

En anticipación, el objetivo es que las Administraciones Públicas tengan capacidad de análisis predictivo sobre las materias que más les importan: evolución del empleo local, demanda de servicios sociales, estado de infraestructuras críticas, rendimiento educativo. La política que llega tarde siempre tiene menos opciones que la que llega a tiempo.

En el medio plazo también debería abordarse el marco de gobernanza. Quién decide qué sistemas se pueden usar en el sector público, en qué condiciones, con qué auditorías y con qué consecuencias cuando algo falla. España tiene ahora la oportunidad de desarrollar ese marco de forma coherente con el Reglamento Europeo de IA, pero adaptado a la realidad de una administración pública con una estructura muy descentralizada en la que las comunidades autónomas y los municipios tienen un papel protagonista. Un marco pensado solo para el gobierno central puede dejar fuera a quienes más directamente interactúan con los ciudadanos en el día a día.

Tendríamos que evaluar qué capacidad tienen las instituciones públicas europeas, -y españolas en particular-, para comprender, auditar y eventualmente desarrollar las herramientas con las que gobiernan

• A largo plazo, tendríamos que evaluar qué capacidad tienen las instituciones públicas europeas, -y españolas en particular-, para comprender, auditar y eventualmente desarrollar las herramientas con las que gobiernan. No por razones de proteccionismo, sino porque gobernar con herramientas que no se entienden ni se controlan es una contradicción con los principios básicos de la democracia representativa.

Un gobierno que no puede explicar cómo toma sus decisiones porque esa explicación requiere el acceso a un sistema que es propiedad de una empresa privada tiene un problema de legitimidad. Esto no significa que el Estado tenga que desarrollar sus propios modelos de lenguaje, aunque en algunos casos podría tener sentido hacerlo en colaboración a escala europea. Significa que debe existir capacidad interna de comprensión y auditoría. Los contratos de compra de IA deben exigir portabilidad de datos, auditoría de terceros y acceso al código en condiciones razonables.

Últimas consideraciones

La Magnifica Humanitas, del Papa que ya mencioné, habla de ser tejedores de esperanza. No arquitectos de sistemas, no ingenieros de soluciones. Tejedores. Algo que se hace despacio, entrelazando materiales distintos, y cuyo resultado no es una estructura que impresiona desde fuera sino un tejido que abriga hacia dentro.

Creo que eso es lo que se nos pide en este momento a quienes trabajamos en el sector público. Tiempo para pensar y diseñar nuestro futuro, de forma que dentro de diez años podamos decir que la Administración española es más cercana, más justa y más comprensible para sus ciudadanos que antes. Que las personas que más dificultades tienen para relacionarse con el Estado lo tengan más fácil.

Nada de esto va a ocurrir solo porque la tecnología exista. Ocurrirá si quienes tienen responsabilidad en estos ámbitos toman las decisiones correctas en los pliegos de contratación, en los proyectos piloto, en los presupuestos de formación y en los marcos de gobernanza que todavía están por escribir. La tecnología no tiene agenda propia. La agenda la ponemos nosotros.

Eso es fortalecer la democracia, es el trabajo que importa. Y la IA, si la usamos bien, con criterios claros, con evaluación honesta y con la humildad de reconocer cuándo algo no funciona, puede ayudarnos a conseguirlo. Hay un potencial todavía por descubrir que debemos utilizar con criterio y ética profesional. No afrontar esa responsabilidad ahora puede llevar a la autodestrucción de las democracias e incluso a nuestra propia extinción como civilización y especie.

Las Administraciones Públicas al frente de este reto

En el 2020, fue presentado el Plan Estratégico España Digital 2025, luego actualizado como España Digital 2026, con el objetivo de impulsar el proceso de transformación digital del país.

En el marco de dicho plan, dentro del eje 9 Economía del Dato e Inteligencia Artificial, se integró la Estrategia Nacional de Inteligencia Artificial (ENIA), publicada ese mismo año. Paralelamente, el alcance de sus medidas se amplió a través del Componente 16 del Plan de Recuperación, Transformación y Resiliencia.

El Gobierno de España ha publicado recientemente en el Boletín Oficial el proyecto de ‘Ley Orgánica para el buen uso y la gobernanza de la IA’. La norma busca adaptar en España el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (RIA).

También ha lanzado el Proyecto ALIA, una iniciativa pionera en la Unión Europea que busca proporcionar una infraestructura pública de recursos de IA, como modelos de lenguaje abiertos y transparentes, para fomentar el impulso del castellano y lenguas cooficiales -catalán y valenciano, euskera y gallego- en el desarrollo y despliegue de la IA en el mundo, garantizando el acceso universal en beneficio de toda la sociedad.

Se trata de un proyecto abierto que se distingue por la transparencia, en línea con el Reglamento de IA y la apertura para impulsar la innovación y la adopción de las tecnologías, garantizando la fiabilidad tecnológica y la inclusión social y económica. La familia de modelos ALIA cuenta con la verificación de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) y está alineada con los estándares de transparencia que establece el Reglamento de IA.

La Comunidad de Madrid ha lanzado el anteproyecto de Ley de Administración Digital e Inteligencia Artificial (LADIA). Una norma que supondrá un “impulso definitivo” a los servicios públicos electrónicos y establecerá un marco “seguro, ético y adaptado a la singularidad de la región” del uso de esta tecnología.

El Sandbox de IA, es una iniciativa del Gobierno de España, cuyo objetivo es promover la innovación de forma responsable ayudando especialmente a las pymes y startups a aplicar correctamente los requisitos del Reglamento de Inteligencia Artificial, especialmente en los sistemas de alto riesgo.

La Fábrica Nacional de Moneda y Timbre (FNMT), ha puesto a disposición de entidades públicas y privadas: VerifIA, un distintivo emitido por la FNMT, actuando como tercero de confianza, que certifica que un sistema de IA cumple el Reglamento Europeo de Inteligencia Artificial (RIA), según el nivel de riesgo y el rol de la entidad responsable.

Estas iniciativas son algunas propuestas de las Administraciones Públicas Españolas para regular con garantías su uso.

Conclusión final

Me gustaría resaltar unas palabras que pronunció el actor Antonio Banderas ante el Papa, en la visita que ha realizado recientemente a España:

«La Inteligencia Artificial tiene que estar al servicio del ser humano y no al revés».

Necesitamos que las Administraciones Públicas nos ayuden a gestionar la IA como una fuente de beneficios que ayuden al progreso de nuestra sociedad y de nuestra democracia.

«Si quieres ir rápido, ve solo; si quieres llegar lejos, ve acompañado».

Este proverbio africano resume una idea sencilla pero profunda: actuar en solitario puede ser más rápido, pero los grandes logros suelen necesitar cooperación. Cuando una persona toma decisiones por sí misma no necesita consenso ni debates, lo que permite avanzar con rapidez en determinadas situaciones.

Sin embargo, esa misma rapidez puede tener un coste. Trabajar solo reduce las perspectivas y aumenta la probabilidad de cometer errores, ya que no existen otras miradas que ayuden a detectar riesgos o mejorar las decisiones.

Por el contrario, cuando varias personas trabajan juntas hacia un objetivo común, las habilidades y experiencias se complementan. Aunque el proceso pueda ser más lento al principio, el resultado suele ser más sólido y duradero.

Si quieres ir rápido, ve solo; si quieres llegar lejos, ve acompañado y si la IA os ayuda en vuestro propósito, mejor

Ahora la IA ha dado un nuevo impulso a esta teoría, con la IA los tiempos en resolver cualquier tema se reducen drásticamente y su visión global ayuda a garantizar con un porcentaje mayor de éxito la solución propuesta. Por ello este proverbio lo podemos actualizar:

«Si quieres ir rápido, ve solo; si quieres llegar lejos, ve acompañado y si la IA os ayuda en vuestro propósito, mejor».

Hace poco leí una frase de José Luis Casal que me hizo pensar:

“…Ninguna sociedad mejora de verdad si sus herramientas avanzan más rápido que sus valores”

El futuro, una incógnita

Siempre he pensado que la humanidad a lo largo de tantos siglos debería haber tenido como primer objetivo el de mejorar la vida de las personas.

Muchas veces hemos oído que si el dinero de la guerra se empleara en la investigación prácticamente no habría hambre en el mundo y muchas de las enfermedades actuales tendrían ya tratamiento, pero parece que este no es el objetivo de los que gobiernan el mundo. Confiemos que la IA se aplique correctamente.

A veces recuerdo la escena final de la película de ciencia ficción de 1968 ‘El planeta de los simios’, ojalá sepamos utilizar la IA en beneficio de la humanidad y no para destruirla.

Fuentes Consultadas

1. Carta encíclica, Magnifica Humanitas del PAPA León XIV

2. Las tres leyes de la robótica o leyes de Asimov son un conjunto de normas elaboradas por el escritor de ciencia ficción Isaac Asimov que se aplican a la mayoría de los robots de sus obras y que están diseñados para cumplir órdenes. Aparecidas por primera vez en el relato Círculo vicioso (Runaround) de 1942, establecen lo siguiente:

• Primera Ley: Un robot no hará daño a un ser humano, ni por inacción permitirá que un ser humano sufra daño.
• Segunda Ley: Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley.
• Tercera Ley: Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.