La Comisión Europea está dispuesta a prohibir el uso de sistemas de IA para la “vigilancia indiscriminada” o para clasificar el comportamiento social de los pueblos. Las nuevas normas figuran en un proyecto de reglamento que propondrá la Comisión Europea en las próximas semanas.
Según una copia del proyecto, las organizaciones que operan en la UE no podrán utilizar sistemas de IA que rastreen a individuos en entornos físicos o datos agregados de otras fuentes. También se prohibirán los algoritmos que juzguen la fiabilidad de las personas en función de su comportamiento social o los rasgos de personalidad.
El proyecto también propone prohibir los sistemas desplegados para explotar la información sobre grupos de personas. Con arreglo a las normas, se requerirá una autorización especial para el uso de sistemas de identificación biométrica en espacios públicos. Las aplicaciones de IA de alto riesgo se someterán a una revisión detallada antes de que las organizaciones puedan utilizarlas.
Algunos ejemplos de IA de alto riesgo son los algoritmos de reclutamiento, los algoritmos de predicción del delito, los sistemas implementados para evaluar la solvencia y los utilizados para establecer la prioridad en el envío de servicios de emergencia. También incluyen sistemas desplegados como componentes de seguridad en redes esenciales de infraestructura pública, incluidas las carreteras y el suministro de electricidad, agua y gas.
En tales casos, los Estados miembros nombrarán órganos de evaluación para garantizar que dichos sistemas estén capacitados en conjuntos de datos imparciales y cuenten con una supervisión humana adecuada.
Las empresas que violen las normas se enfrentarán a una serie de castigos, incluidas multas de hasta el cuatro por ciento de sus ingresos globales, lo mismo que la pena máxima por violar el RGPD.
Sin embargo, existen algunas exenciones que incluyen el uso de la IA exclusivamente con fines militares, así como para salvaguardar la seguridad pública. Esto puede seguir protegiendo el uso de la IA en más vigilancia por parte de los organismos encargados de hacer cumplir la ley.
