La Inteligencia Artificial (IA) lleva tiempo dándonos muchas alegrías pero también provocando mucha incertidumbre y temor. Resultado de esto último es la Ley de IA recién aprobada por la Unión Europea que supone un paso histórico y un hito en la regulación de esta revolucionaria tecnología.
El acuerdo provisional entre los Estados miembros y el Parlamento Europeo establece un marco jurídico completo que regula el uso de la IA y cuya implementación total está programada para finales de 2026.
La UE ha establecido cuatro niveles de riesgo para guiar la implementación de la legislación.
Niveles de Riesgo y Regulación
Riesgo Mínimo: En este nivel, los sistemas de IA no estarán sujetos a obligaciones específicas, pero será recomendable la adopción de códigos de conducta voluntarios que aumenten la confianza para la adopción de la IA y pueden proporcionar una ventaja competitiva a los proveedores de servicios que se rijan por ellas. Esta categoría incluirá modelos de código abierto y gratuitos, a menos que presenten características de alto riesgo.
Riesgo Limitado: Los sistemas de IA en esta categoría deben cumplir con requisitos mínimos de transparencia para que los usuarios sean conscientes de cuándo interactúan con una IA. Esto se aplica especialmente a sistemas que generan o manipulan contenidos multimedia.
Alto Riesgo: Los sistemas de IA que puedan afectar negativamente a la seguridad o los derechos fundamentales se consideran de alto riesgo. Estos sistemas deben ser evaluados antes de su comercialización y a lo largo de su ciclo de vida, con el objetivo de minimizar riesgos, evitar resultados discriminatorios y garantizar la supervisión humana, la trazabilidad y la ciberseguridad. Riesgo Inasumible: Se prohíben los usos de IA que presenten un riesgo inaceptable para la seguridad, los medios de vida y los derechos humanos. Solo podrán autorizarse por ley con fines de seguridad nacional. En este nivel se incluyen los sistemas de IA de puntuación social como sí se hace en China, la manipulación del comportamiento humano que causa o puede causar daño y la vigilancia masiva.
Puntos Calientes: Vigilancia Biométrica y Sistemas de IA Generativa
Aunque se permitirán los sistemas de vigilancia biométrica en tiempo real en espacios públicos, éstos solo podrán ser empleados por las fuerzas del orden, serán muy restrictivos y requerirán una autorización judicial. Quedarán terminantemente prohibidos los sistemas biométricos que se basen en la raza, la orientación sexual o en creencias políticas o religiosas.
En cuanto a los sistemas de IA generativa, se impondrán criterios de transparencia. Deberá especificarse claramente si un texto, imagen o pieza musical se ha generado mediante IA, y se garantizará que los datos utilizados para entrenar estos sistemas respeten los derechos de autor.
Por qué ahora y por qué los primeros
Según la UE, esta norma busca establecer un entorno de confianza que permita liderar la adopción de sistemas de IA innovadores salvaguardando los derechos y libertades, según los valores europeos.
Puede ser, pero también es la estrategia del pavo real, que extiende sus alas para demostrar su poder (real o no) y defender su territorio frente a otros rivales. Europa está perdiendo la carrera de la IA y por tanto la de la competitividad. En este momento todas las herramientas de inteligencia artificial que utilizamos vienen de USA o China y los datos generados con ellas viajan a uno u otro país, no se quedan en Europa. ¿Quién tendrá y usará el conocimiento de todos esos datos? USA o China. Europa no.
Como resumen he de decir que he echado en falta un debate más intenso sobre cómo potenciar la IA y su desarrollo en Europa. ¿Os imagináis que en el siglo XX Europa hubiese decidido no apostar por la industria del automóvil para salvaguardar los carros tirados por caballos? Aunque la comparación pueda parecer exagerada, estamos hablando de algo muy parecido: la IA nos ayudará a ser competitivos y a no quedarnos fuera de la carrera.
Sí a una regulación que proteja los derechos fundamentales. No a un marco jurídico que ponga trabas a la innovación. Queda tiempo y podremos analizar qué camino escogeremos como ciudadanos europeos
