En la primera entrega de esta serie hablamos sobre el comienzo de la cuenta atrás para la llegada de la nueva normativa europea sobre inteligencia artificial. Por ello analizamos los plazos y cómo si bien para la mayoría de empresas están a 2 años vista de su aplicación, puede haber casos concretos en los que la aplicabilidad de la norma llegue mucho antes.
El pasado 1 de agosto entró la norma en vigor y comenzó oficialmente esa cuenta atrás y los plazos que explicábamos en la anterior entrega.
Ahora que tenemos una idea sobre los tiempos, de los que iremos hablando durante esta serie, empecemos con algunas cuestiones más de fondo sobre la norma. De hecho, vamos a hacerlo con algo muy básico pero que es importante tener claro en una norma con tan amplio alcance y complejidad.
¿Qué materias pretende regular? Es decir, no nos paramos por ahora en el quién (proveedores, responsables del despliegue, importadores, distribuidores, fabricantes, representantes o simples usuarios), que también es un tema complejo y sobre el que hablaremos, si no en el qué.
La norma pretende establecer una regulación armonizada en todos los estados de la Unión Europea en materia de inteligencia artificial. Por tanto, le preocupa la introducción de herramientas externas en la UE (desde las creadas por OpenAI a cosas mucho más desconocidas), su desarrollo (crear modelos a nivel local o para actividades propias), la puesta en servicio (distribuirlas en nombre de un tercero) y el uso (ya sea a nivel particular o empresarial) de sistemas de inteligencia artificial, que es el concepto usado por la norma.
Ahora bien, ¿qué es un sistema de inteligencia artificial?
Con el objetivo de evitar dolores de cabeza futuros y centrarse en un estándar lo más internacional posible, la norma he elegido la definición que la OCDE (Organización para la Cooperación y el Desarrollo Económico) estableció en 2019 (actualizada en 2023) sobre inteligencia artificial:
“Un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales;”
¿Ejemplos de lo anterior en el sector turístico, por centrarnos en un caso habitual de las Islas?
• UnA herramienta de filtrado colaborativo que adapte sus sugerencias de viaje, hoteles o vuelos a medida que recibe más información de las preferencias de los huéspedes.
• Un asistente virtual que interactúa con los clientes al hacer una reserva y aprende de sus interacciones.
• Una app para predecir la demanda basada en datos históricos e información en tiempo real y ajustar los precios de forma adecuada.
• Una herramienta de sentimiento y tendencias basado en las opiniones y reseñas de los usuarios que genere informes para mejorar la oferta de empresas y adaptarse a las expectativas de los turistas.
Y eso son solo algunos ejemplos de sistema de IA que probablemente entrarían en la definición de la normativa.
Importante destacar que el software con capacidades inferiores a las indicadas en la definición no será considerado un sistema de IA.
Por tanto, ¿los sistemas de IA indicados estarán automáticamente sujetos a la norma y todas sus previsiones? Eso ya dependerá del sistema de IA del que hablemos y del riego que impliquen.
Una cuestión clave del Reglamento sobre Inteligencia Artificial o RIA es que sigue un enfoque basado en el riesgo, de modo que el nivel de intervención legal se adapta al riesgo específico que presenta el sistema de IA. Por ello hablamos de riesgos inaceptables, altos, limitados o mínimos.
Por ejemplo, el asistente virtual al que nos referíamos antes seguramente sería un sistema de IA al que le aplique un nivel de riesgo mínimo y que por tanto tiene algunas obligaciones específicas en materia de transparencia, pero no mucho más.
Además, hay algunos sistemas de IA y usos que están excluidos de la norma:
- Sistemas utilizados exclusivamente con fines militares, de defensa o de seguridad nacional.
- Aquellos puestos en servicio únicamente con fines de investigación y desarrollo científicos.
- Actividades de investigación, prueba o desarrollo relativas a sistemas o modelos de IA
antes de su introducción en el mercado o puesta en servicio.
- Personas físicas que utilicen sistemas de IA en el ejercicio de una actividad puramente personal de carácter no profesional.
Por si faltara algo, RIA también regula lo que la normativa llamada “modelos de IA de uso general”. Es decir, son aquellos elementos que forman parte de un sistema de IA, pero no son un sistema como tal.
Por ejemplo, digamos que el sistema de IA es uno que sirve para automatizar los procesos de visado y documentación de viajeros (reconoce el documento, detecta un posible fraude y asiste al usuario). Eso sería el sistema de IA, pero los modelos que quizá usaríamos para ello serían GPT-4o para procesar texto (no tiene porqué ser ChatGPT, que es la herramienta, no el modelo en sí) o ResNet para detectar imágenes.
Lo que RIA dice es que esos modelos también están sujetos a la norma y varios requisitos especiales (cómo ha sido entrenado, resultados, políticas sobre derechos de autor, etc.) deben ajustarse a lo que diga RIA.
En resumen, la normativa busca principalmente regular los sistema de inteligencia artificial en función de su riesgo (algunos los prohíbe por completo, otros los limita según el caso) y además se encarga de establecer las exigencias necesarias para los modelos de inteligencia artificial de uso general que integran esos sistema de IA (transparencia, datasets, políticas, pautas, etc).
En la próxima entrega veremos a quién afecta la norma. :)
Si necesitas ayuda en estas cuestiones o aquellas relacionadas con Derecho de nuevas tecnologías, puedes contactarnos aquí.
