El Reglamento (UE) 2024/1689 es una pieza clave en la legislación europea, adoptado con el fin de establecer un marco normativo coherente y armonizado para la inteligencia artificial (IA) en la Unión Europea. Adoptado el 13 de junio de 2024, este reglamento no solo actualiza y modifica varias directivas y reglamentos existentes, sino que también introduce nuevas disposiciones para garantizar que los sistemas de IA operen de manera segura, transparente y respetuosa con los derechos fundamentales.

Objetivos del reglamento

El objetivo principal del Reglamento (UE) 2024/1689 es asegurar que todos los sistemas de IA utilizados dentro del territorio de la UE sean seguros y respeten los derechos fundamentales. Este reglamento tiene varias metas específicas:

  1. Seguridad: Garantizar que los sistemas de IA, especialmente aquellos que se utilizan en aplicaciones críticas, sean seguros y fiables.
  2. Transparencia: Asegurar que las operaciones de los sistemas de IA sean comprensibles y transparentes para los usuarios.
  3. Protección de derechos fundamentales: Proteger los derechos fundamentales de las personas frente a los posibles riesgos y abusos derivados del uso de la IA.
  4. Promoción de la Innovación: Establecer un marco regulatorio claro y predecible que fomente la innovación y el desarrollo de tecnologías de IA en la UE.

Ámbito de aplicación

El Reglamento se aplica a:

  • Todos los sistemas de IA que se introducen en el mercado de la UE.
  • Sistemas de IA desarrollados tanto dentro como fuera de la UE, siempre y cuando se utilicen en el territorio europeo.
  • Sistemas de IA que son componentes de seguridad en productos regulados, como vehículos, aeronaves, y maquinaria agrícola.

Definición de Inteligencia Artificial

El Reglamento define los sistemas de IA como «software que, para un conjunto de objetivos definidos por los seres humanos, puede generar resultados tales como contenido, predicciones, recomendaciones o decisiones que influyen en los entornos con los que interactúan». Esta definición amplia incluye diversos tipos de tecnologías y aplicaciones de IA.

Clasificación de los sistemas de IA

El reglamento clasifica los sistemas de IA en función de su nivel de riesgo:

  1. Sistemas de alto riesgo: Incluyen aplicaciones en sectores críticos como la salud, la seguridad, la justicia y la vigilancia.
  2. Sistemas de riesgo limitado: Aplicaciones que presentan ciertos riesgos pero que no son críticos.
  3. Sistemas de bajo riesgo: Aplicaciones que tienen un riesgo mínimo y se utilizan en contextos menos sensibles.

Requisitos específicos para sistemas de alto riesgo

Para los sistemas de IA considerados de alto riesgo, el reglamento establece requisitos estrictos:

  1. Gestión de riesgos: Implementación de un sistema de gestión de riesgos para identificar, evaluar y mitigar los riesgos asociados con el uso de IA.
  2. Evaluación de conformidad: Los sistemas de IA deben someterse a evaluaciones de conformidad antes de ser introducidos en el mercado.
  3. Supervisión humana: Debe existir una supervisión humana adecuada para los sistemas de IA de alto riesgo, asegurando que las decisiones automatizadas puedan ser revisadas y, si es necesario, corregidas por humanos.
  4. Transparencia y provisión de información: Los usuarios deben ser informados de que están interactuando con un sistema de IA y deben recibir explicaciones claras sobre el funcionamiento del sistema.
  5. Seguridad y robustez: Los sistemas de IA deben ser diseñados para ser seguros y robustos contra ataques y fallos.

Requisitos generales para todos los sistemas de IA

Además de los requisitos específicos para sistemas de alto riesgo, el reglamento establece requisitos generales aplicables a todos los sistemas de IA:

  1. Transparencia: Los desarrolladores deben asegurarse de que los usuarios sean conscientes de que están interactuando con un sistema de IA. Además, se deben proporcionar explicaciones sobre cómo funciona el sistema y cómo se toman las decisiones automatizadas.
  2. Precisión, fiabilidad y robustez: Los sistemas de IA deben ser diseñados y desarrollados para ser precisos, fiables y robustos. Esto incluye la capacidad de manejar datos sesgados y prevenir resultados discriminatorios.
  3. Seguridad: Los desarrolladores deben garantizar que los sistemas de IA sean seguros, especialmente aquellos que se utilizan en aplicaciones críticas.
  4. Protección de datos personales: Los sistemas de IA deben cumplir con las leyes de protección de datos de la UE, como el Reglamento General de Protección de Datos (GDPR).

Modificaciones a reglamentos y directivas existentes

El Reglamento (UE) 2024/1689 introduce varias modificaciones a reglamentos y directivas existentes para garantizar una integración armoniosa de las nuevas normas sobre IA. A continuación se detallan algunas de las principales modificaciones:

  1. Reglamento (UE) 2019/2144:
    • Se añaden disposiciones sobre la adopción de actos delegados relacionados con sistemas de IA que funcionen como componentes de seguridad en vehículos y otros productos regulados​.
  2. Reglamento (UE) 2018/1139:
    • Se establecen requisitos adicionales para los sistemas de IA utilizados en la aviación, asegurando que estos sistemas cumplan con los estándares de seguridad y supervisión​​.
  3. Reglamento (UE) 2018/858:
    • Se incluyen nuevas cláusulas relativas a los sistemas de IA en el sector automotriz, con un enfoque particular en la seguridad y la evaluación de conformidad​.
  4. Reglamento (UE) n.º 167/2013 y n.º 168/2013:
    • Estos reglamentos se actualizan para incluir consideraciones sobre IA en la seguridad de vehículos y maquinaria agrícola, asegurando que los sistemas de IA utilizados en estos contextos sean seguros y fiables​.

Implementación y cumplimiento

El Reglamento establece un marco claro para la implementación y el cumplimiento de sus disposiciones:

  1. Autoridades nacionales competentes: Cada Estado miembro debe designar una o más autoridades competentes responsables de supervisar la implementación del reglamento y garantizar el cumplimiento de sus disposiciones.
  2. Evaluación de conformidad: Los sistemas de IA de alto riesgo deben someterse a evaluaciones de conformidad realizadas por organismos notificados antes de ser introducidos en el mercado.
  3. Sanciones: Se establecen sanciones claras y disuasorias para los incumplimientos del reglamento, incluyendo multas significativas para los desarrolladores y proveedores de sistemas de IA que no cumplan con los requisitos establecidos.

Impacto en la industria y la innovación

El Reglamento (UE) 2024/1689 tiene un impacto significativo en la industria de la IA y en la innovación tecnológica en la UE:

  1. Promoción de la Innovación: Al proporcionar un marco regulatorio claro y predecible, el reglamento fomenta la innovación y el desarrollo de nuevas tecnologías de IA dentro de la UE.
  2. Competitividad global: Estableciendo altos estándares de seguridad, transparencia y protección de datos, la UE se posiciona como líder global en la regulación de la IA, lo que puede aumentar la competitividad de las empresas europeas en el mercado global.
  3. Fomento de la confianza del consumidor: Al garantizar que los sistemas de IA sean seguros y respeten los derechos fundamentales, el reglamento aumenta la confianza del consumidor en las tecnologías de IA, lo que puede impulsar su adopción y uso generalizado.

El Reglamento (UE) 2024/1689 representa un avance significativo en la regulación de la inteligencia artificial en la Unión Europea. Al establecer normas claras y coherentes para la seguridad, transparencia y protección de los derechos fundamentales, este reglamento no solo protege a los ciudadanos europeos, sino que también fomenta la innovación y el desarrollo tecnológico. Con un enfoque en la supervisión humana, la gestión de riesgos y la evaluación de conformidad, el reglamento establece un estándar global para la regulación de la IA, posicionando a la UE como líder en este campo emergente y crucial.

Este informe proporciona un análisis detallado del contenido y las implicaciones del Reglamento (UE) 2024/1689, basado en el documento oficial publicado el 12 de julio de 2024​

Fuente: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=OJ%3AL_202401689