La Ley de Inteligencia Artificial de la UE (Unión Europea) es la iniciativa de los legisladores europeos para regular el uso y desarrollo de tecnologías de inteligencia artificial en nuestro continente.
El objetivo de esta normativa que ha sido aprobada esta semana de forma definitiva es establecer un marco legal uniforme que asegure que los sistemas de IA respeten los derechos fundamentales de las personas que tienen su residencia en la Unión Europea.
De esta forma, la legislación pretende equilibrar los beneficios potenciales de la IA con la necesidad de proteger a la sociedad de sus posibles riesgos.
La inteligencia artificial tiene el potencial de aumentar la productividad de tu empresa. Sin embargo, también hay ciertos asuntos que requieren de una atención especial, como la protección de la privacidad, la prevención de sesgos discriminatorios y la garantía de seguridad en su uso.
Por otra parte, la Ley de Inteligencia Artificial de la Unión Europea también establece nuevos mecanismos de gobernanza que puedan garantizar su cumplimiento. De esta forma, los Estados miembros tienen que designar las que serán las autoridades competentes para supervisar la aplicación de la ley.
Puesto que la inteligencia artificial ha llegado para quedarse, las regulaciones con respecto a ella no han tardado en aparecer. Por eso, en este artículo vamos a responder todas las preguntas frecuentes sobre este tema, pero recuerda que si necesitas atención personaliza ofrecemos un servicio de consultoría en inteligencia artificial.
El procedimiento legislativo y la adopción de la Ley de Inteligencia Artificial de la UE
El procedimiento legislativo para la aprobación de la Ley de Inteligencia Artificial de la Unión Europea ha sido bastante extenso, reflejando la complejidad y el impacto potencial de dicha normativa.
Dicho procedimiento comenzó en abril de 2021 a propuesta de la Comisión Europea, la cual estableció las bases y los objetivos del marco regulatorio. A través de este documento se delineaban las áreas clave donde la IA podía suponer riesgos y proponía estrategias para controlarlos.
La propuesta destacaba la necesidad de una regulación armonizada para evitar la fragmentación del mercado interno y asegurar un alto nivel de protección de los derechos fundamentales de los usuarios.
Tras la publicación de la propuesta, el Parlamento Europeo y el Consejo de la Unión Europea llevaron a cabo sus respectivas revisiones y realizaron múltiples sesiones de debate y análisis, incluyendo audiencias con expertos y consultas con diversas partes interesadas.
Los diputados del Parlamento Europeo discutieron los aspectos técnicos y los principios éticos de la IA y de la regulación, por lo que el Parlamento revisó detalladamente cada sección de la propuesta, proponiendo enmiendas y ajustes basados en sus deliberaciones y las consultas con expertos.
Simultáneamente, el Consejo de la Unión Europea evaluó la propuesta desde la perspectiva de los Estados miembros, lo cual involucró a representantes de todos los países de la UE, quienes aportaron sus puntos de vista y sus preocupaciones.
El 21 de mayo de 2024, la ley ha sido aprobada definitivamente y entrará en vigor de manera progresiva hasta 2026. De esta forma, los Estados miembros tendrán dos años para adaptar su legislación nacional a las nuevas normas, para que se produzca una implementación coherente en toda la Unión Europea.
La clasificación de riesgos de los sistemas de IA que propone la Ley de Inteligencia Artificial de la UE
La Ley de Inteligencia Artificial de la Unión Europea introduce una clasificación de riesgos para los sistemas de IA, intentando que la regulación sea proporcional a los riesgos asociados a cada uno de los diferentes modelos de inteligencia artificial.
Para empezar fuerte, los sistemas de IA que presentan un riesgo considerado como inaceptable están directamente prohibidos, entre los que se incluyen aquellos que:
- Manipulan el comportamiento de personas vulnerables, como los niños, mediante técnicas subliminales.
- Utilizan puntuación social, es decir, clasifican a las personas basándose en su comportamiento, estatus socioeconómico, o características personales.
- Implementan sistemas de identificación biométrica en tiempo real y a distancia, como el reconocimiento facial en espacios públicos.
Todos estos usos se consideran altamente peligrosas por la nueva normativa debido a su potencial para causar daños psicológicos o físicos, así como para violar los derechos fundamentales de las personas.
Por otra parte, están los sistemas de IA de alto riesgo, que son aquellos que pueden tener un fuerte impacto en la seguridad o los derechos fundamentales, pero que no se consideran los suficientemente peligrosos para prohibirse.
Dichos sistemas deben cumplir con fuertes requisitos de gestión de riesgos, transparencia, documentación y supervisión humana antes de comercializarse y a lo largo de su ciclo de vida.
Por último, los considerados como sistemas de riesgo limitado tienen requisitos menos estrictos, pero aún así deben cumplir con ciertas obligaciones de transparencia.
No obstante, no están sujetos a obligaciones adicionales, permitiendo su uso sin mayores restricciones. De esta forma, se pretende conseguir que la regulación no imponga cargas innecesarias, para que se pueda fomentar la innovación mientras se protege a los usuarios.
¿Qué sanciones pueden tener que asumir las empresas de inteligencia artificial por Incumplimiento de la Ley?
La Ley de Inteligencia Artificial de la Unión Europea, como es lógico, establece fuertes sanciones para quienes no cumplan con sus disposiciones, las cuales varían en función de la gravedad de la infracción y el tamaño de la entidad responsable.
Se aplican multas que pueden alcanzar hasta 35 millones de euros o el 7% del volumen de negocios anual global de la empresa, dependiendo de cuál sea mayor. Dichas sanciones están estructuradas en diferentes niveles:
- Infracciones graves: Las violaciones legislativas y de los derechos de los usuarios que implican el uso de sistemas de IA prohibidos, como los sistemas de riesgo inaceptable, tendrán como consecuencia las sanciones más severas.
- Infracciones de gravedad moderada: Las infracciones relacionadas con el incumplimiento de los requisitos para los sistemas de alto riesgo, también se traducirán en multas de cantidades económicos bastante considerables.
- Infracciones menores: El incumplimiento de las obligaciones de transparencia para los sistemas de riesgo limitado también acarrea sanciones, que aunque no serán tal altas, también serán de una cantidad de dinero bastante importante.
Además de las multas económicas, las empresas pueden enfrentar otras consecuencias legales, como la suspensión o retirada de los productos del mercado, la obligación de corregir los sistemas defectuosos, o incluso el cierre definitivo de la empresa.
¿Qué dice la Ley de IA de la Unión Europea con respecto a los derechos de los usuarios?
La Ley de Inteligencia Artificial de la UE otorga una gran importancia a la transparencia y a la protección de los derechos de los usuarios, buscando que los sistemas de IA funcionen garantizando el respeto a los derechos fundamentales de las personas.
Los sistemas de IA generativa, como los utilizados para crear texto, imágenes o música, deben cumplir con varias obligaciones de transparencia:
- Revelación del uso de IA: Hay que informar a los usuarios cuando interactúan con contenido generado por IA. Por ejemplo, si un ‘chatbot’ está respondiendo en lugar de una persona, hay que indicarlo.
- Etiquetado del contenido: El contenido creado por IA debe llevar etiquetas que indiquen su origen, permitiendo a los usuarios diferenciar entre el contenido generado por humanos y el que realizan las máquinas.
Por otra parte, con respecto al derecho a la Información, los usuarios tienen derecho a saber cómo funcionan los sistemas de IA que utilizan, lo cual incluye la información sobre los datos utilizados y los algoritmos que se aplican para su funcionamiento.
También, los usuarios deben tener la posibilidad de controlar y corregir los datos personales que se utilizan por los sistemas de IA, para que se pueda garantizar así la precisión y la justicia en el tratamiento de su información.
Si toda esta información te ha parecido interesante, no olvides suscribirte a nuestra newsletter de IA, ya que todas las semanas compartiremos nuestra visión sobre los temas más importantes y las noticias de este innovador e interesante sector.