Ley de IA de la Unión Europea fue aprobada, convirtiéndose en la primera regulación sobre inteligencia artificial en el mundo

By Santamarina Steta

Resumen Ejecutivo

El 9 de diciembre de 2023, el Parlamento Europeo y la Presidencia del Consejo acordaron la versión final del Reglamento de Inteligencia Artificial, la llamada “Ley de IA de la UE”.
Esta normativa establece normas armonizadas para la comercialización, puesta en servicio y uso de la Inteligencia Artificial, la cual pretende ser un prototipo de normativa que influiría en la elaboración de leyes en otras jurisdicciones.
Aún quedan pendientes algunos pasos legislativos para la entrada en vigor de esta ley, la cual será aplicable dos años después; potencialmente en 2026.

El 9 de diciembre de 2023, el Parlamento Europeo y la Presidencia del Consejo acordaron la versión final del Reglamento de Inteligencia Artificial, la llamada “Ley de IA de la UE”.

Esta normativa establece normas armonizadas para la comercialización, puesta en servicio y uso de la Inteligencia Artificial (“IA”), a través de un enfoque basado en el riesgo, en el que, cuanto mayor sea el riesgo de violación de los derechos, más estrictas serán las restricciones.

La Ley de IA de la UE pretende ser un prototipo de normativa sobre la IA, que influiría en la elaboración de leyes en otras jurisdicciones, lo que se denomina “El Efecto Bruselas”. Sin embargo, aún quedan pendientes algunos pasos legislativos para la entrada en vigor de la Ley de IA de la UE, la cual será aplicable dos años después; potencialmente en 2026.

La Ley de IA de la UE será aplicable a los sistemas de IA utilizados, comercializados y/o puestos en servicio, excepto cuando su finalidad sea la investigación y desarrollo científicos. La Ley de IA de la UE divide los sistemas de IA en cuatro categorías de riesgo, basándose en su uso y finalidad pretendidos, que son los siguientes:

Riesgo Inaceptable:
- Patrones oscuros
- Manipulación
- Puntuación social
- Identificación biométrica, para la aplicación de la ley (con algunas excepciones)

Riesgo Alto:
- Biométricos
- Infraestructuras críticas de información, tráfico vial, y el suministro de agua, gas y electricidad
- Educación
- Empleo
- Servicios privados y públicos esenciales
- Aplicación de la ley
- Migración, asilo, y la administración del control de la frontera
- Administración de justicia y procesos democráticos

Riesgo Limitado:
- “Chatbots”
- Sistemas de categorización biométrica y sistemas de identificación de emociones
- “Deep fakes”

Riesgo Mínimo:
- Otros sistemas de IA

Los sistemas de IA deberán cumplir con los requisitos y obligaciones aplicables a su categoría de riesgo. En un análisis descendente, para las tecnologías de Riesgo Inaceptable están prohibidas, salvo los sistemas de identificación biométrica, siempre y cuando cumplan con algunas condiciones para su uso. En cuanto a las herramientas de Riesgo Alto, tendrán que obtener una evaluación de la conformidad de un tercero, lo que significa que éste verificará si se cumplen los requisitos establecidos para los sistemas de IA de riesgo alto. En cuanto a los sistemas de Riesgo Limitado, tendrán que procurar que los usuarios entiendan y utilicen adecuadamente el sistema; esta es la norma de transparencia. En cuanto a las tecnologías de Riesgo Mínimo, se les anima a cumplir voluntariamente algunos requisitos establecidos en los Códigos de Conducta que serán redactados y publicados por la Comisión Europea.

¿Para quiénes será aplicable la Ley de IA de la UE?

La Ley de IA de la UE aplicará, independientemente de su ubicación física o lugar de establecimiento, a los usuarios, importadores, distribuidores, fabricantes de productos y proveedores que introduzcan en el mercado o pongan en servicio sistemas de IA, sólo si el sistema de IA es utilizado o produce sus efectos en la Unión Europea.

Sanciones

El incumplimiento de las disposiciones contenidas en la Ley de IA de la UE podrá ser sujeto a multas administrativas de hasta 35 millones de euros o del 7% del negocio total anual mundial del ejercicio fiscal anterior.

Consideraciones importantes

La Ley de IA de la UE es un hito en la carrera por proteger los derechos de las personas frente a esta nueva tecnología que muchas veces la mayoría no entiende. Diferenciar entre tipos de IA y sus respectivos riesgos es un enfoque acertado, debido a la variedad de vertientes que pueden tener los sistemas de IA, por lo que su tratamiento jurídico y los requisitos correspondientes no deben ser los mismos.

Sin embargo, esta industria en sí misma es altamente compleja de entender y va evolucionando día a día, lo que podría conllevar potenciales dificultades al momento de aplicar esta propuesta legislativa, debido a algunos errores de origen derivados de la falta de especialización de los legisladores y de los adjudicadores (jueces), lo que para los primeros fue un reto entender el objeto a regular a través de esta ley, lo será para los adjudicadores el ir dictaminando caso por caso. Incluso con la ayuda de personas especializadas en la materia será un reto superar estas circunstancias; a veces ni siquiera los desarrolladores entienden cómo funcionan sus propios sistemas de IA, lo que es denominado como “caja negra” (“black box”).

Por otro lado, aunque la Ley de IA de la UE pretende influir y exportar sus disposiciones a legislaciones extranjeras, es cierto que no tiene por qué ser así, al menos no en su totalidad. La razón de esto último radica en que cada jurisdicción o región tiene situaciones y necesidades diferentes, incluso puede ser que algunos de las metas innovadoras del país no estén alineadas con partes del contenido de la ley estudiada.

En nuestra opinión, establecer una serie de requisitos y obligaciones para los desarrolladores de tecnología puede desincentivarlos para la creación y puesta en marcha de nuevos programas, puede significar un golpe a su capacidad innovadora, tomando en consideración que muchos de ellos no tienen recursos suficientes para cumplir con un marco normativo tan complejo o, bien, para pagar por servicios legales en la materia.

Dicho lo anterior, podría ser prudente monitorear la situación de la industria tecnológica en Europa después de que la Ley de IA de la UE entre en vigor y comience a ser aplicable. Los efectos de este cuerpo normativo nos dirán los beneficios y desventajas que producen en el mundo práctico.

Enlace de la publicación:
https://ec.europa.eu/commission/presscorner/detail/es/ip_23_6473.

Autores