Esta mañana el pleno del Parlamento Europeo ha adoptado su posición sobre la propuesta de Reglamento de Inteligencia Artificial (AI Act), con 499 votos a favor, 28 en contra y 93 abstenciones. La propuesta ha suscitado una importante reflexión y debate entre los responsables políticos, la sociedad y la comunidad empresarial, que además, se ha visto condicionado recientemente por el auge de sistemas, como la AI generativa. Este texto es la primera legislación en el mundo que aborda de manera integral esta tecnología.
Antecedentes:
El texto fue presentado por la Comisión Europea en abril de 2021, con el objetivo de asentar el primer marco jurídico sobre estas nuevas tecnologías, poniendo el foco en los riesgos que plantean los sistemas de IA y buscando generar confianza en los mismos. A partir de entonces, comenzó el proceso legislativo ordinario de la Unión Europea, que requiere que Consejo de la Unión Europea y Parlamento Europeo adopten sus respectivas posiciones sobre la propuesta de la Comisión, para finalmente llegar a un acuerdo sobre un texto definitivo en las negociaciones en trílogos. Así, el pasado mes de diciembre de 2022, el Consejo de la Unión Europea alcanzó un Enfoque General sobre la propuesta.
Por su parte, los trabajos en el Parlamento Europeo ha avanzado más despacio. Sin embargo, después de que las comisiones responsables del expediente, IMCO y LIBE, aprobaran su informe el pasado 11 de mayo, la propuesta de Reglamento se ha llevado hoy a la sesión plenaria, donde se le ha dado luz verde.
Sobre el texto hoy aprobado:
La posición del Parlamento Europeo mantiene un enfoque basado en el riesgo, pero ha pedido medidas de protección adicionales. Entre otros, se han ampliado los listados de sistemas de IA prohibidos por suponer un nivel de riesgo inaceptable para la seguridad de las personas, incluyendo en esta categoría el uso de técnicas biométricas o de reconocimiento de emociones. Por su lado, en los listados de los sistemas de IA catalogados como de “alto riesgo”, incluirán aquellos que puedan influir en los votantes y en los resultados electorales y que puedan suponer un daño significativo para la salud, la seguridad, los derechos fundamentales o el medio ambiente de las personas.
La posición del Parlamento también clarifica el alcance del texto (a pesar de que lo hace más amplio) y abre la puerta a la autoevaluación, brindando a las empresas cierta flexibilidad en este sentido.
Por último, el Parlamento Europeo ha incluido una previsión específica para los proveedores de modelos fundacionales que puedan desarrollar sistemas de IA generativa, a quienes obliga a tener previsiones en materia de gestión de riesgos. Además, establece requisitos adicionales de transparencia para la IA generativa, que deberá revelar que el contenido ha sido generado por una IA, así como ayudar a distinguir las llamadas imágenes deep fake de las reales, y garantizar salvaguardas contra la generación de contenido ilegal.
Una vez validado el texto, el Parlamento tiene luz verde para iniciar los trílogos con el Consejo de la Unión Europea, que comenzarán esta misma tarde. Esto quiere decir que el grueso de las negociaciones recaerán bajo el mandato de España en la Presidencia del Consejo de la UE, que se desarrollará durante el segundo semestre del 2023. De hecho, se espera que el texto pueda estar aprobado a final de año (antes de las elecciones europeas) para su entrada en vigor dos años más tarde, en 2025.
La regulación de la IA en Europa y España:
El Reglamento de IA no es la única norma en materia de IA que está desarrollando la UE. Las propuestas de directivas de responsabilidad de producto, y la propuesta de directiva que adapta las normas de responsabilidad civil no contractual a la inteligencia artificial, tienen en cuenta la coyuntura de esta nueva tecnología en las normas de responsabilidad civil de la Unión Europea. Además, destaca la Directiva de Trabajo en Plataformas, en lo referido a procesos de información y transparencia en el uso de modelos de IA que afecten a la fuerza laboral de una organización.
Asimismo, a nivel nacional, España ha creado la sede de la supervisión de la IA en La Coruña, el centro de transparencia algorítmica de la Comisión Europea en Sevilla, ha publicado dos planes de actuación de IA y se encuentra trabajando en un Sandbox dirigido a apoyar a las empresas a implementar el futuro Reglamento.
Por su parte, Adigital pondrá en marcha tras el verano una iniciativa de autorregulación, enmarcada dentro del reglamento de IA, que ayudará a las empresas a cumplir con la futura normativa.
Nuestras recomendaciones:
La posición del Parlamento abre la puerta a seguir mejorando la regulación durante los trílogos, lo que esperamos favorezca una Unión Europea digital y competitiva.
Desde Adigital consideramos que la IA es una de las tecnologías con mayor capacidad para impulsar la nueva etapa de la digitalización. Su desarrollo y uso es transversal para múltiples sectores empresariales, aportando eficiencia, innovación y productividad. En este sentido, la acción en política pública y regulación sobre IA debería considerar:
- Tener como eje de acción los beneficios de la IA en su ordenación pública, muy especialmente la innovación, eficiencia en procesos, y competitividad que comportan.
- Evitar una demonización de estas tecnologías desde las instituciones.
- Definir adecuados sistemas de evaluación de la normativa ex-ante y ex-post para así medir su impacto en el desarrollo en Europa de esta tecnología y su efectividad para los fundamentos así planteados.
- Se deben reforzar (como así se ha previsto en el AI Board reflejado en el texto del AI Act) mecanismos de colaboración entre la UE, los estados miembros, sociedad civil y comunidad empresarial para armonizar su “enforcement” y disponer de conocimiento, buenas prácticas y experiencias conjuntas.
- Se debe medir el impacto de la regulación y sus costes a startups y PYMEs digitales europeas de esta normativa. Estableciendo facilidades y recursos para que estos tejidos empresariales no pierdan incentivos para el desarrollo y uso de la IA.
- Se debe potenciar el sistema de “autoevaluación” por las organizaciones que usen IA así como potenciar buenas prácticas de autorregulación de la industria europea.