Propuesta de Reglamento sobre Inteligencia Artificial (IA)

Propuesta de Reglamento sobre Inteligencia Artificial (IA)

La Inteligencia Artificial y las consecuencias de su veloz desarrollo sin límites preocupa a diversos sectores de la sociedad, incluyendo a los propios desarrolladores de la Inteligencia Artificial.

Sin ir más lejos, el propio CEO de OpenIA, Sam Altman, compareció recientemente ante la Comisión Judicial estadounidense para manifestar no sólo la necesidad urgente de regular la Inteligencia Artificial, sino que en sus propias palabras manifestó ‘’Mi peor miedo es que esta tecnología salga mal y, si sale mal, puede salir muy mal’’.

Por si estas palabras fusen poco alarmantes, continúa su comparecencia ante el Capitolio sugiriendo la creación de una organización internacional para regular y estandarizar el uso y desarrollo de la IA, a nivel internacional, equiparando el nivel de riesgo de la IA al de las armas nucleares.

¿En qué consiste la Propuesta de Reglamento Europeo sobre Inteligencia Artificial?

La Unión Europea, se encuentra en la vanguardia del compromiso con la regulación de esta tecnología, la Comisión Europea publicó el Libro Blanco de la IA en 2020 donde ya se instaba a la urgencia de afrontar los retos de complejidad, imprevisibilidad y comportamiento autónomo de ciertos sistemas de Inteligencia Artificial.

Ahora, tres años más tarde, se ha procedido a dar el paso publicando la Propuesta del Reglamento por el que se establecen normas armonizadas en materia de Inteligencia Artificial (‘’Ley de Inteligencia Artificial’’).

Esta propuesta de Reglamento, será de aplicación a proveedores que comercialicen o pongan en servicio sistemas de IA en territorio de la Unión, con independencia de si están establecidos en la UE o en un país tercero, a los usuarios de IA que se encuentren en la Unión Europea, así como a proveedores y usuarios que se encuentren en un país tercero cuando la información generada sea utilizada en territorio de la UE.

Además, introduce una definición de Inteligencia Artificial que aspira a resistir al paso del tiempo y a los veloces cambios tecnológicos, definiéndola como ‘’el software que se desarrolla empleando una o varias de las técnicas y estrategias que figuran en el anexo I (del propio Reglamento) y que puede, para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa.’’

¿Cuáles son las principales cuestiones que introducirá el Reglamento Europeo de Inteligencia Artificial?

• Categorización de sistemas de IA: Se introducen mecanismos de clasificación de los sistemas de IA, IA explícitamente prohibida, IA de alto riesgo, IA de riesgo limitado y sistemas de IA no peligrosos. Los sistemas de IA inaceptablemente peligrosos, como aquellos diseñados para manipular el comportamiento humano, estarían prohibidos. Los sistemas de alto riesgo, como la IA utilizada en el sector de la salud o el transporte, estarían sujetos a requisitos estrictos de transparencia, supervisión y responsabilidad, así como de la obtención de certificación tras su notificación a la autoridad correspondiente.

• Obligaciones para los sistemas de IA de alto riesgo: Los sistemas de IA de alto riesgo estarían sujetos a requisitos específicos. Los proveedores de estos sistemas deberán realizar evaluaciones de riesgo, seguir estándares técnicos, garantizar la trazabilidad de los resultados y contar con planes de contingencia. Además, se establecería la obligación de llevar a cabo una evaluación de conformidad antes de la comercialización y de mantener registros detallados de los datos de entrenamiento utilizados. 

• Protección de derechos fundamentales de los Usuarios: El proyecto de ley enfatiza la necesidad de proteger y respetar los principios de legalidad, transparencia y no discriminación. Se prohíbe expresamente el uso de IA para la vigilancia masiva, puntuación de comportamiento humano (‘social scoring’), entre otros, así como se requerirá la concurrencia de excepciones tasadas para el uso de sistemas de reconocimiento biométrico o facial en espacios públicos. Se requiere que los sistemas de IA sean transparentes y proporcionen una explicación clara de su funcionamiento a los usuarios finales, evitando la opacidad y permitiendo que las personas comprendan cómo se toman las decisiones basadas en la IA.

• Fomento de la innovación y la investigación ética: A pesar de las restricciones y obligaciones, el proyecto de ley también busca promover la innovación y la investigación en IA ética. Se establecerán medidas para facilitar el acceso a datos de alta calidad, se fomentará la colaboración entre instituciones académicas y se crearán programas de financiación para proyectos de IA ética.

¿Cómo se aplicará el Reglamento de Inteligencia Artificial? ¿Qué sanciones pueden derivarse de su incumplimiento?

Para la supervisión y aplicación del Reglamento de IA, será necesaria la cooperación entre la autoridad europea, Comité Europeo de Inteligencia Artificial, así como de las autoridades de los Estados Miembros para supervisar la implementación y cumplimiento de la normativa a nivel estatal.

A este respecto, desde España la Autoridad nacional supervisora será la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), que dispondrá de las facultades sancionadoras dispuestas en este Reglamento. 

Se prevén para las infracciones de menor gravedad como la presentación de información inexacta, incompleta o engañosa a las autoridades notificadoras, de sanciones por cuantías que podrán ascender hasta los 10 millones de euros, o equivalentes al 2% del volumen de negocio anual mundial.

Las infracciones de mayor gravedad estarán sujetas a sanciones administrativas de hasta 30 millones de euros o, si el infractor es una empresa, de hasta el 6 % del volumen de negocio total anual mundial.

En definitiva, esta normativa tendrá como objetivo establecer un marco regulatorio sólido y ético para el uso de la inteligencia artificial (IA) en la Unión Europea, y ha sido objeto de amplio debate y consulta, para lograr su coherencia con la normativa vigente en materia de protección de datos y consumidores, llevando a cabo a su vez los equilibrismos necesarios para no frenar las oportunidades de innovación y crecimiento económico que suponen el desarrollo de la IA. 

Si bien el Reglamento, una vez aprobado, se aplicará en la UE, inevitablemente tendrá consecuencias fuera de la Unión, quedando pendiente por ver si logrará influir en las prácticas y regulaciones de terceros países. Cabe destacar que el propio G7, reunido en Japón a mediados del pasado mayo de 2023, ha anunciado la creación del “Proceso de Hiroshima”, un marco de colaboración para establecer estándares internacionales homogéneos para la regulación de la inteligencia artificial.

En Letslaw by RSM somos expertos en derecho digital y asesoramiento legal en materia de Inteligencia Artificial, por lo que estaremos encantados de asistirte en la adecuación de tu proyecto a los nuevos requisitos de normativa en materia de Inteligencia Artificial. ¡No dudes en contactarnos!