¿A qué desafíos se enfrenta la Oficina Europea de la IA?

¿A qué desafíos se enfrenta la Oficina Europea de la IA?

Oficina pionera en la regulación

La Comisión Europea ha creado la Oficina de Inteligencia Artificial con el objetivo de reforzar el liderazgo de la Unión Europea en el campo de la Inteligencia Artificial (IA) y, a su vez, permitiendo el desarrollo, la implementación y los usos futuros de la IA.

Por tanto, la Oficina de la IA desempeña un papel clave en la implementación de la Ley de la IA, ejerciendo acciones de control, supervisión para que los 27 Estados Miembros de la Unión Europea cumplan con la Ley de la IA. A su vez, se encarga de fomentar el desarrollo y el uso de IA confiable y la cooperación internacional al tiempo que protege contra los posibles riesgos, para que, en definitiva, se fomenten los beneficios sociales y económicos y la innovación. 

Funcionamiento

Para garantizar que la IA sea segura y fiable, la Comisión Europea le ha conferido una serie de competencias, como puede ser llevar a cabo evaluaciones de modelos de IA de uso general, solicitar información y medidas a los proveedores de modelos y aplicar sanciones. 

Para ello, se ha creado una estructura organizativa dividida en cinco unidades y dos asesores, que incluyen:

• Unidad «Excelencia en IA y robótica». Se encarga de prestar apoyo y financiación a la investigación y el desarrollo para fomentar un ecosistema de excelencia. Coordina la iniciativa GenAI4EU, estimulando el desarrollo de modelos y su integración en aplicaciones innovadoras.
• Unidad de «Regulación y cumplimiento». Coordina el enfoque regulador para facilitar la aplicación y ejecución uniformes de la Ley de IA en toda la Unión, en estrecha colaboración con los Estados miembros. La unidad contribuirá a las investigaciones y posibles infracciones, gestionando las sanciones.
• La unidad de «seguridad de la IA». Se encuentra centrada en la identificación de riesgos sistémicos de modelos de uso general muy capaces, posibles medidas de mitigación, así como enfoques de evaluación y ensayo.
• Unidad «AI Innovation and Policy Coordination» (Innovación en materia de IA y coordinación de políticas). Supervisa la ejecución de la estrategia de IA de la UE, supervisa las tendencias y la inversión, estimula la adopción de la IA a través de una red de centros europeos de innovación digital y la creación de fábricas de IA, y fomenta un ecosistema innovador mediante el apoyo a espacios controlados de pruebas y pruebas en el mundo real.
• Unidad «AI para el bien de la sociedad». Se encarga de diseñar y aplicar el compromiso internacional de la Oficina de IA en IA para el bien, como la modelización meteorológica, los diagnósticos del cáncer y los gemelos digitales para la reconstrucción.

La Oficina de la IA está dirigida por el jefe de la Oficina de IA y trabajará bajo la dirección de un asesor científico principal para garantizar la excelencia científica en la evaluación de modelos y enfoques innovadores, y de un asesor de asuntos internacionales para dar seguimiento a nuestro compromiso de colaborar estrechamente con los socios internacionales en materia de IA fiable.

En su conjunto, esto le permitirá a la Oficina de la IA disponer de un mecanismo central de coordinación, control y supervisión de la aplicación de la IA en la UE. 

Es decir, la Oficina de la IA deberá supervisar que los creadores de los modelos de inteligencia artificial de uso general (GPAI) cumplen con las normas y, en caso contrario, podrán exigirles que adopten medidas correctoras. De hecho, para garantizar la coordinación en la supervisión de estos sistemas de IA, la Oficina de la IA podrá agilizar las comunicaciones entre los organismos sectoriales y autoridades nacionales mediante la creación de bases de datos centrales. 

Principal objetivo y desafíos 

Resulta un desafío para la Unión Europea formar el desarrollo, implementación y utilización de la Inteligencia Artificial en Europa después de la entrada en vigor del Reglamento de Inteligencia Artificial, puesto que una regulación excesiva puede desincentivar la creación de nuevas empresas y la innovación en el territorio europeo al generar barreras de entrada al mercado y dificultando así el crecimiento de la industria tecnológica en Europa. 

Por ello, el principal objetivo, y desafío, de la Oficina de la IA es encontrar un equilibrio entre la regulación y el fomento de la innovación para mantener a Europa dentro del eje de la revolución tecnológica. En este sentido, entre las funciones de la oficina se encuentra la de controlar y regular, además de fomentar dicha innovación a través de la regulación de espacios controlados para pruebas y las iniciativas que apoyan a las pymes en el desarrollo de sistemas de IA, con el objetivo de promover un desarrollo de estas tecnologías que sea socialmente sostenible.

Es decir, se pondrá a disposición de las pymes estos espacios controlados o sandbox para facilitar la formación, las pruebas y la validación de los GPAI, previo a su comercialización o de su puesta en servicio, de manera que, mediante la supervisión de la Oficina de la IA, los sistemas se ajusten a los requisitos jurídicos y éstos accedan al mercado. 

Por otro lado, entre los principales retos o desafíos a los que se enfrenta la Oficina de la IA en el futuro es proporcionar claridad entre la interpretación del Reglamento de IA y su interacción con otras leyes, como es el caso particular del Reglamento General de Protección de Datos. Esta conexión es importante puesto que este impulso de estos sistemas de IA no debe materializar un incumplimiento de la protección de los datos personales de los usuarios, como puede ser, por ejemplo, esclarecer los desafíos actuales que existen en el uso de sistemas de reconocimiento biométrico.