Contenido generado por IA: ¿se debe etiquetar?

Contenido generado por IA: ¿se debe etiquetar?

El contenido generado en redes sociales

El auge de la Inteligencia Artificial (IA) está transformando el panorama de las redes sociales, abriendo nuevas posibilidades a la creación de contenido, a la interacción con los usuarios y a la publicidad. Son muchos los usuarios (incluidos influencers) que utilizan este tipo de herramienta para generar contenido por dos motivos: les ahorra tiempo y consiguen alcanzar una mayor audiencia.

Una de las aplicaciones más llamativas de la IA en las redes sociales es la creación de influencers virtuales. Estos avatares digitales, como Shudu o Aitana López, interactúan con los usuarios y generan contenido que, en ocasiones, es indistinguible del creado por humanos.

Sin embargo, estas prácticas pueden llevar a la desinformación si no se realiza de forma transparente y responsable.

El Reglamento IA. Obligaciones de transparencia para los sistemas de IA que generen contenido

En este sentido, el Consejo de la Unión Europea dio, el pasado 21 de mayo, el visto bueno final al Reglamento de Inteligencia Artificial, que establece las normas para la comercialización, puesta en servicio y uso de sistemas de IA en la Unión Europea.

El Reglamento tiene como objetivo principal impulsar el desarrollo y uso de la IA en la UE, garantizando al mismo tiempo un alto nivel de protección, sobre todo en la seguridad y los derechos fundamentales de las personas.

Entre su clausulado, encontramos las Obligaciones de Transparencia para determinados sistemas de IA.

En su artículo 52, el Reglamento dispone que los “Los usuarios de un sistema de IA que genere o manipule contenido de imagen, sonido o vídeo que se asemeje notablemente a personas, objetos, lugares u otras entidades o sucesos existentes, y que pueda inducir erróneamente a una persona a pensar que son auténticos o verídicos (ultrafalsificación), harán público que el contenido ha sido generado de forma artificial o manipulado.” 

Es decir, todas las publicaciones generadas por IA que puedan hacernos creer que son reales, deben estar claramente etiquetadas o marcadas de tal forma que los usuarios puedan distinguirlas del contenido creado por humanos. 

¿A quién le aplica esta obligación?

• A los proveedores de sistemas de IA, esto es, las empresas o entidades que desarrollan o ponen a disposición de terceros sistemas de IA que generan contenido para redes sociales.
• A los usuarios de sistemas de IA, es decir, las personas o entidades que utilizan sistemas de IA para generar contenido para redes sociales y posteriormente lo publican.

El caso de META

 META ya anunció el pasado mes de abril que identificará cualquier contenido de imagen o audio generado por inteligencia artificial para luchar contra la desinformación.

De acuerdo con la información facilitada por META, esta identificación podrá realizarse de dos maneras:

• Cuando META detecte el uso de la IA. Cualquier contenido que contenga señales estándar de que se ha generado mediante IA tendrá la etiqueta “Creado con IA”, incluido el contenido creado mediante las herramientas de IA de META.
• Cuando los usuarios etiqueten su propio contenido generado por IA. Los usuarios de las redes sociales también podrán marcar su propio contenido con la misma etiqueta “Creado con IA” cuando publique contenido generado o modificación por IA.

META aclara que el etiquetado únicamente será obligatorio cuando el contenido que se publique contenga vídeos fotorrealistas o audios que parezcan realistas, en línea con el criterio del Reglamento IA.

Algunos ejemplos que requieren de etiqueta son:

• Un vídeo con aspecto realista de un grupo de personas caminando.
• Un audio de dos personas hablando.
• Una canción creada con voces generadas por IA.
• Un reel con voz en off realista generada por IA.

Hacia un uso responsable de la IA en las redes sociales 

El uso de la IA en las redes sociales tiene el potencial de transformar la forma en que nos comunicamos e interactuamos con el mundo. Sin embargo, es crucial que este avance se realice de forma responsable y transparente. El Reglamento de Inteligencia Artificial es un paso importante en esta dirección, pero aún queda mucho por hacer para garantizar que su uso sea ético.