La UE avanza hacia la prohibición de sistemas de IA que generen deepfakes sexuales sin consentimiento
Los países de la Unión Europea han acordado solicitar la prohibición de los sistemas de inteligencia artificial capaces de crear imágenes sexualizadas sin consentimiento o generar material vinculado con pornografía infantil. La decisión se adopta dentro del proceso legislativo para reformar la normativa europea sobre inteligencia artificial y se produce tras la controversia provocada por el uso de la herramienta Grok en la red social X.
La medida implica que los modelos de IA que permitan crear este tipo de contenidos podrían quedar vetados en la Unión Europea. La adopción definitiva dependerá de las negociaciones con el Parlamento Europeo para modificar la Ley de IA, un proceso que debe comenzar a principios de abril.
Un cambio impulsado por una propuesta española
La enmienda ha sido propuesta por España y busca que el reglamento europeo “prohíba las prácticas de IA relacionadas con la generación de contenido sexual e íntimo no consentido o de material de abuso sexual infantil”, según comunicó el Consejo de la Unión Europea.
El planteamiento fue respaldado por varios países durante las discusiones del Consejo. Francia acudió a la reunión con una propuesta similar y también dieron su apoyo Alemania, Irlanda, Eslovenia, Bélgica, Eslovaquia y Hungría, de acuerdo con fuentes del Ministerio para la Transformación Digital y de la Función Pública.
La iniciativa contempla la prohibición de sistemas capaces de generar, manipular o reproducir imágenes realistas —y también vídeos o audios— que muestren partes íntimas o permitan identificar a personas en actividades sexuales sin el consentimiento expreso de la persona afectada.
La polémica generada por Grok en la red social X
El debate sobre la regulación se intensificó tras una polémica surgida a finales de diciembre y durante enero en la red social X. En esa plataforma se difundieron miles de imágenes sexualizadas de mujeres reales modificadas con inteligencia artificial mediante técnicas conocidas como deepfakes.
Según datos del Centro para Contrarrestar el Odio Digital, los usuarios generaron tres millones de imágenes sexualizadas en solo 11 días utilizando Grok. Entre ellas se incluían más de 33.000 imágenes de menores.
Grok es un sistema de IA asociado con la red social propiedad de Elon Musk. Tras la controversia, el empresario introdujo cambios en el funcionamiento de la herramienta, limitando la generación de este tipo de imágenes a usuarios de pago en X y modificando algunas de sus políticas.
De acuerdo con las políticas actuales del sistema, Grok no debería generar imágenes de personas reales en contextos que puedan interpretarse como sexuales o inapropiados. Sin embargo, el propio modelo reconoce que este tipo de imágenes todavía puede producirse en determinados supuestos.
Limitaciones y excepciones en las políticas del sistema
Las restricciones de Grok establecen criterios distintos cuando se trata de figuras públicas o personas consideradas famosas por el propio sistema. En esos casos, la herramienta puede generar imágenes que interpreta como una edición creativa o recreación sobre personajes públicos en contextos expuestos al público, como alfombras rojas o programas de televisión.
En pruebas realizadas por el periódico, el sistema generó una imagen diferente de una actriz reconocida en la que aparecía en bikini después de utilizar una fotografía original. En otro caso, el modelo identificó a una mujer rubia en un estudio de radio como presentadora conocida y permitió la modificación por considerarla una creación creativa sobre una figura pública.
Las políticas de Grok permiten este tipo de creaciones creativas o lúdicas, aunque establece que no genere imágenes explícitamente sexuales de celebridades. La herramienta también contempla la posibilidad de bloquear estas funciones por países o regiones mediante sistemas de geolocalización.
Reforma de la regulación tecnológica en la Unión Europea
La propuesta para prohibir modelos de IA que produzcan deepfakes sexuales forma parte de un proceso legislativo más amplio que busca simplificar la normativa tecnológica europea. Este proceso responde a la rápida evolución de las tecnologías de inteligencia artificial y a la necesidad de adaptar las leyes con mayor frecuencia.
Dentro de esa revisión normativa también se prevé modificar otras regulaciones digitales relacionadas con los datos. Entre ellas se encuentra el reglamento general de protección de datos, conocido como GDPR, en vigor desde 2018.
Responsables y funcionarios del Ejecutivo comunitario han señalado que el objetivo de estas revisiones no es eliminar regulaciones existentes, sino reducir cargas administrativas y obligaciones para las empresas que aporten poco valor añadido. Según las autoridades, se trata especialmente de revisar el gran volumen de normas aprobadas durante la legislatura europea anterior, entre 2019 y 2024.
El acuerdo alcanzado por los países de la UE representa un paso inicial dentro de este proceso legislativo. El resultado final dependerá de las negociaciones entre los Estados miembros y el Parlamento Europeo durante la reforma de la Ley de IA.
Fuente: EL PAÍS
