Los países de la Unión Europea acordaron impulsar la prohibición de sistemas de inteligencia artificial capaces de generar imágenes sexualizadas sin consentimiento, incluidos los llamados deepfakes. La medida también contempla impedir que estas tecnologías se utilicen para producir material de abuso sexual infantil.
La iniciativa forma parte del proceso de reforma de la Ley de Inteligencia Artificial del bloque europeo. Sin embargo, la medida aún debe negociarse con el Parlamento Europeo, proceso que se prevé inicie a principios de abril.
España impulsa la propuesta
La enmienda fue propuesta por el gobierno de España y plantea que el reglamento europeo prohíba las prácticas de inteligencia artificial relacionadas con la generación de contenido sexual o íntimo sin consentimiento.
De acuerdo con el Consejo de la Unión Europea, la intención es vetar los modelos de IA que permitan crear, manipular o reproducir imágenes, videos o audios realistas de personas en situaciones sexuales sin su autorización.
La propuesta recibió el respaldo de varios países, entre ellos Francia, Alemania, Irlanda, Eslovenia, Bélgica, Eslovaquia y Hungría.
La polémica por los deepfakes
El debate sobre este tipo de contenidos se intensificó tras una polémica reciente en la red social X, donde se viralizaron miles de imágenes sexualizadas de mujeres reales generadas con inteligencia artificial.
Según datos del Centro para Contrarrestar el Odio Digital, en solo 11 días los usuarios crearon cerca de tres millones de imágenes manipuladas, entre ellas más de 33 mil que involucraban a menores de edad.
Estos contenidos se generan mediante técnicas conocidas como deepfake, que permiten modificar imágenes o videos para hacerlos parecer reales, incluso cuando muestran situaciones que nunca ocurrieron.
Grok y los límites de la IA
La polémica también involucró a Grok, el sistema de inteligencia artificial desarrollado por xAI. Tras las críticas, la plataforma modificó sus políticas y restringió la generación de imágenes sexuales de personas reales.
Actualmente, el sistema asegura que no puede crear imágenes de personas reales en contextos sexuales o inapropiados. Sin embargo, aún permite algunas ediciones consideradas “creativas” o recreativas cuando se trata de figuras públicas en contextos mediáticos.
Además, la herramienta puede aplicar bloqueos geográficos para limitar la generación de este tipo de contenidos dependiendo del país o región.
Regulación digital en evolución
La discusión sobre los deepfakes forma parte de un proceso más amplio de actualización del marco regulatorio europeo en materia de inteligencia artificial y normas digitales.
Funcionarios del bloque comunitario señalan que el objetivo es simplificar la regulación existente sin eliminar las protecciones, reduciendo cargas administrativas para las empresas sin afectar la seguridad y los derechos de las personas.
En ese contexto, también se esperan posibles ajustes a otras normas digitales, entre ellas el reglamento de protección de datos conocido como GDPR.
