El acuerdo institucional veta sistemas diseñados para generar contenido explícito sin consentimiento y establece nuevas fechas para la regulación tecnológica
Las instituciones de la Unión Europea alcanzaron este jueves un acuerdo histórico para prohibir la creación de imágenes sexualizadas generadas mediante inteligencia artificial (IA) sin el consentimiento de las personas afectadas. La medida busca frenar la proliferación de contenido digital abusivo y proteger la integridad de los ciudadanos ante el avance de las herramientas de generación de imágenes.
El pacto prohíbe específicamente los sistemas de IA cuyo propósito exclusivo sea la creación de este tipo de material o de abuso sexual infantil. Asimismo, las herramientas de propósito múltiple deberán implementar “medidas de seguridad razonables” para evitar la propagación de contenido dañino. Esta decisión surge tras la reciente controversia generada por el uso de herramientas como Grok, de la red social X, para la creación de fotografías explícitas no autorizadas.
La vicepresidenta de la Comisión Europea, Henna Virkkunen, destacó que la normativa busca un equilibrio entre la innovación y la seguridad. Además de estas prohibiciones, el bloque europeo retrasó hasta diciembre de 2026 la obligación de incorporar marcas de agua en fotos, videos y audios generados por IA, con el fin de facilitar su identificación por parte de los usuarios.
Por otro lado, la UE decidió posponer hasta diciembre de 2027 las exigencias para sistemas de IA de “alto riesgo”, como los utilizados en infraestructuras críticas y gestión bancaria, otorgando más tiempo para definir los requisitos técnicos. Aunque la medida ha sido bien recibida por legisladores que buscan reducir la burocracia, organizaciones que representan a las grandes tecnológicas han manifestado su rechazo, señalando una brecha entre la retórica de simplificación regulatoria y las nuevas obligaciones impuestas.
