El caso de los fotomontajes con IA de menores de Almendralejo llega a la UE

Maite Pagaza, eurodiputada

Maite Pagaza, eurodiputada de Ciudadanos, pide una revisión de la legislación sobre IA que se está negociando bajo las lecciones de lo ocurrido 

Los eurodiputados de Ciudadanos Maite Pagazaurtundua y Jordi Cañas han denunciado ante la Comisión Europea, la Presidencia española y Europol el grave caso de las menores extorsionadas con imágenes sexuales falsas en Almendralejo, y han pedido medidas para combatir la violencia digital contra los menores y controlar las aplicaciones de IA para crear ‘deepfakes’.

Pagaza, vicepresidenta de la Comisión de Libertades Civiles de la Eurocámara, ha dirigido sendas cartas al comisario Thierry Breton, a la ministra Pilar Llop, en nombre de la Presidencia Española de la UE, y a la dirección del Centro Europeo del Cibercrimen de Europol. Jordi Cañas además ha preguntado a la Comisión qué sabe de la aplicación de IA utilizada por los menores de Almendralejo, qué controles tiene y qué piensa hacer Bruselas para evitar lo ocurrido.

“Se trata de un caso muy grave en el que se entremezclan la usurpación de identidad y los abusos sexuales a menores en la red”, denuncia la eurodiputada en sus cartas. “Estas nuevas formas de ciberdelincuencia afectan a los derechos fundamentales, a la libertad sexual, el honor y la propia imagen de los menores que debe depurarse a nivel penal y civil, pero cuyo origen está en el uso por parte de unos de datos personales protegidos. Es ahí donde hay que actuar con toda la intensidad”, advierte Pagaza.

La eurodiputada pide sacar lecciones del caso de Almendralejo para aplicarlas en las normas que están en plena negociación, la nueva directiva europea sobre inteligencia artificial y una propuesta de reglamento para prevenir y combatir el abuso sexual de menores online. Como reclama en la carta a Pilar Llop, es necesaria una reflexión consciente en la UE de lo que está ocurriendo. Además, Pagaza pide a Europol información sobre su trabajo contra la violencia digital contra menores y si cuenta con los efectivos suficientes.

La iniciativa de Jordi Cañas, portavoz de Comercio Interior, se dirige directamente a la Comisión para aclarar qué controles tiene la aplicación de IA implicada en el caso de Almendralejo, “que se anuncia como una aplicación de libre acceso con la que ‘desnudar a chicas gratis’ y ‘a cualquier persona gratuitamente’ a partir de una fotografía”, denuncia el eurodiputado.

Cañas explica que esta aplicación no pide la edad del usuario ni de la persona fotografiada. En la política de uso de la aplicación no se menciona en ningún momento la palabra consentimiento “ni se considera que crear material pornográfico ilícito sea una violación de su política, solo el transmitir, almacenar o distribuirlo”. “Además, la política de la aplicación responsabiliza al consumidor del uso que haga de esta, pese a que en ningún momento promueve un uso lícito de la misma”, añade el eurodiputado.

La Directiva de Servicios Digitales exige a las plataformas tener un representante en Europa para que la Comisión Europea pueda contactarle, por lo que Jordi Cañas pregunta a la Comisión si ya lo ha hecho, si le consta que el regulador de España esté tomando cartas en el asunto y qué piensa hacer en cualquier caso para evitar y perseguir estas situaciones.

Esta web utiliza 'cookies' propias y de terceros para ofrecerte una mejor experiencia y servicio. Al navegar o utilizar nuestros servicios, aceptas el uso que hacemos de las 'cookies'. Sin embargo, puedes cambiar la configuración de 'cookies' en cualquier momento.