La Agencia Española de Protección de Datos (AEPD) ha impuesto en España la primera sanción relacionada con la creación y difusión de imágenes falsas generadas mediante inteligencia artificial. En este caso, los padres de un menor recibieron una multa de 2.000 euros, que se redujo a 1.200 por pronto pago, tras un incidente que sienta un precedente importante en la protección de datos de menores en Europa.
El caso comenzó cuando un menor empleó la aplicación ClothOff para crear una imagen falsa en la que aparecía una compañera de instituto desnuda. Esta herramienta de IA toma el rostro de la víctima y lo coloca sobre un cuerpo sin ropa, respetando detalles como la complexión y el tono de piel. La imagen circuló luego por redes sociales y grupos de mensajería.
Aunque la resolución no identifica a los implicados, la AEPD confirmó que el caso ocurrió en septiembre de 2023 en Almendralejo, Badajoz. Se supo que al menos 20 menores habían sido víctimas de montajes similares que se difundieron ampliamente en el municipio, llegando incluso a portales como OnlyFans y páginas pornográficas.
Esta sanción es la primera en Europa emitida por una autoridad de protección de datos en relación con la difusión de un deepfake. La AEPD inició la investigación apenas dos días después de que el caso fuera público, y gracias a la colaboración con la Fiscalía logró identificar a los responsables. El organismo actuó basándose en que la imagen de una persona se considera un dato personal, con una protección aún mayor cuando se trata de menores.
La multa ha generado debate. Jorge García Herrero, abogado y delegado de protección de datos, explicó a El País que "muy pocos riesgos de la IA causan tanta alarma social como la creación de deepfakes sexuales no consentidos de menores", y cuestiona que la sanción sea suficiente para servir como ejemplo. Por otro lado, el jurista Borja Adsuara señaló que este asunto es "un delito contra la intimidad que corresponde a la vía penal" y cuestiona la utilidad de imponer una multa administrativa cuando ya existe una sentencia judicial.
Este procedimiento administrativo de la AEPD es independiente del proceso penal que se abrió contra los responsables, quienes tenían entre 12 y 14 años en el momento de los hechos. En la vía judicial, a 15 menores se les impuso un año de libertad vigilada y la obligación de realizar un curso formativo, según explicó Miriam Al Adib, madre de una de las víctimas.
Se espera que en los próximos meses la AEPD imponga más sanciones relacionadas con estos hechos, ya que hubo al menos una veintena de víctimas. La resolución no responsabiliza a los creadores de ClothOff, la aplicación usada para generar estas imágenes sin consentimiento, que actualmente está fuera de servicio. Sin embargo, sus creadores enfrentan un proceso judicial en Estados Unidos. Según Miriam Al Adib, estos casos representan "una pandemia de violencia tremenda" que exige políticas coordinadas y protocolos efectivos para proteger a las víctimas.
