El año comenzó en X con una oleada de fotos de mujeres en bikini, algo habitual hasta que se descubrió que otros usuarios estaban utilizando Grok, la inteligencia artificial de Elon Musk, para "desnudarlas". Este hecho ha reavivado el debate sobre los deepfakes y el Gobierno ha respondido con un anteproyecto de ley para enfrentarlos.
Esta propuesta modifica la ley orgánica de protección civil del derecho al honor, la intimidad personal y familiar, y la propia imagen. Según la ministra de Inclusión, Elma Saiz, se trata de un texto más proteccionista y adaptado a las nuevas tecnologías. Ahora, las “ultrasuplantaciones” hechas con inteligencia artificial, o deepfakes, serán consideradas delito si se hacen sin el consentimiento de la persona y con la intención de dañar su integridad moral, por ejemplo, creando contenido sexual o vejatorio. Las penas podrían llegar hasta los dos años de prisión.
El anteproyecto también sube la edad mínima para ceder la imagen de 14 a 16 años. Sin embargo, incluso si la persona da su consentimiento, el uso de su imagen para perjudicar su reputación seguirá siendo ilegal.
Una novedad importante es la protección de la imagen y la voz después de la muerte, siempre que la persona lo haya especificado en su testamento. Esto podría impactar directamente en contenidos de true crime donde se recreen personas fallecidas mediante inteligencia artificial, como señala El País. Además, si alguien que ha cometido un delito da detalles del crimen en medios como podcasts o entrevistas y esto vuelve a causar daño a la víctima, se considerará una violación ilícita de sus derechos.
Las excepciones que ya existían en la ley anterior, como grabaciones autorizadas por un juez o publicaciones que aporten información de interés público, se mantienen. Además, se añaden excepciones específicas para la IA: se podrá usar la imagen o voz de figuras públicas en contextos creativos o humorísticos, siempre que se indique claramente que se ha empleado inteligencia artificial para su creación.
Algunos abogados, como Borja Adsuara, cuestionan la necesidad de esta reforma, argumentando que la legislación vigente ya protege el derecho al honor en todos los ámbitos. No obstante, la Unión Europea está exigiendo a sus países miembros que regulen los deepfakes, especialmente los que involucran contenido sexual sin consentimiento, antes de 2027.
Aunque el caso de Grok ha puesto el tema sobre la mesa debido a la cantidad de imágenes generadas, no es la primera vez que se dan este tipo de situaciones. En 2023, en España, un grupo de adolescentes creó imágenes falsas de desnudos de menores, y recientemente la Agencia Española de Protección de Datos impuso la primera multa a un menor por usar una aplicación para "desnudar" a una compañera de clase.
Este nuevo marco legal busca poner límites claros y proteger a las personas frente a los riesgos que genera el uso indebido de la inteligencia artificial en la creación de deepfakes.
