Los deepfakes son un tipo de contenido que se basa en algoritmos de aprendizaje que forman parte de las soluciones de IA generativa. Con el aumento del uso de herramientas de IA generativa, los deepfakes se han vuelto más fáciles de acceder y crear. Las nuevas formas de amenazar y agredir sexualmente a una mujer, todavía más.
En los últimos años, los deepfakes de contenido sexual han aumentado a un nivel acelerado, sin mucha atención y mucho menos, regulación. Tan solo entre 2022 y 2023, la cantidad de pornografía deepfake aumentó un 464%, según un informe de State of Deepfake. Este tipo de contenido, desde fotografías, videos o audio, consiste en manipular la imagen o voz de una persona. Pero no cualquier persona, el target oficial son: las mujeres.
El mismo estudio de la empresa Security Hero, revela que el 99% de las personas que son blanco de pornografía deepfake son mujeres. Entre ellas se encuentran mujeres menores de edad, cantantes, actrices, mujeres que se dedican a la industria del entretenimiento o simplemente mujeres ordinarias. Los responsables detrás de esto: los hombres. Estudiantes, adultos, varones que se esconden detrás de una pantalla. Los motivos son variados, desde una especie de venganza, una forma perversa de entretenimiento, o bien, para fines comerciales.
Crear deepfakes no es exactamente una ciencia inaccesible. En la actualidad, toma menos de 25 minutos y cuesta desde $0 crear un video pornográfico de cualquier persona usando una sencilla imagen. Es tan sencillo como descargar una aplicación y ya está. El problema es que este tipo de aplicaciones son cada vez más precisas y cada vez más complicado detectar si realmente es una manipulación. Pero las mujeres que han sido víctimas de este fenómeno, saben exactamente que no son las protagonistas de estas imágenes.
En México, (y a nivel internacional también) no existen leyes que prohíban o regulen el uso de las deepfakes. De hecho, existen casos que marcan un precedente en el país, como el de Diego N, ex alumno del IPN, quien fue absuelto por el delito de violencia digital con IA ya que no habían “elementos suficientes” para demostrar su culpabilidad. Existen muchas otras historias de terror en todo el mundo que lamentablemente no llegan ni siquiera a convertirse en procesos judiciales. No solo muchos casos quedan impunes, sino que al mismo tiempo el crecimiento acelerado de las tecnologías superan nuestras propias necesidades, medidas de seguridad y conocimiento sobre lo que podemos hacer en caso de resultar víctima de este fenómeno.
Actualmente, no existe mucha información al respecto o estudios sobre el impacto de las deepfakes en nuestro país. Las alternativas que tenemos para lidiar con ello a nivel judicial es casi nulo. Pero, si te encuentras en una posición vulnerable o sabes de alguien que esté pasando por una situación de este índole, se puede recurrir a la Ley General de Acceso a las Mujeres a una Vida Libre de Violencia, con el fundamento de violencia digital. También conocida como la Ley Olimpia. Otra alternativa es la Ley Federal de Derechos de Autor, que podría aplicarse si se utilizan imágenes o videos protegidos por derechos de autor para crear deepfakes.
A pesar de que las leyes aún no están preparadas para el impacto de la IA y las deepfakes, la época en la que vivimos es un momento crucial para actuar con estrategias y políticas que respalden los derechos de las mujeres, su integridad y seguridad.
