Tras la noticia de que Grok, el chatbot de Inteligencia Artificial (IA), dejaría de producir imágenes explícitas generadas por IA a menos que pagues, los reguladores de todo el mundo han abierto investigaciones sobre Grok, provocando que algunos países prohíban la aplicación.
En México, Citlalli Hernández Mora, titular de la Secretaría de Mujeres, celebró estas nuevas restricciones por medio de sus redes sociales, reafirmando el compromiso y convicción de que el entorno digital no debe ser una extensión de la violencia de género.
Días previos al anuncio, Hernández Mora ya se había posicionado en contra de la violencia sexual digital facilitada por Grok. A través de un comunicado de prensa declaró que la Secretaría de Mujeres se encontraba trabajando a la par de la Agencia de Transformación Digital y Telecomunicaciones (ATDT), para condenar el uso de IA con tonos sexuales y expresar su disposición para entablar un diálogo respetuoso con “X”, con el fin de asegurar que sus filtros de seguridad sean eficientes e impidan que se cometa violencia sexual digital.
De acuerdo con la organización AI Forensics, se registraron desde 20 mil imágenes generadas por Grok entre el 25 de diciembre y el 1 de enero, en donde al menos el 2% de los protagonistas eran personas menores de 18 años. Entre ellas predominaba la figura de mujeres jóvenes.
Por su parte, Citlalli Hernández destacó que además del marco legal, es indispensable la corresponsabilidad de las empresas tecnológicas y el uso ético de la IA, con el objetivo de generar límites claros para evitar la normalización de la violencia digital.
Respecto a las leyes que protegen a las víctimas de violencia digital, agregó que la Ley Olimpia sanciona la producción y difusión de contenido íntimo real o simulado que vulnere la integridad de las mujeres. De esa manera, señaló que es inadmisible que herramientas tecnológicas como Grok carezcan de filtros de seguridad y que sigan permitiendo que se cometa la violencia digital contra las mujeres.
Desde Secretaría de las Mujeres, recordó que las víctimas de violencia digital, u otro tipo de violencia en particular, pueden buscar acompañamiento institucional a través de la Línea de las Mujeres 079, opción 1. Además, impulsa a denunciar este tipo de contenido directamente en las plataformas.
Aunque en México contamos con la Ley Olimpia, las opciones para proteger a las mujeres de este tipo de violencia son muy limitadas. Sin embargo, existen plataformas globales gratuitas que buscan frenar, prevenir y eliminar imágenes íntimas e imágenes generadas por IA de las plataformas como:
Así como guías proporcionadas por organizaciones que están enfocadas en orientar a las personas sobre una situación de violencia digital, más allá de un proceso penal. Entre ellas:
- Guía de Defensa contra la Violencia Digital de las organzaciones Red en Defensa por los Derechos Digitales (R3D) e Impunidad Cero, ubicadas en México.
- O bien, la guía de ONU Mujeres: Abuso en línea impulsado por la IA: cómo la IA amplifica la violencia contra las mujeres y qué puede detenerla.
De igual manera, si deseas proceder legalmente, puedes denunciar a través de:
- Policía Cibernética
- Ministerio Público (MP)
- Denuncia Digital (en la Ciudad de México puedes iniciar una denuncia digital a través del portal Denuncia Digital CDMX)
