Deepfake y nuevas formas de violencia digital contra las mujeres

Desde Mujeres

Por Yessica con “Y”  / @YBaezBenitez

Estudiante del Doctorado en Derecho UNAM y Directora de Vinculación en el INFOCDMX.

El término deepfake es un acrónimo compuesto por las palabras inglesas “deep” que significa profundo y “fake” traducido como falso. El deepfake ó mentira profunda es una práctica digital donde se hace uso de inteligencia artificial para modificar imágenes o videos que simulan ser reales pero que alteran su contenido original. Los rostros y cuerpos de las mujeres están navegando por internet sin su consentimiento. La pornografía hecha con inteligencia artificial ¿Afecta la privacidad de las mujeres?

La pornografía –desde una revisión capitalista no ética— es una de las industrias más rentables a nivel global, de acuerdo con el portal PornHub México ocupa el quinto lugar en tráfico de pornografía en todo el mundo, siendo los telefónos inteligentes el dispositivo mayormente utilizado para su consumo con un 84%.

La pornografía es un delito del orden federal, el Código Penal Federal establece que comete esta conducta “quien procure, obligue, facilite o induzca, por cualquier medio, a una o varias de estas personas a realizar actos sexuales o de exhibicionismo corporal con fines lascivos o sexuales, reales o simulados, con el objeto de video grabarlos, fotografiarlos, filmarlos, exhibirlos o describirlos a través de anuncios impresos, transmisión de archivos de datos en red pública o privada de telecomunicaciones, sistemas de cómputo, electrónicos o sucedáneos”, no obstante, este delito se refiere a los realizados en contra:

1. 1. 1. Personas menores de dieciocho años de edad;
      2. Personas que no tienen capacidad para comprender el significado del hecho, o;
      3. Personas que no tienen capacidad para resistirlo.

Para el caso de la pornografía hecha con inteligencia artificial, se estaría ante un supuesto de violencia digital, definición que fue adicionada a la Ley General de acceso de las mujeres a una vida libre de violencia como “toda acción dolosa realizada mediante el uso de tecnologías de la información y la comunicación, por la que se exponga, distribuya, difunda, exhiba, transmita, comercialice, oferte, intercambie o comparta imágenes, audios o videos reales o simulados de contenido íntimo sexual de una persona sin su consentimiento, sin su aprobación o sin su autorización y que le cause daño psicológico, emocional, en cualquier ámbito de su vida privada o en su imagen propia”.

En las deepfake, tanto el rostro como la voz son datos personales biométricos al ser información acerca de las características fisiológicas y rasgos físicos de una persona que permiten validar su identidad, la cual es suplantada al momento de utilizar inteligencia artificial, en consecuencia, dentro del mismo conjunto de reformas, se incluyó en el Código Penal Federal el delito de violación a la intimidad sexual que es cometido por “aquella persona que divulgue, comparta, distribuya o publique imágenes, videos o audios de contenido íntimo sexual de una persona que tenga la mayoría de edad, sin su consentimiento, su aprobación o su autorización” también incluye a quien videograbe, audiograbe, fotografíe, imprima o elabore, imágenes, audios o videos con contenido íntimo sexual, la pena establecida por esta conducta va de los tres a seis años de prisión y una multa de quinientas a mil unidades de medida y actualización del tipo penal se observa que no menciona lo referente a pornografía falsa o hecha con inteligencia artificial basada en imágenes, videos o audios reales de personas, no obstante, el propio código señala que se impondrán las mismas sanciones en los casos donde las “imágenes, videos o audios de contenido íntimo sexual que se divulguen, compartan, distribuyan o publiquen no correspondan con la persona que es señalada o identificada en los mismos.”

Si bien, el marco jurídico que sanciona conductas vinculadas a la violencia digital en las correspondientes al derecho penal no distingue al sujeto activo por género, la propia estadística nos muestra que existen diferencias entre la violencia ejercida contra los hombres respecto de las mujeres, el propio INEGI genera información sobre la situación de violencia que atravesamos las mujeres en México en diferentes ámbitos y etapas de la vida, un instrumento para dimensionar la magnitud es la Encuesta Nacional sobre la Dinámica de las Relaciones en los Hogares (ENDIREH) siendo Guerrero la entidad federativa con mayor prevalencia de violencia contras las mujeres de 15 años y más a lo largo de la relación de pareja actual o última con 47.6%el INEGI al igual que diversas instituciones públicas tanto locales como federales generan información sobre los tipos de violencia ejercida contra las mujeres.

En el ámbito privado, compañías como Sensitive IA estima que entre el 90% y 95% de todas las deepfake en línea son pornografía no consensual y alrededor del 90% incluye a mujeres la reflexión en torno a las deepfake es importante desde el derecho penal por su tipificación como conducta y desde la estadística para su  medición como prácticas digitales, pero una variable de estudio debería enfocarse en aspectos más de carácter cualitativo que tiene que ver más con las razones que impulsan a crear imágenes y videos falsos de las mujeres con objetivos muy específicos, exhibirlas como objetos de consumo y de escrutinio público, como sucede con mujeres que detentan puestos de poder, cargos políticos o que pertenecen al medio artístico, para que la atención mediática se centre en su imagen y cuerpos más que en sus capacidades de liderazgo y de dirección.

Las deepfake vulneran diversos derechos de las mujeres como la intimidad, el honor, a su privacidad y a la propia imagen, nos corresponde seguir generando redes de apoyo y orientación para fomentar una cultura de la denuncia que permita ejercer los mecanismos de defensa legal ya conquistados en materia de violencia digital no sólo desde el derecho penal, sino desde la propia protección de los datos personales.

—–

Los datos fueron obtenidos de Pornhub´s 9th Year in Review, : https://www.pornhub.com/insights/2022-year-in-review

Artículo 20 Quáter, adicionado en el Diario Oficial de la Federación el 1 de junio de 2021.

Artículo 199 Oxcties del Código Penal Federal.

Que es la referencia económica en pesos para determinar la determinar la cuantía del pago de las obligaciones y supuestos previstos en las leyes federales, de las entidades federativas, así como en las disposiciones jurídicas que emanen de todas las anteriores. : https://www.inegi.org.mx/temas/uma/

Artículo 199 Nonies del Código Penal Federal.

  Violencia contra las mujeres, Encuesta Nacional sobre la Dinámica de las Relaciones en los Hogares, : https://www.inegi.org.mx/tablerosestadisticos/vcmm/#Violencia_de_pareja

How to detect a deepfake online: image forensics and analysis of deepfake videos, : https://sensity.ai/blog/deepfake-detection/how-to-detect-a-deepfake/