Las porno deepfake son una nueva forma de violencia digital. Consisten en crear imágenes o vídeos falsos de contenido sexual, erótico o íntimo utilizando Inteligencia Artificial. Para crear estos contenidos, se utiliza alguna imagen real de una persona, por ejemplo, una foto de su cara o de su cuerpo. Después, la Inteligencia Artificial modifica esa imagen y crea un contenido que parece real, pero que en realidad es falso. Puede cambiar el cuerpo, el lugar, los movimientos u otros elementos para hacer parecer que la persona está participando en una situación sexual o íntima que nunca ocurrió.Esta práctica que denigra y vulnera la dignidad de las mujeres, surge en junio de este año.
En un grupo de WhatsApp, donde se encontraban alrededor de 50 adolescentes de dos colegios pre universitarios de CABA, se intercambiaban y comercializaban imágenes y videos generados con IA de contenido pornográfico, de adolescentes a quienes se les había robado y alterado su imagen, es decir, porno Deepfake. El caso se viralizó rápidamente y abrió un debate sobre qué medidas debían tomarse contra los responsables. Sin embargo, el debate se centró principalmente en castigar a los agresores y dejó en un segundo plano una cuestión más profunda: ¿qué hay detrás de esta nueva forma de violencia de género y qué condiciones permiten que se reproduzca? El porno deepfake no aparece de forma aislada, sino en un contexto en el que se normalizan discursos que cuestionan los derechos de las mujeres y refuerzan su cosificación. Al mismo tiempo, estas nuevas tecnologías abren un mercado donde las grandes empresas tecnológicas pueden obtener importantes beneficios, convirtiéndose así, en un negocio. Sin embargo, no es la primera vez que sucede un hecho así.
En el año 2003, cuando Mark Zuckerberg todavía era estudiante de la Universidad de Harvard. Ese año creó FaceMash, una página web que permitía a los usuarios comparar las fotografías de dos alumnas y votar cuál de ellas consideraban más atractiva. Para crear FaceMash, Zuckerberg utilizó sin permiso fotografías de estudiantes de Harvard para que los usuarios compararan y votaran cuál de ellas consideraban más atractiva. La página alcanzó más de 22.000 visitas en cuatro horas, pero fue cerrada por la universidad debido a la vulneración de la privacidad de las estudiantes. Pocos meses después, Zuckerberg lanzó TheFacebook, una plataforma que permitía a los estudiantes crear perfiles y compartir fotografías. Con el tiempo, aquel proyecto se convertiría en Facebook, una de las redes sociales más importantes del mundo.
Preguntas a las expertas
Expertas coinciden en una idea fundamental: la tecnología no es neutral. En muchos casos, puede utilizarse para ejercer violencia contra mujeres, niñas y otros grupos vulnerables, y estas agresiones también pueden generar beneficios económicos. Según el informe State of Deepfakes, alega que entre 2022 y 2023, la cantidad de vídeos pornográficos creados con Inteligencia Artificial aumentó un 464 %, pasando de 3.725 a 21.019 vídeos. Además, el 99 % de las personas que aparecen en estos vídeos son mujeres. Cristina Pujol, profesora de Ciencias de la Información y de la Comunicación de la UOC, explica que: "No es nuevo, los primeros deepfakes empezaron con celebridades, rostros de Jennifer Lawrence o Scarlett Johansson eran recortados e incrustados en escenas pornográficas que después eran colgadas en páginas para adultos".
El daño que provocan estos contenidos puede ser muy real. Rocío Pina, profesora de Psicología, Ciencias de la Educación y Criminología de la UOC, explica que los deepfakes sexuales pueden considerarse una forma de violencia contra las mujeres porque se utilizan imágenes falsas para manipular y dañar la reputación de una persona. Aunque el vídeo sea falso, la víctima puede sufrir problemas personales, sociales y emocionales. También, existen consecuencias legales. Eduard Blasi, profesor de Derecho y Ciencia Política de la UOC y experto en privacidad, señala que estos contenidos pueden vulnerar derechos como la intimidad, el honor y la propia imagen. Esto ocurre porque, aunque la situación sexual que aparece en el vídeo sea falsa, se utiliza la imagen real de una persona, como su cara o su voz, sin su permiso. Además, el problema aumenta cuando estas imágenes se comparten y llegan a otras personas.
Primera condena en España por desnudar a mujeres con inteligencia artificial
Tres hombres han sido condenados en Sevilla a nueve meses de prisión cada uno por utilizar inteligencia artificial para manipular fotografías de tres antiguas compañeras de colegio y simular que estaban desnudas. Se trata de la primera sentencia condenatoria en la ciudad por este tipo de hechos, según el Tribunal Superior de Justicia de Andalucía. Los condenados obtuvieron las imágenes de los perfiles públicos de Instagram de las jóvenes y las modificaron mediante una aplicación de inteligencia artificial en Telegram.
Después, compartieron las fotografías falsas en grupos de WhatsApp y Discord, desde donde se difundieron más allá de esos espacios. Una de las víctimas tuvo conocimiento de lo ocurrido cuando otra persona le reenvió las imágenes. El juez les ha impuesto la prohibición de utilizar Telegram, WhatsApp, Instagram y Discord durante tres años y nueve meses, además de obligarles a realizar un programa de educación sexual. La sentencia aplica la agravante de género al considerar que los acusados actuaron con una actitud machista que cosificaba a las mujeres. Aunque la pena de prisión ha quedado suspendida por la ausencia de antecedentes y la reparación del daño, deberán cumplir las condiciones fijadas por el tribunal.
¿Es suficiente el castigo? No es normal que tres hombres utilicen la inteligencia artificial para manipular imágenes de tres mujeres, simular que están desnudas y difundirlas sin su consentimiento, y que la respuesta judicial incluya una prohibición temporal de utilizar determinadas redes sociales. ¿Qué ocurre cuando esa prohibición termine? ¿Qué garantías tienen las víctimas de que no volverán a sufrir una situación similar? Aunque la resolución contempla medidas educativas y otras obligaciones, cabe preguntarse si son suficientes ante un comportamiento que atenta contra la intimidad, la dignidad y la imagen de las mujeres. Cuando termine la prohibición, los condenados podrán volver a utilizar estas herramientas, salvo que exista alguna otra restricción legal. La inteligencia artificial no es el problema por sí sola: lo es emplearla para humillar, sexualizar y perjudicar a otras personas.
Por eso, la respuesta judicial debe tener en cuenta no solo el daño causado, sino también la prevención de nuevas conductas y la protección de las víctimas. La libertad de utilizar las redes sociales no puede convertirse en una excusa para vulnerar la intimidad de otras personas sin asumir responsabilidades.
Encuesta sobre pornografía deepfake: conocimiento, actitudes e impacto. Fuente: Security Hero, State of Deepfakes.
La UE endurece el control de la IA y Sánchez reclama una mayor regulación
La Unión Europea está tomando nuevas medidas para luchar contra los deepfakes sexuales y proteger a las personas cuyas imágenes son utilizadas sin permiso. Una de las medidas más importantes es la prohibición de las herramientas de Inteligencia Artificial que permiten crear imágenes o vídeos sexuales falsos de personas reales sin su consentimiento. Esta medida también afecta a las aplicaciones que pueden utilizar una fotografía de una persona para crear una imagen en la que aparece desnuda.
Además, la UE quiere que las empresas tecnológicas sean más responsables de las herramientas que crean. No solo se podrá actuar contra la persona que utilice estas aplicaciones para hacer daño, sino también contra las empresas que permitan que sus sistemas se utilicen para crear este tipo de contenido. Las compañías tendrán que incluir medidas de seguridad para evitar estos usos. Las nuevas normas consideran delito crear o compartir material de abuso sexual infantil utilizando Inteligencia Artificial o deepfakes. Con estas medidas, Bruselas busca adaptar las leyes al avance de una tecnología que permite crear contenidos falsos cada vez más realistas y que pueden causar daños reales a las personas afectadas.
Pedro Sánchez defiende que la Inteligencia Artificial no debe quedar bajo el control de las propias empresas tecnológicas, sino que debe existir una regulación y una supervisión pública. En una intervención reciente, criticó la idea de dejar la regulación en manos de las compañías y afirmó que “es un error poner en manos del zorro el cuidado del gallinero". En el caso concreto de los deepfakes sexuales, Sánchez ha defendido que la respuesta debe pasar por crear leyes que prohíban estos contenidos cuando se realizan sin el consentimiento de la persona afectada.
