“Cuando analizamos el abuso de imágenes íntimas, la mayoría de las herramientas y armas utilizadas provienen del espacio de código abierto”, dijo Azdar. Pero a menudo comienzan con desarrolladores adinerados, dice. “Algunos hacen algo que consideran interesante o genial, y otros, con malas intenciones, reconocen su potencial malicioso y lo utilizan como arma”.
Algunos, como los repositorios deshabilitados de August, tienen comunidades especialmente diseñadas a su alrededor para uso explícito. La modelo se posicionó como una herramienta para el porno deepfake, afirma Azdar, convirtiéndose en un “embudo” de abuso, dirigido principalmente a las mujeres.
Otros videos subidos al sitio de transmisión de pornografía por cuentas que acreditan modelos de IA descargados de GitHub presentaban los rostros de objetivos populares de deepfake, las celebridades Emma Watson, Taylor Swift y Anya Taylor-Joy, así como otras mujeres menos famosas pero muy reales. , superpuesto en condiciones sexuales.
Los creadores describen libremente las herramientas que utilizan, dos de las cuales han sido eliminadas por GitHub pero cuyo código persiste en otros repositorios existentes.
Los perpetradores de deepfakes se congregan en muchos lugares en línea, incluidos foros comunitarios secretos en Discord y a la vista en Reddit, lo que complica los esfuerzos para combatir los deepfakes. Un redditor ofreció sus servicios utilizando el software del archivo el 29 de septiembre. “¿Alguien puede hacerlo con mi prima?”, preguntó otro.
Los torrents del repositorio original prohibido por GitHub en agosto también están disponibles en otros rincones de la web, lo que muestra lo difícil que es controlar el software deepfake de código abierto en todos los ámbitos. Otras herramientas de pornografía deepfake, como la aplicación Deepnewed Lo mismo esta bajado Antes de que aparezca la nueva versión.
“Hay tantos modelos, tantas bifurcaciones diferentes en los modelos, tantas versiones diferentes, que puede ser difícil seguirles la pista a todas”, dice Elizabeth Seger, directora de política digital del grupo de expertos multipartidista británico Demos. “Una vez que un modelo se pone a disposición del público para su descarga, no hay forma de revertirlo”, añadió.
Un creador de pornografía deepfake ha comercializado un destacado repositorio de GitHub con vídeos explícitos manipulados de 13 celebridades femeninas como una versión “NSFW” de otro proyecto que fomenta el uso responsable y pide explícitamente a los usuarios que no lo utilicen para desnudos. “Aprenda toda la IA de Face Swap disponible en GitHUB, sin utilizar servicios en línea”, dice descaradamente su perfil en el sitio de Tube.
GitHub ya había deshabilitado esta versión NSFW cuando WIRED detectó el video deepfake Sin embargo, otras colecciones calificadas como versiones “desbloqueadas” del modelo estuvieron disponibles en la plataforma el 10 de enero, incluida una con 2.500 “estrellas”.
“Es técnicamente cierto que una vez que (un modelo) está ahí, no se puede revertir. Pero todavía podemos dificultar el acceso de la gente”, afirmó Seger.
Si no se controla, añade, el daño potencial del “porno” deepfake no es sólo psicológico. Sus efectos colaterales incluyen la intimidación y manipulación de mujeres, minorías y políticos, como se ve en Falsificaciones políticas Influye en las mujeres políticas de todo el mundo.
Pero nunca es demasiado tarde para controlar el problema, y plataformas como GitHub tienen opciones, dijo Seger, incluida la interferencia con los tiempos de carga. “Si pones un modelo en GitHub y no dices GitHub, y no dices todas las plataformas de alojamiento, resulta difícil para una persona normal obtener ese modelo”.
Depende de los formuladores de políticas, las empresas de tecnología, los desarrolladores y, por supuesto, los creadores de contenido ofensivo controlar el porno deepfake creado con un modelo de código abierto.
Según la organización sin fines de lucro Public Citizen, al menos 30 estados de EE. UU. tienen algunas leyes contra la pornografía deepfake, incluidas prohibiciones. Rastreador de actosSin embargo, las definiciones y políticas difieren y algunas leyes solo cubren a menores. Los creadores de deepfake en el Reino Unido pronto también sentirán la fuerza de la ley tras el anuncio del gobierno. Penalizar la realización de deepfakes sexualmente explícitosAdemás de compartirlos, 7 de enero.
