La Justicia de la ciudad californiana de San Francisco pretende eliminar 16 de los sitios más visitados donde se utilizan desnudos falsos de mujeres y niños reales.
La oficina del fiscal de la ciudad de San Francisco está demandando a 16 de los sitios web de «desnudez» impulsados por inteligencia artificial más visitados, que a menudo se utilizan para crear deepfakes de desnudos de mujeres y niñas sin su consentimiento.
La demanda histórica, anunciada en una conferencia de prensa por el fiscal de la ciudad David Chiu, dice que los sitios web en cuestión fueron visitados colectivamente más de 200 millones de veces solo en los primeros seis meses de 2024.
Los sitios web infractores permiten a los usuarios subir imágenes de personas reales completamente vestidas, que luego son “desvestidas” digitalmente con herramientas de inteligencia artificial que simulan la desnudez.
Uno de estos sitios web, que no fue identificado en la denuncia, supuestamente anuncia: “Imagina perder el tiempo sacándola a citas, cuando puedes usar [el sitio web censurado] para obtener sus fotos desnudas”.
Los operadores de los sitios web están acusados de violar las leyes estatales y federales que prohíben la pornografía de venganza, la pornografía deepfake y la pornografía infantil, además de la ley de competencia desleal de California porque «el daño que causan a los consumidores supera con creces los beneficios asociados con esas prácticas», según la presentación de la denuncia. La demanda busca sanciones civiles, además de sacar de línea a los sitios web y evitar de forma permanente que sus proveedores creen pornografía deepfake en el futuro.
La denuncia se produce en medio de una mayor atención sobre la creación y difusión de desnudos no consensuales, impulsada en gran medida por los avances en inteligencia artificial generativa, lo que ha dado lugar a un aumento de los informes de «sextorsión».
Celebridades notables como Taylor Swift han sido víctimas de deepfakes sexualmente explícitos, y escolares de todo el país han sido expulsados o arrestados por difundir fotos de desnudos de sus compañeros de clase generadas por inteligencia artificial.
“Esta investigación nos ha llevado a los rincones más oscuros de Internet y estoy absolutamente horrorizada por las mujeres y niñas que han tenido que soportar esta explotación”, dijo Chiu en X. “Este es un problema grande y multifacético que nosotros, como sociedad, debemos resolver lo antes posible”.
