El polémico concurso de la plataforma de influencers entregó premios a tres personas inexistentes.
Una plataforma de influencers llamada Fanvue anunció recientemente los resultados de su primer concurso » Miss AI «, que buscaba juzgar a influencers de redes sociales generados por IA y que también funcionó como un truco publicitario conveniente.
La «ganadora» es una influencer ficticia de Instagram de Marruecos llamada Kenza Layli con más de 200.000 seguidores, pero el concurso ya está atrayendo críticas de las mujeres en el ámbito de la IA.
«Otro paso más en el camino hacia la cosificación de las mujeres mediante la inteligencia artificial», dijo a Ars Technica la Dra. Sasha Luccioni, investigadora de Hugging Face AI . «Como mujer que trabaja en este campo, no me sorprende, pero me desilusiona».
Según se informa, los casos de influencers de Instagram generados por IA han ido en aumento desde que herramientas de síntesis de imágenes de libre acceso como Stable Diffusion han facilitado la generación de una cantidad ilimitada de imágenes provocativas de mujeres.
Y técnicas como Dreambooth permiten ajustar un modelo de IA sobre un tema específico (incluido uno generado por IA) para colocarlo en diferentes entornos.
La tecnología ha recibido críticas desde que surgió en 2022, por lo que no sorprende que los críticos consideren que el concurso «Miss IA» sienta un precedente desafortunado y cosifique a las mujeres.
«En un campo con una falta tan evidente de diversidad de género, no es sorprendente que se haya llegado a utilizar la IA para generar imágenes de cómo son las mujeres ideales», dijo Luccioni.
Pero el concurso, que forma parte de los llamados «Premios Mundiales a los Creadores de Inteligencia Artificial» (WAICAS, por sus siglas en inglés), parece diseñado de tal manera que incluso la cobertura negativa sirve como publicidad para una empresa que monetiza cualquier tipo de atención en línea, sea o no de inteligencia artificial.
En cierto modo, la historia más importante es que las falsificaciones generadas por inteligencia artificial han permeado la cultura lo suficiente como para que un medio como CNN ahora parezca referirse a imágenes de personas falsas generadas por inteligencia artificial como si fueran humanas.
En un artículo de CNN titulado «La primera Miss AI ha sido coronada, y es una influencer de estilo de vida marroquí», la periodista de moda Jacqui Palumbo escribe: «Conoce a Kenza Layli, una influencer de estilo de vida marroquí que espera aportar ‘diversidad e inclusión’ al panorama de los creadores de IA.
Con casi 200.000 seguidores en Instagram y otros 45.000 en TikTok, Layli está completamente generada por IA, desde sus imágenes hasta sus pies de foto y su discurso de aceptación lleno de palabras de moda».
Por supuesto, es imposible conocer a Layli, no es real. Layli es la creación de Myriam Bessa , fundadora de la agencia Phoenix AI, que supuestamente recibirá 5.000 dólares en efectivo como premio por su creación. CNN cita luego un discurso de aceptación en video de Layli que parece un video de una persona real con un reemplazo de rostro generado por IA: «A medida que avanzamos, me comprometo a promover la diversidad y la inclusión dentro del campo, asegurando que todos tengan un lugar en la mesa del progreso tecnológico».
El discurso tiene poco significado, ya que supuestamente fue pronunciado por un software o escrito por su creador humano.
Dos subcampeones
El concurso «Miss AI» también contó con las ganadoras del segundo y tercer lugar: Lalina, creada en Francia, y Olivia C, creada en Portugal. Un rápido desplazamiento por sus feeds de Instagram mostró imágenes de las mujeres virtuales en bikini en entornos exóticos y artísticos. Un panel de cuatro jueces, dos de los cuales parecen generados por IA, decidió a las ganadoras.
De manera confusa, las reglas del concurso parecen mezclar personajes ficticios y sus creadores, diciendo que los participantes fueron juzgados según tres criterios: belleza (que incluye estándares de concursos de belleza como «aplomo» y respuestas a preguntas como «Si pudieras tener un sueño para hacer del mundo un lugar mejor, ¿cuál sería?»), tecnología (puntos por la habilidad para implementar el modelo de IA y representar detalles visuales) e influencia social (basada en los seguidores de las redes sociales y la interacción con los fanáticos).
Cuando le preguntamos a la investigadora en ética de la IA, la Dra. Margaret Mitchell (también de Hugging Face), qué pensaba sobre el concurso, respondió con una serie de preguntas que reflejaban una confusión similar por nuestra parte.
«¿Esto tenía como objetivo empoderar a los creadores de IA? ¿Pero luego el ganador fue generado por IA? ¿Son estos creadores o personas generadas por IA? ¿O simplemente ‘Kenza’ es generada por IA y ganó, pero los demás no? ¿Qué está pasando?»
Cuando le señalamos el artículo de CNN antes mencionado, Mitchell respondió: «Está bien, ya veo. El concurso es para mujeres generadas por inteligencia artificial, pero el sitio web de WAICAS hace que parezca más como si estuviera empoderando a las creadoras que lo que realmente está haciendo, que es reafirmar estándares de belleza poco realistas».
Para Mitchell, la tendencia de los influencers con inteligencia artificial parece acelerar los problemas que ya existen con los influencers humanos: son libres de seleccionar y manipular imágenes para presentar una visión poco realista de la realidad que algunos investigadores creen que puede afectar negativamente a las niñas y mujeres que las ven en línea.
«Me estremezco al pensar en el daño que esto le hará a la imagen que tienen las niñas de sí mismas», dijo Mitchell. «Barbie ha creado suficientes problemas y ni siquiera está diseñada para parecerse a una persona real.
Cuando se premian estándares de feminidad poco realistas, las niñas que se convierten en mujeres se miran al espejo y ven todas las formas en que no están a la altura. Lo que viene a continuación: aumento masivo de productos cutáneos de dudosa calidad, trastornos alimentarios y dismorfia corporal entre las adolescentes».
Fuente: Benj Edwards para Ars Technica
