Investigadores revelan cómo la tecnología de generación de voz artificial fue utilizada para crear contenido engañoso contra Ucrania
Un informe reciente de la empresa de inteligencia Recorded Future ha destapado una sofisticada operación de influencia rusa que utilizó tecnología de inteligencia artificial para generar voces sintéticas en múltiples idiomas europeos.
LA OPERACIÓN AL DESCUBIERTO
Denominada «Operation Undercut», la campaña tenía como objetivo socavar el apoyo europeo a Ucrania mediante videos «informativos» falsos o engañosos.
Los investigadores confirmaron que la tecnología de ElevenLabs, una startup valorada en cerca de U$S 3.000 millones, fue «muy probablemente» utilizada para crear voces artificiales convincentes.
TECNOLOGÍA SOFISTICADA
«Los creadores de los videos utilizaron herramientas de generación de voz por IA, incluyendo la tecnología de ElevenLabs, para hacer que su contenido pareciera más legítimo», señala el informe.
La verificación se realizó a través del propio clasificador de voz de IA de ElevenLabs, que confirmó la coincidencia.
MÚLTIPLES IDIOMAS, MAYOR ALCANCE
La tecnología permitió generar voces en varios idiomas europeos como inglés, alemán, francés, polaco y turco, todos ellos soportados por ElevenLabs.
A diferencia de algunas grabaciones con voces humanas que revelaban acentos rusos, las voces generadas por IA no presentaban acentos extranjeros detectables.
ORIGEN Y RESPONSABLES
La campaña fue atribuida a la Social Design Agency, una organización rusa sancionada por Estados Unidos en marzo por operar «una red de más de 60 sitios web que suplantaban a organizaciones de noticias genuinas en Europa».
Según el Departamento de Estado estadounidense, estas actividades se realizaron «en nombre del Gobierno de la Federación Rusa».
ANTECEDENTES POLÉMICOS
No es la primera vez que ElevenLabs se ve envuelta en controversias. Su tecnología fue identificada en una llamada automática que suplantaba al presidente Biden durante las primarias de enero de 2024, según Bloomberg.
En respuesta, la empresa implementó nuevas medidas de seguridad, como el bloqueo automático de voces de políticos.
IMPACTO Y CRECIMIENTO
A pesar de estos incidentes, ElevenLabs ha experimentado un crecimiento explosivo desde su fundación en 2022, aumentando sus ingresos anuales recurrentes de U$S 25 millones a U$S 80 millones en menos de un año. La empresa prohíbe expresamente «la suplantación no autorizada, dañina o engañosa» y afirma utilizar moderación tanto automatizada como humana.
