La compañía enfrenta desafíos con su sistema de verificación de hechos y respuestas automatizadas, destacando problemas en la gestión de contenido político y eventos de noticias de última hora.
Meta, la empresa matriz de Facebook, ha enfrentado recientemente dos problemas significativos relacionados con la gestión de contenido político en sus plataformas.
Joel Kaplan, Vicepresidente de Política Global de Meta, detalló en un comunicado cómo estos incidentes subrayan los desafíos continuos en la implementación de tecnologías avanzadas de IA y verificación de hechos.
Problemas con las Respuestas de Meta AI
Uno de los problemas principales se relacionó con las respuestas incorrectas generadas por Meta AI sobre un intento de asesinato al ex presidente Trump.
«Es un problema conocido que los chatbots de IA, incluida Meta AI, no siempre son confiables cuando se trata de noticias de última hora», explicó Kaplan.
La tecnología de IA de Meta, al estar entrenada con datos previos, a veces proporciona información errónea en situaciones de rápido desarrollo.
Para evitar la propagación de información incorrecta, Meta programó su IA para no responder preguntas sobre el evento, emitiendo una respuesta genérica sobre la incapacidad de proporcionar información.
Esta medida, sin embargo, llevó a que algunos usuarios percibieran que la IA se negaba a hablar sobre el tema. Aunque Meta ha actualizado desde entonces las respuestas de su IA, Kaplan reconoció que la acción debió haberse tomado antes.
Además, la IA en algunos casos continuó proporcionando respuestas incorrectas, afirmando que el evento no ocurrió, lo cual Meta está trabajando rápidamente para corregir.
La Etiqueta de Verificación de Hechos
El segundo problema involucró una foto manipulada del ex presidente Trump levantando el puño, donde agentes del Servicio Secreto parecían estar sonriendo.
Debido a que la foto estaba alterada, se aplicó correctamente una etiqueta de verificación de hechos. No obstante, debido a las similitudes entre la foto manipulada y la imagen original, la tecnología de Meta aplicó incorrectamente la misma etiqueta a la foto auténtica.
«Nuestros equipos trabajaron rápidamente para corregir este error», señaló Kaplan.
Desafíos Continuos
Kaplan subrayó que estos incidentes no fueron resultado de sesgos, sino de las complejidades inherentes en la gestión de eventos en tiempo real con tecnología de IA.
«Estos tipos de respuestas se conocen como alucinaciones, un problema generalizado en todos los sistemas de IA generativa», añadió.
Meta está comprometida a mejorar continuamente sus productos para abordar estos desafíos y garantizar que sus plataformas sean un espacio donde las personas puedan expresarse libremente.
Mejoras y Futuro
Meta está trabajando en mejorar sus sistemas y ha prometido responder rápidamente a cualquier problema que surja.
La empresa reconoce la importancia de manejar correctamente la información en eventos críticos y se esfuerza por diseñar respuestas de IA que sean precisas y adecuadas.
La transparencia en estos procesos y la voluntad de corregir errores rápidamente son fundamentales para mantener la confianza de los usuarios en las plataformas de Meta.
En conclusión, los recientes problemas con la verificación de hechos y las respuestas de Meta AI subrayan la necesidad de una mejora continua en las tecnologías de gestión de contenido.
Meta se compromete a aprender de estos incidentes para proporcionar una experiencia más fiable y precisa a sus usuarios en el futuro.
