Investigadores de Cornell University descubrieron que las herramientas de transcripción automática utilizadas en centros de salud pueden generar conversaciones falsas entre médicos y pacientes, poniendo en riesgo la seguridad médica.
La inteligencia artificial (IA) está causando preocupación en el sector salud debido a un fenómeno conocido como «alucinaciones», donde los sistemas de transcripción automática inventan conversaciones que nunca ocurrieron entre médicos y pacientes.
HALLAZGOS ALARMANTES
Un equipo de investigadores liderado por la profesora Allison Koenecke de Cornell University detectó que las herramientas de IA utilizadas para transcribir consultas médicas pueden generar texto completamente ficticio, agregando frases o modificando sustancialmente lo que realmente se dijo durante las citas.
«Este es un problema serio que podría tener graves consecuencias en la atención médica», advierte Koenecke. «Cuando la IA inventa partes de una conversación médica, podría llevar a diagnósticos erróneos o tratamientos inadecuados».
RIESGOS PARA LA SEGURIDAD DEL PACIENTE
Los expertos señalan que estas «alucinaciones» de la IA representan un riesgo significativo:
- Documentación médica inexacta
- Posibles errores en tratamientos basados en transcripciones falsas
- Problemas legales por registros médicos incorrectos
- Deterioro de la relación médico-paciente
LLAMADO A LA ACCIÓN
Los investigadores recomiendan implementar sistemas de verificación humana y desarrollar mejores protocolos de control antes de confiar plenamente en estas herramientas tecnológicas en entornos médicos.
«Es fundamental que el sector salud encuentre un balance entre la eficiencia que ofrece la IA y la seguridad del paciente», concluye el estudio. «Por ahora, la supervisión humana sigue siendo esencial».