Alucinación médica: enfermedades imaginarias fabricadas por la inteligencia artificial
Por Joe Wilkins .Publicado el
2026/05/17 09:36
Si ha acudido a una consulta médica durante los últimos dos o tres años, existe una alta probabilidad de que su médico haya utilizado un sistema de asistencia clínica basado en inteligencia artificial, conocido como AI Scribe. Estas herramientas están diseñadas para escuchar la conversación entre médico y paciente, transcribirla automáticamente y transformarla en notas y registros clínicos oficiales, con el objetivo de reducir la pesada carga administrativa que recae sobre el personal sanitario.
En teoría, la idea parece una solución brillante para liberar a los médicos del laberinto burocrático. Sin embargo, la práctica clínica comienza a revelar fallas potencialmente peligrosas.
La auditora general de la provincia canadiense de Ontario —funcionaria independiente encargada de supervisar la rendición de cuentas ante la Asamblea Legislativa— emitió recientemente un informe alarmante en el que advierte que varios de estos programas médicos no fueron evaluados adecuadamente antes de ser adquiridos y que podrían generar información falsa o completamente inventada para los profesionales de la salud.
Todos los sistemas fallaron
El informe, cuyos primeros detalles fueron revelados por la cadena Global News, analizó veinte plataformas de asistencia digital basadas en inteligencia artificial aprobadas por el gobierno provincial.
El resultado fue contundente: todos los sistemas evaluados presentaron una o más inexactitudes durante las fases de prueba y validación. Las fallas incluyeron “alucinaciones” —es decir, fabricación de datos—, información incorrecta y omisión de detalles médicos esenciales en los registros clínicos.
La auditora general de Ontario advirtió explícitamente:
“Las inexactitudes en las notas médicas generadas por sistemas AI Scribe podrían derivar en tratamientos inadecuados o perjudiciales, afectando potencialmente la salud de los pacientes.”
Alucinaciones bajo observación
Ante la creciente preocupación pública, Stephen Crawford, ministro de Servicios Públicos y Comerciales y de Adquisiciones de Ontario, intentó tranquilizar a la opinión pública asegurando que estas alucinaciones fueron detectadas únicamente durante la fase oficial de pruebas regulatorias y no en consultas médicas reales.
En declaraciones a Global News, Crawford afirmó:
“Seamos muy claros: esto no está siendo utilizado operativamente por los médicos. Todavía nos encontramos en una etapa opcional de evaluación de distintos asistentes de escritura clínica.”
Sin embargo, la auditora general Shelley Spence ofreció una visión distinta al señalar que varios de estos asistentes ya están siendo utilizados por alrededor de 5 000 médicos en toda la provincia de Ontario.
Spence reveló incluso que llegó a pedirle a su propio médico de cabecera que revisara cuidadosamente la transcripción generada tras la consulta para asegurarse de que no se hubieran añadido datos inventados ni imprecisos.
Una crisis que cruza fronteras
El problema no se limita al sistema sanitario canadiense. En Estados Unidos, otro sistema ampliamente utilizado en entornos médicos, llamado OpenEvidence, enfrenta un creciente escrutinio regulatorio debido a respuestas incompletas y episodios de “alucinaciones” digitales.
Según explicaron varios médicos a la cadena NBC News, el sistema tiende en ocasiones a extraer conclusiones médicas excesivamente categóricas a partir de estudios clínicos con muestras reducidas o insuficientes, lo que podría inducir a errores al definir protocolos terapéuticos complejos.
Aunque una parte importante de la comunidad médica continúa valorando estas herramientas por el enorme tiempo administrativo que permiten ahorrar, una pregunta comienza a imponerse en los círculos sanitarios internacionales:
¿qué ocurrirá cuando estos sistemas deban enfrentarse plenamente a las complejas condiciones del mundo real y el entusiasmo actual por la inteligencia artificial sea sustituido por una supervisión científica y regulatoria mucho más estricta?
Califica este tema