El sesgo de la rapidez en la IA: chatbots fallan en el 80% de los diagnósticos médicos con datos incompletos
Un estudio de Mass General Brigham publicado en JAMA Network Open revela que modelos de OpenAI, Google y DeepSeek carecen de razonamiento clínico inicial. Aunque su precisión supera el 90% en etapas finales, la incapacidad para generar diagnósticos diferenciales con información parcial enciende alarmas en la industria.
La promesa de la inteligencia artificial como el nuevo «médico digital» ha tropezado con una barrera crítica: la incertidumbre clínica. Una investigación reciente, que evalúa el desempeño de los modelos de lenguaje de gran tamaño (LLM) en entornos de salud, ha determinado que estas herramientas fallan en más del 80% de los casos cuando se enfrentan a diagnósticos en etapas tempranas o con información incompleta del paciente.
El estudio, liderado por investigadores del sistema de salud Mass General Brigham en Massachusetts y publicado este lunes en JAMA Network Open, pone de manifiesto un riesgo estructural. Mientras que los chatbots son altamente eficaces para identificar una patología cuando el caso está plenamente detallado, su fiabilidad se desploma en la fase de razonamiento clínico inicial, donde los datos suelen ser vagos o parciales.
La tendencia de la IA a cerrarse rápidamente en una única respuesta, en lugar de sugerir un abanico de diagnósticos diferenciales, representa un peligro latente para usuarios que buscan respuestas rápidas a síntomas inespecíficos.
Para los profesionales del sector y empresarios biotecnológicos, estos resultados subrayan que, aunque la tecnología ha avanzado, el «ojo clínico» sigue siendo irremplazable. El experimento evaluó 21 modelos de IA, incluidos los desarrollados por gigantes como OpenAI, Anthropic, Google, xAI y DeepSeek, utilizando 29 viñetas clínicas basadas en textos de referencia médica estándar.
El proceso consistió en la revelación paso a paso de datos: desde la historia de la enfermedad actual hasta los hallazgos del examen físico y resultados de laboratorio, midiendo dónde y cómo se fracturaba el razonamiento de la máquina.
El desafío del diagnóstico diferencial
La mayor debilidad detectada radica en el denominado «diagnóstico diferencial». Según los hallazgos, las tasas de fracaso —definidas como la proporción de preguntas no respondidas de forma totalmente correcta— superaron el 80% en todos los modelos testeados cuando la información del paciente era limitada.
Arya Rao, autora principal del estudio e investigadora de Mass General Brigham, explicó la naturaleza de esta limitación: “Estos modelos son excelentes para nombrar un diagnóstico final una vez que los datos están completos, pero tienen dificultades en el inicio abierto de un caso, cuando no hay mucha información”.
Esta brecha de rendimiento sugiere que la IA actual carece de la capacidad de manejar la ambigüedad inherente a las primeras consultas médicas. Sin embargo, cuando los datos se completaron, las tasas de falla cayeron por debajo del 40%, y los modelos con mejor desempeño alcanzaron una precisión superior al 90%.
Respuestas corporativas y el factor humano
Ante los resultados, las empresas tecnológicas han reforzado sus posturas sobre el uso de sus plataformas. Google señaló que Gemini está diseñado para dirigir a los usuarios hacia profesionales de la salud y cuenta con recordatorios integrados para verificar la información. Por su parte, Anthropic afirmó que Claude está entrenado para referir consultas médicas a expertos titulados.
OpenAI fue contundente en su política de uso, aclarando que sus servicios no deben utilizarse para proporcionar asesoramiento médico que requiera una licencia sin la participación profesional adecuada. Mientras tanto, compañías como xAI y la china DeepSeek no emitieron comentarios o no pudieron ser contactadas tras la publicación del informe.
¿Hacia modelos especializados o asistencia remota?
A pesar de los fallos, la industria no detiene su marcha hacia la especialización. Actualmente se desarrollan modelos médicos específicos como Articulate Medical Intelligence Explorer (AMIE) y MedFound, de Google.
Sanjay Kinra, epidemiólogo clínico de la London School of Hygiene & Tropical Medicine, calificó como prometedores los resultados de modelos como AMIE, aunque mantuvo una cuota de realismo respecto a la práctica médica tradicional: “Es poco probable que puedan igualar la forma en que las evaluaciones clínicas de los médicos dependen en gran medida del aspecto y la sensación del paciente”.
No obstante, Kinra matizó que “pueden tener un papel que desempeñar, particularmente en situaciones o geografías en las que el acceso a los médicos es limitado”, instando a realizar estudios urgentes con pacientes reales en esos entornos.
La evidencia actual sugiere que la integración de la IA en la práctica clínica deberá ser, por ahora, una herramienta de validación secundaria y no un motor de decisión autónomo, preservando la seguridad del paciente ante la tendencia de los algoritmos a la conclusión prematura.
