Consultas sobre Medicamentos: los riesgos de los chatbots de IA
- Redacción
- 26 octubre, 2024
- Medicina, Salud, Tecnología
- BMJ Quality & Safety, chatbot, Friedrich-Alexander-Universität, Inteligencia Artificial, Portada
- 0 Comments
Un grupo de científicos alertó sobre los riesgos de los chatbots de inteligencia artificial (IA) en consultas sobre medicamentos.
Un estudio reciente revela imprecisiones en las respuestas de chatbots impulsados por inteligencia artificial.
Lo que podría poner en peligro la salud de los pacientes.
El artículo se publicó en BMJ Quality & Safety y lo firma Wahram Andrikyan del Instituto de Farmacología y Toxicología Experimental y Clínica Friedrich-Alexander-Universität en Alemania.
Un equipo de investigadores identificó fallas significativas en la información que proporcionan chatbots de IA.
Como los que se utilizan en motores de búsqueda, en relación con consultas sobre medicamentos.
Este hallazgo es alarmante, ya que más de la mitad de los ciudadanos en la Unión Europea y los Estados Unidos recurren a internet.
Para obtener información sobre salud y tratamientos médicos.
La introducción de chatbots como Bing Copilot de Microsoft y Gemini de Google transformó la manera en que los usuarios interactúan con motores de búsqueda.
Estos sistemas, basados en modelos de lenguaje de gran tamaño (LLM), prometen ofrecer respuestas más completas.
Y una experiencia de búsqueda más dinámica.
Sin embargo, el estudio pone de manifiesto que la calidad de la información sobre medicamentos sigue siendo problemática.
Los investigadores evaluaron la legibilidad y precisión de las respuestas de Bing Copilot.
Concluyendo que, aunque algunos resultados son correctos, muchos son difíciles de entender para personas sin educación universitaria.
Y pueden incluso ser potencialmente dañinos.
El estudio sugiere que las respuestas complicadas y la repetición de información incorrecta podrían generar daños moderados o graves si los pacientes las siguen.
Para abordar estas preocupaciones, siete expertos en seguridad de medicamentos llevaron a cabo una evaluación exhaustiva de las respuestas del chatbot.
Utilizando un marco de evaluación de conocimiento clínico, analizaron 500 respuestas.
Identificando numerosas afirmaciones erróneas y evaluando la probabilidad de daño potencial.
Los resultados revelaron que la probabilidad de daño a la salud del paciente podría ser «alta», «media» o «baja».
Dependiendo de la calidad de la información que se proporciona.
A pesar de su utilidad, los investigadores enfatizan la necesidad de que los pacientes consulten a profesionales de salud.
Antes de seguir las recomendaciones de estos chatbots, para evitar los riesgos que eso conllea.
Dado el riesgo de desinformación, se aconseja a los usuarios precaución al utilizar motores de búsqueda basados en IA para obtener información sobre medicamentos.
Hasta que se implementen mecanismos que garanticen una mayor precisión.
El estudio subraya la importancia de una supervisión adecuada de las herramientas de IA en el ámbito de la salud.
Donde las decisiones erróneas pueden tener consecuencias graves.
La creciente dependencia de la tecnología en el sector salud plantea interrogantes.
Sobre la ética y la responsabilidad en la provisión de información médica.
A medida que la IA continúa desarrollándose y evolucionando, es crucial que los desarrolladores y responsables de políticas trabajen juntos.
Para establecer estándares que aseguren la seguridad y el bienestar de los pacientes.
En resumen, mientras que los chatbots de IA tienen el potencial de transformar la manera en que accedemos a la información sobre medicamentos, los riesgos asociados subrayan la necesidad de una supervisión cuidadosa y la consulta con expertos en salud.
La salud de los pacientes no debería verse comprometida por la desinformación o la complejidad de las respuestas generadas por la IA.
Leave A Comment