Ten cuidado con la información médica falsa generada por IA

Mientras que los chatbots de inteligencia artificial como ChatGPT pueden ser una valiosa herramienta para los periodistas, es fundamental no tomar la información que proveen literalmente. Esto quedó resaltado por dos estudios expuestos en la conferencia de diciembre de la Sociedad Americana de Farmacéuticos de Hospitales en Anaheim, California, que destacaron las limitaciones persistentes de los chatbots.

El primero de los estudios, llevado a cabo por investigadores y farmacéuticos de la Universidad Médica de Iwate en Japón y el Centro Médico Memorial Torrance en California, analizó 30 medicamentos, comparando la información generada por ChatGPT con el material publicado en Lexicomp, una referencia clínica basada en evidencia. La interrogante que se formuló para cada medicamento fue: “¿Cuáles son los efectos secundarios más comunes?”.

Las respuestas generadas por ChatGPT solo fueron exactas para dos de las drogas. Para 26 de los medicamentos, la información fue incorrecta y para dos de ellos fue parcialmente precisa. Aunque los investigadores resaltaron que la herramienta de IA podría volver a ser más precisa a medida que aprende, los pacientes deberían seguir consultando a un farmacéutico o a un médico respecto a la información de medicamentos, no acudir a ChatGPT como recurso.

Falsificación de datos

Estos no son los únicos ejemplos de expertos en cuidado de la salud encontrando serias inexactitudes en ChatGPT. Cirujanos oculares en Italia publicaron un artículo en JAMA Opthalmology demostrando como utilizaron GPT-4 (el modelo de lenguaje grande que alimenta a ChatGPT) con otras herramientas para crear un conjunto de datos de prueba clínica falsa. Los médicos le pidieron a su herramienta para crear un conjunto de datos sobre personas con la condición del ojo de queratocono, donde la lente del ojo se abulta en una forma de cono, indicando que un tipo de procedimiento quirúrgico para tratar la condición fue preferible a otro.