La Inteligencia Artificial en el sector salud: un cambio de paradigma
La Inteligencia Artificial está transformando el sector de la salud, oscilando las opiniones entre la expectación y el temor. Un estudio reciente de la American Medical Association reveló que casi la mitad de los profesionales de la salud están ansiosos, pero a la vez preocupados por la incorporación de IA en su campo.
¿Por qué la cautela hacia la IA en la salud?
Las luces de alarma sobre la IA en la salud se enfocan en dos grandes inquietudes: su carencia de regulación suficiente y el desconocimiento general sobre su funcionamiento. En respuesta a esto, el HHS (Department of Health & Human Services de EE.UU.) ha establecido recientemente un nuevo reglamento que exige transparencia en el uso de IA en salud, el cual entrará en vigor a finales de 2024.
Objetivo de la nueva regulación en IA de salud
Esta nueva normativa tiene como objetivo mitigar los sesgos e inexactitudes dentro del acelerado avance de la IA. Algunos líderes en el desarrollo de herramientas de IA para salud creen que estas nuevas pautas son un paso en la dirección correcta, aunque existen escepticismo sobre su necesidad y efectividad.
Requisitos de la nueva regulación
La norma exige a los desarrolladores de IA en salud proporcionar más datos sobre sus productos, lo que ayudará a los prestadores de servicios de salud a evaluar los riesgos y la eficacia de estas herramientas. Esto no aplica solo para los modelos de IA que se involucran directamente en la atención clínica, sino también para aquellos que tienen un impacto indirecto en la atención al paciente, como los que asisten en programar citas o en la gestión de la cadena de suministro.
Los proveedores de IA deben compartir información sobre cómo funciona su software y cómo se desarrolló. Esto significa revelar información sobre quién financió el desarrollo de sus productos, qué datos se usaron para entrenar el modelo, las medidas que utilizaron para prevenir sesgos y cómo validaron el producto.
Reacciones ante la nueva regulación
Ron Vianu, CEO de Covera Health, una compañía de tecnología de diagnósticos habilitada por IA, calificó las nuevas regulaciones como «fenomenales» debido a que pueden mejorar la calidad de las empresas de IA en salud o depurar el mercado de aquellas que no pasen la prueba.
Por otro lado, si las métricas que las empresas de IA usan en sus informes no están estandarizadas, los proveedores de salud tendrán dificultades para comparar proveedores y determinar qué herramientas son las mejores para adoptar.
Dave Latshaw, CEO de BioPhy, una startup de desarrollo de medicamentos con IA, considera que la norma es «excelente para los pacientes», pero presenta un desafío para las empresas que desarrollan productos habilitados con IA, pues deberán cumplir con estándares de transparencia más estrictos.
Finalmente, hay quienes rechazan la nueva ley en su totalidad. Leo Grady, ex CEO de Paige.AI y CEO actual de Jona, critica la normativa argumentando que es redundante y confusa y que ralentizará la tasa en que los proveedores pueden entregar productos beneficiosos a los médicos y pacientes.
¿Hacia dónde nos lleva este camino con la IA en salud?
La implementación de la IA en salud está avanzando a pasos agigantados. La transparencia y la regulación son aspectos vitales para que su utilización sea responsable y confiable. Este debate sobre su implementación alentará una mayor investigación y discusión sobre cómo la IA puede ser utilizada de la mejor manera en el sector salud.
LEE MÁS ARTÍCULOS SOBRE: Salud con IA.
LEE LA ENTRADA ANTERIOR: La IA es prometedora para diagnóstico y tratamiento de enfermedades cardíacas.