¿Es posible que el sector gubernamental y empresarial solucionen los prejuicios raciales en la Inteligencia Artificial?
Durante la convocatoria anual de la ONC (Oficina del Coordinador Nacional para la Tecnología de la Información en Salud) se interrogó a los líderes si estiman factible que las agencias del gobierno y la esfera privada logren cooperar en pos de incentivar la innovación y a su vez proteger ante prejuicios y riesgos de seguridad. Lo que aquí reflejamos son sus declaraciones.
El potencial de la Inteligencia Artificial en el sector sanitario
La Inteligencia Artificial posee un alcance muy prometedor en el ámbito de la atención sanitaria. Con algoritmos que pueden hallar contundentes respuestas a cuestiones de gran magnitud en datos masivos y automatización que brinda apoyo a los médicos de múltiples formas.
No obstante, desde la Oficina de Derechos Civiles del Departamento de Salud y Servicios Humanos (HHS), a la par se señalan «casos tras casos» donde modelos de IA y de aprendizaje automático han sido adiestrados con datos incorrectos o sesgados de los que se ha derivado algún tipo de discriminación, pudiendo resultar inefectiva o peligrosa para algunos pacientes.
Ambas entidades, el gobierno federal y la industria de TI para la salud, están altamente comprometidas en solucionar el problema del sesgo en la IA y en demostrar que su aplicación es segura. Pero, ¿podrán acertar en la forma de hacerlo?
El camino hacia la erradicación de los prejuicios raciales en los algoritmos
Dan Gorenstein, presentador del podcast Compensaciones, abordó esta interrogante durante la reciente reunión de la ONC alegando la necesidad imperante de hallar una respuesta.
Aunque la extirpación de los prejuicios raciales en los algoritmos aún se encuentra en proceso de exploración, el gobierno ya se halla implementando una acción tras otra en aspectos relacionados con la IA, desde la proclamación de una ética en la IA para la atención sanitaria orquestada por la Casa Blanca, hasta la inclusión de nuevos requisitos regulatorios como los que establece la ONC en lo referente la transparencia de los algoritmos de IA.
Las agencias federales también se encuentran inmersas en coaliciones industriales y están formando equipos para estudiar el uso del análisis, soporte para decisiones clínicas y aprendizaje automático a lo largo y ancho del espectro sanitario.
El ‘reglamento del camino’ propulsado por la FDA (Food and Drug Administration)
Demorar tiempo y dinero en demostrar el rendimiento en diversos subgrupos para finalmente poder hacer pasar un producto de IA por la FDA puede ser un tanto frustrante para los desarrolladores.
No obstante, al igual que los rigurosos procesos de certificación en la banca que toda empresa financiera tiene que cumplir, Troy Tazbaz, director de salud digital de la FDA, sostiene que el gobierno y la industria de la salud deben desarrollar un enfoque análogo hacia la Inteligencia Artificial.
Según Tazbaz, «El gobierno no puede regular esto por sí solo debido a que se desarrolla a un ritmo que requiere un compromiso muy, muy definido entre el sector público y privado».
Concluye afirmando que, entre otros objetivos, el gobierno y la industria están trabajando para acordar algunas medidas de seguridad de la IA y la gestión del ciclo de vida del producto.
La necesidad de acortar los plazos de aprobación de la FDA
Indagada sobre cómo la FDA puede optimizar la distribución de productos, Suchi Saria, fundadora, CEO y directora científica de Bayesian Health, y directora fundadora de investigación y estrategia técnica del Centro Malone de Ingeniería en la Atención Médica de la Universidad Johns Hopkins, expresa que aprecia los procesos de validación rigurosa ya que mejoran los productos de IA.
No obstante, Saria aspira a reducir el plazo de aprobación de la FDA a dos y tres meses y cree que es posible hacerlo sin poner en peligro la calidad.
En reconocimiento a la necesidad de mejoras en el procedimiento propuesto por Saria («la consideración de auditores externos iniciales sería una posible solución»), Tazbaz en cambio sostiene que «No hay un único proceso que se adapte a todas las situaciones».
LEE MÁS ARTÍCULOS SOBRE: Salud con IA.
LEE LA ENTRADA ANTERIOR: IA, desarrollo de medicamentos y grandes, grandes sumas de dinero.