Investigadores del MIT encuentran sesgo en IA médica al analizar imágenes radiográficas.
Estados Unidos.-La inteligencia artificial (IA) ha revolucionado la precisión en la detección de detalles minuciosos en diversas áreas, incluida la medicina.
Su aplicación en el análisis de radiografías médicas ha sido notable, ofreciendo diagnósticos asistidos por IA que prometen mejorar el cuidado de la salud.
En el Hospital Houston Methodist, por ejemplo, la IA proporciona herramientas predictivas que ayudan a identificar pacientes en riesgo y optimizar los resultados de salud a largo plazo.
Sin embargo, un equipo de investigadores del Instituto Tecnológico de Massachusetts (MIT) reveló que estos sistemas pueden predecir la raza de los pacientes a partir de radiografías, y más recientemente, han identificado una ‘brecha de equidad’ en los modelos de IA.
Esta brecha resulta en diagnósticos menos precisos para ciertos grupos, incluyendo mujeres y personas afrodescendientes.
Los modelos de IA tienden a usar ‘atajos demográficos’ que afectan su capacidad de diagnosticar correctamente a pacientes de distintas razas y géneros. Conscientes de esto, los investigadores del MIT ajustaron los modelos para eliminar el sesgo.
Aunque esto mejoró la precisión en los pacientes conocidos por el sistema, la brecha de equidad persistió en pacientes nuevos.
“Son modelos que son buenos para predecir enfermedades, pero durante el entrenamiento aprenden a predecir otras cosas que pueden no ser deseables”.
Marzyeh Ghassemi, profesora del MIT
Para abordar este problema, se exploraron estrategias como la “robustez de un subgrupo” y la “confrontación grupal”, que buscan hacer a los modelos insensibles a las categorizaciones demográficas.
A pesar de los esfuerzos por ajustar los modelos, los resultados seguían siendo óptimos solo para los conjuntos de datos de entrenamiento.
“Hemos descubierto que incluso los modelos de última generación que tienen un rendimiento óptimo en datos similares a los de sus conjuntos de entrenamiento no son óptimos en entornos nuevos”.
Marzyeh Ghassemi, profesora del MIT
Es crucial que estos sistemas, ampliamente implementados en hospitales, sean evaluados cuidadosamente para garantizar que no generen resultados inexactos en ciertos grupos.
El equipo de investigación del MIT continúa trabajando para perfeccionar la IA y eliminar definitivamente el sesgo en el diagnóstico médico.