La inteligencia artificial (IA) está transformando rápidamente el campo de la medicina, y la radiología no es una excepción. Si bien la IA ofrece la promesa de mejorar la precisión y eficiencia del diagnóstico por imágenes, un nuevo estudio publicado en la revista ‘Radiology’ advierte sobre los riesgos potenciales de confiar demasiado en estas herramientas. El estudio, realizado por investigadores estadounidenses, pone de manifiesto la importancia de que los radiólogos mantengan la vigilancia y el criterio humano, incluso con la ayuda de la IA, para evitar caer en el llamado ‘sesgo de automatización’.
El estudio: IA como asistente, no como sustituto
En el estudio participaron 220 médicos de diferentes hospitales del país, quienes revisaron radiografías de tórax con la asistencia de un sistema de IA. Este sistema proporcionaba dos tipos de consejos: explicaciones locales, que destacaban áreas específicas de interés en la radiografía, y explicaciones globales, que mostraban imágenes de casos similares para contextualizar la sugerencia de la IA. Los médicos podían aceptar, modificar o rechazar las sugerencias de la IA.
Los resultados revelaron que cuando la IA proporcionaba un consejo preciso, las explicaciones locales llevaron a una tasa de precisión diagnóstica del 92.8%, mientras que las explicaciones globales alcanzaron una tasa del 85.3%. Esto sugiere que la IA puede ser una herramienta efectiva para mejorar la precisión y eficiencia del diagnóstico, especialmente cuando se proporcionan explicaciones locales que dirigen la atención del radiólogo a las áreas relevantes de la imagen.
Sin embargo, la situación cambió drásticamente cuando la IA se equivocó. En esos casos, la precisión del diagnóstico cayó hasta el 23.6% para las explicaciones locales y el 26.1% para las globales. Esto indica que la confianza ciega en las sugerencias de la IA, incluso con explicaciones detalladas, puede llevar a diagnósticos erróneos y afectar negativamente la calidad de la atención al paciente.
El sesgo de automatización: un riesgo latente
Uno de los hallazgos más preocupantes del estudio es la rapidez con la que los médicos, tanto radiólogos como no radiólogos, confiaron en las explicaciones locales de la IA, incluso cuando estas eran incorrectas. Este fenómeno, conocido como ‘sesgo de automatización’, representa una amenaza significativa para la seguridad del paciente. Se trata de la tendencia humana a confiar excesivamente en la automatización, incluso cuando hay señales de que el sistema puede estar fallando.
Los autores del estudio enfatizan la importancia del diseño cuidadoso de las herramientas de IA para minimizar este riesgo. Un diseño reflexivo debe ir más allá de la simple precisión del consejo y debe incluir mecanismos que promuevan el escepticismo crítico y eviten la sobreconfianza por parte de los usuarios. La IA debe verse como una herramienta que ayuda a mejorar la práctica clínica, pero no debe reemplazar la experticia y el criterio del radiólogo.
Recomendaciones para mitigar el sesgo de automatización
Para mitigar el sesgo de automatización y asegurar la seguridad del paciente, el Dr. Paul Yi, coautor del estudio, recomienda que los radiólogos se adhieran a sus listas de verificación y protocolos de diagnóstico, incluso cuando utilizan herramientas de IA. Estas listas de verificación ayudan a minimizar la variación en el proceso de diagnóstico y reducen el riesgo de errores inesperados. A pesar de su utilidad, la incorporación de IA podría modificar dichas listas.
Además, el Dr. Yi sugiere que se deben realizar más estudios para analizar cómo la interacción entre humanos y computadoras puede verse afectada por factores como el estrés y la fatiga. La IA puede alterar drásticamente la rutina de un radiólogo, y entender cómo estos factores influyen en la confiabilidad de los usuarios es fundamental para asegurar que las herramientas de IA se usen de manera segura y efectiva.
En conclusión, la IA tiene el potencial de revolucionar la radiología, pero su implementación exige un enfoque cauteloso y una comprensión profunda de sus limitaciones. El estudio destaca la importancia de un diseño cuidadoso de las herramientas de IA, así como la necesidad de que los profesionales de la salud mantengan un pensamiento crítico y un escepticismo saludable, evitando la sobreconfianza en la tecnología. La IA es una herramienta poderosa, pero la experiencia y el juicio humano siguen siendo insustituibles en el diagnóstico por imágenes.
