La reciente ola de adopción de inteligencia artificial ha transformado sectores enteros, pero también ha sacado a la luz un problema central: muchas implementaciones privilegiaron la novedad tecnológica sobre el diseño pensado para las personas. Un estudio de revisión publicado en Sensors (publicado: 18/02/2026 06:08) aporta un panorama crítico sobre cómo la explicabilidad —y su ausencia— afecta la confianza y la utilidad clínica.
Al mismo tiempo, investigaciones aplicadas en oncología por medio de redes neuronales y transformadores visuales muestran resultados dispares en diagnósticos como la clasificación BI-RADS, lo que subraya la necesidad de herramientas interpretables que los profesionales sanitarios puedan validar y entender antes de adoptarlas en entornos de alto riesgo.
Qué dice la revisión sobre XAI y aplicaciones biomédicas
La revisión sistemática titulada «eXplainable Artificial Intelligence (XAI): A Systematic Review for Unveiling the Black Box Models and Their Relevance to Biomedical Imaging and Sensing» examina técnicas para abrir el caja negra de los modelos de IA en imágenes médicas. El documento identifica que, pese a los avances en rendimiento, persisten limitaciones relacionadas con la transparencia, la reproducibilidad y la integración clínica.
En términos prácticos, esto significa que muchos modelos de alto rendimiento no ofrecen explicaciones accesibles para radiólogos y clínicos, lo que dificulta su aceptación en procesos decisionales.
Principales hallazgos de la revisión
La revisión señala que las metodologías de XAI varían ampliamente: desde mapas de activación que resaltan zonas relevantes en una imagen, hasta métodos basados en reglas y descomposición de contribuciones. Sin embargo, el estudio advierte que no existe un estándar unificado para evaluar la calidad de esas explicaciones.
Esto provoca que dos herramientas distintas puedan ofrecer predicciones similares pero razonamientos incomparables, complicando la interpretación clínica y la auditoría.
Casos concretos: clasificación BI-RADS y modelos en competencia
Investigaciones recientes que comparan arquitecturas como MobileNetV1 y vision transformers aplicadas a la clasificación BI-RADS ilustran cómo el rendimiento numérico no siempre traduce confianza operativa. En algunos trabajos se observó que ambos enfoques pueden producir diagnósticos diferentes para la misma imagen mamográfica, lo que plantea interrogantes sobre la consistencia y la robustez.
La solución pasa por integrar mecanismos explicativos que permitan entender por qué un modelo favorece una categoría BI-RADS frente a otra.
Implicaciones para la práctica clínica
Cuando los modelos ofrecen salidas distintas, los profesionales necesitan herramientas que expliquen la decisión: ¿se basa en textura, en límites de la lesión, en artefactos de imagen? Sin explicaciones claras, la responsabilidad médica y la comunicación con el paciente se vuelven más complejas. Por ello, la incorporación de XAI no es un lujo académico, sino una condición para la adopción segura en pruebas de criba y diagnóstico.
Implementaciones a escala: lecciones desde proyectos de salud pública
En el terreno operativo, empresas como Qure.ai han desplegado soluciones de análisis de imágenes médicas que han impactado poblaciones extensas, con cifras reportadas de alrededor de 40 millones de personas en más de 100 países. Estos proyectos demuestran el potencial de la IA para detectar enfermedades como tuberculosis y patologías pulmonares en cribados masivos; sin embargo, también evidencian retos logísticos y éticos vinculados a la validación local, la adaptación a diferentes poblaciones y la necesidad de transparencia en los algoritmos.
Un ejemplo práctico: en eventos de gran afluencia se realizaron miles de radiografías torácicas y el sistema detectó una fracción significativa de casos sospechosos de tuberculosis que, de otro modo, podrían haberse pasado por alto. Este tipo de resultados recalca la utilidad de la automatización, pero simultáneamente indica la urgencia de incorporar explicaciones comprensibles para que autoridades sanitarias y profesionales puedan confiar en las intervenciones basadas en IA.
Hacia un equilibrio entre innovación y centrado en el humano
La lección central es que el primer gran ciclo de entusiasmo por la IA favoreció a la tecnología por sí misma. Para avanzar se requiere un cambio de paradigma: priorizar el diseño centrado en el usuario, normativas que exijan transparencia y marcos de evaluación que integren métricas de explicabilidad además de la precisión. Solo así las soluciones podrán combinar alto rendimiento técnico con utilidad clínica real y aceptación social.
Incorporar XAI, validaciones locales y diálogo con médicos y pacientes será esencial para que la tecnología deje de ser un fin en sí misma y se convierta en una herramienta al servicio de la salud pública.
