La inteligencia artificial está revolucionando el sector sanitario: diagnóstico asistido, análisis de imágenes médicas, gestión hospitalaria, predicción de riesgos y medicina personalizada. Debido a su impacto directo en la salud y la vida de las personas, el AI Act clasifica la mayoría de sistemas de IA en sanidad como alto riesgo, imponiendo obligaciones estrictas para proveedores y centros sanitarios.

Esta guía explica cómo se aplica la regulación europea de IA en sanidad, qué usos están permitidos, qué obligaciones deben cumplirse y qué riesgos deben gestionarse.

🧩 1. Usos habituales de IA en sanidad

Diagnóstico asistido por IA (alto riesgo)

Modelos que analizan:

• Radiografías
• TAC
• Resonancias
• Ecografías
• Patología digital

Clasificación: alto riesgo, porque influyen directamente en decisiones clínicas.

Predicción de riesgos y evolución clínica

IA utilizada para:

• Predecir complicaciones
• Identificar pacientes de alto riesgo
• Anticipar reingresos
• Optimizar tratamientos

Clasificación: alto riesgo si afecta a decisiones terapéuticas.

Sistemas de apoyo a la decisión clínica (CDSS)

Incluye:

• Recomendación de tratamientos
• Alertas de interacción farmacológica
• Protocolos automatizados

Clasificación: alto riesgo, especialmente cuando influye en decisiones médicas.

Gestión hospitalaria y administrativa

IA aplicada a:

• Optimización de recursos
• Gestión de camas
• Programación de cirugías
• Triaje administrativo

Clasificación: depende del impacto. Si afecta a atención clínica, puede ser alto riesgo.

Chatbots sanitarios y asistentes virtuales

Usados para:

• Resolver dudas
• Guiar pacientes
• Ofrecer información básica

Clasificación: riesgo limitado, con obligación de transparencia.

🟥 2. Usos prohibidos en sanidad

El AI Act prohíbe ciertos usos que pueden vulnerar derechos fundamentales o poner en riesgo la salud:

• Inferencia de rasgos sensibles (religión, orientación sexual, ideología) a partir de imágenes médicas
• Puntuación social sanitaria basada en comportamiento personal
• Manipulación subliminal para influir en decisiones de tratamiento
• Bases de datos biométricas sin consentimiento
• Identificación biométrica en tiempo real en hospitales o centros sanitarios

🟧 3. Obligaciones para proveedores y centros sanitarios

Los sistemas de IA utilizados en sanidad deben cumplir obligaciones estrictas debido a su clasificación como alto riesgo.

Obligaciones para sistemas de alto riesgo

Aplican a:

• Diagnóstico asistido
• Predicción clínica
• Sistemas de apoyo a decisiones médicas
• IA que influye en tratamientos o intervenciones

Requisitos:

• Gestión de riesgos documentada
• Calidad de datos (representativos, sin sesgos clínicos)
• Supervisión humana obligatoria en decisiones médicas
• Trazabilidad y registro de actividades
• Documentación técnica completa
• Evaluación de conformidad antes de su uso
• Notificación de incidentes graves

Obligaciones para sistemas de riesgo limitado

Aplican a:

• Chatbots sanitarios
• IA generativa para información al paciente
• Herramientas de apoyo no decisivo

Requisitos:

• Transparencia: informar al usuario de que interactúa con IA
• Información clara sobre capacidades y limitaciones

🧭 4. Riesgos específicos del uso de IA en sanidad

Sesgos clínicos

La IA puede discriminar por:

• Edad
• Sexo
• Origen étnico
• Condiciones socioeconómicas
• Variabilidad en datos clínicos

El AI Act exige mitigación y auditoría.

Errores diagnósticos

Un fallo en IA puede provocar:

• Diagnósticos incorrectos
• Tratamientos inapropiados
• Retrasos en atención
• Riesgos para la vida del paciente

Requiere supervisión médica obligatoria.

Privacidad y datos sensibles

La sanidad maneja datos especialmente protegidos:

• Historial clínico
• Imágenes médicas
• Información genética
• Datos biométricos

El AI Act exige medidas reforzadas de protección y trazabilidad.

Explicabilidad clínica

Los profesionales deben poder:

• Comprender recomendaciones
• Justificar decisiones
• Revisar el razonamiento del modelo

La explicabilidad es obligatoria en sistemas de alto riesgo.

🧭 5. Buenas prácticas para cumplimiento en sanidad

• Implementar políticas internas de IA
• Auditar modelos clínicos periódicamente
• Documentar decisiones automatizadas
• Formar a profesionales en supervisión humana
• Revisar proveedores externos de IA
• Garantizar explicabilidad en sistemas críticos
• Mantener trazabilidad completa de modelos clínicos

Generador políticas IA Sanidad