La inteligencia artificial está transformando el funcionamiento de las administraciones públicas: gestión de expedientes, evaluación de prestaciones, análisis de riesgos, seguridad ciudadana y optimización de recursos. Debido a su impacto directo en derechos fundamentales, el AI Act clasifica muchos sistemas de IA utilizados por el sector público como alto riesgo y establece obligaciones estrictas para su uso.

Esta guía explica cómo se aplica la regulación europea de IA en administraciones públicas, qué usos están permitidos, qué obligaciones deben cumplir las instituciones y qué riesgos deben gestionar.

🧩 1. Usos habituales de IA en administraciones públicas

Evaluación automatizada de prestaciones (alto riesgo)

La IA se utiliza para:

• Determinar acceso a ayudas sociales
• Evaluar prestaciones económicas
• Analizar requisitos de subvenciones
• Priorizar expedientes

Clasificación: alto riesgo, porque afecta directamente a derechos sociales y económicos.

Gestión de expedientes y tramitación

Modelos que automatizan:

• Clasificación documental
• Priorización de solicitudes
• Detección de errores
• Enrutamiento inteligente

Clasificación: depende del impacto. Si influye en decisiones administrativas relevantes, puede ser alto riesgo.

Predicción de riesgos y análisis poblacional

IA aplicada a:

• Identificación de zonas de riesgo
• Planificación de recursos públicos
• Predicción de emergencias

Clasificación: alto riesgo si afecta a decisiones que impactan en derechos ciudadanos.

Sistemas de seguridad y vigilancia

Incluye:

• Análisis de vídeo
• Detección de comportamientos anómalos
• Sistemas de alerta temprana

Clasificación: alto riesgo, salvo usos prohibidos (ver más abajo).

Chatbots y asistentes públicos

Usados para:

• Resolver dudas
• Guiar trámites
• Ofrecer información personalizada

Clasificación: riesgo limitado, con obligación de transparencia.

🟥 2. Usos prohibidos en administraciones públicas

El AI Act prohíbe ciertos usos que pueden vulnerar derechos fundamentales:

• Puntuación social basada en comportamiento ciudadano
• Inferencia de rasgos sensibles (religión, orientación sexual, salud) para decisiones administrativas
• Manipulación subliminal para influir en decisiones públicas
• Bases de datos biométricas sin consentimiento
• Identificación biométrica en tiempo real en espacios públicos, salvo excepciones judiciales muy limitadas

🟧 3. Obligaciones para administraciones públicas y proveedores

Las administraciones que desarrollan o utilizan IA deben cumplir obligaciones específicas según el nivel de riesgo del sistema.

Obligaciones para sistemas de alto riesgo

Aplican a:

• Evaluación de prestaciones
• Sistemas de seguridad no prohibidos
• Modelos que influyen en decisiones administrativas
• IA que afecta a derechos ciudadanos

Requisitos:

• Gestión de riesgos documentada
• Calidad de datos (representativos, sin sesgos)
• Supervisión humana obligatoria en decisiones administrativas
• Trazabilidad y registro de actividades
• Documentación técnica completa
• Evaluación de conformidad antes de su uso
• Notificación de incidentes graves

Obligaciones para sistemas de riesgo limitado

Aplican a:

• Chatbots públicos
• IA generativa para información ciudadana
• Herramientas de apoyo no decisivo

Requisitos:

• Transparencia: informar al ciudadano de que interactúa con IA
• Información clara sobre capacidades y limitaciones

🧭 4. Riesgos específicos del uso de IA en administraciones públicas

Sesgos en decisiones administrativas

La IA puede discriminar por:

• Nivel socioeconómico
• Zona de residencia
• Historial administrativo
• Variables indirectas que correlacionan con origen étnico o género

El AI Act exige mitigación y auditoría.

Impacto en derechos fundamentales

Errores en IA pueden afectar:

• Acceso a ayudas
• Reconocimiento de derechos
• Sanciones administrativas
• Prioridad en servicios públicos

Requiere supervisión humana obligatoria.

Transparencia y explicabilidad

Los ciudadanos deben poder:

• Comprender decisiones automatizadas
• Solicitar revisión humana
• Acceder a información clara sobre el sistema

La explicabilidad es obligatoria en sistemas de alto riesgo.

Privacidad y datos sensibles

El sector público maneja datos especialmente protegidos:

• Información social
• Datos económicos
• Datos biométricos
• Historial administrativo

El AI Act exige medidas reforzadas de protección.

🧭 5. Buenas prácticas para cumplimiento en administraciones públicas

• Implementar políticas internas de IA
• Auditar modelos administrativos periódicamente
• Documentar decisiones automatizadas
• Formar a empleados públicos en supervisión humana
• Revisar proveedores externos de IA
• Garantizar explicabilidad en sistemas críticos
• Mantener trazabilidad completa de modelos administrativos

Generador Política IA Administraciones Públicas