La regulación europea de inteligencia artificial (AI Act) establece un sistema de clasificación por niveles de riesgo para determinar qué obligaciones deben cumplir los distintos sistemas de IA. Este enfoque permite equilibrar la innovación con la protección de los derechos fundamentales y la seguridad.
El AI Act divide los sistemas de IA en cuatro categorías de riesgo: mínimo, limitado, alto e inaceptable.
🟩 1. Riesgo mínimo
Los sistemas de IA de riesgo mínimo son aquellos cuyo impacto sobre la seguridad o los derechos fundamentales es insignificante.
Ejemplos
- Filtros de spam
- Videojuegos con IA
- Recomendaciones básicas de contenido
- Herramientas de productividad sin impacto crítico
Obligaciones
No tienen requisitos específicos. Pueden desarrollarse y utilizarse libremente.
🟨 2. Riesgo limitado
Los sistemas de riesgo limitado son aquellos que interactúan con personas y requieren transparencia para evitar confusión o manipulación.
Obligaciones principales
- Informar al usuario de que está interactuando con una IA.
- Garantizar que el contenido generado pueda identificarse como artificial cuando sea relevante.
Ejemplos
- Chatbots comerciales
- Sistemas de recomendación que influyen en decisiones de compra
- IA generativa usada para crear contenido no crítico
🟧 3. Riesgo alto
Los sistemas de alto riesgo son el núcleo del AI Act. Son aquellos que pueden afectar de forma significativa a la seguridad, la salud o los derechos fundamentales.
Sectores y usos considerados de alto riesgo
- Infraestructuras críticas (energía, transporte, agua)
- Educación y formación (evaluación automatizada)
- Empleo y recursos humanos (cribado de candidatos)
- Servicios financieros (evaluación crediticia)
- Sanidad (diagnóstico asistido por IA)
- Administración pública (evaluación de prestaciones)
- Sistemas biométricos (identificación, verificación)
Obligaciones estrictas
Los proveedores deben cumplir requisitos como:
- Sistema de gestión de riesgos
- Documentación técnica completa
- Datos de entrenamiento de alta calidad y sin sesgos
- Supervisión humana efectiva
- Registro y trazabilidad del funcionamiento
- Ciberseguridad reforzada
- Evaluación de conformidad antes de su comercialización
Los usuarios empresariales también tienen obligaciones:
- Uso conforme a las instrucciones del proveedor
- Monitorización del rendimiento
- Registro de actividades
- Notificación de incidentes graves
🟥 4. Riesgo inaceptable (prohibidos)
El AI Act prohíbe los sistemas de IA que se consideran una amenaza para los derechos fundamentales o la seguridad.
Sistemas prohibidos
- Manipulación subliminal que pueda causar daños
- Puntuación social por parte de autoridades públicas
- Identificación biométrica en tiempo real en espacios públicos, salvo excepciones muy limitadas
- Sistemas que exploten vulnerabilidades de menores o personas con discapacidad
- Clasificación biométrica para inferir rasgos sensibles (religión, orientación sexual, etc.)
Estos sistemas no pueden desarrollarse ni utilizarse en la Unión Europea.
🧭 Resumen visual de la clasificación
- 🟩 Riesgo mínimo → sin obligaciones
- 🟨 Riesgo limitado → transparencia
- 🟧 Riesgo alto → requisitos estrictos
- 🟥 Riesgo inaceptable → prohibidos
🎯 Por qué es importante esta clasificación
La clasificación por niveles de riesgo permite:
- Proteger a los ciudadanos
- Dar seguridad jurídica a empresas y desarrolladores
- Impulsar la innovación responsable
- Establecer un marco común para toda la UE
Es el elemento central del AI Act y la base sobre la que se construyen todas las obligaciones.
Checklist de clasificación de riesgos
Clasificador de Riesgo del AI Act
Responde a las preguntas y pulsa “Clasificar riesgo”. El sistema determinará el nivel de riesgo según el AI Act.