El AI Act establece una categoría de sistemas de inteligencia artificial considerados de riesgo inaceptable, cuya utilización está prohibida en la Unión Europea. Estos sistemas se consideran una amenaza directa para los derechos fundamentales, la seguridad pública o la dignidad humana.
La prohibición es inmediata y no admite excepciones, salvo casos muy concretos y estrictamente regulados.
🟥 1. Manipulación subliminal o conductual
Se prohíben los sistemas de IA diseñados para influir en el comportamiento de una persona de manera subliminal, oculta o explotando vulnerabilidades psicológicas, cuando dicha influencia pueda causar:
- Daño físico
- Daño psicológico significativo
- Pérdida de autonomía
Ejemplos
- Algoritmos que detectan estados emocionales para inducir compras compulsivas
- Sistemas que manipulan decisiones sin que el usuario sea consciente
🟥 2. Explotación de vulnerabilidades de grupos específicos
Prohibidos los sistemas que explotan vulnerabilidades derivadas de:
- Edad (menores)
- Discapacidad
- Situación socioeconómica
- Enfermedad mental
Ejemplos
- IA que manipula a menores para prolongar el uso de plataformas
- Sistemas que presionan a personas con discapacidad cognitiva para tomar decisiones perjudiciales
🟥 3. Puntuación social (social scoring) por autoridades públicas
El AI Act prohíbe cualquier sistema que evalúe o clasifique a personas basándose en:
- Comportamiento social
- Cumplimiento de normas
- Características personales
- Datos obtenidos de múltiples contextos
Y que además genere consecuencias negativas injustificadas.
Ejemplos
- Sistemas que asignan “puntuación de ciudadano”
- Clasificación de individuos para acceso a servicios públicos
🟥 4. Identificación biométrica en tiempo real en espacios públicos
La identificación biométrica remota en tiempo real está prohibida, salvo excepciones muy limitadas relacionadas con:
- Búsqueda de víctimas de delitos graves
- Prevención de amenazas terroristas
- Órdenes judiciales específicas
Ejemplos
- Cámaras que identifican personas automáticamente en calles o estaciones
- Sistemas de reconocimiento facial masivo sin control judicial
🟥 5. Clasificación biométrica para inferir rasgos sensibles
Prohibidos los sistemas que intentan deducir características sensibles como:
- Orientación sexual
- Religión
- Opiniones políticas
- Estado de salud
- Origen étnico
Ejemplos
- IA que analiza rasgos faciales para inferir ideología
- Algoritmos que predicen orientación sexual a partir de fotos
🟥 6. Sistemas que crean bases de datos biométricas sin consentimiento
Se prohíbe la creación de bases de datos biométricas mediante:
- Captura masiva de imágenes
- Rastreo de redes sociales
- Recolección sin consentimiento explícito
Ejemplos
- Bases de datos de reconocimiento facial creadas a partir de fotos públicas
- Sistemas que agregan imágenes de millones de usuarios sin autorización
🧭 Resumen de sistemas prohibidos
- Manipulación subliminal
- Explotación de vulnerabilidades
- Puntuación social
- Identificación biométrica en tiempo real
- Inferencia de rasgos sensibles
- Bases de datos biométricas sin consentimiento
¿Mi sistema está prohibido?
Detector de prácticas prohibidas (AI Act)
Marca si tu sistema de IA realiza alguna de estas prácticas. Pulsa “Evaluar” para ver el resultado.