Última revisión: 16 de agosto de 2026
¿Qué usos de inteligencia artificial están prohibidos por el AI Act?
El Reglamento Europeo de Inteligencia Artificial no se limita a clasificar determinados sistemas como de alto riesgo.
Existe una categoría más severa:
prácticas de inteligencia artificial prohibidas.
Son usos que el legislador europeo considera incompatibles, bajo determinadas condiciones, con derechos fundamentales y valores de la Unión Europea.
Las principales prohibiciones del artículo 5 afectan a sistemas utilizados para:
- manipular de forma perjudicial el comportamiento de las personas;
- explotar determinadas vulnerabilidades;
- realizar ciertas formas de social scoring;
- predecir delitos individuales únicamente mediante perfiles o rasgos personales;
- crear bases de reconocimiento facial mediante recopilación indiscriminada de imágenes;
- inferir emociones en determinados entornos laborales y educativos;
- deducir determinadas características sensibles mediante biometría;
- utilizar identificación biométrica remota en tiempo real por fuerzas de seguridad en espacios públicos, salvo excepciones muy limitadas;
- y, tras la reforma de 2026, generar determinados contenidos íntimos o sexuales no consentidos y material relacionado con abuso sexual infantil.
Las prohibiciones originales del artículo 5 son aplicables desde el 2 de febrero de 2025. Las nuevas prohibiciones introducidas por el Reglamento (UE) 2026/1744 comenzarán a aplicarse el 2 de diciembre de 2026.
Resumen: qué IA está prohibida
| Uso de IA | Situación |
|---|---|
| Manipulación subliminal o deliberadamente engañosa que causa o puede causar daño significativo | 🔴 Prohibida cuando concurren las condiciones del artículo 5 |
| Explotar vulnerabilidades por edad, discapacidad o situación social/económica provocando daño significativo | 🔴 Prohibida |
| Social scoring con consecuencias injustificadas, desproporcionadas o en contextos no relacionados | 🔴 Prohibido |
| Predecir que una persona cometerá un delito únicamente por perfil o personalidad | 🔴 Prohibido |
| Recopilar indiscriminadamente fotos de Internet o CCTV para crear bases de reconocimiento facial | 🔴 Prohibido |
| Inferir emociones de empleados mediante IA | 🔴 Generalmente prohibido, salvo razones médicas o de seguridad |
| Inferir emociones de estudiantes mediante IA | 🔴 Generalmente prohibido, salvo razones médicas o de seguridad |
| Inferir raza, opiniones políticas, religión, orientación sexual, etc. mediante determinadas categorías biométricas | 🔴 Prohibido |
| Reconocimiento facial en tiempo real por policía en espacios públicos | 🔴 Generalmente prohibido, con excepciones estrictas |
| Utilizar reconocimiento facial para desbloquear un teléfono | 🟢 No entra por sí solo en esta prohibición |
| Seleccionar candidatos mediante IA | 🟠 Puede ser alto riesgo, pero no está prohibido automáticamente |
| Evaluar solvencia mediante IA | 🟠 Puede ser alto riesgo, pero no es automáticamente social scoring prohibido |
| Analizar emociones de clientes en un call center | 🟠 No entra automáticamente en la prohibición laboral, aunque puede tener otras obligaciones |
| Generar determinados deepfakes íntimos/sexuales de una persona identificable sin consentimiento | 🔴 Nueva prohibición desde 2 diciembre 2026 |
La principal enseñanza es ésta:
“Alto riesgo” y “prohibido” no significan lo mismo.
Un sistema de IA puede estar sometido a fuertes obligaciones y, sin embargo, poder utilizarse legalmente.
Una práctica prohibida, en cambio, no puede legitimarse simplemente añadiendo más documentación o supervisión humana.
Artículo 5 del AI Act: la categoría de riesgo inaceptable
El AI Act utiliza un enfoque basado en riesgos.
Simplificando, podemos distinguir entre:
Prácticas prohibidas
El uso resulta incompatible con el Reglamento cuando se cumplen las condiciones de la prohibición.
Sistemas de alto riesgo
Pueden utilizarse, pero están sometidos a requisitos y obligaciones especialmente exigentes.
Sistemas sujetos a transparencia
Por ejemplo, determinados chatbots, sistemas de reconocimiento de emociones o contenidos generados mediante IA.
Otros sistemas
Pueden quedar sujetos únicamente a obligaciones generales o a otras normas.
Por eso no debe pensarse:
“Si el AI Act considera algo peligroso, está prohibido.”
No es así.
Muchos de los sistemas que más afectan a personas —selección de trabajadores, crédito, educación, servicios esenciales— se regulan principalmente como alto riesgo, no como prácticas prohibidas.
Puedes ampliar esta diferencia en nuestra guía sobre sistemas de IA de alto riesgo.
1. IA que manipula de forma perjudicial el comportamiento
El artículo 5.1.a prohíbe determinadas prácticas que utilizan:
- técnicas subliminales más allá de la conciencia de la persona;
- técnicas deliberadamente manipuladoras;
- o técnicas engañosas.
Pero hay un matiz importantísimo:
el AI Act no prohíbe toda técnica de persuasión.
Para que opere esta prohibición deben concurrir condiciones adicionales.
La práctica debe alterar materialmente el comportamiento de una persona o grupo, perjudicando de manera apreciable su capacidad para adoptar una decisión informada, llevándola a tomar una decisión que de otra forma no habría tomado y provocando o siendo razonablemente probable que provoque un daño significativo.
¿Significa que la publicidad personalizada con IA está prohibida?
No automáticamente.
Utilizar inteligencia artificial para:
- seleccionar un anuncio;
- recomendar un producto;
- adaptar una oferta;
- personalizar una página;
no constituye por sí solo una práctica prohibida.
Para entrar en el artículo 5.1.a deben cumplirse los elementos relativos a:
manipulación o engaño + alteración sustancial de la capacidad de decidir + decisión diferente + daño significativo o riesgo razonable de ese daño.
Las Directrices de la Comisión distinguen precisamente las prácticas manipulativas prohibidas de formas legítimas de persuasión.
Ejemplo de posible manipulación prohibida
Imaginemos un sistema diseñado específicamente para detectar momentos de especial vulnerabilidad psicológica de una persona y utilizar técnicas imperceptibles para inducirla a realizar repetidamente operaciones que pueden producirle un daño económico significativo.
No bastaría con decir:
“el algoritmo recomienda productos”.
Habría que analizar:
- cómo funciona;
- qué técnicas utiliza;
- qué busca provocar;
- cómo afecta a la autonomía de la persona;
- y qué daño puede producir.
Lo importante no es que la IA influya, sino cómo lo hace
Prácticamente cualquier sistema de recomendación pretende influir de alguna forma:
mira esta película;
compra este producto;
escucha esta canción;
pulsa aquí.
Eso no convierte automáticamente todos los sistemas de recomendación en ilegales.
La línea del artículo 5 está mucho más arriba.
Busca prácticas capaces de interferir de forma particularmente grave en la autonomía y capacidad real de decisión de las personas.
2. Explotar vulnerabilidades de determinadas personas
La segunda prohibición protege especialmente a personas que pueden resultar más vulnerables por:
- su edad;
- una discapacidad;
- una determinada situación social;
- o una determinada situación económica.
El artículo 5.1.b prohíbe utilizar IA para explotar esas vulnerabilidades cuando ello distorsiona materialmente el comportamiento y causa o puede razonablemente causar un daño significativo.
¿Por qué aparecen los menores?
La edad puede incrementar la vulnerabilidad frente a determinadas técnicas.
Por ejemplo, un niño puede:
- comprender peor la intención comercial;
- tener menor capacidad para reconocer manipulación;
- reaccionar de forma distinta ante recompensas;
- tener menor capacidad para valorar consecuencias económicas.
Pero eso tampoco significa:
“Toda IA dirigida a menores está prohibida.”
La prohibición exige explotar esa vulnerabilidad, modificar materialmente el comportamiento y provocar o poder provocar un daño significativo.
Ejemplo: juguete infantil con IA
Un juguete conversacional utiliza inteligencia artificial para hablar con niños.
Eso no está prohibido simplemente porque lo utilicen menores.
Pero imaginemos que está diseñado para:
presionar emocionalmente al niño para que compre contenido adicional;
hacerle sentir culpable si no consigue que sus padres compren algo;
explotar deliberadamente su incapacidad para comprender las técnicas comerciales.
La situación jurídica cambia radicalmente.
Vulnerabilidad económica
El Reglamento no protege únicamente a menores o personas con discapacidad.
También incluye vulnerabilidades derivadas de una situación social o económica específica.
Por ejemplo, podría requerir una atención especial un sistema diseñado para detectar personas en dificultades financieras y explotar precisamente esa situación para inducir comportamientos perjudiciales.
Una empresa no debería interpretar esta prohibición como una regla abstracta.
Debería preguntarse:
¿Nuestro sistema detecta una vulnerabilidad y la utiliza precisamente para influir de forma perjudicial sobre esa persona?
3. Social scoring: cuándo está prohibido puntuar a las personas
El social scoring es probablemente una de las prohibiciones más conocidas y, al mismo tiempo, más malinterpretadas.
El AI Act no establece:
“Está prohibido puntuar a personas mediante IA.”
Eso sería demasiado amplio.
La prohibición afecta a sistemas que evalúan o clasifican personas o grupos durante un periodo de tiempo a partir de:
- su comportamiento social;
- características personales conocidas;
- características inferidas;
- características previstas;
- rasgos de personalidad;
cuando el resultado conduce a determinados tratamientos perjudiciales.
¿Cuándo se convierte el scoring en social scoring prohibido?
Tiene que conducir a una de estas situaciones:
Utilización en contextos no relacionados
Los datos obtenidos en un contexto terminan produciendo consecuencias desfavorables en otro contexto social que no guarda relación.
Consecuencias injustificadas o desproporcionadas
El tratamiento negativo resulta injustificado o desproporcionado respecto del comportamiento que se ha evaluado.
Las Directrices explican que para que opere la prohibición deben concurrir conjuntamente los elementos exigidos por el artículo 5.
Ejemplo sencillo de social scoring
Imaginemos un sistema que combina:
- comportamiento en redes sociales;
- lugares visitados;
- historial de compras;
- relaciones personales;
- opiniones inferidas;
y produce una puntuación general de “ciudadano fiable”.
Esa puntuación se utiliza posteriormente para decidir:
- acceso a determinados servicios;
- condiciones comerciales;
- prioridad administrativa;
sin que exista una relación razonable entre los datos originales y esas decisiones.
Este es el tipo de lógica que busca impedir la prohibición europea.
¿El credit scoring está prohibido?
No automáticamente.
Ésta es una diferencia fundamental.
El propio marco europeo distingue el social scoring prohibido de sistemas legítimos de evaluación de solvencia.
Las Directrices ponen como ejemplo de práctica que puede quedar fuera de la prohibición un sistema de scoring financiero basado en información pertinente para valorar la solvencia y utilizado conforme a la normativa aplicable.
Pero eso no significa que esté libre de regulación.
Los sistemas de IA utilizados para evaluar la solvencia de personas físicas aparecen entre los casos del Anexo III de alto riesgo, con las excepciones previstas por el Reglamento.
Por tanto:
Credit scoring → puede ser alto riesgo.
Social scoring con las condiciones del artículo 5 → prohibido.
No son equivalentes.
¿Un sistema de puntos de fidelización está prohibido?
Tampoco automáticamente.
Dar:
- descuentos;
- ventajas;
- puntos;
- promociones;
en función de compras realizadas no constituye necesariamente social scoring prohibido.
Las Directrices incluso contemplan ejemplos en los que determinados sistemas de puntuación comercial quedan fuera cuando las ventajas son justificadas y proporcionadas y el resto de usuarios mantiene acceso normal al servicio.
4. Predecir quién cometerá un delito únicamente por su perfil
El artículo 5.1.d aborda un escenario especialmente sensible:
utilizar inteligencia artificial para valorar o predecir el riesgo de que una persona cometa un delito basándose únicamente en su perfil, características o rasgos de personalidad.
Esta práctica está prohibida.
La palabra decisiva es “únicamente”
El Reglamento contempla una diferencia importante entre:
Predecir criminalidad por personalidad
“Este individuo tiene determinados rasgos y por ello el sistema considera probable que cometa un delito.”
y:
Ayudar a analizar hechos objetivos existentes
Un sistema puede apoyar una evaluación humana cuando ya existen hechos objetivos y verificables directamente relacionados con una actividad criminal.
Esta segunda situación no queda automáticamente comprendida en la prohibición.
No estamos hablando de predecir delitos en general
También hay que distinguir:
“Existe un 70 % de probabilidad de robo en esta zona entre las 22:00 y las 24:00”
de:
“Juan tiene un 70 % de probabilidad de convertirse en delincuente por sus características personales.”
La prohibición del artículo 5.1.d se centra en la predicción individual del riesgo de cometer delitos basada exclusivamente en perfil o rasgos personales.
Las Directrices de la Comisión proporcionan ejemplos específicos de sistemas que valoran a individuos a partir de características personales sin hechos objetivos directamente vinculados a actividad delictiva.
5. Crear bases de reconocimiento facial recopilando indiscriminadamente imágenes de Internet
Esta prohibición resulta especialmente importante para empresas tecnológicas.
El artículo 5.1.e prohíbe los sistemas de IA que crean o amplían bases de datos de reconocimiento facial mediante la recopilación no dirigida o indiscriminada de imágenes faciales procedentes de:
- Internet;
- o grabaciones de CCTV.
¿Significa que está prohibido todo reconocimiento facial?
No.
Ésta es probablemente una de las simplificaciones más frecuentes al hablar del AI Act.
El Reglamento no dice:
“El reconocimiento facial está prohibido en Europa.”
Prohíbe determinadas prácticas concretas relacionadas con reconocimiento facial y biometría.
En este apartado concreto, lo prohibido es construir o ampliar bases de reconocimiento facial mediante untargeted scraping de imágenes.
Ejemplo: descargar millones de fotografías indiscriminadamente
Imaginemos una empresa que rastrea automáticamente:
- redes sociales;
- páginas corporativas;
- periódicos;
- webs personales;
- vídeos públicos;
y extrae rostros de millones de personas para crear una enorme base biométrica destinada a identificar individuos.
Este es el tipo de práctica que el artículo 5.1.e pretende impedir.
¿Desbloquear el móvil con la cara está prohibido?
No por esta disposición.
La verificación biométrica que sirve simplemente para confirmar:
“esta persona es quien dice ser”
es jurídicamente distinta de crear enormes bases de reconocimiento facial a partir de scraping indiscriminado o realizar identificación biométrica remota de multitudes.
Por eso conviene evitar titulares como:
“Europa prohíbe el reconocimiento facial”.
La realidad es bastante más matizada.
6. Reconocer emociones de trabajadores con IA
Ésta es una prohibición especialmente relevante para empresas.
El artículo 5.1.f prohíbe utilizar sistemas de IA para inferir emociones de personas en el ámbito laboral, salvo cuando el sistema responda a razones médicas o de seguridad.
Ejemplo: analizar el rostro del trabajador para medir su estado emocional
Una empresa instala cámaras con un software que analiza:
- expresiones faciales;
- voz;
- gestos;
para inferir si cada empleado está:
- contento;
- enfadado;
- aburrido;
- nervioso;
- satisfecho;
- desmotivado.
Si el objetivo es inferir emociones en el lugar de trabajo, nos encontramos precisamente ante el tipo de práctica al que se dirige el artículo 5.1.f.
¿Y medir el cansancio de un conductor o piloto?
Aquí aparece la excepción.
El artículo permite determinados usos cuando responden a razones médicas o de seguridad.
Por ejemplo, la propia Comisión utiliza el supuesto del control del cansancio de un piloto como ejemplo de una posible finalidad de seguridad.
La excepción no debería interpretarse como:
“si la empresa dice que mejora el bienestar, ya está permitido.”
Debe existir realmente la finalidad médica o de seguridad correspondiente.
¿Analizar productividad está prohibido?
No necesariamente.
Hay que distinguir entre:
medir cuántas llamadas gestiona una persona;
medir cuánto tarda en completar una tarea;
y:
inferir mediante biometría o señales personales que está triste, enfadada o desmotivada.
Son cuestiones diferentes.
Otros sistemas de monitorización de trabajadores pueden estar clasificados como alto riesgo, aunque no entren dentro de esta prohibición concreta.
Consulta nuestra guía sobre IA en Recursos Humanos y AI Act.
Una consecuencia práctica para RRHH
Si un proveedor ofrece a una empresa funciones como:
“detecta el estado emocional de tus empleados”;
“mide automáticamente la motivación del equipo”;
“identifica trabajadores frustrados mediante la webcam”;
no basta con preguntar si el proveedor cumple el RGPD.
Primero hay que plantear una cuestión todavía más básica:
¿Estamos ante una práctica directamente prohibida por el artículo 5?
Eso debería formar parte de cualquier evaluación previa de proveedores de IA.
7. Reconocimiento de emociones en colegios y centros educativos
La misma prohibición se aplica en instituciones educativas.
Con carácter general, un sistema de IA no puede utilizarse para inferir emociones de estudiantes en ese entorno, salvo las excepciones médicas o de seguridad contempladas por el Reglamento.
Ejemplo: cámara que mide atención del alumnado
Imaginemos una plataforma que utiliza la webcam para determinar continuamente:
- aburrimiento;
- interés;
- estrés;
- frustración;
- entusiasmo;
de cada alumno.
No deberíamos analizar este sistema únicamente como una herramienta educativa.
La primera pregunta debe ser si realiza inferencia de emociones dentro de una institución educativa.
Si es así, puede entrar directamente en la prohibición del artículo 5.1.f.
No toda IA educativa está prohibida
Por ejemplo, el AI Act contempla como potencialmente alto riesgo determinados sistemas utilizados para:
- admisión;
- evaluación de resultados;
- determinar niveles educativos;
- supervisar comportamientos prohibidos durante exámenes.
Eso significa que algunas aplicaciones educativas pueden utilizarse con las condiciones regulatorias correspondientes.
Otras, como determinada inferencia emocional, entran en una categoría distinta: prohibición.
Puedes ampliar esta cuestión en IA en educación: riesgos y obligaciones.
¿Puede una IA analizar las emociones de clientes?
Aquí aparece otro matiz interesante.
La prohibición del artículo 5.1.f se refiere específicamente a:
- ámbito laboral;
- instituciones educativas.
Un sistema utilizado en un call center para inferir emociones de clientes no queda automáticamente prohibido por este apartado simplemente porque realice reconocimiento emocional.
De hecho, la documentación oficial europea utiliza como ejemplo de sistema de reconocimiento emocional uno que analiza la voz de clientes en centros de llamadas para inferir satisfacción, enfado u otras emociones.
Eso no significa que pueda utilizarse sin restricciones.
Puede implicar:
- obligaciones de transparencia;
- protección de datos;
- análisis de biometría;
- y otras obligaciones.
El artículo 50 establece, además, que quienes desplieguen determinados sistemas de reconocimiento emocional deben informar a las personas expuestas a ellos cuando la práctica sea legal.
Por tanto:
reconocimiento emocional permitido no significa reconocimiento emocional libre de obligaciones.
8. Categorizar biométricamente a una persona para inferir características sensibles
El artículo 5.1.g prohíbe determinados sistemas de categorización biométrica que utilizan datos biométricos de una persona para deducir o inferir características especialmente sensibles.
Entre ellas:
- raza;
- opiniones políticas;
- afiliación sindical;
- creencias religiosas;
- creencias filosóficas;
- vida sexual;
- orientación sexual.
Ejemplo: intentar inferir orientación sexual mediante una fotografía
Un sistema analiza el rostro de una persona e intenta determinar:
orientación sexual probable.
Esta es precisamente una de las características expresamente contempladas por la prohibición.
Lo mismo ocurre con sistemas que pretendan inferir, a partir de biometría:
- opiniones políticas;
- religión;
- afiliación sindical.
¿Toda clasificación de imágenes está prohibida?
No.
El propio artículo 5 establece que la prohibición no comprende todo etiquetado o filtrado de conjuntos de datos biométricos adquiridos legalmente.
Por ejemplo, clasificar fotografías de un conjunto de datos en función de ciertas características observables para organizar el propio dataset puede plantear una situación diferente.
La línea roja aparece cuando el sistema categoriza individualmente personas mediante sus datos biométricos para inferir las características sensibles especificadas por el Reglamento.
9. Identificación biométrica remota en tiempo real por fuerzas de seguridad
El último de los bloques originales del artículo 5 afecta al uso de sistemas de identificación biométrica remota en tiempo real en espacios de acceso público para fines policiales.
La regla general es la prohibición.
Pero existen excepciones limitadas y sometidas a condiciones estrictas.
¿Cuándo puede existir una excepción?
El Reglamento contempla tres grandes situaciones:
Búsqueda de víctimas concretas
Por ejemplo:
- secuestro;
- trata de seres humanos;
- explotación sexual;
- personas desaparecidas.
Prevención de amenazas especialmente graves
Una amenaza:
- específica;
- sustancial;
- e inminente
contra la vida o seguridad física de personas, o determinadas amenazas terroristas.
Localización o identificación de sospechosos de determinados delitos graves
Dentro de las condiciones y umbrales establecidos por el Reglamento.
Incluso en estas excepciones no existe libertad total
Cuando un Estado permite alguno de esos usos, el Reglamento exige fuertes salvaguardias.
Entre ellas aparecen cuestiones como:
- necesidad;
- proporcionalidad;
- limitaciones temporales;
- limitaciones geográficas;
- limitaciones personales;
- evaluación de impacto sobre derechos fundamentales;
- registro;
- autorización judicial o de una autoridad administrativa independiente vinculante.
En situaciones justificadas de urgencia existe un mecanismo excepcional de autorización posterior dentro del plazo previsto, y si ésta se rechaza deben cesar el uso y eliminarse los datos y resultados correspondientes.
¿Una cámara de seguridad normal está prohibida?
No.
El artículo no prohíbe las cámaras de videovigilancia como tales.
Tampoco cualquier software capaz de detectar:
- objetos;
- movimiento;
- matrículas;
- aforo.
La prohibición tiene elementos específicos:
identificación biométrica remota + tiempo real + espacio públicamente accesible + finalidad policial.
Hay que comprobar todos ellos.
NUEVO EN 2026: IA para generar contenido íntimo o sexual no consentido
El AI Omnibus ha añadido al artículo 5 una nueva prohibición especialmente importante.
Se incorpora como artículo 5.1.ba la prohibición de determinados sistemas de IA que generan o manipulan representaciones realistas de una persona natural identificable mostrando:
- partes íntimas;
- o actividades sexualmente explícitas,
cuando no existe el consentimiento libre, específico, informado, inequívoco y explícito de esa persona.
Esta prohibición comienza a aplicarse el 2 de diciembre de 2026.
Las aplicaciones de “nudificación” entran directamente en el foco
La reforma europea menciona expresamente el fenómeno de las aplicaciones habitualmente descritas como nudification apps.
Son sistemas capaces de transformar fotografías ordinarias para producir imágenes artificiales aparentemente desnudas o sexualizadas de personas reales.
El legislador europeo justifica la nueva prohibición por el daño que este tipo de contenido puede provocar sobre:
- dignidad;
- autonomía;
- integridad;
- vida privada;
- salud y bienestar de las víctimas.
No basta con poner “generado por IA”
Esto enlaza directamente con nuestra guía sobre deepfakes y AI Act.
Para un deepfake ordinario, el artículo 50 puede exigir transparencia:
informar de que el contenido fue generado o manipulado mediante IA.
Pero si estamos ante una práctica prohibida por el nuevo artículo 5.1.ba:
etiquetar el contenido no convierte la práctica en lícita.
Es la diferencia entre:
Transparencia
“Puedes hacer esto si cumples determinadas obligaciones de información.”
y:
Prohibición
“No puedes realizar esta práctica cuando se cumplen las condiciones legales.”
¿Qué consentimiento exige la nueva regla?
No basta con una autorización genérica.
El texto exige que el consentimiento para la generación o manipulación sea:
- libre;
- específico;
- informado;
- inequívoco;
- y explícito.
Además, la reforma detalla el tipo de contenido realista al que se dirige y contempla determinados supuestos médicos y otras situaciones específicas.
La prohibición también afecta al diseño del propio sistema
Esta es una parte especialmente interesante del cambio de 2026.
La nueva regulación no se limita a quien utiliza intencionadamente una herramienta para producir ese contenido.
Para los proveedores, la prohibición puede afectar a la comercialización o puesta en servicio de sistemas cuando:
- generar ese material constituye su finalidad prevista;
o
- su diseño, entrenamiento, arquitectura, capacidades o funcionalidades hacen que ese resultado sea razonablemente previsible y reproducible y no existan medidas técnicas y salvaguardias razonables y adecuadas para impedirlo.
Esto significa que los guardrails dejan de ser únicamente una decisión reputacional en este contexto.
La propia arquitectura preventiva del producto puede tener importancia jurídica.
¿Y si un modelo genera accidentalmente ese contenido?
La reforma introduce aquí un matiz importante.
Respecto del responsable del despliegue, el uso se prohíbe cuando la persona u organización utiliza el sistema con la finalidad de generar o manipular el material prohibido.
Los considerandos aclaran que la generación accidental no debe equipararse automáticamente a utilizar deliberadamente el sistema para esa finalidad.
Eso no elimina la necesidad de que los proveedores implanten las medidas preventivas correspondientes.
Pero evita interpretar la norma como si cualquier salida accidental convirtiera automáticamente en infractor a todo usuario del sistema.
También se añade una prohibición sobre material de abuso sexual infantil
El nuevo artículo 5.1.bb cubre determinados sistemas destinados a generar o manipular material o representaciones incluidas en la normativa europea relativa al abuso sexual infantil, con la excepción jurídica específica prevista cuando exista una defensa de actuación legítima conforme a la legislación nacional.
La reforma explica expresamente que el objetivo alcanza también material total o parcialmente sintético.
Esta nueva disposición comenzará igualmente a aplicarse el 2 de diciembre de 2026.
Entonces, ¿hay 8, 9 o 10 prácticas prohibidas?
Puede aparecer cierta confusión en artículos publicados en Internet.
El texto original del artículo 5 contenía ocho apartados principales:
(a) a (h).
El AI Omnibus añade ahora dos nuevos puntos:
(ba) y (bb).
Sin embargo, la Comisión Europea presenta públicamente esta reforma como una novena prohibición, agrupando la nueva categoría relativa a generación de contenido íntimo no consentido y material de abuso sexual infantil.
Por eso, para evitar una simplificación engañosa, es más preciso hablar de:
las prácticas prohibidas del artículo 5 y las nuevas prohibiciones añadidas en 2026
en lugar de intentar reducir todo el artículo a un simple número.
Algo muy importante: no todo lo preocupante está prohibido
Hay muchos sistemas que intuitivamente pueden parecer especialmente sensibles y que, sin embargo, no están prohibidos.
Por ejemplo:
IA para seleccionar candidatos
No está prohibida en general.
Puede estar clasificada como alto riesgo.
IA para evaluar trabajadores
No está prohibida automáticamente.
Determinados usos son de alto riesgo.
Pero inferir sus emociones sí puede entrar en la prohibición específica.
IA para evaluar solvencia
No es automáticamente social scoring prohibido.
Determinados sistemas de evaluación crediticia son de alto riesgo.
IA para evaluar alumnos
Puede ser alto riesgo.
Inferir sus emociones en el centro educativo, en cambio, entra generalmente en la prohibición.
Reconocimiento facial
No está prohibido en todas sus modalidades.
Existen prohibiciones muy específicas sobre:
- scraping indiscriminado para crear bases faciales;
- determinados usos biométricos;
- identificación biométrica remota en tiempo real para fuerzas de seguridad.
Prohibido vs alto riesgo: una tabla para entenderlo
| Ejemplo | Clasificación orientativa |
|---|---|
| IA que filtra CV para contratar | Alto riesgo |
| IA que evalúa rendimiento de trabajadores | Alto riesgo en determinados usos |
| IA que infiere emociones de trabajadores | Prohibida, salvo excepción médica/seguridad |
| IA que evalúa admisión educativa | Alto riesgo |
| IA que analiza resultados académicos | Alto riesgo |
| IA que infiere emociones del alumnado | Prohibida, salvo excepción |
| IA para credit scoring | Alto riesgo en los casos contemplados |
| Social scoring con consecuencias injustas o descontextualizadas | Prohibido |
| Identificación biométrica remota | Puede ser alto riesgo o estar prohibida según modalidad/contexto |
| Deepfake ordinario | Transparencia |
| Determinado deepfake íntimo no consentido | Prohibido desde diciembre de 2026 |
Esta diferencia resulta esencial para aplicar correctamente el Reglamento.
Una empresa puede infringir el artículo 5 aunque no haya desarrollado la IA
Otro error sería pensar:
“La prohibición solo afecta a quien crea el software.”
No.
El artículo 5 utiliza, dependiendo de la práctica, conceptos como:
- colocar en el mercado;
- poner en servicio;
- utilizar.
Por tanto, puede afectar tanto al proveedor como al responsable del despliegue, según el supuesto concreto.
Ejemplo: software de RRHH comprado a un tercero
Una empresa adquiere una plataforma estadounidense que incluye una función denominada:
“Employee Emotion Insights”.
La herramienta analiza por webcam a los trabajadores y asigna valores como:
- satisfacción;
- frustración;
- entusiasmo;
- ansiedad.
La empresa no ha desarrollado el sistema.
Pero eso no significa que pueda utilizarlo libremente.
El uso del sistema puede ser precisamente el elemento prohibido por el artículo 5.1.f.
Por eso la evaluación de proveedores debe analizar no solo:
“¿Cumple el proveedor?”
sino:
“¿Está permitido el uso que nosotros pretendemos hacer?”
La política interna de IA debería contener una lista roja
Muchas políticas internas dicen:
“No introducir información confidencial en ChatGPT.”
Es útil, pero insuficiente.
Una política de gobernanza madura debería incorporar una lista de usos que no pueden autorizarse.
Por ejemplo:
Usos prohibidos o sujetos a bloqueo interno
- inferir emociones de empleados mediante IA;
- inferir emociones de estudiantes fuera de las excepciones previstas;
- inferir determinadas características sensibles mediante biometría;
- crear contenido íntimo artificial de personas sin el consentimiento exigido;
- crear sistemas de social scoring prohibido;
- utilizar IA para predecir criminalidad individual únicamente por rasgos personales;
- utilizar técnicas manipulativas que cumplan las condiciones del artículo 5.
Puedes utilizar nuestra guía sobre política de uso de IA en la empresa.
Checklist: cómo comprobar si un uso puede estar prohibido
Antes de implantar un sistema de IA, una organización puede hacerse estas preguntas:
- ¿El sistema intenta influir en el comportamiento de una persona?
- ¿Utiliza técnicas subliminales, deliberadamente manipuladoras o engañosas?
- ¿Puede afectar de forma apreciable a su capacidad de decidir?
- ¿Puede provocar un daño significativo?
- ¿La persona pertenece a un grupo vulnerable por edad?
- ¿Existe una discapacidad que el sistema esté explotando?
- ¿Está explotando una situación social o económica concreta?
- ¿Asigna una puntuación general a personas por su comportamiento o características?
- ¿Esa puntuación produce consecuencias en contextos distintos?
- ¿Las consecuencias pueden ser injustificadas o desproporcionadas?
- ¿Predice que una persona cometerá delitos?
- ¿Lo hace únicamente a partir de perfil, personalidad o características personales?
- ¿Recopila indiscriminadamente rostros de Internet o CCTV?
- ¿Está creando o ampliando una base de reconocimiento facial?
- ¿Intenta inferir emociones?
- ¿Las personas analizadas son trabajadores?
- ¿Son estudiantes?
- ¿Existe realmente una finalidad médica o de seguridad?
- ¿Utiliza biometría para inferir raza, religión, política, afiliación sindical, vida sexual u orientación sexual?
- ¿Realiza identificación biométrica remota?
- ¿Es en tiempo real?
- ¿Se utiliza en espacios accesibles al público?
- ¿Se utiliza para fines policiales?
- ¿Genera contenido íntimo o sexual realista de una persona identificable?
- ¿Existe el consentimiento específico, informado, inequívoco y explícito exigido?
- ¿Se han revisado las nuevas prohibiciones aplicables desde diciembre de 2026?
Si alguna respuesta conduce hacia un supuesto del artículo 5, no debería continuarse simplemente con el checklist general de alto riesgo.
Primero debe resolverse si la práctica está permitida.
Un buen orden para evaluar cualquier sistema de IA
Para una empresa, el análisis podría hacerse así:
Paso 1 — ¿Es realmente un sistema de IA?
No toda automatización entra necesariamente en la definición del Reglamento.
Paso 2 — ¿Está dentro del ámbito del AI Act?
Analizar ámbito territorial y excepciones.
Paso 3 — ¿Realiza alguna práctica prohibida?
Esta pregunta debe ir antes que la clasificación de alto riesgo.
Paso 4 — Si no está prohibido, ¿es de alto riesgo?
Analizar artículo 6 y anexos.
Paso 5 — ¿Tiene obligaciones de transparencia?
Por ejemplo:
- chatbot;
- reconocimiento emocional permitido;
- categorización biométrica permitida;
- contenido generado mediante IA;
- deepfakes.
Paso 6 — ¿Qué otras obligaciones existen?
Por ejemplo:
- alfabetización en IA;
- RGPD;
- consumidores;
- propiedad intelectual;
- normativa sectorial.
Puedes realizar una primera comprobación con nuestra herramienta ¿Mi IA está regulada? y después consultar el checklist de obligaciones del AI Act.
Las Directrices de la Comisión son especialmente importantes
La redacción del artículo 5 contiene conceptos jurídicos que necesitan interpretación:
- “daño significativo”;
- “manipulación”;
- “vulnerabilidad”;
- “social scoring”;
- “inferir emociones”;
- “recopilación no dirigida”;
- “identificación biométrica remota”.
Por ello, la Comisión Europea publicó unas Directrices específicas sobre las prácticas prohibidas.
Estas desarrollan los requisitos de cada prohibición y proporcionan numerosos ejemplos de situaciones:
- incluidas;
- excluidas;
- o que requieren valoración contextual.
Las Directrices sirven como referencia interpretativa para operadores y autoridades, aunque la interpretación jurídicamente vinculante del Derecho de la UE corresponde en última instancia a los tribunales.
Un error frecuente: buscar palabras prohibidas en la ficha comercial
No basta con comprobar si el proveedor utiliza términos como:
emoción;
scoring;
biometría;
profiling.
La clasificación depende de qué hace realmente el sistema.
Por ejemplo:
“Emotion AI”
Podría analizar emociones de clientes y no entrar en la prohibición específica del artículo 5.1.f.
“Employee analytics”
Podría no mencionar la palabra emoción, pero inferirla realmente mediante voz y rostro de trabajadores.
La segunda situación podría resultar mucho más problemática.
Por eso hay que analizar:
- finalidad;
- inputs;
- outputs;
- personas afectadas;
- decisiones posteriores;
- contexto real de utilización.
¿Qué sanción puede tener una práctica prohibida?
El incumplimiento de las prohibiciones del artículo 5 se encuentra en el nivel sancionador más elevado del AI Act.
Con carácter general, puede dar lugar a multas administrativas de hasta:
35 millones de euros
o, cuando el infractor sea una empresa:
hasta el 7 % del volumen de negocio mundial anual total del ejercicio financiero anterior,
aplicándose el criterio previsto por el Reglamento.
Para las pymes, incluidas las startups, el artículo 99 establece el límite más favorable entre el porcentaje y la cantidad fija correspondiente.
No significa que toda infracción termine en 35 millones
El Reglamento obliga a considerar las circunstancias concretas.
Entre otras:
- naturaleza;
- gravedad;
- duración;
- consecuencias;
- número de personas afectadas;
- nivel del daño;
- intencionalidad o negligencia;
- cooperación con las autoridades;
- medidas correctoras adoptadas.
Por tanto, los 35 millones o el 7 % son límites máximos, no una tarifa automática.
¿Desde cuándo pueden sancionarse las prácticas prohibidas?
Las prohibiciones originales comenzaron a aplicarse el 2 de febrero de 2025.
Las nuevas prohibiciones introducidas por el AI Omnibus sobre:
- determinado contenido íntimo/sexual no consentido;
- y material relacionado con abuso sexual infantil
se aplicarán desde el 2 de diciembre de 2026.
Por tanto, no debe afirmarse de forma general:
“Todas las prácticas prohibidas del artículo 5 empezaron a aplicarse en febrero de 2025.”
Después de la reforma de 2026 esa frase ya no es completamente correcta.
¿Qué puede hacer una persona afectada por una práctica prohibida?
El AI Act reconoce el derecho de las personas físicas y jurídicas a presentar una reclamación ante una autoridad de vigilancia del mercado cuando consideren que se ha infringido el Reglamento.
El marco europeo cuenta además con una herramienta de reclamaciones vinculada al AI Act.
Dependiendo del caso, pueden coexistir también otras vías relacionadas con:
- protección de datos;
- discriminación;
- relaciones laborales;
- consumidores;
- intimidad;
- derecho a la propia imagen;
- normativa penal.
Consulta nuestra guía completa sobre cómo reclamar por un sistema de inteligencia artificial.
Preguntas frecuentes sobre las prácticas prohibidas del AI Act
¿Qué es una práctica de IA prohibida?
Es una utilización, comercialización o puesta en servicio de un sistema de IA que cumple alguno de los supuestos específicamente prohibidos por el artículo 5 del Reglamento.
No toda IA peligrosa es una práctica prohibida.
¿Desde cuándo están prohibidos estos sistemas?
Las prohibiciones originales del artículo 5 son aplicables desde el 2 de febrero de 2025.
Las nuevas prohibiciones incorporadas en 2026 relativas a determinados contenidos íntimos no consentidos y material de abuso sexual infantil se aplicarán desde el 2 de diciembre de 2026.
¿Está prohibida la inteligencia artificial en Recursos Humanos?
No.
Muchos sistemas de RRHH pueden utilizarse, aunque determinados usos están clasificados como alto riesgo.
Una excepción importante es la inferencia de emociones de personas dentro del ámbito laboral, que está prohibida salvo razones médicas o de seguridad.
¿Puede una empresa analizar las emociones de sus trabajadores?
Con carácter general, el artículo 5 prohíbe utilizar sistemas de IA para inferir emociones de personas en el ámbito laboral.
Existe una excepción cuando la finalidad sea médica o de seguridad.
¿Puede un colegio utilizar IA para saber si un alumno está aburrido?
La inferencia de emociones mediante IA en instituciones educativas está, con carácter general, prohibida.
Existen las excepciones médicas o de seguridad previstas en el Reglamento.
¿Está prohibido el reconocimiento facial en Europa?
No en todas sus formas.
El AI Act prohíbe prácticas concretas, entre ellas:
- creación o ampliación de bases faciales mediante scraping indiscriminado de Internet o CCTV;
- determinados usos de categorización biométrica;
- y determinados usos policiales de identificación biométrica remota en tiempo real.
Otros sistemas biométricos pueden estar permitidos y, en algunos casos, clasificarse como alto riesgo.
¿Face ID está prohibido por el AI Act?
No por el simple hecho de utilizar el rostro para verificar que el propietario de un dispositivo es quien afirma ser.
La verificación biométrica y la identificación biométrica remota de personas son conceptos diferentes.
¿Está prohibido utilizar IA para credit scoring?
No automáticamente.
Los sistemas destinados a evaluar solvencia pueden estar clasificados como alto riesgo, pero eso es distinto del social scoring prohibido del artículo 5.
¿Está prohibida la publicidad personalizada con IA?
No por sí sola.
Para entrar en la prohibición de manipulación deben concurrir los elementos específicos del artículo 5, incluido el deterioro apreciable de la capacidad para adoptar una decisión informada y el daño significativo o su riesgo razonable.
¿Está prohibido utilizar IA para predecir delitos?
Está prohibido evaluar o predecir el riesgo de que una persona cometa un delito cuando la valoración se basa únicamente en su perfil o en rasgos y características personales.
El Reglamento contempla una excepción para determinados sistemas que apoyan una evaluación humana ya basada en hechos objetivos y verificables directamente relacionados con actividad delictiva.
¿Está prohibido un sistema que reconoce emociones de clientes?
No automáticamente por el artículo 5.1.f, que se refiere a los ámbitos laboral y educativo.
Pero puede tener otras obligaciones, incluida la transparencia frente a las personas afectadas.
¿Los deepfakes están prohibidos?
No todos.
Los deepfakes están principalmente sujetos a obligaciones de transparencia del artículo 50.
Sin embargo, desde el 2 de diciembre de 2026, determinados contenidos íntimos o sexuales realistas generados o manipulados mediante IA sobre personas identificables sin el consentimiento exigido pasan a estar incluidos en una nueva prohibición del artículo 5.
Consulta nuestra guía completa sobre deepfakes y AI Act.
¿Poner supervisión humana convierte en legal una práctica prohibida?
No necesariamente.
La supervisión humana puede ser una obligación o garantía fundamental para determinados sistemas de alto riesgo.
Pero una práctica que reúne los elementos de una prohibición del artículo 5 no deja automáticamente de estar prohibida simplemente porque una persona supervise su resultado.
¿Una empresa pequeña también tiene que cumplir el artículo 5?
Sí.
Las prohibiciones no desaparecen por tratarse de una pyme.
El tamaño de la organización sí se tiene en cuenta en el régimen sancionador y en medidas de proporcionalidad.
Consulta nuestra guía del AI Act para pymes.
Diez preguntas que deberían hacer las empresas antes de comprar una IA
Si una organización quiere incorporar un nuevo sistema, debería preguntar al proveedor:
1. ¿Qué finalidad tiene exactamente el sistema?
2. ¿Sobre qué personas actúa?
3. ¿Realiza perfiles o puntuaciones individuales?
4. ¿Intenta inferir emociones?
5. ¿Utiliza información biométrica?
6. ¿Qué características intenta inferir mediante esa biometría?
7. ¿Influye deliberadamente en decisiones de personas vulnerables?
8. ¿Ha sido diseñado para generar contenido íntimo o sexual realista?
9. ¿Qué salvaguardias impiden usos prohibidos?
10. ¿Podemos desactivar funcionalidades que nuestra organización no deba utilizar?
Una respuesta comercial como:
“La solución cumple con el AI Act”
no sustituye este análisis.
La organización debe entender qué funcionalidades va a utilizar realmente.
Conclusión: antes de preguntar qué obligaciones tiene una IA, hay que comprobar si puede utilizarse
El análisis del AI Act suele empezar con una pregunta:
¿Este sistema es de alto riesgo?
Pero existe una pregunta anterior:
¿La práctica está permitida?
Esta diferencia es fundamental.
El artículo 5 establece límites particularmente estrictos para usos relacionados con:
- manipulación dañina;
- explotación de vulnerabilidades;
- social scoring;
- predicción individual de criminalidad basada exclusivamente en perfiles;
- creación indiscriminada de bases de reconocimiento facial;
- emociones en trabajo y educación;
- categorización biométrica sensible;
- identificación biométrica remota policial en tiempo real;
- y, desde diciembre de 2026, determinadas formas de generación de contenido íntimo no consentido y material de abuso sexual infantil.
Algunas de estas prohibiciones contienen excepciones.
Otras exigen varias condiciones acumulativas.
Por eso no resulta correcto convertir el artículo 5 en una lista simplista de tecnologías prohibidas.
Europa no ha prohibido:
“la biometría”.
No ha prohibido:
“los algoritmos que puntúan”.
No ha prohibido:
“la IA en Recursos Humanos”.
No ha prohibido:
“el reconocimiento de emociones en cualquier circunstancia”.
Ha prohibido prácticas concretas, definidas según su finalidad, contexto, personas afectadas y consecuencias.
Y para una empresa, esa distinción tiene una consecuencia práctica inmediata:
antes de evaluar cómo cumplir con un sistema de IA, hay que comprobar que el uso previsto no se encuentre directamente dentro del artículo 5.
Recursos relacionados en IA Regulación
- Sistemas de IA de alto riesgo
- Deepfakes y AI Act
- IA en Recursos Humanos
- IA en educación
- AI Act para pymes
- Política de uso de IA en la empresa
- ¿Mi IA está regulada?
- Checklist de obligaciones del AI Act
- Cómo reclamar por un sistema de inteligencia artificial
- Qué cambió el 2 de agosto de 2026
Fuentes oficiales principales
Esta guía se ha elaborado utilizando, entre otras, las siguientes fuentes primarias y documentación institucional europea:
- Reglamento (UE) 2024/1689 — Reglamento Europeo de Inteligencia Artificial.
- Texto consolidado del AI Act vigente desde el 27 de julio de 2026.
- Reglamento (UE) 2026/1744 — Digital Omnibus on AI.
- Directrices de la Comisión Europea sobre las prácticas prohibidas de inteligencia artificial.
- AI Act Service Desk de la Comisión Europea.
- Información oficial de la Comisión Europea sobre el calendario de aplicación del AI Act.
Nota jurídica
Este contenido tiene finalidad informativa y divulgativa y no constituye asesoramiento jurídico. La aplicación del artículo 5 depende de las características concretas del sistema, su finalidad prevista, su utilización real, las personas afectadas y el contexto en el que se despliega.