Última actualización: 10 de agosto de 2026.

Un sistema de inteligencia artificial no se considera de alto riesgo simplemente porque utilice una tecnología avanzada, trate muchos datos o sea importante para una empresa.

La clasificación depende principalmente de para qué se utiliza y de las consecuencias que ese uso puede tener sobre la seguridad, la salud o los derechos fundamentales.

El AI Act establece dos grandes vías para considerar un sistema de IA de alto riesgo:

1. Sistemas integrados en determinados productos regulados o utilizados como componentes de seguridad.
2. Sistemas utilizados para determinados casos especialmente sensibles enumerados en el Anexo III.

Entre estos últimos aparecen usos relacionados con:

• Selección de personal.
• Evaluación de trabajadores.
• Acceso a educación.
• Evaluación de estudiantes.
• Crédito.
• Seguros de vida y salud.
• Biometría.
• Servicios públicos.
• Infraestructuras críticas.
• Policía.
• Migración.
• Justicia.
• Procesos electorales.

Pero existe una diferencia fundamental:

Que una empresa utilice IA en uno de esos sectores no significa automáticamente que cualquier herramienta utilizada en ese sector sea de alto riesgo.

Un sistema utilizado por Recursos Humanos para corregir el estilo de una oferta de empleo no tiene la misma finalidad que un sistema que clasifica candidatos.

Una herramienta utilizada por un profesor para generar ejemplos no tiene la misma función que un sistema que determina el acceso de un alumno a una institución educativa.

La clasificación exige analizar el caso de uso concreto. El artículo 6 y el Anexo III son los elementos centrales de ese análisis.

Sistemas de IA de alto riesgo: resumen rápido

Un sistema puede considerarse de alto riesgo cuando:

Vía 1: productos regulados

La IA:

• Es un producto regulado por determinada legislación europea, o
• Funciona como componente de seguridad de ese producto,

y dicho producto debe someterse a una evaluación de conformidad por un tercero para poder comercializarse o ponerse en servicio.

Vía 2: Anexo III

La finalidad del sistema coincide con alguno de los usos enumerados en el Anexo III, relacionados con:

1. Biometría.
2. Infraestructuras críticas.
3. Educación y formación profesional.
4. Empleo y gestión de trabajadores.
5. Servicios esenciales.
6. Fuerzas y cuerpos de seguridad.
7. Migración, asilo y fronteras.
8. Justicia y procesos democráticos.

No obstante, determinados sistemas incluidos formalmente en el Anexo III pueden quedar fuera de la categoría de alto riesgo cuando no generan un riesgo significativo y cumplen las condiciones del artículo 6.3.

Existe una excepción importante:

Si el sistema realiza elaboración de perfiles de personas, la excepción del artículo 6.3 no permite excluirlo de la categoría de alto riesgo.

¿Desde cuándo se aplican las obligaciones para sistemas de alto riesgo?

Este punto cambió en julio de 2026.

La reforma introducida por el AI Omnibus retrasó la aplicación del régimen de alto riesgo.

Sistemas del Anexo III

Las obligaciones de los capítulos correspondientes a los sistemas de alto riesgo del Anexo III se aplicarán desde:

2 de diciembre de 2027

Sistemas vinculados a productos del Anexo I

Las obligaciones para sistemas considerados de alto riesgo conforme al artículo 6.1 se aplicarán desde:

2 de agosto de 2028

La modificación está incorporada al texto consolidado del AI Act tras la reforma de julio de 2026.

Por tanto, a 10 de agosto de 2026 las empresas todavía disponen de un periodo de preparación.

Eso no significa que deban esperar hasta 2027 para identificar estos sistemas.

Una empresa que actualmente:

• Selecciona candidatos mediante algoritmos.
• Utiliza IA para evaluar trabajadores.
• Puntúa clientes para conceder crédito.
• Utiliza IA para determinar primas de seguros de vida.
• Clasifica alumnos.
• Automatiza decisiones sobre prestaciones.

debería identificar ahora esos sistemas, revisar proveedores y preparar los controles necesarios antes de la fecha de aplicación.

Alto riesgo no significa prohibido

Esta diferencia es fundamental.

IA prohibida

Un sistema incluido en el artículo 5 puede estar directamente prohibido, salvo determinadas excepciones muy concretas.

IA de alto riesgo

Puede utilizarse legalmente, pero queda sometida a requisitos reforzados.

Un sistema de alto riesgo puede necesitar:

• Gestión de riesgos.
• Gobernanza de datos.
• Documentación técnica.
• Registros automáticos.
• Información para quien lo utiliza.
• Supervisión humana.
• Precisión.
• Robustez.
• Ciberseguridad.
• Evaluación de conformidad.
• Registro.
• Vigilancia posterior.
• Gestión de incidentes.

Por tanto:

Prohibido significa que el uso no está permitido en las circunstancias correspondientes. Alto riesgo significa que el uso está permitido si se cumplen los requisitos aplicables.

Antes de estudiar el Anexo III conviene comprobar siempre que el caso no constituye previamente una práctica prohibida.

Las dos vías para ser considerado sistema de alto riesgo

1. IA integrada en productos regulados — artículo 6.1

La primera categoría afecta principalmente a determinados productos sometidos a legislación europea específica.

Para que se aplique esta vía deben cumplirse conjuntamente dos condiciones:

1. La IA debe ser el producto o un componente de seguridad de un producto incluido en la legislación del Anexo I.
2. Ese producto debe necesitar una evaluación de conformidad realizada por un tercero antes de poder comercializarse o ponerse en servicio.

Entre la legislación contemplada aparecen ámbitos relacionados con:

• Productos sanitarios.
• Productos sanitarios para diagnóstico in vitro.
• Maquinaria.
• Ascensores.
• Juguetes.
• Equipos de protección individual.
• Equipos a presión.
• Aparatos de gas.
• Determinados equipos radioeléctricos.
• Otros productos regulados.

Ejemplo: producto sanitario

Un software basado en IA utilizado para una función médica puede entrar en esta categoría cuando:

• Es un producto sanitario o componente relevante.
• Está sometido al régimen correspondiente.
• Su evaluación exige intervención de un tercero.

No cualquier aplicación de salud es automáticamente de alto riesgo.

Una aplicación que únicamente organiza citas o permite redactar contenidos administrativos no entra necesariamente en esta vía.

Qué cambió en 2026 sobre los componentes de seguridad

La reforma de julio de 2026 introdujo una aclaración importante.

Un sistema utilizado únicamente para aspectos que no afectan a la seguridad, como:

• Asistencia al usuario.
• Optimización del rendimiento.
• Eficiencia del servicio.
• Automatización.
• Comodidad.
• Control de calidad.

no se considera componente de seguridad únicamente por estar integrado en un producto.

En cambio, si el fallo o funcionamiento incorrecto del sistema podría poner en peligro la salud o la seguridad, sí puede considerarse componente de seguridad.

Esto evita clasificar automáticamente como alto riesgo cualquier función de IA incorporada a un producto regulado.

2. Sistemas incluidos en el Anexo III

Esta es la vía que afectará con mayor frecuencia a empresas que utilizan soluciones de IA independientes.

El Anexo III contiene ocho grandes áreas.

Lo importante no es únicamente el sector.

Lo importante es la finalidad prevista del sistema.

Anexo III del AI Act: lista de sistemas de alto riesgo

1. Biometría

Cuando su utilización sea legal conforme al Derecho europeo y nacional, pueden considerarse de alto riesgo determinados sistemas utilizados para:

Identificación biométrica remota

Por ejemplo:

• Identificar automáticamente personas mediante cámaras.
• Comparar rostros contra una base de referencia.
• Identificar personas a distancia mediante características biométricas.

No se incluye aquí la simple verificación biométrica uno a uno cuya única finalidad sea confirmar que una persona es quien afirma ser.

Por ejemplo:

Utilizar reconocimiento facial para desbloquear una cuenta puede ser una verificación biométrica y no una identificación biométrica remota del Anexo III.

Categorización biométrica

Sistemas destinados a categorizar personas según determinados atributos sensibles o protegidos inferidos mediante biometría.

Reconocimiento de emociones

Sistemas destinados a identificar o inferir emociones mediante datos biométricos.

El Anexo III incluye estas categorías entre los posibles sistemas de alto riesgo.

Sin embargo, antes de utilizar determinados sistemas biométricos o de reconocimiento emocional hay que comprobar el artículo 5.

Algunos usos pueden estar directamente prohibidos.

Por ejemplo, la inferencia de emociones en lugares de trabajo y centros educativos está prohibida con determinadas excepciones médicas o de seguridad.

2. Infraestructuras críticas

Son de alto riesgo los sistemas destinados a actuar como componentes de seguridad en la gestión u operación de:

• Infraestructuras digitales críticas.
• Tráfico por carretera.
• Suministro de agua.
• Gas.
• Calefacción.
• Electricidad.

La expresión “componente de seguridad” es importante.

No toda IA utilizada por una empresa eléctrica o una compañía de aguas es automáticamente de alto riesgo.

Por ejemplo:

Probablemente no por esta categoría

Una IA utilizada para:

• Redactar correos.
• Resumir reuniones.
• Gestionar campañas de marketing.
• Traducir documentación.

Puede requerir análisis de alto riesgo

Una IA que:

• Controla parámetros de seguridad.
• Detecta condiciones que requieren parar una instalación.
• Decide prioridades críticas.
• Participa directamente en la operación segura de la infraestructura.

3. Educación y formación profesional

El Anexo III incluye cuatro grandes usos.

Acceso y admisión

Sistemas utilizados para:

• Determinar el acceso.
• Decidir una admisión.
• Asignar una persona a una institución educativa o de formación.

Evaluación del aprendizaje

Sistemas utilizados para evaluar resultados de aprendizaje cuando esa evaluación puede influir en el proceso educativo.

Determinación del nivel educativo

Sistemas utilizados para determinar:

• Qué nivel educativo recibirá una persona.
• A qué nivel podrá acceder.

Vigilancia durante exámenes

Sistemas destinados a vigilar o detectar conductas prohibidas de estudiantes durante pruebas o exámenes.

Ejemplos

No es automáticamente alto riesgo

Un profesor utiliza IA para:

• Crear ejercicios.
• Generar ejemplos.
• Preparar una presentación.
• Corregir el estilo de un documento.

Puede ser alto riesgo

Una plataforma utiliza IA para:

• Puntuar automáticamente un examen.
• Determinar si un estudiante puede acceder a determinado nivel.
• Clasificar solicitudes de admisión.
• Detectar conductas supuestamente fraudulentas durante un examen.

La diferencia está en la función que desempeña el resultado dentro de la decisión educativa.

4. Empleo, trabajadores y acceso al trabajo autónomo

Esta es una de las categorías con mayor relevancia empresarial.

El Anexo III considera de alto riesgo determinados sistemas utilizados para:

Contratación y selección

Incluidos sistemas utilizados para:

• Publicar de forma dirigida ofertas laborales.
• Analizar solicitudes.
• Filtrar candidaturas.
• Evaluar candidatos.

Gestión de trabajadores

Incluidos sistemas destinados a tomar decisiones relacionadas con:

• Condiciones laborales.
• Promoción.
• Finalización de relaciones laborales.
• Asignación de tareas basada en comportamiento, características o rasgos personales.
• Monitorización del rendimiento.
• Evaluación del comportamiento o desempeño.

Ejemplo: ChatGPT en Recursos Humanos

Utilizar ChatGPT para:

“Redacta una oferta para administrativo.”

no convierte por sí solo ChatGPT en un sistema de alto riesgo.

Utilizar un sistema para:

“Clasifica estos 250 candidatos y descarta automáticamente los que tienen menos posibilidades de éxito.”

es una situación completamente diferente y puede entrar en el Anexo III.

Ejemplo: productividad laboral

Un sistema que analiza:

• Teclado.
• Comunicaciones.
• Tiempos.
• Conducta.
• Productividad.
• Patrones personales.

para evaluar el desempeño de un trabajador puede entrar en la categoría de alto riesgo.

Además, algunos usos pueden activar obligaciones laborales y de protección de datos independientes del AI Act.

5. Acceso a servicios privados esenciales y servicios públicos

Esta categoría incluye varios usos diferentes.

Prestaciones y servicios públicos esenciales

IA utilizada por organismos públicos, o en su nombre, para evaluar si una persona:

• Tiene derecho a una prestación.
• Puede acceder a un servicio.
• Debe mantenerlo.
• Debe perderlo.
• Debe devolver cantidades recibidas.

Incluye prestaciones y servicios relacionados con la asistencia pública y la atención sanitaria.

Evaluación crediticia

Sistemas utilizados para:

• Evaluar solvencia.
• Crear una puntuación crediticia.

Existe una excepción específica para sistemas utilizados para detectar fraude financiero.

Por ejemplo:

Alto riesgo potencial

Sistema que decide qué puntuación crediticia obtiene una persona.

No por esta categoría específica

Sistema dedicado únicamente a detectar operaciones posiblemente fraudulentas.

Eso no significa que la herramienta antifraude esté libre de cualquier otra normativa.

Seguros de vida y salud

Sistemas utilizados para:

• Evaluar riesgos.
• Determinar precios.

cuando se refieren a personas en seguros de:

• Vida.
• Salud.

Emergencias

También se incluyen sistemas utilizados para:

• Clasificar llamadas de emergencia.
• Establecer prioridades.
• Despachar servicios de emergencia.
• Triaje de pacientes en atención sanitaria urgente.

6. Fuerzas y cuerpos de seguridad

Cuando su utilización esté permitida por la legislación correspondiente, el Anexo III incluye determinados sistemas utilizados para:

• Evaluar el riesgo de que una persona sea víctima de un delito.
• Utilizar herramientas equivalentes a polígrafos.
• Evaluar la fiabilidad de pruebas.
• Evaluar determinados riesgos de comisión o reincidencia.
• Elaborar perfiles durante la detección, investigación o persecución de delitos.

Aquí resulta especialmente importante distinguir:

• Prácticas permitidas pero de alto riesgo.
• Prácticas directamente prohibidas.

Por ejemplo, utilizar IA para predecir que una persona cometerá un delito basándose únicamente en elaboración de perfiles o rasgos de personalidad puede entrar en las prohibiciones del artículo 5.

7. Migración, asilo y control de fronteras

Pueden considerarse de alto riesgo determinados sistemas utilizados por autoridades competentes para:

• Polígrafos o herramientas similares.
• Evaluación de riesgos de seguridad.
• Evaluación de riesgo de migración irregular.
• Evaluación de determinados riesgos sanitarios.
• Examen de solicitudes de asilo.
• Visados.
• Permisos de residencia.
• Evaluación de pruebas asociadas.
• Detección, reconocimiento o identificación de personas en este contexto.

La simple verificación de documentos de viaje queda excluida de uno de estos supuestos.

8. Administración de justicia y procesos democráticos

Justicia

Sistemas utilizados por una autoridad judicial, o en su nombre, para ayudar a:

• Investigar hechos.
• Interpretar hechos.
• Investigar Derecho.
• Interpretar normas.
• Aplicar el Derecho a hechos concretos.

También se incluyen determinados usos equivalentes en mecanismos alternativos de resolución de conflictos.

Eso no significa que cualquier utilización de IA por un juez, abogado o tribunal sea de alto riesgo.

Un sistema administrativo utilizado para:

• Organizar archivos.
• Corregir textos.
• Gestionar agenda.

no tiene la misma finalidad que una IA que interviene en la aplicación del Derecho a un caso.

Elecciones y referéndums

Se incluyen sistemas destinados a:

• Influir en el resultado de elecciones o referéndums.
• Influir en el comportamiento de voto.

La norma excluye determinadas herramientas cuyos resultados no se muestran directamente a las personas y que únicamente sirven para organizar, optimizar o estructurar administrativamente una campaña.

Tabla resumen del Anexo III

Área	Ejemplo de alto riesgo
Biometría	Identificación biométrica remota
Infraestructuras	IA que actúa como componente de seguridad
Educación	Sistema que decide acceso o evalúa resultados
Empleo	Filtrado de candidatos o evaluación laboral
Servicios esenciales	Scoring crediticio
Seguros	Precio o riesgo de vida y salud
Emergencias	Priorización de llamadas o triaje
Policía	Evaluación de pruebas o determinados riesgos
Migración	Evaluación de solicitudes o riesgos
Justicia	Apoyo en aplicación del Derecho
Democracia	IA para influir en comportamiento electoral

Estar en el Anexo III no siempre significa ser de alto riesgo

Este es uno de los aspectos más importantes del artículo 6.

Un sistema destinado a una finalidad incluida en el Anexo III puede no considerarse de alto riesgo cuando no presenta un riesgo significativo para la salud, la seguridad o los derechos fundamentales y no influye materialmente en el resultado de una decisión.

El artículo 6.3 establece cuatro situaciones que pueden permitir esta exclusión.

Excepción 1: tarea procedimental limitada

Por ejemplo, el sistema realiza una función muy concreta dentro de un proceso sin intervenir materialmente en la decisión.

La existencia de esta excepción no significa que cualquier automatización pequeña quede automáticamente excluida.

Debe analizarse su influencia real.

Excepción 2: mejorar una actividad humana ya completada

La IA puede utilizarse para mejorar el resultado de una actividad que una persona ya ha terminado.

La clave es que la evaluación humana ya exista y que la IA no sustituya la decisión.

Excepción 3: detectar patrones o desviaciones

Puede quedar fuera cuando:

• Detecta patrones de decisiones anteriores.
• Detecta desviaciones.
• No sustituye la evaluación humana.
• No influye en la decisión ya realizada sin una revisión humana adecuada.

Excepción 4: tarea preparatoria

Puede tratarse de un sistema que realiza una tarea preliminar para una evaluación del Anexo III sin influir materialmente en el resultado.

Ejemplo sencillo

Imagina una empresa que recibe currículums.

Sistema A

Extrae:

• Nombre.
• Experiencia.
• Formación.

y coloca la información en columnas para que una persona realice posteriormente toda la evaluación.

Podría existir una base para analizar la excepción como tarea preparatoria o procedimental.

Sistema B

Analiza los currículums y genera:

Apto: 87 %
No apto: 34 %

y Recursos Humanos utiliza esa puntuación para decidir a quién entrevista.

La influencia en la decisión es mucho mayor y la posibilidad de considerarlo alto riesgo aumenta claramente.

La clasificación definitiva debe analizar el funcionamiento real y no únicamente el nombre comercial de la herramienta.

La excepción desaparece cuando existe perfilado

Existe una regla especialmente importante:

Si el sistema incluido en el Anexo III realiza profiling o elaboración de perfiles de personas, debe considerarse de alto riesgo aunque pudiera parecer que cumple alguna de las excepciones anteriores.

Por eso hay que identificar si el sistema:

• Evalúa aspectos personales.
• Predice comportamiento.
• Clasifica personas.
• Genera puntuaciones.
• Infiere características.
• Utiliza datos para anticipar resultados individuales.

¿Quién decide si un sistema del Anexo III no es de alto riesgo?

El proveedor que considere aplicable la excepción debe documentar su análisis antes de comercializar o poner en servicio el sistema.

La autoridad competente puede solicitar esa documentación y revisar la clasificación.

Además, el artículo 49 mantiene obligaciones de registro para los sistemas del Anexo III y contempla también los sistemas que el proveedor considera no de alto riesgo conforme al artículo 6.3.

Por tanto, no debería utilizarse una etiqueta interna como:

“No parece muy arriesgado.”

La exclusión debe estar razonada.

Las directrices de clasificación todavía están en desarrollo

La Comisión publicó en 2026 un borrador de directrices específicas sobre la clasificación de sistemas de alto riesgo, con ejemplos destinados a ayudar a proveedores y responsables del despliegue.

La consulta adicional terminó el 23 de julio de 2026 y la Comisión prevé adoptar la versión final antes de finalizar 2026.

Mientras tanto, los ejemplos disponibles sirven como orientación sobre la interpretación de la Comisión, pero el borrador no tiene carácter jurídicamente vinculante.

Esta página debería revisarse cuando se publiquen las directrices definitivas.

¿Qué tiene que cumplir un proveedor de un sistema de alto riesgo?

Las obligaciones más intensas recaen sobre el proveedor.

Entre otras medidas deberá asegurar que el sistema cumple los requisitos del capítulo III y mantener un sistema organizado de cumplimiento.

1. Sistema de gestión de riesgos

El proveedor debe mantener un proceso continuo para:

• Identificar riesgos.
• Evaluarlos.
• Reducirlos.
• Probar las medidas.
• Revisarlos durante el ciclo de vida.

Los sistemas de alto riesgo deben someterse a pruebas para identificar medidas de reducción apropiadas y comprobar su funcionamiento respecto a la finalidad prevista.

2. Datos y gobernanza de datos

Cuando corresponda, deben existir controles sobre:

• Datos de entrenamiento.
• Datos de validación.
• Datos de prueba.
• Calidad.
• Representatividad.
• Errores.
• Sesgos.
• Procedencia.
• Preparación de los datos.

Los conjuntos utilizados deben tener en cuenta el contexto geográfico, conductual y funcional del uso previsto cuando resulte necesario.

3. Documentación técnica

Debe prepararse antes de la comercialización o puesta en servicio.

La documentación debe permitir demostrar el cumplimiento y explicar suficientemente:

• Finalidad.
• Arquitectura.
• Versiones.
• Datos.
• Desarrollo.
• Pruebas.
• Supervisión.
• Limitaciones.
• Funcionamiento.

La reforma de 2026 prevé un formato simplificado para pymes, startups y determinadas empresas de mediana capitalización, sin rebajar el nivel de protección exigido.

4. Logs o registros automáticos

El sistema debe permitir registrar automáticamente acontecimientos relevantes durante su funcionamiento para aportar trazabilidad, facilitar la vigilancia posterior y detectar determinadas situaciones de riesgo.

5. Información para quien utiliza el sistema

El proveedor debe proporcionar instrucciones suficientemente claras.

Deben incluir, según corresponda:

• Finalidad prevista.
• Capacidades.
• Limitaciones.
• Precisión.
• Robustez.
• Ciberseguridad.
• Riesgos conocidos.
• Características de los datos.
• Supervisión humana.
• Interpretación de resultados.
• Logs.
• Mantenimiento.

6. Supervisión humana

El sistema debe estar diseñado para poder ser supervisado eficazmente por personas.

La persona debe poder, según el caso:

• Comprender capacidades y limitaciones.
• Detectar anomalías.
• Interpretar resultados.
• Evitar confiar ciegamente en la automatización.
• Ignorar una recomendación.
• Revertir un resultado.
• Intervenir.
• Detener el sistema.

7. Precisión, robustez y ciberseguridad

Los sistemas deben alcanzar niveles adecuados de:

• Precisión.
• Robustez.
• Seguridad.

y mantenerlos durante su ciclo de vida.

Además deben protegerse frente a vulnerabilidades propias de IA, como determinados ataques sobre datos, modelos, entradas o confidencialidad.

8. Sistema de gestión de calidad

El proveedor debe disponer de políticas y procedimientos documentados para gestionar:

• Cumplimiento.
• Diseño.
• Desarrollo.
• Pruebas.
• Datos.
• Riesgos.
• Cambios.
• Vigilancia posterior.
• Incidentes.
• Documentación.
• Responsabilidades.

El sistema puede ser proporcional al tamaño de la empresa, especialmente en pymes y startups, pero el nivel de protección exigido no desaparece.

9. Evaluación de conformidad

Antes de comercializar o poner en servicio el sistema, el proveedor deberá completar el procedimiento de evaluación de conformidad que corresponda.

No todos los sistemas siguen necesariamente el mismo procedimiento.

La evaluación concreta dependerá del tipo de sistema y de la legislación aplicable.

10. Declaración UE de conformidad

El proveedor debe elaborar una declaración UE de conformidad para cada sistema de alto riesgo y conservarla durante el periodo establecido.

Mediante esta declaración asume la responsabilidad sobre el cumplimiento de los requisitos aplicables.

11. Marcado CE

Los sistemas de alto riesgo deben incorporar el marcado CE correspondiente.

En sistemas proporcionados digitalmente puede utilizarse marcado digital accesible desde la interfaz o por medios electrónicos apropiados.

12. Registro europeo

Los proveedores de sistemas de alto riesgo del Anexo III —con determinadas excepciones— deben registrarse y registrar el sistema en la base europea antes de su comercialización o puesta en servicio.

13. Vigilancia posterior

La responsabilidad no termina cuando el sistema se comercializa.

El proveedor debe continuar recogiendo y analizando información sobre su funcionamiento para:

• Detectar problemas.
• Identificar riesgos.
• Aplicar medidas correctoras.
• Gestionar incidentes.

14. Incidentes graves

Cuando se producen determinados incidentes, existen obligaciones específicas de comunicación y colaboración con autoridades.

¿Qué obligaciones tiene la empresa que compra y utiliza un sistema de alto riesgo?

La empresa que utiliza el sistema puede actuar como responsable del despliegue.

No puede limitarse a pensar:

“El proveedor dice que cumple el AI Act, así que nosotros ya no tenemos nada que hacer.”

El artículo 26 establece obligaciones propias para quien despliega estos sistemas.

1. Utilizarlo según las instrucciones

La empresa debe adoptar medidas técnicas y organizativas para utilizar el sistema conforme a las instrucciones facilitadas por el proveedor.

Si la organización cambia sustancialmente:

• La finalidad.
• El funcionamiento.
• El contexto.

puede alterar incluso su papel jurídico.

2. Asignar supervisión humana

Debe nombrar personas con:

• Competencia.
• Formación.
• Autoridad.
• Apoyo suficiente.

No basta con indicar formalmente:

“El responsable revisará lo que diga la IA.”

La persona debe tener capacidad real para cuestionar y corregir el resultado.

3. Controlar los datos de entrada

Cuando la empresa controla los datos introducidos, debe asegurarse de que resulten:

• Relevantes.
• Suficientemente representativos.

respecto a la finalidad prevista.

4. Monitorizar el funcionamiento

La empresa debe controlar cómo funciona el sistema.

Si considera que su utilización puede generar un riesgo:

• Debe informar al proveedor o distribuidor.
• Debe informar a la autoridad cuando corresponda.
• Debe suspender el uso.

También existen obligaciones cuando se detecta un incidente grave.

5. Conservar los logs

Cuando estén bajo su control, los responsables del despliegue deben conservar los registros automáticos durante un periodo adecuado y, como mínimo:

seis meses

salvo que otra normativa establezca algo diferente.

6. Informar a trabajadores

Antes de utilizar un sistema de alto riesgo en el lugar de trabajo, un empleador debe informar:

• A los representantes de los trabajadores.
• A los trabajadores afectados.

de acuerdo con las normas laborales y procedimientos aplicables.

7. Protección de datos

Cuando proceda, la información del proveedor debe utilizarse también para cumplir obligaciones relacionadas con una evaluación de impacto en protección de datos.

El AI Act no sustituye al RGPD.

8. Informar a las personas afectadas

Cuando un sistema del Anexo III toma o ayuda a tomar decisiones relacionadas con personas, estas deben ser informadas de que están sujetas al uso de un sistema de IA de alto riesgo, sin perjuicio de otras obligaciones de transparencia.

¿Qué es una FRIA?

FRIA significa:

Fundamental Rights Impact Assessment

o:

Evaluación de impacto sobre los derechos fundamentales.

No cualquier empresa que utilice un sistema de alto riesgo está obligada automáticamente a realizar una FRIA.

El artículo 27 la exige, entre otros supuestos, a determinados responsables del despliegue:

• Organismos públicos.
• Entidades privadas que prestan servicios públicos.
• Determinados usuarios de sistemas de evaluación crediticia.
• Determinados usuarios de sistemas relacionados con seguros de vida y salud.

La evaluación debe analizar, entre otras cuestiones:

• Cómo se utilizará el sistema.
• Durante cuánto tiempo.
• Qué personas pueden resultar afectadas.
• Qué riesgos existen.
• Cómo se realizará la supervisión humana.
• Qué medidas se aplicarán si los riesgos se materializan.

La FRIA merece una guía independiente, que puedes revisar aquí.

¿Una pyme puede utilizar un sistema de alto riesgo?

Sí.

No existe una prohibición general para las pequeñas empresas.

Pero las obligaciones dependerán de su papel.

Si compra y utiliza el sistema

Normalmente será responsable del despliegue y tendrá que cumplir las obligaciones correspondientes.

Si desarrolla o comercializa el sistema

Puede convertirse en proveedor y asumir requisitos mucho más amplios.

Si modifica una herramienta existente

Debe prestar especial atención.

Un distribuidor, importador, responsable del despliegue u otro tercero puede convertirse jurídicamente en proveedor de un sistema de alto riesgo cuando:

• Pone su nombre o marca sobre el sistema.
• Realiza una modificación sustancial.
• Cambia la finalidad prevista y provoca que el sistema se convierta en alto riesgo.

¿Usar ChatGPT puede convertirse en un sistema de alto riesgo?

ChatGPT no debe clasificarse de forma abstracta únicamente por el nombre del producto.

La clasificación depende del sistema y del uso.

Ejemplo de bajo impacto

Utilizar ChatGPT para preparar el primer borrador de una oferta laboral.

No parece encajar por sí mismo en el uso de selección del Anexo III.

Ejemplo más problemático

Una empresa desarrolla una aplicación basada en un modelo generativo que:

1. Recibe currículums.
2. Extrae características.
3. Evalúa candidatos.
4. Genera una puntuación.
5. Clasifica automáticamente a las personas.
6. Decide qué candidaturas llegan a la entrevista.

Aunque el modelo subyacente sea de propósito general, el sistema final y su finalidad pueden situarlo en la categoría de alto riesgo.

Por eso una empresa no debería preguntar únicamente:

¿ChatGPT es de alto riesgo?

La pregunta correcta es:

¿Qué sistema hemos creado y qué decisión realiza o influye con esta IA?

Ejemplos prácticos

Recursos humanos

Generar una oferta

Normalmente no alto riesgo por el Anexo III.

Resumir currículums sin puntuarlos

Debe analizarse la función real y si podría ser meramente preparatoria.

Clasificar candidatos

Potencialmente alto riesgo.

Predecir qué trabajador abandonará la empresa

Puede implicar elaboración de perfiles y decisiones laborales: revisión reforzada.

Puntuar productividad

Puede entrar en evaluación del rendimiento laboral.

Educación

Generar ejercicios

Normalmente no alto riesgo.

Corregir redacción del profesor

Normalmente no.

Determinar automáticamente una nota

Puede entrar en evaluación de resultados educativos.

Proctoring mediante IA

Puede entrar en el Anexo III.

Recomendar materiales sin afectar a evaluación

Debe analizarse, pero no cualquier recomendador educativo es automáticamente alto riesgo.

Banca

Chatbot de información

No es alto riesgo por el hecho de pertenecer a un banco.

Detectar fraude

La excepción del Anexo III para crédito excluye específicamente determinados sistemas utilizados para detectar fraude financiero.

Calcular solvencia de una persona

Puede ser alto riesgo.

Generar credit score

Alto riesgo potencial.

Seguros

Redactar comunicaciones

No alto riesgo por esa finalidad.

Determinar riesgo de seguro de automóvil

No entra automáticamente en el supuesto específico de vida y salud.

Determinar riesgo o precio de seguro de vida

Puede ser alto riesgo.

Determinar riesgo o precio de seguro de salud

Puede ser alto riesgo.

Sanidad

No toda IA sanitaria entra en el Anexo III.

Algunos sistemas pueden ser de alto riesgo por la vía del Anexo I, especialmente cuando funcionan como productos sanitarios o componentes sometidos a la regulación europea correspondiente.

Otros pueden entrar por el Anexo III, por ejemplo determinados sistemas de triaje de emergencias.

Cómo analizar un sistema paso a paso

Paso 1. ¿Es realmente un sistema de IA?

Antes de aplicar el artículo 6 debe comprobarse que la herramienta cumple la definición del AI Act.

Paso 2. ¿Es una práctica prohibida?

Antes de analizar alto riesgo, descarta los usos del artículo 5.

Paso 3. ¿Está vinculado a un producto del Anexo I?

Comprueba:

• Producto.
• Componente de seguridad.
• Legislación aplicable.
• Evaluación por tercero.

Paso 4. ¿Coincide con un caso del Anexo III?

No analices únicamente el sector.

Documenta:

• Finalidad.
• Usuarios.
• Personas afectadas.
• Datos.
• Resultado.
• Decisión.
• Autonomía.

Paso 5. ¿Influye materialmente en una decisión?

Pregunta:

• ¿Genera una puntuación?
• ¿Clasifica?
• ¿Prioriza?
• ¿Descarta?
• ¿Recomienda?
• ¿Determina el resultado?
• ¿Puede una persona ignorarlo realmente?

Paso 6. ¿Puede aplicarse una excepción del artículo 6.3?

Analiza si:

• Es una tarea procedimental limitada.
• Mejora una actividad humana ya completada.
• Detecta patrones sin influir en la evaluación.
• Realiza únicamente una tarea preparatoria.

Paso 7. ¿Realiza perfilado de personas?

Si la respuesta es sí, no debe utilizarse la excepción del artículo 6.3 para excluirlo de la categoría de alto riesgo.

Paso 8. ¿Cuál es el papel de la empresa?

• Proveedor.
• Responsable del despliegue.
• Importador.
• Distribuidor.
• Fabricante.

Paso 9. Documenta la conclusión

Guarda:

• Sistema.
• Versión.
• Finalidad.
• Anexo analizado.
• Excepción analizada.
• Argumentos.
• Proveedor.
• Responsable.
• Fecha.
• Próxima revisión.

Paso 10. Revisar si cambia

Vuelve a clasificar cuando:

• Cambie la finalidad.
• Se añadan datos.
• Aumente la autonomía.
• Se incorporen nuevas decisiones.
• Cambie el modelo.
• Se modifique el proveedor.
• Se integre con nuevos sistemas.

Señales de que debes realizar una revisión reforzada

Presta especial atención cuando la IA:

• Puntúa personas.
• Clasifica candidatos.
• Decide acceso.
• Decide precios individuales.
• Evalúa rendimiento.
• Predice conductas.
• Determina una nota.
• Recomienda despidos.
• Distribuye prestaciones.
• Evalúa solvencia.
• Calcula riesgo de seguro de vida o salud.
• Analiza emociones.
• Utiliza biometría.
• Ayuda a una autoridad a aplicar el Derecho.
• Interviene en decisiones sobre derechos de personas.

Errores frecuentes

“Nuestra IA no es de alto riesgo porque siempre hay una persona”

Incorrecto.

La supervisión humana puede ser una obligación precisamente porque el sistema es de alto riesgo.

La existencia de una persona no elimina automáticamente la clasificación.

“Solo recomienda”

Una recomendación puede influir materialmente en una decisión.

Hay que analizar cómo se utiliza realmente.

“El proveedor dice que no es alto riesgo”

La empresa debe conocer la clasificación, pero también comprobar si su propio uso coincide con la finalidad prevista.

“Somos una pyme”

El tamaño no elimina automáticamente la clasificación.

Existen medidas de simplificación y proporcionalidad, pero no una exención general.

“Utilizamos un modelo general”

Un modelo general puede integrarse en un sistema final de alto riesgo.

“Solo utilizamos IA en RRHH”

Eso no basta.

Hay que identificar la finalidad concreta.

“Está en el Anexo III, así que siempre es alto riesgo”

No necesariamente.

Debe analizarse el artículo 6.3.

“Es una tarea pequeña, así que está excluida”

Tampoco.

La excepción debe documentarse y cumplir realmente sus condiciones.

“Hay revisión humana porque alguien pulsa aprobar”

No necesariamente existe supervisión efectiva.

La persona debe comprender, poder cuestionar y tener autoridad real para rechazar el resultado.

Checklist rápida

Antes de utilizar un sistema potencialmente de alto riesgo, comprueba:

• Está incluido en el inventario.
• Su finalidad está documentada.
• Se ha revisado el artículo 5.
• Se ha revisado el Anexo I.
• Se ha revisado el Anexo III.
• Se ha analizado el artículo 6.3.
• Se ha comprobado si realiza perfilado.
• Se conoce el papel de la empresa.
• El proveedor ha explicado su clasificación.
• Existen instrucciones de uso.
• Se ha definido supervisión humana.
• Se han identificado datos personales.
• Se ha analizado si hace falta DPIA.
• Se ha analizado si hará falta FRIA.
• Existen logs adecuados.
• Se ha definido un procedimiento de incidentes.
• Se ha formado al personal.
• Se ha establecido una fecha de revisión.

Preguntas frecuentes

¿Qué es un sistema de IA de alto riesgo?

Es un sistema que cumple las condiciones del artículo 6 por estar vinculado a determinados productos regulados o por destinarse a usos sensibles enumerados en el Anexo III.

¿Cuáles son los sectores de alto riesgo?

El Anexo III incluye biometría, infraestructuras críticas, educación, empleo, servicios esenciales, fuerzas de seguridad, migración y justicia o procesos democráticos. Pero no cualquier IA utilizada en esos sectores es automáticamente de alto riesgo.

¿La IA utilizada en Recursos Humanos es de alto riesgo?

Puede serlo cuando se utiliza para selección, filtrado de candidaturas, evaluación, promoción, despido, determinadas asignaciones de tareas o evaluación del rendimiento.

¿ChatGPT es un sistema de alto riesgo?

No puede responderse únicamente por el nombre del modelo o servicio. Depende de la finalidad y del sistema en el que se integra.

¿Una IA que filtra currículums es de alto riesgo?

Puede entrar directamente en el supuesto de contratación y selección del Anexo III.

¿Una IA que redacta una oferta laboral es de alto riesgo?

No por esa finalidad únicamente.

¿Una IA educativa es siempre de alto riesgo?

No. Depende de si participa en admisión, evaluación, determinación de niveles o vigilancia de determinados comportamientos en exámenes.

¿Un sistema de scoring crediticio es de alto riesgo?

Sí puede entrar en el supuesto específico del Anexo III para evaluación de solvencia o credit score de personas. Los sistemas destinados a detectar fraude financiero tienen una excepción dentro de ese supuesto.

¿Una IA médica es automáticamente de alto riesgo?

No. Debe analizarse si es un producto sanitario, componente de seguridad, sistema de triaje u otro caso regulado.

¿Puede un sistema del Anexo III no ser alto riesgo?

Sí, cuando cumple las condiciones del artículo 6.3 y no presenta un riesgo significativo ni influye materialmente en la decisión.

¿Qué ocurre si realiza perfilado?

Los sistemas del Anexo III que realizan perfilado de personas se consideran siempre de alto riesgo a efectos de esta excepción.

¿Cuándo empiezan estas obligaciones?

Las reglas del Anexo III se aplicarán desde el 2 de diciembre de 2027 y las de los sistemas vinculados al Anexo I desde el 2 de agosto de 2028.

¿Una pyme puede utilizar IA de alto riesgo?

Sí, pero deberá cumplir las obligaciones correspondientes a su papel. El Reglamento prevé determinadas medidas de proporcionalidad y simplificación para empresas pequeñas.

¿Quién es responsable: el proveedor o la empresa?

Ambos pueden tener obligaciones diferentes. El proveedor debe diseñar y comercializar el sistema cumpliendo los requisitos correspondientes; el responsable del despliegue debe utilizarlo adecuadamente, supervisarlo y aplicar sus propios controles.

Comprueba si tu sistema podría ser de alto riesgo

La herramienta que encontrarás a continuación permite realizar una primera clasificación orientativa.

Analiza:

• Producto regulado.
• Finalidad.
• Anexo III.
• Influencia en decisiones.
• Perfilado.
• Posibles excepciones.
• Papel de la empresa.

El resultado puede indicar:

• No se detecta un supuesto de alto riesgo.
• Revisar Anexo III.
• Posible excepción del artículo 6.3.
• Posible sistema de alto riesgo.
• Posible práctica prohibida que debe analizarse antes.

Tu siguiente paso

Si el sistema puede ser de alto riesgo:

1. Documenta el sistema

Añádelo al inventario de sistemas de IA.

2. Evalúa al proveedor

Comprueba documentación, clasificación, seguridad, datos, logs y contrato mediante la guía para evaluar proveedores de inteligencia artificial.

3. Analiza quién toma la decisión

Define una supervisión humana efectiva.

4. Revisa protección de datos

Comprueba si necesita una evaluación de impacto del RGPD.

5. Comprueba si exige FRIA

Determinadas organizaciones y casos de uso necesitan una evaluación de impacto sobre derechos fundamentales.

6. Forma a las personas

Integra el sistema en el programa de alfabetización en IA.

Conclusión

La categoría de alto riesgo no depende de que una inteligencia artificial sea sofisticada.

Depende sobre todo de lo que hace y de dónde interviene.

Una herramienta aparentemente sencilla puede ser de alto riesgo cuando:

• Decide quién consigue un empleo.
• Determina qué alumno accede a un nivel educativo.
• Evalúa la solvencia de una persona.
• Influye en una prestación.
• Interviene en una decisión judicial.
• Evalúa biometría.
• Determina riesgos individuales.

Y una tecnología técnicamente mucho más compleja puede no entrar en esa categoría cuando únicamente se utiliza para una tarea de bajo impacto.

Por eso, la pregunta correcta no es:

“¿Qué modelo de IA utilizamos?”

Sino:

“¿Qué función cumple este sistema, sobre quién produce efectos y qué papel tiene su resultado en la decisión final?”

Esa es la pregunta que permite empezar a clasificar correctamente el riesgo.

---

Aviso: Este contenido tiene una finalidad exclusivamente informativa y divulgativa. La clasificación de un sistema depende de su finalidad prevista, funcionamiento, contexto, configuración y legislación aplicable. El contenido y la herramienta no constituyen una clasificación jurídica definitiva ni certifican el cumplimiento del AI Act.