La inteligencia artificial ha entrado de lleno en los tribunales europeos. Aunque el AI Act acaba de entrar en vigor, los jueces ya están resolviendo conflictos relacionados con algoritmos, IA generativa, sistemas de decisión automatizada y biometría. Estas resoluciones están creando una jurisprudencia temprana que marcará cómo se aplicará el AI Act en los próximos años.

A continuación analizamos los casos judiciales y administrativos más relevantes en Europa y qué enseñan sobre el futuro regulatorio.

🧭 1. Tribunales laborales: IA en selección y despidos

Los tribunales laborales europeos están siendo los primeros en enfrentarse a la IA.

🇳🇱 Países Bajos — Despido basado en IA sin supervisión humana

Un tribunal laboral anuló un despido porque la empresa había utilizado un algoritmo para evaluar el rendimiento del empleado sin revisión humana.

El juez concluyó que:

• La decisión automatizada vulneraba derechos laborales.
• La empresa no informó del uso de IA.
• No existía trazabilidad del algoritmo.

👉 Relacionado: IA para recursos humanos

🇩🇪 Alemania — IA que clasificaba empleados como “riesgo de baja”

Un tribunal alemán declaró ilegal un sistema que predecía la probabilidad de que un empleado causara baja laboral.

Motivos:

• Discriminación indirecta.
• Falta de explicabilidad.
• Impacto en derechos fundamentales.

🧭 2. Tribunales administrativos: IA en servicios públicos

Los tribunales administrativos están revisando decisiones automatizadas en ayudas sociales, educación y sanidad.

🇪🇸 España — IA municipal para priorizar ayudas sociales

Un tribunal de lo contencioso-administrativo cuestionó un sistema que ordenaba solicitudes de ayudas sin transparencia.

El tribunal señaló:

• Falta de información al ciudadano.
• Ausencia de supervisión humana.
• Criterios opacos → vulneración del principio de igualdad.

👉 Relacionado: IA en administraciones públicas

🇮🇹 Italia — IA educativa que asignaba calificaciones

Un tribunal administrativo italiano obligó a retirar un sistema que generaba notas automáticamente.

Razones:

• Impacto en educación → alto riesgo.
• Falta de trazabilidad.
• No se realizó evaluación de conformidad.

🧭 3. Tribunales sanitarios: IA generativa en diagnóstico y tratamiento

Los tribunales sanitarios están siendo especialmente estrictos.

🇩🇪 Alemania — IA generativa recomendando tratamientos

Un tribunal sanitario concluyó que la IA generativa no puede tomar decisiones clínicas.

El fallo indica:

• Supervisión médica obligatoria.
• IA generativa solo puede ser apoyo, nunca decisión.
• Riesgo grave para la seguridad del paciente.

👉 Relacionado: IA en sanidad

🇦🇹 Austria — Informes clínicos generados con IA que contenían errores

Un tribunal ordenó retirar un sistema que generaba informes médicos con datos inventados (“alucinaciones”).

Conclusión:

• La IA generativa debe tener revisión humana reforzada.
• La falta de trazabilidad es incompatible con sanidad.

🧭 4. Tribunales de protección de datos: biometría y vigilancia

Aquí es donde los tribunales están siendo más contundentes.

🇸🇪 Suecia — Identificación facial en tiempo real

Un tribunal sueco confirmó la prohibición de un sistema de vigilancia que identificaba personas en centros comerciales.

Motivos:

• Identificación biométrica en tiempo real → prohibida.
• Falta de consentimiento.
• Riesgo de discriminación.

👉 Relacionado: Sistemas prohibidos

🇫🇷 Francia — IA policial que clasificaba ciudadanos por “riesgo”

Un tribunal francés anuló un sistema predictivo que asignaba puntuaciones de riesgo a ciudadanos.

Conclusión:

• Puntuación social → prohibida.
• Falta de explicabilidad.
• Sesgos estructurales no mitigados.

🧭 5. Tribunales financieros: algoritmos de scoring y discriminación

🇧🇪 Bélgica — Algoritmo de scoring crediticio discriminatorio

Un tribunal belga obligó a una entidad financiera a revisar su sistema de scoring por discriminar a clientes de ciertos barrios.

Hallazgos:

• Sesgo geográfico → discriminación indirecta.
• Falta de documentación del modelo.
• Impacto en crédito → alto riesgo.

👉 Relacionado: Clasificación de riesgos

🧭 6. Tribunales de consumo: IA en comercio electrónico

🇪🇸 España — Precios dinámicos discriminatorios

Un tribunal de consumo español estudia un caso donde una plataforma aplicaba precios distintos según dispositivo.

Problemas:

• Discriminación injustificada.
• Falta de transparencia.
• Obligación de revisar sesgos.

👉 Relacionado: IA para comercio electrónico

🎯 Conclusión: ¿qué patrón siguen los tribunales europeos?

Los tribunales europeos están aplicando criterios muy estrictos en:

• Supervisión humana
• Transparencia
• Trazabilidad
• Documentación técnica
• Sesgos y discriminación
• Uso de IA en sectores críticos
• Prácticas prohibidas (biometría, puntuación social)

Y están enviando un mensaje claro:

La IA no puede sustituir decisiones humanas en ámbitos críticos sin controles estrictos.