Aunque el AI Act acaba de entrar en vigor, Europa ya acumula un conjunto de conflictos legales reales relacionados con el uso de inteligencia artificial. Estos casos —resueltos por autoridades de protección de datos, tribunales laborales, organismos sanitarios y agencias de supervisión— muestran cómo se está interpretando la IA en la práctica y qué sectores están más expuestos.

A continuación se presentan los 10 casos más relevantes, explicados de forma clara y con implicaciones directas para empresas.

🧭 1. Países Bajos — Algoritmo de selección que descartaba candidatos automáticamente

La Autoridad Holandesa de Protección de Datos sancionó a una empresa tecnológica por usar un sistema que filtraba CVs y descartaba candidatos sin supervisión humana.

Hallazgos clave:

• El sistema era alto riesgo por afectar a empleo.
• No existía supervisión humana efectiva.
• No se documentaron sesgos.
• No se informó a los candidatos.

👉 Relacionado: IA para recursos humanos

🧭 2. Italia — IA educativa que asignaba calificaciones automáticas

Un centro educativo fue obligado a retirar un sistema que generaba notas automáticamente basándose en participación digital.

Problemas detectados:

• Influía en decisiones educativas → alto riesgo.
• No había trazabilidad.
• No se realizó evaluación de conformidad.
• Los estudiantes no fueron informados.

👉 Relacionado: Clasificación de riesgos

🧭 3. Alemania — IA generativa recomendando tratamientos médicos

Un hospital utilizó IA generativa para sugerir tratamientos a médicos residentes.

La autoridad sanitaria concluyó:

• La IA generativa no puede tomar decisiones clínicas.
• La supervisión humana es obligatoria.
• El sistema debe clasificarse como alto riesgo.

👉 Relacionado: IA en sanidad

🧭 4. Francia — Sistema de scoring crediticio discriminatorio

Una entidad financiera francesa fue investigada por un algoritmo que penalizaba a clientes de ciertos barrios.

Conclusiones:

• Sesgo geográfico → discriminación indirecta.
• Falta de documentación de datasets.
• No se justificó la lógica del modelo.
• Se considera alto riesgo por afectar a crédito.

👉 Relacionado: Errores comunes al implementar IA

🧭 5. España — IA municipal que priorizaba expedientes de forma opaca

Un ayuntamiento español usó IA para priorizar solicitudes de ayudas sociales.

Problemas:

• Falta de transparencia hacia ciudadanos.
• No se documentó el criterio de priorización.
• No existía supervisión humana real.
• Impacto en servicios públicos → alto riesgo.

👉 Relacionado: IA en administraciones públicas

🧭 6. Irlanda — Chatbot bancario que daba recomendaciones financieras sin avisar que era IA

Un banco irlandés fue advertido por un chatbot que ofrecía consejos financieros personalizados sin informar al usuario de que era IA.

Conclusión:

• Falta de transparencia → riesgo limitado.
• El contenido podía influir en decisiones económicas.
• Obligación de avisar claramente.

👉 Relacionado: ¿Mi IA está regulada?

🧭 7. Suecia — IA de vigilancia que identificaba personas sin consentimiento

Un sistema de seguridad en un centro comercial realizaba identificación facial en tiempo real.

Resultado:

• Práctica prohibida en la UE.
• Orden de retirada inmediata.
• Investigación penal por uso de biometría sin base legal.

👉 Relacionado: Sistemas prohibidos

🧭 8. Bélgica — IA de precios dinámicos que discriminaba por dispositivo

Una plataforma de e‑commerce aplicaba precios distintos según si el usuario compraba desde móvil o PC.

Hallazgos:

• Discriminación injustificada.
• Falta de documentación del modelo.
• Obligación de revisión de sesgos.

👉 Relacionado: IA para comercio electrónico

🧭 9. Austria — IA que generaba informes médicos falsos

Un software generativo producía informes clínicos con datos inventados (“alucinaciones”).

Conclusión:

• Riesgo grave para la salud.
• Obligación de supervisión humana reforzada.
• Prohibición de uso sin validación médica.

👉 Relacionado: Checklist del AI Act

🧭 10. Dinamarca — IA policial que clasificaba ciudadanos como “riesgo alto”

Un sistema predictivo asignaba puntuaciones de riesgo a ciudadanos basándose en datos históricos.

Problemas:

• Puntuación social → prohibido.
• Falta de explicabilidad.
• Sesgos estructurales no mitigados.

👉 Relacionado: Calculadora de nivel de riesgo

🎯 Conclusión: patrones comunes en los conflictos reales

Los casos muestran que las autoridades europeas están especialmente vigilantes en:

• Supervisión humana
• Sesgos y discriminación
• Transparencia hacia usuarios
• Documentación técnica
• Trazabilidad
• Uso de IA en sectores críticos
• Prácticas prohibidas (biometría, puntuación social, manipulación)

Y que las sanciones serán especialmente duras en empleo, educación, sanidad, finanzas y sector público.