La inteligencia artificial está transformando la forma en que los desarrolladores construyen software. Modelos generativos, APIs de IA, frameworks de machine learning y modelos de propósito general (GPAI) se han convertido en herramientas habituales en el desarrollo moderno.

Pero con la entrada en vigor del AI Act, los desarrolladores deben cumplir nuevas obligaciones técnicas, de documentación, de seguridad y de supervisión. Esta página explica qué deben hacer los desarrolladores, qué está regulado, qué no, y cómo construir IA conforme al AI Act.

1. ¿Qué considera el AI Act como “desarrollo de IA”?

El AI Act regula el desarrollo cuando el equipo técnico:

• Entrena modelos
• Ajusta modelos (fine-tuning)
• Integra modelos de terceros
• Despliega IA en aplicaciones o servicios
• Crea pipelines de datos para IA
• Implementa IA generativa
• Usa modelos de propósito general (GPAI)
• Automatiza decisiones con algoritmos

Si haces cualquiera de estas cosas, el AI Act te afecta.

2. ¿Qué NO está regulado para desarrolladores?

Tu trabajo no está regulado si:

• Solo usas algoritmos estadísticos sin aprendizaje automático
• No generas ni procesas datos personales
• No tomas decisiones automatizadas que afecten a personas
• No integras IA en sectores críticos
• No generas contenido que pueda confundirse con real
• No usas biometría ni datos sensibles

Ejemplos:

• Scripts internos de automatización
• Herramientas de análisis sin impacto externo
• IA creativa sin interacción con usuarios
• Algoritmos técnicos sin impacto en derechos fundamentales

3. Obligaciones generales para desarrolladores (aplican a todos)

3.1. Transparencia técnica

• Documentar qué hace la IA
• Documentar limitaciones
• Documentar riesgos previsibles
• Documentar dependencias y modelos usados

3.2. Seguridad del código

• Evitar vulnerabilidades
• Proteger APIs de IA
• Implementar autenticación y control de acceso
• Evitar fugas de datos en prompts o logs

3.3. Protección de datos

• No introducir datos personales en modelos públicos
• No usar datos sensibles sin base legal
• Minimizar datos en entrenamiento y pruebas

3.4. Supervisión humana

• Diseñar interfaces que permitan revisión humana
• Evitar automatización completa sin control
• Permitir detener o corregir decisiones automatizadas

4. Obligaciones para desarrolladores que usan IA generativa

Si usas IA generativa (texto, imagen, audio, vídeo), debes cumplir:

4.1. Transparencia

• Informar al usuario de que el contenido es generado por IA
• Etiquetar deepfakes
• Evitar que el usuario crea que el contenido es humano

4.2. Control de calidad

• Revisar salidas antes de usarlas en procesos críticos
• Detectar alucinaciones
• Detectar sesgos
• Validar contenido generado

4.3. Seguridad

• Evitar prompts que filtren datos internos
• Evitar que el modelo genere contenido ilegal
• Implementar filtros y validaciones

5. Obligaciones para desarrolladores que integran GPAI (GPT, Claude, Gemini, Llama)

Los modelos de propósito general (GPAI) tienen obligaciones específicas:

5.1. Documentación

• Registrar qué modelo se usa
• Registrar versión y proveedor
• Documentar capacidades y limitaciones
• Documentar riesgos conocidos

5.2. Trazabilidad

• Guardar logs de prompts y respuestas
• Registrar decisiones automatizadas
• Registrar incidentes

5.3. Seguridad

• Proteger el modelo frente a ataques adversariales
• Evitar jailbreaks
• Implementar validación de entradas y salidas

5.4. Uso responsable

• Evitar usos no previstos por el proveedor
• Evitar usos prohibidos (biometría, manipulación, puntuación social)
• Implementar políticas internas de IA

6. Obligaciones para desarrolladores de sistemas de alto riesgo

Si desarrollas IA en sectores críticos, debes cumplir requisitos estrictos:

6.1. Gestión de riesgos

• Identificar riesgos técnicos
• Identificar riesgos legales
• Documentar escenarios críticos
• Actualizar análisis durante el ciclo de vida

6.2. Gobernanza de datos

• Usar datos representativos
• Mitigar sesgos
• Documentar datasets
• Validar calidad de datos

6.3. Documentación técnica

• Arquitectura
• Diseño
• Métricas
• Limitaciones
• Procedimientos de supervisión humana

6.4. Trazabilidad

• Logs completos
• Auditoría de decisiones
• Conservación de registros

6.5. Evaluación de conformidad

• Pruebas técnicas
• Auditorías internas
• Certificación cuando sea necesaria

7. Obligaciones para desarrolladores que trabajan con biometría

La biometría es el área más regulada:

Prohibido

• Identificación facial en tiempo real
• Puntuación social
• Inferencia de rasgos sensibles sin base legal

Permitido con requisitos estrictos

• Verificación biométrica
• Identificación offline
• Sistemas de seguridad controlados

Obligaciones:

• Documentación técnica
• Supervisión humana
• Trazabilidad
• Evaluación de conformidad
• Seguridad reforzada

8. Checklist técnico para desarrolladores (resumen práctico)

8.1. Antes de desarrollar

• Identificar nivel de riesgo
• Identificar datos necesarios
• Evaluar impacto en personas
• Revisar prohibiciones del AI Act

8.2. Durante el desarrollo

• Documentar arquitectura
• Documentar decisiones técnicas
• Implementar trazabilidad
• Implementar supervisión humana
• Validar datos
• Mitigar sesgos
• Proteger el modelo

8.3. Antes del despliegue

• Pruebas de seguridad
• Pruebas de rendimiento
• Pruebas de sesgos
• Pruebas de explicabilidad
• Evaluación de conformidad (si aplica)

8.4. Después del despliegue

• Monitorización continua
• Registro de incidentes
• Actualizaciones de seguridad
• Auditorías periódicas
• Revisión de documentación

9. ¿Qué pasa si un desarrollador incumple el AI Act?

El incumplimiento puede generar:

• Sanciones para la empresa
• Responsabilidad civil
• Retirada del sistema del mercado
• Daños reputacionales
• Investigaciones regulatorias
• Obligación de corregir o rediseñar el sistema

10. Conclusión

El AI Act no pretende frenar la innovación, sino garantizar que la IA se desarrolla de forma:

• Segura
• Responsable
• Documentada
• Transparente
• Supervisada
• Trazable

Los desarrolladores son actores clave: su trabajo determina si un sistema cumple o incumple la ley.

Generador política IA para desarrolladores