Inteligencia Artificial (IA)
Conjunto de técnicas informáticas que permiten a un sistema realizar tareas que normalmente requieren inteligencia humana, como análisis, predicción, clasificación o generación de contenido.
Sistema de IA
Modelo o software que utiliza técnicas de IA para producir resultados como decisiones, recomendaciones, predicciones o contenido generado.
Modelo Fundacional
Modelo de IA entrenado con grandes cantidades de datos para realizar múltiples tareas. Sirve como base para desarrollar aplicaciones específicas. Ejemplos: modelos de lenguaje, modelos multimodales.
IA Generativa
Tipo de IA capaz de crear contenido nuevo: texto, imágenes, audio, vídeo o código. Incluye modelos como GPT, Claude o Stable Diffusion.
AI Act
Reglamento europeo que establece normas para el desarrollo, comercialización y uso de sistemas de IA en la Unión Europea, basado en una clasificación por niveles de riesgo.
Clasificación de Riesgos (AI Act)
Sistema que divide los sistemas de IA en cuatro categorías:
- Riesgo mínimo
- Riesgo limitado
- Riesgo alto
- Riesgo inaceptable
Riesgo Mínimo
Sistemas de IA sin impacto relevante en derechos o seguridad. No tienen obligaciones específicas.
Riesgo Limitado
Sistemas que requieren transparencia, como informar al usuario de que está interactuando con una IA.
Riesgo Alto
Sistemas que pueden afectar a derechos fundamentales o seguridad. Están sujetos a requisitos estrictos de documentación, calidad de datos, supervisión humana y gestión de riesgos.
Riesgo Inaceptable
Sistemas prohibidos por el AI Act, como la manipulación subliminal o la puntuación social.
Proveedor de IA
Persona o empresa que desarrolla un sistema de IA y lo pone en el mercado o lo despliega bajo su marca.
Usuario Empresarial
Organización que utiliza un sistema de IA en su actividad profesional siguiendo las instrucciones del proveedor.
Evaluación de Conformidad
Proceso para verificar que un sistema de IA cumple los requisitos del AI Act antes de su comercialización.
Documentación Técnica
Conjunto de documentos que describen el funcionamiento, diseño, datos, riesgos y controles de un sistema de IA.
Supervisión Humana
Mecanismos que garantizan que una persona puede controlar, corregir o detener un sistema de IA cuando sea necesario.
Dataset de Entrenamiento
Conjunto de datos utilizado para entrenar un modelo de IA. Su calidad y ausencia de sesgos son requisitos clave del AI Act.
Dataset de Validación
Datos usados para evaluar el rendimiento del modelo durante su desarrollo.
Dataset de Prueba
Datos utilizados para comprobar el comportamiento final del sistema antes de su despliegue.
Sesgo Algorítmico
Distorsión en los resultados de un sistema de IA causada por datos o procesos que generan discriminación o resultados injustos.
Transparencia
Obligación de informar al usuario sobre el uso de IA, sus capacidades, limitaciones y riesgos.
Trazabilidad
Capacidad de registrar y seguir el funcionamiento de un sistema de IA para auditar decisiones y detectar fallos.
Incidente Grave
Evento que provoca un daño significativo a personas, bienes o derechos fundamentales debido al uso de un sistema de IA. Debe notificarse a las autoridades.
Registro de Actividades
Obligación de mantener logs del funcionamiento del sistema para auditorías y supervisión.
Gobernanza de IA
Conjunto de políticas internas, procesos y controles que aseguran el uso responsable y conforme a la normativa de los sistemas de IA.
Ciberseguridad en IA
Medidas para proteger los sistemas de IA frente a ataques, manipulación de datos o alteración de modelos.