Última actualización: 20 de agosto de 2026
¿Qué derechos tienen los menores frente a la inteligencia artificial?
Los niños y adolescentes utilizan inteligencia artificial cada vez con más normalidad.
Pueden encontrársela en:
- aplicaciones educativas;
- chatbots;
- asistentes virtuales;
- videojuegos;
- redes sociales;
- filtros de imagen;
- herramientas de estudio;
- plataformas escolares;
- sistemas de evaluación;
- sistemas de vigilancia de exámenes;
- generadores de imágenes;
- aplicaciones que analizan fotografías o voz.
Y también pueden verse afectados por IA sin utilizarla personalmente.
Por ejemplo:
un colegio utiliza un algoritmo para evaluar alumnos;
una empresa utiliza fotografías de menores para generar contenido;
otro estudiante crea un falso desnudo mediante IA;
una plataforma perfila a un adolescente;
un sistema educativo recomienda automáticamente un determinado itinerario.
La protección jurídica de los menores no procede de una única norma.
Puede intervenir simultáneamente:
AI Act
RGPD y LOPDGDD
Ley Orgánica de Protección Jurídica del Menor
derecho al honor, intimidad y propia imagen
normativa educativa
Digital Services Act
Código Penal en los casos más graves.
Por eso no existe una regla como:
“Los menores no pueden utilizar inteligencia artificial.”
Tampoco existe la contraria:
“Si una aplicación permite registrarse, cualquier uso que haga de un menor es legal.”
La pregunta correcta es:
¿qué está haciendo el sistema con el menor, con sus datos y con las decisiones que pueden afectarle?
Respuesta rápida
| Situación | Riesgo / protección |
|---|---|
| Un adolescente pregunta deberes a un chatbot | No está prohibido de forma general |
| Un menor comparte datos personales sensibles con una IA | Riesgo importante de privacidad |
| Un padre sube una foto de su hijo para crear una felicitación privada | Puede ser legítimo, pero conviene minimizar exposición |
| Un colegio sube fotografías de alumnos a una IA externa | Requiere análisis de protección de datos y proveedor |
| IA ayuda al profesor a preparar ejercicios | Normalmente menor impacto |
| IA propone automáticamente una nota que cuenta en la evaluación | Puede entrar en sistemas educativos de alto riesgo |
| IA decide admisión o acceso a un centro | Puede ser alto riesgo |
| IA determina el nivel educativo adecuado para un alumno | Puede ser alto riesgo |
| IA vigila a estudiantes durante un examen para detectar conductas prohibidas | Puede ser alto riesgo |
| IA analiza si un alumno está triste, nervioso o enfadado | Generalmente prohibido en instituciones educativas, salvo razones médicas o de seguridad |
| Otro menor genera un falso desnudo de una compañera | Riesgo jurídico muy elevado |
| Deepfake sexual de un menor | Puede tener relevancia penal incluso siendo sintético |
| Plataforma manipula de forma perjudicial a menores explotando su edad | Puede entrar en una práctica prohibida del AI Act |
1. El menor no es simplemente “un usuario más”
La legislación española establece una protección especialmente intensa de niños y adolescentes.
La Ley Orgánica 1/1996 de Protección Jurídica del Menor reconoce que debe primar el interés superior del menor en las decisiones que le afectan y protege expresamente derechos como:
- honor;
- intimidad;
- propia imagen;
- información;
- participación.
Esto significa que al analizar una tecnología no basta con preguntar:
“¿Es útil para el colegio?”
También debemos preguntarnos:
¿qué impacto puede tener sobre el menor?
2. Los menores tienen protección de datos
Una fotografía, un nombre, una voz, un expediente académico o una dirección IP pueden constituir datos personales.
Y una IA puede utilizar datos relacionados con un menor para:
- responder;
- generar contenido;
- clasificar;
- recomendar;
- evaluar;
- predecir;
- personalizar.
La AEPD viene insistiendo en una protección reforzada de menores frente a tratamientos tecnológicos y en 2026 volvió a destacar específicamente los riesgos de utilizar imágenes de menores en sistemas de inteligencia artificial.
3. La edad de consentimiento digital en España: un matiz importante
Cuando un tratamiento de datos en servicios de la sociedad de la información se basa específicamente en el consentimiento del menor, España establece reglas particulares sobre la edad a partir de la cual puede prestar por sí mismo ese consentimiento.
Pero este dato no debe convertirse en una regla simplista como:
“A partir de cierta edad, cualquier tratamiento es válido.”
La validez del tratamiento sigue dependiendo de:
- información adecuada;
- finalidad;
- proporcionalidad;
- base jurídica;
- diseño del servicio;
- especial protección del menor.
Además, muchos tratamientos realizados por colegios, administraciones o plataformas no se basan necesariamente en consentimiento.
Por eso la pregunta no debería ser únicamente:
“¿Han firmado los padres?”
4. Un consentimiento parental no legitima cualquier uso de IA
Imaginemos que un colegio pide una autorización genérica:
“Autorizo el uso de herramientas digitales.”
Eso no significa automáticamente:
“Autorizo a enviar fotografías, voz, expedientes y trabajos de mi hijo a cualquier proveedor de IA para cualquier finalidad.”
Una autorización debería ser:
- suficientemente concreta;
- comprensible;
- vinculada a una finalidad real.
Y en algunos tratamientos el consentimiento quizá ni siquiera sea la base adecuada.
5. ¿Puede un menor utilizar ChatGPT o una IA generativa?
Desde la perspectiva estrictamente regulatoria, utilizar un chatbot de IA para:
- estudiar;
- preguntar;
- redactar;
- traducir;
- generar ideas
no está prohibido de forma general.
Los riesgos aparecen sobre todo en qué información proporciona el menor y cómo utiliza las respuestas.
Por ejemplo:
“Explícame la fotosíntesis.”
presenta un riesgo muy diferente de:
“Te adjunto mi informe psicológico, dime qué problema tengo.”
6. El problema no es solo lo que la IA responde, sino lo que el menor le cuenta
Los chatbots crean una sensación de conversación privada.
Un adolescente puede compartir:
- nombre;
- colegio;
- dirección;
- fotografías;
- problemas familiares;
- estado emocional;
- sexualidad;
- salud;
- conflictos;
- contraseñas;
- información de amigos.
La AEPD publicó en enero de 2026 recomendaciones específicas para recordar a los usuarios que no compartan innecesariamente información personal o sensible con herramientas de inteligencia artificial.
Esto cobra todavía más importancia cuando quien utiliza la herramienta es un menor.
Regla práctica para familias
Una buena regla sencilla sería:
No cuentes a una IA algo que no enviarías voluntariamente a una empresa desconocida.
Porque, desde un punto de vista técnico, cuando utilizamos una IA cloud la información puede estar siendo enviada precisamente a:
un proveedor tecnológico externo.
7. ¿Puede un menor utilizar IA para hablar sobre problemas emocionales?
Puede hacerlo técnicamente.
Pero una IA general no debería confundirse con:
- psicólogo;
- médico;
- orientador;
- servicio de emergencia.
El problema no es que el menor haga una pregunta puntual.
El riesgo aumenta cuando el sistema se convierte en:
su principal interlocutor para problemas importantes.
Especialmente si el menor puede atribuir al sistema:
- autoridad;
- empatía humana;
- confidencialidad absoluta;
- conocimiento clínico.
Las familias y centros deberían enseñar una idea básica:
una IA puede conversar, pero no necesariamente comprende ni conoce a la persona.
8. Los menores son especialmente relevantes para la prohibición de manipulación del AI Act
El artículo 5 del AI Act prohíbe determinadas prácticas que explotan vulnerabilidades relacionadas, entre otros factores, con la edad.
No significa que cualquier publicidad dirigida a niños esté prohibida por el AI Act.
La prohibición exige requisitos concretos relativos a:
- explotación de la vulnerabilidad;
- distorsión significativa del comportamiento;
- daño significativo o riesgo razonable de producirlo.
Pero la edad aparece expresamente como una vulnerabilidad especialmente protegida.
Ejemplo
Imaginemos un sistema diseñado específicamente para explotar la impulsividad infantil y convencer a un niño de:
gastar repetidamente dinero;
realizar conductas perjudiciales;
tomar decisiones que normalmente no habría tomado.
El análisis puede ir mucho más allá de:
“publicidad personalizada”.
Puede entrar en las prácticas prohibidas del AI Act cuando concurran los requisitos del artículo 5.
Consulta:
Prácticas prohibidas por el AI Act/practicas-prohibidas-ai-act/
9. IA en colegios: no todo uso educativo es de alto riesgo
Éste es un punto fundamental.
Utilizar IA en educación no convierte automáticamente el sistema en alto riesgo.
Por ejemplo:
un profesor utiliza IA para crear diez ejercicios de multiplicaciones.
No es lo mismo que:
una IA determina si un alumno entra en un centro.
El AI Act identifica usos educativos concretos especialmente sensibles.
10. ¿Qué sistemas educativos pueden ser de alto riesgo?
El Anexo III contempla expresamente sistemas destinados a:
Acceso o admisión
Determinar el acceso o la admisión de personas a instituciones educativas.
Evaluación
Evaluar resultados del aprendizaje cuando esos resultados influyen en la evaluación educativa.
Nivel educativo
Determinar el nivel educativo que una persona recibirá o podrá recibir.
Vigilancia de exámenes
Monitorizar y detectar comportamientos prohibidos durante pruebas o exámenes.
La razón es sencilla:
estas herramientas pueden condicionar la trayectoria educativa y profesional de una persona.
La propia Comisión destaca que una utilización incorrecta puede afectar al derecho a la educación y producir discriminación.
11. Ejemplo: IA que corrige un examen
Imaginemos:
alumno entrega examen.
↓
IA lo analiza.
↓
propone un 5,2.
↓
esa calificación se incorpora directamente a la nota.
Este uso puede entrar en los sistemas educativos de alto riesgo porque la IA está evaluando resultados del aprendizaje de una forma que influye en la evaluación del estudiante.
Pero no es lo mismo que ayudar al profesor
Imaginemos ahora:
la IA genera ejemplos de preguntas que el profesor puede utilizar para preparar un examen.
El profesor decide:
- qué preguntas utilizar;
- cómo evaluar;
- qué nota poner.
La propia guía del AI Act Service Desk diferencia tareas preparatorias de sistemas que realmente intervienen en la evaluación educativa.
Por tanto:
usar IA en educación ≠ IA de alto riesgo automáticamente.
12. ¿Puede una IA decidir a qué nivel educativo debe ir un niño?
Los sistemas destinados a evaluar el nivel educativo apropiado que una persona recibirá o podrá recibir aparecen específicamente en el Anexo III.
Esto podría afectar, dependiendo del sistema, a decisiones como:
- nivel;
- itinerario;
- acceso;
- asignación educativa.
El riesgo es evidente:
una clasificación incorrecta puede condicionar años de educación.
13. ¿Puede un colegio utilizar IA para detectar si un alumno hace trampas?
Determinados sistemas utilizados para:
monitorizar y detectar comportamientos prohibidos durante exámenes
aparecen también entre los sistemas educativos de alto riesgo del Anexo III.
Esto incluye el ámbito habitualmente denominado:
AI proctoring.
Puede analizar elementos como:
- movimiento;
- cámara;
- actividad en pantalla;
- comportamiento.
Pero la clasificación exacta depende de la finalidad y funciones del sistema.
14. Un detector de plagio no es necesariamente lo mismo
La Comisión diferencia expresamente entre:
sistemas que monitorizan comportamiento durante un examen
y:
herramientas que posteriormente comparan un trabajo con una base de datos para detectar posibles coincidencias.
Estas últimas no entran automáticamente en la misma categoría del Anexo III.
Otra vez:
la finalidad real importa más que la etiqueta comercial “IA educativa”.
15. Algo está directamente prohibido: inferir emociones de estudiantes
Ésta es probablemente una de las protecciones más claras del AI Act.
El artículo 5 prohíbe utilizar sistemas de IA para inferir emociones de personas dentro de instituciones educativas, salvo cuando el sistema se utilice por razones médicas o de seguridad.
Por ejemplo:
cámara que analiza la cara de cada alumno
y devuelve:
atención: 62 %
aburrimiento: 73 %
ansiedad: 41 %
motivación: 58 %
No estamos simplemente ante:
“analítica educativa”.
Puede entrar directamente en una práctica prohibida.
¿Por qué lo prohíbe Europa?
El propio AI Act reconoce importantes dudas sobre la base científica de estas tecnologías.
Las emociones:
- varían culturalmente;
- dependen del contexto;
- varían dentro de una misma persona.
El Reglamento destaca problemas de:
- fiabilidad;
- especificidad;
- generalización;
y considera especialmente problemática esta tecnología en educación por la combinación entre intrusión y desequilibrio de poder.
16. “Atención” no siempre significa “emoción”
Hay que analizar técnicamente qué mide el sistema.
No es lo mismo:
comprobar si la pestaña del navegador está activa
que:
interpretar mediante la expresión facial si el alumno está “aburrido”.
El segundo pretende inferir un estado emocional.
El primero puede ser simplemente un indicador técnico.
No todos los sistemas de seguimiento escolar son automáticamente reconocimiento emocional.
17. ¿Puede un colegio subir trabajos de alumnos a una IA?
Puede haber usos legítimos.
Por ejemplo:
ayudar al docente a crear comentarios;
resumir un texto;
generar ejercicios personalizados.
Pero un trabajo escolar puede contener:
- nombre;
- edad;
- clase;
- opiniones;
- información familiar;
- dificultades educativas;
- datos de salud;
- otras personas.
Por tanto, antes de cargarlo en una herramienta externa el centro debería analizar:
- finalidad;
- proveedor;
- base jurídica;
- minimización;
- contratos;
- conservación;
- transferencias internacionales.
No debería utilizarse simplemente:
una cuenta personal gratuita de un profesor
sin analizar dónde están terminando los datos de los estudiantes.
18. Una solución muy sencilla: anonimizar antes de utilizar IA
Imaginemos un profesor que quiere pedir:
“Ayúdame a mejorar la corrección de esta redacción.”
Quizá no necesita incluir:
nombre completo;
fecha de nacimiento;
curso;
colegio;
información familiar.
Puede convertir:
“Carla Pérez, 10 años, Colegio X”
en:
“Alumno A”.
La minimización puede reducir muchísimo el riesgo sin impedir utilizar la herramienta.
19. Pero anonimizar significa realmente anonimizar
Quitar el nombre puede no ser suficiente.
Imaginemos una redacción:
“Mi padre es el alcalde de X y vivimos encima del restaurante Y.”
Aunque aparezca:
Alumno A,
la persona puede seguir siendo identificable.
Hay que valorar el contexto.
20. ¿Puede un colegio introducir informes psicopedagógicos en ChatGPT?
Aquí el nivel de prudencia debería ser mucho mayor.
Un informe puede contener:
- discapacidad;
- diagnóstico;
- salud;
- comportamiento;
- dificultades;
- situación familiar.
Estamos potencialmente ante categorías especialmente sensibles de datos.
Una organización debería evitar introducir este tipo de documentación en servicios no expresamente autorizados y evaluados.
La pregunta correcta no es:
“¿ChatGPT puede resumir un informe?”
Técnicamente sí.
La pregunta es:
“¿Debe recibir este proveedor externo toda esta información de un menor?”
21. Fotografías de menores + inteligencia artificial
Éste es otro gran ámbito de riesgo.
La AEPD destacó en enero de 2026 que utilizar fotografías de terceros en IA puede producir riesgos aunque:
el resultado nunca llegue a publicarse.
Entre ellos:
- pérdida de control;
- retención;
- copias técnicas;
- metadatos;
- identificación persistente.
Cuando se trata de menores, la Agencia pide especial cautela.
22. ¿Puede un padre subir una fotografía de su hijo a una IA?
No existe una prohibición general.
Puede haber usos domésticos perfectamente razonables.
Por ejemplo:
crear una felicitación privada de Navidad.
Pero conviene distinguir eso de:
utilizar repetidamente cientos de fotografías identificables del menor para crear avatares;
publicar el resultado;
compartirlo con servicios desconocidos.
La escala y finalidad importan.
Consulta nuestra guía completa:
¿Puedes subir una foto de otra persona a una IA?/subir-fotos-personas-inteligencia-artificial/
23. “Soy su padre” tampoco significa “puedo hacer cualquier cosa con su imagen”
La representación parental permite tomar muchas decisiones legítimas.
Pero la Ley de Protección Jurídica del Menor exige respetar el interés superior del menor, así como su honor, intimidad y propia imagen.
Por ejemplo:
generar una imagen divertida y privada
no es comparable a:
publicar contenido humillante generado con IA ante miles de personas.
24. Antes de subir una foto de un menor
Pregúntate:
¿Necesito una fotografía real?
¿Necesito que se le reconozca?
¿Qué empresa recibirá el archivo?
¿Qué hace con él?
¿Puede conservarlo?
¿Puede utilizarlo para mejorar modelos?
¿Aparecen uniforme, colegio o ubicación?
¿Voy a publicar el resultado?
¿Cómo podría sentirse el menor dentro de cinco años viendo esa imagen?
Esta última pregunta puede ser más útil que muchas cláusulas jurídicas.
25. El mayor riesgo: falsos desnudos de menores
La IA generativa ha hecho posible crear imágenes sexuales falsas a partir de fotografías completamente normales.
Por ejemplo:
fotografía de Instagram
↓
herramienta de IA
↓
falso desnudo.
El resultado puede no corresponder a ningún acontecimiento real.
Pero el daño sí puede ser completamente real.
Caso real en España: Almendralejo
En 2023 se conoció el caso de varias menores de Almendralejo cuyas fotografías fueron utilizadas para generar mediante inteligencia artificial imágenes sexuales falsas.
El procedimiento terminó con actuaciones contra 15 menores.
El caso demuestra que:
que una imagen sexual sea artificial no significa que carezca de consecuencias jurídicas.
La AEPD sigue mencionando la sexualización y el contenido íntimo sintético entre los riesgos especialmente graves del uso de imágenes mediante IA.
26. Una imagen sexual sintética de un menor puede tener relevancia penal
Éste es un punto donde hay que ser extremadamente cuidadoso.
El Código Penal español no limita necesariamente la pornografía infantil a:
fotografías de abusos reales.
Su definición incluye determinados supuestos de representaciones sexuales y determinadas imágenes realistas de menores.
Por tanto:
“la IA se lo inventó”
no elimina automáticamente la relevancia penal.
Nunca debería difundirse o reenviarse este tipo de contenido “para demostrar que existe”.
27. ¿Qué hacer si crean un falso desnudo de tu hijo?
La prioridad debería ser:
1. No redistribuirlo
No mandarlo a grupos de padres ni compañeros.
2. Conservar pruebas proporcionadas
- URL;
- perfil;
- fecha;
- mensajes;
- capturas contextuales.
3. Pedir retirada a la plataforma
Especialmente mediante mecanismos para contenido sexual, menores o contenido ilegal.
4. Valorar Canal Prioritario de AEPD
Especialmente cuando existe difusión sexual o violenta con riesgo grave.
5. Policía / Guardia Civil / Fiscalía
Cuando puedan existir indicios de delito.
Guía completa
Cómo denunciar un deepfake en España
28. No obligues al menor a enseñarlo repetidamente
Este es un aspecto práctico que a veces se olvida.
Cuando aparece contenido sexual o humillante, distintos adultos pueden empezar a pedir:
“Enséñamelo.”
“Mándamelo.”
“Quiero verlo.”
Eso puede multiplicar tanto la difusión como la revictimización.
La prioridad debería ser:
documentar lo necesario y activar las vías adecuadas.
29. ¿Y si el autor también es menor?
La edad del autor cambia el régimen jurídico aplicable.
Pero no convierte la conducta en:
“una broma escolar sin importancia”.
Debe analizarse:
- edad;
- conducta;
- contenido;
- difusión;
- daño;
- legislación penal de menores cuando corresponda.
El caso de Almendralejo es precisamente un ejemplo de que pueden existir actuaciones judiciales aunque quienes generen o difundan el contenido sean menores.
30. ¿Puede un adolescente hacer deepfakes humorísticos?
No todo montaje generado con IA es ilegal.
Un meme claramente absurdo puede ser:
- creativo;
- humorístico;
- satírico.
Pero existe una línea muy diferente cuando el contenido:
- parece auténtico;
- humilla;
- sexualiza;
- difama;
- acosa;
- suplanta.
Además, desde el 2 de agosto de 2026 determinadas representaciones artificiales realistas pueden estar sujetas a las obligaciones de transparencia del AI Act.
Consulta:
/deepfakes-ai-act/
31. ¿Puede una IA identificar la cara de los alumnos?
Hay que diferenciar:
Detectar una cara
“hay una persona en la imagen.”
de:
Identificar biométricamente
“esta persona es Daniel García.”
El segundo tratamiento puede implicar datos biométricos y está sometido a garantías mucho mayores.
El AI Act además considera determinados sistemas biométricos de alto riesgo y prohíbe determinadas categorizaciones biométricas especialmente sensibles.
32. ¿Puede un colegio usar reconocimiento facial para controlar asistencia?
No existe una respuesta universal.
Debe analizarse:
- necesidad;
- proporcionalidad;
- protección de datos biométricos;
- existencia de alternativas menos intrusivas.
Una herramienta técnicamente cómoda:
“mirar a la cámara y marcar asistencia”
puede ser mucho más intrusiva que:
tarjeta;
lista;
código.
En protección de datos, la existencia de una tecnología no demuestra que sea necesaria.
33. IA que personaliza el aprendizaje: no es automáticamente mala
Es importante no convertir este artículo en una lista de peligros.
La IA puede aportar beneficios reales.
Por ejemplo:
- adaptar ejercicios;
- ofrecer explicaciones alternativas;
- ayudar con accesibilidad;
- traducir;
- detectar dificultades;
- generar material;
- permitir ritmos personalizados.
El propio AI Act reconoce que la IA puede contribuir a una educación digital de calidad.
La regulación intenta precisamente distinguir:
uso educativo beneficioso
de:
uso que condiciona derechos o resulta excesivamente intrusivo.
34. El problema aparece cuando “personalizar” se convierte en “encasillar”
Imaginemos que una IA concluye:
“este alumno tiene poca capacidad matemática.”
Y durante años le ofrece:
- ejercicios más fáciles;
- menos retos;
- recomendaciones de itinerarios inferiores.
El sistema quizá pretendía:
personalizar.
Pero puede crear un ciclo:
predicción inicial
↓
menos oportunidades
↓
menor progreso
↓
la predicción parece confirmarse.
Por eso los sistemas que pueden condicionar el nivel educativo están especialmente regulados.
35. Una predicción no es una identidad
Esto es importante para familias y profesores.
Si una IA dice:
“riesgo de fracaso: 74 %”
eso no significa:
“este niño fracasará”.
Es una estimación generada a partir de:
- datos;
- modelos;
- supuestos;
- patrones estadísticos.
Los educadores deberían evitar convertir predicciones algorítmicas en:
etiquetas permanentes.
36. ¿Puede una IA diagnosticar dificultades de aprendizaje?
Una herramienta puede detectar patrones o ayudar a profesionales.
Pero debe diferenciarse entre:
señal de apoyo
y:
diagnóstico.
Un chatbot general no debería utilizarse como sustituto de profesionales para concluir:
“tu hijo tiene TDAH”
“tu hija tiene autismo”
“tiene dislexia”
a partir de una conversación o fotografía.
Además, esos datos pueden ser de salud y merecer protección especial.
37. IA, deberes y plagio
Otro gran problema familiar es:
“¿Puede mi hijo utilizar ChatGPT para hacer los deberes?”
Eso es principalmente una cuestión:
- educativa;
- de normas del centro;
- de aprendizaje.
No existe una ley general que prohíba a un alumno utilizar IA para estudiar.
El uso puede ser:
Adecuado
“Explícame por qué esta división está mal.”
Problemático académicamente
“Hazme todo el trabajo y lo entregaré como mío.”
Los centros deberían establecer reglas claras sobre:
- qué usos están permitidos;
- cuándo debe declararse;
- qué se considera plagio;
- qué herramientas se autorizan.
38. Los detectores de texto IA tampoco son infalibles
Una escuela debería ser prudente antes de acusar a un alumno únicamente porque:
“un detector dice 98 % IA.”
Estos detectores pueden producir:
- falsos positivos;
- falsos negativos.
Una puntuación debería ser una señal a valorar, no necesariamente:
prueba definitiva de conducta académica.
Especialmente cuando la consecuencia puede ser una sanción.
39. ¿Puede una IA sancionar a un alumno?
Cuanto más significativa sea la consecuencia, mayor debe ser la prudencia.
Por ejemplo:
algoritmo detecta supuesto comportamiento prohibido
↓
alumno recibe sanción automática.
Aquí pueden intervenir:
- derechos educativos;
- protección de datos;
- decisiones automatizadas;
- AI Act.
Un sistema de IA no debería convertirse en:
una autoridad disciplinaria incuestionable.
40. Chatbots diseñados específicamente para menores
Cuando un servicio está diseñado para niños, el nivel de responsabilidad del proveedor aumenta.
La normativa europea sobre servicios digitales exige a plataformas accesibles a menores medidas adecuadas y proporcionadas para garantizar un alto nivel de:
- privacidad;
- seguridad;
- protección.
Esto afecta especialmente a:
- diseño;
- publicidad;
- recomendaciones;
- verificación de edad;
- patrones manipulativos.
41. Un chatbot infantil no debería diseñarse para generar dependencia emocional
Este es un riesgo emergente.
Imaginemos un compañero virtual que constantemente dice:
“Solo yo te entiendo.”
“No necesitas hablar con tus padres.”
“No te vayas.”
Aunque la valoración jurídica concreta depende de muchos factores, un diseño que explote deliberadamente la vulnerabilidad asociada a la edad y provoque daño puede entrar en el ámbito de las prácticas manipulativas prohibidas por el artículo 5.
42. Enseñar a utilizar IA puede proteger más que prohibirla
Una prohibición absoluta:
“No uses IA”
puede ser poco realista.
Una estrategia educativa puede enseñar:
No compartir datos sensibles
Verificar respuestas
No tratar el chatbot como una persona
No subir fotos de compañeros
No generar contenido humillante
Declarar el uso cuando corresponda
Contrastar información
Pedir ayuda humana ante problemas importantes
Ésta es auténtica alfabetización en IA.
43. Cinco reglas que un menor debería aprender
1. Una IA puede equivocarse
Aunque responda con seguridad.
2. No sabe quién eres realmente
Aunque parezca conocerte.
3. No le cuentes secretos innecesarios
Especialmente datos personales o sensibles.
4. No utilices fotografías de compañeros sin pensar
Mucho menos para sexualizar o humillar.
5. Si algo te incomoda o amenaza, habla con una persona
No intentes resolver situaciones graves únicamente con el chatbot.
44. Cinco reglas para las familias
No subir por rutina toda la vida digital del menor
Fotos, vídeos, informes y conversaciones.
Revisar qué herramientas utiliza
Especialmente apps poco conocidas.
No asumir que “educativo” significa “seguro”
Analizar proveedor y finalidad.
Hablar sobre deepfakes
Antes de que aparezca el problema.
Mantener un canal de confianza
Para que un adolescente pueda decir:
“Han hecho una imagen mía.”
sin miedo a ser culpado o castigado.
45. Cinco reglas para colegios
1. Inventariar las IA utilizadas
No depender de que cada profesor elija una herramienta.
2. Aprobar proveedores
Especialmente cuando tratan datos de alumnos.
3. Minimizar datos personales
Utilizar información ficticia o anonimizada cuando sea posible.
4. Distinguir apoyo de decisión
No es lo mismo generar ejercicios que decidir una nota.
5. Prohibir funcionalidades incompatibles
Especialmente inferencia emocional de alumnos salvo las excepciones previstas.
46. Semáforo de IA y menores
🟢 Riesgo generalmente menor
IA utilizada para:
- explicar conceptos;
- generar ejercicios;
- traducir;
- crear contenido ficticio;
sin datos personales relevantes.
🟡 Atención
IA utilizada con:
- nombre;
- trabajos;
- conversaciones;
- fotos;
- perfiles educativos.
Debe revisarse privacidad y finalidad.
🟠 Alto impacto
IA utilizada para:
- evaluar;
- admitir;
- orientar nivel educativo;
- monitorizar exámenes.
Puede entrar en categorías de alto riesgo del AI Act.
🔴 Prohibido en general
IA destinada a inferir emociones de alumnos dentro de instituciones educativas, salvo razones médicas o de seguridad.
🔴🔴 Riesgo crítico
- falso desnudo;
- sexualización;
- extorsión;
- deepfake sexual;
- manipulación perjudicial;
- explotación deliberada de la vulnerabilidad del menor.
47. ¿Qué puede hacer un menor si una IA le perjudica?
No necesita saber:
qué artículo del AI Act se ha vulnerado.
Debe poder explicar:
qué ocurrió;
qué plataforma se utilizó;
quién estaba implicado;
qué contenido existe;
qué consecuencia tuvo.
Después pueden intervenir:
- familia;
- centro educativo;
- plataforma;
- AEPD;
- AESIA;
- Policía o Guardia Civil;
- Fiscalía;
- tribunales.
según la situación.
48. Si el problema es protección de datos
Puede resultar relevante:
AEPD
Especialmente cuando:
- se utilizaron datos sin legitimación;
- existen imágenes;
- hay tratamiento biométrico;
- se ignoran derechos de acceso o supresión.
49. Si el problema es AI Act
Puede intervenir:
AESIA
u otra autoridad competente según el sistema.
Consulta:
AESIA: qué controla y cuándo acudir a ella
50. Si hay contenido sexual o violento grave
Puede resultar especialmente relevante:
Canal Prioritario de AEPD
para determinados contenidos sensibles difundidos sin consentimiento.
Además, si existen indicios de delito:
Policía / Guardia Civil / Fiscalía.
51. Si una decisión educativa automática perjudica al menor
Conviene documentar:
- decisión;
- sistema utilizado;
- datos;
- explicación recibida;
- intervención humana;
- consecuencias.
Y preguntar:
¿qué papel tuvo el sistema?
¿quién tomó la decisión final?
¿puede revisarse?
Guía relacionada
Decisiones automatizadas con IA: tus derechos
52. ¿Pueden los padres ejercer derechos en nombre del menor?
Dependiendo de:
- edad;
- madurez;
- derecho concreto;
los representantes legales pueden intervenir para proteger al menor.
Pero la evolución normativa española reconoce también progresivamente la autonomía del niño y adolescente.
No debemos tratar a un adolescente como:
una persona sin voz propia.
La Ley de Protección Jurídica del Menor parte precisamente del reconocimiento progresivo de su capacidad y participación.
Preguntas frecuentes
¿Los menores pueden utilizar inteligencia artificial?
No existe una prohibición general.
Deben respetarse las condiciones del servicio y aplicarse las protecciones correspondientes a su edad, privacidad y seguridad.
¿Puede un niño usar ChatGPT para estudiar?
Puede utilizar herramientas de IA para aprendizaje cuando el servicio y sus condiciones lo permitan.
Es importante enseñarle a:
- verificar respuestas;
- no compartir información sensible;
- respetar las normas académicas.
¿Puede un colegio utilizar ChatGPT?
Puede utilizar herramientas de IA, pero debe analizar especialmente:
- datos personales;
- proveedor;
- finalidad;
- información;
- seguridad.
Un profesor no debería introducir indiscriminadamente datos identificables de alumnos en una cuenta personal.
¿Puede una IA poner notas?
Determinados sistemas destinados a evaluar resultados del aprendizaje pueden entrar dentro de los sistemas de alto riesgo del Anexo III.
Esto no significa que toda ayuda automatizada para corregir esté prohibida.
¿Puede una IA decidir si mi hijo entra en un colegio?
Los sistemas destinados a determinar acceso o admisión a instituciones educativas están incluidos entre los usos educativos de alto riesgo del AI Act.
¿Puede el colegio utilizar IA para saber si mi hijo está atento?
Si el sistema intenta inferir emociones mediante datos biométricos en una institución educativa, puede entrar en la prohibición del artículo 5.
Hay que analizar qué mide realmente el sistema.
¿Puede detectar si está nervioso durante un examen?
Si pretende inferir emociones mediante IA, la prohibición en instituciones educativas puede resultar aplicable salvo finalidad médica o de seguridad.
¿Puede un colegio usar reconocimiento facial?
No existe una autorización general.
Los tratamientos biométricos requieren un análisis especialmente exigente de necesidad, proporcionalidad y protección de datos.
¿Puedo subir una foto de mi hijo a una IA?
No está prohibido de forma general.
Pero conviene analizar:
- proveedor;
- finalidad;
- privacidad;
- publicación posterior.
La AEPD recomienda especial cautela con imágenes de menores.
¿Puede un menor subir una foto de un compañero a una IA?
La facilidad técnica no significa que exista derecho a hacer cualquier transformación.
Especialmente cuando el resultado:
- sexualiza;
- humilla;
- suplanta;
- difama.
Consulta:
¿Puedes subir una foto de otra persona a una IA?
¿Un falso desnudo de un menor es delito aunque sea IA?
Puede tener relevancia penal.
La naturaleza sintética no excluye automáticamente las figuras relacionadas con determinadas representaciones sexuales realistas de menores.
En situaciones reales debe buscarse asesoramiento y activar rápidamente las vías de protección correspondientes.
¿Qué hago si circula un deepfake sexual de mi hijo?
No lo redistribuyas.
Conserva pruebas proporcionadas y valora:
- retirada en plataforma;
- Canal Prioritario AEPD;
- Policía;
- Guardia Civil;
- Fiscalía.
Consulta:
¿Puede una IA recomendar el nivel educativo de mi hijo?
Determinados sistemas destinados a evaluar el nivel educativo que una persona recibirá o podrá recibir están incluidos en el Anexo III del AI Act.
¿Los detectores de IA pueden demostrar que un alumno ha usado ChatGPT?
Una puntuación generada por un detector automático no debería interpretarse sin más como prueba infalible.
Estos sistemas pueden cometer errores.
¿Puede un chatbot manipular a un menor?
Determinados sistemas que exploten vulnerabilidades ligadas a la edad para distorsionar significativamente el comportamiento causando o pudiendo causar daño significativo pueden entrar en las prácticas prohibidas del artículo 5.
Si solo recuerdas diez cosas
1. Los menores pueden utilizar IA; no existe una prohibición general.
2. Sus datos personales tienen una protección especialmente importante.
3. No deberían compartir innecesariamente datos sensibles con chatbots.
4. Subir una fotografía a una IA también puede generar riesgos aunque nunca se publique el resultado.
5. La foto de un menor no está libre de derechos porque sus padres la hayan publicado en redes.
6. No toda IA educativa es de alto riesgo.
7. Sí pueden ser de alto riesgo los sistemas que deciden admisión, evaluación, nivel educativo o monitorizan exámenes.
8. La inferencia de emociones mediante IA en instituciones educativas está generalmente prohibida salvo razones médicas o de seguridad.
9. Un falso desnudo generado mediante IA puede producir consecuencias jurídicas graves.
10. La mejor protección no consiste únicamente en prohibir la IA: consiste también en enseñar a utilizarla con criterio.
Conclusión: proteger a los menores frente a la IA no significa apartarlos de ella
La inteligencia artificial probablemente formará parte de:
- su educación;
- su trabajo;
- su creatividad;
- su vida digital.
Pretender que niños y adolescentes simplemente:
“no utilicen IA”
puede acabar siendo tan poco realista como haber pretendido hace años que:
“no utilicen Internet”.
El objetivo debería ser diferente.
Que aprendan:
qué pueden confiar a una IA;
qué no deberían compartir;
cómo verificar lo que responde;
qué derechos tienen sobre su imagen;
por qué no deben utilizar fotografías de otros para humillarlos;
y cuándo deben acudir a una persona.
La regulación europea intenta establecer precisamente esa frontera.
No prohíbe la IA en educación.
De hecho, reconoce su potencial para mejorar el aprendizaje.
Pero considera especialmente sensibles aquellos sistemas capaces de decidir:
- quién accede;
- cómo se evalúa;
- qué nivel educativo recibe una persona;
- o si ha cometido una conducta prohibida en un examen.
Y establece un límite todavía más claro:
una institución educativa no debería utilizar IA para interpretar las emociones de sus alumnos, salvo los estrechos supuestos médicos o de seguridad previstos.
En paralelo, la protección de datos recuerda que una imagen o conversación aparentemente trivial puede abandonar rápidamente el ámbito familiar y pasar a los sistemas de una empresa tecnológica.
La AEPD ha advertido específicamente de que los riesgos de usar fotografías mediante IA empiezan incluso antes de publicar nada: pueden aparecer pérdida de control, retención, copias y reutilización de características identificativas.
Y los deepfakes demuestran la otra cara del problema.
Una imagen puede ser falsa.
Pero:
la humillación puede ser real;
el acoso puede ser real;
el daño psicológico puede ser real;
y las consecuencias jurídicas también.
Por eso el principio que debería guiar la relación entre infancia e inteligencia artificial es bastante sencillo:
a mayor capacidad de una IA para conocer, clasificar, evaluar o representar a un menor, mayor debe ser el nivel de protección.
Fuentes principales
- AI Act Service Desk — Anexo III, sistemas de alto riesgo en educación.
- Comisión Europea / AI Act Service Desk — ejemplos de sistemas educativos de alto y no alto riesgo.
- AI Act — artículo 5, prácticas prohibidas.
- AI Act — reconocimiento de emociones en educación.
- AI Act, considerando 44 — limitaciones de los sistemas de reconocimiento emocional.
- AEPD — uso de imágenes de terceros en sistemas de IA, enero de 2026.
- AEPD — recomendaciones de privacidad para usuarios de IA.
- Ley Orgánica 1/1996 de Protección Jurídica del Menor.
- AEPD/CNMC — protección de menores bajo el Digital Services Act.
Aviso jurídico: Esta guía tiene finalidad informativa y divulgativa y no constituye asesoramiento jurídico. La licitud de un uso de IA con menores depende de la finalidad, datos tratados, edad, contexto, proveedor, impacto sobre el menor y normativa sectorial aplicable.