Chatbots de IA en empresas: riesgos legales y cómo cumplir la normativa

---

Última actualización: 27 de julio de 2026.

Los chatbots de inteligencia artificial se han convertido en una herramienta habitual para empresas, pymes y profesionales.

Pueden responder preguntas, atender a clientes, recomendar productos, gestionar reservas, captar contactos, preparar presupuestos e incluso realizar determinadas acciones dentro de los sistemas de la empresa.

Su facilidad de instalación puede transmitir la impresión de que basta con contratar una herramienta, conectarla a la página web y dejarla funcionar. Sin embargo, desde el momento en que el chatbot interactúa con clientes, accede a información interna o trata datos personales, aparecen importantes responsabilidades legales y empresariales.

Un chatbot puede:

• Inventar una condición comercial.
• Ofrecer un precio incorrecto.
• Solicitar datos que la empresa no necesita.
• Revelar información confidencial.
• Discriminar entre usuarios.
• Impedir el acceso a atención humana.
• Ejecutar una acción sin autorización suficiente.
• Dar una respuesta jurídica, médica o financiera equivocada.
• Ser manipulado por un usuario malicioso.
• Incumplir el deber de informar de que utiliza inteligencia artificial.

La empresa no puede confiar únicamente en que el proveedor del chatbot “cumple el AI Act”. Debe analizar cómo lo utiliza, qué información maneja, qué decisiones puede tomar y qué consecuencias puede producir sobre las personas.

En esta guía explicamos qué riesgos presentan los chatbots de IA, qué normas pueden afectarles y qué medidas deberían adoptar las organizaciones para utilizarlos de forma responsable.

Chatbots de IA en empresas: resumen rápido

Una empresa que utiliza un chatbot debería comprobar, como mínimo, que:

• El usuario sabe que está interactuando con una inteligencia artificial.
• El chatbot explica correctamente sus funciones y limitaciones.
• No solicita más datos personales de los necesarios.
• Existe una base jurídica para tratar esos datos.
• El proveedor ofrece garantías adecuadas de privacidad y seguridad.
• Las conversaciones no se utilizan para entrenar modelos sin conocimiento de la empresa.
• El chatbot responde utilizando información actualizada y autorizada.
• No inventa precios, condiciones, garantías o plazos.
• Puede derivar la conversación a una persona cuando sea necesario.
• No adopta decisiones importantes por sí solo.
• Sus permisos están limitados a las funciones estrictamente necesarias.
• Las respuestas y acciones relevantes quedan registradas.
• Existe un procedimiento para revisar errores e incidentes.
• El personal responsable ha recibido formación sobre sus riesgos.

A partir del 2 de agosto de 2026, el artículo 50 del AI Act exige que los sistemas diseñados para interactuar directamente con personas informen de que se está utilizando inteligencia artificial, salvo que resulte evidente por las circunstancias. Esta obligación comienza en esa fecha sin un periodo adicional de adaptación específico para los chatbots.

¿Qué es exactamente un chatbot de inteligencia artificial?

Un chatbot es una aplicación que mantiene una conversación con una persona mediante texto, voz u otros formatos.

Puede aparecer en:

• Una página web.
• Una tienda online.
• WhatsApp.
• Una aplicación móvil.
• Una red social.
• Un sistema interno de empresa.
• Una centralita telefónica.
• Un programa de atención al cliente.
• Una plataforma de reservas.
• Un servicio de soporte técnico.

No todos los chatbots funcionan de la misma manera.

Chatbot basado en reglas

Ofrece respuestas previamente configuradas y conduce al usuario por un conjunto cerrado de opciones.

Por ejemplo:

Selecciona una opción: consultar un pedido, realizar una devolución o contactar con atención al cliente.

Un sistema que se limita a aplicar reglas definidas completamente por personas podría no cumplir la definición de sistema de IA del AI Act.

No obstante, eso no significa que quede libre de obligaciones. Si recoge datos personales, atiende a consumidores o facilita información comercial, seguirá sujeto al RGPD y a la normativa de consumo correspondiente.

Chatbot con inteligencia artificial generativa

Interpreta preguntas abiertas y genera respuestas nuevas utilizando un modelo de lenguaje.

Puede conectarse a:

• La página web de la empresa.
• Una base de conocimiento.
• Documentos internos.
• Un catálogo de productos.
• El historial del cliente.
• Un sistema de gestión empresarial.
• Una plataforma de comercio electrónico.

Estos sistemas resultan más flexibles, pero también pueden generar información que no estaba en las fuentes o interpretar incorrectamente una pregunta.

Agente de inteligencia artificial

Además de conversar, puede ejecutar acciones.

Por ejemplo:

• Modificar una reserva.
• Emitir una devolución.
• Cambiar los datos de una cuenta.
• Enviar un correo electrónico.
• Crear un pedido.
• Consultar una base de datos.
• Programar una reunión.
• Abrir una incidencia.
• Aprobar una solicitud.
• Aplicar un descuento.

La AEPD advierte de que los sistemas de IA agéntica no se limitan a responder preguntas, sino que pueden operar con autonomía y ejecutar tareas complejas, lo que introduce nuevos riesgos para la protección de los datos personales.

Cuantas más acciones pueda realizar el chatbot y más información pueda consultar, mayor debe ser el control aplicado.

¿Qué leyes afectan a un chatbot de IA?

No existe una única “ley de los chatbots”.

Dependiendo de su funcionamiento, pueden resultar aplicables simultáneamente:

• El Reglamento Europeo de Inteligencia Artificial o AI Act.
• El Reglamento General de Protección de Datos.
• La Ley Orgánica de Protección de Datos y Garantía de los Derechos Digitales.
• La normativa de consumidores y usuarios.
• La Ley de Competencia Desleal.
• La Ley de Servicios de Atención a la Clientela.
• Las normas de contratación electrónica.
• La legislación sobre propiedad intelectual.
• Las normas sectoriales de ámbitos como salud, finanzas, seguros, educación o servicios jurídicos.

La empresa debe analizar el caso de uso completo, no solamente la tecnología contratada.

AI Act y chatbots: obligación de transparencia

La principal obligación específica para los chatbots aparece en el artículo 50.1 del AI Act.

Los proveedores de sistemas de IA destinados a interactuar directamente con personas deberán diseñarlos de forma que el usuario sea informado de que está hablando con una inteligencia artificial.

La información debe mostrarse:

• Desde el comienzo de la primera interacción.
• De forma clara.
• De manera diferenciada.
• En un formato accesible.
• Con un lenguaje que el usuario pueda comprender.

La obligación no se aplica cuando resulte evidente para una persona razonablemente informada, observadora y prudente que está interactuando con una IA. Sin embargo, la Comisión Europea considera que esta excepción debe interpretarse de manera restrictiva.

Llamar a la herramienta “asistente virtual”, utilizar el icono de un robot o mostrar un diseño futurista puede no ser suficiente para que la naturaleza artificial resulte evidente.

La opción más segura suele ser incluir un aviso expreso.

Ejemplo de aviso básico para un chatbot

Estás interactuando con un asistente basado en inteligencia artificial. Sus respuestas pueden contener errores.

Ejemplo para un chatbot de atención al cliente

Este asistente utiliza inteligencia artificial para responder a tus consultas. Puede cometer errores o no disponer de toda la información. Puedes solicitar atención humana cuando lo necesites.

Ejemplo para un chatbot profesional

Estás interactuando con un sistema de inteligencia artificial. La información facilitada es general y no sustituye el asesoramiento personalizado de un profesional.

Ejemplo para un chatbot con capacidad para ejecutar acciones

Este asistente utiliza inteligencia artificial y puede realizar determinadas gestiones en tu cuenta. Antes de confirmar una operación relevante, te mostraremos sus datos para que puedas revisarlos y autorizarla.

El aviso debe reflejar el funcionamiento real del sistema. No conviene prometer atención humana inmediata, revisión profesional o verificación de todas las respuestas si esos controles no existen.

¿La obligación corresponde al proveedor o a la empresa que instala el chatbot?

El artículo 50.1 atribuye formalmente la obligación de diseño al proveedor del sistema de IA.

El proveedor es quien desarrolla el sistema, encarga su desarrollo o lo comercializa bajo su nombre o marca.

Una pyme que contrata e integra una herramienta desarrollada por otra empresa será normalmente responsable del despliegue, no proveedora.

Sin embargo, esto no significa que pueda desentenderse del aviso.

La empresa que utiliza el chatbot debería comprobar que:

• La función de transparencia está activada.
• El aviso aparece en el momento correcto.
• No ha sido eliminado durante la personalización.
• Se muestra en todos los canales.
• Está disponible en los idiomas utilizados.
• Es accesible para personas con discapacidad.
• Explica correctamente las funciones del sistema.
• El proveedor ha documentado cómo cumple el artículo 50.

Si la empresa encarga el desarrollo del chatbot y lo ofrece bajo su propia marca, modifica sustancialmente su funcionamiento o lo comercializa como producto propio, podría asumir responsabilidades adicionales como proveedora.

No basta con poner un aviso de “esto es una IA”

Informar al usuario es solo una parte del cumplimiento.

Un aviso no elimina:

• Los riesgos de protección de datos.
• La responsabilidad por información engañosa.
• La necesidad de controlar las respuestas.
• Las obligaciones de seguridad.
• La prohibición de determinados usos.
• Los derechos de los consumidores.
• Las reglas sobre decisiones automatizadas.
• La necesidad de formar al personal.

Una empresa no puede configurar un chatbot sin controles y resolver el problema añadiendo:

Las respuestas pueden contener errores y la empresa no se responsabiliza de ellos.

Una cláusula de este tipo no convierte en correcta una información comercial falsa ni elimina las responsabilidades legales que puedan corresponder.

Principales riesgos legales de los chatbots de IA

1. Respuestas falsas o inventadas

Los modelos generativos pueden producir respuestas que parecen convincentes, aunque sean incorrectas.

Un chatbot puede inventar:

• El precio de un servicio.
• Una promoción inexistente.
• El plazo de entrega.
• Las condiciones de devolución.
• Una garantía.
• Una característica del producto.
• Una disponibilidad.
• Una dirección.
• Una obligación contractual.
• Una explicación jurídica o técnica.

El problema no desaparece porque la respuesta haya sido generada por un proveedor externo.

Cuando la empresa incorpora el chatbot a su web y permite que atienda a clientes en su nombre, está utilizando esa herramienta como parte de su canal comercial o de atención.

La legislación española considera engañosa la información falsa o la información que, aun siendo cierta, pueda inducir a error y alterar el comportamiento económico del destinatario.

Cómo reducir este riesgo

• Limitar las respuestas a fuentes aprobadas.
• Impedir que responda cuando no encuentre información fiable.
• Utilizar frases como “no dispongo de esa información”.
• Derivar preguntas sensibles a una persona.
• Revisar periódicamente las conversaciones.
• Actualizar la base de conocimiento.
• Probar preguntas ambiguas y casos extremos.
• No permitir que improvise condiciones contractuales.
• Separar claramente información general y ofertas vinculantes.

2. Recogida excesiva de datos personales

Un usuario puede escribir en un chatbot información como:

• Nombre y apellidos.
• Correo electrónico.
• Teléfono.
• Dirección.
• DNI.
• Número de pedido.
• Datos bancarios.
• Información médica.
• Datos laborales.
• Información sobre otras personas.
• Contraseñas o credenciales.

El hecho de que la empresa no haya solicitado expresamente esos datos no significa que pueda ignorar su tratamiento.

Los campos de texto libre son especialmente delicados porque permiten que el usuario introduzca información imprevisible.

La empresa debe determinar para qué utiliza los datos, cuál es la base jurídica, cuánto tiempo se conservan, quién puede acceder a ellos y si se transfieren a terceros países. La AEPD recuerda que el sistema de IA es un medio dentro de una actividad de tratamiento y que el responsable sigue decidiendo la finalidad y la forma de utilizarlo.

Cómo reducir este riesgo

• No pedir datos que no sean necesarios.
• Mostrar advertencias antes de que el usuario escriba.
• Evitar solicitar datos sensibles en conversaciones abiertas.
• Ocultar o eliminar automáticamente determinados identificadores.
• Establecer plazos de conservación.
• Restringir el acceso a las conversaciones.
• Permitir que el usuario ejerza sus derechos.
• Actualizar el registro de actividades de tratamiento.
• Realizar una evaluación de impacto cuando exista un riesgo elevado.

Ejemplo de aviso de privacidad breve

No incluyas contraseñas, datos bancarios, información médica ni otros datos sensibles. Utilizaremos los datos que facilites para atender tu consulta. Puedes consultar más información en nuestra política de privacidad.

Este primer aviso puede enlazar a una segunda capa de información más detallada.

3. Uso de las conversaciones por parte del proveedor

Antes de contratar un chatbot, la empresa debe averiguar qué ocurre con la información que los usuarios introducen.

Debe comprobar:

• Si el proveedor conserva las conversaciones.
• Si las utiliza para entrenar o mejorar sus modelos.
• Si permite desactivar ese uso.
• Dónde se almacenan los datos.
• Qué subencargados intervienen.
• Si existen transferencias internacionales.
• Cuándo elimina la información.
• Qué ocurre al cancelar el contrato.
• Si puede recuperar o exportar los registros.
• Cómo notifica una brecha de seguridad.

Cuando el proveedor trata datos siguiendo las instrucciones de la empresa, normalmente será necesario formalizar un contrato de encargado del tratamiento conforme al artículo 28 del RGPD.

No debería contratarse una herramienta únicamente porque resulte sencilla o económica sin conocer estas condiciones.

4. Filtración de información confidencial

Un chatbot conectado a documentos internos puede revelar información que el usuario no debería conocer.

Por ejemplo:

• Datos de otros clientes.
• Información sobre empleados.
• Márgenes comerciales.
• Precios internos.
• Contratos.
• Documentos privados.
• Instrucciones del sistema.
• Información estratégica.
• Credenciales.
• Contenido protegido por secreto profesional.

La conexión del chatbot a una base de conocimiento no garantiza que respete correctamente los permisos existentes.

Debe comprobarse que cada usuario solo pueda acceder a la información que le corresponde.

Cómo reducir este riesgo

• Separar la información pública de la interna.
• Aplicar permisos por usuario y función.
• No incorporar documentos completos sin revisarlos.
• Eliminar datos personales innecesarios.
• Probar intentos de acceso indebido.
• Impedir que el chatbot muestre sus instrucciones internas.
• Limitar los fragmentos recuperados.
• Registrar las consultas a información sensible.
• Revisar periódicamente los permisos.

5. Manipulación del chatbot por parte de usuarios

Un usuario puede intentar alterar el funcionamiento del sistema mediante instrucciones diseñadas para que ignore sus reglas.

Podría pedirle que:

• Revele información interna.
• Muestre datos de otro cliente.
• Ignore las limitaciones.
• Aplique un descuento no autorizado.
• Ejecute una operación.
• Facilite instrucciones peligrosas.
• Se haga pasar por un empleado.
• Modifique sus criterios de respuesta.

Los controles no deben depender únicamente de decirle al modelo:

Nunca reveles información confidencial.

Las restricciones importantes deben implantarse también fuera del modelo mediante permisos, validaciones y reglas técnicas.

6. Acciones ejecutadas sin suficiente supervisión

El riesgo aumenta cuando el chatbot puede actuar directamente sobre otros sistemas.

Un error puede provocar:

• Una devolución indebida.
• La cancelación de una reserva.
• La modificación de un contrato.
• El envío de información a una persona equivocada.
• La eliminación de datos.
• El cambio de una dirección.
• La creación de un pedido.
• El bloqueo de una cuenta.
• La concesión de un beneficio.

Los agentes de IA capaces de actuar de manera autónoma requieren controles más estrictos que un chatbot meramente informativo. La AEPD señala que su autonomía y capacidad para interactuar con el entorno digital introducen nuevos retos para la privacidad.

Cómo reducir este riesgo

• Aplicar el principio de mínimo privilegio.
• Autorizar únicamente las acciones necesarias.
• Exigir confirmación expresa para operaciones relevantes.
• Separar la preparación y la ejecución de una acción.
• Establecer límites económicos.
• Bloquear acciones irreversibles.
• Mantener registros de auditoría.
• Permitir la intervención humana.
• Crear mecanismos para revertir errores.

Por ejemplo, el chatbot puede preparar una devolución, pero una persona o el propio cliente debería confirmar los datos antes de ejecutarla.

7. Decisiones automatizadas sobre personas

Un chatbot puede limitarse a recoger información o puede participar en una decisión.

No es lo mismo:

• Ayudar a un candidato a enviar su currículum.
• Analizar sus respuestas y decidir si continúa en el proceso.

Tampoco es lo mismo:

• Informar sobre los requisitos de un crédito.
• Evaluar al usuario y decidir si puede acceder a él.

El artículo 22 del RGPD reconoce el derecho a no ser objeto de determinadas decisiones basadas únicamente en tratamientos automatizados que produzcan efectos jurídicos o afecten significativamente de forma similar.

Además, el chatbot podría convertirse en un sistema de alto riesgo conforme al AI Act cuando su función influya de manera relevante en ámbitos como:

• Selección de personal.
• Evaluación de trabajadores.
• Acceso a educación.
• Concesión de crédito.
• Acceso a determinados servicios esenciales.
• Prestaciones públicas.
• Productos sanitarios.
• Otros usos recogidos en el anexo III o integrados en productos regulados.

La clasificación depende de la finalidad concreta, no de que la interfaz tenga forma de conversación.

Un chatbot que responde preguntas frecuentes no se convierte automáticamente en un sistema de alto riesgo. Sin embargo, puede serlo si utiliza las respuestas del usuario para evaluarlo, clasificarlo o tomar una decisión relevante sobre él. La Comisión publicó en mayo de 2026 directrices para ayudar a distinguir estos casos, aunque sus ejemplos no son exhaustivos.

8. Discriminación y trato desigual

Un chatbot puede proporcionar respuestas diferentes según:

• El nombre del usuario.
• Su idioma.
• Su ubicación.
• La forma en que escribe.
• Su edad aparente.
• Su situación económica.
• Datos inferidos.
• Información obtenida de conversaciones anteriores.

Esto puede provocar que algunas personas reciban:

• Peores ofertas.
• Menos información.
• Un trato más restrictivo.
• Una derivación distinta.
• Una valoración desfavorable.
• Barreras para acceder a un servicio.

La empresa debe probar el sistema con perfiles, idiomas y formas de expresión diferentes.

También debe evitar que el chatbot infiera características personales que no necesita para prestar el servicio.

9. Manipulación comercial de personas vulnerables

El AI Act prohíbe determinados sistemas que utilizan técnicas deliberadamente manipuladoras o engañosas capaces de distorsionar de forma relevante las decisiones de una persona y causar un daño significativo.

También prohíbe determinados usos que explotan vulnerabilidades relacionadas con la edad, la discapacidad o una situación social o económica concreta cuando producen o pueden producir ese daño.

Esto no significa que cualquier chatbot comercial persuasivo esté prohibido.

El umbral exige elementos específicos, como una manipulación relevante de la capacidad de decidir y la existencia o probabilidad de un daño significativo.

No obstante, una empresa debería evitar que el chatbot:

• Presione insistentemente al usuario.
• Oculte que su finalidad es vender.
• Se haga pasar por una persona.
• Simule una relación emocional para influir en una compra.
• Aproveche situaciones de angustia o necesidad.
• Dirija mensajes especialmente agresivos a menores.
• Invente escasez o urgencia.
• Impida finalizar la conversación.
• Utilice información personal para explotar una vulnerabilidad.

10. Dificultad para acceder a una persona

Un chatbot no debería convertirse en una barrera que impida solucionar un problema.

La empresa debe definir cuándo se produce la derivación a una persona, especialmente cuando:

• El usuario lo solicita.
• El chatbot no entiende la consulta.
• Se repite el mismo error.
• Existe una reclamación.
• Se discute un cobro.
• Hay indicios de fraude.
• La situación puede afectar a derechos.
• El usuario comunica una situación de vulnerabilidad.
• Se necesita una decisión excepcional.

En España, la Ley 10/2025 de Servicios de Atención a la Clientela establece requisitos específicos para las empresas incluidas en su ámbito.

La norma afecta, entre otras, a empresas que prestan determinados servicios básicos de interés general y a grandes empresas que alcanzan alguno de estos umbrales:

• Al menos 250 trabajadores.
• Más de 50 millones de euros de facturación anual.
• Más de 43 millones de euros de balance anual.

Por tanto, estas obligaciones no se aplican automáticamente a cualquier pyme o profesional. Las empresas incluidas disponen de doce meses desde la entrada en vigor de la ley, producida el 28 de diciembre de 2025, para adaptar sus servicios.

Para las empresas afectadas:

• El chatbot no puede ser el único medio de atención.
• El cliente debe poder solicitar atención personalizada desde el inicio y en cualquier momento.
• La opción debe estar disponible en el menú principal.
• El 95 % de las solicitudes de atención personal deben atenderse, de media, en menos de tres minutos.
• Quien diseñe y gestione los medios automatizados debe contar con formación adecuada.
• El servicio debe respetar los principios de accesibilidad.

Aunque una pequeña empresa no entre en el ámbito de esta ley, ofrecer una salida clara hacia atención humana sigue siendo una medida recomendable para reducir errores, reclamaciones y riesgos reputacionales.

11. Problemas de accesibilidad

El aviso de IA y el propio chatbot deben poder ser utilizados por personas con diferentes necesidades.

Conviene revisar:

• Navegación mediante teclado.
• Compatibilidad con lectores de pantalla.
• Contraste de los textos.
• Tamaño de letra.
• Etiquetas de los botones.
• Alternativas al contenido sonoro.
• Subtítulos.
• Tiempo disponible para responder.
• Lenguaje comprensible.
• Posibilidad de utilizar otro canal.

El artículo 50 exige que la información de transparencia se facilite cumpliendo los requisitos de accesibilidad aplicables.

12. Falta de formación del personal

Una empresa puede instalar controles adecuados y, aun así, incumplirlos porque sus empleados:

• Introducen información confidencial.
• Amplían los permisos sin evaluación.
• Publican respuestas sin revisarlas.
• Modifican las instrucciones.
• Ignoran los avisos del sistema.
• No detectan una respuesta inventada.
• No saben cómo comunicar un incidente.

El artículo 4 del AI Act obliga a proveedores y responsables del despliegue a adoptar medidas para apoyar el desarrollo de la alfabetización en IA de las personas que operan o utilizan estos sistemas en su nombre.

Después de la reforma de julio de 2026, la obligación se mantiene, aunque no se exige garantizar un nivel concreto ni obtener un certificado específico. La formación o las medidas adoptadas deben adaptarse al conocimiento del personal, al contexto y a los riesgos del sistema utilizado. La propia Comisión pone como ejemplo que quienes utilizan herramientas generativas deben conocer riesgos como las respuestas inventadas o alucinaciones.

Cómo cumplir la normativa al instalar un chatbot

1. Definir una finalidad concreta

Antes de contratar la herramienta, responde:

• ¿Para qué necesitamos el chatbot?
• ¿Qué problemas podrá resolver?
• ¿Qué preguntas contestará?
• ¿Qué acciones podrá ejecutar?
• ¿Qué temas tendrá prohibido tratar?
• ¿Cuándo deberá derivar a una persona?

Una finalidad como “atender a los clientes” es demasiado amplia.

Es preferible definir:

Responder preguntas sobre horarios, envíos y devoluciones utilizando exclusivamente la información publicada en la web.

Cuanto más concreta sea la finalidad, más fácil será configurar límites y evaluar riesgos.

2. Determinar si realmente es un sistema de IA

Comprueba si el sistema:

• Genera respuestas nuevas.
• Interpreta lenguaje natural.
• Produce predicciones o recomendaciones.
• Se adapta a las entradas.
• Utiliza modelos de aprendizaje automático.
• Se limita a seguir reglas predefinidas.

La calificación debe realizarse según su funcionamiento real, no según la etiqueta comercial del proveedor.

Algunas empresas llaman “IA” a automatizaciones tradicionales y otras presentan sistemas generativos como simples asistentes.

3. Identificar el papel de la empresa

Determina si actúa como:

• Proveedora.
• Responsable del despliegue.
• Importadora.
• Distribuidora.
• Responsable del tratamiento.
• Encargada del tratamiento.

Una empresa puede asumir varios papeles simultáneamente conforme a normativas diferentes.

Por ejemplo, puede ser responsable del despliegue según el AI Act y responsable del tratamiento según el RGPD.

4. Clasificar el nivel de riesgo

Analiza si el chatbot:

• Solo ofrece información general.
• Recomienda productos.
• Recoge datos personales.
• Elabora perfiles.
• Influye en decisiones.
• Evalúa a personas.
• Accede a datos sensibles.
• Interviene en empleo, educación, crédito o salud.
• Puede ejecutar acciones.
• Interactúa con menores o personas vulnerables.

El riesgo debe evaluarse por su finalidad, funciones y consecuencias.

5. Evaluar al proveedor

Solicita, como mínimo:

• Descripción del sistema.
• Modelo o modelos utilizados.
• Ubicación del tratamiento.
• Condiciones de privacidad.
• Lista de subencargados.
• Información sobre transferencias internacionales.
• Plazos de conservación.
• Uso de las conversaciones para entrenamiento.
• Controles de seguridad.
• Gestión de incidentes.
• Documentación del AI Act.
• Funciones de registro y auditoría.
• Posibilidad de exportar o borrar datos.
• Procedimiento para actualizar el sistema.

Las promesas publicitarias del proveedor no sustituyen una revisión contractual.

6. Firmar los contratos necesarios

Cuando el proveedor trate datos personales por cuenta de la empresa, debe existir un contrato que regule, entre otros aspectos:

• La finalidad del tratamiento.
• Los datos tratados.
• Las personas afectadas.
• Las instrucciones de la empresa.
• La confidencialidad.
• La seguridad.
• Los subencargados.
• La devolución o eliminación de los datos.
• La colaboración en el ejercicio de derechos.
• La gestión de brechas.
• Las auditorías.

También deben revisarse las cláusulas relativas a responsabilidad, disponibilidad del servicio y cambios unilaterales de las condiciones.

7. Preparar la información de privacidad

La política de privacidad debería explicar:

• Qué datos recoge el chatbot.
• Para qué se utilizan.
• Cuál es la base jurídica.
• Quién es el responsable.
• Con qué proveedores se comparten.
• Si existen transferencias internacionales.
• Cuánto tiempo se conservan.
• Cómo pueden ejercerse los derechos.
• Si se elaboran perfiles.
• Si existen decisiones automatizadas.

La información más importante debe aparecer antes de que el usuario introduzca los datos, no únicamente escondida en una política extensa.

8. Aplicar minimización de datos

Configura el chatbot para que no solicite información innecesaria.

Por ejemplo, para informar sobre el horario de una tienda no necesita:

• El nombre completo.
• El correo electrónico.
• El teléfono.
• La fecha de nacimiento.
• La ubicación exacta.

Si necesita identificar al cliente para consultar un pedido, puede pedir únicamente los datos imprescindibles y utilizar un sistema seguro de autenticación.

No debe pedir al usuario que escriba una contraseña completa o datos bancarios en el chat.

9. Configurar correctamente el aviso de IA

El aviso debe aparecer al abrir el chat o en el primer mensaje.

También conviene explicar:

• Sus funciones.
• Sus limitaciones.
• La posibilidad de errores.
• Cómo contactar con una persona.
• Qué datos no deben introducirse.

No debería obligarse al usuario a abrir un enlace para descubrir que está hablando con una IA.

10. Limitar la base de conocimiento

Antes de conectar documentos al chatbot:

• Revisa su contenido.
• Elimina versiones antiguas.
• Separa documentos internos y públicos.
• Retira datos personales innecesarios.
• Identifica al responsable de actualizar cada fuente.
• Establece una fecha de revisión.
• Comprueba los permisos.

El chatbot debe poder distinguir entre:

• Información vigente.
• Borradores.
• Documentos derogados.
• Notas internas.
• Información destinada al público.

11. Crear reglas de respuesta

El sistema debería tener instrucciones claras sobre:

• Qué puede responder.
• Qué fuentes puede utilizar.
• Qué temas debe rechazar.
• Cuándo debe reconocer que no sabe algo.
• Cuándo debe derivar la consulta.
• Qué lenguaje debe emplear.
• Qué datos no debe solicitar.
• Qué acciones requieren confirmación.

Estas reglas deben complementarse con controles técnicos. No es suficiente confiar exclusivamente en las instrucciones escritas dentro del modelo.

12. Mantener supervisión humana

La supervisión humana debe ser real.

La persona encargada debe poder:

• Comprender qué hace el chatbot.
• Detectar errores.
• Interrumpir su funcionamiento.
• Corregir la información.
• Revisar decisiones.
• Atender derivaciones.
• Gestionar incidentes.
• Modificar permisos.
• Desactivar una integración.

No puede considerarse supervisión humana pulsar automáticamente “aceptar” sin capacidad ni tiempo para revisar el resultado.

13. Probar el chatbot antes de publicarlo

Realiza pruebas con:

• Preguntas normales.
• Errores ortográficos.
• Consultas ambiguas.
• Preguntas fuera de contexto.
• Solicitudes de datos privados.
• Peticiones para ignorar las reglas.
• Usuarios enfadados.
• Menores.
• Idiomas diferentes.
• Información desactualizada.
• Operaciones de alto impacto.
• Intentos de manipulación.

Las pruebas deberían documentarse y repetirse después de cada cambio importante.

14. Monitorizar las conversaciones

La empresa debería revisar periódicamente:

• Respuestas incorrectas.
• Consultas no resueltas.
• Intentos de acceso indebido.
• Datos personales introducidos.
• Derivaciones fallidas.
• Diferencias de trato.
• Acciones ejecutadas.
• Quejas recibidas.
• Actualizaciones del proveedor.

La monitorización también debe respetar el RGPD. No se deben conservar todas las conversaciones indefinidamente por si algún día resultan útiles.

15. Establecer un procedimiento de incidentes

Debe existir un protocolo para casos como:

• Filtración de datos.
• Respuesta peligrosa.
• Información comercial incorrecta.
• Acceso no autorizado.
• Operación ejecutada por error.
• Fallo de autenticación.
• Discriminación.
• Manipulación del sistema.
• Indisponibilidad prolongada.

El procedimiento debe indicar:

• Quién recibe el aviso.
• Quién puede detener el chatbot.
• Cómo se conserva la evidencia.
• Cómo se informa al proveedor.
• Cómo se corrige el problema.
• Cuándo debe notificarse a una autoridad.
• Cómo se informa a las personas afectadas.

16. Formar a las personas responsables

La formación debe cubrir:

• Funcionamiento básico del chatbot.
• Riesgo de respuestas inventadas.
• Protección de datos.
• Información confidencial.
• Seguridad.
• Sesgos.
• Supervisión humana.
• Derivación de consultas.
• Registro de incidentes.
• Obligaciones del artículo 50.

No necesita la misma formación una persona que revisa preguntas frecuentes que quien configura un agente capaz de ejecutar pagos o modificar cuentas.

Ejemplos de chatbots y nivel de precaución

Chatbot de preguntas frecuentes

Responde sobre horarios, ubicaciones y formas de contacto.

Riesgo habitual: bajo o limitado.

Medidas principales:

• Aviso de IA.
• Información actualizada.
• Posibilidad de contacto alternativo.
• No solicitar datos innecesarios.
• Revisión periódica.

Chatbot de comercio electrónico

Recomienda productos, consulta pedidos y explica devoluciones.

Riesgo habitual: medio.

Medidas principales:

• Control de precios y condiciones.
• Autenticación para consultar pedidos.
• Protección de datos.
• Registro de operaciones.
• Derivación en reclamaciones.
• Confirmación antes de modificar pedidos.

Chatbot para captar clientes

Solicita datos de contacto y clasifica oportunidades comerciales.

Riesgo habitual: medio.

Medidas principales:

• Información de privacidad.
• Base jurídica.
• Minimización de datos.
• Control del perfilado.
• Revisión de los criterios de clasificación.
• Gestión de comunicaciones comerciales.

Chatbot de un profesional sanitario, abogado o asesor financiero

Ofrece información relacionada con materias sensibles.

Riesgo habitual: medio o elevado según su función.

Medidas principales:

• Limitarlo a información general.
• No presentarlo como sustituto del profesional.
• Evitar diagnósticos o decisiones individualizadas sin control.
• Proteger especialmente los datos.
• Derivar consultas concretas.
• Revisar las respuestas mediante personal cualificado.

Chatbot para selección de personal

Recoge currículums y responde preguntas sobre una oferta.

Riesgo habitual: limitado si solo facilita información y recepción de documentos.

Si analiza respuestas, puntúa candidatos o decide quién continúa, puede entrar en la categoría de alto riesgo.

Medidas principales:

• Informar claramente de su función.
• No solicitar datos discriminatorios.
• Controlar las decisiones automatizadas.
• Garantizar supervisión humana.
• Evaluar sesgos.
• Documentar criterios.
• Analizar si requiere una evaluación de impacto.

Agente que ejecuta devoluciones o pagos

Puede consultar cuentas y realizar operaciones.

Riesgo habitual: elevado desde el punto de vista operativo y de seguridad.

Medidas principales:

• Autenticación reforzada.
• Permisos mínimos.
• Límites económicos.
• Confirmación del usuario.
• Registro completo.
• Posibilidad de reversión.
• Supervisión humana.
• Pruebas frecuentes.

Errores frecuentes al instalar un chatbot

Copiar únicamente el aviso del proveedor

El texto genérico puede no explicar el uso concreto que hace la empresa.

Conectarlo a todos los documentos internos

Esto aumenta innecesariamente el riesgo de revelar información confidencial.

Permitir que responda sobre cualquier tema

El chatbot debe tener un ámbito claramente delimitado.

Utilizar las conversaciones para todo

Los datos recogidos para atender una consulta no pueden reutilizarse automáticamente para publicidad, entrenamiento o perfilado sin analizar la base jurídica y ofrecer la información correspondiente.

No revisar las respuestas

La ausencia de reclamaciones no demuestra que el chatbot funcione correctamente.

No ofrecer una salida

Un usuario no debería quedar atrapado en una conversación automática que repite respuestas inútiles.

Confiar exclusivamente en una cláusula de exención

Advertir de posibles errores no elimina la obligación de implantar controles razonables.

Dar al chatbot permisos de administrador

Debe acceder únicamente a los datos y acciones imprescindibles.

Preguntas frecuentes sobre chatbots de IA y cumplimiento legal

¿Es legal utilizar un chatbot de IA en una empresa?

Sí. Los chatbots de IA no están prohibidos de forma general. La empresa debe cumplir las obligaciones aplicables según su finalidad, funcionamiento, datos tratados y nivel de riesgo.

¿Debe avisarse siempre de que el usuario habla con una IA?

Desde el 2 de agosto de 2026, los sistemas de IA diseñados para interactuar directamente con personas deben informar de ello, salvo que resulte evidente por las circunstancias. Ante la duda, es recomendable mostrar un aviso explícito.

¿Un chatbot de atención al cliente es de alto riesgo?

No automáticamente. Un chatbot que solo responde preguntas frecuentes suele estar sometido principalmente a obligaciones de transparencia. Puede convertirse en alto riesgo si evalúa personas o influye en decisiones relevantes en ámbitos recogidos por el AI Act.

¿Puede un chatbot recoger datos personales?

Sí, siempre que exista una finalidad legítima, una base jurídica y se cumplan los principios del RGPD. Debe recoger únicamente los datos necesarios y facilitar la información correspondiente.

¿Puede pedirse el DNI mediante un chatbot?

Solo cuando resulte realmente necesario para la finalidad y exista un procedimiento seguro. No debería solicitarse como dato general para cualquier consulta.

¿Puede utilizarse un chatbot para responder reclamaciones?

Puede ayudar a recoger información y resolver incidencias sencillas. Sin embargo, debe existir una vía adecuada para la atención humana cuando la ley lo exija o cuando el caso no pueda resolverse correctamente de forma automática.

¿La empresa es responsable si el chatbot da una respuesta incorrecta?

Utilizar una herramienta externa no elimina automáticamente la responsabilidad de la empresa por la información que ofrece a sus clientes a través de sus propios canales. Deben implantarse controles para evitar respuestas falsas o engañosas.

¿Es obligatorio ofrecer atención humana?

Depende de la actividad y de la normativa aplicable. Las empresas incluidas en la Ley 10/2025 no pueden utilizar bots como medio exclusivo y deben ofrecer atención personalizada desde el inicio y en cualquier momento. Para el resto, sigue siendo una medida especialmente recomendable.

¿Puede un chatbot tomar decisiones sobre clientes?

Debe analizarse el tipo de decisión. Cuando produce efectos jurídicos o afecta significativamente a la persona, pueden aplicarse el artículo 22 del RGPD y las reglas del AI Act sobre sistemas de alto riesgo.

¿Es necesario realizar una evaluación de impacto?

Puede ser necesario cuando el tratamiento probablemente suponga un alto riesgo para los derechos y libertades de las personas, especialmente si existe perfilado, uso de datos sensibles, observación sistemática o decisiones automatizadas importantes.

¿Hay que formar a los empleados que gestionan el chatbot?

Sí. El artículo 4 del AI Act exige adoptar medidas de alfabetización en IA adaptadas a las personas, al contexto y a los riesgos del sistema. No se exige un certificado concreto, pero conviene documentar las acciones realizadas.

¿Qué multa puede imponerse por no informar de que se utiliza IA?

El incumplimiento de las obligaciones de transparencia del artículo 50 puede estar sujeto a multas de hasta 15 millones de euros o el 3 % de la facturación mundial anual de la empresa, con reglas de proporcionalidad y límites específicos para las pymes.

Conclusión

Instalar un chatbot de inteligencia artificial no consiste únicamente en añadir una ventana de conversación a una página web.

La empresa debe decidir:

• Qué podrá hacer.
• Qué información podrá consultar.
• Qué datos podrá solicitar.
• Qué respuestas tendrá prohibidas.
• Qué acciones requerirán confirmación.
• Cuándo intervendrá una persona.
• Cómo se detectarán los errores.
• Cómo se demostrará el cumplimiento.

Para un chatbot informativo sencillo, las medidas pueden ser relativamente asequibles: aviso de IA, base de conocimiento controlada, protección de datos, revisión de respuestas y un canal alternativo de contacto.

Cuando el chatbot accede a cuentas, evalúa personas, ofrece asesoramiento sensible o ejecuta acciones, los controles deben ser mucho más exigentes.

El objetivo no es impedir que las pymes utilicen estas herramientas, sino evitar que la automatización elimine la transparencia, la seguridad y la responsabilidad de la empresa.

Consulta también nuestra guía completa sobre el artículo 50 del AI Act, el análisis de qué cambia el 2 de agosto de 2026 y las obligaciones del AI Act para empresas.

---

Aviso: Este contenido tiene una finalidad exclusivamente informativa y divulgativa. No constituye asesoramiento jurídico. Las obligaciones aplicables dependerán del sistema utilizado, de los datos tratados, del sector y de las funciones concretas que realice el chatbot.

Comprueba si tu chatbot cumple la normativa

Responde a las siguientes preguntas para detectar posibles riesgos relacionados con el AI Act, la protección de datos, la atención al cliente y la seguridad. El resultado es meramente orientativo y no sustituye en ningún caso consejo profesional.