Chatbots y agentes de voz: cómo informar de que son IA

Qué exige la transparencia

Cuando una persona interactúa directamente con determinados sistemas de IA, debe ser informada de que está tratando con una IA, salvo que resulte evidente para una persona razonablemente informada y atenta. La información debe facilitarse de forma clara y distinguible a más tardar en la primera interacción.

La obligación se aplica según el caso y el papel que desempeña la empresa. Antes de publicar un aviso hay que identificar la tecnología, el recorrido del usuario y cualquier excepción o requisito sectorial.

Fuente oficial: Comisión Europea: obligaciones de transparencia del artículo 50

Dónde colocar el aviso

• Chat web: antes del primer mensaje o junto al inicio visible de la conversación.
• Agente de voz: en la locución inicial, antes de recoger información relevante.
• Avatar: en la primera presentación, sin depender solo de una etiqueta pequeña.
• Canales de mensajería: en el mensaje de bienvenida y cuando cambia el tipo de interlocutor.

Qué debe decir

El mensaje debe usar palabras directas: «Soy un asistente de inteligencia artificial» o «Esta llamada está atendida por un sistema de IA». Puede explicar además qué tarea realiza, cómo pedir ayuda humana y dónde consultar privacidad, pero no debe ocultar la información esencial entre textos largos.

Controles que acompañan al aviso

• Derivación clara a una persona cuando el caso lo requiera.
• Límites sobre las respuestas y decisiones que puede tomar el sistema.
• Revisión de conversaciones de prueba y errores frecuentes.
• Información de protección de datos cuando se recojan datos personales.
• Registro de versión del aviso y fecha en que se activó.

Prueba antes de publicar

Realiza recorridos desde móvil y ordenador, con sonido y sin él, y comprueba que el aviso aparece antes de que la persona pueda confundir el sistema con un humano. Prueba también qué ocurre cuando pide hablar con alguien, formula una consulta sensible o entrega datos personales.