AI Act y agentes de voz – Guía de cumplimiento para PYME 2025
El Reglamento de IA de la UE (AI Act) entró en vigor el 1 de agosto de 2024 y es considerado el primer marco regulatorio integral sobre IA del mundo. Para las pequeñas y medianas empresas que utilizan o planean sistemas de telefonía basados en IA, surgen preguntas urgentes: ¿Qué obligaciones se crean? ¿Qué está prohibido? ¿Y cómo mantenerse en el lado seguro sin poner en riesgo el proyecto? Esta guía ofrece respuestas concretas.
Clasificación de los agentes de voz en el AI Act de la UE
El AI Act clasifica los sistemas de IA según categorías de riesgo: riesgo inaceptable, alto riesgo, riesgo limitado y riesgo mínimo. Los agentes de voz, como los que se utilizan en el soporte al cliente o la programación de citas, caen generalmente en la categoría de riesgo limitado – siempre que no se automaticen decisiones sensibles como la concesión de crédito o la identificación biométrica.
Qué significa «riesgo limitado» en la práctica
Los sistemas de riesgo limitado están sujetos principalmente a obligaciones de transparencia. Esto significa: su agente de voz con IA debe informar al llamante de forma clara y comprensible, al inicio de la conversación, de que está interactuando con un sistema de IA. Esta información no puede ocultarse en letra pequeña. Una presentación típicamente conforme suena así: «Buenos días, está hablando con el asistente automatizado de [nombre de la empresa]. ¿En qué puedo ayudarle?»
Según un estudio de Bitkom (2024), el 67 % de los consumidores no sabe que en determinadas conversaciones de servicio está interactuando con una IA. El AI Act pone freno a esto: el engaño consciente está prohibido.
Delimitación respecto a los sistemas de alto riesgo
Un agente de voz se convierte en un sistema de alto riesgo cuando:
- Toma o prepara decisiones de personal (p. ej., cribado de candidatos por teléfono)
- Realiza evaluaciones de solvencia crediticia
- Se utiliza en infraestructuras críticas (energía, abastecimiento de agua)
- Influye en el acceso a la educación o en la aplicación de la ley
Para la gran mayoría de las PYME que usan agentes de voz para la reserva de citas, respuesta a preguntas frecuentes o transferencia de llamadas, ninguna de estas categorías aplica.
Prácticas prohibidas – Lo que está absolutamente excluido
El AI Act enumera en el artículo 5 prácticas completamente prohibidas. Para los agentes de voz son especialmente relevantes:
- Manipulación subliminal: Técnicas que llevan a los usuarios a tomar decisiones que perjudican sus intereses de forma inconsciente
- Explotación de vulnerabilidades: Dirigirse deliberadamente a las debilidades de personas mayores, menores o con problemas de salud mental
- Puntuación social (social scoring): Evaluación de personas en función de su comportamiento en ámbitos vitales no relacionados
- Vigilancia biométrica en tiempo real en espacios públicos
Estas prohibiciones son aplicables independientemente de la categoría de riesgo y están en vigor desde el 2 de febrero de 2025.
Las obligaciones de transparencia en detalle
Obligación de identificación de la IA
A partir del 2 de agosto de 2026, todos los sistemas de IA de riesgo limitado en operación en la UE deberán cumplir los requisitos de transparencia. Para los agentes de voz, esto significa concretamente:
- Divulgación al inicio de la conversación: El usuario debe saber que habla con una IA antes de la interacción sobre el contenido.
- Lenguaje comprensible: La divulgación debe realizarse en el idioma del usuario.
- Sin confusión por antropomorfización: El agente puede tener un nombre humano, pero debe identificarse claramente como IA.
La interfaz con el RGPD
El AI Act y el RGPD se solapan considerablemente cuando los agentes de voz graban o procesan conversaciones. Al respecto aplica:
- Base legal para las grabaciones: La grabación de una conversación requiere consentimiento explícito (Art. 6 apdo. 1 lit. a RGPD) u otra base legal.
- Limitación de la finalidad: Los datos de la conversación solo pueden procesarse para el fin indicado.
- Plazos de conservación: Las empresas deben definir cuánto tiempo se almacenan los datos de las conversaciones.
- Minimización de datos: Solo pueden recabarse los datos necesarios para cumplir la tarea.
En la práctica, esto significa: un agente de voz que reserva citas puede recopilar el nombre y la hora deseada, pero no preguntar sin justificación sobre datos de salud o situación financiera.
Supervisión humana – Requisitos de control
Incluso para los sistemas de riesgo limitado, el AI Act recomienda prever mecanismos de supervisión humana. Para los agentes de voz en PYME, esto significa:
- Ruta de escalado: Cada conversación debe poder transferirse a un empleado humano a petición del usuario.
- Monitoreo: Verificación periódica de que el agente cumple correctamente las tareas asignadas.
- Capacidad de corrección: Las respuestas incorrectas o los fallos de funcionamiento deben poder identificarse y corregirse rápidamente.
Un sistema robusto incluye al menos una revisión semanal de los protocolos de conversación para detectar anomalías y un procedimiento claro para actualizar el agente ante nueva información.
Lista de verificación de cumplimiento para PYME
La siguiente lista de verificación le ayuda a mantener una visión general:
Transparencia
- Divulgación de IA al inicio de la conversación implementada
- Texto de divulgación formulado en lenguaje comprensible
- Sin información engañosa sobre la naturaleza del sistema
RGPD
- Política de privacidad ampliada para incluir la telefonía con IA
- Base legal para el procesamiento de conversaciones documentada
- Plazos de eliminación de los datos de conversaciones establecidos
- Contrato de procesamiento de datos (DPA) firmado con el proveedor de IA (Art. 28 RGPD)
Supervisión humana
- Ruta de escalado a un empleado humano establecida
- Proceso de monitoreo de la calidad de las conversaciones definido
- Persona responsable de la supervisión de la IA designada
Prácticas prohibidas
- Sin uso para aplicaciones de alto riesgo sin la evaluación de conformidad correspondiente
- Sin patrones de diálogo manipuladores implementados
Calendario de cumplimiento para PYME
El AI Act prevé plazos escalonados:
| Fecha límite | Entrada en vigor | Contenido |
|---|---|---|
| 2 de febrero de 2025 | En vigor | Prohibiciones de sistemas de riesgo inaceptable |
| 2 de agosto de 2025 | En vigor | Normas para modelos de IA de propósito general |
| 2 de agosto de 2026 | Próxima | Obligaciones de transparencia para sistemas de riesgo limitado |
| 2 de agosto de 2027 | Próxima | Normas para determinados sistemas de alto riesgo |
Para la mayoría de las PYME, el 2 de agosto de 2026 es la fecha clave. Todos los requisitos de transparencia deben estar implementados antes de esa fecha.
Pasos prácticos para los usuarios de anicall.io
Si utiliza anicall.io para su comunicación telefónica, le recomendamos los siguientes pasos:
Paso 1: Catalogación del sistema (Ahora)
Documente en qué procesos utiliza agentes de voz y qué datos se procesan. Esta documentación es la base de cualquier medida de cumplimiento.
Paso 2: Auditoría de transparencia (T1 2025)
Revise sus textos de bienvenida y flujos de conversación actuales. Asegúrese de que la naturaleza de IA del agente se comunica de forma inequívoca.
Paso 3: Armonización con el RGPD (T1–T2 2025)
Complemente su política de privacidad y asegúrese de que existe un contrato de procesamiento de datos con anicall.io.
Paso 4: Procesos de supervisión humana (T2 2025)
Implemente una ruta de escalado claramente definida y designe una persona responsable de la supervisión de la IA.
Paso 5: Revisión final de cumplimiento (T3 2025)
Realice una revisión final antes de la fecha límite de agosto de 2026 – idealmente con apoyo jurídico.
Conclusión: El cumplimiento como ventaja competitiva
El AI Act puede parecer inicialmente un obstáculo burocrático. En realidad, sin embargo, genera confianza – y la confianza es la base de toda relación de cliente exitosa. Las PYME que apuestan pronto por una telefonía con IA transparente y actúan de forma conforme se posicionan como socios responsables para sus clientes. En un momento en que el 78 % de los consumidores concede máxima prioridad a la protección de datos según el estudio de Bitkom (2024), esto no es un lujo, sino una ventaja estratégica.
Cómo empezar
¿Quiere asegurarse de que el uso de su agente de voz sea conforme al AI Act desde el principio? Nuestros expertos le acompañan durante todo el proceso de cumplimiento – desde la configuración del sistema hasta el almacenamiento de datos conforme al RGPD.