AI Act et agents vocaux – Guide de conformité pour PME 2025
L'EU AI Act est entré en vigueur le 1er août 2024 et constitue le premier cadre réglementaire complet sur l'IA au monde. Pour les petites et moyennes entreprises qui utilisent ou envisagent des systèmes de téléphonie assistés par IA, des questions urgentes se posent : quelles obligations en découlent ? Qu'est-ce qui est interdit ? Et comment rester du bon côté de la loi sans compromettre votre projet ? Ce guide apporte des réponses concrètes.
Classification des agents vocaux dans l'EU AI Act
L'AI Act classe les systèmes d'IA par catégories de risque : risque inacceptable, risque élevé, risque limité et risque minimal. Les agents vocaux tels que ceux utilisés dans le support client ou la prise de rendez-vous relèvent en règle générale de la catégorie risque limité – pour autant qu'aucune décision sensible comme l'octroi de crédit ou l'identification biométrique ne soit automatisée.
Ce que « risque limité » signifie concrètement
Les systèmes à risque limité sont soumis principalement à des obligations de transparence. Cela signifie : votre agent vocal IA doit informer clairement et intelligiblement les appelants, dès le début de la conversation, qu'ils s'adressent à un système IA. Cette information ne peut pas être dissimulée dans les petits caractères. Un accueil typiquement conforme est par exemple : « Bonjour, vous êtes en contact avec l'assistant automatisé de [nom de l'entreprise]. Comment puis-je vous aider ? »
Selon une étude de la Commission européenne (2024), 67 % des consommateurs européens ne savent pas qu'ils interagissent avec une IA lors de certaines conversations de service. L'AI Act y met un frein clair : la tromperie délibérée est interdite.
Distinction avec les systèmes à haut risque
Un agent vocal devient un système à haut risque s'il :
- Prend ou prépare des décisions en matière de ressources humaines (ex. présélection téléphonique de candidats)
- Effectue des évaluations de solvabilité
- Est utilisé dans le domaine des infrastructures critiques (énergie, eau)
- Influence l'accès à l'éducation ou la justice pénale
Pour la grande majorité des PME qui utilisent des agents vocaux pour les prises de rendez-vous, les FAQ ou le transfert d'appels, aucune de ces catégories ne s'applique.
Pratiques interdites – Ce qui est absolument exclu
L'AI Act énumère à l'article 5 des pratiques entièrement interdites. Pour les agents vocaux, sont particulièrement pertinentes :
- Manipulation subliminale : techniques qui poussent les utilisateurs à prendre des décisions contraires à leurs intérêts sans qu'ils en soient conscients
- Exploitation de la vulnérabilité : ciblage délibéré des faiblesses de personnes âgées, mineures ou en situation de fragilité psychologique
- Scoring social : évaluation de personnes sur la base de leurs comportements dans des domaines de vie sans lien entre eux
- Surveillance biométrique en temps réel dans l'espace public
Ces interdictions s'appliquent indépendamment de la catégorie de risque et sont en vigueur depuis le 2 février 2025.
Les obligations de transparence en détail
Obligation de signalement de l'utilisation de l'IA
À partir du 2 août 2026, tous les systèmes IA à risque limité exploités dans l'UE devront satisfaire aux exigences de transparence. Pour les agents vocaux, cela signifie concrètement :
- Divulgation en début de conversation : l'utilisateur doit savoir qu'il parle à une IA avant l'interaction sur le fond.
- Langage compréhensible : la divulgation doit se faire dans la langue de l'utilisateur – pour les marchés francophones, donc en français.
- Pas de confusion par anthropomorphisation : l'agent peut avoir un prénom humain, mais doit néanmoins être identifiable comme IA.
Interface avec le RGPD
L'AI Act et le RGPD se recoupent considérablement lorsque des agents vocaux enregistrent ou traitent des conversations. Dans ce cadre :
- Base juridique pour les enregistrements : l'enregistrement d'une conversation nécessite un consentement explicite (art. 6 al. 1 lit. a RGPD) ou une autre base juridique.
- Limitation des finalités : les données de conversation ne peuvent être traitées que pour la finalité indiquée.
- Durées de conservation : les entreprises doivent définir pendant combien de temps les données de conversation sont conservées.
- Minimisation des données : seules les données nécessaires à l'accomplissement de la tâche peuvent être collectées.
En pratique, cela signifie : un agent vocal qui prend des rendez-vous peut collecter le nom et l'heure souhaitée, mais ne doit pas demander sans raison des données de santé ou des informations financières.
Surveillance humaine – Exigences de supervision
Même pour les systèmes à risque limité, l'AI Act recommande de prévoir des mécanismes de supervision humaine. Pour les agents vocaux dans les PME, cela signifie :
- Chemin d'escalade : chaque conversation doit pouvoir être transférée à un agent humain à la demande de l'utilisateur.
- Monitoring : vérification régulière que l'agent remplit correctement ses missions.
- Capacité de correction : les réponses incorrectes ou dysfonctionnements doivent pouvoir être identifiés et corrigés rapidement.
Un système robuste comprend au minimum une vérification hebdomadaire des protocoles de conversation pour détecter les anomalies et une procédure claire de mise à jour de l'agent en cas de nouvelles informations.
Liste de contrôle de conformité pour les PME
La liste de contrôle suivante vous aide à garder une vue d'ensemble :
Transparence
- Divulgation de l'utilisation de l'IA en début de conversation implémentée
- Texte de divulgation formulé dans un français compréhensible
- Aucune information trompeuse sur la nature du système
RGPD
- Politique de confidentialité complétée pour inclure la téléphonie IA
- Base juridique pour le traitement des conversations documentée
- Durées de conservation pour les données de conversation définies
- Contrat de sous-traitance conclu avec le fournisseur IA (art. 28 RGPD)
Supervision humaine
- Chemin d'escalade vers un agent humain mis en place
- Processus de monitoring de la qualité des conversations défini
- Personne responsable de la supervision de l'IA désignée
Pratiques interdites
- Aucune utilisation pour des applications à haut risque sans évaluation de conformité correspondante
- Aucun schéma de dialogue manipulateur implémenté
Calendrier de mise en conformité pour les PME
L'AI Act prévoit des délais échelonnés :
| Échéance | Entrée en vigueur | Contenu |
|---|---|---|
| 2 février 2025 | En vigueur | Interdictions des systèmes à risque inacceptable |
| 2 août 2025 | En vigueur | Règles pour les modèles IA à usage général |
| 2 août 2026 | À venir | Obligations de transparence pour les systèmes à risque limité |
| 2 août 2027 | À venir | Règles pour certains systèmes à haut risque |
Pour la plupart des PME, le 2 août 2026 est la date clé. D'ici là, toutes les exigences de transparence doivent être mises en œuvre.
Étapes pratiques pour les utilisateurs d'anicall.io
Si vous utilisez anicall.io pour votre communication téléphonique, nous recommandons les étapes suivantes :
Étape 1 : Catalogage des systèmes (maintenant)
Documentez dans quels processus vous utilisez des agents vocaux et quelles données sont traitées. Cette documentation est la base de toute mesure de conformité.
Étape 2 : Audit de transparence (T1 2025)
Vérifiez vos textes d'accueil et flux de conversation actuels. Assurez-vous que la nature IA de l'agent est communiquée sans ambiguïté.
Étape 3 : Harmonisation avec le RGPD (T1–T2 2025)
Complétez votre politique de confidentialité et assurez-vous qu'un contrat de sous-traitance avec anicall.io est en place.
Étape 4 : Processus de supervision humaine (T2 2025)
Mettez en place un chemin d'escalade clairement défini et désignez une personne responsable de la supervision de l'IA.
Étape 5 : Revue finale de conformité (T3 2025)
Effectuez une revue finale avant l'échéance d'août 2026 – idéalement avec un accompagnement juridique.
Conclusion : la conformité comme avantage concurrentiel
L'AI Act peut sembler au premier abord être une contrainte bureaucratique. En réalité, il crée de la confiance – et la confiance est le fondement de toute relation client réussie. Les PME qui misent tôt sur une téléphonie IA transparente et agissent en conformité se positionnent comme partenaires responsables de leurs clients. À une époque où 78 % des consommateurs européens accordent la plus haute priorité à la protection des données, ce n'est pas un avantage accessoire, mais un avantage stratégique.
Démarrez maintenant
Vous souhaitez vous assurer que votre utilisation d'agents vocaux est conforme à l'AI Act dès le départ ? Nos experts vous accompagnent tout au long du processus de conformité – de la configuration du système à la gestion des données conforme au RGPD.