La loi européenne sur l'IA s'attaque à la voix : que signifie août 2026 pour l'IA conversationnelle ?

Les dates figurant sur le livre des lois

La loi sur l'IA n'est pas arrivée d'un seul jet. Elle est mise en œuvre par tranches, et la tranche la plus importante pour tous ceux qui utilisent l'IA conversationnelle est celle du 2 août 2026 : les obligations relatives aux risques élevés de l'annexe III et les obligations de transparence de l'article 50 entrent en vigueur le même jour.

À Bruxelles, des discussions sont en cours concernant un assouplissement de ce calendrier : le paquet omnibus numérique de la Commission envisageait de lier la date de début de l’annexe III à la disponibilité de normes harmonisées. En attendant une modification du règlement, la date du 2 août 2026 reste juridiquement contraignante. Un report permettrait de gagner du temps sur la documentation, mais pas sur la conception : les exigences en matière de journalisation, de supervision et de traçabilité relèvent de la conception, et leur mise en œuvre a posteriori est bien plus coûteuse que leur construction.

Chaque agent vocal est pris au piège par un article

Avant d'aborder la question à haut risque, il convient de rappeler qu'une obligation s'applique à quasiment tous les systèmes d'IA conversationnelle opérant sur le marché de l'UE, quelles que soient leurs fonctionnalités. L'article 50 est concis et servira de référence pour l'évaluation de la plupart des déploiements vocaux.

• Dites aux gens qu'ils parlent à une machine. L’article 50(1) exige que les personnes physiques interagissant avec un système d’IA soient informées de ce fait, sauf si cela est évident pour une personne raisonnablement bien informée dans les circonstances. Dans le domaine vocal, l’argument de l’« évidence » est de moins en moins valable ; l’ensemble du secteur a consacré deux ans à la conception d’agents dont la voix n’est pas synthétique. Si votre stratégie de communication repose sur le principe que « les utilisateurs s’en rendront compte », vous pariez sur la piètre qualité de votre propre produit pour garantir la conformité.
• Marquer l'audio synthétique. Les articles 50(2) et 50(4) portent sur le marquage lisible par machine des contenus générés par l'IA et la divulgation des deepfakes. Les voix clonées ou synthétisées sont pleinement concernées.
• Notification de reconnaissance des émotions. L’article 50(3) impose aux utilisateurs de systèmes de reconnaissance des émotions et de catégorisation biométrique d’informer les personnes exposées à ces systèmes. Tout système vocal déduisant un sentiment, du stress ou de la frustration à partir d’un signal acoustique doit répondre à cette exigence.
• L'alphabétisation en IA est déjà en vigueur. L’article 4 est applicable depuis février 2025 et concerne aussi bien les fournisseurs que les déployeurs : les personnes qui gèrent vos agents vocaux doivent posséder un niveau de connaissances en IA suffisant pour le contexte d’utilisation. C’est l’obligation la moins coûteuse de la loi et la plus souvent ignorée.

Quatre choses que personne ne peut construire

L'article 5 est en vigueur depuis février 2025, prévoit les sanctions les plus lourdes de la loi et contient des interdictions qui se rapprochent dangereusement des pratiques que l'industrie vocale a expérimentées.

• Technique de manipulation ou de tromperie. L’article 5(1)(a) interdit les techniques subliminales, de manipulation intentionnelle ou de tromperie qui modifient sensiblement le comportement et causent un préjudice important. L’architecture de persuasion d’un agent commercial sortant relève précisément du domaine visé par cet article.
• Exploitation d'une vulnérabilité. L’article 5(1)(b) interdit l’exploitation des vulnérabilités liées à l’âge, au handicap ou à une situation socio-économique particulière. La détection des vulnérabilités est une obligation réglementaire dans les services financiers britanniques. Utiliser ce même signal pour exercer une pression accrue plutôt que pour acheminer les transactions avec plus de prudence est interdit, et non simplement mal vu.
• Déduction des émotions au travail ou dans le domaine de l'éducation. L’article 5(1)(f) interdit de présumer des émotions des personnes physiques sur leur lieu de travail et dans les établissements d’enseignement, sauf pour des raisons médicales ou de sécurité précises. L’utilisation d’un système d’évaluation des sentiments appliqué à son propre personnel constitue ici une faille manifeste.
• Catégorisation biométrique par attribut protégé. L’article 5(1)(g) interdit de déduire des données biométriques l’origine ethnique, les opinions politiques, l’appartenance syndicale, les convictions religieuses, la vie sexuelle ou l’orientation sexuelle. L’accent et l’empreinte vocale sont des données biométriques.

La violation de l'article 5 est passible d'amendes pouvant atteindre 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial total, le montant le plus élevé étant retenu. Aucune autre disposition de la loi n'atteint un tel plafond.

Où se situe réellement la limite du risque élevé

Le risque élevé ne repose pas sur une appréciation subjective de l'importance de votre cas d'usage, mais sur une liste de critères. L'annexe III énumère huit domaines, et un système d'IA conversationnelle est considéré comme à haut risque si son objectif relève de l'un d'eux. Cinq de ces huit domaines sont directement liés à la voix : la biométrie, les infrastructures critiques, l'éducation, l'emploi et l'accès aux services essentiels, publics et privés.

Le modèle mental utile est le suivant : la loi ne s’intéresse pas au fait qu’une conversation ait eu lieu. Ce qui l’intéresse, c’est de savoir si un système automatisé a influencé une décision importante concernant une personne.

L'examen de ce tableau révèle une tendance surprenante pour la plupart des acheteurs : une même organisation gère souvent les deux niveaux de conformité. Un établissement de santé qui prend des rendez-vous par téléphone présente un risque limité ; le même établissement, qui effectue le triage des symptômes, présente un risque élevé. Un assureur qui traite un sinistre automobile présente un risque limité ; le même assureur, qui établit le prix d'une assurance-vie, présente un risque élevé. La conformité est définie par système et par finalité, et non par entreprise.

Les acheteurs qui se retirent de la vérification continuent de se tromper

C’est dans le domaine de la biométrie vocale que les erreurs d’interprétation sont les plus fréquentes. L’annexe III, point 1(a), classe les systèmes d’identification biométrique à distance comme présentant un risque élevé, et exclut explicitement les systèmes de vérification biométrique dont le seul but est de confirmer l’identité d’une personne.

Cette distinction a un coût. La vérification de l'empreinte vocale par rapport au compte unique déjà identifié par l'appelant constitue une authentification individuelle et ne figure pas sur la liste des personnes à haut risque. La recherche de la voix d'un appelant dans une base de données de voix enregistrées ou surveillées afin de déterminer son identité constitue une identification multiple et présente un risque élevé. La fonctionnalité semble quasiment identique lors d'une démonstration. Les conséquences réglementaires diffèrent cependant considérablement et nécessitent une évaluation complète de la conformité.

La trappe d'évacuation prévue à l'article 6(3) et sa porte

Un système dont la finalité relève de l'annexe III n'est pas automatiquement considéré comme présentant un risque élevé. L'article 6, paragraphe 3, permet à un prestataire de conclure autrement lorsque le système ne présente pas de risque significatif d'atteinte à la santé, à la sécurité ou aux droits fondamentaux (notamment parce qu'il n'influence pas de manière significative le résultat de la prise de décision) et que l'une des quatre conditions suivantes est remplie : il accomplit une tâche procédurale précise, il améliore le résultat d'une activité humaine antérieurement réalisée, il détecte des tendances ou des écarts sans se substituer à l'évaluation humaine, ou il effectue une tâche préparatoire à une évaluation.

La plupart des assistants vocaux performants destinés aux secteurs à haut risque visent ce stade : recueillir les faits, vérifier les détails, constituer le dossier et laisser la décision à un humain. Le piège se trouve dans la dernière phrase de la disposition. Si le système effectue un profilage des personnes physiques, il est systématiquement considéré comme à haut risque. Et la dérogation n’est pas sans conséquence : l’évaluation doit être documentée avant la commercialisation du système, et celui-ci doit être enregistré dans la base de données de l’UE. C’est une procédure formelle, et non une solution de facilité.

Ce que le risque élevé vous coûte réellement

Si un déploiement vocal est classé à haut risque, le chapitre III transforme le produit en produit réglementé. Concrètement, pour un agent vocal, les obligations sont les suivantes.

Avant sa diffusion en direct

• Système de gestion des risques (Article 9). Un processus continu et documenté tout au long du cycle de vie, et non un registre des risques ponctuel signé au lancement.
• Gouvernance des données (Article 10). Les données d'entraînement, de validation et de test ont été analysées afin de détecter tout biais et d'assurer leur représentativité. Pour la voix, cela inclut la prise en compte de l'accent, du dialecte, de l'âge et des différences de prononciation, domaines où la plupart des systèmes de reconnaissance automatique de la parole (ASR) présentent des lacunes discrètes.
• Documentation technique (Article 11, Annexe IV). Architecture du système, provenance du modèle, finalité prévue, limitations connues, indicateurs de performance.
• Mode d’emploi (Article 13). Le pack de transparence destiné aux déployeurs. Si vous achetez ce produit, c'est ce document qui déterminera si vous êtes en mesure de respecter vos propres obligations.
• Exactitude, robustesse et cybersécurité (Article 15). Mesures de précision déclarées valables en conditions de production. Pour la téléphonie vocale au Royaume-Uni, cela entre en conflit avec la téléphonie à bande étroite, que nous avons… écrit séparémentUn modèle testé sur un système audio large bande et déployé sur un canal de 3,4 kHz ne fonctionne pas au niveau annoncé.
• Gestion de la qualité, évaluation de la conformité, marquage CE et enregistrement (Articles 17, 43, 47-49). La voie de conformité déclarée, la déclaration UE, le marquage CE et l'inscription dans la base de données de l'UE.

Une fois qu'il sera en direct

• Exploitation forestière (Article 12). Enregistrement automatique des événements tout au long du cycle de vie du système, permettant de retracer l'origine d'un résultat donné. Dans le cas d'un agent vocal, il ne s'agit pas de l'enregistrement de l'appel, mais des décisions de récupération, des appels d'outils, des évaluations de politiques et des versions de modèles sous-jacentes à chaque interaction.
• Contrôle humain (Article 14). Il est essentiel qu'une personne puisse comprendre, intervenir, prendre le dessus et stopper la situation. L'intervention et le transfert à un agent constituent la partie visible ; la difficulté majeure réside dans le fait que l'humain dispose du contexte nécessaire pour réellement modifier le résultat.
• Surveillance après commercialisation (Article 72). Un plan de collecte et d'analyse des performances réelles, en vue de leur réintégration dans le système de gestion des risques.
• Signalement des incidents graves (Article 73). Signalez immédiatement à l'autorité de surveillance du marché, et au plus tard 15 jours après avoir pris connaissance de l'infraction : 10 jours en cas de décès, 2 jours en cas d'infraction généralisée ou de perturbation grave des infrastructures critiques. Quinze jours, c'est court si vous ne parvenez pas à reconstituer les propos de votre agent et leurs raisons.

Le piège des rôles : comment un acheteur devient fournisseur

Les obligations prévues par la loi varient selon le rôle. Les fournisseurs sont principalement concernés par le chapitre III. Les déployeurs, quant à eux, sont soumis à des obligations plus restreintes, mais non moins importantes, au titre des articles 26 et 27 : exploiter le système conformément à ses instructions, désigner un superviseur humain compétent, s’assurer de la pertinence des données saisies, conserver les journaux générés automatiquement pendant au moins six mois et, s’ils sont employeurs, informer les représentants des travailleurs et les travailleurs concernés avant la mise en service d’un système à haut risque sur le lieu de travail. Les organismes publics, les opérateurs privés fournissant des services publics et les déployeurs réalisant des évaluations de solvabilité ou la tarification des assurances vie et santé sont également tenus de réaliser une analyse d’impact sur les droits fondamentaux.

L'article 25 est la disposition qui prend les acheteurs d'entreprise au dépourvu. Un déployeur devient un fournisseur (héritant de l'ensemble des obligations d'un fournisseur) s'il appose son nom ou sa marque sur un système à haut risque, y apporte une modification substantielle ou modifie la finalité prévue d'un système de telle sorte qu'il devienne à haut risque.

Considérez à quel point chacune de ces actions est courante dans un programme vocal. Vous personnalisez l'agent à votre marque. Vous réécrivez le message d'invite du système, ajoutez des outils, intégrez votre propre système de récupération et modifiez la logique de décision. Vous prenez un agent initialement prévu pour la prise de rendez-vous et l'utilisez pour le triage des symptômes. Chacune de ces actions constitue une question pertinente au regard de l'article 25, et la réponse détermine si la conformité de votre fournisseur vous couvre ou si vous avez, sans le savoir, pris en charge cette responsabilité vous-même.

Le modèle sous votre agent

Les agents vocaux sont composés d'éléments assemblés et non monolithiques : un modèle de reconnaissance automatique de la parole (ASR), un ou plusieurs modèles de langage, une synthèse vocale (TTS) et une couche d'orchestration. Les obligations relatives aux modèles d'IA à usage général s'appliquent depuis août 2025. Cela signifie que les fournisseurs de modèles doivent fournir une documentation technique, des informations complémentaires, une politique de droits d'auteur et un résumé des données d'entraînement. De plus, lorsqu'un modèle est considéré comme présentant un risque systémique, des obligations supplémentaires s'appliquent : évaluation, tests d'attaque, signalement des incidents et cybersécurité.

Cela a une importance pratique pour vous. Votre documentation de l'Annexe IV et vos déclarations d'exactitude au titre de l'Article 15 dépendent d'informations que vous ne produisez pas. Si votre fournisseur de téléphonie ne peut pas vous indiquer quelles versions de modèles ont été utilisées pour quels appels, vous ne pouvez pas faire de déclaration d'exactitude valable ni répondre à une autorité de réglementation qui vous demanderait pourquoi une réponse spécifique a été donnée lors d'un appel précis. L'identification des modèles et la divulgation des versions ne relèvent plus d'une préférence technique, mais sont devenues une obligation de conformité.

Si vous êtes une entreprise britannique, vous êtes probablement toujours concernée.

Le Royaume-Uni ne dispose d'aucune loi équivalente. Il ne s'agit pas de l'allègement que l'on interprète parfois. L'article 2 confère à la loi une portée extraterritoriale : elle s'applique aux fournisseurs qui mettent des systèmes d'IA sur le marché de l'UE ou les mettent en service dans l'UE, quel que soit leur lieu d'établissement, ainsi qu'aux fournisseurs et aux déployeurs établis hors de l'UE lorsque les résultats produits par le système sont utilisés dans l'UE.

Un fournisseur britannique d'IA vocale ayant un client irlandais, néerlandais ou allemand est considéré comme un fournisseur au sens de la loi. Une entreprise britannique exploitant un parc informatique traitant les appels de clients de l'UE est concernée par cette loi. En pratique, les pressions commerciales précéderont les pressions juridiques : les équipes d'achats en contact avec l'UE demandent déjà la documentation de l'annexe IV, et les autorités de régulation britanniques (notamment le service de la FCA chargé du devoir de diligence envers les consommateurs) s'orientent vers les mêmes preuves, voire les mêmes documents.

Que faut-il inclure dans votre prochain appel d'offres ?

Si vous achetez une IA conversationnelle cette année, six questions font la distinction entre les fournisseurs qui ont réalisé le travail et ceux qui ont simplement écrit un paragraphe à ce sujet.

1. Une classification écrite du système spécifique par rapport à l’annexe III, avec le raisonnement et, lorsque l’article 6(3) est invoqué, l’évaluation documentée qui la sous-tend.
2. Les instructions d'utilisation de l'article 13, intégralement, avant la conclusion du contrat, et non une fiche technique.
3. Mesures de précision déclarées avec les conditions de test jointes, y compris les performances de la téléphonie à bande étroite et la couverture des accents.
4. Une description de ce que l'enregistrement de l'article 12 capture réellement, de la durée de conservation des données et de la possibilité de reconstituer un seul virage de bout en bout sur demande.
5. Provenance du modèle et enregistrement de la version, ainsi qu'une notification avant toute modification du modèle avant sa mise en production.
6. Une position claire au titre de l'article 25 : quelles modifications le fournisseur considère comme substantielles et à quel moment son travail de conformité cesse de vous couvrir.

Construisez en prévision de l'audit, pas de la date limite.

La loi sur l'IA est souvent perçue comme un coût de mise en conformité. En y regardant de plus près, il s'agit d'un cahier des charges pour un système vocal qu'une entreprise peut réellement défendre : finalité documentée, connaissances encadrées, exactitude déclarée, décisions consignées, supervision humaine réelle, versions du modèle traçables. C'est la même architecture que nous préconisions dans… Au-delà du chiffonet la même posture qui détermine le véritable coût d'une mauvaise réponse dans économie de l'hallucination.

Les acheteurs qui considèrent le 2 août comme une date butoir administrative passeront l'automne à se brancher à une cheminée qui n'a jamais été conçue pour être rénovée. Ceux qui la considèrent comme une date butoir architecturale constateront que les formalités administratives se rédigent en grande partie d'elles-mêmes.