La legge europea sull'IA entra nel mondo della comunicazione vocale: cosa significa l'agosto 2026 per l'IA conversazionale?

Le date sul libro degli statuti

La legge sull'intelligenza artificiale non è arrivata tutta in una volta. È stata emanata a tappe, e la tappa più importante per chiunque si occupi di intelligenza artificiale conversazionale è quella del 2 agosto 2026: gli obblighi relativi all'alto rischio previsti dall'Allegato III e gli obblighi di trasparenza dell'articolo 50 entreranno in vigore lo stesso giorno.

A Bruxelles è in corso un dibattito sull'opportunità di allentare tale scadenza: il pacchetto omnibus digitale della Commissione propone di vincolare la data di entrata in vigore dell'Allegato III alla disponibilità di norme armonizzate. Fino a quando il Regolamento non verrà modificato, la data di riferimento stabilita dalla legge è il 2 agosto 2026. Un eventuale rinvio consentirebbe di guadagnare tempo per la documentazione, non per la progettazione: i requisiti di registrazione, supervisione e tracciabilità sono decisioni progettuali, e adeguarli a posteriori è considerevolmente più costoso che realizzarli in fase di costruzione.

Ogni agente vocale è catturato da un articolo

Prima di affrontare la questione ad alto rischio, esiste un obbligo che si applica praticamente a ogni sistema di intelligenza artificiale conversazionale operante nel mercato dell'UE, indipendentemente dalla sua funzione. L'articolo 50 è breve ed è quello in base al quale verranno valutate la maggior parte delle implementazioni di sistemi vocali.

• Dite alla gente che sta parlando con una macchina. L'articolo 50(1) richiede che le persone fisiche che interagiscono con un sistema di intelligenza artificiale siano informate di tale fatto, a meno che non sia ovvio per una persona ragionevolmente informata nelle circostanze. Nel caso della voce, la giustificazione "ovvia" si sta riducendo; l'intero settore ha impiegato due anni per creare agenti che non suonano sintetici. Se la vostra strategia di divulgazione è "se ne accorgeranno", state scommettendo sulla conformità del vostro stesso prodotto, che è scadente.
• Marca l'audio sintetico. Gli articoli 50(2) e 50(4) riguardano la marcatura leggibile da macchina dei contenuti generati dall'IA e la divulgazione dei deepfake. L'output vocale clonato o sintetizzato rientra pienamente nell'ambito di applicazione.
• Notifica il riconoscimento delle emozioni. L'articolo 50(3) richiede che i fornitori di sistemi di riconoscimento delle emozioni e di categorizzazione biometrica informino le persone che vi sono esposte. Qualsiasi sistema di riconoscimento vocale che deduca sentimenti, stress o frustrazione da segnali acustici deve rispondere a questa richiesta.
• L'alfabetizzazione all'IA è già in vigore. L'articolo 4 è in vigore dal febbraio 2025 e riguarda sia i fornitori che gli implementatori: le persone che gestiscono i vostri assistenti vocali devono possedere un livello di competenza in materia di intelligenza artificiale adeguato al contesto in cui vengono utilizzati. Si tratta dell'obbligo meno oneroso della legge e anche di quello più frequentemente ignorato.

Quattro cose che nessuno può costruire

L'articolo 5 è in vigore dal febbraio 2025, prevede le sanzioni più severe della legge e contiene divieti che sono pericolosamente simili a modelli con cui l'industria della telefonia vocale sta sperimentando.

• Tecnica manipolativa o ingannevole. L'articolo 5(1)(a) vieta le tecniche subliminali, intenzionalmente manipolative o ingannevoli che distorcono materialmente il comportamento e causano danni significativi. L'architettura della persuasione in un agente di vendita outbound è esattamente il campo per cui è stato redatto.
• Sfruttare le vulnerabilità. L'articolo 5(1)(b) vieta lo sfruttamento delle vulnerabilità derivanti dall'età, dalla disabilità o da una specifica situazione sociale o economica. L'individuazione delle vulnerabilità è un requisito normativo nei servizi finanziari del Regno Unito. Utilizzare lo stesso segnale per esercitare maggiore pressione anziché per indirizzare le richieste con maggiore cautela è vietato, non solo sconsigliato.
• Inferenza delle emozioni sul lavoro o nell'istruzione. L'articolo 5(1)(f) vieta di dedurre le emozioni delle persone fisiche sul luogo di lavoro e negli istituti di istruzione, al di fuori di ristretti motivi medici e di sicurezza. La valutazione del sentimento dell'agente rivolta al proprio personale è l'ovvia fonte di rischio in questo caso.
• Categorizzazione biometrica in base all'attributo protetto. L'articolo 5(1)(g) vieta di desumere dai dati biometrici la razza, l'opinione politica, l'appartenenza sindacale, il credo religioso, la vita sessuale o l'orientamento sessuale. L'accento e l'impronta vocale sono dati biometrici.

La violazione dell'articolo 5 comporta sanzioni pecuniarie fino a 35 milioni di euro o al 7% del fatturato annuo mondiale totale, a seconda di quale dei due importi sia maggiore. Nessun'altra disposizione della legge raggiunge tale limite.

Dove cade effettivamente la linea ad alto rischio

Il concetto di "alto rischio" non si basa su una valutazione soggettiva dell'importanza del caso d'uso, bensì su un elenco. L'Allegato III elenca otto aree e un sistema di intelligenza artificiale conversazionale è considerato ad alto rischio quando il suo scopo rientra in una di esse. Cinque delle otto aree sono direttamente rilevanti per la voce: biometria, infrastrutture critiche, istruzione, occupazione e accesso a servizi essenziali pubblici e privati.

Il modello mentale utile è il seguente: alla legge non interessa che una conversazione sia avvenuta. Le interessa se un sistema automatizzato abbia influenzato una decisione rilevante riguardante una persona.

Scorrendo la tabella, emerge uno schema che sorprende la maggior parte degli acquirenti: la stessa organizzazione gestisce spesso entrambi i livelli. Un ente sanitario che prenota appuntamenti tramite comando vocale è soggetto a un rischio limitato; lo stesso ente che effettua il triage dei sintomi è soggetto a un rischio elevato. Una compagnia assicurativa che gestisce un sinistro automobilistico è soggetta a un rischio limitato; la stessa compagnia assicurativa che calcola il prezzo di una polizza vita è soggetta a un rischio elevato. La conformità viene valutata per sistema e per scopo previsto, non per azienda.

Gli acquirenti dell'esclusione dalla verifica continuano a sbagliare

La biometria vocale è il settore in cui si concentrano gli errori di lettura. L'allegato III, punto 1(a), classifica i sistemi di identificazione biometrica a distanza come ad alto rischio, e poi esclude esplicitamente i sistemi utilizzati per la verifica biometrica il cui unico scopo è confermare che una persona sia chi dichiara di essere.

Questa distinzione ha un costo. Un controllo dell'impronta vocale rispetto al singolo account che il chiamante ha già identificato è una verifica uno a uno e non rientra nella lista ad alto rischio. La ricerca della voce di un chiamante in un database di voci registrate o sotto osservazione per scoprire chi è è un'identificazione uno a molti ed è ad alto rischio. La funzionalità appare quasi identica in una demo. La conseguenza normativa, tuttavia, è diversa e richiede un'intera valutazione di conformità.

La via di fuga di cui all'articolo 6(3), e la sua botola

Un sistema il cui scopo rientra nell'allegato III non è automaticamente ad alto rischio. L'articolo 6(3) consente a un fornitore di concludere diversamente qualora il sistema non comporti un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali (anche perché non influenza in modo sostanziale l'esito del processo decisionale) e sussista una delle quattro condizioni seguenti: esegue un compito procedurale ristretto, migliora il risultato di un'attività umana precedentemente completata, rileva modelli o deviazioni senza sostituire la valutazione umana oppure esegue un compito preparatorio a una valutazione.

La maggior parte degli agenti vocali ben progettati nei settori ad alto rischio puntano proprio a questo: raccogliere i dati, verificare i dettagli, preparare il fascicolo e consegnare la decisione a un essere umano. La fallacia sta nell'ultima frase della disposizione. Se il sistema effettua la profilazione di persone fisiche, è comunque ad alto rischio. E la deroga non è gratuita: la valutazione deve essere documentata prima che il sistema venga immesso sul mercato e il sistema deve comunque essere registrato nel database dell'UE. È un percorso burocratico, non una scorciatoia.

Quanto ti costa realmente l'alto rischio

Se un'implementazione vocale rientra in una categoria ad alto rischio, il Capitolo III trasforma il prodotto in un prodotto regolamentato. In pratica, per un agente vocale, gli obblighi sono i seguenti.

Prima che venga pubblicato

• Sistema di gestione del rischio (articolo 9). Un processo continuo e documentato lungo tutto il ciclo di vita, non un registro dei rischi una tantum firmato al momento del lancio.
• Governance dei dati (articolo 10). I dati di addestramento, validazione e test vengono esaminati per verificarne la rappresentatività e l'assenza di pregiudizi. Per quanto riguarda la voce, ciò significa coprire accento, dialetto, età e differenze di pronuncia, ovvero proprio gli aspetti in cui la maggior parte dei sistemi ASR (Automatic Speech Recognition) presenta delle lacune.
• Documentazione tecnica (articolo 11, allegato IV). Architettura del sistema, provenienza del modello, scopo previsto, limitazioni note, metriche di prestazione.
• Istruzioni per l'uso (articolo 13). Il pacchetto di trasparenza destinato a chi effettua l'implementazione. Se stai effettuando l'acquisto, questo documento determina se sei in grado di adempiere ai tuoi obblighi.
• Accuratezza, robustezza e sicurezza informatica (articolo 15). Metriche di accuratezza dichiarate che valgono in condizioni di produzione. Per la voce nel Regno Unito questo si scontra con la telefonia a banda stretta, che abbiamo di cui si parla separatamenteUn modello testato su audio a banda larga e implementato su un canale a 3,4 kHz non sta raggiungendo le prestazioni dichiarate.
• Gestione della qualità, valutazione della conformità, marcatura CE e registrazione (articoli 17, 43, 47–49). Il percorso di conformità dichiarato, la dichiarazione UE, la marcatura CE e l'inserimento nel database UE.

Una volta che è in diretta

• Registrazione (articolo 12). Registrazione automatica degli eventi durante l'intero ciclo di vita del sistema, sufficiente a tracciare come è stato prodotto un determinato risultato. Nel caso di un agente vocale, non si tratta della registrazione della chiamata, bensì delle decisioni di recupero, delle chiamate agli strumenti, delle valutazioni delle policy e delle versioni del modello alla base di ogni turno.
• Controllo umano (articolo 14). Prevede la capacità, integrata nel design, di consentire a una persona di comprendere, intervenire, annullare e fermare. L'irruzione e l'escalation a un agente rappresentano il livello visibile; il requisito più difficile è che l'essere umano abbia un contesto sufficiente per modificare effettivamente l'esito.
• Monitoraggio post-commercializzazione (articolo 72). Un piano per la raccolta e l'analisi delle prestazioni reali, con l'obiettivo di fornire input al sistema di gestione del rischio.
• Segnalazione di incidenti gravi (articolo 73). Notificare immediatamente all'autorità di vigilanza del mercato, e comunque entro 15 giorni dalla data in cui si viene a conoscenza dell'accaduto: 10 giorni in caso di decesso, 2 giorni in caso di violazione diffusa o grave interruzione di infrastrutture critiche. Quindici giorni non sono molti se non si riesce a ricostruire cosa ha detto il proprio agente e perché.

La trappola del ruolo: come un acquirente diventa un fornitore

Gli obblighi previsti dalla legge si suddividono in base al ruolo. I fornitori sono responsabili della maggior parte delle disposizioni del Capitolo III. Chi implementa il sistema ha un elenco più breve ma concreto di obblighi, ai sensi degli articoli 26 e 27: utilizzare il sistema secondo le sue istruzioni, assegnare una supervisione umana competente, garantire la pertinenza dei dati di input, conservare i registri generati automaticamente per almeno sei mesi e (nel caso di datore di lavoro) informare i rappresentanti dei lavoratori e i lavoratori interessati prima di mettere in funzione un sistema ad alto rischio sul luogo di lavoro. Gli enti pubblici, gli operatori privati che erogano servizi pubblici e chi implementa sistemi di valutazione del merito creditizio o di determinazione dei prezzi delle assicurazioni sulla vita e sulla salute sono inoltre tenuti a effettuare una valutazione d'impatto sui diritti fondamentali.

L'articolo 25 è la disposizione che coglie di sorpresa gli acquirenti aziendali. Un implementatore diventa un fornitore (ereditando tutti gli obblighi del fornitore) se appone il proprio nome o marchio su un sistema ad alto rischio, apporta una modifica sostanziale ad esso o modifica la finalità prevista di un sistema in modo tale da renderlo ad alto rischio.

Considerate quanto siano comuni tutte queste operazioni in un programma di riconoscimento vocale. Personalizzate l'agente con il vostro marchio. Riscrivete il messaggio di sistema, aggiungete strumenti, integrate il vostro sistema di recupero dati e modificate la logica decisionale. Prendete un agente acquistato per la prenotazione di appuntamenti e lo indirizzate alla valutazione dei sintomi. Ognuna di queste operazioni rappresenta una vera e propria questione di conformità all'articolo 25, e la risposta determina se il lavoro di conformità del vostro fornitore vi riguarda direttamente o se ve ne siete assunti la responsabilità in silenzio.

Il modello sotto il tuo agente

Gli agenti vocali sono composti da diversi elementi, non sono monolitici: un modello ASR, uno o più modelli linguistici, una voce TTS e un livello di orchestrazione. Gli obblighi relativi ai modelli di IA di uso generale sono in vigore dall'agosto 2025, il che significa che i fornitori di modelli sottostanti sono tenuti a fornire documentazione tecnica, informazioni a valle, una politica sul copyright e un riepilogo dei dati di addestramento; inoltre, laddove un modello sia considerato soggetto a rischio sistemico, sono tenuti a effettuare valutazioni, test avversari, segnalazioni di incidenti e ad adempiere agli obblighi di sicurezza informatica.

Questo è importante per voi per una ragione pratica. La documentazione dell'Allegato IV e le vostre dichiarazioni di accuratezza ai sensi dell'Articolo 15 dipendono da informazioni che non generate. Se il vostro fornitore di servizi vocali non è in grado di dirvi quali versioni del modello sono state utilizzate per quali chiamate, non potete rilasciare una dichiarazione di accuratezza difendibile e non potete rispondere a un ente regolatore che vi chiede perché è stata data una risposta specifica per una chiamata specifica. L'identificazione del modello e la divulgazione della versione hanno smesso di essere una preferenza ingegneristica e sono diventate una necessità di conformità.

Se sei un'azienda del Regno Unito, probabilmente rientri ancora nell'ambito di applicazione

Il Regno Unito non ha una legge equivalente. Questo non è il sollievo che a volte viene interpretato. L'articolo 2 conferisce alla legge una portata extraterritoriale: si applica ai fornitori che immettono sistemi di intelligenza artificiale sul mercato dell'UE o li mettono in servizio nell'UE, indipendentemente dal luogo in cui hanno sede, e ai fornitori e agli implementatori stabiliti al di fuori dell'UE qualora l'output prodotto dal sistema venga utilizzato nell'UE.

Un fornitore britannico di intelligenza artificiale vocale con clienti in Irlanda, Paesi Bassi o Germania è considerato un fornitore ai sensi della legge. Un'impresa britannica che gestisce un'infrastruttura che gestisce chiamate provenienti da clienti UE rientra nell'ambito di applicazione di tale infrastruttura. E in pratica, la pressione commerciale arriva prima di quella legale: i team di approvvigionamento che si rivolgono all'UE stanno già richiedendo la documentazione dell'Allegato IV e le autorità di regolamentazione del Regno Unito (in particolare la divisione Consumer Duty della FCA) stanno convergendo sulle stesse prove, se non sulla stessa documentazione.

Cosa includere nella tua prossima richiesta di offerta (RFP)

Se quest'anno state pensando di acquistare soluzioni di intelligenza artificiale conversazionale, Six mette in evidenza la differenza tra i fornitori che hanno effettivamente sviluppato il progetto e quelli che si sono limitati a scriverne un paragrafo.

1. Una classificazione scritta del sistema specifico rispetto all'allegato III, con le relative motivazioni e, laddove si invoca l'articolo 6(3), la valutazione documentata che la supporta.
2. Le istruzioni per l'uso di cui all'articolo 13, nella loro interezza, devono essere fornite prima della stipula del contratto, non sotto forma di scheda tecnica.
3. Metriche di accuratezza dichiarate con le relative condizioni di test, tra cui le prestazioni della telefonia a banda stretta e la copertura degli accenti.
4. Una descrizione di cosa effettivamente registra la procedura di registrazione prevista dall'articolo 12, per quanto tempo viene conservata e se è possibile ricostruire un singolo giro dall'inizio alla fine su richiesta.
5. Tracciabilità della provenienza del modello e della versione, oltre a una notifica prima che qualsiasi modifica al modello raggiunga la produzione.
6. Una posizione chiara ai sensi dell'articolo 25: quali modifiche il fornitore considera sostanziali e a che punto il suo lavoro di adeguamento cessa di tutelarvi.

Progetta in funzione dell'audit, non della scadenza.

L'AI Act viene spesso interpretato come un costo di conformità. Leggendolo più attentamente, si scopre che è una specifica per un sistema vocale che un'azienda può effettivamente difendere: scopo documentato, conoscenza governata, accuratezza dichiarata, decisioni registrate, supervisione umana reale, versioni del modello tracciabili. Questa è la stessa architettura che abbiamo sostenuto in Oltre RAG, e la stessa postura che decide il vero costo di una risposta sbagliata in economia delle allucinazioni.

Gli acquirenti che considerano il 2 agosto solo una data per le pratiche burocratiche passeranno l'autunno a sistemare il legname in una catasta che non è mai stata progettata per essere ricostruita. Gli acquirenti che la considerano una data di riferimento per la progettazione architettonica scopriranno che la documentazione si scriverà praticamente da sola.