A Lei de IA da UE impacta a área de voz: o que agosto de 2026 significa para a IA conversacional?

As datas no livro de estatutos

A Lei de IA não chegou de uma só vez. Ela chega em etapas, e a etapa mais importante para quem trabalha com IA conversacional é a que entra em vigor em 2 de agosto de 2026: as obrigações de alto risco do Anexo III e os deveres de transparência do Artigo 50 começam a ser aplicados no mesmo dia.

Há um debate em curso em Bruxelas sobre a possibilidade de flexibilizar esse cronograma: o pacote digital abrangente da Comissão propôs vincular a data de início do Anexo III à disponibilidade de normas harmonizadas. Até que o Regulamento seja alterado, 2 de agosto de 2026 é a data legal vigente. E um adiamento daria mais tempo para a documentação, não para o projeto arquitetônico: os requisitos de registro, supervisão e rastreabilidade são decisões de projeto e são consideravelmente mais caros de serem adaptados posteriormente do que construídos do zero.

Todos os agentes de voz são afetados por um artigo.

Antes de abordar a questão de alto risco, existe um dever que se aplica a praticamente todos os sistemas de IA conversacional que operam no mercado da UE, independentemente da sua função. O Artigo 50 é conciso e será o critério de avaliação da maioria das implementações de voz.

• Diga às pessoas que elas estão falando com uma máquina. O Artigo 50(1) exige que as pessoas físicas que interagem com um sistema de IA sejam informadas desse fato, a menos que seja óbvio para uma pessoa razoavelmente bem informada nas mesmas circunstâncias. No que diz respeito à voz, o argumento "óbvio" está se tornando cada vez menos válido; toda a indústria passou dois anos criando agentes que não soam sintéticos. Se sua estratégia de divulgação for "eles serão capazes de perceber", você estará apostando na própria inadequação do seu produto para garantir a conformidade.
• Áudio sintético Mark. Os artigos 50(2) e 50(4) abrangem a marcação legível por máquina de conteúdo gerado por IA e a divulgação de deepfakes. A saída de voz clonada ou sintetizada está claramente abrangida pelo seu âmbito de aplicação.
• Notificar o reconhecimento de emoções. O artigo 50(3) exige que os responsáveis pela implementação de sistemas de reconhecimento de emoções e categorização biométrica informem as pessoas expostas a esses sistemas. Qualquer sistema de processamento de voz que infira sentimentos, estresse ou frustração a partir de sinais acústicos precisa responder a essa exigência.
• Alfabetização em IA, já em vigor. O Artigo 4º aplica-se desde fevereiro de 2025 e recai tanto sobre os fornecedores como sobre os implementadores: as pessoas que operam os seus assistentes de voz precisam de ter um nível suficiente de conhecimentos de IA para o contexto em que estes são utilizados. Esta é a obrigação mais barata da Lei e a mais frequentemente ignorada.

Quatro coisas que ninguém pode construir

O Artigo 5 está em vigor desde fevereiro de 2025, prevê as penalidades mais severas da Lei e contém proibições que se assemelham desconfortavelmente a padrões com os quais a indústria de locução vem experimentando.

• Técnica manipulativa ou enganosa. O artigo 5.º, n.º 1, alínea a), proíbe técnicas subliminares, intencionalmente manipuladoras ou enganosas que distorçam materialmente o comportamento e causem danos significativos. A arquitetura da persuasão num agente de vendas externas é precisamente o âmbito para o qual este artigo foi redigido.
• Explorando a vulnerabilidade. O artigo 5.º, n.º 1, alínea b), proíbe a exploração de vulnerabilidades decorrentes da idade, da deficiência ou de uma situação socioeconómica específica. A deteção de vulnerabilidades é uma exigência regulamentar nos serviços financeiros do Reino Unido. Utilizar esse mesmo sinal para pressionar mais em vez de direcionar os pedidos com maior cautela é proibido, e não apenas malvisto.
• Inferência emocional no trabalho ou na educação. O artigo 5.º, n.º 1, alínea f), proíbe a inferência de emoções de pessoas singulares no local de trabalho e em instituições de ensino, exceto em casos estritamente médicos e de segurança. A avaliação de sentimentos por parte dos agentes, direcionada aos seus próprios funcionários, é a exposição mais óbvia neste caso.
• Categorização biométrica por atributo protegido. O artigo 5.º, n.º 1, alínea g), proíbe inferir raça, opinião política, filiação sindical, crença religiosa, vida sexual ou orientação sexual a partir de dados biométricos. O sotaque e a impressão vocal são dados biométricos.

A violação do Artigo 5º acarreta multas de até 35 milhões de euros ou 7% do volume de negócios anual mundial total, consoante o que for mais elevado. Nenhuma outra disposição da Lei atinge esse limite máximo.

Onde exatamente se situa a linha de alto risco.

O conceito de alto risco não se baseia em um julgamento sobre a importância que seu caso de uso lhe parece relevante. Trata-se de uma lista. O Anexo III enumera oito áreas, e um sistema de IA conversacional é considerado de alto risco quando seu propósito se enquadra em uma delas. Cinco dessas oito áreas são diretamente relevantes para a voz: biometria, infraestrutura crítica, educação, emprego e acesso a serviços essenciais, tanto públicos quanto privados.

O modelo mental útil é o seguinte: a lei não se importa se uma conversa aconteceu. Ela se importa se um sistema automatizado influenciou uma decisão importante sobre uma pessoa.

Ao analisar a tabela, um padrão emerge, surpreendendo a maioria dos compradores: a mesma organização frequentemente opera ambos os níveis. Uma instituição de saúde que agenda consultas por voz apresenta risco limitado; a mesma instituição que tria sintomas apresenta alto risco. Uma seguradora que registra sinistros de automóveis apresenta risco limitado; a mesma seguradora que precifica seguros de vida apresenta alto risco. A conformidade é definida por sistema e por finalidade, não por empresa.

Os compradores que optam pela verificação adicional estão equivocados.

A biometria de voz é onde se concentram as leituras incorretas. O Anexo III, ponto 1(a), classifica os sistemas de identificação biométrica remota como de alto risco e, em seguida, exclui explicitamente os sistemas usados para verificação biométrica cujo único propósito é confirmar se uma pessoa é quem afirma ser.

Essa distinção tem um valor financeiro. Uma verificação da impressão vocal em relação à conta individual já identificada pelo chamador é uma verificação individual e não entra na lista de alto risco. Já a busca pela voz do chamador em um banco de dados de vozes cadastradas ou monitoradas para descobrir sua identidade é uma identificação de um para muitos e, portanto, de alto risco. A funcionalidade parece quase idêntica em uma demonstração. A consequência regulatória, porém, difere por uma avaliação de conformidade completa.

A escotilha de escape do Artigo 6(3) e sua porta de acesso

Um sistema cuja finalidade se enquadra no Anexo III não é automaticamente considerado de alto risco. O artigo 6.º, n.º 3, permite que o prestador de serviços conclua de forma diferente quando o sistema não representar um risco significativo de danos à saúde, à segurança ou aos direitos fundamentais (incluindo porque não influencia materialmente o resultado da tomada de decisões) e se verificar uma das quatro condições: executa uma tarefa processual específica, melhora o resultado de uma atividade humana previamente realizada, deteta padrões ou desvios sem substituir a avaliação humana, ou executa uma tarefa preparatória para uma avaliação.

A maioria dos assistentes de voz bem projetados em setores de alto risco visa esse espaço: capturar os fatos, verificar os detalhes, preparar o dossiê e entregar a decisão a um humano. A armadilha está na última frase da disposição. Se o sistema realiza o perfilamento de pessoas físicas, ele é considerado de alto risco independentemente da situação. E a exceção não é gratuita: a avaliação deve ser documentada antes que o sistema seja comercializado, e o sistema ainda precisa ser registrado no banco de dados da UE. É um caminho burocrático, não um caminho silencioso.

Qual o custo real do alto risco?

Se uma implementação de voz for classificada como de alto risco, o Capítulo III transforma o produto em um produto regulamentado. Na prática, para um agente de voz, as obrigações são as seguintes.

Antes de ser publicado

• Sistema de gestão de riscos (Artigo 9). Um processo contínuo e documentado ao longo de todo o ciclo de vida, e não um registro de riscos pontual assinado no lançamento.
• Governança de dados (Artigo 10). Os dados de treinamento, validação e teste são examinados quanto a viés e representatividade. Para a voz, isso significa cobertura de sotaque, dialeto, idade e diferenças na fala, que é precisamente onde a maioria dos sistemas de reconhecimento automático de fala (ASR) apresenta desempenho inferior em níveis de ruído baixo.
• Documentação técnica (Artigo 11, Anexo IV). Arquitetura do sistema, proveniência do modelo, finalidade pretendida, limitações conhecidas, métricas de desempenho.
• Instruções de utilização (Artigo 13). O pacote de transparência voltado para o responsável pela implementação. Se você estiver comprando, este é o artefato que determina se você poderá cumprir suas próprias obrigações.
• Precisão, robustez e cibersegurança (Artigo 15). Métricas de precisão declaradas que se mantêm em condições de produção. Para voz no Reino Unido, isso entra em conflito com a telefonia de banda estreita, que temos escrito separadamenteUm modelo avaliado em áudio de banda larga e implementado em um canal de 3,4 kHz não está apresentando o desempenho declarado.
• Gestão da qualidade, avaliação da conformidade, marcação CE e registo (artigos 17.º, 43.º, 47.º-49.º). O percurso de conformidade declarado, a declaração da UE, a marcação CE e a inscrição na base de dados da UE.

Assim que estiver online

• Registro de atividades (Artigo 12). Registro automático de eventos ao longo da vida útil do sistema, suficiente para rastrear como um determinado resultado foi produzido. Em um agente de voz, não se trata da gravação da chamada em si, mas sim das decisões de recuperação de dados, chamadas de ferramentas, avaliações de políticas e versões de modelos subjacentes a cada interação.
• Supervisão humana (Artigo 14). Capacidade integrada para que uma pessoa compreenda, intervenha, anule e interrompa a situação. A intervenção e o encaminhamento para um agente são a camada visível; o requisito mais complexo é que o ser humano tenha contexto suficiente para de fato alterar o resultado.
• Monitoramento pós-comercialização (Artigo 72). Um plano para coletar e analisar o desempenho no mundo real, retroalimentando o sistema de gerenciamento de riscos.
• Comunicação de incidentes graves (Artigo 73). A notificação à autoridade de fiscalização do mercado deve ser feita imediatamente e, no máximo, em 15 dias após o conhecimento do fato: 10 dias em caso de morte, 2 dias em caso de infração generalizada ou grave perturbação da infraestrutura crítica. Quinze dias não é um prazo longo se você não conseguir reconstituir o que seu agente disse e por quê.

A armadilha dos papéis: como um comprador se torna um fornecedor

As obrigações da Lei dividem-se por função. Os provedores são responsáveis pela maior parte do Capítulo III. Os implementadores têm uma lista mais curta, mas essencial, nos Artigos 26 e 27: operar o sistema de acordo com as suas instruções, designar supervisão humana competente, garantir que os dados de entrada sejam relevantes, manter os registos gerados automaticamente por pelo menos seis meses e (no caso de empregador) informar os representantes dos trabalhadores e os trabalhadores afetados antes de colocar um sistema de alto risco em funcionamento no local de trabalho. Os organismos públicos, os operadores privados que prestam serviços públicos e os implementadores que realizam análises de crédito ou precificação de seguros de vida e saúde também têm de realizar uma avaliação de impacto sobre os direitos fundamentais.

O Artigo 25 é a disposição que pega os compradores corporativos desprevenidos. Um implementador torna-se um provedor (herdando o conjunto completo de obrigações de um provedor) se colocar seu próprio nome ou marca registrada em um sistema de alto risco, fizer uma modificação substancial nele ou modificar a finalidade pretendida de um sistema de forma que ele se torne de alto risco.

Considere o quão comum cada uma dessas situações é em um programa de voz. Você personaliza o agente com a sua marca. Você reescreve o prompt do sistema, adiciona ferramentas, integra seu próprio sistema de recuperação de dados e altera a lógica de decisão. Você pega um agente adquirido para agendamento de consultas e o direciona para a triagem de sintomas. Cada uma dessas situações configura uma questão relevante do Artigo 25, e a resposta determina se o trabalho de conformidade do seu fornecedor o protege ou se você assumiu essa responsabilidade por conta própria.

O modelo abaixo do seu agente

Os agentes de voz são montados, não monolíticos: um modelo de reconhecimento automático de fala (ASR), um ou mais modelos de linguagem, uma voz de síntese de voz (TTS) e uma camada de orquestração. As obrigações de modelos de IA de propósito geral se aplicam desde agosto de 2025, o que significa que os fornecedores de modelos abaixo de você devem fornecer documentação técnica, informações subsequentes, uma política de direitos autorais e um resumo dos dados de treinamento; e, quando um modelo é considerado como apresentando risco sistêmico, devem também cumprir as obrigações de avaliação, testes adversários, relatórios de incidentes e segurança cibernética.

Isso é importante para você por uma razão prática. Sua documentação do Anexo IV e suas alegações de precisão do Artigo 15 dependem de informações que você não gera. Se o seu fornecedor de voz não puder informar quais versões do modelo atenderam a quais chamadas, você não poderá fazer uma declaração de precisão defensável e não poderá responder a um órgão regulador que pergunte por que uma resposta específica foi dada em uma chamada específica. A fixação de modelo e a divulgação da versão deixaram de ser uma preferência de engenharia e se tornaram uma dependência de conformidade.

Se você é uma empresa do Reino Unido, provavelmente ainda está dentro do escopo.

O Reino Unido não possui legislação equivalente. Essa não é a interpretação que às vezes se faz dela. O Artigo 2º confere à Lei alcance extraterritorial: ela se aplica a fornecedores que colocam sistemas de IA no mercado da UE ou os implementam na UE, independentemente de onde estejam estabelecidos, e a fornecedores e implementadores estabelecidos fora da UE, quando os resultados produzidos pelo sistema são utilizados na UE.

Um fornecedor de IA de voz do Reino Unido com um cliente irlandês, holandês ou alemão é considerado um provedor nos termos da Lei. Uma empresa do Reino Unido que opera uma infraestrutura que atende chamadas de clientes da UE está sujeita ao escopo dessa infraestrutura. E, na prática, a pressão comercial chega antes da legal: as equipes de compras voltadas para a UE já estão solicitando a documentação do Anexo IV, e os reguladores do Reino Unido (em particular, o trabalho da FCA sobre o Dever do Consumidor) estão convergindo para as mesmas evidências, senão para a mesma documentação.

O que incluir na sua próxima RFP (Solicitação de Propostas).

Se você está pensando em comprar soluções de IA conversacional este ano, faça seis perguntas diferentes a fornecedores que já desenvolveram o produto e outros que apenas escreveram um parágrafo sobre ele.

1. Uma classificação escrita do sistema específico em relação ao Anexo III, com a fundamentação e, quando o Artigo 6(3) for invocado, a avaliação documentada que a sustenta.
2. As instruções de utilização do Artigo 13, na íntegra, devem ser consultadas antes da assinatura do contrato, e não uma ficha técnica.
3. Métricas de precisão declaradas com as condições de teste anexadas, incluindo desempenho de telefonia de banda estreita e cobertura de sotaque.
4. Uma descrição do que o registro do Artigo 12 realmente captura, por quanto tempo ele é retido e se é possível reconstruir uma única volta completa sob demanda.
5. Proveniência e versão do modelo, além de notificação prévia a qualquer alteração no modelo antes que ela chegue à produção.
6. Uma posição clara em relação ao Artigo 25: quais modificações o fornecedor considera substanciais e em que ponto o trabalho de conformidade dele deixa de lhe abranger.

Construa pensando na auditoria, não no prazo.

A Lei de Inteligência Artificial (AI Act) é frequentemente interpretada como um custo de conformidade. Uma leitura mais atenta revela que ela é uma especificação para um sistema de voz que uma empresa pode de fato defender: propósito documentado, conhecimento governado, precisão declarada, decisões registradas, supervisão humana real e versões de modelo rastreáveis. Essa é a mesma arquitetura que defendemos em Além do RAGe a mesma postura que determina o verdadeiro custo de uma resposta errada em economia da alucinação.

Compradores que encaram o dia 2 de agosto como uma data para preencher formulários passarão o outono adaptando sistemas de armazenamento de energia em uma estrutura que nunca foi projetada para ser reconstruída. Já os compradores que a encaram como uma data para a fase de projeto arquitetônico descobrirão que a papelada se redige praticamente sozinha.