La Ley de IA de la UE afecta a la voz: qué significa agosto de 2026 para la IA conversacional.

Las fechas en el reglamento

La Ley de IA no se implementó de una sola vez. Llegó por fases, y la fase más importante para quienes utilizan IA conversacional es la del 2 de agosto de 2026: las obligaciones de alto riesgo del Anexo III y los deberes de transparencia del Artículo 50 entraron en vigor el mismo día.

En Bruselas se está debatiendo la posibilidad de flexibilizar el calendario: el paquete digital de la Comisión propuso vincular la fecha de entrada en vigor del Anexo III a la disponibilidad de normas armonizadas. Hasta que se modifique el Reglamento, el 2 de agosto de 2026 es la fecha vigente. Un aplazamiento solo aportaría tiempo para la documentación, no para la arquitectura: los requisitos de registro, supervisión y trazabilidad son decisiones de diseño, y su implementación posterior resulta considerablemente más costosa que su construcción.

Todos los agentes de voz se ven afectados por un artículo.

Antes de abordar la cuestión de alto riesgo, cabe mencionar que existe una obligación que se aplica a prácticamente todos los sistemas de IA conversacional que operan en el mercado de la UE, independientemente de su función. El artículo 50 es breve y servirá de referencia para la mayoría de las implementaciones de voz.

• Dígale a la gente que está hablando con una máquina. El artículo 50(1) exige que las personas físicas que interactúan con un sistema de IA sean informadas de este hecho, a menos que resulte obvio para una persona razonablemente informada en esas circunstancias. En el ámbito de la voz, la obviedad es una defensa cada vez menos válida; toda la industria lleva dos años creando agentes que no suenan sintéticos. Si su estrategia de divulgación se basa en la premisa de que "se darán cuenta", está apostando el cumplimiento normativo a que su propio producto sea deficiente.
• Marcar audio sintético. Los apartados 2 y 4 del artículo 50 regulan el marcado legible por máquina del contenido generado por IA y la divulgación de deepfakes. La voz clonada o sintetizada entra de lleno en su ámbito de aplicación.
• Notificar el reconocimiento de emociones. El artículo 50(3) exige que quienes implementan sistemas de reconocimiento de emociones y categorización biométrica informen a las personas expuestas a ellos. Cualquier sistema de procesamiento de voz que infiera sentimientos, estrés o frustración a partir de señales acústicas debe responder a esta exigencia.
• La alfabetización en inteligencia artificial ya está en vigor. El artículo 4 está en vigor desde febrero de 2025 y afecta tanto a proveedores como a implementadores: las personas que operan sus agentes de voz deben tener un nivel suficiente de conocimientos de IA para el contexto en el que se utilizan. Es la obligación más económica de la ley y la que con mayor frecuencia se incumple.

Cuatro cosas que nadie puede construir

El artículo 5 está en vigor desde febrero de 2025, contempla las sanciones más severas de la ley y contiene prohibiciones que se asemejan inquietantemente a los patrones con los que la industria de la voz ha estado experimentando.

• Técnica manipuladora o engañosa. El artículo 5(1)(a) prohíbe las técnicas subliminales, manipuladoras o engañosas que distorsionen sustancialmente el comportamiento y causen daños significativos. La arquitectura de la persuasión en un agente de ventas salientes es precisamente el ámbito para el que se redactó este artículo.
• Explotación de vulnerabilidades. El artículo 5(1)(b) prohíbe explotar las vulnerabilidades derivadas de la edad, la discapacidad o una situación socioeconómica específica. La detección de vulnerabilidades es un requisito normativo en los servicios financieros del Reino Unido. Utilizar esa misma señal para presionar más en lugar de gestionar las solicitudes con mayor cautela está prohibido, no solo mal visto.
• Inferencia de emociones en el trabajo o en la educación. El artículo 5(1)(f) prohíbe inferir las emociones de las personas físicas en el lugar de trabajo y en las instituciones educativas, salvo por motivos médicos y de seguridad específicos. La evaluación de las emociones de los empleados por parte de agentes, dirigida a su propio personal, constituye una clara vulnerabilidad en este caso.
• Categorización biométrica por atributo protegido. El artículo 5(1)(g) prohíbe inferir la raza, la opinión política, la afiliación sindical, las creencias religiosas, la vida sexual o la orientación sexual a partir de datos biométricos. El acento y la huella de voz son datos biométricos.

El incumplimiento del artículo 5 conlleva multas de hasta 35 millones de euros o el 7 % de la facturación anual mundial total, lo que sea mayor. Ninguna otra disposición de la ley alcanza ese límite.

Dónde se sitúa realmente la línea de alto riesgo.

El alto riesgo no se basa en una valoración subjetiva de la importancia de su caso de uso, sino en una lista. El Anexo III enumera ocho áreas, y un sistema de IA conversacional se considera de alto riesgo cuando su propósito previsto se enmarca dentro de una de ellas. Cinco de las ocho áreas son directamente relevantes para la voz: biometría, infraestructura crítica, educación, empleo y acceso a servicios públicos y privados esenciales.

El modelo mental útil es el siguiente: a la Ley no le importa que haya habido una conversación. Le importa si un sistema automatizado influyó en una decisión importante sobre una persona.

Al leer la tabla, se observa un patrón que sorprende a la mayoría de los compradores: la misma organización suele gestionar ambos niveles. Un organismo sanitario que gestiona citas telefónicas tiene un riesgo limitado; ese mismo organismo, al clasificar los síntomas, tiene un riesgo alto. Una aseguradora que tramita una reclamación de seguro de automóvil tiene un riesgo limitado; esa misma aseguradora, al fijar el precio de un seguro de vida, tiene un riesgo alto. El cumplimiento normativo se define por sistema y por finalidad, no por empresa.

Los compradores que se benefician de la exención de verificación siguen cometiendo errores.

La biometría de voz es donde se concentran los errores de lectura. El punto 1(a) del Anexo III considera que los sistemas de identificación biométrica remota son de alto riesgo y, a continuación, excluye explícitamente los sistemas utilizados para la verificación biométrica cuyo único propósito es confirmar que una persona es quien dice ser.

Esa distinción tiene un valor económico. La verificación de la huella de voz con la cuenta única que la persona que llama ya ha identificado constituye una verificación individual y queda fuera de la lista de alto riesgo. La búsqueda de la voz de una persona que llama en una base de datos de voces registradas o incluidas en listas de vigilancia para determinar su identidad es una identificación de uno a muchos y conlleva un alto riesgo. La funcionalidad parece casi idéntica en una demostración. Sin embargo, las consecuencias regulatorias difieren en una evaluación de conformidad completa.

La escotilla de escape del artículo 6(3) y su trampilla.

Un sistema cuyo propósito se encuentre dentro del Anexo III no es automáticamente de alto riesgo. El artículo 6(3) permite al proveedor concluir lo contrario cuando el sistema no plantea un riesgo significativo de daño a la salud, la seguridad o los derechos fundamentales (incluso porque no influye materialmente en el resultado de la toma de decisiones) y se cumple una de las cuatro condiciones siguientes: realiza una tarea procedimental específica, mejora el resultado de una actividad humana previamente realizada, detecta patrones o desviaciones sin reemplazar la evaluación humana, o realiza una tarea preparatoria para una evaluación.

La mayoría de los agentes de voz bien diseñados en sectores de alto riesgo apuntan a ese ámbito: capturar los hechos, verificar los detalles, preparar el expediente y entregar la decisión a un humano. La trampa reside en la última frase de la disposición. Si el sistema realiza la elaboración de perfiles de personas físicas, se considera de alto riesgo independientemente de ello. Y la excepción no es gratuita: la evaluación debe documentarse antes de que el sistema salga al mercado, y este debe registrarse en la base de datos de la UE. Se trata de un proceso burocrático, no de una vía para el silencio.

Lo que realmente te cuesta el alto riesgo.

Si una implementación de voz se ubica en un área de alto riesgo, el Capítulo III convierte un producto en un producto regulado. En la práctica, para un agente de voz, las obligaciones son las siguientes.

Antes de que se publique

• Sistema de gestión de riesgos (Artículo 9). Un proceso continuo y documentado a lo largo de todo el ciclo de vida, no un registro de riesgos puntual firmado en el momento del lanzamiento.
• Gobernanza de datos (Artículo 10). Se examinaron los datos de entrenamiento, validación y prueba para detectar sesgos y garantizar su representatividad. En el caso de la voz, esto implica tener en cuenta el acento, el dialecto, la edad y las diferencias en el habla, precisamente donde la mayoría de los sistemas de reconocimiento automático del habla (ASR) presentan un rendimiento inferior al esperado.
• Documentación técnica (Artículo 11, Anexo IV). Arquitectura del sistema, procedencia del modelo, propósito previsto, limitaciones conocidas, métricas de rendimiento.
• Instrucciones de uso (Artículo 13). El paquete de transparencia para el implementador. Si realiza la compra, este es el documento que determina si puede cumplir con sus propias obligaciones.
• Precisión, robustez y ciberseguridad (Artículo 15). Métricas de precisión declaradas que se mantienen en condiciones de producción. Para la voz en el Reino Unido, esto entra en conflicto con la telefonía de banda estrecha, que tenemos escrito por separadoUn modelo evaluado con audio de banda ancha y desplegado en un canal de 3,4 kHz no está rindiendo al nivel declarado.
• Gestión de la calidad, evaluación de la conformidad, marcado CE y registro (artículos 17, 43, 47-49). La ruta de conformidad declarada, la declaración de la UE, la marca CE y la entrada en la base de datos de la UE.

Una vez que esté en funcionamiento

• Registro de madera (Artículo 12). Registro automático de eventos durante la vida útil del sistema, suficiente para rastrear cómo se produjo un resultado determinado. En un agente de voz, esto no se refiere a la grabación de la llamada, sino a las decisiones de recuperación, las llamadas a herramientas, las evaluaciones de políticas y las versiones del modelo que respaldan cada interacción.
• Supervisión humana (Artículo 14). Capacidad integrada para que una persona comprenda, intervenga, anule y detenga la situación. La intervención y la derivación a un agente constituyen la capa visible; el requisito más exigente es que el ser humano disponga del contexto suficiente para modificar el resultado.
• Seguimiento posterior a la comercialización (Artículo 72). Un plan para recopilar y analizar el desempeño en el mundo real, que a su vez retroalimenta el sistema de gestión de riesgos.
• Notificación de incidentes graves (Artículo 73). Notificación inmediata a la autoridad de vigilancia del mercado y, a más tardar, en un plazo máximo de 15 días desde que se tenga conocimiento de la infracción: 10 días en caso de fallecimiento, 2 días en caso de infracción generalizada o interrupción grave de infraestructuras críticas. Quince días es un plazo demasiado corto si no se puede reconstruir lo que dijo el agente ni sus motivos.

La trampa del rol: cómo un comprador se convierte en proveedor.

Las obligaciones de la Ley se dividen según el rol. Los proveedores asumen la mayor parte del Capítulo III. Los implementadores tienen una lista más breve pero real según los Artículos 26 y 27: operar el sistema según sus instrucciones, asignar supervisión humana competente, garantizar que los datos de entrada sean relevantes, conservar los registros generados automáticamente durante al menos seis meses y (si se trata de un empleador) informar a los representantes de los trabajadores y a los trabajadores afectados antes de poner en funcionamiento un sistema de alto riesgo en el lugar de trabajo. Los organismos públicos, los operadores privados que prestan servicios públicos y los implementadores que realizan evaluaciones de solvencia o fijación de precios de seguros de vida y salud también deben realizar una evaluación de impacto sobre los derechos fundamentales.

El artículo 25 es la disposición que suele sorprender a los compradores empresariales. Un implementador se convierte en proveedor (heredando todas las obligaciones propias de un proveedor) si coloca su propio nombre o marca comercial en un sistema de alto riesgo, le realiza una modificación sustancial o modifica la finalidad prevista del sistema de tal manera que este se convierta en un sistema de alto riesgo.

Consideremos lo común que resulta cada una de estas acciones en un programa de voz. Personalizas el agente con tu propia marca. Modificas el mensaje del sistema, añades herramientas, integras tu propio sistema de recuperación de datos y cambias la lógica de decisión. Tomas un agente contratado para la reserva de citas y lo asignas a la clasificación de síntomas. Cada una de estas acciones plantea una cuestión relevante según el Artículo 25, y la respuesta determina si el trabajo de conformidad de tu proveedor te cubre o si, en secreto, has asumido la responsabilidad por tu cuenta.

El modelo debajo de su agente

Los agentes de voz se ensamblan, no son monolíticos: un modelo ASR, uno o más modelos de lenguaje, una voz TTS y una capa de orquestación. Las obligaciones generales para los modelos de IA se aplican desde agosto de 2025, lo que significa que los proveedores de modelos deben proporcionar documentación técnica, información sobre los usuarios finales, una política de derechos de autor y un resumen de los datos de entrenamiento; además, cuando se considera que un modelo conlleva un riesgo sistémico, deben cumplir con las obligaciones de evaluación, pruebas adversarias, informes de incidentes y ciberseguridad.

Esto le importa por una razón práctica. Su documentación del Anexo IV y sus afirmaciones de precisión conforme al Artículo 15 dependen de información que usted no genera. Si su proveedor de voz no puede indicarle qué versiones de modelo se utilizaron para cada llamada, no podrá realizar una declaración de precisión justificable ni responder a un regulador que le pregunte por qué se dio una respuesta específica en una llamada específica. La asignación de modelos y la divulgación de versiones dejaron de ser una preferencia de ingeniería para convertirse en una obligación de cumplimiento.

Si eres una empresa del Reino Unido, probablemente todavía estés dentro del alcance.

El Reino Unido no cuenta con una ley equivalente. Esto no significa que se trate de una medida de alivio, como a veces se interpreta. El artículo 2 otorga a la ley alcance extraterritorial: se aplica a los proveedores que introducen sistemas de IA en el mercado de la UE o los ponen en servicio en la UE, independientemente de dónde estén establecidos, y a los proveedores y operadores establecidos fuera de la UE cuando el resultado producido por el sistema se utiliza en la UE.

Un proveedor británico de IA de voz con clientes irlandeses, neerlandeses o alemanes se considera proveedor según la Ley. Una empresa británica que gestiona una infraestructura que atiende llamadas de clientes de la UE está sujeta a dicha normativa. En la práctica, la presión comercial precede a la legal: los equipos de compras que trabajan con la UE ya solicitan la documentación del Anexo IV, y los reguladores británicos (en particular, la labor de la FCA en materia de protección del consumidor) coinciden en las mismas pruebas, si bien no necesariamente en la misma documentación.

Qué incluir en su próxima solicitud de propuestas (RFP)

Si este año va a adquirir IA conversacional, Six le pregunta a proveedores distintos que ya han realizado el trabajo, así como a proveedores que simplemente han escrito un párrafo al respecto.

1. Una clasificación escrita del sistema específico con respecto al Anexo III, con la justificación y, cuando se invoque el artículo 6(3), la evaluación documentada que la respalda.
2. Las instrucciones de uso del Artículo 13, en su totalidad, antes de la firma del contrato, no una hoja de datos.
3. Se adjuntan las métricas de precisión declaradas con las condiciones de prueba, incluido el rendimiento de la telefonía de banda estrecha y la cobertura de acento.
4. Una descripción de qué información captura realmente el registro del Artículo 12, cuánto tiempo se conserva y si es posible reconstruir un solo turno de principio a fin bajo demanda.
5. Procedencia del modelo y especificación de la versión, además de un aviso antes de que cualquier cambio en el modelo llegue a producción.
6. Una postura clara respecto al Artículo 25: qué modificaciones considera sustanciales el proveedor y en qué momento su trabajo de conformidad deja de cubrirle.

Construye pensando en la auditoría, no en la fecha límite.

La Ley de IA a menudo se interpreta como un costo de cumplimiento. Si se lee con más detenimiento, se trata de una especificación para un sistema de voz que una empresa puede defender: propósito documentado, conocimiento gobernado, precisión declarada, decisiones registradas, supervisión humana real, versiones del modelo rastreables. Esa es la misma arquitectura que defendimos en Más allá de RAGy la misma postura que decide el verdadero costo de una respuesta incorrecta en economía de la alucinación.

Los compradores que consideren el 2 de agosto como una fecha límite para trámites burocráticos pasarán el otoño realizando reformas en un sistema que nunca fue diseñado para ser reconstruido. Quienes lo consideren como una fecha clave para la arquitectura, verán que la documentación se redacta prácticamente sola.