Die EU-KI-Richtlinie betrifft Sprachsteuerung: Was bedeutet August 2026 für dialogorientierte KI?

Die Daten im Gesetzbuch

Das KI-Gesetz wurde nicht als Ganzes verabschiedet. Es wird in Tranchen eingeführt, und die wichtigste Tranche für alle, die dialogbasierte KI einsetzen, ist diejenige vom 2. August 2026: Die Verpflichtungen gemäß Anhang III für Hochrisikosysteme und die Transparenzpflichten gemäß Artikel 50 treten beide am selben Tag in Kraft.

In Brüssel wird derzeit über eine Lockerung des Zeitplans diskutiert: Das Digitalisierungspaket der Kommission schlug vor, den Beginn von Anhang III an die Verfügbarkeit harmonisierter Normen zu koppeln. Solange die Verordnung nicht geändert wird, bleibt der 2. August 2026 der gesetzliche Stichtag. Eine Verzögerung würde lediglich Zeit für die Dokumentation, nicht aber für die Architektur gewinnen: Die Anforderungen an Protokollierung, Überwachung und Rückverfolgbarkeit sind planungsrelevante Entscheidungen und ihre nachträgliche Umsetzung ist deutlich teurer als ein Neubau.

Jeder Sprachagent wird von einem Artikel gefangen genommen

Bevor wir uns mit der Frage des hohen Risikos befassen, gilt für praktisch jedes dialogbasierte KI-System auf dem EU-Markt eine Verpflichtung, unabhängig von seiner Funktion. Artikel 50 ist kurz und dient als Maßstab für die Bewertung der meisten Sprachapplikationen.

• Sagen Sie den Leuten, dass sie mit einer Maschine sprechen. Artikel 50(1) verlangt, dass natürliche Personen, die mit einem KI-System interagieren, darüber informiert werden, es sei denn, dies ist für eine vernünftigerweise informierte Person unter den gegebenen Umständen offensichtlich. Im Bereich der Sprachausgabe verliert die „Offensichtlichkeit“ an Bedeutung; die gesamte Branche hat zwei Jahre damit verbracht, Agenten zu entwickeln, die nicht synthetisch klingen. Wenn Ihre Offenlegungsstrategie lautet: „Sie werden es schon merken“, setzen Sie darauf, dass Ihr eigenes Produkt schlecht ist, um die Einhaltung der Vorschriften zu gewährleisten.
• Synthetisches Audio markieren. Artikel 50(2) und 50(4) regeln die maschinenlesbare Kennzeichnung von KI-generierten Inhalten und die Offenlegung von Deepfakes. Geklonte oder synthetisierte Sprachausgabe fällt eindeutig in diesen Anwendungsbereich.
• Benachrichtigung zur Emotionserkennung. Artikel 50(3) verpflichtet die Betreiber von Systemen zur Emotionserkennung und biometrischen Kategorisierung, die betroffenen Personen darüber zu informieren. Jede Sprachverarbeitungsmethode, die aus akustischen Signalen auf Stimmungen, Stress oder Frustration schließt, muss diese Frage beantworten.
• KI-Kompetenz ist bereits vorhanden. Artikel 4 gilt seit Februar 2025 und betrifft sowohl Anbieter als auch Anwender: Die Bediener Ihrer Sprachassistenten benötigen ausreichende KI-Kenntnisse für den jeweiligen Einsatzkontext. Es handelt sich um die kostengünstigste und zugleich am häufigsten ignorierte Verpflichtung im Gesetz.

Vier Dinge, die niemand bauen darf

Artikel 5 ist seit Februar 2025 in Kraft, enthält die härtesten Strafen des Gesetzes und beinhaltet Verbote, die den Mustern, mit denen die Sprachindustrie experimentiert hat, unangenehm nahe kommen.

• Manipulative oder irreführende Techniken. Artikel 5(1)(a) verbietet unterschwellige, vorsätzlich manipulative oder irreführende Techniken, die das Verhalten wesentlich beeinflussen und erheblichen Schaden verursachen. Die Überzeugungsstrategie eines Vertriebsmitarbeiters im Außendienst fällt genau in den Bereich, für den dieser Artikel verfasst wurde.
• Ausnutzung einer Sicherheitslücke. Artikel 5 Absatz 1 Buchstabe b verbietet die Ausnutzung von Schwachstellen aufgrund von Alter, Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Lage. Die Erkennung von Schwachstellen ist eine regulatorische Anforderung im britischen Finanzdienstleistungssektor. Es ist nicht nur verpönt, sondern verboten, dasselbe Signal zu nutzen, um Druck auszuüben, anstatt Transaktionen sorgfältiger zu leiten.
• Emotionale Schlussfolgerungen am Arbeitsplatz oder im Bildungsbereich. Artikel 5(1)(f) verbietet das Ableiten von Gefühlen natürlicher Personen am Arbeitsplatz und in Bildungseinrichtungen, außer in eng begrenzten medizinischen und sicherheitsrelevanten Fällen. Die Bewertung der Gefühle von Mitarbeitern durch Agenten stellt hier ein offensichtliches Risiko dar.
• Biometrische Kategorisierung nach geschützten Attributen. Artikel 5 Absatz 1 Buchstabe g verbietet es, aus biometrischen Daten auf Rasse, politische Meinung, Gewerkschaftszugehörigkeit, religiöse Überzeugung, Sexualleben oder sexuelle Orientierung zu schließen. Akzent und Stimmprofil sind biometrische Daten.

Ein Verstoß gegen Artikel 5 zieht Geldbußen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes nach sich, je nachdem, welcher Betrag höher ist. Keine andere Bestimmung des Gesetzes sieht eine solche Höchststrafe vor.

Wo die Hochrisikolinie tatsächlich verläuft

Hohes Risiko ist keine subjektive Einschätzung der Wichtigkeit Ihres Anwendungsfalls, sondern eine Liste. Anhang III führt acht Bereiche auf, und ein dialogbasiertes KI-System gilt als risikoreich, wenn sein vorgesehener Zweck in einen dieser Bereiche fällt. Fünf der acht Bereiche sind direkt relevant für die Sprachverarbeitung: Biometrie, kritische Infrastruktur, Bildung, Beschäftigung und Zugang zu essenziellen privaten und öffentlichen Dienstleistungen.

Das hilfreiche mentale Modell lautet wie folgt: Dem Gesetz ist es gleichgültig, ob ein Gespräch stattgefunden hat. Es geht vielmehr darum, ob ein automatisiertes System eine folgenreiche Entscheidung über eine Person beeinflusst hat.

Liest man die Tabelle, offenbart sich ein Muster, das die meisten Käufer überrascht: Häufig betreibt dieselbe Organisation beide Ebenen. Ein Gesundheitsdienstleister, der Termine telefonisch vereinbart, birgt ein geringes Risiko; derselbe Dienstleister, der Symptome priorisiert, ein hohes Risiko. Ein Versicherer, der einen Kfz-Schadenfall erfasst, birgt ein geringes Risiko; derselbe Versicherer, der Lebensversicherungen kalkuliert, ein hohes Risiko. Die Einhaltung der Vorschriften wird pro System und Verwendungszweck geprüft, nicht pro Unternehmen.

Die Käufer, die die Ausnahmeregelung zur Überprüfung nutzen, machen immer wieder Fehler.

Bei der Stimmbiometrie häufen sich die Fehlinterpretationen. Anhang III Punkt 1(a) stuft Systeme zur biometrischen Fernidentifizierung als Hochrisikosysteme ein und schließt Systeme, die ausschließlich der biometrischen Verifizierung dienen und deren einziger Zweck darin besteht, die Identität einer Person zu bestätigen, ausdrücklich aus.

Diese Unterscheidung ist wertvoll. Ein Stimmabgleich mit dem vom Anrufer bereits identifizierten Konto ist eine Eins-zu-Eins-Verifizierung und fällt nicht unter die Liste risikoreicher Systeme. Die Suche nach der Stimme eines Anrufers in einer Datenbank registrierter oder überwachter Stimmen zur Identifizierung ist hingegen eine Eins-zu-Viele-Identifizierung und birgt ein hohes Risiko. In einer Demo sieht die Funktionalität nahezu identisch aus. Die regulatorischen Konsequenzen unterscheiden sich jedoch durch eine komplett andere Konformitätsbewertung.

Die Notluke in Artikel 6 Absatz 3 und ihre Falltür

Ein System, dessen Zweck unter Anhang III fällt, ist nicht automatisch risikoreich. Artikel 6 Absatz 3 erlaubt es einem Anbieter, zu einem anderen Schluss zu kommen, wenn das System kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte darstellt (auch weil es das Ergebnis von Entscheidungen nicht wesentlich beeinflusst) und eine der folgenden vier Bedingungen erfüllt ist: Es erfüllt eine eng definierte Verfahrensaufgabe, es verbessert das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit, es erkennt Muster oder Abweichungen, ohne die menschliche Beurteilung zu ersetzen, oder es führt eine vorbereitende Aufgabe für eine Beurteilung durch.

Die meisten gut konzipierten Sprachassistenten in Hochrisikobranchen zielen genau darauf ab: Fakten erfassen, Details überprüfen, die Akte vorbereiten und die Entscheidung einem Menschen übergeben. Die letzte Bestimmung birgt jedoch Risiken. Erstellt das System Profile von natürlichen Personen, ist es in jedem Fall als Hochrisikosystem einzustufen. Und die Ausnahmeregelung ist nicht kostenlos: Die Bewertung muss dokumentiert werden, bevor das System auf den Markt kommt, und das System muss weiterhin in der EU-Datenbank registriert werden. Es handelt sich also um einen bürokratischen Aufwand, nicht um einen Weg der Stillschweigen.

Was hohe Risiken Sie tatsächlich kosten

Wenn ein Sprachdienst als Hochrisikoprodukt eingestuft wird, wandelt Kapitel III das Produkt in ein reguliertes Produkt um. Für einen Sprachagenten ergeben sich daraus in der Praxis folgende Pflichten.

Bevor es live geht

• Risikomanagementsystem (Artikel 9). Ein kontinuierlicher, dokumentierter Prozess über den gesamten Lebenszyklus hinweg, kein einmaliges Risikoregister, das bei der Markteinführung unterzeichnet wird.
• Datengovernance (Artikel 10). Die Trainings-, Validierungs- und Testdaten wurden auf Verzerrungen und Repräsentativität geprüft. Im Bereich der Spracherkennung umfasst dies die Berücksichtigung von Akzent, Dialekt, Alter und Sprachvariationen – genau hier weisen die meisten ASR-Systeme unbemerkt Schwächen auf.
• Technische Dokumentation (Artikel 11, Anhang IV). Systemarchitektur, Modellherkunft, Verwendungszweck, bekannte Einschränkungen, Leistungskennzahlen.
• Gebrauchsanweisung (Artikel 13). Das Transparenzpaket für Anwender. Wenn Sie die Lösung kaufen, ist dies das Dokument, das darüber entscheidet, ob Sie Ihre eigenen Verpflichtungen erfüllen können.
• Genauigkeit, Robustheit und Cybersicherheit (Artikel 15). Angegebene Genauigkeitskennzahlen, die unter Produktionsbedingungen gelten. Im britischen Sprachbereich kollidiert dies mit der Schmalbandtelefonie, die wir haben separat beschriebenEin Modell, das auf Breitband-Audio getestet und über einen 3,4-kHz-Kanal eingesetzt wurde, erreicht nicht die angegebene Leistung.
• Qualitätsmanagement, Konformitätsbewertung, CE-Kennzeichnung und Registrierung (Artikel 17, 43, 47–49). Der deklarierte Konformitätsnachweis, die EU-Erklärung, das CE-Zeichen und der Eintrag in die EU-Datenbank.

Sobald es live ist

• Protokollierung (Artikel 12). Die automatische Aufzeichnung von Ereignissen während der gesamten Systemlaufzeit ermöglicht die nachvollziehbare Darstellung der Entstehung eines bestimmten Ergebnisses. Bei einem Sprachagenten handelt es sich dabei nicht um die Anrufaufzeichnung, sondern um die Abrufentscheidungen, Toolaufrufe, Richtlinienauswertungen und Modellversionen, die jedem Gesprächswechsel zugrunde liegen.
• Menschliche Aufsicht (Artikel 14). Die integrierte Funktion ermöglicht es dem Benutzer, den Vorgang zu verstehen, einzugreifen, ihn zu überschreiben und zu stoppen. Das Eingreifen und die Eskalation an einen Agenten bilden die sichtbare Ebene; die schwierigere Voraussetzung ist, dass der Benutzer über genügend Kontext verfügt, um das Ergebnis tatsächlich zu beeinflussen.
• Überwachung nach dem Inverkehrbringen (Artikel 72). Ein Plan zur Erfassung und Analyse der realen Leistung, dessen Ergebnisse in das Risikomanagementsystem zurückfließen.
• Meldung schwerwiegender Vorfälle (Artikel 73). Die Marktaufsichtsbehörde muss unverzüglich, spätestens jedoch 15 Tage nach Kenntniserlangung, benachrichtigt werden: 10 Tage bei Todesfällen, 2 Tage bei weit verbreiteten Verstößen oder schwerwiegenden Störungen kritischer Infrastrukturen. 15 Tage sind nicht viel Zeit, wenn Sie nicht rekonstruieren können, was Ihr Vertreter gesagt hat und warum.

Die Rollenfalle: Wie ein Käufer zum Anbieter wird

Die Verpflichtungen des Gesetzes sind rollenspezifisch. Anbieter tragen den größten Teil der Verantwortung für Kapitel III. Anwender haben gemäß Artikel 26 und 27 eine kürzere, aber dennoch relevante Liste: Sie müssen das System gemäß den Anweisungen betreiben, eine kompetente Aufsichtsperson einsetzen, die Relevanz der Eingabedaten sicherstellen, die automatisch generierten Protokolle mindestens sechs Monate lang aufbewahren und (sofern sie Arbeitgeber sind) die Arbeitnehmervertretung und die betroffenen Arbeitnehmer informieren, bevor sie ein Hochrisikosystem am Arbeitsplatz in Betrieb nehmen. Öffentliche Einrichtungen, private Betreiber öffentlicher Dienstleistungen und Anwender, die Bonitätsprüfungen oder die Preisgestaltung von Lebens- und Krankenversicherungen durchführen, sind zusätzlich zu einer Folgenabschätzung der Grundrechte verpflichtet.

Artikel 25 ist die Bestimmung, die Unternehmenskäufer überrascht. Ein Implementierer wird zum Anbieter (und übernimmt damit alle Anbieterpflichten), wenn er seinen eigenen Namen oder seine eigene Marke auf einem Hochrisikosystem anbringt, wesentliche Änderungen daran vornimmt oder den vorgesehenen Zweck eines Systems so verändert, dass es zu einem Hochrisikosystem wird.

Bedenken Sie, wie alltäglich diese Vorgehensweisen in einem Sprachprogramm sind. Sie lizenzieren den Agenten unter Ihrer Marke. Sie überarbeiten die Systemansage, fügen Tools hinzu, integrieren Ihre eigene Datenabfrage und ändern die Entscheidungslogik. Sie setzen einen für die Terminbuchung beschafften Agenten für die Symptomtriage ein. Jede dieser Vorgehensweisen stellt eine relevante Frage gemäß Artikel 25 dar, und die Antwort entscheidet darüber, ob die Konformitätsmaßnahmen Ihres Anbieters Sie abdecken oder ob Sie diese stillschweigend selbst übernommen haben.

Das Modell unter Ihrem Agenten

Sprachagenten sind zusammengesetzt und nicht monolithisch: Sie bestehen aus einem ASR-Modell, einem oder mehreren Sprachmodellen, einer TTS-Stimme und einer Orchestrierungsschicht. Seit August 2025 gelten Pflichten für allgemeine KI-Modelle. Das bedeutet, dass die Anbieter der zugrunde liegenden Modelle technische Dokumentation, Informationen zu nachgelagerten Systemen, eine Urheberrechtsrichtlinie und eine Zusammenfassung der Trainingsdaten vorlegen müssen. Wird ein Modell als systemgefährdend eingestuft, kommen darüber hinaus Pflichten zur Evaluierung, zu Angriffstests, zur Meldung von Sicherheitsvorfällen und zur Gewährleistung der Cybersicherheit hinzu.

Das ist aus praktischen Gründen für Sie relevant. Ihre Dokumentation gemäß Anhang IV und Ihre Angaben zur Richtigkeit gemäß Artikel 15 hängen von Informationen ab, die Sie nicht selbst generieren. Kann Ihr Sprachanbieter Ihnen nicht mitteilen, welche Modellversionen für welche Anrufe verwendet wurden, können Sie keine nachvollziehbare Richtigkeitserklärung abgeben und einer Aufsichtsbehörde keine Auskunft darüber geben, warum in einem bestimmten Anruf eine bestimmte Antwort gegeben wurde. Die Festlegung von Modellen und die Offenlegung von Versionen sind nicht länger eine Frage der technischen Präferenz, sondern eine Voraussetzung für die Einhaltung der Vorschriften.

Wenn Sie ein britisches Unternehmen sind, fallen Sie wahrscheinlich noch in den Geltungsbereich.

Das Vereinigte Königreich verfügt über kein vergleichbares Gesetz. Dies ist nicht die Erleichterung, als die es mitunter interpretiert wird. Artikel 2 verleiht dem Gesetz extraterritoriale Geltung: Es gilt für Anbieter, die KI-Systeme auf dem EU-Markt anbieten oder in der EU in Betrieb nehmen, unabhängig von ihrem Sitz, sowie für Anbieter und Anwender mit Sitz außerhalb der EU, sofern die vom System erzeugten Ergebnisse in der EU genutzt werden.

Ein britischer Anbieter von Sprach-KI mit Kunden in Irland, den Niederlanden oder Deutschland gilt gemäß dem Gesetz als Anbieter. Ein britisches Unternehmen, das Anrufe von EU-Kunden über eine einzige Infrastruktur abwickelt, fällt ebenfalls unter die Bestimmungen für diese Infrastruktur. In der Praxis übt der wirtschaftliche Druck bereits Vorrang vor dem rechtlichen: Beschaffungsteams mit EU-Bezug fordern bereits Dokumente gemäß Anhang IV an, und die britischen Regulierungsbehörden (insbesondere die FCA im Bereich Verbraucherschutz) legen Wert auf dieselben Nachweise, wenn auch nicht auf dieselben Unterlagen.

Was Sie in Ihre nächste Angebotsanfrage aufnehmen sollten

Wenn Sie in diesem Jahr Konversations-KI kaufen möchten, fragen Sie sechs verschiedene Anbieter, die bereits Erfahrungen gesammelt haben, und solche, die einen Absatz darüber geschrieben haben.

1. Eine schriftliche Klassifizierung des jeweiligen Systems gemäß Anhang III mit Begründung und, sofern Artikel 6(3) geltend gemacht wird, die zugrunde liegende dokumentierte Bewertung.
2. Die Gebrauchsanweisung gemäß Artikel 13 muss vor Vertragsabschluss vollständig gelesen werden, nicht ein Datenblatt.
3. Angegebene Genauigkeitsmetriken mit den zugehörigen Testbedingungen, einschließlich Schmalband-Telefonieleistung und Akzentabdeckung.
4. Eine Beschreibung dessen, was die Protokollierung nach Artikel 12 tatsächlich erfasst, wie lange sie gespeichert wird und ob man eine einzelne Kurve bei Bedarf vollständig rekonstruieren kann.
5. Herkunftsnachweis des Modells und Versionskennzeichnung sowie Benachrichtigung, bevor eine Modelländerung in die Produktion geht.
6. Eine klare Position gemäß Artikel 25: Welche Änderungen der Anbieter als wesentlich erachtet und ab welchem Zeitpunkt seine Konformitätsprüfung für Sie endet.

Konzentrieren Sie sich auf die Prüfung, nicht auf den Abgabetermin.

Das KI-Gesetz wird oft als bloße Compliance-Pflicht interpretiert. Bei genauerer Betrachtung handelt es sich jedoch um eine Spezifikation für ein Sprachsystem, das ein Unternehmen tatsächlich verteidigen kann: dokumentierter Zweck, geregeltes Wissen, deklarierte Genauigkeit, protokollierte Entscheidungen, echte menschliche Aufsicht, nachvollziehbare Modellversionen. Genau diese Architektur haben wir in [Referenz einfügen] gefordert. Jenseits von RAGund dieselbe Haltung, die über die wahren Kosten einer falschen Antwort entscheidet in HalluzinationsökonomieDie

Käufer, die den 2. August als Stichtag für die Vertragsabwicklung betrachten, werden den Herbst damit verbringen, die Holzverarbeitung in ein System einzubauen, das nie für einen Wiederaufbau konzipiert wurde. Käufer, die ihn als Stichtag für die Architektur betrachten, werden feststellen, dass sich die Vertragsabwicklung größtenteils von selbst erledigt.