Kurzfassung

Der EU AI Act (Verordnung (EU) 2024/1689) verlangt in Art. 50, dass KI-Systeme, die direkt mit natürlichen Personen interagieren, so gestaltet sind, dass die Person erfährt, dass sie mit einer KI spricht — sofern das nicht ohnehin offensichtlich ist. Diese Pflicht gilt seit dem 2. August 2026. Für einen KI-Telefonassistenten heißt das in der Praxis: eine klare Ansage zu Gesprächsbeginn. Zusätzlich verlangt Art. 4 EU AI Act von Anbietern und Betreibern, dass ihr Personal über ausreichende KI-Kompetenz verfügt — diese Pflicht gilt bereits seit dem 2. Februar 2025. Ein generischer Kundenservice-Telefonassistent ist in aller Regel kein Hochrisiko-KI-System nach Anhang III, außer er wird innerhalb eines der dort explizit aufgezählten Bereiche eingesetzt (z. B. Versicherungsrisikobewertung).

Was der EU AI Act ist und warum er Telefonassistenten betrifft

Der EU AI Act ist die erste horizontale EU-Verordnung, die KI-Systeme nach Risikostufen reguliert: von verbotenen Praktiken über Hochrisiko-Systeme bis zu Transparenzpflichten für Systeme mit begrenztem Risiko. Ein KI-Telefonassistent fällt in aller Regel in die dritte Kategorie — nicht verboten, in der Regel nicht hochriskant, aber mit expliziten Transparenzpflichten, weil er direkt mit Menschen spricht. Weitere Pflichten rund um die Erreichbarkeit im Notfall behandelt der Beitrag zu NIS2 und Notfallkommunikation.

Rechtsgrundlage: Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024, veröffentlicht auf EUR-Lex.

Art. 50: die Kennzeichnungspflicht im Detail

Art. 50 EU AI Act verlangt, dass KI-Systeme, die zur direkten Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betroffenen natürlichen Personen darüber informiert werden, dass sie mit einem KI-System interagieren — es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Nutzungskontexts offensichtlich.

Für einen Telefonanruf ist diese Ausnahme praktisch selten einschlägig: eine synthetische Stimme am Telefon ist nicht in jedem Fall eindeutig als KI erkennbar, gerade wenn die Sprachqualität hoch ist. Die sichere und in der Praxis übliche Umsetzung ist eine ausdrückliche Ansage zu Gesprächsbeginn, die klarstellt, dass der Anrufer mit einer KI spricht.

Zeitpunkt: Diese Pflicht gilt seit dem 2. August 2026 — 24 Monate nach Inkrafttreten der Verordnung am 1. August 2024.

Was das für die Ansage am Telefon bedeutet

Konkret bedeutet Art. 50 für den Gesprächseinstieg: die KI-Kennzeichnung sollte früh im Gespräch erfolgen, verständlich formuliert sein und nicht in Fachsprache oder AGB-Formulierungen versteckt werden. Eine Formulierung wie „Sie sprechen mit dem KI-Telefonassistenten von [Unternehmen]" zu Beginn des Gesprächs erfüllt den Zweck der Norm: die anrufende Person soll die Information rechtzeitig erhalten, um ihr weiteres Verhalten im Gespräch danach auszurichten.

Die Norm schreibt keine bestimmte Wortwahl vor. Sie verlangt ein Ergebnis (informierte Person), keinen bestimmten Ansage-Text.

Art. 4: KI-Kompetenz — eine frühere und oft übersehene Pflicht

Art. 4 EU AI Act verpflichtet Anbieter und Betreiber von KI-Systemen, nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die mit dem Betrieb und der Nutzung von KI-Systemen in ihrem Auftrag befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen — unter Berücksichtigung ihrer technischen Kenntnisse, Erfahrung, Ausbildung und des Einsatzkontexts.

Wichtige Nuance, die in vielen Übersichten fehlt: Art. 4 gilt bereits seit dem 2. Februar 2025 — sechs Monate nach Inkrafttreten, deutlich früher als die Kennzeichnungspflicht aus Art. 50. Wer als Unternehmen einen KI-Telefonassistenten betreibt, ist als "Betreiber" im Sinne des AI Act bereits seit diesem Datum verpflichtet, dass die mit dem System befassten Personen (z. B. wer die Gesprächslogik konfiguriert oder Eskalationen bearbeitet) über ein angemessenes Verständnis von Funktionsweise, Grenzen und Risiken des Systems verfügen. Das ist keine Zertifizierungspflicht mit festem Format, aber eine dokumentierbare Sorgfaltspflicht.

Wann ein Telefonassistent zum Hochrisiko-System werden könnte

Die Hochrisiko-Kategorien sind in Anhang III des EU AI Act abschließend aufgezählt: Biometrie, kritische Infrastruktur, allgemeine und berufliche Bildung, Beschäftigung und Personalmanagement, Zugang zu wesentlichen privaten und öffentlichen Diensten (u. a. Kreditwürdigkeitsprüfung, Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen, Priorisierung von Notrufen), Strafverfolgung, Migration/Asyl/Grenzkontrolle sowie Rechtspflege und demokratische Prozesse.

Ein Telefonassistent für Terminvereinbarung, allgemeine Anrufannahme oder Kundenservice fällt typischerweise in keine dieser Kategorien und ist damit kein Hochrisiko-System. Die Einstufung kann sich ändern, wenn der Assistent innerhalb eines der genannten Bereiche eingesetzt wird — zum Beispiel bei einer Versicherung zur Risikobewertung, oder bei einer Behörde zur Priorisierung von Notrufen. Zusätzlich sieht Art. 6 Abs. 3 EU AI Act eine Ausnahme vor: selbst innerhalb eines Anhang-III-Bereichs gilt ein System nicht als hochriskant, wenn es keine wesentliche Auswirkung auf das Ergebnis der Entscheidungsfindung hat, etwa weil es nur eine eng begrenzte Verfahrensaufgabe erfüllt.

Diese Einordnung ist eine allgemeine Orientierung auf Basis des Verordnungstexts, keine Einzelfallprüfung. Unternehmen in einem der genannten Bereiche sollten die Einstufung mit ihrer Compliance- oder Rechtsabteilung konkret prüfen.

Was Kanzleien und Praxen zusätzlich beachten müssen

Für Rechtsanwaltskanzleien, Steuerberater und Arztpraxen kommen zur AI-Act-Kennzeichnungspflicht die berufsrechtlichen Schweigepflichten hinzu — § 203 StGB, § 43e BRAO für Rechtsanwält:innen, § 57 StBerG für Steuerberater:innen. Der EU AI Act ersetzt diese Pflichten nicht und schwächt sie nicht ab: die KI-Kennzeichnung ist eine zusätzliche, eigenständige Anforderung neben der Verschwiegenheitsverpflichtung, nicht ein Ersatz dafür. Die vollständige Einordnung zu Verschwiegenheit, mitwirkenden Personen und Sub-Auftragsverarbeitern steht auf der Compliance-Übersicht zu Telfo.

Wie Telfo das erfüllt

Telfo kündigt standardmäßig zu Gesprächsbeginn an, dass Anrufer:innen mit einer KI sprechen. Diese Ansage ist per Kunde konfigurierbar. Damit erfüllt die Standardkonfiguration die Transparenzpflicht aus Art. 50 EU AI Act.

Quellenbasis

Hinweis: Dieser Beitrag ist eine fachliche Einordnung auf Basis des öffentlich zugänglichen Verordnungstexts und keine individuelle Rechtsberatung. Insbesondere die Hochrisiko-Einstufung im Einzelfall und branchenspezifische Zusatzpflichten sollten mit der eigenen Rechts- oder Compliance-Abteilung geprüft werden.

FAQ

Muss ein KI-Telefonassistent sich als KI zu erkennen geben?

Ja. Art. 50 EU AI Act verlangt, dass Systeme, die direkt mit natürlichen Personen interagieren, so gestaltet sind, dass die Person informiert wird, dass sie mit einem KI-System interagiert, sofern das nicht ohnehin offensichtlich ist. Für einen Telefonassistenten ist eine automatisierte KI-Stimme am Telefon nicht automatisch offensichtlich, daher ist eine ausdrückliche Ansage der sicherere und in der Praxis übliche Weg.

Seit wann gilt die Kennzeichnungspflicht für KI-Telefonassistenten?

Die Transparenzpflichten aus Art. 50 EU AI Act gelten seit dem 2. August 2026, 24 Monate nach Inkrafttreten der Verordnung.

Ist ein KI-Telefonassistent ein Hochrisiko-KI-System?

In der Regel nein. Die Hochrisiko-Kategorien sind in Anhang III des EU AI Act abschließend aufgezählt (u. a. Zugang zu Kredit, Versicherungsrisikobewertung, kritische Infrastruktur, Beschäftigung, Strafverfolgung). Ein Telefonassistent für Terminvereinbarung, Anrufannahme oder allgemeinen Kundenservice fällt typischerweise in keine dieser Kategorien. Wird er jedoch innerhalb eines dieser Bereiche eingesetzt — etwa zur Risikobewertung bei einer Versicherung —, kann sich die Einstufung ändern.

Was ist die Pflicht zur KI-Kompetenz nach Art. 4 EU AI Act?

Anbieter und Betreiber von KI-Systemen müssen dafür sorgen, dass ihr Personal und andere Personen, die mit dem Betrieb und der Nutzung des KI-Systems befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Diese Pflicht gilt bereits seit dem 2. Februar 2025 — deutlich früher als die Kennzeichnungspflicht aus Art. 50.

Erfüllt Telfo die Kennzeichnungspflicht nach Art. 50?

Ja. Telfo kündigt standardmäßig zu Gesprächsbeginn an, dass Anrufer:innen mit einer KI sprechen. Diese Ansage ist per Kunde konfigurierbar.

KI-Telefonassistent mit AI-Act-konformer Kennzeichnung ansehen

Die KI-Ansage ist bei Telfo standardmäßig aktiv und pro Kunde konfigurierbar — sehen Sie sich das im Gespräch an.

Demo buchen