EU AI Act Artikel 50: Was Chatbots und KI-Inhalte jetzt offenlegen müssen

Wenn Ihr Unternehmen einen Chatbot betreibt, KI-generierte Bilder veröffentlicht oder KI-Videos für das Marketing produziert, betrifft Sie der EU AI Act ganz direkt. Nicht über die viel diskutierten Regeln für Hochrisiko-Systeme – sondern über AI Act Artikel 50: die Transparenzpflichten für den alltäglichen KI-Einsatz, oft kurz als KI-Kennzeichnungspflicht bezeichnet.

In diesem Artikel erklären wir, was Artikel 50 verlangt, wer wofür verantwortlich ist, wie die Regeln in typischen Praxisfällen greifen und wie Sie Ihre Chatbots und KI-Inhalte an einem Nachmittag prüfen. Es handelt sich um einen praxisnahen Überblick, nicht um Rechtsberatung – sprechen Sie bei Grenzfällen mit Ihrer Anwältin oder Ihrem Anwalt.

Was regelt Artikel 50 des EU AI Act?

Artikel 50 legt Transparenzregeln für KI-Systeme fest, die mit Menschen interagieren oder Inhalte erzeugen. Das Ziel ist einfach: Menschen sollen wissen, wann sie es mit einer Maschine zu tun haben, und KI-generierte Inhalte sollen als solche erkennbar sein. Das gilt unabhängig davon, ob das System als „hochriskant“ eingestuft ist.

Ab wann gilt Artikel 50?

Die Transparenzpflichten gelten ab dem 2. August 2026, zusammen mit den meisten übrigen Bestimmungen des AI Act. Ende 2025 hat die Europäische Kommission Vereinfachungen des AI Act vorgeschlagen (den sogenannten „digitalen Omnibus“), darunter eine Übergangsfrist für die Kennzeichnung von Inhalten aus Systemen, die bereits auf dem Markt sind. Prüfen Sie den aktuellen Stand dieses Vorschlags, bevor Sie sich auf Übergangsfristen verlassen – und planen Sie nicht damit, dass Artikel 50 wegfällt.

Was genau verlangt Artikel 50?

Artikel 50 umfasst vier Gruppen von Pflichten:

Die Information muss klar, spätestens bei der ersten Interaktion oder dem ersten Kontakt und barrierefrei erfolgen – also etwa auch für Menschen mit Behinderungen verständlich.

Anbieter oder Betreiber – wer ist wofür verantwortlich?

Der AI Act unterscheidet zwischen dem Anbieter, der ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt, und dem Betreiber, der ein KI-System im eigenen Unternehmen einsetzt. Viele Unternehmen sind beides: Wenn Sie Ihren eigenen Kundenservice-Bot bauen, sind Sie Anbieter dieses Bots und setzen ihn selbst ein.

• Sie bauen Ihren eigenen Chatbot oder Ihre eigene Content-Pipeline? Dann sind Sie für den KI-Hinweis im Gespräch verantwortlich und bei generierten Medien für die maschinenlesbare Kennzeichnung.
• Sie nutzen ein Tool eines Drittanbieters? Der Anbieter des Tools kümmert sich um die technische Kennzeichnung; Sie bleiben verantwortlich für die Offenlegung von Deepfakes und dafür, wie Sie die Inhalte veröffentlichen. Prüfen Sie, ob das Tool seine Ergebnisse tatsächlich kennzeichnet und ob Ihr Workflow diese Kennzeichnung nicht wieder entfernt.

Welche KI-Anwendungen brauchen eine Kennzeichnung? Sechs Praxisfälle

Die folgende Tabelle gibt unsere Lesart von Artikel 50 für typische Konstellationen wieder – ein Ausgangspunkt für Ihre eigene Bewertung, kein Rechtsgutachten. Der konkrete Kontext kann die Antwort ändern.

Das Muster: Alles, was mit Menschen spricht, braucht einen KI-Hinweis. Beim sichtbaren Label geht es vor allem um Realismus – je eher ein Inhalt mit einer echten Person oder einem echten Ereignis verwechselt werden kann, desto deutlicher das Label.

Welche Pflichten haben Chatbots und KI-Agenten nach dem AI Act?

Für Chatbots im Kundenkontakt ist die Pflicht nach dem AI Act klar: Sagen Sie den Menschen, dass sie mit einer KI sprechen. In der Praxis: eine klare erste Nachricht oder ein sichtbares Label – kein Satz, der in den AGB versteckt ist.

Ein offener Hinweis lohnt sich, wenn er gut umgesetzt ist. In unserem Live-Projekt löst unser KI-Support-Agent 80 % der Anfragen, und 70 % der Kundinnen und Kunden bewerten die Gespräche positiv. Der Hinweis, dass es sich um eine KI handelt, ändert nichts daran, worauf es Kunden ankommt: schnelle, korrekte Antworten.

Wie sollte ein KI-Hinweis formuliert sein?

Ein guter Hinweis ist kurz, steht ganz am Anfang und sagt den Menschen, was sie als Nächstes tun können. Passen Sie die folgenden Beispiele an Ihre Marke und Ihren Kanal an.

Chatbot auf der Website oder im Messenger

Hallo, ich bin der virtuelle Assistent von [Unternehmen] – eine KI, kein Mensch. Ich helfe Ihnen gern bei Bestellungen, Retouren und Öffnungszeiten. Wenn Sie lieber mit unserem Team sprechen möchten, schreiben Sie einfach „Mitarbeiter“.

Voice-Agent am Telefon

Guten Tag und willkommen bei [Unternehmen]. Sie sprechen mit unserem KI-Sprachassistenten. Wenn Sie jederzeit mit einer Person sprechen möchten, sagen Sie einfach „Mitarbeiter“.

KI-generierte Werbeanzeige oder Avatar-Video

KI-generiertes Video. Die gezeigte Person existiert nicht.

Für stilisierte Visuals reicht meist ein kleiner Hinweis „Mit KI erstellt“. Bei realistischen Avataren gehört das Label dorthin, wo man es beim Ansehen sieht – nicht nur in den Text unter dem Post. Wenn Sie einen KI-gestützten Artikel freiwillig kennzeichnen möchten, eignet sich etwa: „Mit KI-Unterstützung erstellt, von unserer Redaktion geprüft und bearbeitet.“

Typische Fehler, die wir sehen: eine menschlich wirkende Persona („Anna vom Kundenservice“) ohne KI-Hinweis, ein Hinweis, der nur in der Datenschutzerklärung steht, und ein Bot, der auf der Website gekennzeichnet ist, auf WhatsApp aber nicht.

Wie müssen Sie KI-generierte Inhalte im Marketing kennzeichnen?

Bei Bildern und Videos kommt es auf zwei Ebenen an:

• Technische Kennzeichnung. Generierungstools und Pipelines müssen maschinenlesbare Signale einbetten – etwa Metadaten, Content Credentials (C2PA) oder Wasserzeichen –, die Inhalte als KI-generiert ausweisen. Wenn Sie Ihre eigene Content-Fabrik betreiben, gehört das in die Pipeline.
• Sichtbare Offenlegung bei Deepfakes. Zeigt ein Inhalt realistische Personen, Gegenstände, Orte oder Ereignisse, die für echt gehalten werden könnten, müssen Sie offenlegen, dass er KI-generiert ist. Bei offensichtlich künstlerischen, satirischen oder fiktionalen Werken genügt eine zurückhaltende Offenlegung, die das Werk nicht beeinträchtigt.

Typische KI-Werbeformate – Produktaufnahmen, stilisierte Animationen, erkennbar synthetische Szenen – sind meist unkritisch. KI-Avatare, die wie echte Menschen aussehen und über ein Produkt sprechen, verdienen ein klares Label.

Wie funktioniert die maschinenlesbare Kennzeichnung in der Praxis?

Der AI Act verlangt Kennzeichnungslösungen, die wirksam, interoperabel, belastbar und zuverlässig sind, soweit dies technisch machbar ist und unter Berücksichtigung des Stands der Technik. Eine bestimmte Technologie schreibt er nicht vor. In der Praxis werden drei Methoden kombiniert:

• Metadaten. Felder in der Datei (zum Beispiel IPTC oder XMP), die angeben, dass der Inhalt von einem generativen Modell stammt. Einfach hinzuzufügen – aber viele Plattformen, Screenshots und erneute Exporte entfernen sie.
• C2PA Content Credentials. Ein kryptografisch signiertes Manifest, das festhält, wie eine Datei erstellt und bearbeitet wurde. Manipulationen sind erkennbar, doch wie Metadaten lässt es sich entfernen.
• Unsichtbare Wasserzeichen. Signale, die direkt in Pixel oder Audio eingebettet sind. Sie überstehen Komprimierung besser, brauchen aber meist den Detektor des Herstellers, und starke Bearbeitung schwächt sie. Bei Texten ist Watermarking weiterhin unzuverlässig.

Ebenso wichtig ist, wo die Kennzeichnung in der Pipeline sitzt. Nach unserer Erfahrung scheitert sie selten bei der Generierung, sondern bei einem späteren Schnitt- oder Exportschritt, der sie stillschweigend entfernt.

In der KI-Content-Fabrik von Virality Bomb, die die Videokosten von rund 10 $ auf 0,20–0,40 $ pro Video gesenkt hat, ist die Kennzeichnung fest in die Pipeline eingebaut, statt nachträglich ergänzt zu werden. Die Europäische Kommission arbeitet zudem an einem Verhaltenskodex zur Kennzeichnung KI-generierter Inhalte; prüfen Sie vor dem Finalisieren die aktuelle Fassung.

Wie hängen Artikel 50 und die DSGVO zusammen?

Es handelt sich um getrennte Pflichten, die nebeneinander gelten. Bei Artikel 50 geht es darum, KI erkennbar zu machen; bei den Informationspflichten der DSGVO um personenbezogene Daten – was Ihr Chatbot erhebt, wozu, wie lange und wer sie erhält. Ein Chatbot, der Namen, E-Mail-Adressen oder Bestelldaten verarbeitet, braucht in der Regel beides: den KI-Hinweis im Gespräch und einen Link zu den Datenschutzhinweisen. Das eine ersetzt das andere nicht. Wie Sie Gesprächsdaten im eigenen Haus halten, zeigt unser Leitfaden zu privater KI und lokalen LLMs nach DSGVO.

Welche Bußgelder drohen bei Verstößen gegen Artikel 50?

Verstöße gegen die Transparenzpflichten können mit bis zu 15 Mio. € oder 3 % des gesamten weltweiten Jahresumsatzes geahndet werden – je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gilt der niedrigere Betrag. Neben Bußgeldern ist eine fehlende Offenlegung ein Reputationsrisiko – „Die haben uns nicht gesagt, dass das eine KI war“ ist keine Schlagzeile, die sich jemand wünscht.

Wie machen Sie Ihren KI-Einsatz fit für Artikel 50?

Die meisten Unternehmen schaffen diese Bestandsaufnahme an einem Tag. Wenn wir Ihre Systeme gebaut haben, sind KI-Hinweis und Inhaltskennzeichnung standardmäßig Teil des Setups – mehr dazu in unseren Sicherheits- und Datenprinzipien und bei unserem Service KI-Agenten & Chatbots. Fragen zu Ihren eigenen Systemen? Vereinbaren Sie ein kostenloses Gespräch.