Lesedauer: 11 Minuten.
Zusammenfassung:
Seit dem 2. August 2026 gilt Art. 50 der KI-Verordnung (Verordnung (EU) 2024/1689). Kennzeichnen müssen Sie in vier Fällen: KI-Systeme, die direkt mit Menschen sprechen, KI-erzeugte oder veränderte Inhalte auf technischer Ebene, den Einsatz von Emotionserkennung und biometrischer Kategorisierung sowie Deepfakes und veröffentlichte KI-Texte zu Themen von öffentlichem Interesse. Wer welche Pflicht trägt, hängt an einer Frage: Sind Sie Anbieter des Systems oder Betreiber?
Nicht jeder KI-Inhalt fällt darunter. Ein mit KI korrigierter Newsletter, eine automatische Übersetzung oder ein interner Bericht bleiben in aller Regel außen vor. Ein KI-generierter Werbespot mit realistisch wirkendem Testimonial dagegen nicht.
Die Pflichten im Überblick
| Art. 50 KI-VO | Betroffen | Pflicht | Wer haftet |
|---|---|---|---|
| Abs. 1 | KI-Systeme, die direkt mit natürlichen Personen interagieren | Person muss erkennen, dass sie mit einer KI spricht | Anbieter |
| Abs. 2 | KI-Systeme, die synthetische Bild-, Video-, Audio- oder Textinhalte erzeugen oder verändern | Maschinenlesbare Markierung plus verfügbares Erkennungsverfahren | Anbieter |
| Abs. 3 | Emotionserkennung und biometrische Kategorisierung | Information der betroffenen Personen | Betreiber |
| Abs. 4 | Deepfakes sowie veröffentlichte Texte zu Angelegenheiten von öffentlichem Interesse | Sichtbare Offenlegung der künstlichen Herkunft | Betreiber |
Mehrere Pflichten können gleichzeitig greifen. Ein Bildgenerator mit Chatfunktion löst bei seinem Anbieter Abs. 1 und Abs. 2 aus. Wer damit ein Werbemotiv erstellt und veröffentlicht, trägt zusätzlich als Betreiber die Pflicht aus Abs. 4.
Fristen: Art. 50 KI-VO gilt seit dem 2. August 2026, unabhängig davon, wann ein System auf den Markt kam. Für die maschinenlesbare Markierung nach Abs. 2 gewährt der KI-Omnibus Systemen, die vorher schon auf dem Markt waren, Zeit bis zum 2. Dezember 2026. Für Abs. 1 gilt diese Schonfrist nicht. Inhalte, die vor dem 2. August 2026 erzeugt wurden, müssen nicht nachträglich markiert werden. Ein Text, der vorher erzeugt, aber erst danach veröffentlicht wird, schon.
Die Europäische Kommission hat am 20. Juli 2026 Auslegungsleitlinien veröffentlicht (C(2026) 5054 final). Verbindlich auslegen kann Art. 50 KI-VO nur der Europäische Gerichtshof. Für die Praxis sind die Leitlinien trotzdem der wichtigste Maßstab, weil sich die Marktüberwachungsbehörden daran orientieren werden.
Wann muss sich ein KI-System zu erkennen geben?
Sobald es unmittelbar mit Menschen interagiert. Verpflichtet ist der Anbieter, und zwar schon im Design des Systems (Art. 50 Abs. 1 KI-VO). Erfasst sind Sprachassistenten, Kundenservice-Chatbots, KI-Avatare und KI-Agenten, die Termine vereinbaren oder Korrespondenz führen. Nicht erfasst sind Systeme ohne echten Austausch, etwa Spamfilter, Empfehlungssysteme, Transkriptionswerkzeuge oder automatische Zutrittskontrollen.
KI-Agenten müssen zusätzlich offenlegen, für wen sie handeln. Lässt sich vorab nicht klären, ob ein Agent auf Menschen trifft, muss er so gebaut sein, dass er sich in jeder Situation offenbart, in der eine Begegnung mit einem Menschen realistisch ist.
Die Offenlegung entfällt, wenn für eine angemessen informierte, aufmerksame und verständige Person offensichtlich ist, dass sie mit einer KI spricht. Diese Ausnahme ist eng auszulegen. Das allgemeine Wissen, dass es Chatbots gibt, reicht ausdrücklich nicht.
| Ausnahme greift | Ausnahme greift nicht |
|---|---|
| Code-Assistent nur für professionelle Entwickler | Chatbot im Kundenservice einer Website |
| Interner Assistent für geschulte Mitarbeitende in HR oder IT | KI-Avatar mit realistischer Stimme in einer VR-Umgebung |
| Diagnoseunterstützung für geschultes medizinisches Personal | Roboter-Haustier, das ein echtes Tier imitiert |
| Sprachassistent in einem Haushaltsgerät mit eng begrenzter Funktion | Jedes System, das absehbar Kinder oder ältere Menschen erreicht |
Als Hinweis genügen nicht: ein Vermerk allein in AGB oder Dokumentation, rein maschinenlesbare Markierungen, unklare Signale wie das bloße Wort „Assistent“, pauschale Aussagen wie „Auf dieser Website kommt KI zum Einsatz“ und technische Beschreibungen wie „Dieses System nutzt ein LLM“. Ein tragfähiger Hinweis steht dort, wo interagiert wird, in einfacher Sprache, spätestens beim ersten Kontakt. In sensiblen Umgebungen wie Finanz-, Gesundheits- oder Rechtsauskünften erwartet die Kommission wiederholte Hinweise. Fragt eine Person nach, ob sie mit einem Menschen spricht, muss das System immer wahrheitsgemäß antworten.
Welche Inhalte müssen technisch markiert werden?
Anbieter generativer KI-Systeme müssen die Ausgaben maschinenlesbar markieren und dafür sorgen, dass sie als KI-erzeugt oder KI-verändert erkennbar sind (Art. 50 Abs. 2 KI-VO). Beides zusammen: Eine Markierung ohne verfügbares Erkennungsverfahren erfüllt die Pflicht nicht. Erfasst sind Text, Bild, Audio und Video samt multimodaler Kombinationen, einschließlich 3D-Inhalten, virtueller Realität und digitaler Zwillinge. Als Technik nennt Erwägungsgrund 133 KI-VO Wasserzeichen, Metadaten, kryptografische Herkunftsnachweise, Protokollierung und Fingerprints. Die Lösung muss wirksam, interoperabel, robust und zuverlässig sein, soweit technisch machbar und dem Stand der Technik entsprechend.
Außerhalb der Norm liegen Quellcode samt Konfigurationsdateien und Schnittstellen, sehr kurze Ausgaben wie Bildunterschriften, Alt-Texte und UI-Bezeichnungen, reine Maschine-zu-Maschine-Kommunikation sowie Zwischenschritte eines Agenten wie Reasoning oder Browseraufrufe. Auch bloße Messwerte und Aufzeichnungen fallen heraus. Bei rein technischen B2B- und Industrieanwendungen entfällt die Markierung, wenn drei Voraussetzungen kumulativ vorliegen: streng technischer Output, nur für einen begrenzten, vorab bestimmten Kreis beruflich handelnder Personen bestimmt, und abgesichert dagegen, dass er das Unternehmen verlässt.
Die praktisch wichtigste Ausnahme ist die Standardbearbeitung. Entscheidend ist, ob sich Bedeutung, Stil oder Aussage ändern.
| Keine Markierung nötig | Markierung erforderlich |
|---|---|
| Rechtschreib- und Grammatikkorrektur, leichte stilistische Politur | Zusammenfassung eines Textes durch KI |
| KI-Übersetzung eines Textes | Umschreiben, das Stil, Struktur oder Bedeutung verändert |
| Formatwandlung, Kompression, Rauschunterdrückung | Einfügen, Entfernen oder Austauschen von Personen und Objekten |
| Zuschnitt, Farbkorrektur, Schärfen, Rote-Augen-Korrektur | Gesichtstausch und deutliche Gesichtsveränderung |
| Unkenntlichmachen von Gesichtern, Bildstabilisierung | Stimmklonen und realistische Sprachsynthese einer bestimmten Person |
| Transkription von Gesprächen | Montagen, die Personen, Objekte oder Ereignisse anders darstellen |
Eine eigene Betreiberpflicht regelt Art. 50 Abs. 3 KI-VO: Wer Emotionserkennung oder biometrische Kategorisierung einsetzt, muss alle betroffenen Personen darüber informieren, auch Kinder und auch bei nachträglicher Auswertung. Am Arbeitsplatz und in Bildungseinrichtungen ist Emotionserkennung nach Art. 5 Abs. 1 lit. f KI-VO ohnehin verboten, dort hilft keine Information.
Deepfakes und veröffentlichte KI-Texte: die Pflicht für Betreiber
Art. 50 Abs. 4 KI-VO trifft Unternehmen im Marketing, in der Kommunikation und im Reporting am häufigsten. Betreiber müssen sichtbar offenlegen, dass ein Inhalt künstlich erzeugt oder verändert wurde.
Deepfake meint nach Art. 3 Nr. 60 KI-VO KI-erzeugte oder veränderte Bild-, Audio- oder Videoinhalte, die existierenden Personen, Objekten, Orten, Entitäten oder Ereignissen ähneln und fälschlich authentisch wirken würden. Vier Kriterien müssen kumulativ vorliegen: wahrnehmbare Ähnlichkeit, Bezug auf etwas, das existiert oder plausibel existieren könnte, Darstellung von Personen, Objekten, Orten, Entitäten oder Ereignissen, und die Eignung, über Echtheit oder Richtigkeit zu täuschen. Eine Täuschungsabsicht ist nicht erforderlich, die Bewertung ist objektiv. Maßgeblich ist dabei nicht die hypothetische Durchschnittsperson, sondern die absehbare Zusammensetzung des Publikums. Erreicht der Inhalt voraussichtlich Kinder oder ältere Menschen, kann deren Täuschbarkeit den Ausschlag geben.
| Deepfake | Kein Deepfake |
|---|---|
| KI-Video mit realistischem Avatar einer Geschäftsführerin | KI-generierte fiktive Umgebungen in Videospielen |
| KI-Werbevideo mit dem Abbild einer bekannten Influencerin | Echtes Auto vor KI-generiertem Hintergrund, solange die Produktaussage stimmt |
| Stimmklone der Stammmoderatoren eines Podcasts | Radiobeitrag mit KI-optimierten Audioparametern ohne Änderung des Gesagten |
| KI-Bild, das Aussehen oder Eigenschaften eines Produkts beschönigt | KI-Sprachsynthese für Hörbuchfiguren ohne Täuschung über die Identität |
| KI-manipuliertes Bild zweier realer Fußballprofis vor einem Stadion | KI-Cartoon eines historischen Fotos |
Texte fallen unter Abs. 4, wenn sie veröffentlicht werden und die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren. Veröffentlicht heißt zugänglich für eine unbestimmte, größere Zahl nicht verbundener Leser, interne Rundschreiben und Intranet-Beiträge zählen nicht. Öffentliches Interesse umfasst Politik, Verwaltung, Justiz, Grundrechte, öffentliche Sicherheit, Gesundheit, Umwelt, Verbrauchersicherheit sowie wirtschaftliche, finanzielle, wissenschaftliche und kulturelle Entwicklungen, die öffentlich debattiert werden.
| Kennzeichnungspflichtig ohne Redaktionsprüfung | Nicht erfasst |
|---|---|
| KI-Zusammenfassung eines Artikels über einen Ratsbeschluss | KI-generierte Fantasyromane |
| KI-bearbeiteter Ratgeberartikel über Ernährung und Krankheitsverlauf | Werbetexte ohne Aussagen zu Gesundheit, Sicherheit oder Nachhaltigkeit |
| KI-bearbeiteter Investorenbericht einer börsennotierten Gesellschaft | Nachrichtenzusammenfassung eines Chatbots nur für den anfragenden Nutzer |
| KI-generierte Unwetterwarnung eines Wetterdienstes in sozialen Medien | KI-bearbeitete Beratung für einen einzelnen Mandanten |
Für Texte entfällt die Kennzeichnung, wenn zwei Bedingungen zusammen erfüllt sind: Der Text hat eine inhaltliche menschliche Überprüfung oder redaktionelle Kontrolle durchlaufen, und eine natürliche oder juristische Person trägt die redaktionelle Verantwortung. Rechtschreibprüfungen, das bloße Vorhandensein einer Redaktionsrichtlinie, automatisierte Prüfläufe oder ein flüchtiges Abnicken genügen nicht. Zwei Details entscheiden über die Belastbarkeit: Wird nach der Freigabe noch einmal KI eingesetzt, entfällt die Ausnahme. Und Identität sowie Kontaktdaten der verantwortlichen Person oder Funktion sollen leicht auffindbar sein, etwa im Impressum.
Gehört ein Deepfake erkennbar zu einem künstlerischen, kreativen, satirischen oder fiktionalen Werk, beschränkt sich die Pflicht auf eine angemessene Offenlegung, die den Genuss des Werks nicht beeinträchtigt, etwa im Abspann. Der Begriff „erkennbar“ ist eng zu verstehen. Ist der Charakter des Inhalts mehrdeutig, greift die Erleichterung nicht. Mischt ein Inhalt informative und kreative Züge, setzt sich der informative Charakter durch.
Wie muss die Kennzeichnung aussehen?
Klar und unterscheidbar, spätestens zur ersten Interaktion oder Exposition, und barrierefrei (Art. 50 Abs. 5 KI-VO). Klar heißt wahrnehmbar, verständlich und zugänglich. Unterscheidbar heißt, dass sich der Hinweis vom übrigen Inhalt abhebt. Ein Hinweis, den man unter normalen Bedingungen leicht übersieht, etwa versteckt im Menü oder in den Nutzungsbedingungen, genügt nicht. Für Betreiber gilt eine wichtige Klarstellung: Auf die maschinenlesbare Markierung des Anbieters können Sie sich nicht berufen. Sie brauchen einen Hinweis, den Menschen ohne technische Hilfsmittel wahrnehmen. Bei längeren Inhalten reicht ein Hinweis am Anfang nicht immer, wenn absehbar Menschen erst mitten im Video einsteigen.
Die Europäische Kommission stellt drei Symbole zur freien Nutzung bereit, jeweils in vier Varianten als SVG und PNG. Das Basissymbol steht dafür, dass KI beteiligt war. „AI generated“ kennzeichnet vollständig KI-erzeugte Inhalte ohne menschliche Elemente und ohne redaktionelle Kontrolle jenseits des Prompts. „AI modified“ kennzeichnet menschlich erstellte Inhalte, die teilweise mit KI verändert wurden. Nutzertests der Kommission zeigen, dass die Symbole deutlich besser verstanden werden, wenn eine Textbeschriftung dazukommt, etwa „Stimmen erzeugt mit“ gefolgt vom Symbol. Empfohlen werden eine gut sichtbare Größe, keine überlagernden Elemente und eine direkte Einbettung, sodass das Symbol auch beim Teilen und Herunterladen sichtbar bleibt. Wichtig: Die Nutzung der Icons ist freiwillig und begründet für sich genommen keine Rechtskonformität.
Anbieter und Betreiber können ihre Pflichten aus Abs. 2, 4 und 5 über einen als angemessen bewerteten Verhaltenskodex nachweisen (Art. 50 Abs. 7 KI-VO). Der Kodex zur Transparenz von KI-generierten Inhalten wurde am 10. Juni 2026 veröffentlicht. Unterzeichner haben einen praktischen Vorteil, weil sich die Aufsicht auf die Umsetzung der Kodex-Maßnahmen konzentriert. Wer nicht unterzeichnet, sollte eine Lückenanalyse gegen den Kodex führen und mit mehr Auskunftsverlangen rechnen.
Checkliste: Umsetzung der Kennzeichnungspflicht
- Bestandsaufnahme aller eingesetzten und bereitgestellten KI-Systeme, Rolle je System festlegen: Anbieter, Betreiber oder beides.
- Zuordnung: Welche der vier Pflichten trifft uns je System?
- Chatbots und Agenten prüfen: Hinweis beim ersten Kontakt, gut sichtbar, in einfacher Sprache, wahrheitsgemäße Antwort auf Nachfrage.
- Marketing- und Kommunikationsmaterial durchgehen: realistische Darstellungen realer oder plausibel realer Personen, Objekte, Orte oder Ereignisse?
- Redaktionsprozess dokumentieren: Wer prüft inhaltlich, wer trägt die Verantwortung, ist das nach außen auffindbar?
- Keine KI-Bearbeitung nach der redaktionellen Freigabe, sonst entfällt die Textausnahme.
- Einheitlichen Kennzeichnungsstandard festlegen: Formulierung, Platzierung, Icon, Barrierefreiheit.
- Agenturen, Freelancer und Vertriebspartner vertraglich zur Erhaltung der Kennzeichnung verpflichten.
- KI-Kompetenz nach Art. 4 KI-VO nachweisen, sie gilt für Anbieter und Betreiber gleichermaßen.
Häufige Fragen
Muss ich einen mit KI geschriebenen LinkedIn-Post kennzeichnen?
In den meisten Fällen nicht. Art. 50 Abs. 4 UAbs. 2 erfasst nur veröffentlichte Texte über Angelegenheiten von öffentlichem Interesse. Ein Beitrag über Ihr Unternehmen, ein Produkt oder eine Stelle fällt nicht darunter. Anders bei regelmäßigen Beiträgen zu politischen, gesundheitlichen, wissenschaftlichen oder umweltbezogenen Themen ohne inhaltliche Prüfung durch eine verantwortliche Person. Enthält der Post ein KI-Bild mit realistischem Personenbezug, greift zusätzlich die Deepfake-Regel.
Reicht ein Wasserzeichen in den Metadaten?
Für Anbieter nach Abs. 2 kann es Teil der Lösung sein, sofern ein Erkennungsverfahren verfügbar ist. Für Betreiber nach Abs. 4 reicht es nicht.
Muss ich KI-Übersetzungen kennzeichnen?
Nein, KI-Übersetzungen gelten nach den Kommissionsleitlinien als Standardbearbeitung. Bei Texten von öffentlichem Interesse erfüllt eine anschließend menschlich geprüfte Übersetzung zusätzlich die Ausnahme des Abs. 4.
Gilt die Pflicht auch für interne Dokumente?
Nein. Interne Berichte und Intranet-Beiträge sind nicht veröffentlicht. Für rein technische B2B-Anwendungen kann zusätzlich die Markierungspflicht entfallen, wenn der Output das Unternehmen nachweislich nicht verlässt.
Sind Open-Source-Systeme ausgenommen?
Nein. Art. 2 Abs. 12 KI-VO nimmt frei lizenzierte KI-Systeme vom Anwendungsbereich aus, ausdrücklich aber nicht, soweit Art. 50 greift. Anders bei einzelnen Komponenten wie Modellen oder Bibliotheken, die für sich kein KI-System darstellen.
Was gilt für private Nutzung?
Nach Art. 2 Abs. 10 KI-VO gelten die Betreiberpflichten nicht für rein persönliche, außerberufliche Nutzung. Die Anbieterpflichten für das genutzte System bleiben bestehen.
