KI-generierte Inhalte werden immer realistischer.
Bilder, Videos, Audiodateien und Texte lassen sich inzwischen so überzeugend erstellen oder manipulieren, dass selbst erfahrene Nutzer oft nicht mehr sicher erkennen können, ob ein Inhalt von einem Menschen oder von künstlicher Intelligenz stammt.

Genau an dieser Stelle setzt die europäische KI-Verordnung (Verordnung (EU) 2024/1689), der sogenannte AI Act, an. Sie soll Transparenz schaffen und dafür sorgen, dass Menschen besser erkennen können, wann sie mit KI-Systemen interagieren oder KI-generierte Inhalte sehen.

Für Unternehmen, Agenturen, Website-Betreiber und Content-Verantwortliche stellt sich deshalb eine zentrale Frage: Muss künftig jeder KI-generierte Inhalt gekennzeichnet werden? Die kurze Antwort lautet: Nein. Aber es gibt wichtige Fälle, in denen eine Kennzeichnung erforderlich ist oder dringend empfohlen wird.

Warum gibt es eine KI-Kennzeichnungspflicht?

Die Menge an KI-generierten Inhalten wächst rasant.
Realistisch wirkende Fotos, synthetische Stimmen, KI-Videos und automatisch generierte Texte erscheinen täglich auf Websites, in sozialen Netzwerken, in Werbekampagnen und in digitalen Kommunikationskanälen.

Das Problem: Viele dieser Inhalte wirken echt.
Nutzer können nicht immer erkennen, ob ein Foto tatsächlich aufgenommen wurde, ob eine Stimme echt ist oder ob eine Person in einem Video wirklich gesagt hat, was dort zu hören ist.

Besonders kritisch wird dies bei:

• Deepfakes
• politischen Inhalten
• Nachrichten und öffentlicher Meinungsbildung
• betrügerischen Inhalten
• KI-generierten Stimmen realer Personen
• realistisch wirkenden Bildern oder Videos

Die Kennzeichnungspflicht soll deshalb helfen, künstlich erzeugte Inhalte sichtbar zu machen und Täuschung zu verhindern.

Was regelt der AI Act zur KI-Kennzeichnung?

Die EU-KI-Verordnung unterscheidet zwischen verschiedenen Pflichten für verschiedene Akteure.
Besonders wichtig ist dabei Artikel 50.

Artikel 50 regelt Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme.
Dazu gehören unter anderem Pflichten zur Kennzeichnung künstlich erzeugter oder manipulierter Inhalte.

Wichtig ist: Die Pflichten treffen nicht alle Unternehmen in gleicher Weise.
Der AI Act unterscheidet zwischen Anbietern und Betreibern von KI-Systemen.

Anbieter oder Betreiber: Wer ist eigentlich verpflichtet?

Was ist ein Anbieter?

Anbieter sind natürliche oder juristische Personen, die ein KI-System entwickeln oder entwickeln lassen und es unter eigenem Namen oder eigener Marke in Verkehr bringen oder in Betrieb nehmen.

Beispiele für Anbieter können sein:

• OpenAI
• Google
• Microsoft
• Meta
• Anthropic
• Anbieter eigener KI-Softwarelösungen

Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen nach Artikel 50 sicherstellen, dass diese Inhalte in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert erkennbar sind.

Was ist ein Betreiber?

Betreiber sind Personen oder Unternehmen, die ein KI-System in eigener Verantwortung verwenden.

Beispiele:

• eine Agentur, die ChatGPT zur Texterstellung nutzt
• ein Unternehmen, das KI-Bilder für Social Media erstellt
• ein Online-Shop, der einen KI-Chatbot einsetzt
• ein Verlag, der KI zur Erstellung bestimmter Inhalte nutzt
• ein Unternehmen, das KI-generierte Videos veröffentlicht

Betreiber müssen nicht automatisch jeden KI-generierten Inhalt kennzeichnen.
Es gibt aber bestimmte Fälle, in denen eine Kennzeichnung oder Offenlegung erforderlich ist.

Wann müssen KI-Inhalte gekennzeichnet werden?

1. KI-Chatbots und KI-Interaktionen

Wenn Nutzer mit einem KI-System interagieren, müssen sie grundsätzlich darüber informiert werden, dass sie mit einer künstlichen Intelligenz kommunizieren.

Das betrifft zum Beispiel:

• KI-Chatbots auf Websites
• virtuelle Assistenten
• automatisierte Support-Systeme
• KI-gestützte Beratungstools
• KI-basierte Kundenkommunikation

Ein klarer Hinweis kann zum Beispiel lauten:

Du chattest gerade mit einem KI-gestützten Assistenten. Bei komplexen oder rechtlich relevanten Fragen leiten wir Dich gerne an einen menschlichen Ansprechpartner weiter.

Auch wenn die konkrete Umsetzung vom jeweiligen System abhängt, ist eine transparente Kommunikation empfehlenswert.
Zusätzlich sollte der Einsatz des Chatbots in der Datenschutzerklärung beschrieben werden.

2. Deepfakes

Eine besonders wichtige Kennzeichnungspflicht betrifft Deepfakes.
Gemeint sind realistisch wirkende Audio-, Bild- oder Videoinhalte, die künstlich erzeugt oder manipuliert wurden und Personen, Orte oder Ereignisse so darstellen, als wären sie echt.

Beispiele:

• eine KI-generierte Stimme einer realen Person
• ein Video, in dem eine Person scheinbar etwas sagt, was sie nie gesagt hat
• ein manipuliertes Bild einer realen Person in einem erfundenen Kontext
• ein KI-generiertes Interview mit einer echten Persönlichkeit

Solche Inhalte müssen für Nutzer als künstlich erzeugt oder manipuliert erkennbar gemacht werden.

Eine mögliche Kennzeichnung wäre:

Hinweis: Dieser Inhalt wurde mit künstlicher Intelligenz erzeugt oder bearbeitet. Die dargestellte Szene ist nicht real.

3. KI-generierte Texte von öffentlichem Interesse

Eine weitere Kennzeichnungspflicht betrifft bestimmte KI-generierte Texte, wenn sie veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Dazu können insbesondere gehören:

• politische Inhalte
• gesellschaftliche Debatten
• Nachrichtenbeiträge
• öffentliche Gesundheitsthemen
• wahlbezogene Inhalte
• Informationen zu Krisen oder Sicherheitslagen

Entscheidend ist dabei nicht nur, ob KI verwendet wurde, sondern auch, ob der Inhalt eine öffentliche Informationsfunktion erfüllt.

Klassische Marketingtexte, Produktbeschreibungen, SEO-Texte, Newsletter oder Unternehmensblogs fallen nicht automatisch unter diese spezielle Pflicht.
Dennoch kann eine freiwillige Kennzeichnung sinnvoll sein, wenn Transparenz für die Zielgruppe wichtig ist.

4. KI-generierte oder veränderte Social-Media-Inhalte

Zusätzlich zum AI Act haben viele Plattformen eigene Regeln eingeführt.
Diese Regeln können strenger oder praktischer ausgestaltet sein als die gesetzlichen Vorgaben.

Wer KI-generierte Inhalte auf Social Media veröffentlicht, sollte deshalb nicht nur die gesetzliche Lage prüfen, sondern auch die Vorgaben der jeweiligen Plattform beachten.

Wie kennzeichnet man KI-Inhalte richtig?

Eine gute KI-Kennzeichnung sollte klar, verständlich und leicht wahrnehmbar sein.
Sie darf nicht versteckt oder missverständlich formuliert werden.

Je nach Inhalt kommen unterschiedliche Formen der Kennzeichnung in Betracht:

• sichtbarer Hinweis im Beitrag
• Label wie „KI-generiert“ oder „Mit KI erstellt“
• Wasserzeichen
• Metadaten
• maschinenlesbare Markierungen
• Hinweise in Bildunterschriften
• Hinweise in Videobeschreibungen
• Hinweise direkt im Chatbot

Für Nutzer sollte eindeutig erkennbar sein, was gemeint ist.
Allgemeine Formulierungen wie „digital optimiert“ oder „kreativ bearbeitet“ reichen bei realistisch wirkenden KI-Inhalten häufig nicht aus.

Beispiele für sinnvolle KI-Hinweise

Gilt die Kennzeichnungspflicht auch für Social Media?

Ja, zumindest teilweise.
Viele große Plattformen haben bereits eigene Transparenzregeln für KI-generierte oder synthetisch veränderte Inhalte eingeführt.

YouTube

YouTube verlangt von Creatorn eine Offenlegung, wenn realistisch wirkende Inhalte synthetisch erzeugt oder wesentlich verändert wurden.
Dies betrifft insbesondere Inhalte, bei denen Zuschauer glauben könnten, dass reale Personen, Orte oder Ereignisse tatsächlich so stattgefunden haben.

Facebook und Instagram

Meta nutzt Labels für KI-generierte Inhalte und arbeitet mit technischen Standards, um künstlich erzeugte Inhalte zu erkennen.
Auf Facebook, Instagram und Threads können Inhalte als „Mit KI generiert“ oder vergleichbar gekennzeichnet werden.

TikTok

TikTok verlangt eine Kennzeichnung für KI-generierte Inhalte, wenn sie realistische Bilder, Audios oder Videos enthalten.
Zusätzlich kann TikTok Inhalte auch automatisiert als KI-generiert markieren.

Was ist mit normalen KI-Texten für Marketing, SEO oder Social Media?

Nicht jeder KI-generierte Text muss automatisch gekennzeichnet werden.
Wenn ein Unternehmen KI nutzt, um Ideen zu entwickeln, Texte vorzubereiten, Formulierungen zu verbessern oder SEO-Inhalte zu strukturieren, entsteht daraus nicht automatisch eine Kennzeichnungspflicht.

Dennoch sollten Unternehmen intern dokumentieren, wie KI verwendet wird.
Das ist besonders wichtig bei:

• rechtlich sensiblen Themen
• medizinischen oder finanziellen Inhalten
• politischen Aussagen
• öffentlich relevanten Informationen
• automatisierter Kundenkommunikation

Für professionelle Kommunikation gilt:
KI kann unterstützen, aber Verantwortung bleibt beim Unternehmen.

Warum bestehende KI-Kennzeichnungen nicht entfernt werden sollten

Anbieter von KI-Systemen werden künftig verstärkt technische Kennzeichnungen einsetzen.
Dazu können Wasserzeichen, Metadaten oder andere maschinenlesbare Hinweise gehören.

Auch wenn im Einzelfall noch nicht abschließend geklärt ist, wie der Umgang mit entfernten Kennzeichnungen bewertet wird, ist Vorsicht sinnvoll.

Unternehmen sollten bestehende KI-Kennzeichnungen daher nicht ohne Prüfung entfernen.
Das gilt besonders bei Bildern, Videos, Stimmen und realistisch wirkenden synthetischen Inhalten.

Risiken bei KI-Content: Kennzeichnung ist nicht das einzige Thema

Die KI-Kennzeichnungspflicht ist nur ein Teil der rechtlichen und strategischen Verantwortung.
Beim Einsatz von KI-Inhalten sollten Unternehmen weitere Risiken beachten.

• Urheberrechtsfragen
• Rechte an Bildern und Stimmen
• Recht am eigenen Bild
• Persönlichkeitsrechte
• Datenschutz
• Fehlinformationen durch KI-Halluzinationen
• Marken- und Wettbewerbsrecht
• Vertrauensverlust bei fehlender Transparenz

Analyse: Wann eine KI-Kennzeichnung sinnvoll oder erforderlich ist

Interpretation

1. Die Kennzeichnungspflicht hängt stark vom Inhalt, vom Kontext und von der Täuschungsgefahr ab.
2. Besonders relevant sind realistisch wirkende Bilder, Videos, Stimmen und Deepfakes.
3. Bei öffentlicher Meinungsbildung und gesellschaftlich relevanten Themen ist besondere Vorsicht erforderlich.
4. Auch ohne gesetzliche Pflicht kann freiwillige Transparenz Vertrauen schaffen.

7-Punkte-Praxisleitfaden für Unternehmen

1. KI-Nutzung intern dokumentieren

Halte fest, welche Tools verwendet werden, wofür sie eingesetzt werden und wer Inhalte vor Veröffentlichung prüft.

2. Deepfakes immer klar kennzeichnen

Realistisch wirkende KI-Manipulationen von Personen, Stimmen oder Ereignissen sollten eindeutig offengelegt werden.

3. Chatbots transparent machen

Nutzer sollten sofort erkennen können, wenn sie mit einem KI-System kommunizieren.

4. Plattformregeln prüfen

YouTube, Meta und TikTok haben eigene Regeln zur Kennzeichnung KI-generierter Inhalte.
Diese sollten vor jeder Veröffentlichung geprüft werden.

5. Bild- und Persönlichkeitsrechte beachten

Bei KI-Bildern mit realen Personen, ähnlichen Gesichtern oder Stimmen ist besondere Vorsicht geboten.

6. Inhalte redaktionell prüfen

KI kann Fehler machen, Quellen erfinden oder Sachverhalte falsch darstellen.
Eine menschliche Prüfung bleibt unverzichtbar.

7. Bestehende Kennzeichnungen nicht leichtfertig entfernen

Wasserzeichen, Metadaten oder KI-Labels sollten nicht ohne Prüfung gelöscht werden.

Fazit: KI-Kennzeichnung wird zum Vertrauensfaktor

Die KI-Kennzeichnungspflicht soll Menschen helfen, künstlich erzeugte Inhalte besser einzuordnen.
Sie ist eine Antwort auf eine digitale Realität, in der Bilder, Videos, Stimmen und Texte immer glaubwürdiger simuliert werden können.

Für Unternehmen bedeutet das:
Nicht jeder KI-generierte Inhalt muss gekennzeichnet werden.
Aber überall dort, wo Täuschungsgefahr besteht, Menschen mit KI interagieren oder Inhalte von öffentlichem Interesse betroffen sind, wird Transparenz entscheidend.

Die wichtigste Erkenntnis lautet:
KI-Kennzeichnung ist nicht nur eine regulatorische Pflicht, sondern ein Baustein digitaler Glaubwürdigkeit.

Wer KI professionell einsetzt, sollte deshalb klare Prozesse schaffen, Zuständigkeiten definieren und Kennzeichnungspflichten frühzeitig in Content-, Social-Media- und Website-Workflows integrieren.

Möchtest Du KI rechtssicher, transparent und strategisch sinnvoll in Deinem Unternehmen einsetzen?
Wir unterstützen Dich bei der Entwicklung von KI-Richtlinien, KI-Workshops, Content-Prozessen und transparenten Kommunikationsstandards.
Sprich uns gerne an.

Herzliche Grüße
Dein Team von Strategiepool

Haftungsausschluss: Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.