KI-gene­rier­te Inhal­te wer­den immer rea­lis­ti­scher.
Bil­der, Vide­os, Audio­da­tei­en und Tex­te las­sen sich inzwi­schen so über­zeu­gend erstel­len oder mani­pu­lie­ren, dass selbst erfah­re­ne Nut­zer oft nicht mehr sicher erken­nen kön­nen, ob ein Inhalt von einem Men­schen oder von künst­li­cher Intel­li­genz stammt.

Genau an die­ser Stel­le setzt die euro­päi­sche KI-Ver­ord­nung (Ver­ord­nung (EU) 2024/1689), der soge­nann­te AI Act, an. Sie soll Trans­pa­renz schaf­fen und dafür sor­gen, dass Men­schen bes­ser erken­nen kön­nen, wann sie mit KI-Sys­te­men inter­agie­ren oder KI-gene­rier­te Inhal­te sehen.

Für Unter­neh­men, Agen­tu­ren, Web­site-Betrei­ber und Con­tent-Ver­ant­wort­li­che stellt sich des­halb eine zen­tra­le Fra­ge: Muss künf­tig jeder KI-gene­rier­te Inhalt gekenn­zeich­net wer­den? Die kur­ze Ant­wort lau­tet: Nein. Aber es gibt wich­ti­ge Fäl­le, in denen eine Kenn­zeich­nung erfor­der­lich ist oder drin­gend emp­foh­len wird.

War­um gibt es eine KI-Kenn­zeich­nungs­pflicht?

Die Men­ge an KI-gene­rier­ten Inhal­ten wächst rasant.
Rea­lis­tisch wir­ken­de Fotos, syn­the­ti­sche Stim­men, KI-Vide­os und auto­ma­tisch gene­rier­te Tex­te erschei­nen täg­lich auf Web­sites, in sozia­len Netz­wer­ken, in Wer­be­kam­pa­gnen und in digi­ta­len Kom­mu­ni­ka­ti­ons­ka­nä­len.

Das Pro­blem: Vie­le die­ser Inhal­te wir­ken echt.
Nut­zer kön­nen nicht immer erken­nen, ob ein Foto tat­säch­lich auf­ge­nom­men wur­de, ob eine Stim­me echt ist oder ob eine Per­son in einem Video wirk­lich gesagt hat, was dort zu hören ist.

Beson­ders kri­tisch wird dies bei:

• Deepf­akes
• poli­ti­schen Inhal­ten
• Nach­rich­ten und öffent­li­cher Mei­nungs­bil­dung
• betrü­ge­ri­schen Inhal­ten
• KI-gene­rier­ten Stim­men rea­ler Per­so­nen
• rea­lis­tisch wir­ken­den Bil­dern oder Vide­os

Die Kenn­zeich­nungs­pflicht soll des­halb hel­fen, künst­lich erzeug­te Inhal­te sicht­bar zu machen und Täu­schung zu ver­hin­dern.

Was regelt der AI Act zur KI-Kenn­zeich­nung?

Die EU-KI-Ver­ord­nung unter­schei­det zwi­schen ver­schie­de­nen Pflich­ten für ver­schie­de­ne Akteu­re.
Beson­ders wich­tig ist dabei Arti­kel 50.

Arti­kel 50 regelt Trans­pa­renz­pflich­ten für Anbie­ter und Betrei­ber bestimm­ter KI-Sys­te­me.
Dazu gehö­ren unter ande­rem Pflich­ten zur Kenn­zeich­nung künst­lich erzeug­ter oder mani­pu­lier­ter Inhal­te.

Wich­tig ist: Die Pflich­ten tref­fen nicht alle Unter­neh­men in glei­cher Wei­se.
Der AI Act unter­schei­det zwi­schen Anbie­tern und Betrei­bern von KI-Sys­te­men.

Anbie­ter oder Betrei­ber: Wer ist eigent­lich ver­pflich­tet?

Was ist ein Anbie­ter?

Anbie­ter sind natür­li­che oder juris­ti­sche Per­so­nen, die ein KI-Sys­tem ent­wi­ckeln oder ent­wi­ckeln las­sen und es unter eige­nem Namen oder eige­ner Mar­ke in Ver­kehr brin­gen oder in Betrieb neh­men.

Bei­spie­le für Anbie­ter kön­nen sein:

• Ope­nAI
• Goog­le
• Micro­soft
• Meta
• Anthro­pic
• Anbie­ter eige­ner KI-Soft­ware­lö­sun­gen

Anbie­ter von KI-Sys­te­men, die syn­the­ti­sche Audio‑, Bild‑, Video- oder Text­in­hal­te erzeu­gen, müs­sen nach Arti­kel 50 sicher­stel­len, dass die­se Inhal­te in einem maschi­nen­les­ba­ren For­mat als künst­lich erzeugt oder mani­pu­liert erkenn­bar sind.

Was ist ein Betrei­ber?

Betrei­ber sind Per­so­nen oder Unter­neh­men, die ein KI-Sys­tem in eige­ner Ver­ant­wor­tung ver­wen­den.

Bei­spie­le:

• eine Agen­tur, die ChatGPT zur Tex­terstel­lung nutzt
• ein Unter­neh­men, das KI-Bil­der für Social Media erstellt
• ein Online-Shop, der einen KI-Chat­bot ein­setzt
• ein Ver­lag, der KI zur Erstel­lung bestimm­ter Inhal­te nutzt
• ein Unter­neh­men, das KI-gene­rier­te Vide­os ver­öf­fent­licht

Betrei­ber müs­sen nicht auto­ma­tisch jeden KI-gene­rier­ten Inhalt kenn­zeich­nen.
Es gibt aber bestimm­te Fäl­le, in denen eine Kenn­zeich­nung oder Offen­le­gung erfor­der­lich ist.

Wann müs­sen KI-Inhal­te gekenn­zeich­net wer­den?

1. KI-Chat­bots und KI-Inter­ak­tio­nen

Wenn Nut­zer mit einem KI-Sys­tem inter­agie­ren, müs­sen sie grund­sätz­lich dar­über infor­miert wer­den, dass sie mit einer künst­li­chen Intel­li­genz kom­mu­ni­zie­ren.

Das betrifft zum Bei­spiel:

• KI-Chat­bots auf Web­sites
• vir­tu­el­le Assis­ten­ten
• auto­ma­ti­sier­te Sup­port-Sys­te­me
• KI-gestütz­te Bera­tungs­tools
• KI-basier­te Kun­den­kom­mu­ni­ka­ti­on

Ein kla­rer Hin­weis kann zum Bei­spiel lau­ten:

Du chat­test gera­de mit einem KI-gestütz­ten Assis­ten­ten. Bei kom­ple­xen oder recht­lich rele­van­ten Fra­gen lei­ten wir Dich ger­ne an einen mensch­li­chen Ansprech­part­ner wei­ter.

Auch wenn die kon­kre­te Umset­zung vom jewei­li­gen Sys­tem abhängt, ist eine trans­pa­ren­te Kom­mu­ni­ka­ti­on emp­feh­lens­wert.
Zusätz­lich soll­te der Ein­satz des Chat­bots in der Daten­schutz­er­klä­rung beschrie­ben wer­den.

2. Deepf­akes

Eine beson­ders wich­ti­ge Kenn­zeich­nungs­pflicht betrifft Deepf­akes.
Gemeint sind rea­lis­tisch wir­ken­de Audio‑, Bild- oder Video­in­hal­te, die künst­lich erzeugt oder mani­pu­liert wur­den und Per­so­nen, Orte oder Ereig­nis­se so dar­stel­len, als wären sie echt.

Bei­spie­le:

• eine KI-gene­rier­te Stim­me einer rea­len Per­son
• ein Video, in dem eine Per­son schein­bar etwas sagt, was sie nie gesagt hat
• ein mani­pu­lier­tes Bild einer rea­len Per­son in einem erfun­de­nen Kon­text
• ein KI-gene­rier­tes Inter­view mit einer ech­ten Per­sön­lich­keit

Sol­che Inhal­te müs­sen für Nut­zer als künst­lich erzeugt oder mani­pu­liert erkenn­bar gemacht wer­den.

Eine mög­li­che Kenn­zeich­nung wäre:

Hin­weis: Die­ser Inhalt wur­de mit künst­li­cher Intel­li­genz erzeugt oder bear­bei­tet. Die dar­ge­stell­te Sze­ne ist nicht real.

3. KI-gene­rier­te Tex­te von öffent­li­chem Inter­es­se

Eine wei­te­re Kenn­zeich­nungs­pflicht betrifft bestimm­te KI-gene­rier­te Tex­te, wenn sie ver­öf­fent­licht wer­den, um die Öffent­lich­keit über Ange­le­gen­hei­ten von öffent­li­chem Inter­es­se zu infor­mie­ren.

Dazu kön­nen ins­be­son­de­re gehö­ren:

• poli­ti­sche Inhal­te
• gesell­schaft­li­che Debat­ten
• Nach­rich­ten­bei­trä­ge
• öffent­li­che Gesund­heits­the­men
• wahl­be­zo­ge­ne Inhal­te
• Infor­ma­tio­nen zu Kri­sen oder Sicher­heits­la­gen

Ent­schei­dend ist dabei nicht nur, ob KI ver­wen­det wur­de, son­dern auch, ob der Inhalt eine öffent­li­che Infor­ma­ti­ons­funk­ti­on erfüllt.

Klas­si­sche Mar­ke­ting­tex­te, Pro­dukt­be­schrei­bun­gen, SEO-Tex­te, News­let­ter oder Unter­neh­mens­blogs fal­len nicht auto­ma­tisch unter die­se spe­zi­el­le Pflicht.
Den­noch kann eine frei­wil­li­ge Kenn­zeich­nung sinn­voll sein, wenn Trans­pa­renz für die Ziel­grup­pe wich­tig ist.

4. KI-gene­rier­te oder ver­än­der­te Social-Media-Inhal­te

Zusätz­lich zum AI Act haben vie­le Platt­for­men eige­ne Regeln ein­ge­führt.
Die­se Regeln kön­nen stren­ger oder prak­ti­scher aus­ge­stal­tet sein als die gesetz­li­chen Vor­ga­ben.

Wer KI-gene­rier­te Inhal­te auf Social Media ver­öf­fent­licht, soll­te des­halb nicht nur die gesetz­li­che Lage prü­fen, son­dern auch die Vor­ga­ben der jewei­li­gen Platt­form beach­ten.

Wie kenn­zeich­net man KI-Inhal­te rich­tig?

Eine gute KI-Kenn­zeich­nung soll­te klar, ver­ständ­lich und leicht wahr­nehm­bar sein.
Sie darf nicht ver­steckt oder miss­ver­ständ­lich for­mu­liert wer­den.

Je nach Inhalt kom­men unter­schied­li­che For­men der Kenn­zeich­nung in Betracht:

• sicht­ba­rer Hin­weis im Bei­trag
• Label wie „KI-gene­riert“ oder „Mit KI erstellt“
• Was­ser­zei­chen
• Meta­da­ten
• maschi­nen­les­ba­re Mar­kie­run­gen
• Hin­wei­se in Bild­un­ter­schrif­ten
• Hin­wei­se in Video­be­schrei­bun­gen
• Hin­wei­se direkt im Chat­bot

Für Nut­zer soll­te ein­deu­tig erkenn­bar sein, was gemeint ist.
All­ge­mei­ne For­mu­lie­run­gen wie „digi­tal opti­miert“ oder „krea­tiv bear­bei­tet“ rei­chen bei rea­lis­tisch wir­ken­den KI-Inhal­ten häu­fig nicht aus.

Bei­spie­le für sinn­vol­le KI-Hin­wei­se

Gilt die Kenn­zeich­nungs­pflicht auch für Social Media?

Ja, zumin­dest teil­wei­se.
Vie­le gro­ße Platt­for­men haben bereits eige­ne Trans­pa­renz­re­geln für KI-gene­rier­te oder syn­the­tisch ver­än­der­te Inhal­te ein­ge­führt.

You­Tube

You­Tube ver­langt von Crea­torn eine Offen­le­gung, wenn rea­lis­tisch wir­ken­de Inhal­te syn­the­tisch erzeugt oder wesent­lich ver­än­dert wur­den.
Dies betrifft ins­be­son­de­re Inhal­te, bei denen Zuschau­er glau­ben könn­ten, dass rea­le Per­so­nen, Orte oder Ereig­nis­se tat­säch­lich so statt­ge­fun­den haben.

Face­book und Insta­gram

Meta nutzt Labels für KI-gene­rier­te Inhal­te und arbei­tet mit tech­ni­schen Stan­dards, um künst­lich erzeug­te Inhal­te zu erken­nen.
Auf Face­book, Insta­gram und Threads kön­nen Inhal­te als „Mit KI gene­riert“ oder ver­gleich­bar gekenn­zeich­net wer­den.

Tik­Tok

Tik­Tok ver­langt eine Kenn­zeich­nung für KI-gene­rier­te Inhal­te, wenn sie rea­lis­ti­sche Bil­der, Audi­os oder Vide­os ent­hal­ten.
Zusätz­lich kann Tik­Tok Inhal­te auch auto­ma­ti­siert als KI-gene­riert mar­kie­ren.

Was ist mit nor­ma­len KI-Tex­ten für Mar­ke­ting, SEO oder Social Media?

Nicht jeder KI-gene­rier­te Text muss auto­ma­tisch gekenn­zeich­net wer­den.
Wenn ein Unter­neh­men KI nutzt, um Ideen zu ent­wi­ckeln, Tex­te vor­zu­be­rei­ten, For­mu­lie­run­gen zu ver­bes­sern oder SEO-Inhal­te zu struk­tu­rie­ren, ent­steht dar­aus nicht auto­ma­tisch eine Kenn­zeich­nungs­pflicht.

Den­noch soll­ten Unter­neh­men intern doku­men­tie­ren, wie KI ver­wen­det wird.
Das ist beson­ders wich­tig bei:

• recht­lich sen­si­blen The­men
• medi­zi­ni­schen oder finan­zi­el­len Inhal­ten
• poli­ti­schen Aus­sa­gen
• öffent­lich rele­van­ten Infor­ma­tio­nen
• auto­ma­ti­sier­ter Kun­den­kom­mu­ni­ka­ti­on

Für pro­fes­sio­nel­le Kom­mu­ni­ka­ti­on gilt:
KI kann unter­stüt­zen, aber Ver­ant­wor­tung bleibt beim Unter­neh­men.

War­um bestehen­de KI-Kenn­zeich­nun­gen nicht ent­fernt wer­den soll­ten

Anbie­ter von KI-Sys­te­men wer­den künf­tig ver­stärkt tech­ni­sche Kenn­zeich­nun­gen ein­set­zen.
Dazu kön­nen Was­ser­zei­chen, Meta­da­ten oder ande­re maschi­nen­les­ba­re Hin­wei­se gehö­ren.

Auch wenn im Ein­zel­fall noch nicht abschlie­ßend geklärt ist, wie der Umgang mit ent­fern­ten Kenn­zeich­nun­gen bewer­tet wird, ist Vor­sicht sinn­voll.

Unter­neh­men soll­ten bestehen­de KI-Kenn­zeich­nun­gen daher nicht ohne Prü­fung ent­fer­nen.
Das gilt beson­ders bei Bil­dern, Vide­os, Stim­men und rea­lis­tisch wir­ken­den syn­the­ti­schen Inhal­ten.

Risi­ken bei KI-Con­tent: Kenn­zeich­nung ist nicht das ein­zi­ge The­ma

Die KI-Kenn­zeich­nungs­pflicht ist nur ein Teil der recht­li­chen und stra­te­gi­schen Ver­ant­wor­tung.
Beim Ein­satz von KI-Inhal­ten soll­ten Unter­neh­men wei­te­re Risi­ken beach­ten.

• Urhe­ber­rechts­fra­gen
• Rech­te an Bil­dern und Stim­men
• Recht am eige­nen Bild
• Per­sön­lich­keits­rech­te
• Daten­schutz
• Fehl­in­for­ma­tio­nen durch KI-Hal­lu­zi­na­tio­nen
• Mar­ken- und Wett­be­werbs­recht
• Ver­trau­ens­ver­lust bei feh­len­der Trans­pa­renz

Ana­ly­se: Wann eine KI-Kenn­zeich­nung sinn­voll oder erfor­der­lich ist

Inter­pre­ta­ti­on

1. Die Kenn­zeich­nungs­pflicht hängt stark vom Inhalt, vom Kon­text und von der Täu­schungs­ge­fahr ab.
2. Beson­ders rele­vant sind rea­lis­tisch wir­ken­de Bil­der, Vide­os, Stim­men und Deepf­akes.
3. Bei öffent­li­cher Mei­nungs­bil­dung und gesell­schaft­lich rele­van­ten The­men ist beson­de­re Vor­sicht erfor­der­lich.
4. Auch ohne gesetz­li­che Pflicht kann frei­wil­li­ge Trans­pa­renz Ver­trau­en schaf­fen.

7‑Punk­te-Pra­xis­leit­fa­den für Unter­neh­men

1. KI-Nut­zung intern doku­men­tie­ren

Hal­te fest, wel­che Tools ver­wen­det wer­den, wofür sie ein­ge­setzt wer­den und wer Inhal­te vor Ver­öf­fent­li­chung prüft.

2. Deepf­akes immer klar kenn­zeich­nen

Rea­lis­tisch wir­ken­de KI-Mani­pu­la­tio­nen von Per­so­nen, Stim­men oder Ereig­nis­sen soll­ten ein­deu­tig offen­ge­legt wer­den.

3. Chat­bots trans­pa­rent machen

Nut­zer soll­ten sofort erken­nen kön­nen, wenn sie mit einem KI-Sys­tem kom­mu­ni­zie­ren.

4. Platt­form­re­geln prü­fen

You­Tube, Meta und Tik­Tok haben eige­ne Regeln zur Kenn­zeich­nung KI-gene­rier­ter Inhal­te.
Die­se soll­ten vor jeder Ver­öf­fent­li­chung geprüft wer­den.

5. Bild- und Per­sön­lich­keits­rech­te beach­ten

Bei KI-Bil­dern mit rea­len Per­so­nen, ähn­li­chen Gesich­tern oder Stim­men ist beson­de­re Vor­sicht gebo­ten.

6. Inhal­te redak­tio­nell prü­fen

KI kann Feh­ler machen, Quel­len erfin­den oder Sach­ver­hal­te falsch dar­stel­len.
Eine mensch­li­che Prü­fung bleibt unver­zicht­bar.

7. Bestehen­de Kenn­zeich­nun­gen nicht leicht­fer­tig ent­fer­nen

Was­ser­zei­chen, Meta­da­ten oder KI-Labels soll­ten nicht ohne Prü­fung gelöscht wer­den.

Fazit: KI-Kenn­zeich­nung wird zum Ver­trau­ens­fak­tor

Die KI-Kenn­zeich­nungs­pflicht soll Men­schen hel­fen, künst­lich erzeug­te Inhal­te bes­ser ein­zu­ord­nen.
Sie ist eine Ant­wort auf eine digi­ta­le Rea­li­tät, in der Bil­der, Vide­os, Stim­men und Tex­te immer glaub­wür­di­ger simu­liert wer­den kön­nen.

Für Unter­neh­men bedeu­tet das:
Nicht jeder KI-gene­rier­te Inhalt muss gekenn­zeich­net wer­den.
Aber über­all dort, wo Täu­schungs­ge­fahr besteht, Men­schen mit KI inter­agie­ren oder Inhal­te von öffent­li­chem Inter­es­se betrof­fen sind, wird Trans­pa­renz ent­schei­dend.

Die wich­tigs­te Erkennt­nis lau­tet:
KI-Kenn­zeich­nung ist nicht nur eine regu­la­to­ri­sche Pflicht, son­dern ein Bau­stein digi­ta­ler Glaub­wür­dig­keit.

Wer KI pro­fes­sio­nell ein­setzt, soll­te des­halb kla­re Pro­zes­se schaf­fen, Zustän­dig­kei­ten defi­nie­ren und Kenn­zeich­nungs­pflich­ten früh­zei­tig in Content‑, Social-Media- und Web­site-Work­flows inte­grie­ren.

Möch­test Du KI rechts­si­cher, trans­pa­rent und stra­te­gisch sinn­voll in Dei­nem Unter­neh­men ein­set­zen?
Wir unter­stüt­zen Dich bei der Ent­wick­lung von KI-Richt­li­ni­en, KI-Work­shops, Con­tent-Pro­zes­sen und trans­pa­ren­ten Kom­mu­ni­ka­ti­ons­stan­dards.
Sprich uns ger­ne an.

Herz­li­che Grü­ße
Dein Team von Stra­te­gie­pool

Haf­tungs­aus­schluss: Die­ser Bei­trag dient der all­ge­mei­nen Infor­ma­ti­on und ersetzt kei­ne Rechts­be­ra­tung.