Für Marketingteams, Content-Verantwortliche und Social-Media-Manager:innen lohnt sich deshalb ein genauer Blick auf die Regeln. Denn entscheidend ist unter anderem, welche Art von Content veröffentlicht wird, wie realistisch dieser wirkt und ob Menschen den Inhalt redaktionell geprüft haben.

Kennzeichnung von KI-Inhalten: Was gilt seit August 2026?

Artikel 50 des AI Act regelt Transparenzpflichten für verschiedene KI-Anwendungen. Die Vorgaben gelten seit dem 2. August 2026. Dazu gehören unter anderem Regeln für KI-Systeme, die direkt mit Menschen interagieren, Systeme zur Emotionserkennung und biometrischen Kategorisierung sowie generative KI und Deepfakes.

Für die Content-Praxis ist eine Unterscheidung besonders wichtig: Der AI Act stellt unterschiedliche Anforderungen an Anbieter und Betreiber von KI-Systemen.

Anbieter generativer KI-Systeme müssen technische Vorkehrungen treffen, damit künstlich erzeugte oder manipulierte Inhalte in maschinenlesbarer Form gekennzeichnet und als solche erkennbar sind. Das betrifft unter anderem Text, Bild, Audio und Video. Die technische Lösung muss laut Bundesnetzagentur wirksam, interoperabel, belastbar und zuverlässig sein. Ausnahmen gibt es beispielsweise bei bestimmten unterstützenden Standardbearbeitungen, wenn Eingaben oder deren Semantik nicht wesentlich verändert werden. Für Unternehmen, Agenturen oder andere Organisationen, die KI-Systeme einsetzen, gelten eigene Offenlegungspflichten. Im Marketing sind dabei vor allem Deepfakes und bestimmte KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse relevant.

Welche KI-Inhalte müssen gekennzeichnet werden?

Eine sichtbare Kennzeichnungspflicht für Unternehmen greift vor allem bei Deepfakes. Der AI Act versteht darunter KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden oder plausibel existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähneln und fälschlicherweise authentisch oder wahr erscheinen können.

Für das Marketing kann das beispielsweise relevant werden, wenn eine reale Person mithilfe von KI so dargestellt wird, als hätte sie eine Aussage gemacht oder eine Handlung vorgenommen, die nie stattgefunden hat. Auch künstlich erzeugte Aufnahmen von realen Orten oder Ereignissen können unter diese Regel fallen, wenn das Publikum sie für echte Aufnahmen halten könnte.

Ein offensichtlich fantastisches Kampagnenmotiv ist anders zu bewerten. Zeigt ein KI-Bild beispielsweise einen Business-Lunch auf dem Mond oder ein Bürogebäude, das über einer Stadt schwebt, ist der künstliche Charakter für Betrachter:innen meist schnell erkennbar. Für die Einordnung als Deepfake ist gerade der mögliche falsche Eindruck von Authentizität relevant. Die Leitlinien der EU-Kommission liefern hierzu zahlreiche Beispiele und Auslegungshilfen. Das bedeutet für Unternehmen: Nicht jedes KI-generierte Bild braucht aufgrund des AI Act automatisch ein sichtbares KI-Label. Je realistischer ein künstlich erzeugter Inhalt erscheint und je eher Menschen ihn für eine authentische Darstellung halten könnten, desto genauer sollte die Kennzeichnungspflicht geprüft werden.

Müssen KI-generierte Texte gekennzeichnet werden?

Bei Texten sind die Vorgaben enger gefasst. Eine Offenlegungspflicht betrifft KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Für klassische Unternehmenskommunikation bedeutet das: Die Nutzung eines KI-Tools zum Entwerfen eines Blogartikels, einer Produktbeschreibung oder eines Social-Media-Posts führt allein noch nicht zu einer Kennzeichnungspflicht nach Artikel 50.

Besonders wichtig ist außerdem die Ausnahme für redaktionell kontrollierte Inhalte. Die Kennzeichnungspflicht für Texte entfällt, wenn die KI-generierten Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.

Für professionelle Content-Teams ist das ein entscheidender Punkt. Ein KI-Entwurf kann damit Teil des redaktionellen Workflows sein. Redaktionelle Verantwortung bleibt jedoch wichtig. Inhalte sollten fachlich geprüft, Quellen kontrolliert und Aussagen gegebenenfalls überarbeitet werden. Wer Texte weitgehend automatisiert veröffentlicht, muss genauer hinsehen. Das kann etwa automatisierte News-Angebote, massenhaft generierte Informationsseiten oder KI-basierte Veröffentlichungen zu Politik, Gesundheit, Wirtschaft oder anderen gesellschaftlich relevanten Themen betreffen.

Was bedeutet die Regelung für ChatGPT und andere Text-KIs?

Ein typischer Arbeitsablauf könnte so aussehen: Eine Marketing-Managerin lässt sich von ChatGPT einen ersten Entwurf für einen Fachartikel erstellen. Anschließend prüft die Redaktion die Fakten, ergänzt eigene Erfahrungen, kontrolliert die Quellen, überarbeitet Formulierungen und gibt den Text final frei.

Allein der Einsatz von generativer KI macht diesen Beitrag nach Artikel 50 nicht kennzeichnungspflichtig. Bei Texten über Angelegenheiten von öffentlichem Interesse ist insbesondere die menschliche Überprüfung und redaktionelle Verantwortung relevant. Anders kann die Situation aussehen, wenn ein Unternehmen automatisiert KI-Texte über aktuelle politische, gesellschaftliche oder wirtschaftliche Entwicklungen generiert und ungeprüft veröffentlicht. Hier kann die Transparenzpflicht greifen. Für Unternehmen ist deshalb eine dokumentierte redaktionelle Freigabe sinnvoll. Sie hilft dabei, nachvollziehbar zu machen, dass veröffentlichte Inhalte einer echten menschlichen Kontrolle unterzogen wurden.

Quelle: Generiert mit KI

Was gilt für KI-Bilder im Marketing und in Social Media?

Generative Bild-KI wird inzwischen für Kampagnenvisuals, Blogbilder, Social-Media-Posts, Präsentationen und Werbemittel eingesetzt. Für diese Inhalte muss zwischen der technischen Kennzeichnung durch den Anbieter des KI-Systems und einer sichtbaren Offenlegung durch das veröffentlichende Unternehmen unterschieden werden.

Anbieter generativer KI-Systeme müssen die von ihren Systemen erzeugten oder manipulierten Inhalte grundsätzlich maschinenlesbar markieren. Die Vorgaben umfassen Audio, Bild, Video und Text. Für ein Unternehmen entsteht eine sichtbare Offenlegungspflicht insbesondere bei Deepfakes. Ein klassisches KI-generiertes Stockfoto für einen Blogbeitrag fällt deshalb nicht automatisch unter die gleiche Regel wie ein künstlich erzeugtes Video einer realen Vorstandsvorsitzenden, die scheinbar eine Aussage vor der Kamera trifft.

Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke sieht der AI Act angepasste Anforderungen vor. Die Offenlegung soll in einer Weise erfolgen, die die Darstellung oder Nutzung des Werks möglichst wenig beeinträchtigt. Marketingteams sollten deshalb bei realistisch wirkenden KI-Inhalten prüfen, ob Menschen das Gezeigte als authentische Aufnahme verstehen könnten. Diese Frage ist insbesondere bei Personen, realen Produkten, Orten und Ereignissen relevant.

Wie muss die Kennzeichnung von KI-Inhalten aussehen?

Wo eine Offenlegungspflicht besteht, muss die Information klar und für Menschen wahrnehmbar sein. Eine technische Markierung im Hintergrund ersetzt eine erforderliche sichtbare Offenlegung nicht. Die Vorgaben verlangen, dass betroffene Personen spätestens bei der ersten Interaktion beziehungsweise ersten Wahrnehmung des entsprechenden Inhalts informiert werden.

Die EU-Kommission hat ergänzend einen Code of Practice on Transparency of AI-generated Content entwickelt. Er soll bei der praktischen Umsetzung der Kennzeichnungs- und Offenlegungspflichten helfen. Die Teilnahme an diesem Verhaltenskodex ist freiwillig, die Anforderungen aus Artikel 50 bleiben verbindlich. Die Bundesnetzagentur verweist ebenfalls auf diesen Praxisrahmen. Der Code sieht unter anderem standardisierte Ansätze für die Kennzeichnung vor. Dazu gehört auch ein EU-Icon für entsprechende KI-Inhalte. Unternehmen können sich daran orientieren, um ihre Kennzeichnung konsistent und verständlich umzusetzen.

Kennzeichnung von KI-Inhalten gehört in den Content-Workflow

Für Content- und Marketingteams ergibt es wenig Sinn, die Prüfung erst unmittelbar vor der Veröffentlichung vorzunehmen. Besser ist ein fester Prozess. Bereits bei der Content-Produktion sollte feststehen, ob generative KI eingesetzt wurde und welche Rolle das Tool gespielt hat. Bei Texten sollte dokumentiert werden, wer die fachliche und redaktionelle Prüfung übernommen hat. Bei Bildern, Videos und Audioinhalten ist zu prüfen, wie realistisch das Ergebnis wirkt und ob reale Personen, Objekte, Orte oder Ereignisse künstlich dargestellt wurden.

Besonders sensible Inhalte sollten eine zusätzliche Prüfung erhalten. Das betrifft etwa synthetische Stimmen realer Personen, KI-Avatare, künstlich erzeugte Interviews, veränderte Videoaufnahmen oder fotorealistische Darstellungen realer Ereignisse.

Auch die jeweiligen Plattformregeln sollten berücksichtigt werden. Social-Media-Netzwerke, Videoportale und Werbeplattformen können eigene Anforderungen an KI-generierte Inhalte festlegen. Diese Vorgaben können über die Anforderungen des AI Act hinausgehen.

KI-Kennzeichnung und Urheberrecht getrennt betrachten

Die Kennzeichnung von KI-Inhalten beantwortet eine Transparenzfrage. Davon getrennt müssen Unternehmen weitere rechtliche Themen beachten. Dazu gehören beispielsweise Urheberrechte, Persönlichkeitsrechte, Markenrechte und Datenschutz. Ein ordnungsgemäß gekennzeichnetes KI-Bild kann trotzdem Rechte Dritter berühren. Umgekehrt bedeutet eine fehlende Kennzeichnungspflicht nicht automatisch, dass ein Inhalt ohne weitere Prüfung verwendet werden kann. Gerade bei realen Personen, bekannten Marken, geschützten Werken oder sensiblen personenbezogenen Daten ist deshalb eine zusätzliche Prüfung sinnvoll.

Quelle: Generiert mit KI

KI und Urheberrecht: Wem gehört KI-generierter Content?

Auch beim Urheberrecht wirft generative KI neue Fragen auf. Nach deutschem Urheberrecht können nur persönliche geistige Schöpfungen als Werke geschützt sein. Ein Inhalt, der vollständig von einer KI erzeugt wurde, ist nach Einschätzung des Deutschen Patent- und Markenamts daher grundsätzlich nicht urheberrechtlich geschützt. Anders kann die Situation aussehen, wenn ein Mensch die KI als Werkzeug einsetzt und das Ergebnis durch eigene kreative Entscheidungen wesentlich prägt. Ob dabei ein urheberrechtlich geschütztes Werk entsteht, hängt vom konkreten Einzelfall und vom menschlichen schöpferischen Beitrag ab. Für Unternehmen ist noch ein zweiter Punkt wichtig: Fehlender Urheberrechtsschutz am KI-Output bedeutet nicht, dass dieser bedenkenlos verwendet werden kann. Ein generiertes Bild, ein Text oder anderer Content kann bestehenden geschützten Werken ähneln oder fremde Rechte berühren. Deshalb sollten Marketing- und Content-Teams gerade bei kommerziell genutzten KI-Inhalten prüfen, ob erkennbare Bestandteile geschützter Werke, Marken oder Personen übernommen wurden. Das Urheberrecht spielt laut DPMA daher neben der Schutzfähigkeit des Outputs auch bei dessen Nutzung und beim Training von KI-Modellen eine Rolle.

Muss ich meine KI-generierten Inhalte kennzeichnen?

Vor der Veröffentlichung von KI-basierten Inhalten sollte man diese zunächst einmal einer Prüfung unterziehen: Sind die Inhalte und Informationen korrekt? Könnte das Material Urheberrecht verletzen? Werden reale oder realistisch wirkende Personen, Ereignisse oder auch Orte gezeigt? Können die ersten beiden Fragen zufriedenstellend beantwortet werden, darf man die Inhalte veröffentlichen. Darüber, ob man die Inhalte kennzeichnen muss, entscheidet aktuell aber vor allem die letztere Frage. Der EU Act und zahlreiche Plattformrichtlinien stellen eine Kennzeichnungspflicht für Content, der sich nicht eindeutig von realen Inhalten unterscheidet, um User:innen zu schützen. Solche KI-generierte Inhalte sollte man also in jedem Fall kennzeichnen. Im Rahmen der transparenten Kommunikation mit Kund:innen und Partnern ist die zuverlässige Kennzeichnung jedoch auch abseits davon sinnvoll:

„Vor allem gegenüber Geschäftspartnern sollte man als Unternehmen, beispielsweise als Kreativagentur, natürlich transparent sein und klar kommunizieren, wenn KI in den Erstellungsprozess involviert ist. Denn wenn diese Partner für die Leistung geschulter Mitarbeiter:innen bezahlen und dann erfahren, dass ihnen KI-generierte Inhalte zugespielt wurden, werden sie sich vor den Kopf gestoßen fühlen. Das kann das Vertrauensverhältnis von Kund:in und Dienstleister ganz erheblich erschüttern.“

Claudia Schlömer, Senior-Beraterin und Team-Lead der PR-Agentur Drunk Octopus Communications.

Was droht bei Verstößen gegen die Transparenzpflichten?

Der AI Act sieht bei Verstößen gegen bestimmte Verpflichtungen erhebliche Geldbußen vor. Für Verstöße gegen andere Pflichten der Verordnung als die besonders streng sanktionierten verbotenen KI-Praktiken können Bußgelder von bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes eines Unternehmens vorgesehen sein. Welche Sanktion im Einzelfall verhängt wird, hängt unter anderem von Art, Schwere und Dauer des Verstoßes ab.

In Deutschland regelt seit dem 29. Juli 2026 das KI-Marktüberwachungs- und-Innovationsförderungs-Gesetz, kurz KI-MIG, wichtige Fragen zur nationalen Umsetzung und Zuständigkeit. Das Gesetz benennt unter anderem Marktüberwachungsbehörden, eine zentrale Anlaufstelle und eine zentrale Beschwerdestelle. Die Bundesnetzagentur übernimmt dabei zentrale Aufgaben; für bestimmte Branchen und Anwendungsfälle können andere Behörden zuständig sein.

Fazit: Bei KI-Inhalten kommt es auf den konkreten Einsatz an

Die Kennzeichnung von KI-Inhalten ist seit August 2026 für Unternehmen eine konkrete Compliance-Aufgabe. Eine pauschale Pflicht zur sichtbaren Markierung jedes KI-generierten Textes oder Bildes gibt es im AI Act nicht. Entscheidend sind Inhalt, Kontext und Art des KI-Einsatzes. Besondere Aufmerksamkeit verdienen Deepfakes und KI-generierte Texte über Angelegenheiten von öffentlichem Interesse. Bei Texten spielt eine nachvollziehbare menschliche und redaktionelle Kontrolle eine zentrale Rolle. Anbieter generativer KI müssen zudem technische Lösungen für die maschinenlesbare Erkennung künstlich erzeugter Inhalte bereitstellen.

Für Unternehmen empfiehlt sich deshalb ein klarer KI-Content-Prozess: Einsatz dokumentieren, Inhalte fachlich prüfen, Verantwortlichkeiten festlegen und kennzeichnungspflichtige Inhalte transparent ausweisen. Auf diese Weise wird der Einsatz generativer KI im Marketing nachvollziehbarer und lässt sich besser mit den neuen gesetzlichen Anforderungen verbinden.

Stand: August 2026. Der Beitrag dient der allgemeinen Information und ersetzt keine rechtliche Prüfung des Einzelfalls.

Der Beitrag Kennzeichnung von KI-Inhalten: Pflicht oder Kür? erschien zuerst auf contentmanager.de.

Über die Kennzeichnung von KI-Inhalten haben wir bereits in einem anderen Beitrag ausführlich gesprochen. Müssen sie als solche markiert werden oder kann man sie ohne diesen Zusatz veröffentlichen? Ob Pflicht oder Kür – hierbei ging es vor allem um Inhalte die komplett von künstlicher Intelligenz erstellt wurden. Das neue Google Update, welches der Fokus dieses Beitrags ist, zielt aber auf eine andere Art von Bildern ab: Bilder, die mithilfe von KI-Tools bearbeitet wurden. Dies ist ein besonderer Bereich, da man meist komplett durch KI generierte Inhalte noch etwas leichter erkennt, als reale Fotos, die anschließend verändert wurden.

Der Magic Editor, Magic Eraser und Zoom Enhance

Die Möglichkeiten Google Fotos mithilfe von KI zu bearbeiten werden seit Jahren ausgebaut. So kann man ein verschwommenes Foto mit nur einem Klick scharf stellen, Objekte ausschneiden, deren Position im Bild verändern oder die ganze Atmosphäre des Bildes anpassen. Während die Bearbeitung von Fotos mit diesen KI-Tools bisher nur durch eine Erwähnung in den Metadaten gekennzeichnet wurde, will Google diese Kennzeichnung nun ausbauen: Ab dieser Woche finden Nutzer:innen die Information auch in der Foto-App. Neben den bisherigen Daten wie dem Namen der Datei, dem Standort oder der Dateigröße findet man deshalb ab jetzt einen Abschnitt namens AI info.

Was bedeutet diese Neuerung?

Die neue Kennzeichnung der Bilder ist erst einmal nur für die Nutzer:innen sichtbar. Selbst wenn sie diese auf Social Media teilen, wird die Informationen nicht mit hochgeladen. Was bringt die Neuerung also?  Der Schritt von Google ist in jedem Fall eine positive Nachricht: Das Thema Kennzeichnung von KI-Bearbeitung wird ernst genommen. Es liegt nicht nur an dem Menschen selbst, KI-Inhalte mit dem bloßen Auge zu erkennen. Je weiter sich diese Technologie entwickelt, desto mehr müssen wir uns auch mit den Sicherheitsfragen beschäftigen. Denn die Manipulation von Inhalten durch KI ist schon heute ein Thema und ein wichtiger Bereich, wenn es darum geht, die Ethik hinter der KI und ihrem Einsatz zu betrachten.

Welche Bildbearbeitungs-Features gibt es bei Google Fotos?

• Magic Eraser: Wie der Name passend beschreibt, kann man hiermit Objekte einfach ‘wegradieren‘. So werden unwichtige Störer ganz einfach entfernt. Der Hintergrund wird derweil durch KI reibungslos erweitert und das gelöschte Objekt fällt nicht weiter auf.
• Photo Unblur: Verschwommene Fotos werden per Knopfdruck auf scharf gestellt.
• Porträt-Unschärfe: Das Bild wird in Porträtmodus verwandelt und der Hintergrund wird unscharf. Die Stärke dieser Verschwommenheit kann der oder die Nutzer:in selbst einstellen.
• Porträtlicht: Die Lichtquelle und ihre Positionierung können verändert werden. Es passen sich automatisch alle Schatten an die neue Position an.
• Cinematic Photo: Aus statischen Fotos werden 3D Bilder erstellt, die langsam in die Szene hineinzoomen.
• Video-Effekte: Neben den Standardeinstellungen, wie dem Zuschneiden, der Geschwindigkeitsanpassung oder der Stabilisierung des Videomaterials, gibt es auch die Möglichkeit, Hauttöne oder Blautöne anzupassen. Die KI erkennt die unterschiedlichen Bereiche und kann so die Sättigung anpassen ohne die Sättigung des gesamten Bildausschnitts zu verändern.
• Color Pop: Auch mit der Sättigung spielen kann man durch den Color-Pop-Effekt. Hierbei wird der Hintergrund entsättigt ohne dem Vordergrund die Farbe zu entziehen.
• Vorschläge für Himmel: Um nur den Himmel in einem Bild anzupassen, gibt es die Einstellung ‚Himmel‘. Farben und Kontraste können verändert werden.

Transparenz ist das Stichwort: Kennzeichnung von KI-Bearbeitung

Dass Bilder und Videos heutzutage mit künstlicher Intelligenz bearbeitet werden, sollte niemanden mehr wundern. Trotzdem steckt die Kennzeichnung dieser noch in den Kinderschuhen. Google hat mit der Neuerung daher einen ersten kleinen Schritt in die richtige Richtung gemacht. Es wird in Zukunft noch spannend, wie sich dieser Bereich weiterentwickelt.

Der Beitrag Kennzeichnung von KI-Bearbeitung: Google Fotos erschien zuerst auf contentmanager.de.