Ist das fake oder ist das echt?
Immer mehr User fragen sich, ob Inhalte real sind oder aus der Feder der KI stammen. Das betrifft mittlerweile nicht mehr nur KI-erstellte Texte, sondern auch KI-E-Mails oder Beratungs-Avatare in Online-Shops.
Die Europäische Union hat daher die gesetzliche KI-Kennzeichnungspflicht nach der EU-KI-Verordnung (AI-Act) ins Leben gerufen. Der Grund: Schutz vor Täuschung.
Diese Verordnung besagt, dass Unternehmen Ihre KI-generierte Inhalte (Social-Media, Texte oder Bilder) als solche kennzeichnen müssen. Die KI-Kennzeichnungspflicht gilt ab August 2026. Für die Umsetzung gibt es einen konkreten Verhaltenskodex.
Aber was genau bedeutet das eigentlich und was müssen Unternehmen beachten, die KI nutzen? Wir geben Ihnen einen Überblick.
Was zählt alles zum KI-Inhalt?
Text, Social-Media, Bild, Video, Audio… Wenn Sie einen Inhalt mithilfe einer Künstlichen Intelligenz erstellen lassen und veröffentlichen, handelt es sich um KI-Inhalt. Und genau diesen müssen Sie verpflichtend kennzeichnen.
Das große „Aber“ beim Thema KI-Kennzeichnung
Nutzen Sie die KI lediglich dazu, einen Entwurf zu erstellen und überarbeiten diesen selbst, entfällt die Kennzeichnungspflicht. Denn die KI dient in dem Fall dann nur als Unterstützung. Auch wenn Sie beispielsweise Ihre KI-Inhalte nie veröffentlichen, müssen Sie auch nichts kennzeichnen.
KI-Inhalte entstehen in den folgenden vier Bereichen:
- Text
- Video, Bild & Audio
- Social-Media
- Interaktionen
Wir zeigen auf, wann und wie KI gekennzeichnet werden muss, und wann nicht. Dann führen wir Beispiele auf, für die eine KI-Kennzeichnung relevant ist, und wo Sie die Kennzeichnung unterbringen können.
KI-Kennzeichnungspflicht bei Texten
Irgendetwas fühlt sich beim Lesen des Textes nicht richtig an… Der Inhalt ist zu glatt, alle Sätze wirken von der Länge und dem Fluss gleich lang. Da gibt es nichts Menschliches. Und: Die Inhalte sind an die Allgemeinheit gerichtet.
Genau solche KI-generierten-Texte, die mit ihren Informationen der Öffentlichkeit oder dem öffentlichen Interesse dienen, müssen Sie kennzeichnen. Hierzu zählen beispielsweise Nachrichten, politische Informationen und gesellschaftlich relevante Themen.
Insofern die KI lediglich einen Textentwurf für Sie erstellt, Sie diesen aber anpassen, entfällt die Pflicht. Zudem sind Produktbeschreibungen und Übersetzungen vom AI-Act ausgenommen.
Warum? Weil Produktbeschreibungen dem reinen Warenverkauf und nicht der Information der Öffentlichkeit dienen. Bei Übersetzungen hingegen muss gewährleistet sein, dass keine inhaltliche Änderung stattfindet. Zudem darf der Text keine sicherheitsrelevanten Hinweise enthalten.
Wie können Sie darstellen, dass ein Inhalt KI-erstellt ist? Sie ergänzen am Ende des Artikels oder im Impressum einfach die folgende Aussage: „Inhalt wurde mithilfe künstlicher Intelligenz erstellt“ oder „Text KI-unterstützt erstellt“.
KI-Kennzeichnungspflicht bei Video-, Bild- & Audio-Inhalten
Deepfakes wie zum Beispiel groteske Bildaufnahmen oder unglaubliche Videoaufnahmen, … mittlerweile häufen sich solche Inhalte im Web.
Ein KI-Kennzeichnungs-Beispiel sind Politikerreden. Aber auch künstliche Interviews, manipulierte Unternehmensvideos, synthetische Produktpräsentationen sowie KI-erstellte Firmengebäude-Bilder.
Ausgenommen sind Illustrationen wie Grafiken, Icons, Comics, Werbeillustrationen, sofern das Bild nicht wesentlich verändert worden ist. Das bedeutet, dass nur die Belichtung angepasst oder die Farbe korrigiert worden ist. Und wenn auch sonst keine Irreführung stattfindet.
Wie können Sie darstellen, dass ein Inhalt KI-erstellt ist? Sie schreiben als kleine Bildunterschrift oder in der Beschreibung beispielsweise den folgenden Text: „KI-generiertes Bild“. Bei Videos können Sie einen Text einblenden lassen: „Video enthält KI-erstellte Inhalte“.
KI-Kennzeichnungspflicht bei Interaktionen
Statt einer menschlichen Stimme, hören Sie eine roboterhafte Audio-Aufnahme und wissen in den meisten Fällen sofort: Da spricht keine Person am anderen Ende der Leitung. Aber mittlerweile gibt es eine Vielzahl an KI-Chatbots oder KI-E-Mail, und dann kann es schnell unklar werden, wann der Roboter mit einem chattet. Vor allem Online-Shops nutzen mehr und mehr solcher Beratungs-Avatare, um Kosten zu sparen.
Nutzer müssen jedoch unmittelbar erkennen können, dass Sie mit einer KI interagieren.
Wann entfällt die Pflicht? Sobald es offensichtlich ist, dass man mit einer KI interagiert, wie beispielsweise bei integrierten KI-Systemen (ChatGPT), oder wenn ein Kundenberater im Gespräch eine KI-Anwendung unterstützend nutzt. Sie entfällt auch dann, wenn die KI nur im Hintergrund Prozesse anstößt oder wenn ein Mitarbeiter eine E-Mail mithilfe der KI erstellt.
Wie können Sie darstellen, dass ein Inhalt KI-erstellt ist? Website-Betreiber müssen direkt beim Start der Unterhaltung eine kurze Mitteilung einbauen, die etwa folgende Aussage enthält: „Sie sprechen mit einem KI-gestützten Assistenten.“
KI-Kennzeichnungspflicht bei Social-Media
User lassen ein Like oder ein Kommentar da, weil sie den gezeigten Inhalt gut finden. Aber später stellt sich heraus: Der Content war gar nicht echt. Und womöglich hat der User den Post bereits weitergegeben und damit unwissentlich eine Falschmeldung verbreitet.
Deswegen müssen User wissen, ab wann sie im Bereich Social-Media einem KI-Inhalt begegnen. Das betrifft KI-erstellte Bilder, oder Videos. Hierfür reicht ein kurzer Bildhinweis oder eine Info in der Caption.
Was passiert, wenn die KI-Kennzeichnung nicht dargestellt wird? Werden KI-generierte Inhalte ohne Kennzeichnungen in Sozialen Netzwerken veröffentlicht, drohen Plattformsanktionen. Das kann die Löschung von Inhalten oder die Sperrung von Konten sein. Das hängt wiederum von den individuellen Plattformregelungen ab.
Verletzt ein KI-Inhalt Persönlichkeitsrechte, etwa bei einem Deepfake einer realen Person, kommen zudem zivilrechtliche Unterlassungs- und Schadensersatzansprüche hinzu. Das ist also keinesfalls ein Kavaliersdelikt!
Und keine Sorge: Für alle Inhalte, die vor dem 02.08.26 mit der KI erstellt, aber nicht gekennzeichnet worden sind, gilt die Pflicht nicht rückwirkend.
Verstoß gegen die KI-Kennzeichnungspflicht
Wer die Pflicht nicht einhält, kann mitunter kostspieligen Strafen begegnen. Die KI-VO, in der der Artikel 50 zur KI-Kennzeichnung hinterlegt ist, bestraft Verstöße mit Bußgeldern bis zu 15 Mio. Euro oder 3 Prozent des Jahresumsatzes.
Die Bundesnetzagentur kontrolliert die KI-Kennzeichnungspflicht in Deutschland. Die tatsächliche Höhe richtet sich nach Schwere, Dauer und Vorsatz des Verstoßes sowie der Unternehmensgröße.
Neben der behördlichen Sanktion droht die wettbewerbsrechtliche Abmahnung durch Mitbewerber und klagebefugte Verbände.
Sie möchten mehr zum Thema AI erfahren? Wir beraten Sie unter anderem zur AI Info Seite und wieso diese beim Thema Google-Sichtbarkeit Ihrer Webseite relevant ist.