KI-Kennzeichnung ist Pflicht: Warum Sie trotzdem nichts sehen
Von Jörg SchockErster Hauptkommissar a. D. · über 35 Jahre Hamburger Polizei
Symbolbild: KI-generiert.
Seit acht Tagen gilt in der Europäischen Union eine Regel, die klingt, als hätte jemand endlich das Offensichtliche angeordnet: Was von einer KI stammt, muss als solches erkennbar sein. Ich habe die Umstellung selbst mitgemacht – unter jedem KI-Bild auf dieser Seite steht seit Wochen ein Hinweis, auch unter dem hier oben. Und trotzdem halte ich die Pflicht für gefährlich missverstanden. Denn sie wirkt genau dort nicht, wo die Leute glauben, dass sie wirkt.
Die Wurzel: Eine Pflicht bindet nur den, der sich an Pflichten hält
In über 35 Jahren bei der Polizei habe ich eine Sorte Missverständnis immer wieder erlebt. Nach jeder neuen Vorschrift kam die Frage: „Dann ist das jetzt also weg?" Nein. Eine Vorschrift verändert zuverlässig das Verhalten derjenigen, die ohnehin greifbar sind – Unternehmen mit Impressum, Behörden, Redaktionen, Agenturen. Auf jemanden, der aus dem Ausland heraus mit gefälschten Konten ein Anlagebetrugsvideo verbreitet, wirkt sie ungefähr so stark wie ein Halteverbotsschild auf ein Fluchtfahrzeug.
Das ist der Kern: Die Kennzeichnungspflicht sortiert den ehrlichen Teil des Netzes. Den unehrlichen sortiert sie nicht. Und weil künftig immer mehr harmlose Inhalte ein Label tragen, entsteht im Kopf eine Faustregel, die vorher niemand hatte – „kein Label, also echt". Diese Faustregel ist falsch, und sie ist schlechter als gar keine Regel, weil sie Vertrauen dort erzeugt, wo vorher gesundes Misstrauen war.
Was gilt seit dem 2. August 2026 genau?
Kurzantwort: Artikel 50 der KI-Verordnung ist wirksam geworden. Anbieter von KI-Systemen müssen erzeugte Inhalte maschinenlesbar markieren; wer KI beruflich einsetzt, muss Deepfakes offenlegen, und Chatbots müssen sich als Maschine zu erkennen geben. Zuständig für die Aufsicht in Deutschland ist die Bundesnetzagentur. Bußgelder reichen bis 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes.
Etwas ausführlicher, weil die Unterscheidung wichtig ist. Die Pflicht hat zwei Ebenen. Die eine liegt beim Anbieter des KI-Werkzeugs: Was das System ausgibt, soll technisch als künstlich erzeugt markiert sein – unsichtbar, im Datenstrom, für Maschinen lesbar. Die andere liegt beim Anwender: Wer ein Bild, Video oder eine Tonaufnahme veröffentlicht, das reale Personen, Orte oder Ereignisse täuschend echt darstellt, muss das offenlegen, und zwar so, dass man es tatsächlich wahrnimmt. Ein Fachanwalt fasst es in der Berichterstattung so zusammen, dass ein sichtbares Label „im oder zumindest am Bild selbst" gehört. Ein unauffälliges Wasserzeichen, ein Hashtag am Ende der Bildunterschrift oder ein Satz im Impressum genügen ausdrücklich nicht.
Rein private Nutzung ist nicht erfasst. Wer der Familie ein albernes KI-Bild in den Gruppenchat schickt, tut nichts Verbotenes. Sobald jemand gewerblich unterwegs ist – Influencer, Verkäufer, Dienstleister –, gilt die Pflicht. Der Übergang ist in der Praxis fließender, als vielen bewusst ist.
Parallel dazu hat Deutschland seine Zuständigkeit geregelt: Das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) macht die Bundesnetzagentur zur nationalen Aufsicht; sie ist damit auch die Stelle, an die sich Beschwerden richten lassen. Alternativ – und in der Praxis meist schneller – bleibt die Meldung direkt bei der Plattform.
Warum das Label auf dem Weg zu Ihnen verschwindet
Jetzt kommt der technische Teil, den die Schlagzeilen ausgelassen haben. Die maschinenlesbare Markierung ist keine Eigenschaft des Bildes, sondern ein Anhängsel der Datei. Sie steht in den Metadaten – im gleichen Bereich, in dem auch Aufnahmedatum und Kameramodell liegen. Der Industriestandard dafür heißt C2PA beziehungsweise „Content Credentials".
Metadaten sind zerbrechlich, und das ist kein Fehler, sondern Bauart. Sie überstehen keinen Screenshot. Sie überstehen oft keine Formatumwandlung. Und sie überstehen häufig nicht das erneute Kodieren, das jede Plattform beim Hochladen vornimmt, um Bilder für Mobilgeräte zu verkleinern. Fachbeobachtungen zur Verbreitung des Standards beschreiben übereinstimmend, dass große soziale Netzwerke die Signatur beim Upload entfernen; LinkedIn gilt als eine der wenigen Ausnahmen, und Meta liest die Angabe zumindest beim Hochladen aus und setzt daraus ein eigenes Hinweisschild, statt die Signatur selbst durchzureichen.
Für Sie heißt das: Selbst ein sauber markiertes Bild kommt in Ihrem Feed regelmäßig ohne Markierung an. Nicht, weil jemand betrogen hätte, sondern weil die Kette an einer ganz normalen Stelle reißt.
Kann ich KI-Bilder mit einem Detektor prüfen?
Kurzantwort: Nur als Indiz, nie als Beweis. Prüfwerkzeuge liefern falsche Treffer bei echten Fotos und übersehen zugleich KI-Bilder. Für Texte kursieren Trefferquoten um 85 Prozent, während Anbieter mit Werten nahe 100 Prozent werben; ein großer Zeitungstest kam bei einem verbreiteten Werkzeug auf über die Hälfte fehlerhafter Einordnungen. Etliche Hochschulen haben den Einsatz solcher Scanner deshalb eingestellt.
Der Grund ist strukturell: Moderne Handykameras rechnen selbst schon massiv am Bild – Nachtmodus, Porträtfreisteller, Beauty-Filter, Hintergrundretusche. Wo genau die Fotografie aufhört und die Erzeugung beginnt, ist an den Bilddaten nicht mehr trennscharf abzulesen. Ein Detektor, der stark bearbeitete echte Fotos als Fälschung markiert, hat nicht einfach einen Bug; er stößt an eine Grenze, die es objektiv gibt.
Ich benutze solche Werkzeuge trotzdem gelegentlich, aber nur in einer Richtung: Schlägt der Detektor an, schaue ich genauer hin. Schlägt er nicht an, beweist das gar nichts. Wer sich das umgekehrt merkt, hat sich ein Werkzeug gekauft, das ihn beruhigt statt informiert.
Wen betrifft das wirklich – und wen nicht?
Entwarnung zuerst, weil in den letzten Tagen viel Aufgeregtes kursiert ist: Für Sie als Privatperson ändert sich rechtlich nichts. Sie müssen nichts umstellen, nichts nachrüsten, nichts anmelden. Ihre Urlaubsfotos bleiben Ihre Urlaubsfotos, auch wenn das Handy sie ordentlich aufgehübscht hat.
Spürbar wird die Regel für drei Gruppen. Für Selbstständige und kleine Betriebe, die KI-Bilder in Werbung, Shop oder Social Media nutzen – dort ist die Kennzeichnung jetzt eine Pflicht mit Bußgeldrahmen, nicht mehr eine Frage des Anstands. Für Redaktionen und Kanäle, deren Publikum von nun an genau hinsehen wird. Und für alle, die Ziel von Betrugsmaschen sind: Sie bekommen keinen neuen Schutz, aber möglicherweise ein neues, falsches Sicherheitsgefühl.
Der praktisch wichtigste Effekt ist deshalb ein psychologischer, kein juristischer. Genau davor möchte ich warnen, und genau deshalb steht dieser Artikel hier.
Was jetzt wirklich hilft, in dieser Reihenfolge
Stufe 1 – kostet nichts: die Quelle prüfen statt das Bild. Das ist der wirksamste Schritt, und er kommt ganz ohne Technik aus. Nicht „sieht die Hand komisch aus?", sondern: Wer verbreitet das? Seit wann existiert dieses Konto? Berichten seriöse Medien ebenfalls darüber? Ein spektakuläres Ereignis, das nur ein einziges Konto kennt, hat mit hoher Wahrscheinlichkeit nicht stattgefunden. Bei Bildern hilft die umgekehrte Bildersuche in Google, Bing oder TinEye: Taucht dasselbe Motiv Jahre früher in einem anderen Zusammenhang auf, ist die Sache erledigt.
Stufe 1b – kostet ebenfalls nichts: die Zweitkanal-Regel bei allem, was Geld kostet. Diese Regel ist alt, aber gegen KI-Fälschungen wichtiger denn je: Wenn eine Nachricht, ein Anruf oder ein Video Sie zu einer Zahlung, einer Überweisung oder der Herausgabe von Zugangsdaten bewegen will, brechen Sie den Kanal und melden sich über einen selbst gewählten Weg zurück – die Nummer aus Ihrem eigenen Adressbuch, die Bank-App, die offizielle Website. Eine perfekt geklonte Stimme scheitert an dieser Regel zuverlässig, weil sie den zweiten Kanal nicht kontrolliert. Wie diese Maschen konkret ablaufen, steht in unserem Ratgeber zum Schockanruf mit geklonter KI-Stimme.
Stufe 2 – überschaubarer Aufwand: die Hinweise nutzen, die es tatsächlich gibt. Einige Plattformen zeigen bei erkannten KI-Inhalten von sich aus ein Info-Schild an; wer Content Credentials selbst prüfen will, kann eine Bilddatei bei der offiziellen Prüfseite des Standards hochladen. Wichtig bleibt die Leserichtung: Ein vorhandener Herkunftsnachweis ist eine gute Information. Ein fehlender ist keine.
Stufe 3 – die eigene Verbreitung: erst prüfen, dann teilen. Das ist der einzige Hebel, der die Reichweite von Fälschungen wirklich senkt, und er kostet nur ein paar Sekunden Geduld. Wer beruflich postet, sollte zusätzlich eine schlichte Hausregel einführen: Jedes KI-Bild bekommt eine sichtbare Bildunterschrift, jedes Mal, ohne Ausnahmeliste. Genau so halten wir es hier – und ehrlicherweise ist das auch der einzige Grund, warum ich in diesem Artikel überhaupt guten Gewissens ein KI-Bild verwenden kann.
Was wir selbst tun
Weil Transparenz billig zu behaupten und teuer einzuhalten ist, hier unser Stand: Jedes von uns erzeugte Bild trägt unter dem Bild den Hinweis „Symbolbild: KI-generiert". Das gilt für Ratgeber, für Nachrichtenbeiträge und für die Kanäle. Bei Produktfotos von Herstellern und bei echten Aufnahmen aus unserem Testbetrieb steht diese Zeile nicht – dort ist nichts erzeugt worden.
Was ich dabei gelernt habe: Der Aufwand liegt nicht in der Zeile. Er liegt darin, sicherzustellen, dass keine Ausnahme durchrutscht, wenn nachts eine Automatik ein Bild einsetzt. Eine Kennzeichnungspflicht ist eine Prozessfrage, keine Gestaltungsfrage. Wer das umgekehrt angeht, hat in sechs Wochen ein unmarkiertes Bild online und weiß nicht, warum.
Häufige Fragen
Gilt die Pflicht auch für KI-geschriebene Texte?
Für veröffentlichte Texte, die über Angelegenheiten von öffentlichem Interesse informieren, ja – sofern sie ohne ausreichende menschliche redaktionelle Kontrolle entstanden sind. Interne E-Mails, Notizen oder eine mit KI formulierte Produktbeschreibung fallen nach der bisherigen Auslegung nicht darunter. Wer redaktionell prüft und verantwortet, was er veröffentlicht, ist in der Ausnahme.
Muss ein Chatbot mir sagen, dass er kein Mensch ist?
Ja. Systeme, die direkt mit Menschen interagieren, müssen dies zu Beginn der Interaktion offenlegen – das gilt auch für Telefon-Sprachassistenten in Service-Hotlines. Ausgenommen sind Fälle, in denen es für einen verständigen Menschen ohnehin offensichtlich ist.
Wo kann ich einen Verstoß melden?
Zentrale Anlaufstelle in Deutschland ist die Bundesnetzagentur, die seit dem 2. August 2026 die Marktüberwachung für KI übernimmt. Für den Alltag ist die Meldefunktion der jeweiligen Plattform meist der schnellere Weg, weil sie den Inhalt selbst entfernen oder kennzeichnen kann.
Wie erkenne ich ein KI-Video an Bildfehlern?
Immer schlechter, und darauf sollten Sie sich nicht verlassen. Die bekannten Merkmale – sechs Finger, verrutschte Schrift im Hintergrund, glasiger Blick – verschwinden mit jeder Modellgeneration. Verlässlicher sind Widersprüche im Inhalt: Passt die Kleidung zur Jahreszeit? Wirft alles Schatten in dieselbe Richtung? Und vor allem: Ergibt es Sinn, dass ausgerechnet diese Person ausgerechnet dieses Angebot bewirbt?
Fazit
Die Kennzeichnungspflicht ist richtig, und ich bin froh, dass es sie gibt. Sie schafft Klarheit im seriösen Teil des Netzes, sie gibt Aufsichtsbehörden ein Werkzeug, und sie zwingt Anbieter, ihre Ausgaben überhaupt erst markierbar zu machen. Nur macht sie Ihren Feed nicht sicherer.
Der Grund ist so schlicht wie unbequem: Eine Pflicht wirkt auf Regeltreue. Das Bild, das Sie um Ihr Geld bringen soll, kommt von jemandem, der sich an nichts hält – und selbst das ehrlich markierte Bild verliert seine Markierung auf dem Weg durch Screenshot und Upload. Deshalb bleibt das Wichtigste, was Sie aus dem 2. August 2026 mitnehmen können, ein Negativsatz: Kein Label heißt nicht echt.
Was hilft, hat sich durch die neue Regel kein Stück verändert. Fragen Sie nach der Quelle, nicht nach dem Bild. Brechen Sie den Kanal, sobald es um Geld geht. Und teilen Sie erst, wenn Sie geprüft haben. Das ist weniger befriedigend als ein Prüfsiegel – aber es funktioniert auch dann noch, wenn die nächste Modellgeneration die letzten sichtbaren Fehler ausgebügelt hat.
Quellen und Belegtrennung: Transparenzpflichten nach Artikel 50 der KI-Verordnung (EU) 2024/1689 anwendbar seit 2. August 2026; Pflichten für Anbieter (maschinenlesbare Markierung) und Betreiber (Offenlegung von Deepfakes, Chatbot-Hinweis), Ausnahme für nicht gewerbliche private Nutzung, Bußgeldrahmen bis 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes; Anforderung an ein sichtbares Label „im oder zumindest am Bild selbst" sowie die Textausnahme für Inhalte ohne öffentliches Interesse als Einordnung eines Fachanwalts in der Berichterstattung (ZDFheute-Ratgeber, Fachpresse) – keine Primärauslegung durch eine Behörde. · Nationale Zuständigkeit: KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG); die Angaben zur Verkündung im Bundesgesetzblatt 2026 I Nr. 233 vom 28.07.2026 und zum Inkrafttreten am 29.07.2026 sind der Fachberichterstattung entnommen und wurden nicht am amtlichen Verkündungsblatt gegengeprüft. · Metadaten-Verhalten der Plattformen (Entfernen von C2PA-Manifesten beim Upload, Ausnahmen bei einzelnen Diensten, serverseitiges Auslesen mit eigenem Hinweisschild): Fachbeobachtungen und Adoption-Berichte aus dem Jahr 2026, kein amtlicher Befund; das Verhalten einzelner Dienste ändert sich laufend und wurde von uns nicht selbst gemessen. · Zuverlässigkeit von KI-Detektoren: berichtete Trefferquote um 85 Prozent gegenüber Anbieterangaben nahe 100 Prozent sowie ein Zeitungstest mit über 50 Prozent Fehleinordnungen – Sekundärquellen zu Textdetektoren; für Bilddetektoren liegen uns keine vergleichbar belastbaren Messungen vor, die Aussage zu Falsch-Positiven bei stark bearbeiteten Fotos ist eine Einordnung, keine Messung. · Angaben zu Recht und Bußgeldern sind allgemeine Einordnungen und ersetzen keine Rechtsberatung im Einzelfall.