OpenAI: Neuer Bild-Scanner und Sperre gegen Kindesmissbrauch
Kurz gesagt: OpenAI hat am 16. November 2026 einen neuen Bildklassifikator gegen Darstellungen sexuellen Kindesmissbrauchs (CSAM) vorgestellt, der auch KI-generierte Bilder erkennen soll. Ausgewählte Unternehmen bekommen ihn kostenlos per API. In ChatGPT wird ein Konto bei entsprechenden Versuchen zur Warnung 24 Stunden gesperrt.
Symbolbild: KI-generiert
OpenAI hat am 16. November 2026 mehrere neue Schutzmaßnahmen gegen sexuellen Kindesmissbrauch im Netz angekündigt. Das berichtet TechCrunch. Im Mittelpunkt stehen ein neuer Bildklassifikator und härtere Reaktionen in ChatGPT selbst.

Was neu ist
Der Klassifikator sucht in Bildern nach visuellen Anzeichen von Missbrauch, auch in Material, das bisher unbekannt ist, und auch bei KI-generierten Bildern. Er vergibt zudem eine Bewertung, damit menschliche Prüfer die schlimmsten Fälle zuerst sehen. Entwickelt wurde er gemeinsam mit dem US-Zentrum für vermisste und ausgebeutete Kinder (NCMEC). Ausgewählte Unternehmen können ihn kostenlos über eine API nutzen; die Tech Coalition und ROOST helfen bei der Verteilung.
Laut TechCrunch zeigte ein früher Test mit Partnern: Der Klassifikator markierte 48 Prozent weniger Bilder, fand aber genauso viele missbräuchliche. Die markierten Bilder waren doppelt so häufig tatsächlich missbräuchlich. Das sind Herstellerangaben, eine unabhängige Prüfung nennt die Meldung nicht.
Was sich in ChatGPT ändert
Wer Anfragen stellt, die Kinder sexualisieren, bekommt einen Warnhinweis und wird auf spezialisierte Hilfsangebote verwiesen. Zusätzlich wird das Konto nach Angaben der Meldung für 24 Stunden gesperrt; bei Wiederholung kann es dauerhaft entfernt werden. Inhalte und Anfragen dieser Art blockiert ChatGPT bereits. Außerdem veröffentlicht OpenAI Leitlinien für Entwickler und stellt Ermittlungsbehörden KI-gestützte Werkzeuge samt Schulung bereit. An den Warntexten waren Protect Children, die Lucy Faithfull Foundation und der Forscher Joel Scanlan von der University of Tasmania beteiligt.
Unsere Einordnung
Für Nutzer in Deutschland ändert sich im Alltag nichts, solange sie sich an die Regeln halten: Der Scanner richtet sich an Plattformen und Behörden, nicht an Privatnutzer. Wichtig ist der Ansatz, nicht nur zu blockieren, sondern Täter vor der Tat abzuschrecken und auf Hilfe zu lenken. Offen bleibt, wie zuverlässig der Klassifikator außerhalb der Partnertests arbeitet und wer in Europa Zugang erhält. Hinweis zur Quellenlage: Die Originalmitteilung von OpenAI konnten wir nicht abrufen, dieser Beitrag stützt sich auf den TechCrunch-Bericht. Benchmarks im Vergleich zu Konkurrenzsystemen gibt es für den Klassifikator bislang nicht, nur die genannten Partnerwerte.