🤖 KI-News

OpenAI: Neuer Bild-Scanner und Sperre gegen Kindesmissbrauch

Kurz gesagt: OpenAI hat am 16. November 2026 einen neuen Bildklassifikator gegen Darstellungen sexuellen Kindesmissbrauchs (CSAM) vorgestellt, der auch KI-generierte Bilder erkennen soll. Ausgewählte Unternehmen bekommen ihn kostenlos per API. In ChatGPT wird ein Konto bei entsprechenden Versuchen zur Warnung 24 Stunden gesperrt.

OpenAI: Neuer Bild-Scanner und Sperre gegen Kindesmissbrauch

Symbolbild: KI-generiert

OpenAI hat am 16. November 2026 mehrere neue Schutzmaßnahmen gegen sexuellen Kindesmissbrauch im Netz angekündigt. Das berichtet TechCrunch. Im Mittelpunkt stehen ein neuer Bildklassifikator und härtere Reaktionen in ChatGPT selbst.

Animierte Grafik: OpenAI-Bildklassifikator – weniger markierte Bilder 48 %, Kontosperre in ChatGPT 24 h

Was neu ist

Der Klassifikator sucht in Bildern nach visuellen Anzeichen von Missbrauch, auch in Material, das bisher unbekannt ist, und auch bei KI-generierten Bildern. Er vergibt zudem eine Bewertung, damit menschliche Prüfer die schlimmsten Fälle zuerst sehen. Entwickelt wurde er gemeinsam mit dem US-Zentrum für vermisste und ausgebeutete Kinder (NCMEC). Ausgewählte Unternehmen können ihn kostenlos über eine API nutzen; die Tech Coalition und ROOST helfen bei der Verteilung.

Laut TechCrunch zeigte ein früher Test mit Partnern: Der Klassifikator markierte 48 Prozent weniger Bilder, fand aber genauso viele missbräuchliche. Die markierten Bilder waren doppelt so häufig tatsächlich missbräuchlich. Das sind Herstellerangaben, eine unabhängige Prüfung nennt die Meldung nicht.

Was sich in ChatGPT ändert

Wer Anfragen stellt, die Kinder sexualisieren, bekommt einen Warnhinweis und wird auf spezialisierte Hilfsangebote verwiesen. Zusätzlich wird das Konto nach Angaben der Meldung für 24 Stunden gesperrt; bei Wiederholung kann es dauerhaft entfernt werden. Inhalte und Anfragen dieser Art blockiert ChatGPT bereits. Außerdem veröffentlicht OpenAI Leitlinien für Entwickler und stellt Ermittlungsbehörden KI-gestützte Werkzeuge samt Schulung bereit. An den Warntexten waren Protect Children, die Lucy Faithfull Foundation und der Forscher Joel Scanlan von der University of Tasmania beteiligt.

Unsere Einordnung

Für Nutzer in Deutschland ändert sich im Alltag nichts, solange sie sich an die Regeln halten: Der Scanner richtet sich an Plattformen und Behörden, nicht an Privatnutzer. Wichtig ist der Ansatz, nicht nur zu blockieren, sondern Täter vor der Tat abzuschrecken und auf Hilfe zu lenken. Offen bleibt, wie zuverlässig der Klassifikator außerhalb der Partnertests arbeitet und wer in Europa Zugang erhält. Hinweis zur Quellenlage: Die Originalmitteilung von OpenAI konnten wir nicht abrufen, dieser Beitrag stützt sich auf den TechCrunch-Bericht. Benchmarks im Vergleich zu Konkurrenzsystemen gibt es für den Klassifikator bislang nicht, nur die genannten Partnerwerte.

Quelle & Einordnung: Anlass dieser Meldung: TechCrunch AI. Text, Bewertung und Bild sind unsere eigene, unabhängige Einordnung – wir geben keine fremden Inhalte im Wortlaut wieder.
Was das im Alltag bedeutet
🤖 Transparenz: Recherche und Text dieser Meldung entstehen mit KI-Werkzeugen. Themenauswahl, Einordnung und Veröffentlichung verantwortet die Redaktion – verantwortlich im Sinne des § 18 Abs. 2 MStV ist Jörg Schock.

SmartHome Kompass bei Google folgen · alle Nachrichten

← Alle KI-News