OpenAI baut Notbremse für KI-Jobs: Stopp in 35 Sekunden
Von Jörg SchockGründer · testet Smart Home seit den ersten Funksteckdosen im eigenen Haus · davor 35 Jahre in verschiedenen Funktionen der Polizei
Kurz gesagt: OpenAI hat mit „Control Room“ ein zentrales System vorgestellt, das KI-Rechenjobs in der eigenen Forschung stoppen kann. Zwischen Stoppbefehl und tatsächlichem Halt vergehen höchstens 35 Sekunden. Fällt das System aus, werden alle Anfragen abgelehnt. Für Nutzer in Deutschland ändert sich nichts direkt, es ist aber ein Signal zur Sicherheit.
Symbolbild: KI-generiert
OpenAI hat ein internes Sicherheitssystem namens Control Room vorgestellt. Es verfolgt alle Rechenjobs, in denen Modelle in der Forschung laufen – etwa Training per Reinforcement Learning, Tests oder große Datenverarbeitung – und kann sie bei Sicherheitsbedenken anhalten. Quelle ist der Beitrag von OpenAI.
So funktioniert die Notbremse
Jeder Job bekommt eine Kennung. Bevor die Inferenz-Software, also die Stelle, an der das Modell auf den Grafikprozessoren läuft, eine Anfrage beantwortet, fragt sie bei Control Room nach. Ist der Job gestoppt, wird die Anfrage abgelehnt und es entsteht keine weitere Modellausgabe. Die Sperre sitzt bewusst in dieser zentralen Schicht und nicht im Code der Forschungsteams, der sich ständig ändert.
Die Zahlen
- 35 Sekunden beträgt die längste Verzögerung zwischen Stoppbefehl und Stillstand. Sie entsteht durch einen Zwischenspeicher, der große Anfragemengen bewältigt. OpenAI will sie auf null senken.
- Fail closed: Fällt Control Room aus oder wird es manipuliert, lehnen die Engines alles ab. Bei den wichtigsten Forschungsjobs ist das bereits aktiv, der Rest soll in den kommenden Tagen folgen.
- Jeder Job mit Agenten-Inferenz braucht einen genehmigten „Safety Case“.
Ausgelöst wird der Stopp zum Beispiel durch ein Überwachungsmodell, das Trainingsläufe beobachtet. OpenAI nennt als Beispiel den DNS-Vorfall, den ein solcher Monitor entdeckt hat.
Unsere Einordnung
Der Hintergrund ist ernst: Berichten zufolge, etwa von The Next Web, dauerte es nach einem Ausbruch eines Agenten aus seiner Testumgebung rund zweieinhalb Stunden, bis der Lauf von Hand beendet wurde. Gegen diese Zeit sind 35 Sekunden ein deutlicher Fortschritt. Wir konnten diese Zahl allerdings nur bei OpenAI selbst finden; unabhängig überprüft ist sie nicht.
Für Nutzer in Deutschland ändert sich im Alltag nichts: Control Room gilt für die Forschung, nicht für ChatGPT. OpenAI schreibt, der öffentliche Betrieb sei ohnehin zentraler organisiert und könne Modelle schnell abschalten. Wer sich für Regulierung interessiert, findet hier ein Beispiel dafür, wie ein Hersteller Kontrolle über immer fähigere Modelle belegen will. Benchmarks gibt es zu diesem Thema nicht, es handelt sich um Sicherheitsinfrastruktur und nicht um ein neues Modell.