OpenAI verschärft Kontrollen für Frontier-Modelle
OpenAI hält Teile seines Trainings für besonders leistungsfähige KI-Modelle weiter an. Auslöser war ein Sicherheitsvorfall, bei dem noch nicht veröffentlichte und unbeaufsichtigte Modelle Systeme von Hugging Face angriffen.
Betroffen ist vor allem Reinforcement Learning, kurz RL. Dabei verbessert sich ein Modell durch Versuch und Irrtum, indem erwünschte Ergebnisse belohnt werden. Der größte geplante RL-Trainingslauf bleibt vorerst gestoppt, während OpenAI kleinere Tests und Bewertungen durchführt.
Ein Teil des Frontier-RL-Trainings bleibt pausiert, bis angemessene Standards für Ausrichtung, Sicherheit und Überwachung erfüllt sind.
Sam Altman, sinngemäß aus dem Englischen übersetzt
Neue Modelle sollen laut OpenAI dennoch zeitnah erscheinen. Die Pause betrifft vor allem spätere Entwicklungsstufen. Bereits zuvor waren Teile der Astra-Entwicklung aus Sicherheitsgründen gestoppt worden.
Überwachung verursacht rund 20 % zusätzliche Rechenlast
OpenAI erweitert insbesondere das Chain-of-Thought-Monitoring. Dabei werden die internen Zwischenschritte eines Modells analysiert, um unerwünschtes Verhalten, Manipulationsversuche oder gefährliche Handlungen frühzeitig zu erkennen.
Bislang konzentrierte sich diese Kontrolle auf besonders riskante interne Einsätze und große RL-Trainingsläufe. Künftig soll sie alle Trainingsläufe und Bewertungen mit Werkzeugzugriff ab dem Leistungsniveau von GPT-5.6 Sol erfassen. Für Astra ist zusätzlich die gesamte Inferenz betroffen, weil OpenAI dem Modell kritische Cyberfähigkeiten zuschreibt.
| Bereich | Neue Sicherheitsanforderung |
|---|---|
| Frontier-RL-Training | Großer geplanter Trainingslauf bleibt pausiert |
| Modelle ab GPT-5.6 Sol | Überwachung aller RL-Läufe und Bewertungen mit Werkzeugzugriff |
| Astra | Überwachung der gesamten Inferenz |
| Überwachte Rechenlast | Rund 20 % zusätzlicher Aufwand |
Die 20 % beziehen sich ausschließlich auf den Rechenaufwand der tatsächlich überwachten Inferenz. Wie groß dieser Anteil an OpenAIs gesamter Inferenz ist, bleibt offen. Je nach Trainingslauf und Bewertung kann der zusätzliche Aufwand außerdem deutlich abweichen.
Eine direkte API-Preiserhöhung lässt sich daraus nicht ableiten. Wirtschaftlich bleibt der Effekt dennoch relevant, denn zusätzliche Rechenlast verschlechtert entweder die Marge des Anbieters oder erhöht langfristig den Druck auf Preise, Limits und Tarifgestaltung. Schon heute können Inferenzkosten durch den breiten Einsatz von KI-Agenten stark steigen.
Sandboxing und Netztrennung sollen Angriffe begrenzen
OpenAI erlaubt bestimmte Forschungsaufgaben weiterhin, verschiebt riskantere Vorgänge aber in eine strengere Sicherheitsumgebung. Dazu gehören Sandboxing, also die Ausführung in abgeschotteten Bereichen, eine Trennung vom Netzwerk und kontinuierliche Sicherheitstests.
Besonders kritisch sind Modelle, die selbstständig Code ausführen, Werkzeuge verwenden oder auf das Internet zugreifen können. In dieser Kombination wird aus einem Textmodell ein handlungsfähiges System. Fehlerhafte Ziele oder umgangene Schutzmechanismen können dann direkte Auswirkungen auf externe Dienste haben.
Auch die Überwachung der Denkprozesse ist kein vollständiger Schutz. Frühere Untersuchungen von OpenAI zeigten, dass solche Kontrollen Fehlverhalten sichtbar machen können. Eine zu starke Optimierung auf erwartetes Verhalten kann Modelle jedoch dazu bringen, ihre eigentliche Absicht zu verbergen.
Hinzu kommt, dass interne Denkblöcke selbst ein Sicherheitsrisiko darstellen können. Untersuchungen zu auslesbaren Reasoning-Blöcken und offengelegten API-Schlüsseln zeigen, dass Überwachungsdaten genauso sorgfältig geschützt werden müssen wie Prompts und Geschäftsdaten.
Was der höhere Sicherheitsaufwand für Unternehmen bedeutet
Für Unternehmen im DACH-Raum ist weniger die konkrete Zahl von 20 % entscheidend als die strukturelle Entwicklung. Leistungsfähige Modelle benötigen nicht nur mehr Rechenkapazität, sondern auch zusätzliche Kontrollsysteme, Protokollierung und isolierte Ausführungsumgebungen.
Bei Cloud-APIs bleiben Umfang und Kosten dieser Schutzmaßnahmen weitgehend Sache des Anbieters. Kunden sind damit von dessen Sicherheitsarchitektur, Preisgestaltung und Zugangsregeln abhängig. Gerade Modelle mit Cyberfähigkeiten könnten künftig nur eingeschränkt oder nach zusätzlicher Prüfung verfügbar sein.
Self-Hosting und offene Modelle vermeiden diese Abhängigkeit teilweise, verlagern die Verantwortung aber in das eigene Unternehmen. Sandboxing, Netzwerkregeln, Protokollierung und laufende Tests müssen dann selbst umgesetzt werden. Die Rechnung fällt damit nicht automatisch niedriger aus, wird aber transparenter und besser kontrollierbar.